“ChatGPT podría perturbar la economía”

¿Qué está cambiando en ChatGPT?
Amelia Cordier: “Hay cosas innovadoras. Todavía es una evolución bastante impresionante del trabajo existente. Es posible porque las personas detrás de esto tienen mucho dinero, poder de cómputo y muchos datos, por lo que obviamente eso ayuda. Sobre todo, lo que es cambiante e interesante es la escala de aplicabilidad de este modelo. Previamente, creamos un modelo de lenguaje para traducción, preguntas/respuestas. Ahí salió Open IA con algo que se abre a casi todo el mundo con una API no demasiado complicada y a los que se les puede preguntar de todo.

Este artículo forma parte de nuestro dossier sobre el impacto de ChatGPT en los círculos científicos y académicos de Lyon.

Lo que cuestiona es la escala, el espectro de impacto. Puede ayudar a un periodista a escribir un artículo, a los estudiantes a escribir su ensayo, a un publicista a encontrar textos atractivos oa mí para enviar mis tarjetas de feliz año nuevo a mis amigos. El material es una locura.

Ya que nuestra última reunión En febrero de 2019, el panorama de la Inteligencia Artificial cambió drásticamente…
Es cierto que las cosas se mueven muy rápido, incluso en temas en los que somos un poco escépticos de que las cosas se puedan mover tan rápido. Incluye comprensión del lenguaje natural y fragmentos largos de texto. Se desarrolló rápidamente, especialmente gracias al modelo. transformadores en redes neuronales que permitan aprender y enriquecer los modelos existentes. Antes hacíamos todo desde cero, ahora podemos capacitarlos en modelos generales y luego especializarlos.

¿Dónde está el límite?
Hay límites, pero se están excediendo cada semana hasta ahora. La limitación está en los usos. ChatGPT ahora solo responde a sus preguntas sobre la base en la que se entrenó, es decir, un estado del mundo en un momento particular. Pero nada le impide, al igual que con ciertas aplicaciones, conectar una parte de ChatGPT y rastrear la web al mismo tiempo. Depende del uso inteligente que tengamos en mente para él. Ahora el límite está ahí. Hay cosas graciosas y otras potencialmente peligrosas. También podemos divertirnos escribiendo obituarios de personas que no están muertas y publicándolos en masa para crear desinformación.

¿Se puede utilizar ChatGPT con fines de desinformación?
Esa es la gran pregunta. Puede. Lo que sea depende de lo que la gente haga con él. Siempre que se trate de escribir texto en una página web con una respuesta, el potencial de daño es limitado. Pero sigue siendo un producto y la gente puede comprarlo y hacer otras cosas con él. El único límite es la imaginación.

Porque detrás está Microsoft que ha invertido creo que más de mil millones. Y Microsoft ya habla de estrenar su nuevo buscador. Puede tener efectos muy beneficiosos o dañar una economía. ¿Qué haría ChatGPT en lugar de Google? Podría permitirle a mi abuela usar Internet, democratizar la solicitud de voz.

¿Podría ChatGPT eventualmente ser influenciado por las personas que lo preguntan y, por lo tanto, sufrir el mismo sesgo?
Hasta donde yo sé, él no aprende de los usuarios, por lo que si algunos son racistas con él para darle una propina de una forma u otra, hay poco riesgo de este lado. Por otro lado, ¿qué pasa con las iteraciones futuras de ChatGPT, que inevitablemente inyectarán nuevos datos? Surge un sesgo interesante.

Porque, ¿qué hace ChatGPT? Crea contenido textual que parece humano y se puede colocar en Internet. Entonces, si lo reentrenamos desde un Internet parcialmente entrenado por ChatGPT y entrenamos ChatGPT con su propia producción, llegaremos a un sesgo de confirmación donde Internet solo generará contenido escrito por una máquina para entrenar en las máquinas, etc.

Podemos pensar que nunca llegaremos allí. Otro riesgo potencial proviene de uno de los principales problemas asociados con el lenguaje: la trazabilidad de los datos. Si le preguntas a Google cuál es la fecha de nacimiento de De Gaulle, te llevará a la página de Wikipedia. Como persona, puede verificar la fuente. Pero ChatGPT solo dará la fecha sin decir dónde se encontró. No garantiza que lo que dice sea cierto.

Sin mencionar que puede hacer preguntas más abiertas, con contenido generativo automático como respuesta sin ninguna intención en particular. Destaca los problemas que tenemos con la IA en general. Si ChatGPT se vuelve tan bueno y llegamos a una situación en la que ya no podemos distinguir a la persona de la máquina, surgirá la pregunta de cómo verificar la información.

¿Deben los legisladores tratar el tema?
Pone las preguntas que debemos hacernos a nosotros mismos en una escala diferente. Muchas personas han estado diciendo esto durante años, hace que la discusión sea más urgente. Desde 2017, hemos estado entusiasmados con la IA cuando antes era necesario hacerlo, pero aquí, ChatGPT está afectando a tantas personas de una manera concreta y comprensible… Se dice que la IA cambiará la medicina, la industria, pero estos temas no son muy atractivos para el público en general.

Ahora, ChatGPT acelera el debate. En Europa todo el mundo está tratando de legislar, pero es un tema realmente complicado. Esta es la primera vez en la historia de la humanidad que una máquina tiene el poder de tomar decisiones y dictar el mundo entero en una escala desconocida hasta ahora. La velocidad de la ley es diferente a la de los investigadores y empresas de IA en este momento.

Sin embargo, limitar el desarrollo de la IA también significaría la pérdida de competencia internacional, especialmente en Estados Unidos y China, se pondría en riesgo. »