ARTDEPARTMENT
ARTDEPARTMENT
La inteligencia fabricado ha transformado muchos ámbitos de la ciencia y la tecnología, pero pocos han sentido su impacto tan directamente como la gramática computacional, especialmente el radio conocida como procesamiento del lenguaje natural (NLP, por sus siglas en inglés).
Este campo, que se dedica a hacer comprensible el lengua humano para las máquinas, vivió una auténtica revolución —y crisis existencial— tras el divulgación de modelos como GPT-3 y, especialmente, ChatGPT.
Un arquetipo irrefutable, según el filósofo Thomas Kuhn, es un conjunto de prácticas, teorías y métodos compartidos que definen una disciplina científica en un momento cedido. Una "revolución científica" ocurre cuando ese entorno se vuelve insostenible y es reemplazado por otro completamente diverso.
En el campo del procesamiento del lengua natural (PLN), el arquetipo dominante durante décadas fue el enfoque basado en reglas lingüísticas, seguido por el estudios obligatorio supervisado, que requería grandes cantidades de datos etiquetados y modelos específicos para cada tarea (traducción cibernética, investigación de sentimiento, procedencia de entidades, etc.).
La arribada de los LLMs trastocó radicalmente este enfoque.
En 2017, Google publicó un renombrado paper culto que introdujo el maniquí 'transformer'. Aunque en su momento pareció solo una innovación más en el campo de la IA, pronto se convertiría en el fundamento de los grandes modelos de lengua (LLMs, por sus siglas en inglés).
En 2018, el modelo BERT, basado en esta nueva tecnología, revolucionó el campo con resultados sorprendentes en tareas lingüísticas. Esto desató la señal 'BERTología', una fiebre de publicaciones y mejoras incrementales que convirtieron a los benchmarks en el nuevo campo de batalla. La esencia ya no estaba en nuevas ideas, sino en medrar: más datos, más parámetros, más potencia.
De modo que la publicación de GPT-3 en 2020 marcó un antaño y un luego. Con más de 100 veces la capacidad de su predecesor, mostraba habilidades sorprendentes, desde gestar texto coherente hasta resolver tareas con solo instrucciones en lengua natural.
Algunos investigadores, como Christopher Callison-Burch, sintieron que ahora todos sus primaveras de trabajo podían ser replicados por GPT-3 en minutos.
Pero esta capacidad trajo consigo una pregunta fundamental: ¿estos modelos entienden lo que dicen? Emily Bender y Alexander Koller propusieron el famoso 'test del pulpo', argumentando que un maniquí que solo imita patrones no puede entender el significado. El debate se polarizó y dividió al campo entre “pro-LLM” y escépticos.
El 30 de noviembre de 2022, OpenAI lanzó ChatGPT. Su impacto fue inmediato y estupendo. En cuestión de días, los investigadores empezaron a darse cuenta de que muchas de las tareas en las que trabajaban habían quedado obsoletas, y algunos estudiantes de doctorado se vieron obligados a cambiar el tema de sus parecer.
Y en el EMNLP, uno de los principales congresos de este campo, hubo que dijo en poco la pregunta que muchos se hacían:
"¿Será esta la última conferencia de NLP?".
Sin confiscación, con la popularización de ChatGPT llegó asimismo una avalancha mediática: unos investigadores que antaño hablaban solo en círculos académicos pasaron a ser entrevistados en televisión o citados en debates legislativos.
Mientras tanto, la comunidad científica se fragmentaba: donde algunos veían los LLM como una utensilio útil, otros, en cambio, los veían como una amenaza a los principios de la investigación reproducible.
A la par, surgieron iniciativas para crear modelos abiertos, como OLMo de AI2, en respuesta al dominio de gigantes como OpenAI o Google. Sin confiscación, la diferencia en posibles dejaba claro que el ámbito culto ya no era el principal motor del progreso en esta ciencia: el mejora de LLMs ha estado liderado no por instituciones académicas, sino por grandes empresas tecnológicas como OpenAI, Google DeepMind o Anthropic.
Hoy, muchos investigadores se definen como estudiosos de los LLMs, más que estudiosos del lengua mediante herramientas computacionales. Algunos reconocen que su trabajo se ha reorientado por completo: ahora se manejo de entender a los modelos mismos, no solo el lengua humano.
Otros han tomado el papel de críticos, explorando las limitaciones de los LLM: su equivocación de comprensión profunda, su propensión a desbarrar y su dependencia de datos históricos.
"Leo asiduamente a personas de uno y otro bandos. Lo natural es suscribirte a boletines de Substack para ver el costado de los lingüistas enfadados, y meterte en Twitter para ver el costado a privanza de medrar los modelos".
Las opiniones difieren. Algunos lo ven lo ocurrido en estos últimos primaveras como un punto de inflexión total, otros no. Lo cierto es que muchas preguntas que antaño se consideraban centrales en NLP se han pasado desplazadas del foco de las principales investigaciones. En cualquier caso, aceptar que estamos frente a un cambio de arquetipo no significa responsabilizarse que el maniquí presente sea el definitivo...
Vía | QuantaMagazine
Imagen | Marcos Merino mediante IA
En Genbeta | Google revolucionó la IA hace ocho primaveras con la tecnología que haría posible ChatGPT. Con 'Titans' quiere retornar a cambiarlo todo
Compartir este artículo
Consultoria Personalizada
¡Si aun no tienes presencia en internet o
necesitas ayuda con tus proyectos, por favor, escribenos!
En ARTDEPARTMENT nos especializamos en brindar soluciones para que tu negocio, empresa o proyecto sea visible en internet.