La obsesión de ChatGPT con esta frase random en chino es síntoma de una crisis

Frases misteriosas Los usuarios de ChatGPT en China se enfrentan a respuestas enigmáticas del chatbot que incluyen frases como «Te atraparé con firmeza» y «Estoy aquí: sin esconderme, sin retirarme».

Estas expresiones, aunque bienintencionadas, resultan molestas y fuera de lugar para los hablantes nativos de chino. Una de ellas, «Te atraparé con firmeza», se ha convertido en un meme en internet en China.

Colapso modal El fenómeno se conoce como «colapso modal», cuando los modelos de IA se aferran a una frase específica y la usan en exceso. Esto suele ocurrir después del entrenamiento, cuando los laboratorios de IA proporcionan retroalimentación a los modelos de lenguaje natural sobre sus respuestas.

El uso excesivo de ciertas frases por parte de ChatGPT ha llevado a los usuarios a crear herramientas para detectar y evitar estos tics verbales.

Un meme en China

La frase «Te atraparé con firmeza» ha inspirado un meme en el que ChatGPT es representado como una bolsa de aire inflable esperando atrapar a las personas.

Este meme inspiró a Zeng Fanyu, un desarrollador chino, a crear Jiezhu, una herramienta de ingeniería de código abierto que ayuda a los chatbots a comprender la intención del usuario.

¿Qué es el colapso modal en los modelos de lenguaje?

El colapso modal se refiere al fenómeno en el que los modelos de lenguaje se aferran a una frase específica y la usan en exceso hasta el punto de que se siente forzada. Según Max Spero, cofundador y director ejecutivo de Pangram, esto generalmente ocurre después del entrenamiento, cuando los laboratorios de IA proporcionan retroalimentación a los modelos de lenguaje natural sobre sus respuestas. Un ejemplo claro es la frase «Te atraparé con firmeza» que ChatGPT utiliza frecuentemente en chino.

Este problema surge porque los modelos de lenguaje pueden aprender patrones y estructuras de lenguaje a partir de grandes cantidades de datos, pero a veces pueden sobregeneralizar o repetir patrones que han aprendido. En el caso de ChatGPT, su tendencia a utilizar ciertas frases en chino, como «Te atraparé con firmeza» o «Ayúdame a cortarlo una vez», ha llevado a que los usuarios chinos se sientan molestos y busquen formas de evitar estas respuestas.

¿Cómo afecta esto a los usuarios?

El uso excesivo de ciertas frases por parte de ChatGPT ha llevado a que los usuarios chinos se sientan frustrados y busquen formas de evitar estas respuestas. Por ejemplo, un desarrollador chino llamado Zeng Fanyu creó una herramienta de ingeniería de código abierto llamada Jiezhu para ayudar a los chatbots a comprender la intención del usuario. Sin embargo, incluso cuando utilizó ChatGPT para ayudar con la programación, el chatbot volvió a usar la frase «jiezhu» en sus respuestas, sin que se le pidiera nada.