¿Quién es David Mayer? La curiosa pregunta que "cuelga" a ChatGPT

Durante las últimas horas se produjo un extraño suceso vinculado al ChatGPT, luego de que algunos usuarios se percataran de que la popular aplicación de chatbot impulsada por inteligencia artificial se negara a responder cuando se le preguntaba "Quién es David Mayer".

Los internautas descubrieron que si se hacía esa consulta, la aplicación dejaba de funcionar, primero no respondía y finalmente se limitaba a señalar "Parece que algo salió mal" o en inglés "I'm unable to produce a responde" (No puedo producir una respuesta).

Lo curioso es que modificando apenas una letra, entonces respondía sobre el mismo Mayer sin problemas... Quienes descubrieron esa extraña "anomalía" del sistema, alimentando los misterios sobre la IA, empezaron entonces a indagar quién es el misterioso personaje sobre el que la herramienta de Inteligencia Artificial se negaba a proporcionar información y la primera asociación que realizaron fue con David Mayer de Rothschild.

Se trata, en el caso de David Mayer de Rothschild, de un multimillonario inglés involucrado en causas ambientalistas y a quien se vinculó sentimentalmente con la actriz Angelina Jolie. De todas formas, lo más insólito del caso es que si ChatGPT le ponías ese nombre completo, contestaba sin problemas, lo que indica que no había bloqueos en ese caso sobre el tal David Mayer.

El investigador, doctor en Humanidades y Master en Media Tech por el Instituto de Tecnología de Massachusetts (MIT), Martin Hadis, intentó explicar lo ocurrido: "La mera generación de la representación interna de 'David Mayer' lo tildó. No fue ni una persona concreta ni un pedido de info".

"Varias personas al leer esto se preguntan 'quién es David Mayer'. Este es un problema clave en el uso de la IA: analizar sus reacciones en términos humanos. Si a cualquiera de nosotros un nombre nos lleva a cortar una conversación, lo más probable es que se deba a nuestras emociones o conceptos de la persona que lleva ese nombre. Pero ChatGPT, sobra decirlo, no es una persona y la manera en que procesa datos es muy diferente a la nuestra", consideró.

El experto señaló en su cuenta de X que "es perfectamente posible que el problema que le causa 'David Mayer' ocurra incluso antes de que lo detecte como un nombre, y mucho antes aún de que lo asocie con alguien en particular".

"Sería posible, por ejemplo, que la 'chiripiorca' en cuestión la cause algún vericueto de sus redes neuronales en las que las primeras tres letras de 'Mayer' le hayan quedado instanciadas como el token de un mes", conjeturó, y se comprobó que, al contrario, si se coloca "David de Rothschild" en lugar de "David Mayer", la aplicación no tiene ningún inconveniente para ofrecer información sobre él. Tampoco si se tipea David Meyer, con error en la e, devuelve inmediatamente información sobre Mayer sin problemas.

De esta forma, el experto explicó que es un problema que excede el lenguaje humano y que el sistema realmente no tiene problemas en hablar de David Mayer de Rothschild, sino en referirse a él como David Mayer a secas. No obstante, aclaró también que, probablemente, el soporte técnico de la aplicación ya esté trabajando en solucionar el caso.

¿La IA muestra signos de estancamiento?

Es un comentario que corre por algunos lugares de Silicon Valley: los avances de la Inteligencia Artificial (IA), en su camino hasta llegar al nivel del ser humano, como repiten los gurúes de esta tecnología, parece que se están desacelerando.

Desde su deslumbrante lanzamiento hace dos años, los especialistas en IA afirman que las capacidades de tecnologías como ChatGPT se acelerarán de manera exponencial a medida que se les sumen datos para mejorar su entrenamiento y más chipas para aumentar su potencia de cálculo.

El razonamiento es simple; más datos, más chips, y la Inteligencia Artificial General (AGI) llegará a igualar o superar la capacidad humana.

Los avances han sido tan rápidos que hasta el mismísimo Elon Musk, uno de los precursores de la IA, pidió a la Justicia una moratoria en el desarrollo temiendo sus alcances.

Las gigantes tecno, incluida la del propio Musk, siguieron por supuesto gastando decenas de miles de millones de dólares para no quedarse atrás en la carrera. Y así OpenAI, la empresa creadora de ChatGPT con el apoyo de Microsoft, recaudó recientemente 6.600 millones de dólares para financiar nuevos avances.

Incluso xAI, la empresa de IA de Musk, busca inversores que paguen los 6.000 millones de dólares necesarios para comprar otros 100.000 chips de Nvidia, el fabricante de componentes necesarios para el desarrollo de la IA.

Pero no todo es una cuestión de inversiones, parece que el camino hacia la AGI está lleno de obstáculos.

Es que expertos del sector empiezan a darse cuenta de que los grandes modelos lingüísticos (LLM) no aumentan a la velocidad esperada aunque se les alimente con más potencia y datos.

Así a pesar de las enormes inversiones, las mejoras de esta tecnología muestran signos de estancamiento.

“Los valores que alcanzan en los mercados empresas "como OpenAI y Microsoft se basan en gran medida en la idea de que los LLM se convertirán en inteligencia artificial general con un escalado continuo", le dijo Gary Marcus, experto y crítico de la IA, a la Agencia AFP. Pero aclaró: "eso no es más que una fantasía".