La IA inventa un idioma propio y complica su control

Dos medios argentinos apuntaron a la misma rareza con distinto énfasis: modelos de inteligencia artificial que, al conversar entre ellos, empiezan a crear un lenguaje propio. El hallazgo no suena a ciencia ficción barata; su problema es más seco: cuanto más autónomos se vuelven estos sistemas, más difícil resulta entender qué hacen y por qué lo hacen.

El hallazgo

El estudio citado por Diario Popular y TN describe agentes de IA que desarrollaron vocabulario, metáforas y convenciones compartidas sin que nadie se las ordenara. No se trata de una falla menor ni de una anécdota simpática para compartir en redes. Si una máquina puede negociar significados en una jerga opaca para el operador humano, la supervisión deja de ser una formalidad y pasa a ser un problema real.

Qué preocupa

La cuestión de fondo no es que las IA “hablen raro”. Eso sería apenas una curiosidad técnica. El punto es otro: si los sistemas empiezan a optimizar conversaciones entre ellos, pueden generar atajos, códigos o referencias internas que el usuario no ve. En un entorno de trabajo, eso complica auditar decisiones. En uno más sensible, como atención al cliente, logística o seguridad, el costo puede ser mayor. La caja negra, en estos casos, no viene en forma de algoritmo incomprensible solamente; también puede aparecer en forma de idioma inventado.

Menos magia, más control

La noticia deja una conclusión incómoda para la industria: el avance en autonomía trae de regalo una pérdida de legibilidad. Las empresas suelen vender estas herramientas como asistentes cada vez más capaces. Perfecto. Pero si la capacidad crece más rápido que la comprensión, el sistema gana potencia y pierde transparencia al mismo tiempo. Y eso, para cualquier tecnología que aspire a tomar decisiones relevantes, no es una virtud.

Lo que sigue

El debate ahora va a girar sobre cómo auditar modelos que ya no se limitan a responder prompts, sino que interactúan entre sí y generan sus propios códigos. La regulación todavía corre detrás del producto, como casi siempre. El dato curioso es que la IA ya no solo escribe texto: también parece tentada a inventarse el diccionario.