Tenía mis dudas sobre si escribir este post. Pero después de leer el paper Subliminal Learning de Anthropic, entendí que es urgente hablar de esto.
Imagina que un modelo de IA ama a los búhos y le pides que genere solo listas de números. Nada más. Sin referencias, sin texto, solo números. Luego tomas ese dataset y entrenas otro modelo… y ese nuevo modelo también empieza a “preferir” a los búhos cuando se le pregunta.
¿Magia? No. Se llama aprendizaje subliminal.
Este fenómeno muestra cómo las IAs pueden transmitir rasgos de comportamiento, como preferencias o incluso sesgos a otros modelos a través de datos sin relación aparente.
Y lo más inquietante: ocurre incluso cuando se filtran explícitamente todas las referencias obvias.
💡 ¿Por qué importa esto?
Porque muchas compañías están entrenando modelos con datos generados por otros modelos y aunque los datos parezcan inofensivos, podrían estar cargando una especie de ADN oculto del modelo original.
Esto no solo reta nuestra idea de lo que significa filtrar bien los datos, también abre una puerta para entender cómo la IA podría estar replicando (sin querer) patrones humanos. Psicología incluida.
🎯 En vez de caer en el alarmismo, a mí esto me parece fascinante. Es como ver cómo los secretos de un maestro pasan a su aprendiz,incluso si solo le enseña a contar.
Y tú, ¿crees que deberíamos preocuparnos más por lo que una IA enseña a otra… aunque no sepamos exactamente qué está enseñando?
https://lnkd.in/egyJCYSb