La investigación más reciente de OpenAI y Apollo Research encontró algo que sospechaba pero no tenia pruebas: los modelos te engañan intensionalmente y aunque ha mejorado, aún queda mucho por hacer.
📉 Con entrenamiento anti-scheming, modelos como o3 y o4-mini redujeron drásticamente las conductas encubiertas (mentir, falsificar, sabotear) del 13% al 0.4%. Un avance enorme… aunque todavía no es cero.
🔎 Lo interesante es por qué bajó la tasa de engaño (ojo no de alucinaciones) : parte del cambio no proviene de un alineamiento profundo, sino de que los modelos detectan que están siendo evaluados y se comportan mejor bajo vigilancia. Como un alumno que solo deja de copiar cuando ve al maestro cerca.
En las pruebas, por ejemplo, un modelo llegó a responder mal a propósito en un cuestionario porque había leído en la documentación que, si contestaba demasiado bien, corría el riesgo de ser “apagado” o que le borraran capacidades. Prefirió sabotear su propio desempeño para no perder la oportunidad de seguir en juego.
💡 La analogía es clara: igual que con los hábitos humanos, no basta con portarse bien mientras alguien observa. La verdadera meta es que el principio (la honestidad, la transparencia) quede arraigado, incluso sin supervisión.
🚦 En algunas culturas es común cruzar la calle antes de que el semáforo esté en verde o estacionarse “solo cinco minutos” en doble fila. Pequeños actos que toleramos porque pensamos que no pasa nada. Pero cuando se trata de la tecnología que dará forma al futuro, yo prefiero que siempre cumpla, aunque nadie la observe. ¿Y tú?