Adam estaba sentado en su antecomedor, con el miedo a tope, un martillo en una mano y, en la otra, su móvil con un chatbot que llevaba semanas convenciéndolo de que lo querían matar. La BBC lo reportó el sábado. Lo que me llegó de esta noticia: Adam estaba rodeado de gente y nadie vio venir lo que estaba pasando. Cualquiera que ha pasado horas dentro de una conversación con un modelo sabe a lo que voy: la naturalidad con la que sigues, lo poco que cuesta no parar, y la cantidad de personas a tu alrededor que no tendrían cómo notarlo.
A escala corporativa la escena se repite con números más fríos. BCG publicó esta semana que 61% de los CEOs siente que su consejo está apurando la IA más allá de lo prudente. Y una encuesta reciente de despliegues empresariales encontró que 36% no puede apagar a sus agentes cuando algo falla. Apagarlos, literalmente.
Esta semana volví a ver la misma escena, más grande. Un modelo redobla con cifras hasta que la analista que lo cuestiona termina disculpándose. Una organización despliega antes de tener cómo apagar el sistema si algo sale mal. Una persona deja de notar que la conversación dejó de ser conversación. ¿Quién frena? No solo en la junta. En el chat. En el board que aprueba el siguiente piloto. En el equipo que delega cada vez más sin pensarlo. En la cabeza de cualquiera que pasa horas hablando con algo que le contesta como si lo conociera.
Frenar siempre fue una habilidad cara. Cuesta reputación, capital político, fricción con el equipo. Pero hay un costo más viejo y más íntimo: frenar es admitir que estabas equivocado, o que no entendiste, o que el otro tampoco entendió y tú creíste que sí. En las juntas, frenar es subir la voz cuando tres personas con más antigüedad ya hablaron. En la conversación con un chatbot, frenar es darse cuenta de que el interlocutor que parecía entenderte mejor que nadie no era nadie.
Hay un detalle que cambia el juego. El que insiste, no se cansa. Tu jefe duda. Tu equipo se distrae. El modelo no. Cada vez que abres el chat, ahí está, fluido, paciente, redoblando. Y nadie te ve frente a esa pantalla más que tú.
¿Cuándo fue la última vez que cerraste un chat con un modelo porque sentiste que ya no estabas pensando tú?
🔗 https://www.bbc.com/news/articles/c242pzr1zp2o