Ahora que tanto se habla de equipos de agentes de IA trabajando en paralelo, nos topamos con problemas conocidos. Muy conocidos.
Mi padre siempre dice que tenga cuidado con delegar de mas. No habla de inteligencia artificial. Habla de trabajo, de equipos, de no perder el pulso de lo que importa. Y como casi siempre, tiene razon.
Les traigo un articulo de Google DeepMind que toca el borde entre etica y filosofia. Los problemas de la IA cada vez son mas humanos.
Cuando un gerente delega, tiene que decidir a quien, cuanta libertad da, como monitorea, y quien responde si algo sale mal. Los autores argumentan que los agentes de IA enfrentan los mismos dilemas. Y que las soluciones actuales - heuristicas, es decir reglas simples y atajos del tipo “si pasa X, haz Y” -, no alcanzan para un mundo donde millones de agentes se coordinaran en tareas con consecuencias reales.
Delegar no es repartir tareas. Es transferir autoridad, responsabilidad y confianza. Sea entre personas o maquinas, es algo muy dificil.
Tres ideas del paper para todo lider:
- El copiloto que no habla
En aviacion, cuando la jerarquia entre piloto y copiloto es muy grande, el copiloto no cuestiona errores. Ha causado accidentes. Algo similar pasa con agentes de IA: por complacencia, un agente subordinado acepta instrucciones problematicas sin cuestionarlas. En cadenas largas de delegacion, los errores se propagan en silencio.
Cuantas veces nuestros equipos aceptan sin cuestionar, no por estar de acuerdo, sino porque la distancia de autoridad no les permite hablar?
- La seguridad como privilegio
Si la verificacion y el rigor son costosos, solo quienes puedan pagarlos los tendran. A medida que las empresas adoptan agentes de IA, quien asegura que una pyme tenga los mismos estandares que una corporacion? Si la seguridad se vuelve un bien de lujo, tenemos un problema serio.
- Desaprender haciendo menos
Si delegamos sistematicamente lo rutinario a la IA, los humanos pierden las habilidades que se construyen haciendo ese trabajo. La paradoja: cuando ocurre una falla critica, las personas que deberian resolverla ya no tienen experiencia para hacerlo.
Los autores proponen algo contraintuitivo: que los sistemas asignen a humanos tareas que la IA haria mejor, solo para mantener habilidades vivas. La aviacion lo documento hace decadas. Aplica hoy a cualquier organizacion.
Estamos pasando de un mundo donde la IA responde preguntas a uno donde coordina trabajo. Y coordinar, delegar, supervisar, rendir cuentas… es un problema humano!
La proxima frontera de la IA es la gobernanza. Y ahi los lideres tienen que aportar mas que los ingenieros.
Mi papa tiene razon. Delegar bien es de lo mas dificil que hay. Ahora las maquinas tambien lo estan descubriendo.