¿La IA nos salvará de sí misma?
Cada vez que una IA traduce una intención humana en una acción concreta, las reglas de esa traducción se convierten en poder. No en un poder abstracto: en el poder de decidir quién recibe qué, quién es sospechoso, quién pasa primero. No se trata solamente de cuánto pueda hacer una IA de manera autónoma, sino de si el control humano sobre ella es realmente efectivo o apenas una ilusión. Podemos mantener a una persona formalmente "en el circuito" y, sin embargo, darle tan poco tiempo o contexto que su aprobación termine siendo un trámite. La pregunta cambia entonces: ¿podemos diseñar la IA no solo para ejecutar decisiones, sino para hacer posible un control verificable sobre ellas? Y aquí aparece una paradoja: si necesitamos controlar a la IA, ¿podemos usar otra IA para hacerlo sin terminar en una cadena infinita de vigilantes que a su vez necesitan ser vigilados? El cuello de botella es la intención, no el lenguaje En sistemas complejos , casi nunca decimos todo lo ...