¿Qué confiar a una máquina inteligente?
Decía estos días una ingeniera de satélites en un programa de radio que para decisiones importantes confían en una mano humana. Por ejemplo, cuando un aparato va a pasar cerca de otro satélite, hay una comunicación manual, se llaman dos personas, porque allá arriba no hay código de circulación. Usan la inteligencia artificial para hacer cálculos y predicciones de posibles choques, pero los acercamientos los hacen humanos. Igual que los pilotos de avión, que son los que aterrizan y despegan, aunque exista un piloto automático.
La pregunta de qué tareas confiar a una máquina inteligente y cuáles no introduce una perspectiva nueva que, al menos a mí, me ayuda a desbloquear dos visiones irreconciliables actuales: o IA para todo (utopía futurista) o IA para nada (distopía y amenaza vital). Y también a poner en contexto una paradoja: en apenas cinco años ha habido diversas llamadas a “frenar” el avance de los investigadores y sus brazos comerciales, llámense principalmente OpenAI y Anthropic, realizadas como fuego amigo, desde las propias compañías, y no desde el lado enemigo a la tecnología.
Dario Amodei (Anthropic) debe estar durmiendo poco estas semanas. A lo mejor se está acordando del arrepentimiento tardío de Oppenheimer y ha decidido levantar la mano. Acaba de reconoceque un riesgo real que se daría en un marco temporal cercano, de un par de años, no de décadas, de consecuencias fatales para la existencia humana.
Para entender a qué se refiere con el paso acelerado al que están sucediendo las cosas en relación con la capacidad de la tecnología de la IA basta echar un vistazo a su ensayo “Machines of loving grace” (“Maquinas de divina gracia”) escrito hace año y medio, en octubre de 2024, publicado en su página web, que ocupa unas cincuenta páginas. Un título que tiene una referencia anterior en un poeta americano de los malditos que aprovechando una estancia en un instituto tecnológico presentó una utopía en la que las máquinas trabajaban por el bien del hombre. Esto último es justamente el subtítulo del primero de los ensayos de Amodei. Sólo que a diferencia de aquél los escenarios de Amodei son futuros bastante plausibles y ciertamente atractivos.
No tendríamos que esperar mucho dijo. Se podrían tener ya a principios de 2026. En enero de 2026 lo que sacó fue otro ensayo. Este lo tituló “The adolescence of technology” (“La adolescencia de la tecnología”) con un subtítulo más crítico y que pone en guardia de los riesgos en una transición no consciente, “Confrontación y solución a los riesgos de la IA poderosa”. Aquí ya se habla sin ambages de sobrevivencia de la especie humana y de la dificultad actual de manejar aspectos sociales o políticos.
El reloj se ha debido de acelerar una vez más. Han pasado 8 meses y su mensaje de esta última semana ha tenido una repercusión global. Hasta la propia ONU se ha pronunciado alertando de los riesgos para los derechos humanos.
En fin, en esa estamos.
