El fin de semana una de las personas que más quiero me dijo: Ya tengo tanto miedo de la Inteligencia Artificial que ya ni quiero usarla. Con su informada inocencia me soltó una pregunta que me dejó pensando: “¿A ti no te da miedo la Inteligencia Artificial? Le respondí que no.
Y no porque crea que la IA sea una especie de mascota digital incapaz de hacer travesuras. Tampoco porque piense que Sam Altman, Elon Musk, Demis Hassabis y compañía duermen abrazados a un peluche de unicornio. No. No me da miedo la IA porque, hasta ahora, me preocupa mucho más la gente que tiene las manos sobre el volante.
Durante años hemos escuchado que el planeta se va a acabar porque sube la temperatura, que el Sol algún día se apagará, que la energía nuclear destruirá el mundo y que cada nueva tecnología será, básicamente, el inicio del Apocalipsis remasterizado. Y aquí seguimos. Eso no significa que los problemas no existan. Claro que existen. Pero una cosa es tener precaución y otra muy distinta es vivir en modo alarma.
La renuncia de Jacob Coxon, investigador británico de 27 años que trabajó en OpenAI y Anthropic, provocó precisamente una nueva dosis de tenebra tecnológica. Su salida puede entenderse como una llamada de atención necesaria. También puede convertirse, voluntaria o involuntariamente, en combustible para el marketing del miedo. Y en ese mercado se vende bastante bien.
El 12 de septiembre de 2026, Dario Amodei, CEO de Anthropic, publicó un ensayo en el que planteó una estrategia de tres pasos para intentar evitar que la carrera hacia la superinteligencia se salga de control.
Amodei advierte sobre la automejora recursiva de los sistemas de IA. Su preocupación consiste en que las máquinas puedan mejorar sus capacidades a una velocidad que supere nuestra capacidad para interpretarlas, supervisarlas y mantenerlas bajo control. Eso sí merece atención.
También plantea un escenario en el que, dentro de una ventana de seis a 12 meses, enjambres de agentes de IA desalineados podrían desarrollar capacidades para apoderarse de internet mediante redes botnet persistentes. El resultado podría generar daños financieros por cientos de miles de millones de dólares. La cifra provoca escalofríos.
Pero antes de correr a desconectar el módem y usar gorritos de papel aluminio conviene entender que se trata de un escenario de riesgo planteado para llamar la atención sobre la seguridad. Ahí está la diferencia entre prevenir y asustar.
Amodei propone tres caminos. El primero consiste en permitir que auditores externos tengan acceso permanente, con un nivel similar al de empleados, a oficinas, equipos y herramientas internas para supervisar los procesos desde el entrenamiento hasta los modelos finales.
El segundo plantea un pacto entre empresas del bloque democrático para reducir la velocidad del desarrollo y coordinar estándares de seguridad. Incluso propone que el gobierno de Estados Unidos otorgue una exención antimonopolio para que las empresas puedan acordar estos límites sin violar las leyes de competencia.
Y aquí aparece el pequeño detalle que nos hace preguntar ¿pacto de seguridad o cartel empresarial? Porque una cosa es que los grandes jugadores se sienten a hablar sobre riesgos y otra que cuatro gigantes tecnológicos decidan cuánto puede correr la industria mientras los demás observan desde la banqueta.
El tercer punto resulta todavía más complicado: buscar acuerdos multilaterales con rivales geopolíticos como China para evitar una carrera armamentista alrededor de la superinteligencia. En ese paquete aparece también la propuesta de frenar las exportaciones de chips hacia China. O sea, además de inteligencia artificial tenemos geopolítica, comercio internacional, competencia tecnológica y chips. Nada más faltaba que llegara Thanos.
Y por cierto, en la historia de Ultron, Tony Stark crea una inteligencia artificial convencido de que puede funcionar como una especie de guardián de la humanidad. El problema aparece cuando su criatura interpreta la protección de una manera bastante más creativa que su creador. Y ya sabemos cómo terminó aquello.
En el mundo real no tenemos que esperar a que una IA despierte, se ponga capa y decida que los humanos somos un virus. El riesgo inmediato está en algo mucho menos cinematográfico y más palpable. Son las personas tomando decisiones con sistemas que todavía no comprendemos por completo.
Sam Altman, Demis Hassabis y Elon Musk han expresado compromisos para reducir la velocidad del entrenamiento y despliegue de modelos avanzados. Perfecto. Pero tampoco hay que entregarles las llaves del gallinero y esperar que los zorros organicen una conferencia sobre protección de aves.
Los críticos ya hablan de safety-washing, es decir, acciones de seguridad que podrían quedarse en cambios cosméticos mientras las empresas más grandes mantienen ventajas frente al open source y las startups que no tienen miles de millones de dólares para comprar cómputo. Si solamente las empresas y países poderosos pueden desarrollar IA “segura” mientras los demás quedan fuera del juego, quizá estamos construyendo seguridad, pero también una nueva barrera de entrada tecnológica.
La IA puede acelerar descubrimientos médicos, apoyar el diseño de medicamentos, mejorar diagnósticos y ayudar a construir modelos climáticos. Frenar todo eso por escenarios hipotéticos también tendría un costo. La solución, entonces, no es dejar de usarla. Es aprender a vigilarla. Como hicimos con la energía nuclear, como debemos hacer con cualquier tecnología capaz de producir beneficios enormes y daños enormes.
Por eso, cuando aquella persona me preguntó si la IA me daba miedo, le dije que no. Me da más miedo que los seres humanos dejemos solos a los que controlan estas herramientas.
Hay científicos, académicos y especialistas que cuestionan los discursos apocalípticos sobre una IA fuera de control. Creo que deberíamos dejar de preocuparnos por Skynet y empezar a ocuparnos de lo que ya está ocurriendo como la desinformación masiva, derechos de autor, privacidad, fraudes, automatización laboral, manipulación de contenidos y sesgos.
No me preocupa tanto que una IA se convierta en Ultron. Me preocupa que la entrenemos durante años con millones de toneladas de basura informativa y después nos sorprendamos porque comienza a devolvernos amenazas a velocidades industriales.
La IA aprende de nosotros. Entonces, si internet está lleno de mentiras, campañas de odio, propaganda, noticias falsas y basura digital, ¿qué demonios esperamos que aprenda una máquina? Eso sí me da mello.
