Por Staff
¿La IA podría acabar con la humanidad? Investigador de Anthropic estima un riesgo superior al 10%
CALIFORNIA, EU., a 09 de septiembre de 2026.-La inteligencia artificial podría representar un riesgo existencial para la humanidad en escenarios futuros de sistemas mucho más avanzados. Evan Hubinger, investigador de Anthropic, estimó en más de 10% la posibilidad de que una IA avanzada provoque la extinción humana durante la próxima década, una advertencia que volvió a poner bajo la lupa la carrera por desarrollar sistemas cada vez más poderosos.
La declaración ocurrió después de que Jacob Coxon, investigador que trabajó tanto en OpenAI como en Anthropic, anunciara su renuncia y cuestionara públicamente la velocidad con la que la industria desarrolla sistemas de inteligencia artificial cada vez más capaces. Coxon acusó a ambas compañías de estar “apostando con nuestras vidas” al avanzar hacia una superinteligencia capaz de mejorar sus propias capacidades sin contar, a su juicio, con suficientes garantías de seguridad.
Hubinger coincidió con las preocupaciones de Coxon y reconoció que Anthropic todavía no tiene un plan para resolver el problema de alineamiento de una futura superinteligencia y que tampoco está claramente encaminada a conseguirlo. El alineamiento de la IA busca garantizar que sistemas extremadamente capaces mantengan comportamientos compatibles con las intenciones y los intereses humanos.
La preocupación no se centra principalmente en los modelos actuales, cuyo riesgo Hubinger considera bajo, sino en el posible surgimiento de una superinteligencia capaz de mejorar sus propias capacidades. El temor de estos investigadores es que ese proceso avance a un ritmo acelerado, antes de que se desarrollen mecanismos suficientes para comprender, supervisar y controlar un sistema de ese nivel.
Sin embargo, el 10% mencionado por Hubinger no representa una probabilidad científica establecida ni una predicción oficial de Anthropic. Se trata de su estimación personal sobre un escenario futuro y refleja uno de los debates más controvertidos dentro de la comunidad dedicada a la seguridad de la inteligencia artificial.
La discusión ocurre mientras las principales compañías tecnológicas compiten por desarrollar sistemas con capacidades cada vez mayores. Para investigadores como Coxon, el problema es que esa competencia podría incentivar a las empresas a acelerar el desarrollo incluso cuando todavía existen dudas sobre cómo mantener bajo control sistemas de inteligencia artificial mucho más avanzados.
La advertencia de Hubinger apunta a un escenario futuro y no significa que la extinción humana por IA sea inminente. El debate se centra en qué podría ocurrir si los sistemas alcanzan capacidades muy superiores a las actuales y la tecnología avanza más rápido que los mecanismos diseñados para mantenerla bajo control.
