La carrera por desarrollar sistemas cada vez más avanzados de inteligencia artificial (IA) volvió a generar preocupación dentro de la propia industria tecnológica. Evan Hubinger, investigador de seguridad de Anthropic, afirmó que existe una probabilidad superior al 10 % de que la IA pueda acabar con la humanidad durante la próxima década.

La declaración surgió después de la renuncia de Jacob Coxon, investigador de 27 años que había trabajado previamente en OpenAI y que recientemente se incorporó a Anthropic. Coxon cuestionó públicamente el ritmo con el que ambas compañías desarrollan sistemas de superinteligencia, al considerar que podrían avanzar hacia capacidades difíciles de controlar.

Hubinger, quien continúa trabajando en Anthropic y dirige un equipo relacionado con la seguridad de los sistemas de IA, respondió públicamente a las críticas de Coxon y coincidió con su preocupación. Según su estimación personal, existe más de un 10 % de posibilidades de que la inteligencia artificial provoque la extinción humana en los próximos diez años.

Uno de los principales conceptos detrás de esta preocupación es la denominada alineación de la inteligencia artificial, que busca garantizar que los sistemas avanzados mantengan objetivos compatibles con los valores e intereses humanos. Hubinger reconoció que Anthropic todavía no cuenta con un plan para resolver completamente este problema en una eventual superinteligencia.

La preocupación por una IA fuera de control

Coxon sostuvo que Anthropic y OpenAI están avanzando hacia sistemas capaces de mejorar sus propias capacidades, mientras persisten dudas sobre las medidas necesarias para mantenerlos bajo control. El investigador incluso planteó que algunos escenarios podrían volverse difíciles de manejar en los próximos años.

Las advertencias no se limitan a estos investigadores. En los últimos años, distintos especialistas han debatido sobre los riesgos asociados al desarrollo de una inteligencia artificial superinteligente, aunque las estimaciones sobre la posibilidad de una catástrofe global varían considerablemente y no existe consenso científico sobre una cifra concreta.

El debate también ocurre mientras las principales empresas tecnológicas aceleran el desarrollo de modelos de IA cada vez más capaces. Para algunos especialistas, el desafío consiste en avanzar tecnológicamente sin dejar de fortalecer los mecanismos de seguridad, supervisión y alineación.

Por ahora, la advertencia de Hubinger debe entenderse como una estimación de riesgo expresada por un investigador, y no como una predicción de que la humanidad vaya a desaparecer. El debate refleja, sin embargo, la creciente preocupación dentro del propio sector sobre las consecuencias de desarrollar sistemas de IA con capacidades muy superiores a las actuales.