Tecnología inteligencia-artificial
Investigadores de empresas de IA advierten sobre riesgos existenciales mientras líderes del sector abogan por regulación
Jacob Coxon, investigador de Anthropic con 27 años, anunció su dimisión en un comunicado que advierte que las principales empresas de IA están acelerando el desarrollo de sistemas cada vez más autónomos sin saber cómo mantener bajo control una eventual superinteligencia Sistema de inteligencia artificial capaz de aprender y mejorarse a sí mismo sin intervención humana, superando ampliamente la inteligencia humana. Definición generada por el modelo . Coxon afirma que sus ex jefes en Anthropic y sus homólogos en OpenAI están enfrascados en una «carrera que puede acabar con todos nosotros sobre 2030».
Minutos después de la dimisión de Coxon, Evan Hubinger, responsable de Alignment Science Disciplina que estudia cómo hacer que los sistemas de IA funcionen de acuerdo con los valores e intenciones de los humanos. Definición generada por el modelo en Anthropic, confirmó públicamente que estima en más de un 10% la probabilidad de que una inteligencia artificial pueda acabar con la humanidad en la próxima década. Hubinger matiza, según 20minutos, que sitúa el verdadero peligro en futuras inteligencias capaces de aprender y mejorar por sí mismas, no en los modelos actuales como Claude. La preocupación actual, explicó, es «lo que Claude y otros sistemas similares podrían llegar a convertirse».
En respuesta a estas alarmas, Dario Amodei, CEO de Anthropic, publicó un extenso ensayo titulado «We Must Pace the Frontier» en el que aboga por que la industria «ralentice el ritmo» del aumento de capacidades de los modelos para que las técnicas de comprensión, supervisión y seguridad avancen en paralelo. Su propuesta ha recibido respaldo de otros líderes del sector: Sam Altman (OpenAI) ha admitido «serias preocupaciones de seguridad» y afirma que «podríamos perder el control del futuro ante la IA»; Demis Hassabis (Google DeepMind) y Elon Musk (xAI) también han respaldado las preocupaciones. Todos ellos no proponen detener la IA, sino un desarrollo más moderado.
La reacción política ha sido dividida. Donald Trump rechazó públicamente las iniciativas de regulación, calificándolas de «conspiración enfermiza» y afirmando que la IA solo necesita «un presidente fuerte e inteligente». Por su parte, Chen Yixin, ministro chino de Seguridad del Estado, pidió construir una «barrera de seguridad» alrededor de la IA, argumentando que se ha convertido en un campo de competencia tecnológica global y «rivalidad entre grandes potencias».
Relato y contraste redactados por un modelo de lenguaje a partir de los textos enlazados al margen. Puede contener errores: los originales mandan.
En qué coinciden todos
- Jacob Coxon, investigador de Anthropic, dimitió denunciando que las empresas aceleran el desarrollo de IA sin saber controlar una eventual superinteligencia (20minutos, ABC, El Mundo, El País, La Vanguardia, eldiario.es, Xataka)
- Evan Hubinger, responsable de Alignment Science en Anthropic, estimó personalmente en más de un 10% la probabilidad de que una IA acabe con la humanidad durante la próxima década (20minutos, El Mundo, La Vanguardia)
- Dario Amodei, CEO de Anthropic, publicó un ensayo titulado 'We Must Pace the Frontier' abogando por ralentizar el ritmo de desarrollo de IA (20minutos, ABC, La Vanguardia)
- Sam Altman, CEO de OpenAI, respalda las preocupaciones sobre seguridad de la IA (ABC, 20minutos, La Vanguardia)
- Demis Hassabis, CEO de Google DeepMind, se ha sumado a las advertencias sobre riesgos de la IA (ABC, 20minutos, La Vanguardia, Xataka)
Cómo lo encuadra cada medio
20minutos enfatiza la contradicción entre la proximidad a una salida a Bolsa por dos billones de dólares y las advertencias de riesgos existenciales; ABC presenta el tema como iniciativa industrial de regulación (omite los aspectos más apocalípticos de las advertencias); El Mundo subraya el conflicto entre dinero y seguridad, incluyendo detalles internos sobre la carrera comercial entre empresas y celebraciones internas; El País privilegia voces internas de empleados de Anthropic sobre su percepción del riesgo («crunch time», «endgame»); La Vanguardia amplía el contexto geopolítico y económico (crecimiento del Reino Unido y EE.UU. gracias a IA) antes de presentar las alertas; eldiario.es da protagonismo a la reacción política de Trump y China, rechazando vs. pidiendo regulación; Xataka interpreta la estrategia de los CEOs como un movimiento corporativo para defenderse de la competencia, comparándolo con Rockefeller hace un siglo; Expansión y El País ofrecen titulares más reflexivos y genéricos sobre lo que está sucediendo sin tomar posición clara sobre el riesgo.
Qué falta por saber
No hay detalles sobre qué soluciones técnicas específicas proponen Amodei u otros para garantizar la seguridad; no se clarifica qué significa exactamente 'ralentizar el ritmo' ni cómo se mediría; no hay información sobre si otras empresas de IA (Meta, Mistral, etc.) han respondido a estas advertencias; no se sabe si organismos internacionales como la ONU han tomado posición formal más allá de mencionarse en eldiario.es; no queda claro si las advertencias tienen respaldo en datos científicos o son estimaciones personales sin consenso en el sector; no se explica por qué las advertencias surgen ahora si los riesgos existían previamente.
Compartir