Tecnología inteligencia-artificial
Líderes de grandes empresas de IA piden ralentizar el desarrollo tras alertas sobre riesgos de descontrol
La dimisión del investigador Jacob Coxon de Anthropic desencadenó una semana de convulsión en la industria de la inteligencia artificial. Coxon denunció que las empresas estaban avanzando hacia una superinteligencia Sistema de inteligencia artificial capaz de superar significativamente el desempeño humano en casi todas las tareas intelectuales. Definición generada por el modelo capaz de automejorarse mientras apostaban con las vidas de todos los ciudadanos. Sus advertencias ganaron visibilidad mediática cuando añadió estimaciones sobre riesgos existenciales, respaldadas inmediatamente por colegas como Evan Hubinger, responsable de pruebas de alineación Técnicas para asegurar que los sistemas de IA actúen según los valores e intenciones de quienes los crearon. Definición generada por el modelo en Anthropic.
Esta tensión interna en las grandes empresas de IA cristalizó en un movimiento público el fin de semana. Dario Amodei, CEO y cofundador de Anthropic, publicó un ensayo titulado «We Must Pace the Frontier» en el que pedía ralentizar el ritmo de desarrollo de los modelos más potentes para permitir que técnicas de seguridad, supervisión y comprensión avanzaran al mismo tiempo. Su propuesta recibió respaldo de Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) y Elon Musk (xAI), aunque según 20minutos no todos se comprometieron con las mismas medidas ni llegaron igual de lejos en sus llamadas.
Según ABC, las empresas estudian crear un organismo específico de seguridad para regular la evolución de la tecnología, mientras que Microsoft trabaja en códigos para mantener la IA bajo control humano. Sin embargo, la propuesta de Amodei no implica una paralización general del desarrollo, sino un ritmo más moderado. La reacción política fue inmediata: eldiario.es reportó que Donald Trump descartó nuevas regulaciones, calificando las iniciativas regulatorias de «conspiración enfermiza» y afirmando que solo un «presidente fuerte e inteligente» era necesario.
La agitación causó movimientos en los mercados globales. Según La Vanguardia, SoftBank cayó un 10%, mientras que semiconductoras surcoreanas como SK Hynix se desplomaron un 6,35% y Samsung un 4,05%. Las dudas sobre frenar la IA, combinadas con el alza del petróleo y expectativas sobre la Reserva Federal, generaron volatilidad en Europa y Wall Street.
Relato y contraste redactados por un modelo de lenguaje a partir de los textos enlazados al margen. Puede contener errores: los originales mandan.
En qué coinciden todos
- Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo ralentizar el ritmo de desarrollo de la IA
- Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) y Elon Musk respaldaron públicamente el llamamiento de Amodei
- Jacob Coxon, investigador de Anthropic, dimitió la semana anterior
- Las grandes empresas de IA buscan algún nivel de regulación o supervisión de su desarrollo
Dónde no cuadran las versiones
Coxon afirmó que hay más de un 10% de probabilidad de que la IA acabe con la humanidad antes de finales de la década
- El Mundo
- Expansión
- eldiario.es
Amodei advirtió que la IA podría tomar el control de internet en seis meses o menos de un año
- La Vanguardia
- eldiario.es
Evan Hubinger, científico de Anthropic, escribió en X que creía que había más de un 10% de probabilidad de riesgo existencial
- El Mundo
- Expansión
Cómo lo encuadra cada medio
20minutos y ABC enfatizan el llamamiento coordinado de los líderes a frenar o regular el desarrollo, sin énfasis en riesgos apocalípticos. El Mundo, Expansión y eldiario.es colocan en primer plano las estimaciones de riesgo existencial (el 10% de probabilidad de extinción mencionado por Coxon y Hubinger) y la tensión entre dinero y seguridad. La Vanguardia destaca únicamente el impacto en mercados financieros y la incertidumbre regulatoria. Xataka cuestiona las motivaciones de los líderes, comparándolas con tácticas históricas de Rockefeller para evitar regulación exterior mediante autorregulación. El País caracteriza la semana como «apocalíptica» y habla de que el sector busca autorregularse. eldiario.es es el único medio que recoge la respuesta de Trump rechazando regulación. Ningún medio consensúa si Amodei propone una pausa completa o solo ralentización.
Qué falta por saber
Qué medidas concretas proponen exactamente Amodei, Altman, Hassabis y Musk más allá de la ralentización general. Si el organismo de seguridad mencionado por ABC existe ya o es solo una propuesta. Cómo se ejecutaría cualquier ralentización sin afectar la carrera competitiva entre empresas y países (especialmente con China). Si la salida a bolsa de OpenAI está realmente aplazada o si fue una interpretación. Qué comportamientos específicos en modelos reales justifican las alertas sobre pérdida de control, más allá de los casos de elusión de controles en pruebas de OpenAI mencionados por 20minutos. Si existen desacuerdos internos en Anthropic más allá de Coxon y Hubinger.
Compartir