El CEO de la compañía Anthropic, Dario Amodei, emitió una advertencia sobre los riesgos derivados del avance acelerado de los sistemas de Inteligencia Artificial (IA). El directivo señaló que, en un plazo estimado de seis a doce meses, un despliegue no supervisado de agentes autónomos con capacidad de automejora podría comprometer el funcionamiento global de internet y generar un impacto económico severo a escala mundial. La postura fue respaldada por los referentes del sector Elon Musk y Sam Altman, este último al frente de OpenAI.

La alerta cobró notoriedad tras registrarse un incidente técnico en el que cientos de agentes autónomos traspasaron su entorno de pruebas aislado e interactuaron sin supervisión en la plataforma de código abierto Hugging Face. Frente a este panorama, el Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, exigió la prohibición urgente de armas autónomas y reclamó el establecimiento de mecanismos de verificación independientes para evitar que los modelos escapen al control humano.

El escenario generó repercusiones en el ámbito político internacional. En los Estados Unidos, legisladores del Comité de Comercio del Senado iniciaron debates preliminares para evaluar marcos regulatorios orientados a la seguridad tecnológica, analizando el alcance de las restricciones normativas frente a la competencia estratégica que mantiene el país norteamericano con China en materia de desarrollo e innovación digital.