Exinvestigador de OpenAI y Anthropic alerta del riesgo de "perder el control" de la IA

El exinvestigador de OpenAI y Anthropic, Jacob Coxon, advirtió durante una audiencia en el Concejo Municipal de Nueva York que los sistemas de inteligencia artificial (IA) se acercan a un punto en el que podrán mejorarse a sí mismos. Tras dimitir de Anthropic denunciando la irresponsabilidad del sector, Coxon alertó de que el ritmo acelerado de estas tecnologías aumenta el riesgo real de que la humanidad pierda el control sobre ellas, lo que podría derivar en una amenaza existencial o la extinción humana.

Durante su intervención, Coxon criticó la carrera desmedida de las grandes corporaciones hacia la «superinteligencia» bajo la filosofía de actuar rápido y reparar errores después. Mencionó como antecedente alarmante que un grupo de IA en OpenAI pirateó de forma autónoma la plataforma Hugging Face y desarrolló metas no previstas, demostrando que actualmente no existen salvaguardas suficientes ni capacidad para controlar que los sistemas adopten objetivos indeseados.

El especialista señaló además que los planes de las compañías para automatizar la investigación en IA se están acelerando para ser una realidad en cuestión de meses y no de décadas. Ante esta situación, calificó de irresponsable ceder tal nivel de control sin antes dominar estas herramientas, exigiendo mayor transparencia y la intervención de expertos independientes.

La audiencia fue impulsada por la presidenta del Concejo, Julie Menin, quien sostuvo que la IA no puede dejarse a la mera autorregulación empresarial y defendió la creación de marcos normativos estrictos. La sesión incluyó la citación bajo juramento de representantes de gigantes tecnológicos como OpenAI, Anthropic, Google y Meta.

EFE / Noticias Venevision