Jacob Coxon, exinvestigador de Anthropic, advirtió que la carrera por desarrollar inteligencia artificial implica riesgos que la propia industria no comprende plenamente, durante una audiencia del Concejo Municipal de Nueva York sobre posibles medidas de seguridad.
"No sabemos cómo controlar ningún sistema de IA todavía", afirmó Coxon, quien dejó Anthropic el mes pasado. Ante el Concejo, pidió algún tipo de desaceleración en el desarrollo de modelos avanzados y señaló que los "interruptores de apagado" podrían ayudar a corto plazo, pero no serían suficientes.