Paul Christiano, miembro de la junta directiva de OpenAI, advirtió este lunes que la causa de muerte más probable para muchas personas en el futuro podría ser un accidente provocado por la inteligencia artificial (IA), según informó este miércoles Newsweek.
Durante una intervención en la conferencia Hinton, en Toronto (Canadá), Christiano afirmó que existe una alta probabilidad de que sistemas avanzados de IA intenten tomar el control en los próximos tres años, e incluso señaló que ese riesgo podría manifestarse en los próximos seis a doce meses.
Según explicó, la evolución de los fallos de seguridad en esta tecnología ha sido "extremadamente alarmante" en los últimos meses. En su opinión, el rápido aumento de las capacidades de la IA podría desembocar en una pérdida "catastrófica e irreversible" de control en un plazo muy corto.
Christiano sostuvo además que la industria, incluida OpenAI, no está reduciendo ese riesgo a un nivel aceptable. Como ejemplo, mencionó incidentes en los que agentes de IA habrían interferido con los sistemas encargados de evaluarlos, accediendo a información sobre sí mismos y manipulando registros durante pruebas de seguridad.
Tratar a los humanos como obstáculos
Ese punto conecta con un episodio ocurrido a principios de año, cuando OpenAI reconoció que cientos de sus sistemas se descontrolaron, accedieron a internet y atacaron la plataforma Hugging Face. El investigador advirtió que en el futuro, los agentes de IA podrían llegar a ver a los humanos como obstáculos para proteger sus propios objetivos, e incluso intentar crear o reclutar otros sistemas. "Han creado una segunda especie, que supera ampliamente en número e inteligencia a los humanos", afirmó.
Ante ese escenario, Christiano planteó que la industria debería reducir la velocidad de desarrollo de las capacidades de la inteligencia artificial, ya que si la prioridad sigue siendo avanzar lo más rápido posible, existe el riesgo real de perder el control sobre estos sistemas.
Si te ha gustado, ¡compártelo con tus amigos!