El fiscal general de Florida, James Uthmeier, pidió este lunes a un juez que impida a OpenAI desarrollar modelos de inteligencia artificial(IA) sin supervisión externa, en el marco de una demanda que acusa a la empresa de causar daños a menores, informó Reuters.
Uthmeier también solicitó que se restrinja el acceso de los menores a ChatGPT y que la herramienta no reciba "atributos humanos". En respuesta, el portavoz de OpenAI, Drew Pusateri, afirmó que la compañía ha pausado el entrenamiento de sus modelos de IA más avanzados y que no lo retomará hasta incorporar nuevas medidas de seguridad.
Pusateri añadió que las autoridades tienen un papel importante en la definición de normas sólidas para el desarrollo de la IA y aseguró que la empresa está dispuesta a colaborar con Florida y con otros estados en esa tarea.
Florida presentó la demanda en junio, al acusar a OpenAI de tergiversar la seguridad de ChatGPT. Según el escrito, el 'chatbot' habría proporcionado información a autores de tiroteos escolares, ofrecido orientación sobre autolesiones y generado adicción en usuarios jóvenes. El caso está vinculado, entre otros episodios, a un tiroteo ocurrido el año pasado en la Universidad Estatal de Florida. OpenAI rechaza las acusaciones y sostiene que su sistema solo reproduce información ya disponible públicamente en Internet.