Actualidad
Bloomberg: La UE prepara una lista de regulaciones para ChatGPT y otros modelos de IA
Se reporta que el documento incluye exigencias especiales para modelos de IA más avanzados, por representar un "riesgo sistémico".
Los sistemas de inteligencia artificial (IA) generativa tendrán que satisfacer una serie de requisitos de transparencia, de acuerdo con una nueva legislación europea, informa Bloomberg al citar un documento preliminar preparado por la Unión Europea (UE).
El mencionado documento constituye nada menos que una lista de reglas para los sistemas de IA generativa. Como se sabe, estos son sistemas que se caracterizan por la habilidad de adaptarse rápidamente a nuevas condiciones y cumplir una variedad de tareas. El modelo más conocido es el chatbot ChatGPT, que fue lanzado por la compañía OpenAI hace un año.
Según la agencia informativa, a los desarrolladores de estos sistemas les serán planteadas ahora nuevas exigencias, tales como "disponer de una política de uso aceptable", "preparar un resumen detallado de los datos utilizados para entrenar sus modelos", "respetar los derechos de autor" y "mantener información actualizada sobre el entrenamiento de sus modelos".
Estos requisitos de transparencia son obligatorios para todos los modelos de la IA, sin contar los gratuitos y de código abierto.
Pero además, de conformidad con Bloomberg, el documento también implica exigencias especiales para modelos de IA más avanzados que, según los autores, representan un "riesgo sistémico". Actualmente, como indica la agencia al citar a especialistas, solamente el GPT-4, desarrollado por OpenAI, tiene esa gran potencia de procesamiento.
De tal modo, además de los requisitos de transparencia ya mencionados, los desarrolladores de los modelos más avanzados tendrán que seguir reglas adicionales. La agencia especifica algunas de ellas. En particular, los diseñadores deberán "informar sobre su consumo de energía", "evaluar y mitigar los posibles riesgos sistémicos y notificar cualquier incidente", "garantizar que se utilizan controles de ciberseguridad adecuados", "comunicar la información utilizada para ajustar el modelo y la arquitectura del sistema", "cumplir normas más eficientes desde el punto de vista energético, si se desarrollan" y "realizar pruebas de red-teaming, o de adversarios, tanto interna como externamente".
Por ahora, este proyecto tiene carácter preliminar. Para entrar en vigor, requiere la aprobación del Parlamento Europeo y de todos los 27 miembros del bloque.
comentarios