En un contexto donde crecen las preocupaciones sobre los riesgos que puede entrañar para la humanidad el desarrollo de superinteligencias artificiales, Microsoft ha publicado esta jornada un borrador del código de conducta para sus sistemas de inteligencia artificial, con el que pretenden establecer directrices que garanticen que todo desarrollo tecnológico futuro de la compañía vinculado con la IA, esté siempre bajo control humano, recoge Excélsior.
Bajo la premisa de 'Las personas importan más que la IA', la empresa tiene como objetivo fijar reglas para que sus IAs puedan ser siempre apagadas o corregidas por seres humanos y para que sus mensajes y acciones sean siempre comprensibles para los usuarios.
De ese modo, la propuesta contempla que los sistemas de Microsoft nunca puedan resistirse a esos mecanismos de control y que cualquier vulneración a las normas conductuales sea calificada automáticamente como un fallo del sistema, con el fin último de evitar que se presenten situaciones en los que una IA lleve la instrucción de un internauta a un límite potencialmente peligroso.
¿Nace una 'constitución' para las IAs?
Mustafa Suleyman, director ejecutivo de Microsoft AI, comparó el documento –que entrañó un trabajo cercano a los 6 meses– con el papel que juegan las constituciones en la vida de los ciudadanos, al referirse al código de conducta de Microsoft para los sistemas de IA en esos mismos términos: allí están contenidos los límites que han de respetarse cuando el sistema recibe una orden y la manera esperada en la que ha de comportarse la IA, particularmente entre las personas que consultan desde una posición de vulnerabilidad.
No se trata solo de un documento de circulación interna. La compañía recogerá las opiniones del público durante unas 6 semanas y, en adenda, el trabajo resultante será utilizado para entrenar sus nuevos modelos. Con ello se quiere evitar que las directrices se limiten al plano de las declaraciones de intenciones, con escaso o nulo impacto en el uso real.
El punto de vista de Microsoft contrasta abiertamente con el defendido por otras gigantes tecnológicas como Palantir, que reclaman desarrollos tecnológicos libres de regulaciones, o de personas como el presidente estadounidense, Donald Trump, que ven en las advertencias lanzadas por especialistas en la materia exageraciones sin fundamento y añaden que, de implementarse las regulaciones que se demandan, se comprometería el liderazgo de EE.UU. frente a China, su principal competidor en esa área.
