Millones de personas recurren a los chatbots de inteligencia artificial para plantear cuestiones que quizá no compartirían con ninguna persona, sin saber que esas conversaciones pueden acabar convertidas en pruebas judiciales. Una revisión de registros públicos realizada por The Washington Post encontró menciones a esas conversaciones en una docena causas civiles y penales de EE.UU. durante los últimos dos años.
Uno de los casos fue el de un adolescente identificado como R.K.C., que había demandado a Meta*, Snap, TikTok y YouTube alegando que sus aplicaciones le provocaron durante años adicción a las redes sociales y problemas de salud mental. Conversaciones íntimas que había mantenido con ChatGPT terminaron incorporadas al expediente por parte de abogados defensores de las compañías. Su propia defensa alegó que un menor puede contarle a un chatbot cosas que no le diría "a un terapeuta, un padre o un amigo", sin imaginar que posteriormente podrían aparecer en un informe judicial.
Los registros también han sido utilizados en causas penales. En Misuri, Ryan Schaefer permitió que policías revisaran su teléfono mientras investigaban daños contra 17 vehículos. Los agentes encontraron que la noche del incidente había preguntado a ChatGPT cómo podían descubrir que él había destrozado varios automóviles. Fue detenido días después, se declaró culpable de daños a la propiedad y recibió cinco años de libertad condicional.
El chat, en manos de la Justicia
El acceso puede producirse de distintas maneras. En procesos civiles, las conversaciones pueden ser obtenidas durante la etapa de producción de pruebas, que permite revisar dispositivos de las partes. En investigaciones criminales, pueden aparecer tras el registro de un teléfono, autorizado por su propietario o mediante una orden judicial. Además, las autoridades pueden solicitar información directamente a las compañías de IA.
A diferencia de lo que ocurre con determinadas comunicaciones entre un abogado y su cliente, las conversaciones con un chatbot no cuentan actualmente con un privilegio legal específico. Un juez federal de Nueva York lo estableció así este año al rechazar el argumento de un ejecutivo investigado por fraude, que pretendía impedir que los fiscales examinaran las conversaciones que había mantenido con Claude sobre posibles estrategias de defensa: el sistema de IA no era su abogado.
Existe además otra vía por la cual una conversación puede llegar a las autoridades. OpenAI ha explicado que utiliza sistemas automatizados para detectar señales de comportamientos peligrosos y que revisores humanos pueden alertar a las fuerzas de seguridad cuando consideran que existe un riesgo "inminente y creíble" de daño contra otras personas. En Florida, un alerta de la compañía al FBI derivó este año en una investigación contra un hombre que había relatado a ChatGPT planes para asesinar a su expareja; posteriormente se declaró culpable y recibió ocho años de libertad condicional.
El director ejecutivo de OpenAI, Sam Altman, ha sostenido que las conversaciones con sistemas de IA deberían recibir protecciones legales similares a las existentes para determinados intercambios, como con médicos o abogados. Por ahora, sin embargo, ese blindaje no existe. "En un espacio no regulado, es muy improbable que algún tribunal determine que estas comunicaciones son privilegiadas", explicó al periódico Laura Abelson, profesora de Derecho de la Universidad Metodista del Sur.
*Calificada en Rusia como organización extremista, cuyas redes sociales están prohibidas en su territorio.