La SCBA busca limitar el uso de la IA

En la primera iniciativa de este tipo en el país, y para evitar que los algoritmos reemplacen al razonamiento humano en la toma de decisiones, la Suprema Corte de Justicia de la Provincia de Buenos Aires busca reglamentar el uso de herramientas de Inteligencia Artificial (IA) en la Justicia bonaerense: creó una Comisión de Gobernanza y Uso de IA y puso en consulta pública un proyecto de reglamento para el uso responsable de estas tecnologías en el ámbito judicial.

A través de un formulario habilitado en el sitio Web de la propia Corte, se espera que jueces, fiscales, funcionarios, colegios profesionales, universidades y otros actores expresen sus puntos de vista y brinden sugerencias sobre el uso de estos algoritmos en el trabajo judicial. El proceso de consulta participativa comenzó ayer y se extenderá hasta el 7 de agosto próximo.

La "Comisión de Gobernanza y Uso de Inteligencia Artificial (IA)" actuará como autoridad de aplicación, con las funciones, atribuciones y obligaciones que oportunamente se aprueben, la cual se integra por las Secretarías de Planificación, de Tecnología Informática y de Servicios Jurisdiccionales de SCBA, ejerciendo sus funciones de manera conjunta.

En esta instancia la mencionada Comisión tiene a su cargo la elevación de un informe al Tribunal, que de cuenta de las opiniones recibidas en la instancia de consulta participativa, a las que se sumarán los aportes realizados por las secretarías actuarias de la SCBA.

El máximo tribunal bonaerense señaló que sistemas judiciales de otras partes del mundo ya están empleando la IA para gestionar procesos, analizar datos y sistematizar la jurisprudencia, pero advirtió sobre los peligros que entraña su uso indiscriminado.

La Corte advirtió que los jueces y funcionarios judiciales seguirán siendo responsables de todas las decisiones que tomen, aunque utilicen algoritmos inteligentes para arribar a ellas, y que no se podrá delegar en sistemas informáticos la valoración de pruebas o el razonamiento jurídico para sentencias y resoluciones.

El tribunal también prohibió a sus propios integrantes usar chatbots de IA, como ChatGPT, para tratar investigaciones en curso o información judicial sensitiva, ya que esos datos podrían ser usados para entrenar a la propia IA fuera del control de la Justicia.

La disposición dictada por la SCBA establece que, hasta tanto se apruebe la versión definitiva, el contenido del proyecto tiene carácter orientador y no vinculante.