IA: Protocolo en la Justicia de San Juan

Recientemente en el mes de octubre de 2024, la Justicia de San Juan anunció la aprobación de un Protocolo para el uso de Inteligencia Artificial Generativa (IAGen) en sus procesos judiciales. El objetivo del mismo no es solo la adopción de dicha tecnología sino de hacerlo con cuidado, ética y una visión clara de futuro.

Es innegable que la inteligencia artificial ha transformado todos los rincones de nuestra vida, y la Justicia no podía quedarse al margen. Herramientas como ChatGPT o Gemini pueden redactar textos complejos, analizar documentos extensos y ofrecer soluciones en tiempo récord. Sin embargo, aquí radica el desafío: ¿cómo asegurarse de que esta tecnología realmente contribuya a una justicia más ágil y eficiente, sin dejar de lado los valores esenciales que guían su funcionamiento?

Innovación con responsabilidad
El Protocolo aprobado en San Juan aborda este dilema con una postura que combina innovación y responsabilidad. Es así que desde el principio, pone énfasis en proteger los derechos de las personas involucradas. Por ejemplo, exige que toda información sensible que pase por estas herramientas deba ser previamente anonimizada, eliminando cualquier detalle que pueda identificar a alguien. Este aspecto no es nada menor; se trata de un recordatorio de que, aunque la tecnología sea poderosa, el respeto por la privacidad debe ser priorizado.

¿cómo asegurarse de que esta tecnología realmente contribuya a una justicia más ágil y eficiente, sin dejar de lado los valores esenciales que guían su funcionamiento?

Otro elemento  fundamental del Protocolo es la capacitación. Como bien sabemos no es suficiente con dar acceso a la tecnología; es imprescindible enseñar a usarla correctamente. Por eso es que se busca que todo agente judicial que quiera utilizar estas herramientas debe completar un curso de formación que no solo explica cómo funcionan, sino también cuáles son sus límites.

Sin dudas es una manera de garantizar que la IA no se convierta en una “caja negra” que produzca resultados incomprensibles, sino que pueda funcionar como una aliada clara y confiable.

El Protocolo también regula estrictamente quién puede usar estas herramientas y para qué. Su acceso está reservado únicamente a aquellos agentes judiciales cuyas funciones lo justifiquen, previa autorización de la Dirección de Informática. Con esta medida se busca prevenir cualquier uso indebido de la tecnología y asegurarse de que realmente se utilice para mejorar el servicio de justicia, no para fines personales o irrelevantes.

Decisión humana
Ahora bien, uno de los puntos más interesantes de esta iniciativa es su postura sobre la relación entre la IA y el juicio humano. El Protocolo es categórico en este sentido: la inteligencia artificial nunca debe reemplazar la capacidad de decisión de los jueces o funcionarios judiciales. Sus resultados son un complemento, un apoyo para agilizar tareas y ofrecer nuevas perspectivas, pero nunca deben tomarse como la verdad absoluta. Por tanto, la tecnología se convierte en un asistente que ayuda a procesar información, pero la última palabra sigue siendo humana.

Ética
Además, el documento pone un foco importante en las cuestiones éticas. De allí que utilizar la IA para fines inapropiados, tales como generar contenido ofensivo o manipular datos, está estrictamente prohibido. Este enfoque destaca que el progreso tecnológico no puede estar desligado de un fuerte compromiso con los valores fundamentales de justicia y equidad.

El Protocolo también no es ajeno al análisis de los riesgos que este tipo de tecnología conlleva. Uno de ellos es la posibilidad de que la IA reproduzca sesgos o prejuicios que afecten negativamente los resultados. Por eso, en San Juan se hace hincapié en la necesidad de evaluar críticamente los resultados generados y corregir cualquier error o sesgo que pueda surgir. Esto no solo protege la debida imparcialidad de los procesos judiciales, sino que refuerza la confianza en la tecnología como una herramienta válida.

...el progreso tecnológico no puede estar desligado de un fuerte compromiso con los valores fundamentales de justicia y equidad.

Otro tema que no pasa desapercibido es la seguridad. La IA debe manejarse con sumo cuidado para evitar que se comprometan datos sensibles o información crítica. En caso de cualquier incidente, el Protocolo establece que debe notificarse de inmediato a las autoridades correspondientes para tomar medidas rápidas y efectivas.

Un punto destacable es que este Protocolo no es un documento estático. Está diseñado para evolucionar, adaptándose a los cambios tecnológicos y a las nuevas necesidades que puedan surgir en el ámbito judicial. Esta flexibilidad asegura que San Juan no solo adopte tecnología de manera reactiva, sino que lidere el camino hacia un uso responsable y ético de la IA.

En definitiva, lo que está haciendo el Poder Judicial de San Juan es construir un modelo de modernización que podría inspirar a otras jurisdicciones. No se trata solo de implementar tecnología avanzada, sino de hacerlo con una visión clara de servicio a las personas, con foco en el ciudadano y en el acceso a la Justicia. Al poner la ética, la capacitación y la supervisión humana en el centro de esta transformación, San Juan evidencia que el verdadero progreso no está en la tecnología en sí misma, sino en cómo los humanos la usamos para mejorar nuestra sociedad.

Este Protocolo, más que un avance técnico, es una declaración de principios. Es un paso más en aras de abrazar el futuro sin renunciar a los valores que nos definen. Y en un mundo donde la tecnología avanza más rápido que nunca, iniciativas como esta nos invitan a pensar en cómo queremos que sea el futuro de nuestras instituciones. En San Juan, al menos, ya están construyendo una justicia que no solo sea más eficiente, sino también más humana.

Referencia.
Acceder al Protocolo aquí: https://drive.google.com/file/d/1hfw2wbjuNWwoPWF3F5uIgEQuEIEOnaA-/view?usp=drive_link