Morón: la Justicia cuestionó a un abogado por presentar fallos inexistentes generados con inteligencia artificial
La Cámara de Apelación en lo Civil y Comercial declaró desierto un recurso judicial luego de detectar citas de jurisprudencia que no existían. Los jueces advirtieron sobre los riesgos de utilizar herramientas de IA sin verificar sus respuestas.
Resumen
Un fallo de la Cámara de Apelación en lo Civil y Comercial de Morón volvió a poner en discusión el uso de la inteligencia artificial en el ámbito judicial.
Los camaristas Gabriel Hernán Quadri y Laura Andrea Moro cuestionaron a un abogado que fundamentó una presentación con referencias a sentencias que no pudieron ser localizadas y advirtieron sobre las consecuencias de incorporar información falsa a un expediente.
Entre ellos, el abogado mencionó un presunto fallo de la Suprema Corte de Justicia de la Provincia de Buenos Aires, identificado como Colegio de Abogados de La Plata c/ Provincia de Buenos Aires, también denominado Barrio, fechado el 5 de mayo de 2021. Según el planteo, ese precedente respaldaba la necesidad de actualizar los valores utilizados para calcular los honorarios profesionales.
Sin embargo, los camaristas comprobaron que la sentencia no existía con esa carátula ni con el contenido atribuido. Además, verificaron que el número de expediente mencionado correspondía a otra causa, cuyo último movimiento databa de 2017. Si bien existe un antecedente conocido como Barrios, relacionado con la actualización de créditos, no aborda la cuestión de los honorarios de abogados.
Los jueces vincularon lo ocurrido con las denominadas “alucinaciones” de la inteligencia artificial generativa: respuestas que presentan datos falsos o referencias inexistentes como si fueran información comprobada. Por ese motivo, remarcaron que cualquier contenido producido con estas herramientas debe someterse a una revisión profesional antes de incorporarse a una presentación judicial.
En el fallo, los magistrados aclararon que el uso de IA no está prohibido y reconocieron que puede contribuir a mejorar el trabajo de los operadores jurídicos, siempre que se utilice de manera ética y responsable. No obstante, consideraron que la presentación no cumplía con las exigencias procesales necesarias.