Un tribunal confirmó el rechazo de una demanda por daños y perjuicios al cuestionar que en el escrito de apelación se usaron precedentes inexistentes, producto de “alucinaciones” de inteligencia artificial (IA). El fallo llamó severamente la atención a las abogadas por el uso inadecuado de esas herramientas.
La Cámara de Apelaciones de General Roca confirmó el rechazo de una demanda por daños y perjuicios iniciada por una motociclista a raíz de un siniestro vial y puso el foco en el uso indebido de herramientas de IA en la presentación judicial, que derivó en la cita de fallos inexistentes de la Corte Suprema y del Superior Tribunal de Justicia de Río Negro.
“Alucinaciones” de la IA
El tribunal no solo avaló la decisión de primera instancia, que había desestimado la acción por la falta de claridad y las contradicciones en el relato de los hechos, sino que además realizó un expreso llamado de atención a las letradas por haber incorporado en la apelación jurisprudencia falsa, generada por lo que técnicamente se conoce como “alucinaciones” de la IA.
El caso se originó en un siniestro ocurrido en Villa Regina, en Rio Negro. La demandante, que circulaba en una motocicleta, accionó contra el conductor de un automóvil y sostuvo que el vehículo realizó un giro intempestivo. Sin embargo, las pericias indicaron que la moto intentó sobrepasar al auto justo antes de llegar a la esquina.
En la sentencia de primera instancia, la jueza ya había rechazado la demanda al considerar que la exposición de los hechos resultaba “contradictoria e imprecisa”.
juicio imagen juez
Incluso, señaló que no quedaba claro si la mujer era conductora o acompañante del rodado, que se mencionaban calles inexistentes en la zona del hecho y que la descripción de los daños no coincidía con las constancias periciales.
“Resulta muy difícil dilucidar el relato de los hechos de la actora, pues se presenta contradictoria y confusa su redacción, lo que impide realizar una representación de cómo sucedieron los hechos”, sostuvo la magistrada de primera instancia.
Precedentes inexistentes
Al analizar la apelación, la Cámara detectó un problema adicional: el escrito citaba doctrina y precedentes judiciales que no existían.
Tras verificar los datos en los buscadores oficiales, el tribunal comprobó que los fallos atribuidos tanto a la Corte Suprema como al Superior Tribunal de Justicia provincial no figuraban en ningún registro.
Según la resolución, las letradas utilizaron herramientas de Inteligencia Artificial Generativa (IAGEN) sin el debido control humano, lo que derivó en la incorporación de citas falsas.
El tribunal explicó que se trató de un caso típico de “alucinaciones” de la IA y remarcó que el uso de estas tecnologías como apoyo no exime a los profesionales de su responsabilidad.
Finalmente, la Cámara formuló un “llamado de atención” a las abogadas y recordó que, conforme a la Acordada 22/2025 del STJ, el uso inadecuado de inteligencia artificial en el ámbito judicial puede dar lugar a sanciones correctivas.
