Alucinaciones en IA. Un fallo reciente en “Giacomino c/ Monserrat” rechazó recursos y llamó la atención al letrado por citar jurisprudencia inexistente generada por inteligencia artificial, destacando riesgos éticos y procesales.
La Cámara de Apelación en lo Civil y Comercial de Rosario (Sala II) dictó una resolución de relevancia para la práctica forense en el expediente “Giacomino, César Adrián y otros c/ Monserrat, Facundo Damián y otros s/ daños y perjuicios” (CUIJ 21-11893083-2). En este proceso, además de resolver cuestiones vinculadas al incumplimiento de un acuerdo transaccional extrajudicial, el tribunal puso especial énfasis en una conducta procesal del letrado de la parte actora: la incorporación de citas jurisprudenciales inexistentes, obtenidas a través de un sistema de inteligencia artificial generativa.
El tribunal señaló que, aun cuando el abogado alegó haber obrado de buena fe, tal circunstancia no lo exime de su deber profesional de verificar las fuentes invocadas. Enfatizó que los sistemas de inteligencia artificial pueden producir resultados incorrectos o directamente ficticios, conocidos como “alucinaciones”, lo que compromete la seriedad del proceso judicial y la relación de confianza con el cliente. Se recordó que las normas de ética profesional imponen a los abogados deberes de veracidad, lealtad y probidad, resultando inaceptable la transcripción acrítica de información no comprobada.
Más allá de la sanción procesal, la resolución tuvo un efecto preventivo e institucional: se dispuso notificar al Colegio de Abogados de Rosario para que difunda entre los matriculados la problemática y los riesgos asociados al uso de herramientas de inteligencia artificial en la preparación de escritos judiciales. La Cámara citó precedentes internacionales donde se sancionó a profesionales que incurrieron en prácticas similares y advirtió que la utilización irreflexiva de estas tecnologías constituye una conducta temeraria.
El fallo se suma a un creciente debate sobre el impacto de la inteligencia artificial en el ámbito jurídico y, en particular, sobre los límites de su aplicación en tareas de investigación legal. Si bien se reconoce la utilidad de estas herramientas, los jueces recordaron que su uso no releva al abogado de sus obligaciones profesionales ni de la responsabilidad ética frente al cliente y al tribunal. La decisión marca un hito en la jurisprudencia argentina, al vincular directamente el uso de inteligencia artificial con el cumplimiento de los deberes éticos del ejercicio profesional.
El decisorio: