De acuerdo con una investigación que realizaron investigadores de Stanford RegLab en 2024, la tasa de alucinación de Inteligencia Artificial ronda entre el 69% y el 88% cuando respondía sobre consultas jurídicas que se realizaban. Este estudio indica que los modelos "carecían de autoconciencia sobre sus errores y tienen a reforzar supuestos y creencias jurídicas incorrectas". Este estudio evaluó más de 200.000 consultas con modelos como GPT 3.5 y PalM 2, hallando que entre más complejo fuera el concepto, más opciones de alucinación existían.
Y aunque en dos años la tecnología ha avanzado considerablemente, lo cierto es que, incluso, profesionales de leyes alrededor del mundo la han usado para llevar a cabo casos en los que participan.
En España se ha hecho mediático un caso en el que un abogado recibió una multa de 450 euros ($1.617.615 pesos colombianos), luego de que presentara un recurso de apelación ante la Sala de lo Penal contra un fallo de la Audiencia Provincial de Santa Cruz en Tenerife.
En su documento incluyó 48 sentencias falsas del Tribunal Supremo y un informe generado por ChatGPT, sin realizar una revisión profunda del texto en el que encontraron que, de 52 citas hechas, 48 no existían. El abogado también enfrentará una investigación por parte del Colegio de Abogados, que podrían aumentar sus sanciones.
Casos de abogados sancionados por utilizar Inteligencia Artificial
No es la primera vez, desde que la inteligencia artificial se hizo popular se han registrado casos similares.
En Galicia, también en España, otro abogado redactó un recurso de suplicación en el ámbito laboral que contenía 24 referencias alteradas o inventadas, así como fragmentos de textos a sentencias que nunca se habían emitido desde los tribunales del país europeo. Tras una revisión de la Sala de lo Social se consideró que el profesional había incurrido en una "libérrima creatividad jurídica". Fue castigado con 1.800 euros y asimismo pasó el caso al Colegio de Abogados de La Coruña.
Estados Unidos
Estados Unidos no es la excepción y, de hecho, tienen el primer caso al respecto; del cual nació la investigación citada al principio de este artículo.
Steven Schwartz, un abogado con más de 30 años de experiencia, representaba a un pasajero que demandó a la aerolínea Avianca por una lesión que sufrió en uno de sus aviones con un carro de servicio. El litigante acudió a ChatGPT para redactar las alegaciones concernientes a precedentes del caso que defendía.
La IA inventó seis casos judiciales con nombres de tribunales, resúmenes y fallos. Cuando los jueces le pidieron sustentación física de cada proceso, el profesional recurrió a la misma IA para saber qué respondía; esta mantuvo su mentira, insistiendo que los casos eran reales y estaban en bases de datos.
El juez federal Kevin Castel multó al abogado con 5.000 dólares, argumentando que incurrió en "actos de consciente evicción y declaraciones falsas". Esto ocurrió en Nueva York.
Mientras tanto, en Alabama, tres abogados del bufete Butler Snow presentaron un caso con, al menos, cinco citas inventadas por esta herramienta. La jueza federal Anna Manasco emitió en contra de los tres litigantes (Matthew Reeves, William Cranford y William Lunsford), que representaban al Sistema Penitenciario de Alabama una restricción de continuar en el caso y una reprimenda pública a los profesionales. Además, los hizo distribuir la sanción a su buffet, jueces asociados y al Colegio de Abogados de Alabama para que tomaran medidas sancionatorias.
En Utah, fueron dos los abogados que presentaron a la Corte de Apelaciones de esta región un recurso que incluía referencias jurisprudenciales falsas generadas por ChatGPT.
El tribunal determinó que Richard Bednar y Douglas Durbano violaron las normas de procedimiento al no verificar fuentes de información por lo que debieron:
- Pagar las tasas y honorarios de los abogados de la parte contraria por el tiempo perdido respondiendo al recurso falso.
- Reembolsar a su propio cliente los honorarios cobrados por la redacción de ese escrito.
- Realizar una donación obligatoria de 1.000 dólares a "And Justice for All", una organización sin ánimo de lucro local dedicada a proveer asistencia legal gratuita.