La Jueza Multa a Abogados por Utilizar Investigación Legal Generada por IA Falsa

Una juez de EE.UU. ha criticado duramente a dos bufetes de abogados por incluir información legal falsa generada por IA en una presentación judicial, calificándolo como un grave fallo en la responsabilidad legal.

El juez Michael Wilner, con sede en California, multó a las empresas con $31,000 después de descubrir que la presentación estaba llena de “citas y citas legales falsas, inexactas y engañosas”, tal como se informó por primera vez en WIRED.

“Ningún abogado razonablemente competente debería subcontratar la investigación y la redacción” a la IA, escribió Wilner en su fallo, advirtiendo que estaba cerca de incluir los casos falsos en una orden judicial.

“Leí su informe, me persuadieron (o al menos me intrigaron) las autoridades que citaron, y busqué las decisiones para aprender más sobre ellas, solo para descubrir que no existían”, dijo, según lo informado por WIRED. “Eso da miedo”, añadió.

La situación surgió durante un juicio civil contra State Farm. Un abogado utilizó herramientas de IA para redactar un esquema legal. Ese documento, que contenía investigación falsa, fue entregado al bufete de abogados más grande, K&L Gates, que lo añadió a una presentación oficial.

“Ningún abogado o miembro del personal de ninguno de los bufetes aparentemente revisó o comprobó esa investigación antes de presentar el informe”, señaló Wilner, según informó WIRED.

Después de descubrir que al menos dos de los casos citados eran completamente inventados, la jueza Wilner pidió aclaraciones a K&L Gates. Cuando presentaron una nueva versión, resultó incluir aún más citas falsas. La jueza exigió una explicación, que reveló declaraciones juradas admitiendo el uso de herramientas de IA, según informó WIRED..

Wilner concluyó: “El uso inicial y no divulgado de productos de IA para generar el primer borrador del informe fue completamente erróneo […] Y enviar ese material a otros abogados sin revelar sus dudosos orígenes de IA, puso realísticamente a esos profesionales en peligro,” según informó WIRED.

Esta no es la primera vez que la IA ha causado problemas en los tribunales. De hecho, dos abogados de Wyoming recientemente admitieron el uso de casos falsos generados por IA en una presentación judicial para una demanda contra Walmart. Un juez federal amenazó con sancionarlos también.

En este escenario, las “alucinaciones” de la IA — información inventada generada por herramientas de IA — se están convirtiendo en una creciente preocupación en el sistema legal.