A raíz de un documento presentado por un abogado ante un magistrado de Nueva York, el cual contenía información falsa generada por ChatGPT, un juez federal de Texas prohibió presentar textos realizados por inteligencia artificial, a menos que éstos sean verificados por un humano.
La orden no solo se quedó ahí, pues el togado del distrito de EE. UU., Brantley Starr, también ordenó de manera obligatoria a los abogados, que presenten certificados que acrediten que sus presentaciones fueron escritas o revisadas por humanos.
Dichos certificados, deben reseñar “que ninguna parte de la presentación fue redactada por inteligencia artificial generativa como ChatGPT, Harvey.AI o Google Bard”. En dado caso, de que se haya realizado con esta tecnología, el legista debe dejar claro que esa información “se verificó” y que su contenido fue extraído de reportes impresos o bases de datos legales tradicionales, por un ser humano.
Te puede interesar: Abogado usó ChatGPT para ganar demanda contra Avianca, pero la aerolínea lo descubrió
El magistrado Brantley Starr, dejó claro que pese a que estás tecnologías son poderosas y tienen muchos usos en la ley como “formularios de divorcio, solicitudes de descubrimiento, errores sugeridos en documentos o preguntas anticipadas en argumentos orales”, no significa que en tanto a información legal presentada ante un tribunal, sea una de ellas.
El togado explica que en dichos informes, estas plataformas no son tan útiles ya que “en sus estados actuales son propensas a alucinaciones y prejuicios. Sobre las alucinaciones, inventan cosas, incluso citas y menciones”.
Te puede interesar: Le ‘caerá’ la ley a la inteligencia artificial ¿Qué planea la UE?
Además, argumentó que sobre “la confiabilidad o el sesgo”, estás IA son producto de la programación ideada por humanos que no tenían que hacer tal juramento. Es decir, los abogados realizan “un juramento para dejar de lado sus prejuicios, prejuicios y creencias personales para defender fielmente la ley y representar a sus clientes”.
“Estos sistemas no guardan lealtad a ningún cliente, el estado de derecho o las leyes y la Constitución de los Estados Unidos (o, como se mencionó anteriormente, la verdad)”, dijo Starr.
Para los abogados que lleven al tribunal de Texas, informes legales que contenga información generada por una IA sin revisión humana y sin certificación, el juzgado “anulará cualquier presentación de un legista que no presente un certificado en el expediente que certifique que el abogado ha leído los requisitos específicos del juez del Tribunal y entiende que él o ella será responsable”.
Imagen: Pixabay
