CNR Institutional Research Information System

El uso de algoritmos en la administracíon de la justicia – el caso ChatGPT

Chiappini daniele
2024
2024
Istituto di Bioscienze e Biorisorse - IBBR - Sede Secondaria Perugia
978-989-712-956-8
978-652-631-327-5
El artículo realiza una evaluación de la implementación de algoritmos en la administración de justicia, centrándose, después de realizar una panorámica de los diferentes sistemas utilizados en este ámbito para comprender su impacto y los desafíos que surgen, en el uso de Chat GPT (Generative Pre-trained Transformer). En particular, el artículo examina la confiabilidad del chatbot en la asistencia a profesionales del derecho y juristas. El creciente uso de la Inteligencia Artificial en el ámbito jurídico ha generado un interés significativo y ha planteado interrogantes sobre la eficacia y confiabilidad de los sistemas basados en algoritmos. Estas herramientas prometen automatizar y simplificar algunas actividades, pero su plena confiabilidad y capacidad para resolver problemas complejos aún están sujetas a debate. El presente artículo examina casos de derecho penal tomados de los presentados en el examen de abogado en Italia, que fueron sometidos a Chat GPT para su resolución. A través de estas simulaciones, se analizan los resultados obtenidos y las limitaciones del sistema. Se han identificado escenarios en los que Chat GPT proporcionó respuestas precisas y oportunas, demostrando un potencial beneficio para acelerar los procedimientos legales, pero también situaciones en las que no pudo proporcionar un apoyo adecuado, e incluso respuestas incorrectas. Además, se presenta un problema significativo, conocido como la llamada “alucinación de IA”. De hecho, Chat GPT mostró una tendencia a proporcionar respuestas basadas en información incorrecta o distorsionada, sin la capacidad de detectar tales errores, lo que plantea graves preocupaciones sobre su confiabilidad en la producción de contenido legal preciso.
The article conducts an evaluation of algorithm implementation in the administration of justice, focusing on the use of Chat GPT (Generative Pre-trained Transformer) after providing an overview of the different systems used in the field to understand their impact and resulting challenges. Specifically, the article examines the reliability of the chatbot in assisting legal professionals and jurists. The growing use of Artificial Intelligence in the legal field has indeed sparked significant interest and raised questions about the effectiveness and reliability of algorithm-based systems. These tools promise to automate and simplify certain tasks, but their full reliability and ability to solve complex problems are still subject to debate. The article examines criminal law cases taken from those presented in the Italian bar examination, which were submitted to Chat GPT for resolution. Through these simulations, the obtained results and limitations of the system are analyzed. As results, Chat GPT provided accurate and timely responses, demonstrating a potential advantage in expediting legal procedures, but also situations where it failed to offer adequate support, or even provided erroneous information. Furthermore, a significant problem is presented, known as AI hallucination. Chat GPT has shown a tendency to provide responses based on erroneous or distorted information, without the ability to detect such errors, raising serious concerns about its reliability in producing accurate legal content.
File in questo prodotto:
File Dimensione Formato  
El uso de algoritmos en la administración de justicia - el caso ChatGPT.pdf

solo utenti autorizzati

Licenza: NON PUBBLICO - Accesso privato/ristretto
Dimensione 237.23 kB
Formato Adobe PDF
  Visualizza/Apri   Richiedi una copia
237.23 kB Adobe PDF   Visualizza/Apri   Richiedi una copia

I documenti in IRIS sono protetti da copyright e tutti i diritti sono riservati, salvo diversa indicazione.

Utilizza questo identificativo per citare o creare un link a questo documento: https://hdl.handle.net/20.500.14243/523594
Citazioni
  • ???jsp.display-item.citation.pmc??? ND
  • Scopus ND
  • ???jsp.display-item.citation.isi??? ND
social impact