# Inteligencia Artificial jur'idica y el desaf'io de la veracidad: an'alisis de alucinaciones, optimizaci'on de RAG y principios para una integraci'on responsable

arXiv: https://arxiv.org/abs/2509.09467 · HTML: https://mlsanity.com/paper/2509.09467/

## Key facts

- Cited by 2 papers in the map (data through 14 Oct 2026).
- First posted on arXiv 11 Sep 2025.

## Built on by (most cited first, 2 of 2)

- [Reliability by design: quantifying and eliminating fabrication risk in LLMs. From generative to consultative AI: a comparative analysis in the legal domain and lessons for high-stakes knowledge bases](https://mlsanity.com/paper/2601.15476/) (2026)
- [Gobernanza y trazabilidad "a prueba de AI Act" para casos de uso legales: un marco t'ecnico-jur'idico, m'etricas forenses y evidencias auditables](https://mlsanity.com/paper/2510.12830/) (2025)

## Abstract (arXiv)

This technical report analyzes the challenge of "hallucinations" (false information) in LLMs applied to law. It examines their causes, manifestations, and the effectiveness of the RAG mitigation strategy, highlighting its limitations and proposing holistic optimizations. The paper explores the ethical and regulatory implications, emphasizing human oversight as an irreplaceable role. It concludes that the solution lies not in incrementally improving generative models, but in adopting a "consultative" AI paradigm that prioritizes veracity and traceability, acting as a tool to amplify, not replace, professional judgment. -- Este informe t'ecnico analiza el desaf'io de las "alucinaciones" (informaci'on falsa) en los LLMs aplicados al derecho. Se examinan sus causas, manifestaciones y la efectividad de la estrategia de mitigaci'on RAG, exponiendo sus limitaciones y proponiendo optimizaciones hol'isticas. Se exploran las implicaciones 'eticas y regulatorias, enfatizando la supervisi'on humana como un rol insustituible. El documento concluye que la soluci'on no reside en mejorar incrementalmente los modelos generativos, sino en adoptar un paradigma de IA "consultiva" que priorice la veracidad y la trazabilidad, actuando como una herramienta para amplificar, y no sustituir, el juicio profesional.