Inteligencia Artificial jur'idica y el desaf'io de la veracidad: an'alisis de alucinaciones, optimizaci'on de RAG y principios para una integraci'on responsable

This technical report analyzes the challenge of "hallucinations" (false information) in LLMs applied to law. It examines their causes, manifestations, and the effectiveness of the RAG mitigation strategy, highlighting its limitations and proposing holistic optimizations. The paper explores the ethical and regulatory implications, emphasizing human oversight as an irreplaceable role. It concludes that the solution lies not in incrementally improving generative models, but in adopting a "consultative" AI paradigm that prioritizes veracity and traceability, acting as a tool to amplify, not replace, professional judgment. -- Este informe t'ecnico analiza el desaf'io de las "alucinaciones" (informaci'on falsa) en los LLMs aplicados al derecho. Se examinan sus causas, manifestaciones y la efectividad de la estrategia de mitigaci'on RAG, exponiendo sus limitaciones y proponiendo optimizaciones hol'isticas. Se exploran las implicaciones 'eticas y regulatorias, enfatizando la supervisi'on humana como un rol insustituible. El documento concluye que la soluci'on no reside en mejorar incrementalmente los modelos generativos, sino en adoptar un paradigma de IA "consultiva" que priorice la veracidad y la trazabilidad, actuando como una herramienta para amplificar, y no sustituir, el juicio profesional.