Generación automática de resúmenes de documentos legales utilizando grandes modelos de lenguaje con fine-tuning
Palabras clave:
fine-tuning, resumen abstractivo, grandes modelos de lenguaje, dominio legalResumen
La confección de resúmenes a partir de documentos extensos del ámbito legal son de importancia para optimizar la tarea de los profesionales del dominio, como también para contribuir a una extracción de mayor calidad y precisión en sistemas RAG. En este trabajo se propone una metodología basada en un entrenamiento de ajuste fino (fine-tuning) de los modelos de lenguaje de código abierto, Llama y Qwen, combinada con diversas técnicas de prompting. El entrenamiento y la evaluación son aplicados en un corpus de más de catorce mil sentencias de la jurisprudencia argentina. El objetivo es obtener modelos especializados en resúmenes abstractivos, mientras se prioriza mantener una generación donde la longitud de tokens este controlada. Los resultados obtenidos evidencian que los modelos que han pasado por un proceso de fine-tuning junto con el uso de diferentes técnicas de ingeniería de prompts logran capturar de manera más efectiva el contenido relevante de los documentos, manteniendo coherencia semántica y superando a modelos base mientras se respetan restricciones de longitud establecidas. En particular, el modelo Llama 3.1 Instruct (8B) alcanza mejoras relativas de ROUGE L del 63.91% respecto a su versión base y mejoras relativas del 12.66% para BERTScore F1. La técnica desarrollada será utilizada para la generación de bases de datos legales en la cual los resúmenes son parte de la metadata como también para su integración en un sistema RAG.
Descargas
Referencias
Adams, G., Fabbri, A., Ladhak, F., Lehman, E., y Elhadad, N. (2023). From sparse to dense: GPT-4 summarization with chain of density prompting. arXiv. https://arxiv.org/abs/2309.04269
Ajay Mukund, S., y Easwarakumar, K. S. (2025). Optimizing legal text summarization through dynamic retrieval-augmented generation and domain-specific adaptation. Symmetry, 17(5), 633. https://doi.org/10.3390/sym17050633
Akter, M., Çano, E., Weber, E., Dobler, D., y Habernal, I. (2025). A comprehensive survey on legal summarization: Challenges and future directions. arXiv. https://arxiv.org/abs/2501.17830
de Martim, H. (2025). An ontology-driven graph RAG for legal norms: A structural, temporal, and deterministic approach. arXiv. https://arxiv.org/abs/2505.00039
FACENA. (2025). Ceconea. http://cad.unne.edu.ar/index.php
Han, D., y Unsloth Team. (2023). Unsloth. GitHub. http://github.com/unslothai/unsloth
Heddaya, M., MacMillan, K., Malani, A., Mei, H., y Tan, C. (2024). CaseSumm: A large-scale dataset for long-context summarization from U.S. Supreme Court opinions. arXiv. https://arxiv.org/abs/2501.00097
Hu, E. J., Shen, Y., Wallis, P., Allen-Zhu, Z., Li, Y., Wang, S., Wang, L., y Chen, W. (2021). LoRA: Low-rank adaptation of large language models. arXiv. https://arxiv.org/abs/2106.09685
IJ International Legal Group. (2026). Ij international legal group. https://www.ij-ilg.com/
Lin, C.-Y. (2004). A package for automatic evaluation of summaries. Text Summarization Branches Out, 74–81. https://aclanthology.org/W04-1013/
Meta AI. (2024a). Llama-3.1-8b. https://huggingface.co/meta-LLaMA/LLaMA-3.1-8B
Meta AI. (2024b). Llama-3.1-8b-instruct. https://huggingface.co/meta-llama/Llama-3.1-8B-Instruct
Meta AI. (2024c). Meta-llama-3.1-8b-bnb-4bit. https://huggingface.co/unsloth/Meta-LLaMA-3.1-8B-bnb-4bit
Ortman, S., Canteros, L., Vargas, F., Escalante, G., González Coene, A., y Pulido, M. (2025). Anonimización de documentos legales usando LLMs con preentrenamiento continuo y sintonizado fino. JAIIO, Jornadas Argentinas de Informática, 11(1), 325–339. https://revistas.unlp.edu.ar/JAIIO/article/view/19829
Papineni, K., Roukos, S., Ward, T., y Zhu, W.-J. (2002). BLEU: A method for automatic evaluation of machine translation. Proceedings of the 40th Annual Meeting on Association for Computational Linguistics, 311–318. https://doi.org/10.3115/1073083.1073135
Qwen Team. (2024a). Qwen2.5-7b. https://huggingface.co/unsloth/Qwen2.5-7B
Qwen Team. (2024b, September). Qwen2.5: A party of foundation models. https://qwenlm.github.io/blog/qwen2.5/
Qwen Team. (2025, April). Qwen3. https://qwenlm.github.io/blog/qwen3/
Ragazzi, L., Moro, G., Guidi, S., y Frisoni, G. (2024). LAWSUIT: A large expert-written summarization dataset of italian constitutional court verdicts. Artif. Intell. Law, 33(4), 1151–1187. https://doi.org/10.1007/s10506-024-09414-w
Richardson, L. (2007). Beautiful Soup documentation. https://www.crummy.com/software/BeautifulSoup/bs4/doc/
Rush, A. M., Chopra, S., y Weston, J. (2015). A neural attention model for abstractive sentence summarization. En L. Màrquez, C. Callison-Burch, y J. Su (Eds.), Proceedings of the 2015 conference on empirical methods in natural language processing (pp. 379–389). Association for Computational Linguistics. https://doi.org/10.18653/v1/D15-1044
Steffes, B., Rataj, P., Burger, L., y Roth, L. (2023). On evaluating legal summaries with ROUGE. Proceedings of the Nineteenth International Conference on Artificial Intelligence and Law, pp. 457–461. https://doi.org/10.1145/3594536.3595150
Steffes, B., Wiedemann, N. T., Gratz, A., Hochreither, P., Meyer, J. E., y Schilke, K. L. (2025). Summarisation of german judgments in conjunction with a class-based evaluation. arXiv. https://arxiv.org/abs/2505.05947
Vargas, F., Coene, A. G., Escalante, G., Lobón, E., y Pulido, M. (2025). The impact of fine tuning in LLaMA on hallucinations for named entity extraction in legal documentation. arXiv. https://arxiv.org/abs/2506.08827
Vargas, F., González Coene, A., Escalante, G., Lobón, E., y Pulido, M. (2025). El impacto del ajuste fino de LLaMA en las alucinaciones para la extracción de entidades nominales en documentos legales. SADIO Electronic Journal of Informatics and Operations Research, 24(1), e068. https://doi.org/10.24215/15146774e068
Wang, X., Wei, J., Schuurmans, D., Le, Q., Chi, E., Narang, S., Chowdhery, A., y Zhou, D. (2023). Self-consistency improves chain of thought reasoning in language models. arXiv. https://arxiv.org/abs/2203.11171
Wei, J., Wang, X., Schuurmans, D., Bosma, M., Ichter, B., Xia, F., Chi, E., Le, Q., y Zhou, D. (2023). Chain-of-thought prompting elicits reasoning in large language models. arXiv. https://arxiv.org/abs/2201.11903
Zhang, T., Kishore, V., Wu, F., Weinberger, K. Q., y Artzi, Y. (2020). BERTScore: Evaluating text generation with BERT. International Conference on Learning Representations. https://openreview.net/forum?id=SkeHuCVFDr
Zhou, D., Schärli, N., Hou, L., Wei, J., Scales, N., Wang, X., Schuurmans, D., Cui, C., Bousquet, O., Le, Q., y Chi, E. (2023). Least-to-most prompting enables complex reasoning in large language models. arXiv. https://arxiv.org/abs/2205.10625
Descargas
Publicado
Número
Sección
Licencia
Derechos de autor 2026 Luciana Belen Canteros, Federuci Smulever, Francisco Vargas, Sonia I. Mariño, Manuel Pulido
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-CompartirIgual 4.0.
Acorde a estos términos, el material se puede compartir (copiar y redistribuir en cualquier medio o formato) y adaptar (remezclar, transformar y crear a partir del material otra obra), siempre que a) se cite la autoría y la fuente original de su publicación (revista y URL de la obra), b) no se use para fines comerciales y c) se mantengan los mismos términos de la licencia.
