Modelo combinado para clasificación de documentos, a partir de la evaluación comparativa de modelos semisupervisados
Palabras clave:
co-entrenamiento, aprendizaje de transferencia, clasificación de documentosResumen
La escasez de documentos etiquetados limita la clasificación automática de documentos y eleva los costos de etiquetado. En este contexto, el aprendizaje semi-supervisado (SSL) constituye una alternativa viable; sin embargo, la selección de modelos adecuados se dificulta por la ausencia de análisis comparativos que evidencien sus fortalezas y limitaciones. Este trabajo presenta dos aportes principales. El primero es una Revisión Sistemática de la Literatura (SLR), basada en PICOC y PRISMA, que sistematiza el estado del arte de los modelos SSL aplicados a la clasificación de documentos e identifica dos problemas recurrentes: la adaptación de dominio y la definición de límites de decisión. El segundo aporte es COTRA, un modelo semi-supervisado multivista para la clasificación de documentos científicos que integra técnicas de coentrenamiento y aprendizaje por transferencia, mediante representaciones preentrenadas de BERT. Frente a modelos individuales, COTRA aborda de manera conjunta los problemas de adaptación de dominio y límites de decisión mediante una representación multivista que combina información complementaria de los documentos. Esto reduce la incertidumbre en la asignación de etiquetas y mejora la generalización en escenarios con pocos datos etiquetados. El modelo propuesto se implementa y evalúa experimentalmente sobre el conjunto de datos EcuCiencia, perteneciente a una plataforma científica universitaria, y su desempeño se compara con modelos individuales y combinados bajo diferentes porcentajes de documentos etiquetados. Los resultados muestran que COTRA alcanza una precisión de hasta 0,81, superando a los modelos de referencia y evidenciando la pertinencia de integrar una estrategia multivista con aprendizaje por transferencia para la clasificación de documentos.
Descargas
Referencias
Almuqati, M. T., et al. (2024). Challenges in supervised and unsupervised learning: A comprehensive overview. International Journal of Advanced Science and Engineering Information Technology, 14(4).
Altınel, B., & Ganiz, M. C. (2016). A new hybrid semi-supervised algorithm for text classification with class-based semantics. Knowledge-Based Systems, 108, 50–64.
Barman, D., & Chowdhury, N. (2018). A novel semi supervised approach for text classification. International Journal of Information Technology.
Beltagy, I., Peters, M. E., & Cohan, A. (2020). Longformer: The long-document transformer. arXiv preprint arXiv:2004.05150.
Cevallos-Culqui, A., Pons, C., & Rodriguez, G. (2023). Semi-supervised learning models for document classification: A systematic review and meta-analysis. Inteligencia Artificial, 26(72), 81–111.
Cevallos-Culqui, A., Pons, C., & Rodríguez, G. (2024). A co-training model based in learning transfer for the classification of research papers. In IEEE 12th International Conference on Intelligent Systems.
Emadi, M., et al. (2021). A selection metric for semi-supervised learning based on neighborhood construction. Information Processing & Management, 58(2).
Ginde, G., et al. (2016). ScientoBASE: a framework and model for computing scholastic indicators of non-local influence of journals via native data acquisition algorithms. Scientometrics, 108(3), 1479–1529.
Guo, S., & Yao, N. (2021). Document vector extension for document classification. IEEE Transactions on Knowledge and Data Engineering, 33(8), 3062–3074.
Ibáñez, A. (2015). Machine learning in scientometrics. Universidad Politécnica de Madrid. http://oa.upm.es/36488/
Jia, W., et al. (2022). Semi-supervised learning via axiomatic fuzzy set theory and SVM. IEEE Transactions on Cybernetics, 52(6), 4661–4674. Jia, X., et al. (2021). Semi-supervised multi-view deep discriminant representation learning. IEEE Transactions on Pattern Analysis and Machine Intelligence, 43(7), 2496–2509.
Jiang, T., Gradus, J. L., & Rosellini, A. J. (2020). Supervised machine learning: a brief primer. Behavior Therapy, 51(5), 675–687.
Khan, J., & Lee, Y. K. (2019). LeSSA: A unified framework based on lexicons and semisupervised learning approaches for textual sentiment classification. Applied Sciences, 9(24).
Kuckartz, U. (2019). Qualitative text analysis: A systematic approach. Compendium for Early Career Researchers in Mathematics Education, 181–197.
Li, J., et al. (2020). An effective framework based on local cores for self-labeled semisupervised classification. Knowledge-Based Systems, 197.
Liu, M. (2019). Weak supervision and active learning for natural language processing. Monash University.
Macgregor, G. (2023). Digital repositories and discoverability: definitions and typology. In Discoverability in Digital Repositories (pp. 11–31). Routledge.
Maridueña, M., Leyva, M., & Febles, A. (2016). Modelado y análisis de indicadores de ciencia y tecnología mediante mapas cognitivos difusos. Ciencias de la Información, 47(1), 17–24.
Masmoudi, A., et al. (2021). A co-training-based approach for the hierarchical multi-label classification of research papers. Expert Systems, 38(4).
McNie, E. C., Parris, A., & Sarewitz, D. (2016). Improving the public value of science: A typology to inform discussion, design and implementation of research. Research Policy, 45(4), 884–895.
Mohammed, M., et al. (2022). Study on sentiment classification strategies based on fuzzy logic with crow search algorithm. Research Square.
Ouali, Y., Hudelot, C., & Tami, M. (2020). An overview of deep semi-supervised learning. arXiv preprint arXiv:2006.05278.
Padmanabha, Y., Viswanath, P., & Eswara, B. (2018). Semi-supervised learning: a brief review. International Journal of Engineering & Technology, 7(1.8), 81.
Ruder, S., et al. (2019). Transfer learning in natural language processing. In NAACL Tutorials (pp. 15–18).
Shrutika, S., & Prabukumar, M. (2017). Semi-supervised techniques based hyperspectral image classification: A survey. In International Conference on Innovations in Power and Advanced Computing Technologies (pp. 1–8)
Su, J.-C., Cheng, Z., & Maji, S. (2021). A realistic evaluation of semi-supervised learning for fine-grained classification. In Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (pp. 12966–12975).
Van Engelen, J. E., & Hoos, H. H. (2020). A survey on semi-supervised learning. Machine Learning, 109(2), 373–440.
Yang, Y., & Loog, M. (2018). A benchmark and comparison of active learning for logistic regression. Pattern Recognition, 83, 401–415.
Descargas
Publicado
Número
Sección
Licencia
Derechos de autor 2026 Alex Cevallos-Culqui, Claudia Pons, Gustavo Rodriguez
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-CompartirIgual 4.0.
Acorde a estos términos, el material se puede compartir (copiar y redistribuir en cualquier medio o formato) y adaptar (remezclar, transformar y crear a partir del material otra obra), siempre que a) se cite la autoría y la fuente original de su publicación (revista y URL de la obra), b) no se use para fines comerciales y c) se mantengan los mismos términos de la licencia.
