Chat-MPCH: Asistente conversacional basado en Transformers para la Municipalidad de Chiclayo

[villegas80@gmail.com]

Chat-MPCH: Asistente conversacional basado en Transformers para la Municipalidad de Chiclayo

Autores.
- Villegas Cubas, Juan Elias
- Garrido Mansilla Gerson Andre
- Huaytalla Pariona Jaime Antonio
- Sacasqui Huaito Shirley Sirene
- Espinoza García José Luis

Resumen:
Este proyecto se enfocó en ajustar un modelo Transformers para crear un sistema de asistencia ciudadana en el ámbito municipal. Usando la técnica de fine-tuning LoRA, se optimizó Llama3.2-1B sin modificar todos sus parámetros, logrando eficiencia en el uso de recursos. El proceso comenzó con la recolección de los datos públicos de una municipalidad, la generación y preparación de 52000 conversaciones representativos de consultas frecuentes de ciudadanos, se entrenó el modelo con 10 épocas ajustando sus hiperparámetros y se desarrolló un chatbot en línea para las respuestas automatizadas y de forma iterativa validando continuamente el rendimiento para mejorar la precisión y coherencia de las respuestas. El modelo alcanzó una alta precisión y agilidad en la generación de respuestas relevantes sobre trámites y sedes municipales.
Este proyecto demostró el potencial del fine-tuning de Llama3 para la atención ciudadana, optimizando la interacción de usuarios con los servicios públicos usando inteligencia artificial.

Palabras clave: Asistencia ciudadana, fine-tuning, Llama3, chatbot automatizado, chat municipal