IntelligentEthicApp: avanzando hacia una nueva generación de aprendizaje ético con IA
IntelligentEthicApp: avanzando hacia una nueva generación de aprendizaje ético con IA
1 de Abril de 2026
El proyecto IntelligentEthicApp tiene como objetivo llevar la plataforma EthicApp a un nuevo nivel en términos de eficacia pedagógica, incorporando capacidades basadas en inteligencia artificial generativa. En particular, busca fortalecer procesos clave del aprendizaje ético, tales como la retroalimentación formativa, el andamiaje del razonamiento moral y el apoyo a la toma de decisiones éticas, tanto a nivel individual como colectivo.
Este esfuerzo se basa en una línea de investigación consolidada en el uso de tecnologías CSCL (Computer-Supported Collaborative Learning) para la enseñanza de la ética, donde EthicApp ha demostrado ser una herramienta efectiva para estructurar discusiones basadas en dilemas. Sin embargo, también se han identificado algunas limitaciones y desafíos relevantes, como la tendencia de grupos de conversación anónimos a alcanzar consensos prematuros en discusiones grupales, como también debilidad en la capacidad argumentativa de ciertos estudiantes.
En este contexto, IntelligentEthicApp propone una arquitectura basada en múltiples agentes de IA especializados, capaces de intervenir en distintos momentos del proceso de aprendizaje, promoviendo mayor profundidad reflexiva y diversidad argumentativa.
Proceso de desarrollo del proyecto
El proyecto ha seguido un enfoque de diseño centrado en las personas (Human-Centered Design), involucrando a investigadores, docentes y desarrolladores en un proceso de co-diseño estructurado.
Este proceso ha contemplado múltiples fases, incluyendo:
- Identificación de necesidades pedagógicas a partir del uso real de EthicApp.
- Generación y priorización de ideas para el uso de IA generativa.
- Definición de funcionalidades y requisitos.
- Diseño de una arquitectura multiagente.
- Desarrollo de prototipos.
- Evaluación formativa con usuarios.
Este proceso se ha extendido por más de un año e involucró a más de 20 participantes de distintas disciplinas y contextos educativos.
Entre las ideas principales que emergieron del co-diseño destacan:
- Intervenciones automáticas para mejorar la calidad del debate.
- Un agente “abogado del diablo” para promover el desacuerdo productivo.
- Promoción de tópicos relevantes durante la discusión.
- Evaluación automática y retroalimentación de argumentos individuales antes de compartirlos con otros participantes.
Equipo de trabajo
El proyecto es liderado por los investigadores Yannis Dimitriadis, Gustavo Zurita, y Claudio Álvarez, y cuenta con la participación de un equipo interdisciplinario de académicos e investigadores de distintas instituciones.
Entre ellos se encuentran:
- Pablo Ramírez Rivas, Director del equipo ETHICS, Escuela de Ingeniería y Ciencias, Universidad de Chile.
- Leslier Valenzuela, Profesora Asociada, Departamento de Administración, Facultad de Economía y Negocios, Universidad de Chile.
- María José Cornejo, Académica del Departamento de Promoción de la Salud de la Mujer y el Recién Nacido, Universidad de Chile.
Asimismo, el proyecto cuenta con la colaboración de investigadores de la Universidad de Valladolid, en el marco de una cooperación internacional sostenida en el área de tecnologías para el aprendizaje.
Evaluación de prototipos (Sesión 7)
Un hito reciente del proyecto fue la Sesión 7, dedicada a la evaluación de prototipos desarrollados a partir del proceso de co-diseño.
En esta sesión se evaluaron dos herramientas principales:
-
Tutor de argumentación
Un sistema que permite a los estudiantes construir y mejorar sus argumentos mediante ciclos de retroalimentación automática. Este tutor se basa en el modelo de Toulmin (reclamación, evidencia y garantía), guiando a los estudiantes en la estructuración de sus justificaciones. -
Agente “abogado del diablo”
Un agente que participa en discusiones grupales introduciendo contraargumentos, cuestionando ideas y promoviendo el desacuerdo reflexivo. Su objetivo es evitar consensos prematuros y fomentar un análisis más profundo de los dilemas éticos.
Durante la sesión, los participantes trabajaron con ambos sistemas en torno al Caso Sebastián, un dilema de ética académica ampliamente utilizado en estudios previos. La actividad incluyó instancias de uso guiado, discusión grupal y evaluación final de las herramientas.
Los resultados preliminares de esta evaluación indican que:
- El tutor de argumentación presenta alta aceptación en términos de usabilidad y apoyo al aprendizaje.
- El agente mediador de chat muestra potencial significativo, aunque su efectividad depende fuertemente del timing y la calidad de sus intervenciones.
- Existe consenso sobre la importancia de mantener el control pedagógico en manos del docente.
Proyecciones
El proyecto continuará con nuevas iteraciones de diseño, evaluación con estudiantes y refinamiento de los prototipos, con miras a su integración en la plataforma EthicApp.
Se espera que IntelligentEthicApp contribuya a avanzar en el diseño de sistemas educativos basados en IA que no reemplacen al docente ni al estudiante, sino que potencien su agencia, promoviendo un aprendizaje ético más profundo, reflexivo y fundamentado.