Una solución de software desarrollada por Intel tiene como objetivo aplicar el poder de la inteligencia artificial a los rostros y el lenguaje corporal de los estudiantes digitales. De acuerdo con el Protocolo, la solución se distribuye como parte del producto de software «Clase» y tiene como objetivo ayudar en las técnicas de capacitación de maestros al permitirles ver los estados mentales inferidos por IA (como aburrimiento, distracción o confusión) de cada estudiante . Intel tiene la intención de expandir el programa a mercados más amplios con el tiempo. Sin embargo, la tecnología se ha encontrado con contratiempos que ponen de relieve los debates sobre la IA, la ciencia, la ética y la privacidad.
La función basada en IA, desarrollada en asociación con Classroom Technologies, está integrada con Zoom a través del producto de software «Class» del primero. Se puede usar para clasificar el lenguaje corporal y las expresiones faciales de los estudiantes siempre que se realicen lecciones digitales a través de la aplicación de videoconferencia. Michael Chasen, cofundador y director ejecutivo de Classroom Technologies, citando las propias experiencias de los maestros después de las clases remotas realizadas durante la pandemia de COVID-19, espera que su software brinde a los maestros información adicional, mejorando las experiencias de aprendizaje remoto.
El software utiliza transmisiones de video de los estudiantes, que alimentan el motor de inteligencia artificial junto con información contextual en tiempo real que le permite calificar la comprensión del tema por parte de los estudiantes. Sinem Aslan, un científico investigador de Intel que ayudó a desarrollar la tecnología, dice que el objetivo principal es mejorar las sesiones de enseñanza individuales al permitir que el maestro reaccione en tiempo real al estado de ánimo de cada estudiante (empujándolos en cualquier dirección). ).
Pero si bien el objetivo de Intel y Classroom Technologies puede tener buenas intenciones, la premisa científica básica detrás de la solución de inteligencia artificial (que el lenguaje corporal y otras señales externas se pueden usar con precisión para inferir el estado mental de una persona) está lejos de ser una conclusión cerrada. debate.
Por un lado, la investigación ha demostrado los peligros del etiquetado: el acto de encajar información, a veces incluso encajarla, en categorías fáciles de entender (pero en última instancia, y con frecuencia, muy simplistas).
Todavía no comprendemos completamente las dimensiones externas a través de las cuales las personas expresan sus estados internos. Por exemplo, o ser humano médio se expressa através de dezenas (alguns dizem até centenas) de microexpressões (pupilas dilatadas, por exemplo), macroexpressões (sorrir ou franzir a testa), gestos corporais ou sinais fisiológicos (como transpiração, aumento da frequência cardíaca , etcétera).
Es interesante reflexionar sobre el modelo de tecnología de IA -y su precisión- cuando la propia comunidad científica no ha podido llegar a una conclusión definitiva sobre la traducción de la acción externa a estados internos. Construir casas sobre arenas movedizas rara vez funciona.
Otra advertencia notable y potencial para el motor de IA es que expresar emociones también varía según las culturas. Si bien la mayoría de las culturas equiparan la sonrisa con una expresión de felicidad interna, la cultura rusa, por ejemplo, reserva las sonrisas para los amigos cercanos y la familia: sonreír excesivamente en el contexto equivocado se interpreta como falta de inteligencia u honestidad. Amplíe esto a la miríada de culturas, etnias y variaciones individuales, y podrá imaginar las implicaciones de estas «peculiaridades» personales y culturales para la precisión del modelo de IA.
Según Nese Alyuz Civitci, investigadora de aprendizaje automático de Intel, el modelo de la empresa se construyó con la visión y la experiencia de un equipo de psicólogos, que analizaron datos reales capturados en clases de la vida real utilizando computadoras portátiles con cámaras 3D. Luego, el equipo de psicólogos pasó a examinar los videos, etiquetando las emociones detectadas a lo largo de las transmisiones. Para que los datos fueran válidos e integrados en el modelo, al menos dos de cada tres psicólogos tenían que ponerse de acuerdo sobre cómo etiquetarlos.
El propio Civitci de Intel encontró extremadamente difícil identificar las sutiles diferencias físicas entre las posibles etiquetas. Curiosamente, Aslan dice que la IA de análisis de emociones de Intel no se evaluó para determinar si reflejaba con precisión las emociones reales de los estudiantes, sino más bien si sus resultados eran instrumentales o confiables para los maestros.
Hay numerosas preguntas que se pueden hacer con respecto a los sistemas de IA, sus datos de entrenamiento (que tienen graves consecuencias, por ejemplo, en la tecnología de reconocimiento facial utilizada por las autoridades) y si se puede confiar en sus resultados. Sistemas como estos pueden ser beneficiosos, incitando a los maestros a hacer la pregunta correcta en el momento adecuado para un estudiante con dificultades. Pero también puede ser perjudicial para el desempeño de los estudiantes, el bienestar e incluso el éxito académico, dependiendo de qué tan preciso sea y cómo los maestros lo usen para informar sus opiniones sobre los estudiantes.
También surgen preguntas sobre el análisis a largo plazo de los estados emocionales de los estudiantes: ¿podría un informe de sistemas como estos ser utilizado por una empresa que contrata a estudiantes universitarios recién salidos, con etiquetas como «deprimido» o «atento»? ¿Hasta qué punto de estos datos deben tener acceso las personas afectadas? ¿Qué pasa con la privacidad emocional de los estudiantes, su capacidad para mantener sus estados emocionales interiorizados? ¿Nos sentimos cómodos con nuestras emociones etiquetadas y accesibles para cualquiera, especialmente si hay alguien en una posición de poder al otro lado de la IA?
La línea entre la vigilancia y las tecnologías de asistencia impulsadas por IA parece desdibujarse, y el aula es solo uno de los entornos en juego. Esto trae una interpretación completamente nueva a llevar nuestros corazones en nuestras mangas.
