En los últimos años, el avance de la inteligencia artificial ha transformado múltiples sectores, y la educación no es la excepción, este artículo viene como referencia de uno publicado por Ars Technica sobre cómo está afectando el uso de estas Inteligencias Artificiales, concretamente la que se usa para suplantar la identidad delante de las cámaras.
Suplantación de Identidad: Un Riesgo Creciente en la Formación Online
El desarrollo de software de suplantación de rostros en tiempo real, como el popular Deep-Live-Cam, ha captado la atención global por su capacidad para reemplazar la cara de una persona con la de otra en transmisiones en vivo, como bien muestra el vídeo que se viralizó esta semana de un deep fake de un youtuber a Elon Musk en directo:
A Elon Musk deepfake was made for a livestream, using just one image… pic.twitter.com/EyAW4TOO0Y
— Acknowledge A.I (@acknowledgeai) August 18, 2024
Este tipo de herramientas, que anteriormente requerían equipos especializados y conocimientos técnicos avanzados, ahora están al alcance de cualquier persona con un ordenador doméstico. Estas tecnologías pueden imitar expresiones faciales, iluminación, y movimientos, creando una ilusión sorprendentemente realista.
En el contexto educativo, la implicación más obvia es el fraude académico. Con el aumento de la educación a distancia, especialmente tras la pandemia de COVID-19, muchas instituciones han adoptado exámenes en línea y videoconferencias para impartir clases y evaluar a los estudiantes. Sin embargo, la facilidad con la que alguien puede ahora suplantar a un estudiante durante un examen pone en entredicho la integridad de estos métodos de evaluación.
Herramientas de Suplantación de Identidad: Un Inventario Preocupante
Existen varias herramientas y tecnologías hoy en día que facilitan la suplantación de identidad en tiempo real:
- Deep-Live-Cam:
- Funcionalidad: Permite cambiar el rostro de una persona en tiempo real durante una videollamada, imitando expresiones faciales y movimientos.
- Aplicación: Utilizada principalmente en videoconferencias, este software ha ganado notoriedad por su capacidad de engañar incluso en situaciones de alto riesgo, como reuniones de negocios o exámenes en línea.
- FaceFusion:
- Funcionalidad: Similar a Deep-Live-Cam, FaceFusion utiliza modelos de IA para combinar los rasgos faciales de una persona con los de otra, permitiendo la suplantación en tiempo real.
- Aplicación: Aunque menos conocido, FaceFusion sigue siendo una herramienta poderosa para aquellos que buscan engañar en entornos online.
- Roop:
- Funcionalidad: Un predecesor de Deep-Live-Cam, Roop permite a los usuarios reemplazar su rostro en tiempo real con uno predefinido, basándose en tecnologías de aprendizaje profundo.
- Aplicación: Aunque es una versión más básica, Roop sigue siendo eficaz para suplantar la identidad en videoconferencias.
Estas herramientas se basan en modelos de IA entrenados en vastas bases de datos de imágenes faciales, lo que les permite recrear una cara con sorprendente precisión. En un entorno educativo, esto podría permitir que un impostor realice un examen en lugar del estudiante real, poniendo en peligro la validez del proceso de evaluación.
El Impacto en la Formación y Evaluación: ¿Cómo Prevenir el Fraude?
La proliferación de estas herramientas plantea una pregunta urgente para las instituciones educativas: ¿cómo garantizar que la persona que está frente a la cámara es realmente quien dice ser? La respuesta no es sencilla, pero se están desarrollando varias soluciones para abordar este desafío.
- Verificación Biométrica:
- Descripción: Tecnologías que verifican la identidad de una persona mediante rasgos biométricos, como huellas dactilares, reconocimiento facial avanzado, o escaneo de iris.
- Aplicación en la Formación: Integrar la verificación biométrica en las plataformas de aprendizaje podría ayudar a prevenir el uso de herramientas de suplantación durante exámenes en línea.
- Análisis de Comportamiento:
- Descripción: Herramientas que monitorean patrones de comportamiento, como la forma de escribir o de moverse, para detectar irregularidades que puedan indicar una suplantación.
- Aplicación en la Formación: El análisis del comportamiento del usuario durante los exámenes en línea podría detectar cambios sutiles que sugieran la presencia de un impostor.
- Autenticación de Múltiples Factores (MFA):
- Descripción: El uso de múltiples capas de seguridad, como códigos enviados a dispositivos móviles o preguntas de seguridad personalizadas, para confirmar la identidad de un usuario.
- Aplicación en la Formación: Implementar MFA antes de permitir el acceso a exámenes o clases virtuales podría añadir una capa adicional de protección.
- Monitorización en Tiempo Real:
- Descripción: Sistemas que utilizan IA para analizar en tiempo real la autenticidad de la imagen y el audio de un usuario durante una videoconferencia.
- Aplicación en la Formación: Las instituciones podrían usar esta tecnología para asegurarse de que no se están utilizando herramientas de suplantación de identidad durante los exámenes.
El Futuro de la Educación en la Era de las IA
La capacidad de suplantar identidades en tiempo real es un claro recordatorio de que, a medida que avanzan las tecnologías, también lo hacen los desafíos asociados con ellas. En el ámbito educativo, donde la autenticidad y la verificación de identidad son cruciales, el desarrollo de herramientas como Deep-Live-Cam podría representar un golpe significativo a la integridad académica si no se toman las medidas adecuadas.
Es fundamental que las instituciones educativas, los desarrolladores de tecnología y los reguladores trabajen juntos para encontrar soluciones que preserven la integridad de la educación en línea. Mientras tanto, los estudiantes y educadores deben ser conscientes de estos riesgos y adoptar prácticas seguras para evitar convertirse en víctimas de estas nuevas formas de fraude.
En última instancia, el reto es claro: la educación debe adaptarse rápidamente a la realidad de las IA avanzadas, no solo para mantener la confianza en el sistema, sino también para garantizar que la tecnología siga siendo un aliado, y no un adversario, en la búsqueda del conocimiento.
