- Institutos en Australia utilizan Azure AI Content Safety para bloquear contenidos no deseados
Por Isabela Duran
El Departamento de Educación de Australia del Sur decidió implementar IA generativa en las aulas.
Implementar herramientas tecnológicas como inteligencia artificial generativa en institutos educativos representa un gran avance en los métodos de enseñanza, sin embargo, la seguridad e integridad de los estudiantes es un factor que se debe tener en cuenta dentro de la ecuación.
Uso de la IA, desarrollo, implementación e incluso generación de imágenes son algunos de los contenidos gratuitos que ofrece Google. (REUTERS/Dado Ruvic)
Siete cursos de Google para aprender sobre inteligencia artificial desde casa
El Departamento de Educación de Australia del Sur, cuando decidió acercar la IA generativa a los alumnos, se cuestionó cómo debería hacerlo de manera responsable.
La principal preocupación giraba en torno a ayudar a proteger a los estudiantes de contenidos potencialmente dañinos o inapropiados que pueden reflejarse en el resultado de un gran modelo de lenguaje, dada su formación en vastas extensiones sin filtrar de Internet, dijo Simon Chapman, director de arquitectura digital del departamento.
“No existen barreras de seguridad sobre cómo los estudiantes pueden interactuar con estas herramientas”, añadió.
La mayor preocupación del departamento de Educación del estado australiano era que la IA no filtra la información.
En este contexto, el gobierno australiano decidió experimentar con EdChat, un chatbot impulsado por inteligencia artificial, combinado con Azure AI Content Safety. Este último sistema sirvió como una barrera que bloqueaba contenido no apto para los estudiantes.
Es tendencia: Cómo crear el póster de una película inspirados en Disney
Casi 1.500 estudiantes y 150 profesores de ocho escuelas secundarias probaron la capacidad del bot para ayudar a investigar todo, desde la división celular hasta la trama de ‘De ratones y hombres’ de John Steinbeck. El departamento todavía está en el proceso de evaluación de los resultados pero el sistema de Microsoft recibió buenas calificaciones.
Las funciones de seguridad integradas de EdChat bloquearon consultas de entrada inapropiadas y filtraron respuestas dañinas, lo que permitió a los maestros centrarse en los beneficios educativos de la tecnología en lugar de la supervisión del contenido, dijo el director de arquitectura digital del departamento de Educación.
