Manifiesto para una IA Segura en la Educación

En la publicación anterior hablé sobre las manifiestos propuestos para el uso seguro de la inteligencia artificial (IA), es decir, las proclamas o propuestas que se han hecho para formular maneras convenientes y seguras de utilizar este nuevo recurso. Uno de los manifiestos recientes más importantes es el Manifiesto para una IA Segura en la Educación. Aquí solo voy a presentar su concepción y sus postulados, con el enlace que lleva a la descripción de cada uno.

Según su misma exposición de motivos, "El Manifiesto para una IA Segura en la Educación propone los principios fundamentales que garantizan que la IA se implemente en entornos educativos de manera ética, segura y alineada con los objetivos fundamentales de la educación". Esta iniciativa busca así colaborar para que la IA sea usada convenientemente en los ámbitos educativos.

Más adelante se señala: "Estos principios pretenden proporcionar un marco para guiar a educadores, instituciones educativas, desarrolladores y proveedores de IA en su proceso de decidir si y cómo se debe utilizar la IA en la educación. Aunque otras consideraciones sobre la IA en la educación son importantes, creemos que estos principios son relevantes y aplicables en este contexto". Acá se hace una aclaratoria importante, pues se considera a la IA como un campo de investigación más que un conjunto específico de tecnologías.

Sobre la base de estas intenciones, se formulan siete principios:

Principio 1: Supervisión Humana y Responsabilidad

Principio 2: Garantía de Confidencialidad

Principio 3: Alineación con Estrategias Educativas

Principio 4: Alineación con Prácticas Didácticas

Principio 5: Precisión y Explicabilidad

Principio 6: Interfaz y Comportamiento Integral

Principio 7: Formación Ética y Transparencia

La descripción y explicación de cada uno está en https://manifesto.safeaieducation.org/index_es.html

Allí también están nombrados los autores y aquellos profesionales de la educación, la cultura y la tecnología que han colaborado con sus formulaciones. Sin duda la integración de la IA en la educación tiene un gran potencial y un futuro ineludible, pero su aplicación debe guiarse por principios que prioricen la seguridad, el bienestar, la privacidad y el éxito educativo de los estudiantes.