Manifiestos por una IA segura

Los llamados Safe AI Manifestos ("Manifiestos por una IA Segura") son documentos que reúnen una serie de principios y recomendaciones para desarrollar y utilizar la inteligencia artificial (IA) de manera segura, ética y responsable. Se han popularizado varios manifiestos de este tipo, que varían según la organización que los elabore, pero en general buscan abordar puntos y temas clave para el uso de la IA.

Podemos destacar varios aspectos en este sentido. El primero es el de la seguridad. Se proclama garantizar que los sistemas de IA no causen daños a personas o al medio ambiente, ya sea de forma intencional o accidental. Como consecuencia de esto, se pide promover el desarrollo de una IA que respete los valores humanos, como la privacidad, la justicia y la equidad. En este caso, la ética es fundamental.  También se exige transparencia. Hay que asegurarse de que los sistemas de IA sean comprensibles y explicables, de modo que las personas puedan entender cómo toman sus decisiones. Esto conduce al establecimiento de mecanismos para que los desarrolladores y usuarios de IA sean responsables de las consecuencias de sus sistemas. 

A medida que la IA se integra cada vez más en nuestra vida diaria, es fundamental establecer normas y estándares que garanticen su uso seguro y beneficioso para la sociedad. Estos manifiestos sirven como guía para investigadores, desarrolladores, empresas y gobiernos, promoviendo una IA que sea beneficiosa para todos, contribuyendo al bienestar humano y al desarrollo sostenible. Así mismo, que sea justa y equitativa, evitando la discriminación y el sesgo algorítmico, y que sea democrática, que garantice que la IA esté al servicio de las personas y no al revés.

El origen de estos manifiestos es bastante diverso y refleja la creciente preocupación global por el desarrollo y uso ético de la inteligencia artificial. Uno de esos documentos que reviste gran importancia es el "Manifiesto por una IA segura en la educación", que se ha actualizado en octubre de 2024 y cuyos enunciados veremos en la próxima publicación.