Hoy, por las redes sociales, recibí un texto alertando sobre los peligros que implica el avance de la inteligencia artificial para nuestra sociedad. No estoy muy de acuerdo y creo que, como siempre, hay posiciones opuestas sobre el tema, pero me pareció interesante reproducir algunas de estas observaciones.
Se señala como primer problema que ciertos sistemas de IA como ChatGPT y Bard, han demostrado varias habilidades emergentes imprevistas. Por ejemplo, Bard, el chatbot de Google, aprendió un nuevo idioma por cuenta propia. También ha sido capaz de reflexionar sobre el dolor que sienten los humanos o sobre cuestiones como la redención. Una conducta que, se dice, todavía no se entiende del todo cómo surgió. No sé cuán cierto será esto, pero es probable que tenga algo de verdad, aunque tal vez no tan dramáticamente como está expuesto.
Otra cosa es que las capacidades de los nuevos sistemas de IA se están acelerando a un ritmo que supera con creces lo previsto. En opinión de algunos expertos, si la IA alcanza alguna forma de conciencia, probablemente revelará una nueva gama de capacidades que van mucho más allá de lo que se espera, sorprendiendo incluso a quienes trabajan en su desarrollo.
La conciencia le daría a la IA un lugar en nuestro panorama moral, lo que plantea más preocupaciones éticas, legales y políticas. Que una IA cobre conciencia quiere decir que podría pensar con la libertad y autonomía de un ser humano. Otras voces piden al sector tecnológico y a la comunidad científica que inviertan más recursos en este campo de estudio. Avanzar en este sentido permitiría a la sociedad y a los gobiernos tomar decisiones sobre el futuro de IA y su potencial impacto. En definitiva, garantizar que esta tecnología no sea perjudicial para la humanidad.
También hay otras preocupaciones. Es sabido que personalidades relevantes en el campo de la ciencia y la tecnología pidieron a las grandes compañías que se frenen los desarrollos de modelos de IA hasta que se sepa con certeza que sus efectos serán positivos y sus riesgos serán manejables. Lo hicieron a través de una carta abierta, firmada por investigadores, especialistas y ejecutivos de la industria tecnológica. Se ha exigido también a los desarrolladores mayor transparencia y priorizar la seguridad de los usuarios sobre el beneficio económico. Las idea es que las acciones y elecciones de las corporaciones estén determinadas por una regulación que proteja los derechos e intereses de las personas. Esto no niega el avance de la IA sino que pide su control.
Como se puede notar, este tema que está en el tapete y que ha cobrado un auge tremendo en las últimas semanas, da para muchas discusiones y opiniones, desde las más optimistas hasta las más alarmantes. Como siempre en estos casos es muy pronto para saber si toda esta discusión tendrá vigencia en los próximos años. Puede que sí...