Search
-
June 18, 2024Por Carol Glatz, Catholic News Service
CIUDAD DEL VATICANO (CNS) -- Los líderes políticos tienen la responsabilidad de crear las condiciones necesarias para que la inteligencia artificial esté al servicio de la humanidad y ayudar a mitigar sus riesgos, dijo el Papa Francisco a los líderes mundiales.
"No podemos permitir que una herramienta tan poderosa e indispensable como la inteligencia artificial refuerce tal paradigma (tecnocrático), sino que más bien debemos hacer de la inteligencia artificial un baluarte precisamente contra su expansión" contra la amenaza, dijo en su discurso del 14 de junio en la cumbre del Grupo de los Siete que se celebra en el sur de Italia.
"Aquí es precisamente donde urge la acción política", afirmó.
Mucha gente cree que la política es "una mala palabra, y no se puede ignorar que detrás de este hecho están a menudo los errores, la corrupción, la ineficiencia de algunos políticos. A esto se añaden las estrategias que buscan debilitarla, reemplazarla por la economía o dominarla con alguna ideología", dijo.
Pero el mundo no puede funcionar sin una política sana, dijo el Papa, y el progreso efectivo hacia "la fraternidad universal y la paz social" requiere una vida política sana.
El Papa se dirigió a los líderes en la sesión especial del G7 dedicada a la inteligencia artificial. Además de los miembros del G7 -- Estados Unidos, Japón, Canadá, Alemania, Francia, Italia y Gran Bretaña --, en el foro participaron jefes de Estado especialmente invitados, entre ellos los dirigentes de Argentina, India y Brasil.
La cumbre del G7 se celebró en Borgo Egnazia en Puglia del 13 al 15 de junio para debatir una serie de asuntos de alcance mundial, como la migración, el cambio climático y el desarrollo en África, así como la situación en Oriente Próximo y Ucrania. Estaba previsto que el Papa se reuniera en privado con 10 jefes de Estado y líderes mundiales en encuentros bilaterales antes y después de su discurso, entre ellos el presidente de Estados Unidos, Joe Biden, y el presidente de Ucrania, Volodymyr Zelenskyy.
Debido a los límites de tiempo establecidos para los oradores durante la sesión de divulgación, el Papa sólo leyó una parte de su discurso de cinco páginas, aunque el texto completo se incluyó en el acta oficial. El Vaticano facilitó una copia del texto íntegro.
En su discurso, el Papa calificó la inteligencia artificial de herramienta apasionante y temible. Podría utilizarse para ampliar el acceso al conocimiento a todo el mundo, para hacer avanzar rápidamente la investigación científica y para "delegar a las máquinas los trabajos desgastantes".
"Podría traer consigo una mayor inequidad entre naciones avanzadas y naciones en vías de desarrollo, entre clases sociales dominantes y clases sociales oprimidas, poniendo así en peligro la posibilidad de una 'cultura del encuentro' y favoreciendo una 'cultura del descarte'", afirmó.
Como todo instrumento y tecnología, dijo, "los beneficios los daños que esta conlleve dependerán de su uso".
Aunque hizo un llamado a la comunidad mundial para que encuentre principios compartidos para un uso más ético de la IA, el Papa Francisco también pidió la prohibición total de ciertas aplicaciones.
Por ejemplo, repitió su insistencia en que se prohíban las llamadas "armas autónomas letales", afirmando que "ninguna máquina debe elegir jamás poner fin a la vida de un ser humano".
La toma de decisiones debe dejarse siempre en manos de la persona humana, expresó. La propia dignidad humana depende de que haya un control humano adecuado sobre las decisiones que toman los programas de inteligencia artificial.
La humanidad estaría condenada a un futuro sin esperanza "si quitáramos a las personas la capacidad de decidir por sí mismas y por sus vidas, condenándolas a depender de las elecciones de las máquinas", afirmó. En su texto, criticó específicamente que los jueces utilicen la IA con los datos personales de los presos, como su etnia, antecedentes, educación, evaluaciones psicológicas y calificación crediticia, para determinar si es probable que el preso reincida tras su puesta en libertad y, por tanto, requiera prisión domiciliaria.
El Papa también advirtió, especialmente a los estudiantes, contra la "inteligencia artificial generativa", que son "magníficos instrumentos de acceso al conocimiento" y ponen fácilmente a disposición en línea aplicaciones "para componer un texto o producir una imagen sobre cualquier tema o materia".
Sin embargo, dijo, estas herramientas no son "generativas", en el sentido de que no desarrollan nuevos análisis o conceptos, sino que se limitan a ser "reforzadoras", ya que sólo pueden repetir lo que encuentran, dándole un nuevo orden y "muchas veces sin controlar si tienen errores o prejuicios".
La IA generativa no solo corre "el riesgo de legitimar la difusión de noticias falsas y robustecer la ventaja de una cultura dominante, sino de minar también el proceso educativo en cierne", decía su texto.
"Y es así que en esta época en la que los programas de inteligencia artificial cuestionan al ser humano y su actuar, precisamente la debilidad del ethos vinculada a la percepción del valor y de la dignidad de la persona humana corre el riesgo de ser el mayor daño en la implementación y el desarrollo de estos sistemas", dijo a los líderes. "No debemos olvidar que ninguna innovación es neutral".
La tecnología incide de algún modo en las relaciones sociales y representa una especie de "orden en las relaciones sociales y una disposición de poder, que habilita a alguien a realizar determinadas acciones impidiéndoselo a otros", afirmó. "Esta dimensión de poder que es constitutiva de la tecnología incluye siempre, de una manera más o menos explícita, la visión del mundo de quien la ha realizado o desarrollado".
Para que los programas de inteligencia artificial sean instrumentos que construyan el bien y creen un mañana mejor, dijo, "deben estar siempre ordenados al bien de todo ser humano", y deben tener una inspiración ética, subrayando su apoyo al "Llamamiento de Roma por la ética de la IA" lanzado en 2020.
Depende de todos "hacer un buen uso" de la inteligencia artificial, dijo, "y corresponde a la política crear las condiciones para que ese buen uso sea posible y fructífero".
