La digitalización nos ha convertido en vitalmente dependientes de las TICs y esto nos sitúa ya en la Hiperhistoria. En este contexto donde la información es el recurso fundamental, la educación adquiere una importancia estratégica al ser el medio que la hace posible. Garantizar que llegue a todos es por ello uno los objetivos de la Agenda 2030 (ODS4) y no sorprende que, para alcanzarlo de manera eficaz, se incorporen al ámbito educativo herramientas de Inteligencia Artificial (IA). No obstante, esto tiene numerosas implicaciones sociales, éticas y deontológicas que debemos aprender a gestionar.
Prescindir de esos recursos no parece viable porque, además de renunciar a su potencial, comprometería los fines de la educación que incluyen incorporar a los estudiantes al mundo en el que van a vivir. Por otra parte, la actividad educativa puede ser un excelente banco de pruebas para orientar soluciones a las preocupaciones éticas legítimas que suscitan los sistemas inteligentes. Pero necesitamos al menos: 1) identificar las oportunidades y desafíos que conlleva su empleo en este ámbito de especial riesgo; y 2) concretar un marco ético que regule el desarrollo, despliegue y uso de estos sistemas y ayude a conducir la toma de decisiones pedagógicas.
Esto no debería confiarse solo a los científicos que crean la IA, a los tecnólogos que la implementan o a los educadores que la utilizan. Conviene adoptar un enfoque “externo”, que considere la triple dimensión científica, tecnológica y social de los problemas y las posibles soluciones. Siendo la Inteligencia Artificial en Educación un quehacer científico de diseño, esta reflexión atañe de manera especial a la Filosofía de la Ciencia.
En general, el objetivo de las Ciencias de Diseño es modular el futuro de acuerdo con unos fines previamente elegidos. Partiendo de la predicción de cómo pueden ser las cosas, prescriben pautas de actuación que les permitan, si es preciso, modificarlas. Con este fin diseñan intervenciones en distintos campos de la actividad humana y, para hacerlas operativas, pueden incorporar diseños tecnológicos como las aplicaciones de IA para la educación que conocemos. Esto revela la verdadera dimensión de sus implicaciones éticas en relación con los objetivos (que pueden ser discutibles), los procesos (tal vez inadecuados), los resultados (que podrían cuestionar la intervención misma) y las consecuencias (a veces no deseadas).
Los Sistemas de Inteligencia Artificial (SIA) se utilizan en educación para resolver problemas y mejorar las posibilidades de alcanzar los objetivos planteados: facilitar la gestión; automatizar tareas rutinarias de los profesores; apoyar la enseñanza; personalizar la experiencia educativa ajustando las trayectorias de los estudiantes a sus perfiles, características y comportamiento individual; atender a necesidades educativas especiales, etc. Aunque el uso de la IA se está normalizando en este ámbito, la investigación empírica sobre su efecto real es todavía escasa. La formación de los docentes es crucial para implementarla adecuadamente, pero los riesgos potenciales tienen relación, sobre todo, con los diseños de las herramientas y cómo se introducen en el “mercado” educativo.
Se sabe que pueden interferir en la autonomía y la responsabilidad de las personas y obstaculizar derechos universales como la privacidad, la igualdad y la no discriminación, lo que requiere una especial precaución en este contexto. Pero hay que considerar otros daños derivados: a) de las decisiones en las que influyen los SIA; b) de sus diagnósticos y predicciones que pueden condicionar el futuro de los estudiantes; c) de su influencia en el desarrollo y la madurez de las personas; o d) de las concepciones sociales y políticas que trasladan al ámbito educativo.
Lo que sucede es que no podemos acceder a las ventajas de esta tecnología sin enfrentarnos a sus consecuencias negativas. Por lo tanto, hay que tratar de anticipar y calibrar sus impactos y seleccionar los valores y principios que debemos proteger. Así surgió la Ética de la IA como un campo de estudio multidisciplinar centrado, inicialmente, en la elaboración de códigos éticos para orientar el desarrollo, despliegue y uso de los sistemas inteligentes.
Son numerosas las propuestas de investigadores, organismos, instituciones y corporaciones que surgieron en los últimos años. Pero necesitamos también adoptar marcos éticos apropiados para el uso y desarrollo concretos de la IA en la educación, donde hay una sorprendente escasez de iniciativas. Es importante que contengan principios similares o al menos compatibles con los adoptados en otros ámbitos para los mismos problemas. Pero la proliferación de códigos éticos en torno a la IA en general, con diferentes pautas y principios, puede confundir y es necesario buscar consensos.
Diferentes estudios han encontrado, si bien con ciertos matices, muchas coincidencias en un buen número de estos códigos. A partir de un análisis comparativo, Floridi y Cowles (2021) lograron establecer un marco general con cinco principios básicos: beneficencia, no maleficencia, autonomía, justicia (ya utilizados en Bioética) y explicabilidad. Este marco ha adquirido una gran reputación porque ofrece una base para desarrollar regulaciones específicas en una variedad de contextos. Hay que comprobar su adecuación al dominio educativo.
Para ello se confirmó primero su vigencia, examinando otros nueve códigos de alto perfil elaborados posteriormente desde la perspectiva de diversas partes interesadas en la IA (Organizaciones internacionales, gobiernos y empresas tecnológicas). Después, se constató su convergencia con: (i) las directrices éticas elaboradas por la Comisión Europea para asegurar un uso adecuado de la IA en la educación; y (ii) con los principios específicos para el ámbito educativo que distintos investigadores seleccionaron a partir de diferentes códigos. La revisión documental realizada permite concluir que disponemos de un marco unificado para orientar el desarrollo y uso de los SIA en educación conforme a un número manejable de principios fundamentales universalizables e irrenunciables que, como se comprobó finalmente, son también compatibles con los valores de la educación.
Además de orientar la necesaria regulación para este ámbito específico, este marco: (I) permite ubicar las buenas prácticas; (II) indica las competencias que necesitan desarrollar los docentes ayudando a definir el nuevo perfil profesional; y (III) ofrece criterios a los estudiantes para interaccionar con la IA y aprovechar su potencial en los contextos formativos.
Para mayor profundidad consúltese el artículo completo en el que está basada esta entrada.
Ana María Alonso Rodríguez
Centro de Investigación de Filosofía de la Ciencia
y la Tecnología (CIFCYT). UDC Ferrol
Comments