La inteligencia artificial generativa (IAGen) ha emergido como una tecnología revolucionaria con el potencial de transformar significativamente la educación y la investigación. No obstante, para aprovechar sus beneficios y mitigar los riesgos asociados, es crucial desarrollar marcos de políticas adecuados.

Promover la Inclusión, la Equidad y la Diversidad Lingüística y Cultural

Uno de los pilares fundamentales en el uso de la IAGen es garantizar la inclusión y la equidad. Las herramientas de IAGen deben ser accesibles para todos los estudiantes, independientemente de su género, origen étnico, necesidades educativas especiales, estatus socioeconómico, o ubicación geográfica. Para lograr esto, se proponen tres medidas políticas clave:

1. Acceso Inclusivo: Asegurar que las herramientas de IAGen sean accesibles para todos los estudiantes, promoviendo la equidad y eliminando barreras de acceso.
2. Diversidad Lingüística: Incorporar múltiples lenguas, especialmente lenguas locales o indígenas, en el entrenamiento de modelos IAGen para fomentar un entorno de aprendizaje multilingüe.
3. Promoción del Pluralismo Cultural: Diseñar herramientas que promuevan la diversidad cultural, asegurando que los contenidos generados reflejen una amplia variedad de perspectivas y experiencias culturales .

Proteger la Acción Humana

A medida que la IAGen se vuelve más sofisticada, existe el riesgo de que las personas dependan excesivamente de estas herramientas, comprometiendo el desarrollo de habilidades intelectuales. Para mitigar este riesgo, se sugieren las siguientes acciones:

1. Educación sobre Datos y Privacidad: Informar a los estudiantes sobre los tipos de datos recolectados por la IAGen y cómo se utilizan.
2. Motivación Intrínseca: Fomentar la autonomía de los estudiantes en sus enfoques de investigación y aprendizaje, evitando que la IAGen reemplace el pensamiento crítico y la creatividad humana.
3. Oportunidades de Desarrollo Cognitivo: Limitar el uso de la IAGen en contextos donde podría privar a los estudiantes de experiencias de aprendizaje empíricas y de la interacción social necesaria para el desarrollo cognitivo .

Monitorear y Validar los Sistemas de IAGen

La implementación de la IAGen debe ser continuamente monitoreada y validada para asegurar su adecuación ética y pedagógica. Las siguientes acciones son recomendadas:

1. Mecanismos de Validación: Establecer procesos para verificar que los sistemas de IAGen no presenten sesgos y que sean representativos de la diversidad.
2. Consentimiento Informado: Abordar la compleja cuestión del consentimiento informado, especialmente en contextos con estudiantes vulnerables.
3. Auditoría de Contenidos: Auditar los resultados generados por la IAGen para identificar y mitigar cualquier contenido inapropiado, como noticias falsas o discursos de odio .

Desarrollar Competencias en IA

El desarrollo de competencias en IA es crucial para que los estudiantes utilicen estas tecnologías de manera segura, ética y efectiva. A pesar de la creciente importancia de la IA, solo un número limitado de países ha desarrollado currículos adecuados. Las siguientes acciones son esenciales:

1. Currículos de IA: Implementar currículos de IA aprobados por los gobiernos que aborden el impacto de la IA en nuestras vidas y enseñen habilidades para el uso adecuado de estas herramientas.
2. Formación Continua: Promover el aprendizaje a lo largo de toda la vida, asegurando que tanto estudiantes como profesionales mantengan sus conocimientos actualizados en relación a las tecnologías emergentes.
3. Habilidades Específicas de IAGen: Enseñar habilidades específicas para utilizar herramientas de IAGen, promoviendo un uso creativo y responsable de estas tecnologías .

Considerar las Implicancias a Largo Plazo

Es fundamental adoptar enfoques intersectoriales e interdisciplinarios para abordar de manera efectiva y ética el uso de la IAGen en la educación y la investigación. Se recomiendan las siguientes acciones:

1. Colaboración Multisectorial: Trabajar conjuntamente con proveedores de IA, docentes, investigadores y otros actores clave para ajustar los marcos curriculares y las metodologías de evaluación.
2. Expertos Interdisciplinarios: Reunir a expertos de diversas disciplinas para examinar las implicancias a largo plazo de la IAGen en la educación y la investigación.
3. Asesoramiento Iterativo: Proveer asesoramiento continuo para informar sobre las actualizaciones necesarias en las regulaciones y políticas, adaptándose a los cambios tecnológicos y sociales .

Promover Opiniones Diversas y la Expresión Plural de Ideas

La IAGen, por su naturaleza, tiende a reproducir visiones del mundo dominantes, lo que puede socavar la expresión de opiniones minoritarias. Para contrarrestar esto, es crucial fomentar un entorno donde las opiniones diversas y las ideas plurales sean valoradas y promovidas. Se sugiere:

1. Evaluación Crítica: Alentar a los estudiantes e investigadores a cuestionar críticamente las respuestas ofrecidas por la IAGen.
2. Aprendizaje Empírico: Proveer oportunidades para el aprendizaje a través de la observación del mundo real y el ensayo y error, asegurando que los estudiantes desarrollen habilidades críticas y creativas.

En conclusión, el desarrollo de un marco de políticas sólido y bien estructurado para la IAGen en la educación y la investigación es esencial para maximizar sus beneficios y mitigar los riesgos. Las medidas descritas en esta sección proporcionan una guía comprensiva para los formuladores de políticas, asegurando que la IAGen se convierta en una herramienta efectiva y ética en el ámbito educativo.

Fuente: Unesco (2024) Guía para el uso de IA generativa en educación e investigación