La gobernanza de la inteligencia artificial (IA) en la educación superior se está convirtiendo en un tema crucial en la transformación digital de las instituciones académicas. Durante su reciente presentación en el Digital Education Council, el Dr. Alessandro Di Lullo proporcionó una visión detallada y crítica sobre el estado actual y futuro de la gobernanza de la IA en las instituciones de educación superior. Su análisis abarcó desde el «Status Quo» hasta los pilares y principios rectores necesarios para una implementación ética y efectiva.

Status Quo de la Gobernanza de la IA

El Prof. Di Lullo inició su exposición describiendo el estado actual de la gobernanza de la IA en las instituciones de educación superior, destacando que las instituciones educativas se encuentran caracterizadas por alguna de las siguientes:

1. Descentralización: Las decisiones sobre el uso de IA a menudo recaen en los instructores individuales, aunque algunas instituciones centralizan aspectos como la adquisición de herramientas de IA y la evaluación de riesgos.
2. Evaluación de riesgos: Existe una tendencia creciente a regular el uso de IA basándose en los riesgos asociados, aunque frecuentemente se ignoran otros aspectos críticos.
3. Uso de IA generativa en evaluaciones: Se enfatiza la determinación de su permisibilidad y cómo debe comunicarse en los planes de estudio, además de explorar otros usos de IA en investigación y admisiones.
4. Integridad académica: El mal uso de la IA se define principalmente en función de «cómo» se utiliza, subrayando la necesidad de definir claramente qué usos pueden afectar los resultados de aprendizaje y deben clasificarse como mal uso o uso cauteloso.

Señaló que las instituciones de educación superior requieren salir de esa discusión inicial y pasar a crear esquemas sólidos de gobernanza de la Inteligencia Artificial.

Objetivos y Principios Rectores para la Gobernanza de la IA

El modelo propuesto por Di Lullo para la gobernanza de la IA se estructura en torno a cuatro pilares y cinco principios rectores, todos alineados con el objetivo de mejorar los resultados de aprendizaje, la excelencia en la investigación y enseñanza, el desarrollo de habilidades y competencias, y la eficiencia y crecimiento organizacional.

Pilares de Gobernanza

• Uso: Clasificación de los casos de uso de la IA basándose en los riesgos asociados.
• Participación Humana: Decisión del nivel adecuado de participación humana en cada caso de uso de IA.
• Estructura Interna: Establecimiento de una estructura de gobernanza a múltiples niveles con clara rendición de cuentas.
• Comunicación: Aseguramiento de una comunicación transparente y detallada.

Principios Rectores

1. Centrado en el Humano: La IA debe ser utilizada para aumentar el potencial humano.
2. Transparencia y Explicabilidad: Ser transparente sobre el uso de la IA y proporcionar explicaciones claras.
3. Justicia e Imparcialidad: Evitar sesgos injustos y permitir resultados equitativos.
4. Responsabilidad: Mecanismos para garantizar la rendición de cuentas.
5. Seguridad: Asegurar que los sistemas de IA sean seguros a lo largo de su ciclo de vida.

Áreas de Debate y Participación Humana

Di Lullo abordó las controversias actuales en torno al uso de la IA en tres contextos principales: evaluación, calificación e investigación. La discusión se centró en la permisibilidad del contenido generado por IA, la fiabilidad del feedback generado por IA y los posibles sesgos en los datos y modelos de IA.

En cuanto a la participación humana, Di Lullo exploró tres niveles de involucramiento humano en el uso de IA, dependiendo del nivel de riesgo asociado:

• Humano fuera del circuito: La IA tiene control total y toma decisiones finales sin intervención humana.
• Humano sobre el circuito: Los usuarios actúan como supervisores e intervienen cuando la IA encuentra escenarios no previstos.
• Humano en el circuito: Los usuarios interactúan iterativamente con la IA y toman la decisión final con base en las recomendaciones de la IA.

Niveles de Responsabilidad y Comunicación

La estructura de gobernanza propuesta por Di Lullo se divide en tres niveles: macro, meso y micro. A nivel macro, se establece un liderazgo institucional claro con directrices y supervisión centralizada. A nivel meso, los líderes escolares desarrollan prácticas específicas de IA y capacitan al profesorado. A nivel micro, los instructores exploran el uso de la IA de manera ética y efectiva.

Además, Di Lullo destacó la importancia de una comunicación efectiva, abarcando desde la divulgación de políticas y procesos hasta la provisión de canales para retroalimentación y revisión. Esto asegura que todos los aspectos relacionados con el uso de la IA sean claros, transparentes y accesibles para todas las partes interesadas.

Conclusión

La exposición del Prof. Alessandro Di Lullo en el Digital Education Council proporciona un marco sólido y bien estructurado para la gobernanza de la IA en la educación superior. Su enfoque en la descentralización, la evaluación de riesgos, la participación humana y la comunicación transparente ofrece una guía valiosa para las instituciones que buscan integrar la IA de manera efectiva y ética. En un panorama en constante evolución, estas directrices son cruciales para asegurar que la IA se utilice para mejorar los resultados de aprendizaje y promover la excelencia en la educación superior.

____________________
La Universidad peruana de Ciencias Aplicadas es miembro del Digital Education Council y participa en el grupo de trabajo sobre Inteligencia Artificial.
____________________