Audrey Azoulay: Aprovechar al máximo la inteligencia artificial

Ingresar o Registrarse

Audrey Azoulay: Aprovechar al máximo la inteligencia artificial

La inteligencia artificial (IA) podría ayudar a la humanidad a superar muchos problemas sociales graves a los que se enfrenta, pero plantea al mismo tiempo una serie de desafíos complejos, sobre todo en materia de ética, de derechos humanos y de seguridad. Ahora bien, no existe en este momento ningún marco ético internacional que se aplique a todos los adelantos y aplicaciones de la IA. Es indispensable un instrumento normativo internacional.

Autor: Jasmina Šopova

URL: http://eduteka.icesi.edu.co/articulos/unesco-inteligencia-artificial-y-educacion

Etiquetas: #inteligencia artificial  # IA 

Comentarios

AUDREY AZOULAY: APROVECHAR AL MÁXIMO LA INTELIGENCIA ARTIFICIAL

Por Jasmina Šopova

 

Jasmina Šopova [JS]: ¿Por qué la UNESCO se interesa en la IA?

AUDREY AZOULAY [AA]: Los expertos coinciden: la humanidad está en el umbral de una nueva era. La inteligencia artificial (IA) transformará nuestra existencia de un modo tal que ni alcanzamos a imaginar. Esta transformación ya comenzó y afecta todos los aspectos de nuestra vida. La IA tiene muchas aplicaciones en áreas tan variadas como la salud, la educación, la cultura, la seguridad, la defensa, etc. La investigación cobró un fuerte impulso en estos últimos años: los gigantes de la web (GAFAM), pero también muchos países, realizan ahora importantes inversiones en IA y se convierten en actores de esta “cuarta revolución industrial”.

La UNESCO tiene un importante papel que desempeñar en estos cambios. En primer lugar, porque las aplicaciones de la IA afectan directamente a sus ámbitos de competencia. La IA transformará profundamente la educación.

Se van a revolucionar los métodos de enseñanza, las formas de aprender, de acceder al conocimiento, de capacitar a los docentes. Las competencias que habrá que desarrollar para evolucionar en un mundo cada vez más automatizado será un tema que adquirirá cada vez mayor importancia.

La IA se emplea ya con frecuencia en el ámbito de la cultura, por ejemplo, en las imágenes 3D utilizadas para la reconstrucción del patrimonio, como vamos a hacer nosotros para la ciudad vieja de Mosul en Irak. En las ciencias también, especialmente en nuestros programas medioambientales y en la investigación subacuática, por ejemplo, para la clasificación de las imágenes de plancton o la detección y la identificación automáticas de cetáceos y aves marinas.

Desde luego, la comunicación y la información también dependen directamente de los avances realizados en materia de IA. La UNESCO debe abordar esta reflexión sobre los beneficios y los riesgos de la IA para la educación, la cultura, la ciencia, la comunicación y la información.

 

[JS]: ¿Cuáles son los riesgos según usted?

[AA]: En general, la IA puede ser una fantástica oportunidad para lograr los objetivos fijados por la Agenda 2030, pero ello supone tratar sin más demora las cuestiones éticas que plantea. Una oportunidad, ya que sus aplicaciones pueden ayudarnos a avanzar con más rapidez hacia el logro de los Objetivos de Desarrollo Sostenible, permitiendo una mejor evaluación de los riesgos y una mejor previsión, así como una divulgación más rápida de los conocimientos; ofreciendo soluciones innovadoras en materia de educación, salud, ecología, urbanismo e industrias creativas; y mejorando el nivel de vida y el bienestar diario.

Pero también constituye una amenaza, ya que la automatización y la digitalización crean nuevos desequilibrios, pueden reducir la diversidad en las industrias culturales, transforman el mercado de trabajo, generan precariedad y aumentan las desigualdades entre los que tienen acceso a estas nuevas tecnologías y los que no. Aquí también la UNESCO tiene un importante papel que desempeñar: procurando reducir, a través del apoyo que brinda a sus Estados miembros, las desigualdades en el acceso al conocimiento y a la investigación. La fractura tecnológica puede tener un efecto multiplicador en las desigualdades sociales. La UNESCO debe estar en condiciones de ayudar a sus Estados miembros a adaptarse a las nuevas realidades y a que accedan al conocimiento tecnológico.

 

[JS]: ¿Cómo puede la UNESCO brindar concretamente este apoyo?

[AA]: Uno de los desafíos, para los Estados miembros, es poder contar con materiales de ingeniería sofisticados, a la vanguardia de la innovación, así como con recursos humanos adecuados – científicos e ingenieros. Gracias a sus Centros de Educación y Formación en Ciencia, Tecnología e Innovación (CTI), su Observatorio Mundial de Instrumentos de Política en Ciencia, Tecnología e Innovación (GO-SPIN) o incluso su Programa Internacional de Ciencias Fundamentales (PICF), la UNESCO está en condiciones de brindar ese apoyo y de ayudar a reducir las desigualdades entre los países.

 

[JS]: ¿Cuáles son los desafíos que plantea la IA en materia de educación? ¿Cómo pretende la UNESCO enfrentarlos?

[AA]: Se trata, obviamente, de un ámbito esencial para la Organización. También en este caso, la revolución que está en marcha genera efectos tanto positivos como negativos. Se están utilizando ya aplicaciones pedagógicas basadas en la IA para descentralizar la enseñanza, personalizarla, asesorar a los estudiantes sobre los planes de estudios o incluso sobre las certificaciones.

Pero estas tecnologías son costosas y, por lo tanto, inaccesibles para la mayoría: la brecha entre ricos y pobres puede hacerse aún más profunda.

Debido a la función de coordinación del Comité Directivo ODS – Educación 2030, encargado de realizar el seguimiento hacia el logro del Objectivo de Desarrollo Sostenible 4, dedicado a la educación, la UNESCO está en una posición excelente para llevar a cabo este trabajo, identificando las posibles contribuciones de la IA a una educación inclusiva y evaluando su impacto en el futuro del aprendizaje.

La promoción de herramientas de IA de libre acceso, que impulsen las innovaciones locales, será una de nuestras prioridades.

A fin de preparar a las futuras generaciones para el nuevo panorama de trabajo que la IA está creando, también será necesario reconsiderar los programas educativos, haciendo énfasis en la enseñanza de las ciencias, la tecnología, la ingeniería y las matemáticas, pero también dando prioridad a las humanidades y a las competencias en materia de filosofía y ética.

 

[JS]: ¿Cuál es la relación entre la IA y la filosofía o la ética?

[AA]: En su vida de adultos, los escolares y estudiantes de hoy en día deberán afrontar sin duda problemas cuya naturaleza desconocemos en el momento actual. Es difícil prever todas las evaluaciones posibles de estas máquinas cada vez más sofisticadas que cada día adquieren mayor autonomía, hasta el punto de desafiar ya, en cierta medida, la identidad humana. Es por esta razón que las competencias en materia de ética, pero también en ciencias sociales y humanas en general, serán tan importantes como las competencias en ciencias formales. También puede haber prejuicios incorporados en los sistemas de IA –en especial prejuicios de género– que requieran mayor transparencia de parte de esos sistemas y principios éticos sólidos para corregirlas.

 

[JS]: ¿Por qué es difícil prever la evolución futura de la IA?

[AA]: La investigación en materia de IA avanza a gran velocidad, mientras que los contextos jurídicos, sociales y éticos en los que debería enmarcarse evolucionan muy lentamente. ¿Hasta dónde puede llegar la autonomía de una máquina y su poder de decisión? En caso de accidente, ¿en quién recae la responsabilidad? ¿Y quién decide sobre los valores inculcados a las máquinas durante lo que se denomina su “aprendizaje”? Éstas y muchas otras preguntas permanecen aún sin respuesta.

Se ha observado, por ejemplo, que algunos algoritmos formados en el lenguaje humano corriente habían adquirido prejuicios basados en estereotipos a partir de datos textuales presentes en nuestra cultura diaria. ¿Cómo no preocuparse ante el peligro de ver aparecer máquinas con conductas discriminatorias, racistas u hostiles?

Hay motivos para preocuparse también por muchos otros aspectos: protección de la vida privada y publicidad personalizada en Internet; libertad de expresión y algoritmos de censura; periodismo automatizado y monopolio de la información, etc.

Si bien la investigación fundamental en la materia está, en general, motivada por el bienestar, siempre es posible que existan desviaciones involuntarias, pero también voluntarias. Por este motivo, es indispensable asegurarse de que esta tecnología se desarrolla siguiendo normas éticas rigurosamente establecidas.

 

[JS]: ¿Qué puede hacer la UNESCO en este sentido?

[AA]: Si queremos aprovechar al máximo las posibilidades que ofrece la IA para el mundo entero, debemos asegurarnos de que esté al servicio de la humanidad, respetando la dignidad y los derechos humanos.

Ahora bien, no existe en la actualidad ningún marco ético internacional que se aplique a todos los avances y las aplicaciones de la IA.

La UNESCO es este foro universal único que cuenta con una experiencia de más de veinte años en la elaboración de instrumentos internacionales relativos a la bioética y a la ética de las ciencias y la tecnología [1]. Esta organización también cuenta con el apoyo de dos órganos consultivos de expertos que trabajan activamente en estas cuestiones: la Comisión Mundial de Ética del Conocimiento Científico y la Tecnología (COMEST) y el Comité Internacional de Bioética (CIB).

Es nuestra responsabilidad llevar a cabo un debate universal e informado –no un debate técnico, sino ético– a fin de entrar en esta nueva era con los ojos bien abiertos, sin sacrificar nuestros propios valores y poder lograr, si los Estados miembros lo desean, un conjunto común de principios éticos.

 

Robots y ética
Informe 2017 de la COMEST

La robótica actual, denominada cognitiva, se basa cada vez más en tecnologías de inteligencia artificial (IA) dotadas de capacidades de tipo humano, tales como la percepción, el uso del lenguaje, la interacción, la resolución de problemas, el aprendizaje e incluso la creatividad. Sus decisiones son impredecibles y sus acciones dependen de la experiencia y de algunas situaciones estocásticas (aleatorias). Estos robots son muy diferentes de los robots denominados deterministas, cuyo comportamiento depende del programa que controla sus acciones. Por lo tanto, la cuestión de la responsabilidad de las acciones ejecutadas por robots cognitivos es crucial, sobre todo porque esas acciones repercuten en el comportamiento humano, provocan cambios sociales y culturales y plantean problemas en materia de seguridad, de respeto de la vida privada y de protección de la dignidad humana.

En su Informe sobre la ética de la robótica, publicado en noviembre de 2017, la Comisión Mundial de Ética del Conocimiento Científico y de la Tecnología de la UNESCO (COMEST) propone un marco ético basado en la tecnología, con el fin de formular recomendaciones sobre la ética de la robótica basadas en la distinción entre robots deterministas y robots cognitivos.

El informe resalta también valores y principios éticos que pueden contribuir a establecer una reglamentación a todos los niveles y de forma coherente, que va desde códigos de conducta para ingenieros hasta legislaciones nacionales y convenios internacionales. Los valores y principios éticos puestos de relieve son la dignidad humana, la autonomía, el respeto de la vida privada, la seguridad, la responsabilidad, la beneficencia y la justicia. El principio de la responsabilidad humana es el hilo conductor que conecta los diferentes valores examinados en este informe.

La COMEST formula también una serie de recomendaciones específicas relacionadas con la aplicación de tecnologías robóticas, que van desde la elaboración de códigos de ética para especialistas en robótica hasta advertencias contra el desarrollo y el uso de armas autónomas.

 

¿A quién le corresponde tomar la decisión?
Decisiones humanas: reflexiones sobre la IA, 2018

Con el fenómeno de los macrodatos (big data) y la transición de los mecanismos de aprendizaje profundo, la inteligencia artificial (IA) se ha convertido en una de las tendencias tecnológicas más debatidas del momento, debido a sus repercusiones en los individuos y en las culturas.

Los aspectos tecnológicos de la IA son fascinantes, pero algunos temen que termine por eclipsar la inteligencia humana. Aún si aceptamos la idea de que pueda contribuir al progreso de la humanidad, debemos anticiparnos a los peligros de una IA fuera de control y tomar conciencia de sus implicaciones éticas.

Netexplo, un observatorio independiente que trabaja en asociación con la UNESCO, estudia con detenimiento este tema tan amplio, que interesa tanto a la filosofía como a las matemáticas, las ciencias, la informática y la ingeniería. En 2015, la UNESCO y Netexplo crearon un consejo consultivo común, la UNAB. Esta red de profesores, conferenciantes e investigadores procedentes de las principales universidades del mundo tiene como misión analizar las tendencias de la tecnología digital y en particular la IA.

En 2018, la UNAB publicó Human Decisions: Thoughts on AI (Decisiones humanas: reflexiones sobre la IA), una compilación de análisis que tiene como objetivo estimular la reflexión sobre los desafíos más cruciales en materia de IA y comprender la clave de su funcionamiento.

¿Confían deliberadamente los humanos a la IA sus poderes decisorios? ¿Sustituye la IA a los humanos? ¿Cuáles son las posibles medidas de protección contra el uso indebido de la IA? Estas son algunas de las cuestiones que se tratan en esta publicación, además de las opiniones formuladas por Netexplo, en las cuales se comparan diferentes escenarios.

Más allá de estos puntos de vista, hay una pregunta que siempre se repite: la de la toma de decisiones. ¿Renunciamos ya a la potestad de controlar las máquinas? ¿Y si la IA terminara por controlar el comportamiento de los humanos sin su participación? En ese caso, ¿quién (o qué) participará en la toma de decisiones?

Si bien algunos expertos temen que la influencia de la IA pueda conducirnos a un sistema interconectado en el que nuestra propia inteligencia esté subordinada a la de las máquinas, otros siguen convencidos de que nuestros conocimientos informáticos actuales son aún demasiado limitados como para justificar este temor a lo desconocido. Según ellos, no se trata de una cuestión de competencia, sino de cooperación entre la IA y el género humano.

 

NOTAS:
[1] Declaración Universal sobre el Genoma Humano y los Derechos Humanos (1997); Declaración Internacional sobre datos Genéticos Humanos (2003); Declaración Universal sobre Bioética y Derechos Humanos (2005); Declaración de Principios Éticos en relación con el Cambio Climático (2017); Recomendación sobre la Ciencia y los Investigadores Científicos (2017).

 

CRÉDITOS:
Reproducción de la entrevista a Audrey Azoulay “Aprovechar al máximo la inteligencia artificial, realizada por Jasmina Šopova y publicada en la revista El Correo de la UNESCO • julio-septiembre de 2018.
El Correo de la UNESCO es una publicación trimestral de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura. Promueve los ideales de la Organización, difundiendo intercambios de ideas sobre temas de alcance internacional relacionados con su mandato. Esta publicación está disponible en acceso abierto bajo la licencia Attribution-ShareAlike 3.0 IGO (CC-BY-SA 3.0 IGO) (http://creativecommons.org/licenses/by-sa/3.0/igo/). Al utilizar el contenido de la presente publicación, los usuarios aceptan las condiciones de utilización del Repositorio UNESCO de acceso abierto (https://es.unesco.org/open-access/terms-use-ccbysa-sp). Esta licencia se aplica exclusivamente al texto de la presente publicación. Para utilizar cualquier material que aparezca en ella y que no pertenezca a la UNESCO, será necesario pedir autorización previa. 

Publicación de este documento en EDUTEKA: Octubre 18 de 2021.
Última actualización de este documento: Octubre 18 de 2021.

Autor de este documento: Jasmina Šopova

URL:http://www.eduteka.org/articulos/unesco-inteligencia-artificial-y-educacion

creative commons



Cuando los estudiantes creadores se encuentran con la inteligencia artificial

Este artículo plantea que se debe empoderar a los educadores con las habilidades necesarias para ayudar a sus estudiantes no solo a comprender la inteligencia artificial, sino a convertirse en diseñadores y constructores de inteligencia artificial. Para comprender realmente cómo funciona la inteligencia artificial y para resolver problemas de manera efectiva con ella, los estudiantes deben aprender cómo construirla ellos mismos.

Las Pedagogías Fundadas en la Investigación Búsquedas en la Reconfiguración de la Educación

Apartes del documento escrito por investigadores de Colciencias en los que estos reseñan 6 propuestas metodológicas para enseñar Ciencias Naturales con enfoque de investigación y se cuenta la experiencia del Programa Ondas de Colciencias.

Aprender en la era digital

Estudio publicado por Fundación Telefónica Argentina y el proyecto Educar 2050 a partir de los resultados de las pruebas “Aprender” 2016 sobre las TIC, su acceso y usos, así como su vínculo con el desempeño de los estudiantes en la evaluación nacional. Los autores analizan de qué forma las tecnologías contribuyen a democratizar el conocimiento al ponerlo a disposición de amplios sectores sociales. Además, se señala que las TIC representan una oportunidad para mejorar la calidad educativa. Para ello, el trabajo contextualiza la situación de las políticas TIC en Argentina, en el marco de la proactividad reflejada en las agendas educativas de la región.

Audrey Azoulay: Aprovechar al máximo la inteligencia artificial

La inteligencia artificial (IA) podría ayudar a la humanidad a superar muchos problemas sociales graves a los que se enfrenta, pero plantea al mismo tiempo una serie de desafíos complejos, sobre todo en materia de ética, de derechos humanos y de seguridad. Ahora bien, no existe en este momento ningún marco ético internacional que se aplique a todos los adelantos y aplicaciones de la IA. Es indispensable un instrumento normativo internacional.

La Integración de las TIC en Ciencias Naturales

Existe un nuevo paradigma en la enseñanza de las Ciencias, que se enfoca especialmente en el desarrollo de la competencia científica en los estudiantes para atender las necesidades de un mundo jalonado por avances en esta área. Las TIC facilitan y potencian este desarrollo.

¿Qué es Logo? ¿Quién lo necesita?

Seymour Papert, director del Laboratorio de Inteligencia Artificial de MIT (Massachusetts Institute of Technology) destaca algunas de las características más importantes de la cultura Logo y, en general, del aprovechamiento de las TIC en la educación.

Audrey Azoulay: Aprovechar al máximo la inteligencia artificial
Escuela de Liderazgo Directivos Docentes: Bases para su despliegue curricular
Ser directivo docente en tiempos de pandemia
Innovación educativa: Cambio, creatividad e innovación
Educación innovadora: ¿Cómo lo logramos? (Webinar - parte II)
Todas las ideas cuentan: Creatividad estratégica en entornos educativos
Jesús Martín-Barbero: La Educación desde la Comunicación (PDF)
BID: Colegios privados en tiempos de COVID-19
Webinar: La importancia de los Modelos Educativos Flexibles
BID: ¿Cómo las crisis económicas de las últimas décadas han afectado la matrícula?
El rol del docente activador en el compromiso de los estudiantes
Aprendizaje Profundo: transformando sistemas para preparar a los ciudadanos de mañana
Webinar: La espiral del aprendizaje socioemocional
Testimonio: Diplomado transición a la educación no presencial para la educación escolar
Enseñar a los estudiantes qué es la Inteligencia Artificial
UNESCO: Un nuevo contrato social para la educación
Audrey Azoulay: Debemos reformular nuestras relaciones con los demás, con el planeta y con la tecnología
TESOL Beyond: New approaches for new times (Virtual)
Audrey Azoulay: Aprovechar al máximo la inteligencia artificial
Las TIC en el nuevo plan de estudios básico nacional finlandés para la Educación básica
MonTech: Uniendo el enfoque Montessori y las Tecnologías Creativas
Creando Escuelas del Futuro, ¡Hoy!
Una Carta para Lucy: Preparándose para un mundo en constante cambio
Tendencias post covid y analítica de aprendizaje
¿Cómo diseñar instrumentos para medir la comunicación no violenta?
Escuela de Directivos Docentes: Documento de orientaciones para aliados a nivel territorial
Escuela de Liderazgo Directivos Docentes: Bases para su despliegue curricular
Ser directivo docente en tiempos de pandemia
Una visión de lo emergente y la educación
Innovación educativa: Cambio, creatividad e innovación

Discusión sobre este artículo:



Ver más artículos relacionados

Inicio | Registro | Quienes Somos | Edukatic | Políticas de Uso | Uso de datos personales | Universidad Icesi | RSS

Copyright: eduteka 2001-2019 | Icons made by Freepik from www.flaticon.com