Una publicación digital gratuita
Inteligencia Artificial, naturalmente
es una publicación digital de
red.es y
ONTSI,
editada en mayo de 2020. Su autora,
Nuria Oliver, es
una autoridad reconocida en el desarrollo y aplicación de esta
tecnología. Sus más de 25 años de experiencia y su amplio currículum así lo avalan. Con
este libro nos introduce en el apasionante mundo de la IA:
“un breve recorrido por su historia, describiendo su impacto actual y planteando los retos que presenta desde diferentes perspectivas. Las últimas páginas esbozan mi visión del futuro. Una visión que no puede ser sino esperanzadora”.
El subtítulo es muy significativo:
un manual de convivencia entre humanos y máquinas para que la tecnología
nos beneficie a todos. Nuria Oliver defiende que
el impacto de esta tecnología no puede estar al margen de las personas,
sino que ha de ser una tecnología que se adapta a las personas, y no al
revés. Entre sus propuestas, como explicaremos en este artículo, destaca
“la importancia de definir un marco ético y una nueva gobernanza de los
sistemas de IA”.
Nuria Oliver
Esta alicantina, nacida en 1970, ha dedicado toda su vida profesional a la
investigación de la Inteligencia Artificial –como ella misma explica en el
primer capítulo– y más concretamente a la tecnología basada en el
comportamiento humano.
Ingeniera de Telecomunicaciones por la Universidad Politécnica de Madrid y con
doctorado por el MIT (EEUU), reconoce que cuenta con un perfil de
investigadora y directora de investigación que es muy poco común en España.
Durante los 12 años que investigó en EEUU trabajó en organismos tan
prestigiosos como el Media Lab del MIT y Microsoft. Tras su regreso a España
ha ocupado cargos de dirección en Telefónica I+D (Barcelona), Data Pop
Alliance, Vodafone y Vodafone Institute. Además asesora sobre IA y Big Data a
varias universidades, compañías, fundaciones, e incluso a instituciones como
la Comisión Europea, el Foro Económico Mundial y a los gobiernos valenciano y
español. A finales de 2018 ingresó en la
Real Academia de Ingeniería de España.
Actualmente, al igual que otros muchos científicos e investigadores, está
trabajando en un proyecto sobre el covid-19. Se trata de una encuesta para
estimar cuántas personas están infectadas (o no), el impacto económico y para
entender cómo se sienten las personas tras semanas de confinamiento. Los
resultados los analizarán mediante algoritmos de IA.
La historia de la IA
Antes de plantear el impacto de la IA es necesario conocerla. Nuria en el
segundo capítulo propone
“un paseo personal por la historia de la IA”. Paseo personal porque no quiere aburrir al lector con numerosos datos
técnicos, sino que pretende descubrirnos quiénes son las principales personas
que están detrás de los avances de esta tecnología. Además conoció
personalmente, entre otros, a
Marvin Minsky, creador de la primera red neuronal computacional.
En este capítulo descubrimos que el desarrollo de esta tecnología no es nada
sencillo desde el punto de vista técnico. Su objetivo es muy ambicioso: imitar
el comportamiento humano inteligente, aunque aún está muy lejos de
conseguirlo.
Nuria nos describe muy bien cómo se han desarrollado los avances de los dos principales enfoques: top-down y bottom-up. No oculta tampoco los fracasos históricos, a los que llama “inviernos”, que parecían estar encaminados a parar esta tecnología. Sin embargo, desde los años 90, se están alcanzando grandes progresos gracias a tres factores: el acceso a Big Data, la disponibilidad de procesadores a muy potentes a bajo coste y modelos conocidos como Deep Learning. Todo ello, le hace preguntarse, ¿estaremos viviendo una “primavera perpetua” de la IA?
La IA ya está transformando nuestras vidas
Estamos inmersos en la “cuarta revolución industrial” o en “la segunda
era de la máquina”, conceptos acuñados por el fundador del Foro Económico
Muncial:
Klaus Schwab. La IA
ya está transformando la medicina, la cultura, la economía, la ciencia… e
incluso en nuestra vida cotidiana cuando, por ejemplo, utilizamos sistemas de
búsqueda y recomendación de información de Netflix, Spotify y Facebook. Por
ello, en el tercer capítulo Nuria afirma que
“convivimos con la IA probablemente sin saberlo”, aunque reconoce que
“aún queda muy lejos el sueño de un el sueño de una inteligencia
equiparable a la humana”.
A pesar de sus limitaciones, la IA se está desarrollando muy rápido y todo
indica que cada vez tendrá más presencia. Una de las cuestiones urgentes a
corto plazo que plantea es el impacto ambiental, por ello la autora se
pregunta ¿un planeta inteligente pero poco sostenible?
Ante algunas predicciones futuristas, a veces más cercanas a la ciencia
ficción que a la realidad, es necesario poner los pies en el suelo.
“Los sistemas actuales manifiestan un tipo limitado de inteligencia: son
incapaces, entre otras cosas, de generalizar y extender a otros ámbitos
sus niveles de competencia en una tarea de manera automática, como haría
un humano”. Esto es lo que se conoce como IA Específica. Aún estamos muy lejos llegar a
la IA General, que es una inteligencia similar a la nuestra. Y, mucho más, de
los sistemas con super-inteligencia, es decir, una inteligencia muy superior a
la humana. Este termino tan controvertido ha sido propuesto y defendido por el
filósofo
Nick Bostrom, cofundador de la
Asociación Transhumanista Mundial.
Para Nuria Oliver
“hay problemas fundacionales de la Inteligencia Artificial que todavía
están por resolver”. Entre ellos se encuentra la limitación del aprendizaje, puesto que el
cerebro sigue aprendiendo de manera mucho más eficiente.
Aún así, se han conseguido algunos logros como analizar e interpretar enormes
cantidades de datos, que con otros medios sería prácticamente imposible.
Otra propiedad de la IA, que se entromete en un terreno muy resbaladizo, es
su habilidad para tomar decisiones automáticas y predecir situaciones
futuras.
“De hecho, aspiramos a que las decisiones algorítmicas basadas en IA entrenada con datos carezcan de las limitaciones de las decisiones humanas –conflictos de interés, sesgos, intereses propios, corrupción...–, y sean por tanto más justas y objetivas”.
Aquí se nos plantean muchos interrogantes: ¿cómo será posible conseguir este
objetivo? ¿quién lo garantiza? ¿qué sucederá cuando una máquina llega a una
decisión que contradice la del humano? Son
cuestiones que reclaman una respuesta desde la ética.
Nuria intentará dar respuestas en el último capítulo de su libro, pero antes
adelanta que las empresas y gobiernos no son ajenos a estos interrogantes.
Ella forma parte del equipo de expertos que asesora a la Comisión Europea para
definir un conjunto de guías éticas para la IA y ha participado activamente en
el
libro blanco sobre IA, publicado en febrero de 2020.
“El objetivo es garantizar que los sistemas de IA son transparentes, supervisados por humanos y susceptibles de ser evaluados y certificados por autoridades externas. También se incluye la necesidad de asegurar que los datos con los que se entrenan estos sistemas no tienen sesgos y que siempre se respetan los derechos fundamentales. En el caso de aplicaciones de la IA de bajo riesgo, la Comisión Europea propone un esquema de etiquetado voluntario”.El capítulo se cierra con una enumeración de 7 tareas pendientes de la IA: lenguaje, incertidumbre, aprendizaje a corto, medio y largo plazo, causalidad, contexto, aprendizaje constante, robustez. Quiero destacar una de ellas: la causalidad. Para Nuria Oliver “este concepto es una abstracción para ayudarnos a explicar cómo funciona el mundo, y forma parte del aprendizaje temprano de nuestra y otras especies”. El problema es que los modelos computaciones no son capaces de aprender y detectar relaciones de causalidad. Actualmente es una área de investigación. Aquí nos surge otro interrogante: ¿llegará una máquina a conseguir establecer relaciones entre causa y efecto al igual que los seres humanos?
Retos y limitaciones de la IA
Además de las tareas pendientes, la IA hoy día sigue presentando una serie de
puntos débiles: transversalidad, invisibilidad, complejidad, escalabilidad,
actualización constante de la capacidad para predecir. El problema no solo se
encuentra en estas estas debilidades técnicas, sino que
un mal uso o abuso de esta tecnología puede inferir en la relación entre
los seres humanos. Aquí estamos hablando de una serie de peligros actuales: la asimetría
(dominada solo por unas pocas personas), las
deep fakes
(difusión noticias falsas utilizando grabaciones de vídeo reales) y la
vulnerabilidad al hackeo de la información.
No todo es negativo, la IA nos ofrece también grandes oportunidades para un
futuro no muy lejano:
“Nos permitirá disponer de una medicina de precisión personalizada, preventiva y predictiva; una educación a medida de cada uno, y permanente; ciudades inteligentes; una gestión más eficiente de los recursos; y una toma de decisiones más justa, transparente y basada en la evidencia”.
Sin embargo, no debemos olvidar que la IA cambiará nuestra forma de vida y de
trabajar. Por tanto, la pregunta clave es: “¿estamos preparados, como sociedad, para suplir la demanda de nuevas
ocupaciones derivadas de la IA?” Nuria Oliver considera que no estamos preparados y propone una
transformación de nuestros programas educativos. Si queremos estar preparados
para la futura convivencia entre humanos y máquinas es necesario invertir ya
en educación formal e informal.
“El mundo necesita más erudit@s digitales y formarlos está en nuestras manos”.
Su propuesta es impartir una asignatura llamada Pensamiento Computacional en
la educación obligatoria, que ayude a conocer como funciona esta tecnología, y
no solamente a saber usarla. Además insiste en la necesidad de
desarrollar el pensamiento crítico, la creatividad y la inteligencia
emocional y social. Los erudit@s digitales serán aquellos que hayan adquirido todas estas
dimensiones claves para contribuir a la sociedad del futuro.
“Ser erudit@ digital implica dominar el Pensamiento Computacional. La empatía, la paciencia, la perseverancia, la concentración mantenida en una tarea compleja, la tolerancia, la flexibilidad, la habilidad de gestionar el aburrimiento o de aceptar una gratificación a largo plazo son igualmente cualidades muy valiosas en el contexto actual”.
La interacción con la máquina ocupará cada vez más tiempo de nuestro día a
día, pero no, por ello,
debemos renunciar a un tiempo off, un número mínimo de horas de descanso
tecnológico.
No podemos olvidar que las relaciones humanas cara a cara, sin tecnología
por medios, son y seguirán siendo nuestras actividades más importantes. Nuria Oliver advierte que las máquinas hoy día no son capaces de
interpretar nuestro lenguaje no verbal. “Y ya sabemos que, en la naturaleza,
lo que no se usa, se pierde”. A continuación, realiza la siguiente reflexión:
“Más allá de la comunicación y las relaciones, mantener una presencia y conexión físicas con el mundo que nos rodea es fundamental para nuestra salud mental, nuestro bienestar emocional, nuestra creatividad y, en último grado, nuestra felicidad”.
En su último capítulo, al igual que otros expertos en la materia, afirma que
“solo si acordamos principios de gobernanza y actuación empresarial
centrados en los derechos y el bienestar de las personas lograremos un
modelo de convivencia basado en una Inteligencia Artificial creada por y
para todos”. Para la definición de estos principios será necesario
crear equipos multidisciplinares, porque la diversidad enriquece. A
nivel mundial, enumera una serie de organismos e instituciones que utilizan
Big Data e IA para el bien social. Entre ellos, nos resulta interesante la
propuesta del centro multidisciplinar
Center for Humane Technology
(California),
“que defiende el desarrollo de tecnología que tiene en cuenta los valores,
las necesidades y los intereses de las personas por encima de todo”.
Los dilemas éticos más importantes surgen de la toma de decisiones de los
algoritmos, que podrían afectar a millones de personas. Nuria se plantea una serie de preguntas que nos sitúa el contexto:
“¿Escaparán las decisiones automáticas a nuestro control? ¿Hasta qué punto están estos sistemas protegidos contra ciberataques y usos maliciosos? ¿Podemos garantizar que sus decisiones y actuaciones no tienen consecuencias negativas para las personas? ¿Quién es responsable de dichas decisiones? Puede resultar especialmente escalofriante una cuestión en particular: ¿Qué sucederá cuando un algoritmo nos conozca a cada uno de nosotros mejor que nosotros mismos, y aproveche esa ventaja para manipular de manera subliminal nuestro comportamiento?”
Ante estos interrogantes, en la literatura técnica se han propuesto una serie
de principios éticos y dimensiones de trabajo. Nuria Oliver los agrupa bajo el
acrónimo
FATEN: F de Fairness (justicia); A de Autonomy (autonomía); T de Trust
(confianza); E de Education (educación); N de Not Maleficence (no
maleficiencia). Los siete requisitos que debería cumplir una IA fiable son: intervención y
supervisión humanas; robustez y seguridad; privacidad y gestión de datos;
transparencia; diversidad, no discriminación y equidad; bienestar social y
medioambiental; rendición de cuentas. Esta propuesta tiene muchos puntos
coincidentes con
la algor-ética de Paolo Benanti, como explicamos en otro artículo.
Me parece muy interesante la insistencia de Nuria Oliver en crear grupos de
expertos de distintos campos –derecho, economía, ética, filosofía,
informática, ciencias políticas– para colaborar en las diferentes métricas
que intervendrán en la justicia algorítmica. Igualmente destacan aquellos
principios que deben garantizar la autonomía y dignidad humana, maximizar su efecto beneficioso para la sociedad, respetar la privacidad
personal y, por supuesto, no violar los derechos fundamentales
“como el de establecer y desarrollar relaciones con otros humanos, el de la
desconexión tecnológica y el derecho a no ser vigilado”. También son de un aplastante sentido común, los derechos básicos que Nuria
Olive añade por su cuenta:
“el derecho a un contacto humano significativo – por ejemplo, en servicios de atención operados exclusivamente por chatbots–, y el derecho a no ser medido, analizado, orientado o influenciado subliminalmente mediante algoritmos”.
En sus conclusiones, Nuria expone sus deseos para el desarrollo de la
tecnología de IA: una tecnología que nos ayude a vivir más, y sobre todo
mejor, a todos; una mayor inversión en España; actualizar nuestro sistema
educativo, estimulando la creación y la innovación; y una mayor implicación de
las mujeres en la investigación y desarrollo de esta tecnología.
En definitiva, estamos ante un libro divulgativo sobre la IA que nos introduce
en mundo de la IA.
Un manual para la convivencia, como lo define la autora, que no solo no
excluye el amplio debate entre ética e inteligencia artificial, sino que
además propone una serie de principios y derechos que garanticen la dignidad
del ser humano.
Miguel Ángel Correas
0 Comentarios