Info
Content

Capítulo 4-2º | Chapter 4-2º

La ética de la IA en Europa | The ethics of AI in Europe



Fig. I A . C4.2.1- Inteligencia artificial: un debate ético y jurídico | Artificial Intelligence: The Ethical and Legal Debate. Crédito Imag. (Multimedia European Parliament). URL: https://multimedia.europarl.europa.eu/es/artificial-intelligence-the-ethical-and-legal-debate_B02ESN043019_ev


Ir al índice principal del libro Go to the main index of the book

Contenidos

Contents

4.2.1.- Introducción

4.2.1.- Introduction

 

4.2.2.- Europa: en busca de una ética para la inteligencia artificial

 

4.2.2.- Europe: in search of an ethic for artificial intelligence

 

4.2.3.- Directrices éticas en Europa para una IA fiable

4.2.3.- Ethics guidelines in Europe for trustworthy AI

 


4.2.1.-Introducción | Introduction

| Autor / Author: Juan Antonio Lloret Egea | Miembro de la Alianza Europea para la IA / Member to the European AI Alliance |https://orcid.org/0000-0002-6634-3351|© 2019. Licencia de uso y distribución / License for use and distribution: [ Los estados de la inteligencia artificial (IA) | The states of artificial intelligence (AI) ] creative commons CC BY-NC-ND |ISSN 2695-3803| Escrito / Writed: 16/07/2019. Actualizado / Updated: 18/08/2019.


Inteligencia artificial: un debate ético y jurídico


"No hablamos de ciencia ficción: existen ya máquinas y algoritmos muy potentes capaces de diagnosticar enfermedades, realizar cirugías y conducir coches autónomos. Estas tecnologías nos proporcionan nuevas herramientas y alteran nuestra forma de trabajar. Pero nadie sabe qué impacto tendrá la inteligencia artificial en la sociedad. Debemos llevar a cabo una evaluación ética y de impacto en los derechos humanos. ¿Cómo afectará la inteligencia artificial a muchos aspectos importantes de nuestra vida cotidiana? Hemos puesto muchas esperanzas en estas nuevas tecnologías, especialmente para la asistencia sanitaria y los procesos de toma de decisiones. Sin embargo, la inteligencia artificial también plantea cuestiones éticas y jurídicas. Por ejemplo, ¿es posible que el desarrollo de nuevas aplicaciones de IA sea una amenaza para los derechos humanos? ¿Deberían someterse a las personas a reconocimiento facial o reconocimiento emocional cuando la IA puede reconocer o predecir nuestro estado emocional en una entrevista de trabajo? Estoy de acuerdo en que necesitamos seguir trabajando para comprender qué está pasando antes de elaborar reglamentos y políticas. También podemos establecer normas internacionales sobre IA para asegurarnos de que existan ciertas normas éticas que todos debamos cumplir para confirmar que no utilizaremos la inteligencia artificial como arma contra la humanidad, que complementará pero no sustituirá a los seres humanos y que no desarrollaremos una conciencia artificial. Estas cuestiones fueron el tema principal de una reunión de expertos organizada recientemente por el Grupo de Expertos del Parlamento Europeo sobre el Futuro de la Ciencia y la Tecnología (STOA). En la reunión se analizaron casos probados de violaciones de derechos humanos por la IA y se pusieron de relieve posibles respuestas a los riesgos que entraña. Por ejemplo, los marcos éticos, la supervisión reglamentaria y las garantías legales pueden contribuir a evitar el uso indebido de la inteligencia artificial". (07/05/2019), Europarlamento.


[English]

Artificial Intelligence: The Ethical and Legal Debate

"It's not just science fiction: powerful machines and algorithms are already capable of diagnosing illnesses, performing surgery and driving autonomous cars. These technologies provide us with new tools and disrupt the way we work. Yet no one can tell what impact artificial intelligence will have on society. I think that we need to have an ethical and fundamental rights impact assessment. How will artificial intelligence influence many important issues in our daily lives? We have invested a lot of hope in these new technologies, especially for healthcare and decision-making processes. But artificial intelligence also raises ethical and legal questions. For instance, could the development of new AI applications be a threat to human rights? Should individuals have to undergo facial recognition or effect recognition when AI can recognise or predict our emotional state in a job interview? I agree that we need to do more work to understand what is going on before we create regulations and policies. We can set global standards also for AI to make sure that there are some ethical rules that everybody will follow to accept that we will not use weaponised AI against humanity; that AI will complement and not replace humans, that we will not develop AI consciousness. These questions were at the centre of a recent meeting of experts in Brussels organised by the European Parliament's Panel for the Future of Science and Technology (STOA). The gathering shed light on proven cases of human rights violations by AI and highlighted potential responses to risks. For example, ethics frameworks, regulatory oversight and legal safeguards could help us to avoid the misuse of artificial intelligence". (07/05/2019). Europarliament.


La inteligencia artificial (IA) puede ser simplemente un conjunto de datos básicos, masivos y ofuscados, complejos y/o confusos, sobre los que buscamos extraer conclusiones mediante metodología estadística. Quizá aún lejos del libre albedrío casual y a riesgo de interpolar conductas con inteligencia; porque ambas pueden ser residuales y aprendidas. O como lo diría Judea Pearl (premio Turing): 

El estado del arte en inteligencia artificial hoy en día es simplemente una versión mejorada de lo que las máquinas ya podían hacer hace una generación: encontrar regularidades ocultas en un gran conjunto de datos... La clave es reemplazar el razonamiento por asociación con el razonamiento causal 4.2-1.

Y si suponemos que es posible un razonamiento causal, y por tanto un libre albedrío de la IA, el comportamiento y la moral de la inteligencia artificial es de por sí intrínsecamente necesario. Esté dentro o no de niveles de asociaciones. O con ajustes de curvas o sin ellos (aprendizaje automático). Por lo que hay que reflexionar constantemente sobre: ¿adónde vamos? ¿Cuál es el siguiente paso?


[English]

Artificial intelligence (AI) can simply be a set of basic, massive and obfuscated, complex and / or confusing data, on which we seek to draw conclusions using statistical methodology. Perhaps even far from casual free will, and at the risk of interpolating behaviors with intelligence; because both can be residual and learned. Or as Judea Pearl would say (Turing award):

The state of the art in artificial intelligence today is simply an improved version of what machines could already do a generation ago: finding hidden regularities in a large data set... The key is to replace reasoning by association with reasoning. causal 4.2.-1.

And if we assume that a causal reasoning is possible, and therefore a free will of AI, the behavior and morals of artificial intelligence is inherently necessary. Whether or not within association levels. Or with or without curve adjustments (machine learning). So you have to constantly reflect on: where are we going? What is the next step?

¿Adónde vamos? ¿Cuál es el siguiente paso? | Where we go? What is the next step?


4.2.2.- Europa: en busca de una ética para la inteligencia artificial | Europe: in search of an ethic for artificial intelligence

Europa busca posicionarse adecuadamente en la ética que concierne a la IA, como también hiciera con el Reglamento Europeo de Protección de datos (GDPR).  Por lo que creo significativo recoger las palabras escritas de la vicepresidenta McGuinness y el vídeo del seminario para comenzar esta búsqueda ética europea para la inteligencia artificial. | Europe seeks to position itself properly in ethics concerning AI, as it did with the European Data Protection Regulation (GDPR). So I think it is significant to pick up the written words of Vice President McGuinness and the video of the seminar to begin this European search for artificial intelligence.



Fig. I A . C4.2.2- Dialogue seminar onArtificial Intelligence: Ethical Concerns. Crédito Imag. (Multimedia European Parliament. URL: http://cort.as/-MCax



Vicepresidente McGuinness | Vice-President McGuinness.

(Discurso.19 de marzo de 2019) | (Speech. 19 March 2019).

Programa versión en inglés | Programme EN version


McGuinness: Permítanme comenzar hoy con una cita:4.2-2

 ... Uno no puede tener una ciencia superior y una moral inferior. La combinación es inestable y autodestructiva.

Ésa es una de las frases más famosas de Arthur C. Clarke, el padre de la escritura científica, inventor y futurista. Y expone perfectamente por qué estamos aquí hoy: ha llegado el momento de que combinemos nuestra ambición científica con nuestra ética. La inteligencia artificial no es sólo una nueva tecnología, es un mediador para un mundo nuevo. Y eso significa que ahora es el momento de tomar decisiones concretas, porque "hasta ahora tan bueno" no es una estrategia para el futuro.

[…] permítanme discutir brevemente las tres consideraciones que debemos tener en cuenta sobre cómo debemos construir esta nave y mudarnos al nuevo mundo.

  • Primero es cambiar la forma en que vemos la ética. Muchos ven la ética como un obstáculo. Pero para mí, es nuestra brújula.
  • En segundo lugar, ¿cómo tomamos decisiones sobre la IA?

    • ¿Cómo los diseñamos?
    • ¿Cuál es el objetivo final?

      Cuando se trata de diseño, necesitamos la mayor muestra de la sociedad posible. Si no, la IA sólo servirá a aquellos que la diseñaron.

  • ¿Para qué se usa la IA, el objetivo final? Otro lugar donde necesitamos diversidad y donde las decisiones deben ser tomadas por muchos y no por pocos. Porque ésta es una decisión, no sólo sobre IA, sino sobre la sociedad futura en la que queremos vivir y el mundo que queremos que hereden nuestros hijos.

    Necesitamos sentarnos con un grupo que represente adecuadamente a nuestra sociedad, no sólo aquellos en el poder. Y tenemos que trabajar a través de nuestras diferencias para encontrar un punto medio que satisfaga a todos.

[...] Estamos en camino en Horizonte 2020 para aumentar la inversión en IA a 1.500 millones de euros en el programa de trabajo 2018-2020.

El año pasado, el Grupo Europeo de Ética publicó su declaración sobre las ramificaciones éticas de la IA y esa declaración constituye la piedra angular de la Estrategia de la UE sobre IA.


[English]

McGuinness: Let me begin today with a quote4.2-2:

 ..One cannot have superior science and inferior morals. The combination is unstable and self-destroying.

That is one of the more famous sentences from Arthur C. Clarke, the father of science writing, an inventor and futurist. And it sets out perfectly why we are here today: the time has come for us to match our scientific ambition with our ethical one. Artificial intelligence is not just a new technology; it is a mediator for a new world. And that means that now is the moment to make concrete decisions, because “so far so good” is not a strategy for the future.

[…] let me briefly discuss the three considerations we should take into account about how we should build this ship and move into the new world.

  • First is to shift how we view ethics. Many see ethics as an obstacle. But for me, it is our compass.
  • Second, how do we make decisions about AI?
    • How do we design them?
    • What is the end goal?
  • How about what AI is used for, the end goal? Another place we need diversity and where decisions need to be taken by the many and not the few. Because this is a decision, not just about AI, but about the future society we want to live in and the world we want our children to inherit.

We need to sit down with a group that properly represents our society, not just those in power. And we need to work through our differences to find a middle ground that will satisfy all.

We are on track in Horizon 2020 to increase investment in AI to 1.5 billion euro in 2018-2020 work programme.

Last year the European Group on Ethics published their statement on the ethical ramifications of AI and that statement forms the foundation stone of the EU Strategy on AI.


Seminario de Diálogo del Artículo 17 titulado "Inteligencia Artificial (AI): Preocupaciones éticas" en el Parlamento Europeo (PE) / Seminar on Dialogue of Article 17 entitled "Artificial Intelligence (AI): Ethical Concerns" in the European Parliament (EP).