7 principios éticos de la Unión Europea para el desarrollo de la IA

IA
Fecha: 10 de abril de 2019
Categorías: IA | Noticias
Tags: IA | Noticias

La Comisión Europea (CE) presentó este lunes sus líneas maestras para desarrollar la inteligencia artificial (IA) en la Unión Europea (UE) garantizando el objetivo de conseguir beneficios para toda la sociedad, respetando la privacidad de los datos y protegiéndose frente a previsibles errores y ataques.

«La dimensión ética de la inteligencia artificial no es una característica de lujo o un añadido: tiene que ser parte integral de su desarrollo», señalan en sus conclusiones la «comunicación» sobre la materia presentada por la CE, que consiste en un documento orientativo con vinculaciones legales y elaborado a partir del trabajo de un grupo interdisciplinar de expertos en la materia.

El primer desafío ético de esa nueva tecnología, apunta el documento, pasa por ganar confianza entre los ciudadanos y para ello el sector y los agentes políticos llamados a regularlo deben fijarse como meta «incrementar el bienestar», observando valores de la Unión Europea como «el respeto a la dignidad humana, la democracia, la igualdad, el Estado de derecho y los derechos humanos».

A partir de ahí, los expertos consultados por el Ejecutivo comunitario han identificado una serie de requerimientos clave para el desarrollo de la IA, en función del contexto: no es lo mismo una herramienta que falle al recomendar un libro a un lector que una aplicación que diagnostica erróneamente un cáncer, subraya la CE.

Áreas claves

1. Debe de ser supervisada por seres humanos, con las «apropiadas medidas de contingencia».

2. Los sistemas deben de ser «resistentes» y «resilientes» ante eventuales intentos de manipulaciones o de pirateo y dotarse de planes de contingencia.

3. Se debe de garantizar la privacidad de los datos de los ciudadanos en todo el ciclo vital de la inteligencia artificial.

4. La IA debe de ser transparente, lo que supone poder reconstruir cómo y por qué se comporta de una determinada manera y quienes interactúen con esos sistemas deben de saber que se trata de inteligencia artificial así como qué personas son sus responsables.

5. La inteligencia artificial debe de tener en cuenta la diversidad social desde su desarrollo para garantizar que los algoritmos en que se base no tengan sesgos discriminatorios directos o indirectos.

6. El desarrollo tecnológico debe de tener en cuenta su impacto social y medioambiental de forma que sea sostenible y ecológicamente responsable.

7. La inteligencia artificial y sus resultados deben de rendir cuentas ante auditores externos e internos.

La CE presentará ahora estas guías éticas a los Estados miembros de la UE y a los distintos actores del sector y, a partir de junio, diseñará una fase piloto para obtener retroalimentación de quienes están implicados en el salto tecnológico que suponen las máquinas capaces de aprender y decidir por sí mismas.

A partir de esa información, se actualizarán las guías sobre ética robótica a inicios de 2020 de la Comisión Europea, que planea destinar 1.000 millones de euros anuales a partir de 2020 y espera que en total se movilicen 200.000 millones en la próxima década.

Noticias Recientes

Servicios de ciberseguridad que necesitan las empresas

¿Cuáles son los servicios de ciberseguridad más buscados por las empresas?, Debido al incremento de las amenazas informáticas y sus consecuentes pérdidas millonarias en las organizaciones a nivel mundial, empresas de todo el mundo, pequeñas y grandes, están prestando...

Vectores de ataques más usados por los ciberdelincuentes

Los virus nos acompañan desde que los ordenadores empezaron a estar encima, o debajo, de las mesas de trabajo hace ya algunas décadas, incluso antes de que existiera Internet. En sus comienzos eran demostraciones ingeniosas de errores de los programas y se propagaban...

Ataques de inyección SQL, una amenaza para tu web

La infraestructura web es un pilar básico para la mayoría de las empresas, ya que no solo sirve para alojar webs empleadas como carta de presentación de cara al público, sino que también es utilizada para ofrecer servicios e información a los usuarios y clientes. Los...

Google Chrome nuevo parche de emergencia para el zero-day

Google ha lanzado una actualización de seguridad de emergencia para la versión de escritorio del navegador web Chrome para evitar que los cibercriminales se aprovechen de una nueva vulnerabilidad zero-day, asociada al CVE CVE-2022-4135. Como es costumbre, ante este...

Las copias de seguridad de WordPress pueden ser su mayor debilidad

Los archivos de configuración existen para facilitar la vida de los desarrolladores y operadores de sitios web. En un mundo sin archivos de configuración, cada instancia de código que dependiera de una conexión de base de datos podría requerir que los detalles de la...