Por Patricia Raquel Mancilla Dávila.
En marzo del 2018 el Grupo Europeo de Ética en la Ciencia y las Nuevas Tecnologías emite la “Declaración sobre inteligencia artificial, robótica y sistemas autónomos”.
El European Group Ethics (EGE) se funda en 1991, por un mandato legal de la Comisión Europea, es un organismo independiente conformado por un equipo multidisciplinario que ha sido designado por el Presidente de la Comisión Europea que asesora sobre las políticas públicas del desarrollo de la ciencia y las nuevas tecnologías, con un enfoque social, ético y de derechos humanos.
La declaración es un llamado para construir un marco ético y legal para el diseño, producción, uso y gobernanza de los sistemas de inteligencia artificial “autónomos” y la robótica.
Parte del análisis de los avances tecnológicos independientes qué conocemos como tecnología autónoma e inteligencia artificial, por ejemplo los drones que vuelan por sí mismos, los automóviles sin conductor, los robots para exploraciones, mecatrónica avanzada, sistemas robóticos, agentes de software como bots, deep learning, machine learning involucrados en diversos ámbitos de la vida cotidiana y que cada día demuestran tener mayor autonomía.
Este grupo multidisciplinario inquieto por preguntas sobre ¿cómo construir un mundo seguro con dispositivos de inteligencia artificial autónoma?; ¿cómo estimar los riesgos?; ¿quiénes serán los responsables morales de las decisiones deseadas o no deseadas tomadas por los sistemas complejos de inteligencia artificial?;¿es razonable hablar de una responsabilidad compartida?; ¿cómo diseñar leyes para que la sociedad esté segura ante el diseño de estas tecnologías?; ¿en qué medida los ciudadanos comunes aprovecharán estos avances?; ¿cómo estamos diseñando estas máquinas?; ¿qué concesiones estamos dispuestos a hacer? Y, por último ¿cómo se puede prevenir que estas tecnologías tan poderosas sean utilizadas para dañar a la humanidad? Y ¿cómo asegurar que las nuevas tecnologías respetan los derechos constitutivos de la persona como la libertad y la igualdad?
Los aspectos éticos a tomar en cuenta son, por una parte, la dignidad humana y por otra la autonomía, vista como la capacidad que tienen las personas de decidir sobre ellas mismas, con capacidad del autoconocimiento y de reflexionar sobre valores morales lo que se denomina como autoconciencia; en consecuencia las máquinas no pueden ser denominadas como “autónomas”, ya que no tienen esas capacidades.
En este sentido el término autónomo, debe de considerarse como “automatizado” e independientes operativos del ser humano, por lo tanto, ningún artefacto puede ser considerado titular de moralidad y dignidad lo que implica que en el empleo de estas tecnologías se deba garantizar el control humano, porque es el único ser con responsabilidad moral.
La discusión central de esta declaración se da con respecto a los automóviles autónomos, las armas autónomas y los software autónomos como los bots utilizados en los mercados bursátiles, de ahí que sea importante que exista un control humano significativo, que se haga responsable.
Otros temas de interés son las interfaces de reconocimiento de voz y las interrogantes sobre protección de datos personales, por lo que señalan los expertos del EGE es urgente crear marcos éticos colectivos, amplios e inclusivos que permitan la gobernanza en el diseño, la producción y el uso de estas tecnologías.
Entre los principios éticos que sugiere la declaración del EGE están la dignidad humana; autonomía; responsabilidad; justicia, equidad, solidaridad; democracia, estado de derecho y rendición de cuentas; seguridad, protección, e integridad física y mental; protección de datos y privacidad y sostenibilidad
La declaración concluye mostrando las principales iniciativas regulatorias que abogan por el uso responsable de los sistemas de inteligencia artificial.
Referencias:
Grupo Europeo de Ética en la Ciencia y las Nuevas Tecnologías. 2018, marzo. Declaración sobre inteligencia artificial, robótica y sistemas ‘autónomos’ . https://ec.europa.eu/info/news/ethics-artificial-intelligence-statement-ege-released-2018-apr-24_en .
