Por Patricia Raquel Mancilla Dávila.
La redacción de la Declaración de Montreal para un desarrollo responsable de la Inteligencia Artificial (IA), se elaboró en 2018. Coordinados por la Université de Montréal, un grupo de expertos realizaron un ejercicio interdisciplinar, multidisciplinar, científico y, convocaron a otras instituciones interesadas en el desarrollar tecnología de Sistemas de Inteligencia Artificial (en adelante SIA)
Además organizaron consultas ciudadanas para tomar en cuenta la opinión de la sociedad civil y propiciar un debate abierto sobre los SIA para escribir la declaración.
La Declaración tiene tres objetivos principales:
1) Crear un marco ético para el desarrollo y la implementación de la IA;
2) Guiar la transición digital para que todos se beneficien de esta revolución tecnológica;
3) Abrir un foro de discusión nacional e internacional a fin de lograr conjuntamente un desarrollo equitativo, inclusivo y ecológicamente sostenible de la IA. (Université de Montréal; 2019)
Los principios de esta declaración son recomendaciones éticas que no tienen un orden jerárquico, sin embargo, se sugiere deliberar cuando sea necesario darle prioridad a un principio sobre otro.
A continuación, se enunciarán los principios de la declaración, tal cual aparecen en la versión en español del documento: “Declaración de Montreal para un desarrollo responsable de la Inteligencia Artificial, (2018)”. Sin embargo, el lector debe consultar la fuente original[1] para profundizar en los numerales de los principios de la declaración.
- Principio de Bienestar. Los SIA deben contribuir a la mejora de las condiciones de vida y salud de todos, sin causar daño a otros, para que las personas pongan en práctica sus capacidades, por lo que no debe hacer el mal a nadie ni contribuir a sensaciones de estrés, ansiedad o acoso en el entorno digital.
- Principio de Respeto a la Autonomía. Los SIA deben de respetar la autonomía de las personas, además deben permitir que los individuos alcancen sus objetivos morales y que tengan la vida que consideren vale la pena vivir, por lo que ni los particulares, ni las instituciones públicas deben utilizar los SIA para imponer estilos de vida a las personas.
- Principio de protección de la privacidad y la intimidad. Ante todo, se deben proteger la intimidad de los pensamientos y la privacidad de los datos contra los SIA, sobre todo aquellos que imponen juicios morales sobre las personas o las elecciones de vida, o de cualquier otra intrusión de sistemas de adquisición y archivo de datos. Las personas deben tener siempre el derecho a desconectarse del ámbito digital en sus vidas privadas y tener control sobre la información que les pertenece, por lo que se debe garantizar la confidencialidad y el anonimato.
- Principio de Solidaridad. Los SIA se deben desarrollar con el propósito de colaborar con los humanos en tareas complejas, por lo que no deben ser una amenaza a las relaciones humanas, por el contrario, deben fomentarse para reducir la vulnerabilidad y el aislamiento de las personas en diferentes generaciones. Especialmente en los sistemas de salud donde se debe tener en cuenta la importancia de las relaciones médico-paciente.
- Principio de Participación Democrática. Los SIA deben cumplir con los criterios de inteligibilidad, capacidad de justificación y accesibilidad, y se los debe someter a un análisis de control, de tal manera que en todo momento se pueda ser capaz cuando se interactúa con un SIA, para qué se programó y para que se utiliza.
- Principio de Equidad. Los SIA deben beneficiar a todas las personas por igual y contribuir a reducir las desigualdades y vulnerabilidades, por otra parte se debe garantizar que todos puedan acceder a los recursos y conocimientos de las herramientas digitales.
- Principio de Inclusión de la Diversidad. Los SIA deben tener en cuenta la diversidad cultural de la sociedad en la que se encuentran presentes y cuidar de no restringir o limitar el perfil de las personas para determinar su identidad
- Principio de Prudencia. Todas las personas involucradas con SIA deben actuar con prudencia y en la medida de lo posible prevenir sus riesgos
- Principio de Responsabilidad. Solamente se puede responsabilizar a los seres humanos de las decisiones que surjan a partir de las recomendaciones emitidas por un SIA
- Principio de Desarrollo Sostenible. El cuidado del medio ambiente debe ser tomado en cuenta al desarrollar los hardware de los SIA, estos deben alcanzar la mayor eficiencia energética y mitigar las emisiones de gas y el efecto invernadero así mismo, deben de disminuir los residuos y fomentar el reciclaje de acuerdo con los principios de economía circular.
Por último, la declaración concluye reconociendo el ritmo vertiginoso con el que crecen los SIA y señala que el documento es dinámico y se deberá adaptar conforme al avance científico y tecnológico en beneficio de la humanidad y las futuras generaciones.
[1] https://papyrus.bib.umontreal.ca/xmlui/bitstream/handle/1866/27794/UdeM_Decl_IA-Resp_ES.pdf?sequence=10#:~:text=La Declaración de Montreal se,códigos) que sean aplicables, refutar
Referencias:
- Université de Montréal. Déclaration de Montréal IA responsable. https://www.montrealdeclaration-responsibleai.com/reports-of-montreal-declaration
- Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., … & Vayena, E. (2021). An ethical framework for a good AI society: Opportunities, risks, principles, and recommendations. Ethics, governance, and policies in artificial intelligence, 19-39.
- Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas sobre inteligencia artificial (Ley de inteligencia artificial) y se modifican determinados actos legislativos de la Unión, COM/2021/206 final, 21.4.2021.
- Riquelme, R. 2019. Los 10 principios de la Declaración de Montreal para el desarrollo responsable de Inteligencia Artificial. El Economista. https://eleconomista.com.mx/tecnologia/Los-10-principios-de-la-Declaracion-de-Montreal-para-el-desarrollo-responsable-de-Inteligencia-Artificial-20191201-0013.html
