Por Patricia Raquel Mancilla Dávila.
La Iniciativa Global sobre Ética de los Sistemas Autónomos e Inteligentes (IEEE) emite orientaciones prácticas y específicas sobre el uso ético de los sistemas inteligentes autónomos (SIA).
Muchas dudas se han generado en las personas al constatar que la actividad humana laboral se reduce cuando se incorporan los sistemas inteligentes autónomos a la vida cotidiana. La IEEE, propone que incorporar los SIA a lo cotidiano debe ser un beneficio para las personas, el medio ambiente y el bienestar social, y deben contribuir de manera positiva a la comunidad
La propuesta IEEE, presenta tres pilares para desarrollar el marco ético:
a) Antropológico: Los SIA deben ser diseñados para respetar los derechos humanos y los valores para el servicio del mayor número de personas como sea posible. Su diseño debe respetar los recursos naturales y el medio ambiente.
b) Gobernanza: Si su diseño es correcto, los SIA cuentan con autodeterminación política es por eso que tienen un gran potencial para fomentar la democracia y la libertad política. Ya que bien implementados pueden mejorar la rendición de cuentas de los gobiernos, la transparencia, fomentar la confianza y la transparencia.
Por otra parte, cuentan con Data Agency, es decir grandes bases de datos que deben estar bien protegidas y al mismo tiempo respetar la privacidad de los datos sensibles y la identidad digital que poseen.
c) Confiabilidad técnica: Los servicios que ofrecen los SIA deben ser confiables, seguros, efectivos. De tal manera que permitan cumplir los objetivos para lo que fueron diseñados, por lo que es necesario un monitoreo constante para garantizar su funcionamiento. Además, deben contar con procesos claros para certificar, validar y verificar su funcionamiento.
IEEE propone ocho principios para certificar con un estándar de ética y gobernanza a las IA. Los principios son: respeto a los Derechos Humanos; bienestar; agencia de datos; eficacia; transparencia; rendición de cuentas; conciencia de uso indebido y competencia
Por otra parte, en la versión “IEEE 7000™-2021 de la iniciativa global sobre los sistemas inteligentes autónomos, para abordar las preocupaciones éticas durante el diseño de esos sistemas establece una serie de normas acordes a los principios para certificación, así como para evaluar a los proveedores o instituciones que las utilizan.
La Norma 2089-2021. Norma IEEE para un marco de servicios digitales de acuerdo a la edad y con base en los derechos del niño establece que: El diseño de los SIA debe ser centrado en el ser humano, de acuerdo a la edad del usuario, especialmente cuando se trata del impacto de los SIA en los niños. Exhorta a las compañías productoras de servicios digitales a diseñar productos que tomen en cuenta los derechos de los niños de acuerdo con la Convención de las Naciones Unidas sobre los Derechos del Niño será esencial para crear un entorno digital amable, seguro y privado para los niños. Entre los puntos a resaltar de la norma están: “a) Reconocer que el usuario es un niño; b) considerar la capacidad de los niños y la defensa de sus derechos humanos; c) ofrecer términos apropiados para los niños; d) presentar información apropiada para su edad; e) ofrecer un nivel para validar las decisiones del diseño de los servicios para niños”.
La Norma 7000-2021. Aborda las preocupaciones éticas durante el diseño del sistema su intención es que en el desarrollo de SIA exista una consideración explícita a los principios éticos de “transparencia, equidad, rendición de cuentas, sostenibilidad, privacidad, eficacia y eficiencia.
La Norma 7001-2021. Para la transparencia de los sistemas autónomos: Aborda recomendaciones con la finalidad de establecer un estándar de transparencia en la toma de decisiones de sistemas autónomos e inteligencia artificial como son los de conducción automatizados, robots de asistencia y cuidados, sistemas de diagnóstico médico tipo chatbots. Las decisiones de los SIA deben ser predecibles y detectables.
Otras normas de la iniciativa IEEE 7000™-2021 son la: 7002-2022 para el cuidado del proceso de privacidad de datos; 7005-2021 para la gobernanza y transparencia de los datos; 7007-202 norma ontológica para sistemas de robótica y automatización; y la norma 7010-2020 para evaluar el impacto de los SIA en el bienestar humano, el lector puede consultarlas en la página oficial del IEEE.
Referencias:
IEEE “Iniciativa Global sobre Ética de los Sistemas Autónomos e Inteligentes” https://www.ieee.org.
“IEEE Ontological Standard for Ethically Driven Robotics and Automation Systems», en IEEE Std 7007-2021 , vol., no., pp.1-119, 12 de noviembre de 2021, doi: 10.1109/IEEESTD.2021.9611206.
«IEEE Standard for an Age Appropriate Digital Services Framework Based on the 5Rights Principles for Children,» in IEEE Std 2089-2021 , vol., no., pp.1-54, 30 Nov. 2021, doi: 10.1109/IEEESTD.2021.9627644.
“IEEE Standard for Data Privacy Process», en IEEE Std 7002-2022 , vol., no., pp.1-41, 19 de abril de 2022, doi: 10.1109/IEEESTD.2022.9760247.
«IEEE Standard Model Process for Addressing Ethical Concerns during System Design,» in IEEE Std 7000-2021 , vol., no., pp.1-82, 15 Sept. 2021, doi: 10.1109/IEEESTD.2021.9536679.
“IEEE Standard for Transparency of Autonomous Systems», en IEEE Std 7001-2021 , vol., no., pp.1-54, 4 de marzo de 2022, doi: 10.1109/IEEESTD.2022.9726144.
Morandín-Ahuerma, Fabio (2023). IEEE: un estándar global como iniciativa ética de la IA. In Principios normativos para una ética de la inteligencia artificial. Consejo de Ciencia y Tecnología del Estado de Puebla (Concytep). pp. 127-136.
