Bioética, inteligencia artificial y estados de excepción: algunas reflexiones a propósito de la salud pública.
Por Ariel Mauricio Malla Gallardo[1]
Introducción
Desde tiempos inmemoriales, las personas han buscado facilitarse la vida a través del desarrollo de técnicas, procesos y artefactos que le permitan una realización más eficiente y eficaz de sus actividades (Ordóñez Díaz, 2007, p. 188), al punto que la técnica ha precedido a la ciencia (Cañedo Andalia, 2001, p. 73), lo que ha derivado en la construcción de la civilización (Álvarez del Real, 1990, p. 3). De entre el cúmulo de herramientas tecnológicas que ha desarrollado el ser humano a través de su historia destaca actualmente la inteligencia artificial, cuyos aportes comienzan a ser sensibles para el gran público en los últimos años.
Si bien un resultado del desarrollo tecnológico, intrínsecamente considerado, puede ser estimado como inocuo más allá de los riesgos que puedan existir (especialmente los referidos a accidentes), en manos de un individuo concreto el uso de una herramienta debe ser considerado en atención del saber y el querer que éste despliega, momento desde el cual puede desarrollarse el discurso ético[2]. Siendo la inteligencia artificial un resultado del desarrollo tecnológico de la humanidad, ésta ha de valorarse en su contexto y con miras a quién se sirve de ella y para qué, motivo por lo que corresponde hacer un examen, aunque breve, de sus implicancias.
Agamben señala que “[e]l miedo es un mal consejero, pero hace que aparezcan muchas cosas que uno pretende no ver” (Agamben, 2020, p. 20). Los últimos cinco años se encuentran marcados por la irrupción de una pandemia y la catástrofe humana y sanitaria que ésta supuso. En tal contexto, la tecnología sirvió a la contención de la emergencia. Sin embargo, ante la aparición de nuevas tecnologías, los riesgos que ello puede implicar deben ser valorados, no sólo en cuanto puedan representar un peligro físico o síquico para las personas, sino que también en orden a cómo pueden ser una amenaza para el ejercicio de sus libertades[3], por mucho que el desarrollo del concepto de sociedad de la información ha sido impulsado por, entre otras cosas, la promesa implícita de escenarios posibles de desarrollo social benéficos basados en el salto tecnológico y el inmenso potencial que brindan las nuevas tecnologías (Ortega, 2014, p. 149).
Estado de excepción y salud pública
Las constituciones modernas prevén la existencia de estados de excepción constitucional, en los cuales el ejercicio de los derechos fundamentales se ve aminorado a causa de la grave situación a la que se hace frente[4], entre las que se cuenta la salud de las personas, tanto individual como colectivamente consideradas. En Chile, el artículo 41 de la actual Constitución Política de la República recoge el denominado estado de excepción constitucional de catástrofe, el que puede ser declarado en caso de calamidad pública. Con ocasión de éste pueden restringirse, de acuerdo al inciso tercero del artículo 43 de la Constitución, las libertades de locomoción (artículo 19, número 7, letra a) y de reunión (artículo 19, número 13) y establecer limitaciones al derecho de propiedad (artículo 19, número 24)[5].
En un contexto de excepción constitucional, como en el caso de la reciente pandemia, es posible la aparición de olas de miedo que puedan ser guiadas y orientadas por los hacedores de políticas públicas de acuerdo a los fines que persigan (Agamben, 2020, p. 14). Sin embargo, si se observa el inmenso poder que es capaz de desplegar el Estado, como haría Hobbes (1962, pp. 135-141), no parece aconsejable asumir que tales fines puedan ser siempre benéficos o éticamente admisibles. Lo anterior se hace todavía más patente si es que se observan los instrumentos de que puede disponer el Estado para infundir tal temor, como en el caso de lo dispuesto en el artículo 318 del Código Penal chileno, las que incluyen penas de cárcel y sanciones pecuniarias gravosas[6].
Partiendo de la base de que muchas personas buscan seguridad(es) en el Estado es posible preguntarse acerca de si se trata de una bioseguridad colectiva aquello a lo que se aspira. Agamben (2020, p. 17) propone como concepto de bioseguridad (aparte del propio de las ciencias biomédicas) aquél que consiste en el “[…] dispositivo de gobierno que resulta de la conjunción de la nueva religión de la salud y el poder estatal en su estado de excepción”[7]. Visto sucintamente el problema de los estados de excepción, ha de estarse al problema de esta ‘nueva religión’[8], que dice relación con el problema del cientificismo aunado al miedo[9]. Sus resultados son tales que superan en eficacia y generalidad a todas las formas de gobierno que ha conocido la humanidad: en tanto exista una amenaza para la salud, la gente parece aceptar sin mayor reacción limitaciones a las libertades que hubieran resultado inadmisibles en el pasado, lo que lleva a la paradoja de que el cese de toda relación social y toda actividad política se presenta como una forma ejemplar de participación cívica (Agamben, 2020, p. 80). Se tiene, entonces, que la época actual nos encuentra ante un colapso de las convicciones y fe comunes tal que los seres humanos no creen en nada más que en la nuda existencia biológica, que ha de ser salvada a toda costa, incluso con la sumisión total al Leviatán (el Estado) y su espada (Agamben, 2020, p. 30).
La tecnologúa (la inteligencia artificial) y su aplicación por el Estado
En este contexto anotado supra “[…] el control que se ejerce a través de las cámara de video y ahora, como se ha propuesto, a través de los teléfonos celulares, excede con creces cualquier forma de control ejercida bajo regímenes totalitarios como el fascismo o el nazismo” (Agamben, 2020, p. 55). Si bien las declaraciones de Agamben parecen altisonantes, el riesgo que involucra su denuncia, tenido en cuenta el avance tecnológico, se puede manifestar de maneras diversas en el terreno de la salud pública. Ya no se trata sólo del mero análisis estadístico, notoriamente facilitado por la aplicación de la inteligencia artificial a tales empeños, sino que también de la identificación de las personas, de las condiciones en que se encuentran y de lo que ello puede implicar en cuanto al ejercicio de sus libertades y la capacidad decisional del Estado a su respecto.
Lemoine, hace casi cuarenta años, aunque algo optimista, igualmente dejaba entrever su desconfianza al señalar que la generalización de sistemas informatizados de identificación puede practicarse con objetivos diversos, tanto que incluso en aquellos tiempos sospechaba de la posibilidad que implicaba que las personas se vieran asignadas a una manera de identificación única y homogénea, común a las instituciones y –aún peor– obligatoria para todos los actos de la vida, tal que la identidad de cada individuo se asociaría a un código, a la manera de un campo de concentración (1986, pp. 33-34). Esta situación, sumada a un estado de excepción justificado en la calamidad que puede suponer una pandemia, implica serias cuestiones relativas a la libertad de las personas, que pueden ver cómo sus desplazamientos y sus actividades son vigilados con precisión. En este estado de cosas, la inteligencia artificial en conjunto a herramientas de video y detectores en tiempo real puede hacer una imagen de la persona no sólo en cuanto a sus hábitos, sino que también en relación con su situación fisiológica (como en el caso de la detección de temperatura por cámara de video). Todo lo anterior, con perfecta capacidad de identificar persona a persona a través de las técnicas de reconocimiento facial. Esto puede tener serias consecuencias jurídicas, dependiendo del ejercicio del poder que se haga, que pueden fundarse en el miedo y en aparentes justificaciones biológicas que distraen de un fondo consistente en la conculcación de las libertades y derechos fundamentales, inclusas las referidas a la protección de datos personales.
En el contexto de la medicina, Pages señalaba que no había que sorprenderse de las reacciones complejas, muchas veces ambiguas, incluso violentas, que puedan ir ligadas a la inclusión de la informática en el terreno médico, reacciones en las que están unidos la esperanza y el temor (Pages, 1986, p. 113). Si a esto se suma la mano del Estado a través de la inclusión de tecnologías cada vez más avanzadas en la identificación y caracterización de las personas (incluso en tiempo real), existe una base para la existencia de este temor, por mucho que pueda tacharse de irracional. Las reacciones que se producen en este contexto reflejan la fascinación que existe en el ser humano respecto de la máquina, una confianza casi ciega inspirada por su regularidad y su seguridad, que coexisten con el temor cuasi religioso, atestiguado por las diversas narrativas de nuestro tiempo (inclusas las del cine y la literatura), de convertirse en una víctima de la tecnología que no se comprende en todo o en parte siquiera (Pages, 1986, p. 113). Los temores de las personas no han de ser subestimados por su eventual manifestación irracional, especialmente si, tenido en cuenta el poder del Estado, no es posible desechar el riesgo de que ciertas soluciones aportadas por el avance tecnológico puedan tener un derrotero perverso o sádico que no vaya al encuentro de los altos fines que se han alegado para su inclusión en las matrices decisionales, sino que exacerbe las reacciones que se querían contrarrestar[10].
Lo humano en la mira
Si hay miedo, hay emoción; si hay emoción, hay interacción, al menos con los objetos que la provocan. Así las cosas, cabe preguntarse, parafraseando a Agamben (2020, p. 7), si todo lo anterior se trata sólo de la defensa del derecho a la salud o también de la imposición de políticas públicas próximas a obligaciones jurídicas que deben ser cumplidas a cualquier precio, tal que puedan incluir la “simple abolición de todo espacio público” (Agamben, 2020, p. 23).
La política de los tiempos actuales es, de principio a fin, una biopolítica[11], donde la puesta en juego es, en última instancia, la vida biológica como tal, a lo que se suma que la salud se convierte en una obligación jurídica que –como ya se ha dicho supra– ha de cumplirse a toda costa (Agamben, 2020, p. 35)[12]. Importante resulta recalcar, una vez se ha llegado a este punto, que el Estado busca administrar la vida de las personas, generalmente con fines utilitarios[13].
Esto es tal que la biopolítica termina siendo un conjunto de estrategias de control y dominación orientadas a la normalización e imposición de modos de vida, valores y comportamientos confundidos con la integración social (Tejeda González, 2011, p. 102). Si la salud se vuelve un objeto de una política estatal transformada en biopolítica, entonces no se tratará de algo que ataña principalmente a la libertad de acción de cada individuo y se transforma en una obligación a cumplir a cualquier costo, sin importar qué tan alto sea éste (Agamben, 2020, p. 105), incluso pudiendo demandarla de otros por vía de la exclusión o ‘cancelación’ respecto del grupo social. Se trataría de una obligación que, como se ha visto, ni siquiera tiene como fundamento último una genuina preocupación por el ser humano en cuanto fin, sino que en cuanto medio apto para el desempeño de ciertas actividades productivas.
La preocupación bioética no debería concluir en el punto anterior ya que, haciendo frente a un escenario pesimista, como resultado de una población temerosa y una conciencia dirigida por el interés en la bioseguridad (política), siempre que se pueda, los dispositivos digitales podrían terminar reemplazando todo contacto –todo eventual contagio– entre los seres humanos (Agamben, 2020, p. 37), lo que puede llevar a la humanidad, o parte de ella, a una ‘barbarie tecnológica’ consistente en la cancelación de la vida de cada experiencia sensorial y la pérdida de la mirada, constreñida a las pantallas (Agamben, 2020, p. 98)[14]. En este sentido, importa la palabra contagio, puesto que no se trata sólo del contagio como una realidad biomédica, sino que también como una realidad política: para el ejercicio de ciertas libertades y derechos fundamentales se hace en ocasiones necesaria la agregación, tal como en el caso del ejercicio del derecho de asociación, la que se vería en extremo debilitada por causa de la imposición de medidas de cuestionable bioética. Este cuestionamiento provendría no sólo de los sufrimientos físicos o síquicos que a las personas puedan irrogarse, sino que también del incumplimiento de los mismos límites a que se encuentra restringido el Estado en cuanto a su actividad para con respecto a las personas.
Conclusiones
Se ha anotado anteriormente el riesgo que supone la tecnología y el hecho de que su uso implica la ponderación de las consecuencias que puede traer, incluso a nivel ético. En el contexto de los estados de excepción constitucional, la medicina corre el riesgo de controvertir el juramento hipocrático al concertar pactos necesariamente ambiguos y de contenido difícil de determinar con los gobiernos, colocándose en posición de legisladores (o, en otros términos, suplantando al Congreso Nacional o Parlamento del Estado), lo que puede llevar no sólo a la consecución de los altos fines de la medicina a partir de las razones de la disciplina, sino que pueden constituir el pretexto ideal para un control sin precedente alguno respecto de los individuos de una sociedad determinada (Agamben, 2020, pp. 105-106). El riesgo latente de un gobierno de los médicos (o de los científicos) resulta preocupante[1], especialmente en escenarios en que al problema bioético que supone que la decisión esté exclusivamente (o casi exclusivamente) en sus manos se le añade el fenómeno del decaimiento de la democracia[2].
La barbarie tecnológica antes mencionada puede llevar a la destrucción progresiva de la humanidad, en cuanto aquello que vuelve humanos a los individuos de la especie homo sapiens. Se puede pasar de un estadio evolutivo en el cual la tecnología se ha encontrado permanentemente a nuestro servicio a uno en el que sin la tecnología nuestra vida fuera en la práctica imposible (‘tecnodependencia’) o, incluso, a un estadio en el que la tecnología se nos muestra como única opción vital, con la imposibilidad de vislumbrar una alternativa, entregándonos a la apatía respecto del otro a propósito de la tecnificación de las actividades y la cotidianeidad. Ante esto, a partir de lo que se anticipaba en la introducción, no es posible reprocharle culpa a la inteligencia artificial, sino sólo las intenciones y actividades de los humanos que se encuentren tras su uso.
Parece conveniente, luego de lo discurrido en el presente ensayo, recoger la reflexión que hace casi cuarenta años Page hacía: “[e]speremos que aquellos sobre los que pesa la responsabilidad de las grandes opciones, ya se trate de incitación a la investigación o de la elección de soluciones, no se den por satisfechos con criterios técnicos, económicos o políticos inmediatos” (1986, p. 114). Los Estados modernos tienen un rol activo en la matriz de investigación, desarrollo e investigación, que se materializa a través del ejercicio del poder. Así las cosas, que los líderes políticos tengan en consideración cuestiones de orden bioético y ético permitirá un uso beneficioso de la tecnología, en especial de aquellas que resultan disruptivas para el momento actual, tal cual es el caso de la inteligencia artificial. La evaluación de las consecuencias bioéticas –y, en general, éticas– de las políticas públicas que puedan aprovechar la disponibilidad tecnológica debe ser más intensa mientras mayor sea el desarrollo tecnológico, especialmente si éste puede llegar a actuar en función de instrucciones dadas, las cuales podrían llegar a transformar el ejercicio de la biopolítica en un auténtico ejercicio de biopoder (es decir, alguien dice a la máquina, frente a un otro indeterminado –pero determinable–, quién vive o muere, por la mera aplicación de un algoritmo).
[1] Puede añadirse la preocupación que versa sobre su legitimidad. Sin embargo, excede del objeto del presente trabajo.
[2] Véase, por ejemplo, Cazor Aliste (2019).
[1] Alumno del diplomado Bioética y Tecnologías Disruptivas: Conociendo el Algoritmo Ético de la Inteligencia Artificial, llevado a cabo por el Centro de Investigación Social Avanzada del 26 de septiembre al 5 de diciembre del 2023.
[2] Una vez se ha llegado a este punto, puede considerarse el siguiente ejemplo: un cuchillo puede ser utilizado para matar (saber que puede causar heridas fatales y querer el resultado de muerte en el sujeto sobre el cual se aplique) o, por ejemplo, para alimentar a una familia (saber que se pueden cortar toda clase de carnes, frutas y verduras con un cuchillo y querer el resultado de armar una buena cena).
[3] “[…] la garantía de la seguridad de los ciudadanos, de las organizaciones públicas y privadas e, incluso, del propio Estado contemporáneo, se presenta como un auténtico desafío para combatir las amenazas, riesgos y criminalidad que acechan en el entorno cibernético” (Canals Ametller, 2021, p. 63).
[4] Agamben (2020, p. 6) iría incluso más allá al afirmar que esto puede llegar a la pura y simple suspensión de todo o parte de las garantías constitucionales.
[5] A mayor abundamiento sobre los estados de excepción constitucional en Chile, puede tenerse por referencia Ríos Álvarez (2002).
[6] Al respecto, véase Rodríguez González (2020).
[7] “Los politólogos estadounidenses lo llaman Security State, es decir, un Estado en el que ‘por razones de seguridad’ (en este caso de ‘salud pública’, término que hace pensar en los infames ‘comités de salud pública’ durante el Terror) se puede imponer cualquier límite a las libertades individuales” (Agamben, 2020, p. 54).
[8] Agamben aclara que “[l]a analogía con la religión debe tomarse al pie de la letra: los teólogos declaraban que no podían definir claramente qué es Dios, pero en su nombre dictaban reglas de conducta a los hombres y no dudaban en quemar a los herejes; los virólogos admiten que no saben exactamente qué es un virus, pero en su nombre afirman decidir cómo deben vivir los seres humanos” (2020, p. 58).
[9] En tiempos en que las religiones aparentemente no dan respuestas a las preguntas de nuestro tiempo es posible caer en un cientificismo tal que la ciencia sea elevada a una religión (Agamben, 2020, p. 29). Desde Nietzsche puede aventurarse, sin dejar de advertir de la posibilidad de lo forzado del argumento, que esto sea una consecuencia del abandono de la creencia en lo divino por parte de una sensible parte de la población. Confróntese con el aforismo 125 de La Gaya Ciencia en Nietzsche (1990, pp. 114-115).
[10] Véase Pages (1986, p. 114).
[11] De Foucault se recoge que “[…] a partir del [siglo] XVIII se han intentado racionalizar los problemas que planteaban a la práctica gubernamental fenómenos propios de un conjunto de seres vivos constituidos como población: salud, higiene, natalidad, longevidad, razas, etc.”, lo que comprende el concepto de biopolítica (2007, p. 209). En términos más sencillos, constituye “la regulación de la vida” (Estévez, 2018, p. 9).
[12] “La epidemia, –que siempre se refiere a un determinado demos– se inscribe así en una pan-demia, en la que el demos ya no es un determinado cuerpo político, sino una población bio-política” (Agamben, 2020, p. 93).
[13] Por ejemplo, la salud humana es una preocupación del Estado no tanto por vía de la preocupación por cada individuo como por el provecho económico que puede suponer habitantes suficientemente sanos y aptos para el trabajo.
[14] “Es legítimo preguntarse si tal sociedad podrá todavía definirse como humana o si la pérdida de las relaciones sensibles, de la cara, de la amistad, del amor, puede ser realmente compensada por una seguridad sanitaria abstracta y presumiblemente completamente ficticia” (Agamben, 2020, p. 77).
Bibliografía
Agamben, G. (2020). ¿En qué punto estamos? La epidemia como política. Quodlibet.
Álvarez del Real, M. A. (1990). Inventos y descubrimientos más famosos. Editorial América S. A.
Canals Ametller, D. (2021). La seguridad en el entorno digital. En Ciberseguridad. Un nuevo reto para el Estado y los Gobiernos Locales (pp. 61-88). El Consultor de Los Ayuntamientos.
Cañedo Andalia, R. (2001). Ciencia y tecnología en la sociedad. Perspectiva histórico-conceptual. ACIMED, 9(1), 72-76. http://scielo.sld.cu/pdf/aci/v9n1/aci051001.pdf
Cazor Aliste, K. (2019). Debilidad democrática y nuevas propuestas políticas: los actuales intereses ciudadanos. En K. Cazor Aliste (Ed.), Diversas perspectivas en torno al decaimiento de la democracia (1a ed., pp. 51-63). Editorial Jurídica de Chile.
Estévez, A. (2018). Biopolítica y necropolítica: ¿constitutivos u opuestos? Espiral, 25(73), 9-43. https://doi.org/https://doi.org/10.32870/espiral.v25i73.7017
Foucault, M. (2007). El nacimiento de la biopolítica (1a ed.). Fondo de Cultura Económica. https://archive.org/details/foucault-m.-el-nacimiento-de-la-biopolitica-ocr-2007/page/n4/mode/1up
Hobbes, T. (1962). Leviathan: or the matter, forme and power of a commonwealth ecclesiasticall and civil. Macmillan Publishing Co.
Lemoine, P. (1986). La identidad informatizada. En La informatización: riesgos culturales (pp. 29-63). Editorial Mitre.
Nietzsche, F. (1990). La ciencia jovial (1a ed.). Monte Ávila Editores.
Ordóñez Díaz, L. (2007). El desarrollo tecnológico en la historia. Areté, 19(2), 187-210. http://www.scielo.org.pe/pdf/arete/v19n2/a01v19n2.pdf
Ortega, J. R. (2014). El concepto de información: dimensiones bibliotecológica, sociológica y cognoscitiva. Investigación Bibliotecológica, 28, 143-179. http://www.scielo.org.mx/scielo.php?script=sci_arttext&pid=S0187-358X2014000100009&lng=en&tlng=en
Pages, J. C. (1986). Medicina, médicos e informáticos. En La informatización: riesgos culturales (pp. 107-114). Editorial Mitre.
Ríos Álvarez, L. (2002). Los estados de excepción constitucional en Chile. Ius et Praxis, 8(1), 251-282. https://doi.org/http://dx.doi.org/10.4067/S0718-00122002000100014
Rodríguez González, G. (2020). Alcances del artículo 318 del Código Penal. Revista de la Justicia Penal, 14, 69-86. https://biblio.dpp.cl/datafiles/17755.pdf
Tejeda González, J. L. (2011). Biopolítica, control y dominación. Espiral, 18(52), 77-107. https://www.scielo.org.mx/pdf/espiral/v18n52/v18n52a3.pdf
