Punto Focal #03 - La pregunta humana detrás de la tecnología

Punto Focal #03 – La pregunta humana detrás de la tecnología

Cinco preguntas para discernir la ética de la tecnología, la mejora humana y las decisiones públicas asistidas por inteligencia artificial.

Querida comunidad, esta semana me entusiasma mucho que hayamos entrado de lleno a discutir los dilemas éticos relacionados con la dignidad de la persona ante los desafíos de nuestro tiempo, porque aquí es donde entran cuestiones como el transhumanismo, pero también buena parte de las discusiones sobre la inteligencia artifical que han habido, particularmente en las últimas semanas.

Y es que estoy convencida de que estas son las discusiones que deberíamos de estar teniendo, aquí es donde debe de estar el Punto Focal. Y no se trata de entrar en una discusión reduccionista y simplista que nos ubique en dos posiciones: tecnología sí o tecnología no. Sino más bien en que contemos con el criterio y las herramientas suficientes para distinguir cuáles deberían de ser los límites y el criterio aplicado a lo tecnológico cuando está ligado, de alguna manera, a lo humano. Así que sin más preámbulo vayamos a la carnita del asunto.

El Punto Focal

Para mí es clarísimo que la discusión tecnología sí o tecnología no resulta demasiado pobre para nuestro tiempo. Es perder demasiadas cosas que cruzan en medio de tales afirmaciones.

Como ejemplos muy concretos podemos centrarnos en el caso de una prótesis que permite caminar a una persona, una herramienta digital que amplía el acceso educativo de las personas o una inteligencia artificial que es capaz de detectar riesgos. La cuestión aquí no se trata de rechazar la innovación per se. Sino que nuestra tarea debe de ser la de discernir qué idea de ser humano, de persona, la orienta y también qué idea de progreso estamos dispuestos a convertir en la norma.

Así que esta semana quiero proponerte un ejercicio muy sencillo: que puedas visualizar una misma prótesis en cuatro escenarios distintos. Porque la herramienta, en este caso la prótesis, puede cambiar poco, pero lo que en realidad cambia es la relación que ésta puede tener con el cuidado, la libertad, la igualdad y la responsabilidad.

Ahí es donde me parece que está el Punto Focal.

¡Gracias por leer Punto Focal por Aurora Espina! Esta publicación es gratutita así que siéntete libre de compartirla con alguien más.

Compartir

Cuatro escenarios

En el primero de ellos, una prótesis neural devuelve una función que se había perdido. Su finalidad es de tipo terapéutica, porque busca aliviar el sufrimiento de la persona y devolverle posibilidades en su vida diaria.

En el segundo escenario, esta misma tecnología permite superar de forma sustantiva una capacidad humana ordinaria. Y es aquí donde nos encontramos con preguntas sobre el aumento de capacidades, y especialmente pondría yo el foco en el quién define qué significa mejor cuando hablamos de capacidades humanas.

El tercer escenario, es aquel en el que esa mejora de la que hablamos anteriormente existe en la persona, pero en este caso, sólo algunas personas tienen la posibilidad de pagarla. Es aquí donde la desigualdad económica empieza a convertirse a su vez en una ventaja biológica, cognitiva o de longevidad para algunas personas, por sobre de otras.

Y finalmente, el cuarto escenario, nos plantea una realidad en la que no adoptar esa mejora en el organismo humano se convierte en un mecanismo directo que reduce las posibilidades de una persona de estudiar, competir, trabajar o asegurar la salud, porque se encuentra en una desventaja directa frente a otros que sí lo tienen. Este escenario, puede sumarse también al tercero, y no quedarse únicamente como un planteamiento individual. Una situación como esta lo que hace es convertir la elección de modificar o “mejorar” el cuerpo humano en presión social para hacerlo.

En cosecuencia, vemos con claridad como la tecnología puede ser semejante, o inclusive la misma, pero lo que cambia es el cuestionamiento ético cuando se transforman la finalidad, el acceso y el costo real de decir que sí y que no. Puede sonar como a una película de ciencia ficción, pero esta es la realidad a la que llevamos ya varios años enfrentándonos, sólo que ahora estos temas empiezan a resonar con mayor fuerza en la mesa de la discusión pública.

Lo que sabemos y lo que todavía no

Ciertamente sabemos que la tecnología tiene la capacidad de restaurar funciones, de ampliar capacidades y de mejorar decisiones. También sabemos que toda innovación llega a las instituciones y a lugares con desigualdades preexistentes.

De aquí podemos inferir entonces, que si determinadas mejoras generan ventajas educativas, laborales o en términos de longevidad, la presión para adoptarlas puede incrementarse.

Aún no sabemos cómo es que se distribuirán todos sus beneficios y riesgos ni qué marcos regulatorios serán suficientes o pertinentes para tecnologías que cada vez avanzan con más rapidez. Aquí incluso podemos recordar los pedidos de varios ingenieros e investigadores de compañías que desarrollan IA, como Jacob Coxon, que renunció a Anthropic, y otros que piden no acelerar el proceso de la IA, sino darle su tiempo para poder valorar los riesgos y hacer los ajustes y adaptaciones necesarias. Esto me parece sumamente relevante, además de que abre muchas líneas de discusión al respecto que me gustaría que abordemos en otras ediciones de Punto Focal.

Ante todo esto yo parto de una valoración explícita: ninguna mejora debería de convertir la fragilidad humana, la discapacidad, la enfermedad o el envejecimiento en un criterio para medir el valor humano.

Poder distinguir estos niveles me parece que protege la conversación de dos posibles excesos, por un lado, el de anunciar una utopía inevitable; y por el otro, responder con miedo a toda innovación. Me parece que en esta discusión no debemos, ni podemos quedarnos en los extremos, porque hay muchas cosas que valorar entre cada uno estos.

Cinco preguntas para discernir

La propuesta de Punto Focal, busca en parte ayudar a que seamos capaces de tener un criterio, a partir de ciertas herramientas, pero especialmente a partir de un proceso de discernimiento que nos lleve no sólo a decidir o definir una posición, sino que nos permita ampliar la mirada, contrastar, información, contar con todos los elementos necesarios para comprender de mejor forma el contexto, ect. Porque esto no sólo definirá nuestras opiniones, ni nuestro criterio, sino que contribuirá, irremediablemente, a mejorar nuestra capacidad de decisión.

Así que estas son las cinco preguntas que planteo para discernir los dilemas que hasta ahora he esbozado un poco:

1. ¿Estamos curando o estamos fabricando un estándar obligatorio de perfección?

La medicina lo que busca, de alguna forma, es aliviar el sufrimiento de las personas y restaurar sus capacidades. Sin embargo, el problema aparece cuando la afirmación “podemos mejorar” se convierte en un “debemos mejorar”, porque es a partir de esto que también la fragilidad humana comienza a leerse como un fracaso personal y como una debilidad humana a descartar.

2. ¿Quién define qué significa mejor?

Aquí hablamos concretamente de cuestiones como memoria, fuerza, atención o longevidad que pueden llegar a convertirse en bienes. Pero el problema es que si definimos a la persona a partir de prestaciones, lo que estamos haciendo es abrir la posibilidad de ordenar o clasificar a las personas a partir de esas prestaciones o capacidades.

3. ¿Quién puede acceder?

Cuando hablaba del hecho de que toda innovación llega a las instituciones y a lugares con desigualdades preexistentes, justamente pensaba en esta pregunta que me parece clave en ello. Puesto que, cuando las capacidades aumentadas o “mejoras” se compran, la desigualdad económica puede traducirse también en ventajas o desventajas biológicas o cognitivas.

Y en este caso, el problema deja de ser sólo cuánto tiene o qué tiene cada persona, sino qué posibilidades de modificación o “mejora” puede aquirir para sí y sus descendientes, porque ello tiene implicaciones tanto monetarias, como de “utilidad” humana. Esto último me parece brutal, porque estamos hablando de considerar o descartar personas con base en las capacidades o “mejoras” que pueda tener o que sea capaz de financiarse.

4. ¿Qué lugar dejamos a la vulnerabilidad?

Combatir una enfermedad por supuesto que es algo bueno, pero convertir la ausencia de la enfermedad en un criterio del valor humano, es otra cosa por completo. Trabajar para garantizar la accesibilidad es algo igualmente deseable y bueno. Sin embargo, concluir que la vida de una persona que tiene algún tipo de discapacidad es inferior, resulta completamente incompatible con la dignidad. Toda persona tiene dignidad por el hecho de ser persona.

5. ¿Todo lo técnicamente posible es humanamente deseable?

En términos de economía, sabemos que el mercado siempre va a preguntar si hay demanda, para poder ofrecer algo. Mientras que la técnica pregunta si lo que se desea puede realizarse. Por otro lado, el derecho cuestiona bajo qué reglas se llevará a cabo. A estos planteamientos o preguntas, que resultan básicas, agregaría que una política que se precie de ser humanista, tendría que añadir el cuestionamiento de si la innovación sirve al desarrollo integral de la persona y al bien común, porque de este modo sabremos que la mirada está donde importa, porque recordemos que el poder está al servico de las personas, el poder está para custodiar lo humano.

Inteligencia artificial y responsabilidad pública

Pensemos ahora en un sistema que utiliza un modelo predictivo para identificar fraude o priorizar beneficios sociales. Este puede contribuir a mejorar la gestión, pero si una persona no sabe por qué, o bajo qué criterio fue excluida, y además no existe apelación humana, los datos reproducen a su vez una discriminación previa o el funcionario a cargo simplemente responde “lo decidió el sistema”, la herramienta se convierte en una forma de irresponsabilidad. Que además le quita lo más humano al proceso, que es la capacidad de decidir y la responsabilidad que el hecho de decidir conlleva en sí mismo.

Porque una máquina puede calcular con rapidez, pero no tiene la capacidad de absorber la responsabilidad moral y jurídica de una institución o de un funcionario, respecto de lo público y de las personas que quedan a su cargo.

Así que antes de que se adopte una decisi`ón asistida por inteligencia artificial, conviene exigir cuatro controles: 1. Explicación comprensible, 2. Revisión humana, 3. Apelación efectiva y 4. Auditoría de impacto.

En conclusión: la eficiencia administrativa no puede borrar el nombre propio.

Para llevar

Así que antes de adoptar una tecnología, lo que yo haría sería documentar al menos ocho elementos: 1. finalidad, 2. población afectada, 3. datos utilizados, 4. posibilidades de explicación, 5. revisión humana, 6. mecanismo de apelación, 7. impactos distributivos, y 8. criterio de éxito.

No debe romatizarse el límite, y el sufrimiento evitable debe aliviarse. Pero aliviar o mejorar una condición y declarar inferior a quien vive con ella son operaciones diametralmente opuestas, y esto último es lo que debemos de evitar.

Porque la técnica debe ampliar las posibilidades de la persona; nunca, repito, NUNCA, debe convertir a la persona en material de un proyecto técnico, porque la persona es fin, no medio o vil instrumento/objeto.

Quiero cerrar con una pregunta: ¿qué decisión nunca delegarías por completo a un sistema o a una tecnología? Puedes responder a este correo. Las respuestas me ayudarán a orientar conversaciones posteriores de esta primer serie de Punto Focal: Custodiar lo Humano.

Esta semana también comparto la ficha que realicé para la Fundación Rafael Preciado Hernández, A. C.: T-MEC bajo presión. Puedes consultarla en el siguiente enlace: https://t.co/MQXGPTPURM

Fuentes para enlazar

Aquí comparto una serie de recursos adicionales para enlazar o conectar con todo lo que hemos discutido en esta edición de Punto Focal y que espero que sean de utilidad:

Finalmente, a lo largo del texto mencioné que varios de estos dilemas parecerían sacados de una película de ciencia ficción y sin embargo, son dilemas que están presentes en nuestra realidad cotidiana. Hoy quiero dejarte unas recomendaciones en las que estuve pensando mientras escribía estas líneas, seguro hay libros, series, entre otros que podríamos poner (por favor siéntete libre de compartir tus recomendaciones, creo que sería muy enriquecedor). Aquí mis recomendaciones:

  • Gattaca: Experimento genético, esta es una película de 1997 pero que me parece perfecta para lo discutido aquí, y sobre todo en las cinco preguntas para discernir.

  • Person of Interest o Vigilados, es una serie de televisión (2011-2016) que en sus cinco temporadas aborda las implicaciones del uso de la tecnología en las decisiones públicas, y particularmente cuando se abandona la responsabilidad y la capacidad de decidir en una tecnología. Esta serie por sí sola, da para muchas discusiones, pero me gustaía enmarcarla concretamente en el bloque de Inteligencia artificial y responsabilidad pública de esta edición de Punto Focal.

¡Gracias por leerme!

Aurora Espina

No es sobre las ideas. Es sobre cómo hacer que las ideas transformen el mundo.

¡Gracias por leer Punto Focal por Aurora Espina! Suscríbete gratis para recibir nuevos posts y apoyar mi trabajo.