Lo que me preocupa de la inteligencia artificial

Más que el futuro, con esas predicciones que nos advierten sobre el peligro de extinción de la humanidad en manos de máquinas inteligentes que se volverían en contra nuestra, lo que me preocupa de la inteligencia artificial (IA) es lo que ya está ocurriendo en el presente. Máxime si los que más han difundido esas amenazas son justamente quienes están al frente de las empresas que están desarrollando la IA. Una maniobra aparentemente paradójica que parece diseñada para desviar nuestra atención de lo que la IA ya está haciendo en estos momentos.

Desde luego que no podemos dejar de pensar en el futuro, sobre todo si tenemos en mente relatos apocalípticos como el de la saga cinematográfica Terminator, pero ya hemos escuchado voces más mesuradas y conocedoras que señalan que ese peligro, de llegar a concretarse, es muy poco probable dado el nivel actual de desarrollo de estos dispositivos. Ya veremos si la evolución de la IA conducirá a que las máquinas se vuelvan conscientes, como ha declarado el matemático y divulgador científico Marcus du Sautoy y, de llegar a hacerlo, si serán capaces de convertirse en una seria amenaza para los seres humanos.

No discuto los alcances y beneficios, actuales y potenciales, de la IA. Sería absurdo a estas alturas. Es indudable que en ciertas tareas su capacidad supera a la de un ser humano convencional como el que esto escribe. No se diga en el ámbito de aquellas especialidades médicas en las que las imágenes sustentan el diagnóstico de las enfermedades como la radiología, la dermatología y la anatomía patológica, entre otras.

Me preocupa mucho más lo que vengo observando y leyendo a lo largo del extinto 2023, que ha sido el año en el que este tema ha ocupado todos los espacios informativos y ha acaparado las conversaciones públicas y privadas. A esta saturación informativa hay que agregar la dificultad adicional de mantenerse al día en un campo que cambia constantemente. En noviembre de 2022 surgió el famoso ChatGPT. Desde entonces ha sufrido una serie de modificaciones que lo han dotado de mayores capacidades sin que seamos capaces de vislumbrar cuál será su límite.

¿Qué aspectos de la IA me preocupan en este momento? Algunos son de tipo conceptual, no tan evidentes, mientras que otros tienen que ver con el origen de su fabricación, su impacto en los derechos humanos y en los derechos de autor, en los ámbitos laboral, ecológico, el de la transparencia, en la vida democrática, etc. A continuación, me referiré a algunos de estos aspectos.

Ilustración: Alma Rosa Pacheco

Respecto a su fabricación, es evidente que hoy en día la mayor parte de quienes la desarrollan pertenecen a la iniciativa privada y no sólo eso, sino que de una u otra forma tienen fuertes vínculos con el conjunto de empresas prácticamente monopólicas conocidas como GAFAM, acrónimo formado por la letra inicial de Google, Amazon, Facebook (ahora Meta), Apple y Microsoft. Estas empresas estadunidenses dominan el mercado de la informática y sus aplicaciones en todo el mundo occidental y somos conscientes de que mediante sus dispositivos han implantado en nuestras sociedades lo que hoy se conoce como el capitalismo de la vigilancia, vulnerando gravemente nuestra intimidad y la confidencialidad de nuestra información más sensible.

Con esos antecedentes, no nos podemos permitir la ingenuidad de suponer que su interés particular en el desarrollo de la IA coincide con el del bien común. Nos están dando indicios irrefutables de que lo que buscan con ello es más riqueza y poder. Mientras que en el desarrollo de la IA no participe de manera mucho más vigorosa el sector público (gobiernos, universidades, etc.), ese desequilibrio no sólo persistirá, sino que irá en aumento. Necesitamos iniciativas decididas y fuertes inversiones públicas en este campo. Desde luego, todo ello pasa por el tema de la regulación mediante marcos legales amplios y flexibles que se adapten a la rápida evolución de la IA. Ya la Unión Europea ha dado en fechas recientes los primeros pasos en este sentido.

Preocupa también la opacidad con la que se está desarrollando la IA. Es lo que se conoce como modelo de caja negra, es decir, que hasta este momento autoridades y usuarios ignoramos con el suficiente detalle cómo se desarrollan estos sistemas, qué información contienen y cómo funcionan. Es lógico pensar que este desarrollo opaco ha ocasionado los sesgos discriminatorios que han mostrado algunos de estos sistemas, en especial cuando se utilizan en las tareas policiales y en la impartición de justicia. En este sentido, son ya muchas las solicitudes de que la IA se desarrolle mediante lo que se llama un código abierto, para que expertos y ciudadanos puedan conocer sin trabas los detalles de estos sistemas.

Sobre lo anterior, Marta Peirano, periodista especializada en las relaciones entre la tecnología y el poder, publicó un artículo el 23 de diciembre de 2023 en el periódico español El País titulado Una inteligencia artificial de código abierto es posible (y muy necesaria):

Hay pocas cosas menos democráticas que un modelo generativo de inteligencia artificial. Laclase de máquinas que requiere, la cantidad de recursos que consume, el volumen de datos con los que se entrena y el talento especializado que necesita convierten la carrera por sintetizar la inteligencia humana en el juego de unos pocos privilegiados. Y, sin embargo, es crucial que existan alternativas abiertas al desarrollo privado de la inteligencia artificial para garantizar el beneficio de todos. Cómo conseguirlo, esa es la cuestión.

El impacto medioambiental de la IA no es cosa menor. La IA no habita en el éter, por más que se hable de “la nube” (The Cloud) como algo inmaterial. La misma Marta Peirano nos lo recuerda en otro de sus artículos, publicado en el mismo periódico el 1.° de enero de este 2024, titulado Por una interpretación generosa del mundo:

El cuerpo de la IA es insaciable. Sus enormes infraestructuras de almacenamiento y procesamiento masivo crecen como una bacteria interplanetaria, metiendo sus gordos tentáculos en todas las fuentes de agua, energía, minerales y procesos administrativos y cognitivos disponibles. Come de todo: minas y salinas, plantas eléctricas, instalaciones nucleares, granjas solares, pueblos indígenas, estudiantes dispersos, periodistas estresados, poblaciones empobrecidas por la guerra, la sequía, el capitalismo y la globalización. Norteamérica aumentó un 25 % su construcción de centros de datos, eso sin contar con los hiperescaladores: Google, Amazon, Meta y Microsoft.

Si a eso agregamos lo que implica la obtención, procesamiento y escaso reciclado de las materias primas (los preciosos y escasos minerales de las llamadas tierras raras) con las que se fabrican desde los teléfonos celulares hasta los grandes servidores en los que se almacenan los datos y su crecimiento exponencial debido al consumo creciente espoleado por la publicidad y la obsolescencia programada, el panorama es desolador. Para hacer conciencia, vemos algunos de los datos que nos expone Philippe Squarzoni, observador de los derechos humanos y autor de cómics con un fuerte contenido social, de cuya novela gráfica La oscura huella digital (Errata naturae editores, 2023) podemos obtener los siguientes datos:

  • Las tierras raras, por ejemplo, son un grupo de metales presentes en cantidades muy pequeñas en todos los equipos electrónicos que se han convertido en esenciales para el desarrollo de smartphones
  • Según Unicef, más de 40 000 niños trabajan en minas de la República Democrática del Congo, incluidas minas de cobalto y coltán, ambos usados para fabricar baterías y condensadores para smartphones, tabletas y computadoras.
  • Los procesos para refinar los metales de las tierras raras generan enormes cantidades de residuos: agua, productos químicos y minerales terrosos.
  • Estos desechos pueden contener sustancias radiactivas (uranio, torio, etc.), fluoruros, sulfuros, ácidos y metales pesados, cuya toxicidad tiene consecuencias medioambientales desastrosas.
  • La extracción de cada tonelada de óxidos de tierras raras produce entre 1300 y 1600 metros cúbicos de residuos de excavación, que pueden contaminar tierras agrícolas, ríos y recursos hídricos.
  • La minería y el procesamiento de tierras raras también causan contaminación atmosférica por el polvo tóxico.
  • Esta carrera por los minerales high tech va acompañada de tensiones y conflictos territoriales.

Por último, tocaré uno de esos aspectos conceptuales poco aparentes que tan bien ha analizado el filósofo Éric Sadin, investigador de las relaciones entre la tecnología y la sociedad, que ha escrito ensayos con títulos tan sugerentes como La humanidad aumentada. La administración digital del mundo (Caja Negra, 2017), La siliconización del mundo. La irresistible expansión del liberalismo digital (Caja Negra, 2018) y La inteligencia artificial o el desafío del siglo. Anatomía de un antihumanismo radical (Caja Negra, 2022). Este último gira en torno a un concepto que me parece de la mayor relevancia:

Hay un fenómeno destinado a revolucionar de un extremo a otro nuestras existencias. Se cristalizó hace muy poco, apenas una década. Sin embargo, nos cuesta apresarlo del todo, como si estuviésemos todavía pasmados por su carácter repentino y su potencia de deflagración […] Podemos, sin embargo, identificar su origen: se trata de un cambio de estatuto de las tecnologías digitales […] De ahora en adelante ciertos sistemas computacionales están dotados —nosotros los hemos dotado— de una singular y perturbadora vocación: la de enunciar la verdad […] Lo digital se erige como una potencia aletheica, una instancia consagrada a exponer la aletheia, la verdad, en el sentido en que la definía la filosofía griega antigua, que la entendía como develamiento, como la manifestación de la realidad de los fenómenos más allá de sus apariencias.

Lo digital se instituye como un órgano habilitado para peritar lo real de modo más fiable que nosotros mismos, así como para revelarnos dimensiones hasta ahora ocultas a nuestra conciencia. Y en esto asume la forma de un tecno-logos, una entidad artefactual dotada del poder de enunciar, siempre con más precisión y sin demora alguna, el estado de las cosas.

Y hoy, la punta de lanza del fenómeno mediante el que hemos transferido una tarea propia de nuestra esencia humana, como es la búsqueda y consecución de la verdad —aunque una verdad siempre provisional—, a los dispositivos electrónicos es justamente la IA. Según Sadin, encandilados por el brillo de la tecnología, le estamos cediendo nuestra esencia a las máquinas no sólo voluntariamente, sino con entusiasmo.

Podemos decir sin exagerar que somos testigos de la humanización de las cosas a la par que los seres humanos nos estamos cosificando. O, mejor dicho, estamos siendo cosificados mediante la abolición digital de nuestra singularidad, de nuestra individualidad. Es lo que ya anticipaba Simone Weil cuando en La condición obrera (Trotta, 2014) escribió: “Las cosas juegan el papel de los hombres; los hombres juegan el papel de las cosas; esa es la raíz del mal”.

Pues todas estas cosas y algunas más son lo que me preocupa de la inteligencia artificial.

 

Luis Muñoz Fernández
Médico cirujano especialista en anatomía patológica. Miembro del Colegio de Bioética, A. C.