Cuando se habla de inteligencia artificial, el debate suele centrarse en sus capacidades: cuánto podrá automatizar, qué empleos transformará, qué avances científicos permitirá o cómo aumentará la productividad. Sin embargo, estas preguntas, siendo importantes, dejan fuera una cuestión más profunda: ¿qué tipo de sociedad construimos alrededor de la IA?

La respuesta depende de nosotros. De cómo la utilizamos, de cuánto comprendemos sus límites y de si mantenemos nuestra capacidad de juicio o la delegamos progresivamente en sistemas que no entendemos del todo.

Se definen muchos riesgos de la inteligencia artificial pero no se contempla un riesgo básico: el riesgo de una sociedad que utiliza una tecnología extraordinariamente poderosa con ligereza y sin comprenderla.

La fascinación tecnológica y la renuncia al pensamiento

A lo largo de la historia, cada gran innovación ha generado una mezcla de entusiasmo y dependencia. La inteligencia artificial no es una excepción. Su capacidad para responder preguntas, redactar textos, generar imágenes o resolver problemas produce una sensación de eficacia casi inmediata.

Pero esa comodidad encierra riesgos.

Muchas personas comienzan a relacionarse con la IA como si fuera una fuente de conocimiento objetiva e incuestionable. Si una respuesta está bien escrita y parece argumentada, se asume que es correcta. La realidad de la IA generativa es más compleja. Estos sistemas pueden reproducir sesgos o presentar alucinaciones (cosas inventadas) sin ser intencional. Simplemente por cómo funcionan: prediciendo cuál es la siguiente palabra o el siguiente píxel más probable basándose en su entrenamiento,

La cuestión no es si la IA genera algo falso por ella misma o provocado. La cuestión es si ejercemos nuestro capacidad de pensar y nuestro criterio o si lo estamos delegando en un algoritmo. Cuando aceptamos todas las respuestas, todas la imágenes, todos los audios sin pestañear, sin verificar. Ese es un error humano.

La diferencia entre recibir una respuesta y comprender el problema

La capacidad que tenemos de acceder por internet a mucha información fácilmente, nos crea la falsa ilusión de creer que tenemos un conocimiento real. Pero existe una diferencia fundamental entre recibir una respuesta y comprender un problema y el conocimiento se basa en lo segundo. Si la sociedad confunde rapidez con comprensión, corre el riesgo de crear una nueva forma de ignorancia: personas rodeadas de información que han dejado de pensar críticamente sobre ella.

La paradoja es evidente. Una tecnología diseñada para ampliar el acceso al conocimiento podría terminar debilitando la capacidad de distinguir entre saber algo y simplemente haber leído una respuesta.

La manipulación invisible

En mi opinión, el riesgo más serios de la IA es la producción masiva y personalizada de información persuasiva. Si antes las campañas de propaganda enviaban el mismo mensaje a millones de personas. Ahora la IA permite crear millones de mensajes distintos para millones de individuos diferentes. Hechos a medida, adaptado a sus intereses, emociones, miedos y preferencias.

En este caso la manipulación deja entonces de ser colectiva para convertirse en individual.

Es esa capacidad de la IA para crear imágenes, audios y vídeos falsos cada vez más convincentes y más difíciles de distinguir si son falso es lo que nos hace verdaderamente vulnerables. Un ciudadano que desconoce cómo se producen estos contenidos se vuelve especialmente manipulable. Los contenidos falsos han existido desde hace mucho tiempo. El peligro aparece cuando las personas consumen y reaccionan a estos contenidos sin preguntarse si aquello que ven es auténtico.

La sociedad del sesgo de automatismo

Seguimos rutas recomendadas por aplicaciones, consumimos contenidos seleccionados por algoritmos y aceptamos sugerencias personalizadas sin preguntarnos demasiado cómo se generan. Si cada vez más decisiones se van a apoyar en sistemas que no comprendemos la capacidad de poner en duda sus decisiones se irá reduciendo gradualmente. La incapacidad de analizar la respuesta nos llevará a asumir una imposición explícita, y a intentar imponerla a otros con un «lo ha dicho al IA».

El coste oculto de la inteligencia artificial

Por último, no hay que pasar por alto el coste de esta tecnología. Mientras que la experiencia del usuario transmite una sensación de inmaterialidad. Detrás de cada interacción existe una enorme infraestructura física de capacidad de computación, centros de datos, redes de comunicación, sistemas de refrigeración y grandes consumos energéticos a los que no prestamos atención. La mayoría de los usuarios o no son conscientes de ello o les trae al pairo.

Esta desconexión entre uso y coste genera una forma de irresponsabilidad preocupante. Consumimos la IA sin percibir o sin importar los recursos necesarios para respondernos las tonterías que preguntamos. Utilizamos la IA como un psicólogo cuando no tiene ni idea de psicología. Como un consejero cuando el consejo que nos va a dar es el más común no el mejor. Como un abogado cuando puede haberse inventado la legislación en la que basa la respuesta. como un confesor cuando nos va a dar siempre la absolución porqué esta programada para contestar lo que quieres oir…..

Una sociedad responsable debería preguntarse no solo qué puede hacer una tecnología, sino también qué le exige ese uso. Como consecuencia, una parte importante del desarrollo tecnológico se concentra en un número relativamente reducido de empresas y gobiernos. Lo que consolidará la polarización de la riqueza y serán los individuos los que pague los desmanes.

No se trata de estar en contra de la IA ni del avance tecnológico sino todo lo contrario: de responsabilidad de avanzar a un futuro más igualitario, justo, ético, culto, humano e inteligente. ¿qué tipo de sociedad queremos tener’.

El problema no va a ser la IA, va a ser la desorientación

La alfabetización digital no va a ser la capacidad de usar dispositivos, sino la capacidad de aprender a no depender completamente de la IA. Porque una sociedad libre no es aquella que dispone de las tecnologías más avanzadas. Es aquella cuyos ciudadanos conservan la capacidad de cuestionarlas.

Categorías:Uncategorized