por László Erdélyi
.
Para el filósofo francés Éric Sadin estamos en un momento peligroso de la relación del hombre con la máquina, porque la inteligencia artificial está modelando al ser humano, modificándolo. Y lo hace actuando de forma autónoma, sin control alguno. Ese es el argumento central de su último libro traducido al castellano, La inteligencia artificial o el desafío del siglo, Anatomía de un antihumanismo radical, publicado por Caja Negra. Los libros anteriores están casi todos traducidos (La humanidad aumentada, La siliconización del mundo, La era del individuo tirano). Es uno de los ensayistas contemporáneos más críticos de las formas tecnológicas contemporáneas y sus consecuencias.

Sus libros poseen un lenguaje ciudadano, accesible al gran público. Sadin busca ser preciso con las palabras, descartando los términos o definiciones que confunden en lugar de aclarar. Con esa actitud encaró la charla a su paso por Montevideo.

—¿Qué lo motivó a ingresar a este territorio?
—El hecho de que esto está ocurriendo de forma brutal, y nos afecta a todos. Me refiero a los sistemas digitales, a las pantallas, a la interconexión digital, a la interconectividad global, que se le impuso de golpe a la humanidad en la bisagra de los años 90. Son procesos que buscan la eficacia, la inmediatez. Lo que no vimos en su momento es que todo esto dependía de un complejo técnico económico poderoso, que se volvió en los últimos años cada vez más potente, hasta convertirse en la gran potencia contemporánea, una potencia financiera, de producción de nuevos dispositivos, de organización colectiva, provocando una profunda inflexión en nuestras vidas individuales. Y a partir del 2000 ese proceso se afirma, sin complejos, con un aplomo inigualable, porque estaba alivianando nuestra existencia...

—Generando, para todos, una poderosa zona de confort.
—Pero no solo eso, también de optimización y racionalización de la sociedad a través de sistemas que tienen la capacidad de recolectar datos, cuantificar situaciones. Me pareció, entonces, que tenía un deber filosófico y moral para ir y ver de cerca, evitando las representaciones y los discursos, esos que nos dicen que se trata de un futuro inevitable y luminoso para la humanidad, cuando en realidad son discursos que responden a intereses privados. El deber moral era ir y ver qué estaba ocurriendo, contra viento y marea.

—¿Y qué vio?
—La cuantificación de los comportamientos a través de las tecnologías digitales. Eso se intensificó con los acontecimientos del 11/S y se terminó de comprender con las declaraciones de Edward Snowden del 2013, donde quedó en claro la embriaguez que provocaba el deseo de confundir la complejidad de la realidad con su posible matematización integral. Por eso se vigilaban poblaciones de forma algorítmica para mercantilizar nuestra existencia.

—¿Cada uno de nosotros pasó a ser un producto?
—No, somos blancos mercantilizados.

Informática emocional.

—Has mencionado la dimensión psicológica, cuasi neurótica, de la inteligencia artificial. ¿Cómo es eso?
—Esta innovación digital integral fue desarrollada para intensificar lo que yo llamo la organización algorítmica de la sociedad, hasta un punto en que se volvió neurótico, es decir, una organización que permite tener un dominio de la realidad para conseguir lazos con todos los individuos del planeta. Para organizar la sociedad de forma completamente ordenada, como si ésta fuera un sistema digital o una computadora.

—Además la herramienta, en lugar de informarnos para que tomemos nuestras propias decisiones, nos conduce. Y lo hace creando una realidad...
—Que pretende corregir lo real. Un ejemplo es la aplicación Waze, que Google compró a una sociedad israelí en 2005, y que permite interpretar el estado real del tráfico con una rapidez infinitamente mayor a nuestra capacidad humana. Waze revela hechos en tiempo real, y sugiere tomar tal o cual camino más corto o rápido. Es allí donde nos golpeamos contra lo real.

—Hablando del Waze, mi hijo y yo, camino al estadio del cuadro de nuestros amores, recibimos la sugerencia de Waze de ir por un camino más rápido. Pero Waze no nos dice que ese camino cruza por una zona de la ciudad donde están ocurriendo disputas entre bandas criminales.
—¿En Montevideo?

—Sí. Pero igual, resulta que cientos de hinchas siguen usando ese camino sugerido por Waze. Van por ahí como si nada. ¿Acaso esa actitud no es lindante con lo psicótico?
—Evidentemente. Supone que, más allá del ejemplo que estás citando, hemos llegado a aceptar consciente o inconscientemente, individual y colectivamente, que nuestra capacidad de juicio queda marginalizada por sistemas dotados de un aura de poder, de verdad, una semi ciencia a la cual estamos dispuestos a someternos. Sin que nos demos cuenta del origen y las ambiciones de la organización algorítmica de la sociedad. Siguiendo con Waze y tu ejemplo del camino al estadio, la aplicación te va indicando tal tienda, tal restaurante. No es neutral, responde a intereses. Pero donde además —y eso es un hecho terrible— el juicio y la acción humana están cada vez más enmarcadas por estos sistemas, dejando de lado la pluralidad de los seres humanos y la complejidad de lo real. El fenómeno es un trastorno, que no es manifiesto de inmediato porque es muy difícil criticar sistemas que aparentemente facilitan la existencia. Y es algo que puede llegar lejos, hasta el vehículo autónomo.

—¿Cómo?
—Los autos sin chofer no son más que un instrumento que te guía de forma más segura, por ejemplo, de Montevideo a Punta del Este. Al no haber actividad de conducción en el vehículo, se intensifica el análisis de nuestro comportamiento dentro el vehículo. Se analizan nuestros rostros por lo que se llama informática emocional, incluso la sudoración, para conocer mejor nuestras reacciones. Así, en función de lo que interpreta sobre nuestro estado, nos sugiere parar en una farmacia para comprar complementos alimentarios, o comer en cierto restaurante, o descansar en tal hotel, siempre teniendo en cuenta nuestra capacidad financiera. Es lo que les pasa a ti y a tu hijo con el estadio, lo que nos obliga a plantear la pregunta, ¿hacia qué organización colectiva de la sociedad estamos yendo?

—Waze se impone con nuestro consentimiento.
—No Waze en sí, sino las formas administrativas que se juegan en el e-commerce y la logística. Los depósitos de Amazon son un claro ejemplo, gracias a los sistemas de inteligencia artificial. Con individuos que corren de acá para allá llevando tal artículo para depositarlos en otro lado, tras recibir una orden en su tablet, en cadencias infernales, que crean trastornos músculo esqueléticos y psíquicos, al punto que Amazon está introduciendo más robots que robotizan tareas que ya están robotizadas, pero por humanos. Sucede desde hace al menos diez años, y estoy sorprendido de lo poco que se habla del tema. Involucra a millones de individuos, pero todo el mundo se lava las manos.