DATOS

ana laura pérez

Este contenido es exclusivo para nuestros suscriptores.

Hola estimado lector, hoy quiero contarle un caso y pedirle que tenga paciencia para llegar al punto donde le diré por qué le estoy hablando de algo que le puede parecer un tanto lejano.

El 28 de enero pasado, el sitio norteamericano de investigación periodística Politicopublicó un trabajo en el que dio cuenta de que una de las organizaciones sin fines de lucro más importantes de Estados Unidos para el apoyo a personas que están en riesgo de suicidio, estaba vendiendo datos de esos chats a otra empresa que los utilizaba para “mejorar la experiencia de la atención al cliente”.

Crisis Text Linees una de las más importantes organizaciones que trabaja apoyando a personas que tienen ideaciones suicidas o crisis de ansiedad y utiliza herramientas de inteligencia artificial y big data para llevar adelante esa tarea. Pero gracias Politico (y al periodismo de investigación) sabemos que esos datos que las personas comparten cuando están en uno de los peores momentos de su vida no son desechados.

Otra organización,Loris.ai, con la que al menos durante un año y medio Crisis Text Line compartió el mismo CEO, utiliza una versión rempaquetada y reorganizada de esos datos para crear y vender software para atención al usuario.

Es una organización financiada por millones de dólares que provienen de varios de los jugadores más importantes de Silicon Valley (entre los que está Melina Gates, ex mujer del fundador de Microsoft) y controla lo que se ha definido como “la base de datos de salud mental más grande del mundo”.

La ONG reconoce al ser consultada que efectivamente está usando datos con ese nivel de sensibilidad para vender servicio al cliente pero asegura que son datos “anonimizados”, a los que se les retira cualquier detalle que pueda servir para identificar a personas que han usado el servicio para recibir ayuda en una crisis. Crisis Text Line asegura que desde que fue fundada en 2019 ha intercambiado 219 millones de mensajes en más de 6.700.000 de conversaciones a través de sms, Facebook Messenger o Whatsapp.

Este caso deja abiertas varias puertas para reflexionar sobre cosas que están ocurriendo y de las que hablamos muy poco. Le dejo dos.

Que de verdad exista la capacidad para anonimizar datos está cada vez más en duda. Varios estudios muy serios muestran que muchas veces puede ser bastante simple hacer el camino inverso al que hizo quien supuestamente quitó esos detalles que permiten identificar a las personas al usar sus datos. Existen varios ejemplos relativos ahistorias médicas, datos genéticos e incluso pasajeros entaxis de Nueva York.

El big data es un camino de dos vías, es parte de su riqueza, y justamente parte de su potencia es que el acceso a multiples fuentes de datos y a la capacidad técnica y tecnológica para cruzarlas hacen que sea cada vez menos creíble decir que un grupo de datos son anónimos. Por eso, para entender eso, es importante que las personas empecemos a entender cómo funcionan estos procesos.

Mi segunda reflexión no es algo nuevo, pero es algo que se ha profundizado. Las cosas no siempre son lo que parecen. Crear una organización sin fines de lucro que ayuda a personas que están pensando en quitarse la vida utilizando herramientas de inteligencia artificial que permiten darles las mejores respuestas y amortizar los equipos humanos especialistas al máximo parece una idea con la que nadie puede no estar de acuerdo. El peligro es que la verdadera razón para crear una organización así sea obtener millones y millones de sets de datos para desarrollar software que puede ser vendido a millones de dólares.

Este caso abre una puerta que es necesario dejar abierta para seguir pensando. ¿Cómo se almacenan nuestros datos? ¿Cómo se usan? ¿Quiénes los usan? ¿Para qué? ¿Nos hubiéramos enterado si no hubiese un grupo de periodistas suficientemente formados para entender lo que estaba pasando? De que nos formemos, investiguemos, aprendamos sobre el uso de datos dependerán muchas de las respuestas a estas interrogantes.