¿Qué relación hay entre poner la foto de un tierno gatito en una red social y el algoritmo que ese gesto pondrá en marcha hacia la plataforma de esa red? Al parecer ninguna. Pero en forma automática, el algoritmo traducirá en datos hasta la emoción por el minino, almacenando información sobre gustos, miedos y conductas de quien realizó el inocente posteo. En el intangible mundo de la alta tecnología, se habrá creado así un gemelo digital, un perfil de usuario a disposición de poderosos sistemas y que se alimenta en cada click, al celular o la computadora. El Papa León XIV, presentó una encíclica sobre el tema. El gobierno nacional anunció la creación del Gemelo Digital Social (GDS), basado en inteligencia artificial (IA), para generar políticas públicas. ¿Innovación o control? Las alertas se encendieron.
“En manos de un gobierno democrático esos datos ya requieren controles muy estrictos, pero en un gobierno autoritario, desregulado y entregado a plataformas privadas, pueden convertirse en una arquitectura de vigilancia, disciplinamiento social y manipulación política”, dice a Suma Política el ingeniero en electrónica y comunicaciones y especialista en IA, Ariel Garbarz. Y agrega que no es solo “saber qué pensamos, es anticipar qué podríamos hacer y actuar antes: persuadir, asustar, dividir, silenciar, castigar o premiar”.
A tono con el vértigo del avance tecnológico, el Papa León XIV presentó su primera encíclica Magnifica Humanitas (Magnífica Humanidad) con un eje central: “la custodia de la persona humana en el tiempo de la inteligencia artificial”. Para Garbarz, el hecho de que el documento se presentara justo a los 135 años en que su antecesor, León XIII, diera a conocer la encíclica Rerum Novarum (De las Cosas Nuevas) frente a la explotación obrera de la Revolución Industrial, es significativo. “El punto central era que el trabajo humano no podía ser tratado como una mercancía descartable y que el capital tenía límites éticos”.
“Mi mirada es que hoy necesitamos una nueva Rerum Novarum Digital, porque ahora no sólo explotan el cuerpo del trabajador, sino también sus datos, su atención, sus emociones y su subjetividad”, explica. Y agrega que antes el conflicto era capital / trabajo, “hoy es algorítmico contra la humanidad perfilada”. Una dimensión inasible, un orden digital escurridizo, difícil de comprender para el común de esa humanidad, capaz de acumular nuestros datos menos conscientes, convierte a un ciudadano con derechos en un perfil con puntaje que miden riesgo, tendencia política, consumo, enojo, ubicación, contactos y capacidad de ser manipulado.
Pero no sólo la Encíclica se ocupó del tema, a nivel vernáculo también se movió una pieza importante. Peter Thiel, un magnate de la tecnología de datos y de IA, con empresas como PayPal y Palantir Technologies (de software estadounidense especializada en el análisis masivo de datos, Big Data e inteligencia artificial), llegó al país, compró una propiedad, seducido por los escenarios desregulatorios para inversiones estratégicas. “Buscamos ofrecer el entorno legal y fiscal más atractivo para las empresas de Inteligencia Artificial que definirán el siglo XXI”, publicó el presidente Javier Milei, en un artículo de opinión que publicó el pasado 4 de junio en el Financial Times, para sorpresa generalizada proponiendo: cero regulaciones, corporaciones no humanas y entorno fiscal competitivo (Super RIGI).
Para Garbarz, “Argentina reúne condiciones que para este tipo de capital son muy atractivas: crisis económicas, necesidad de dólares, Estado debilitado, desregulación, recursos naturales, energía, población altamente conectada y un gobierno ideológicamente alineado con la idea de que el mercado tecnológico debe tener menos controles”. En su opinión, “el país aparece como una especie de Costa Pobre, diría Olmedo: un territorio barato, endeudado, desesperado por inversiones, con funcionarios fascinados por Silicon Valley (un epicentro de la era digital / talento global, California, Estados Unidos) y por recursos estratégicos para alimentar centros de datos, inteligencia artificial y vigilancia”.
“Y ahí está el peligro: que no vengan sólo a invertir sino a experimentar”, enfatiza y dice que el corazón de la propuesta es gravísimo: separar el poder económico de la responsabilidad humana. “Una empresa sin personas funciona como una máscara jurídica, oculta beneficiarios, dueños, programadores, fondos de inversión, operadores políticos, proveedores de datos, servidores, entre otros ítems”, explica y destaca que “cada decisión alogorítmica tiene consecuencias reales, puede discriminar, despedir, manipular precios, alterar mercados, capturar datos sensibles, interferir en campañas electorales, intoxicar el debate público o automatizar decisiones contra millones de argentinos. La pregunta es quién responde cuando una corporación automatizada daña a la sociedad, en un país laboratorio, una zona franca del algoritmo, una offshore digital, donde el negocio queda en manos humanas y la culpa en los sistemas automáticos.
De emociones a algoritmos
“Algo que parece lejano, técnico, casi de ciencia ficción, pero que ya está golpeando la puerta de nuestras casas, nuestros celulares, nuestras universidades y nuestras organizaciones políticas”, así Garbarz comienza a contextualizar las poderosas plataformas de redes sociales que en una especie de maqueta digital del país, donde cada uno de nosotros aparece reducido a datos. Dónde estamos, qué consumimos, qué buscamos, compramos, votamos, con quien hablamos, qué nos asusta, nos indigna, qué nos enamora, nos desespera o divide.
¿Cómo funciona un GMS? Como una arquitectura nueva de poder, define Garbarz. Un cambio que terminará siendo civilizatorio a partir de concentración de datos, control algorítmico y la intervención sobre la subjetividad, algo que cuesta entender por la resistencia que provoca admitir que uno está siendo manipulado a través de las redes y del teléfono celular.
El problema comienza cuando una plataforma logra juntar datos, modelar nuestros comportamientos, allí ubicamos como las fuentes: el celular, las redes, cámaras, el Estado y la geolocalización. “Estos son los dispositivos a través de los cuales comienzan a espiarnos y capturar datos nuestros y metadatos (cómo nos movemos, con quién estamos, dónde nos reunimos, conductas habituales diarias), cada una de estas cinco fuentes dicen mucho sobre nosotros, las redes dicen qué nos indigna, nos da miedo, con quien discutimos, qué causas nos movilizan, qué discursos nos penetran o no, las cámaras dicen por dónde circulamos, el Estado tiene datos sobre salud, educación, seguridad social, impuestos, subsidios, lo que consumimos y la geolocalización permite reconstruir nuestros movimientos, vínculos y patrones de conducta.
Parece ciencia ficción pero no lo es, aclara Garbarz y cita como botón de muestra la Palantir (Peter Thiel), que se presenta públicamente como una empresa cuyo softwhare permite integrar todos estos datos para decisiones en tiempo real, desde fábricas a frentes de guerra. “El insumo principal ya no es el petróleo o el litio, somos nosotros convertidos en datos”, define. A esto le sigue la ingesta masiva, aquí se toman millones de registros que se ponen en una plataforma para que los ordene. “El poder de esta plataforma es tragarse como una aspiradora social datos heterogéneos: textos, imágenes, videos, bases administrativas, mapas, sensores, satélites, redes sociales, llamadas, ubicaciones”, explica.
A esta aspiradora le sigue la fusión de datos, “este es uno de los pasos más importantes porque una cosa es tener datos sueltos y otra cruzarlos, porque una persona puede aparecer en distintos datos / huellas”, comenta. Y aclara sobre algo inquietante: la IA se puede equivocar y cita un enorme índice de fallas de las cámaras de Buenos Aires por las que la policía detuvo gente que no era la que estaba buscando. Este software mapea relaciones de las personas con objetivos predictivos, por ejemplo en Nueva Orleans, Palantir, sugería a la policía que lo atacaba, derivando en abusos y denuncias.
El paso siguiente es el perfil único, “acá se produce un salto cualitativo, el sistema ya no mira datos, mira persona, a cada una se le puede asignar una identidad algorítmica, quién es, dónde vive, que consume, qué piensa, si milita o no, y qué riesgos representa para el poder, qué probabilidad tiene de actuar de determinada manera, y esto es lo más parecido a convertir al ciudadano en un expediente vivo surgido de una combinación de vectores con los datos sobre conducta, costumbre, gustos, opiniones y probabilidades futuras”, describe y cita como ejemplo la aplicación de este sistema en la persecución migratoria en Estados Unidos.
A esta altura de las secuencias, habrá nacido el GDS, el núcleo político del problema. “Se le llamaba gemelo a una réplica virtual de un objeto de una máquina, una fábrica, una turbina o un avión y se usa para simular escenarios ante el cambio de una variable, el problema es cuando esa lógica se traslada a una sociedad, porque una sociedad no es una turbina, un pueblo no es una maqueta”, explica. A su configuración le sigue uno de sus usos más inquietantes: la predicción, que se aplica para generar anticipaciones de conductas. “La promesa de estos sistemas es predecir delitos, protestas, necesidades sociales, migraciones, consumo, enfermedad, predecir el voto y la reacción emocional”, comenta Garbarz y refiere que en Estados Unidos se aplica en defensa.
La secuencia continúa con modulación de subjetividades, que personaliza estímulos, y en este punto Garbarz hace una aclaración: “acá hay que hablar con cuidado, no estoy diciendo que exista una prueba pública de que Palantir, hoy en la Argentina, tenga un botón que diga voy a manipular la subjetividad de una persona en particular, lo que estoy diciendo es más serio; si una plataforma concentra datos, perfiles y predicciones, puede alimentar temas de comunicación política, propaganda, segmentación y estímulo personalizado, alcanza con saber a quién tiene que asustar, indignar, desmovilizar, entusiasmar, aislar, saturar de información o bombardear con mensajes de odio, en suma ajustar el entorno informativo para que uno sienta que esa idea es propia, cuando en realidad fue conducido por un ecosistema de datos de predicción y estímulos.”
El circuito de la concentración de datos concluye con la intervención, y se da cuando el sistema prioriza, segmenta y dirige. “Priorizar barrios o grupos considerados riesgosos, en salud decidir dónde asignar recursos, a modo de ejemplo, pero la diferencia entre esta intervención algorítmica opaca y una política pública democrática, es enorme”, aclaró. A esta altura del circuito, estamos frente a una máquina que aprende de sus propias intervenciones y que incluye retroalimentación, ajustes / aprendizaje para poner en acto sus salidas: vigilancia, control social, modulación subjetiva, decisiones opacas y uso militar.
La defensa entra en acción
“Quiero pasar un mensaje optimista, frente a todo esto, no estamos indefensos, el GDS se alimenta de nuestros datos, por lo tanto la defensa empieza en nosotros, en nuestros hábitos, en nuestras organizaciones y en nuestra capacidad colectiva de no dejarnos convertir en ganado digital”, advierte Garbarz. Y enumera la defensa: reducir entrega innecesaria de datos, desactivar la ubicación cuando no es necesaria, revisar micrófono, cámaras y fotos, cortar el seguimiento publicitario, cuidar los grupos, detectar operaciones emocionales, practicar la demora inteligente (en responder), actualizar el sistema y evitar software dudoso, educar a la familia y el entorno, entre otras que se pueden ver en este seminario:
Autor
