Los más de 69 convencionales constituyentes juraron el viernes 12 por una nueva Carta Magna que puso sobre la mesa una serie de nuevos derechos para los santafesinos, entre los cuales se nombra la inteligencia artificial (IA) y la defensa de los datos y los usuarios de las tecnologías digitales. En su texto, el territorio digital metió la cola: todos los derechos y garantías apuntados en el texto constitucional deben ser respetados tanto en el campo de la realidad material como de la virtual, mientras que los usuarios tendrán conocimiento de los algoritmos que usen y las conclusiones que partan de un trabajo llevado adelante por una IA deben ser chequeados por un ser humano asignado para esa tarea.
“Gran parte de nuestra vida sucede en entornos digitales, desde estudiar, trabajar o socializar hasta hacer compras o trámites oficiales. Por eso era clave que estos derechos formaran parte de la Constitución y que el Estado tuviera un rol activo en estos espacios”, sostuvo la convencional constituyente socialista Gisel Mahmud en diálogo con Suma Política, autora de la iniciativa que se llevó la mayor parte del dictamen de mayoría que terminó siendo aprobado por el cuerpo asambleario.
No obstante, los convencionales del PS no fueron los únicos que llevaron adelante iniciativas para la regulación de la IA y de las tecnologías digitales en el marco de la vida social e institucional de los santafesinos.
Desde el Observatorio “Mercedes Pagnutti”, Iván Durigon consideró que la redacción final “tomó algunos de los puntos, no todos” del proyecto llevado adelante por los convencionales que responden al espacio Comunidad, cuya principal referente es la concejala peronista Norma López. Sin embargo, Durgon apuntó que están conformes respecto de lo definido por la convencional, aunque es necesario que a lo que se le dio forma en la nueva Constitución se le dé cuerpo con la correspondiente legislación: “Si después no se le daba contenido y forma, no iba a tener demasiado sentido. Si queda en el marco de la Constitución y no se avanzaba en una legislación, va a quedar en letra muerta. Pero el paso que se dio para poder avanzar en materia de estos derechos es importante”.
En este sentido, ambos espacios están de acuerdo con que quedaron baches sobre los cuales se deberá trabajar de cara al futuro: quedaron afuera propuestas como el derecho al olvido o la creación de un organismo centralizado de datos. Respecto a la inteligencia artificial, Mahmud remarcó que “la idea era nombrar la tecnología más emblemática del momento sin dejar afuera otras que todavía ni existen y que en unos años podrían ser igual o más importantes”, con lo cual se dejan sentadas las bases para poder legislar en materia de regulación de posibles nuevas tecnologías que surjan en el futuro y poder acompañar la política de regulación de estos algoritmos.
El texto aprobado
Los derechos digitales se hicieron lugar bajo los derechos humanos, entre los nuevos artículos 27 al 30 del primer capítulo de la Constitución.
El nuevo artículo 27 reconoce a la ciencia, la tecnología y la innovación “como un bien común y un derecho de las personas” y la define como “una herramienta estratégica para el desarrollo productivo, sostenible e inclusivo”. A su vez, la provincia deberá propiciar “la articulación entre actores públicos y privados vinculados a la generación de conocimiento” y destaca en particular las universidades y “organismos de ciencia y tecnología”.
Por otro lado, la Carta Magna obliga al Estado provincial en el artículo 28 a impulsar “el desarrollo y uso ético de las tecnologías de manera segura y orientados al bien común, preservando la centralidad y la dignidad de la persona humana”, mientras que establece el derecho universal al acceso a la tecnología, a la conectividad y a la infraestructura tecnológica.
Cabe destacar que el acceso a internet es una materia pendiente en el territorio santafesino, dado que 44,7 % de la población del Gran Rosario no tiene acceso a una computadora, mientras que 9,9 % no tiene acceso a algún tipo de conectividad. En el Gran Santa Fe, la estadística varía un poco: el 48,9 % de la población no tiene una computadora, mientras que 4,8 % no accede a algún tipo de conectividad.
El artículo también impulsa al Estado a adoptar “medidas para la eliminación de las brechas digitales y para lograr progresivamente la efectividad de este derecho”, el cual es reconocido como condición “para el ejercicio de una ciudadanía plena e igualitaria”. Es en este sentido que también promueve la construcción “de una ciudadanía digital inclusiva, la alfabetización digital crítica, el respeto a la privacidad, la autonomía mental y la no manipulación de pensamientos, emociones, acciones o decisiones mediante el uso de tecnologías”, a la vez que establece que el consentimiento de los usuarios debe ser “libre, expreso, informado y revocable”.
“Un punto central del dictamen es que los derechos digitales son clave para ejercer la ciudadanía de verdad. No alcanza con tener acceso, hay que poder entender cómo circulan nuestros datos, cómo funcionan los algoritmos y qué decisiones automatizadas pueden afectar nuestros derechos”, destacó la convencional al ser consultada sobre este punto.
A su vez, agregó que “esto no es solo para los chicos”, ya que los adultos “también necesitan educación digital. Hoy, para hacer un trámite, comprar algo, sacar un turno médico o incluso descargar el DNI o las calificaciones de tus hijos, necesitamos manejar herramientas digitales”, y subrayó: “la alfabetización digital no es un lujo, es una herramienta para empoderarse y ser ciudadanos digitales de verdad”.
La seguridad
El nuevo texto del artículo 29 apunta a que “toda persona tiene derecho a la protección de sus datos personales en entornos digitales y ejerce sobre ellos el control en el uso, gestión, circulación y conservación de su información personal”, a la vez que los santafesinos tienen derecho a “conocer de forma clara, accesible y comprensible los criterios, parámetros y lógicas utilizadas en los sistemas automatizados o algorítmicos de toma de decisiones y a la intervención de una persona humana cuando esa decisión pueda afectar sus derechos, especialmente en los que se implemente inteligencia artificial u otras tecnologías emergentes”.
En esta misma línea, obliga tanto a la la Provincia como a terceros que presten servicios de interés público a adoptar “sistemas algorítmicos transparentes y auditables y promover mecanismos de evaluación de impacto y resguardo frente a sesgos o discriminación”.
Otra novedad también se impone con este articulado, que es el derecho a la seguridad con carácter constitucional: el artículo 30 sostiene que “toda persona tiene derecho a vivir en un entorno físico y digital seguro, libre de violencias y amenazas”, a la vez que la seguridad “pública y ciudadana es un deber indelegable e irrenunciable de la Provincia”, cuyo objetivo será mantener el orden público, las instituciones y la seguridad de personas y bienes.
Regulación de la IA
Durigon sostuvo a Suma Política que la IA generativa, popularizada a partir de 2023, intensificó las preocupaciones entre quienes entienden al ámbito digital como una continuidad de lo terrenal y viceversa: “Ahí se empezó a dar una doble postura. Por un lado, que los algoritmos los manejen los privados de la mejor manera que ellos observen o que se le impusieran ciertos límites éticos desde los estados”.
En esa línea, propuso la creación de un comité que supervise la IA generativa y garantice su desarrollo en código abierto. Parte de esto se logró con la nueva redacción del artículo 29. Para el referente del espacio Comunidad esto toma relevancia en los debates públicos debido a que organismos internacionales ya han emitido declaraciones y recomendaciones sobre el uso de algoritmos y tecnologías predictivas o generativas.
Así mismo, recordó que la última licitación para semáforos de la Municipalidad de Rosario buscaba la utilización de software con inteligencia artificial para la lectura e interpretación del tráfico de ciertas trazas para así elaborar un esquema variable de tiempos de sincronización entre los semáforos.
El especialista en tecnología y autor del libro Tecnosapiens, Santiago Siri, afirmó a Suma Política que la regulación del uso de inteligencia artificial en el Estado “no solo es importante, sino inevitable. Así como en su momento se reguló la electricidad, la imprenta o Internet, lo mismo debe pasar con la IA”.
“Estamos hablando de una tecnología de poder, que puede amplificar lo mejor o lo peor del sistema que la use”, sostuvo el especialista, y advirtió que ”en manos de gobiernos opacos, puede servir para vigilancia o control. En manos de democracias transparentes, puede mejorar la eficiencia, la participación y la toma de decisiones. Todo depende del marco ético y legal que construyamos hoy”.
Al ser consultado sobre cómo impactó la llegada de las tecnologías digitales, fundamentalmente la IA, Siri señaló que la vida entera de las personas se ha visto modificada por los algoritmos: “Ya está cambiando todo, desde cómo trabajamos hasta cómo nos vinculamos. Los algoritmos nos sugieren parejas, noticias, caminos y hasta emociones”. Para el especialista, las IA generativas “están redefiniendo el arte, la educación, el periodismo. Pero lo más importante es que nos obligan a redefinir qué es ser humano. Por eso necesitamos una conversación seria, abierta y plural sobre su integración en la vida pública”, sentenció.
Autor
