El anuncio de que el Gobierno argentino lanzaría "un gemelo digital social" encendió las alertas sobre el resguardo de los datos personales de los ciudadanos, lo que ha provocado un intenso debate sobre los retos pendientes en materia de tecnología, ética, algoritmos, privacidad y soberanía.
La polémica, además, se incentivó debido a que Peter Thiel, el magnate tecnológico que promueve la desregulación total de la inteligencia artificial, comenzó a radicar este año en el país sudamericano y sostiene un fuerte vínculo con el presidente Javier Milei.
"Por primera vez Argentina lidera el futuro social un cambio de paradigma en las políticas sociales con el uso de inteligencia artificial (...) hoy Argentina da un paso histórico: lanza el primer gemelo digital social, un sistema que integra datos reales para simular, anticipar y optimizar políticas públicas", reza un video lanzado a finales de mayo para oficializar el cuestionado proyecto.
El material, promocionado por el Ministerio de Capital Humano, tenía un tono futurista, pero las faltas de ortografía provocaron burlas en redes sociales.
"Integramos información de múltiples fuentes en una base unificada que, mediante inteligencia artifical, identifica lo relevante y proyecta escenarios posibles. El gemelo digital convierte la experiencia social en inteligencia pública", agrega la pieza audiovisual, que promueve "el primer modelo global" de este tipo de sistema de integración de datos de los ciudadanos.
Dudas
El video desató la duda sobre qué era "un gemelo digital social", lo que el Gobierno definió como la "representación virtual de un sistema real" para que, a través del cruce de datos, se pueda crear una copia de la sociedad, lo que le ayudaría a predecir conductas y resolverlas de antemano.
Sin embargo, hasta ahora no se ha precisado qué bases de datos se utilizarán para ese modelo (si serán, por ejemplo, los de la seguridad social o los tributarios), con qué fines específicos, bajo qué ley, de qué manera protegerá la información personal de los ciudadanos o si se les pedirá algún tipo de autorización.
El Ministerio de Capital Humano solo precisó que no recurrirá a "contrataciones integrales de empresas" externas, ya que el procesamiento estará por completo a cargo de esta dependencia. Del mismo modo, aseguró que no utilizará datos personales, pero el proyecto sigue siendo opaco.
La falta de información sobre el "gemelo digital social" ha provocado una controversia, ya que algunos especialistas consideran que la intención sería vigilar sin control a los ciudadanos.
Riesgos
Hernán Borisonik, doctor en Ciencias Sociales, alertó que el plan del Gobierno inicia con cruces de datos ciudadanos en materia de políticas públicas y educación, y que probablemente continuará hacia los ámbitos de salud, la seguridad y la justicia.
"En cada caso, la operación es similar y comienza con un debilitamiento de la institución, un anuncio de salvación tecnológica y la transferencia de poder, datos y dinero a manos privadas (a veces extranjeras, casi siempre opacas)", escribió en la revista Anfibia, en referencia a la presencia de Thiel en el país sudamericano.
Flavio Rapisardi, doctor en Comunicación, consideró que, a priori, el "gemelo digital social" suena como "un proyecto fascinante", pero consideró que en realidad el objeto de simulación es la vida, el comportamiento y las carencias de millones de ciudadanos, por lo que la utopía tecnológica enfrenta severos dilemas éticos, legales y de derechos humanos.
"Los peligros que esconde esta ambiciosa e inquietante herramienta son, en primer lugar, la privacidad frente a la concentración masiva de datos y posibilidades de vigilancia masiva", afirmó el especialista, quien incluyó entre los riesgos la ausencia de consentimiento en el uso de datos; la venta de datos a terceros y, por lo tanto, pérdida de soberanía; los sesgos clasistas de los sistemas algorítmicos que pueden provocar una discriminación automatizada contra los ciudadanos; y falta de transparencia y de instancias de control.
¿Palantir?
El periodista Facundo Maceira, por su parte, ha especulado que en el origen del proyecto podrían estar Thiel y su empresa Palantir, conocida por su capacidad de integrar inmensos volúmenes de información provenientes de distintas fuentes con el fin de detectar patrones, realizar análisis predictivos y asistir en la toma de decisiones.
"Sus sistemas fueron utilizados por agencias de inteligencia, fuerzas militares, organismos migratorios y gobiernos occidentales. Entre las críticas más fuertes aparece su colaboración con el ICE estadounidense en programas de deportación y monitoreo migratorio", recordó.
Diego Fernández Slezak, director del Laboratorio de Inteligencia Artificial Aplicada de la Universidad de Buenos Aires, lanzó otra bandera roja al asegurar que los "gemelos digitales" comenzaron a discutirse con seriedad recién en 2024 y que, aunque Palantir ya ofrece este servicio, todavía no existen estudios amplios y confiables que documenten su eficacia.
"Lo que falta en ese anuncio es quién hizo las investigaciones, con qué herramientas evaluaron la factibilidad y cómo va a ser ese proceso de desarrollo, o si ya está hecho quién lo hizo, quiénes son los especialistas de IA, de sociología, de antropología, de política, que han mirado que la aplicación está hecha de manera correcta", le dijo al portal Chequeado, como parte de las dudas y temores que rodean el ambicioso proyecto tecnológico del Gobierno.