En su última, y a esta alta altura casi permanente, gira por los Estados Unidos, el presidente Javier Milei se reunió con directivos de las empresas tecnológicas más encumbradas de Silicon Valley. Así fue sacándose fotos para las redes con los CEO de Meta Platform, Apple, Open AI y Google. Supuestamente iba a buscar inversiones; en cambio, se trajo más gasto para el Estado. Luego del apretón de manos con Sundar Pichai en las oficinas centrales que Google montó en Mountain View, California, el libertario volvió al país exultante: «La empresa Google tiene armado un sistema para hacer la Reforma del Estado por Inteligencia Artificial».
Luego agregó: «Se puede aplicar absolutamente en Argentina con todo lo que tiene que ver con achicar el Estado, yo estoy feliz de la vida». Todavía en Estados Unidos, la jefa de Asuntos Gubernamentales y Políticas Públicas de Google Hispanoamérica, Eleonora Rabinovich, le había sugerido a Milei que conversara sobre el asunto con su par de El Salvador, el también estrafalario Nayib Bukele, cuya Asamblea Legislativa aprobó en septiembre de 2023 la Ley General para la Modernización Digital del Estado que deja en manos de Google el manejo de áreas sensibles como la administración, la salud y la educación.
“Lo que dijo Milei, asusta”, enfatiza Beatriz Busaniche, presidenta de Fundación Vía Libre, dedicada a la defensa de derechos fundamentales en entornos mediados por tecnologías de información y comunicación. “No sabemos qué entiende el presidente por Inteligencia Artificial (IA) aplicada al Estado, pero sí sabemos que su idea de reforma del Estado es achicarlo a su mínima expresión a como dé lugar, entonces, que un sistema de IA se encargue de la toma de decisiones en vez de un funcionario encaja perfecto en el imaginario de Milei”.
Google y Estado
–¿Cuáles serían las consecuencias de un eventual acuerdo entre el Estado nacional y Google?
–Lo primero que tiene que entender el presidente es que el Estado asume una responsabilidad frente a las decisiones que toma, que los funcionarios tienen que responder por sus acciones. ¿Quién asume la responsabilidad cuando la decisión la tomó un sistema de Inteligencia Artificial? Otro dato que Milei no toma en cuenta es que los sistemas de IA fallan. Todas las personas que trabajan en este campo lo saben. Ha habido muchos ejemplos catastróficos en el mundo. En Países Bajos se utilizó un sistema de IA para evaluar el otorgamiento de programas sociales, lo que derivó en que miles de familias quedaran en una situación de extrema pobreza; incluso hubo suicidios porque el sistema resolvió quitarles la ayuda pública y quedaron absolutamente desamparados. En Estados Unidos, el programa COMPAS (Correctional Offender Management Profiling for Alternative Sanctions que en español puede traducirse como Administración de Perfiles de Criminales para Sanciones Alternativas del Sistema de Prisiones) se usa para determinar si una persona va a volver a cometer un crimen o no y en base a ese resultado otorgarle o negarle la libertad condicional. ¿Sabés lo que hacía el sistema? Dejaba a las personas negras en la cárcel y sólo liberaba a los blancos. Era claramente racista. Estos sistemas fallan porque no tienen una ética ni criterios humanos para tomar decisiones. Solo buscan patrones y no te dan ninguna explicación de por qué encontró ese patrón.
“Estos sistemas fallan porque no tienen una ética ni criterios humanos para tomar decisiones.“
–¿Se puede replicar en Argentina la experiencia de El Salvador?
–No, porque Argentina no es El Salvador. Yo digo que el supuesto acuerdo con Google es un paquete completo de humo porque acá tenemos mucha capacidad técnica instalada. Un acuerdo como este solo bloquearía las condiciones de desarrollo de Argentina. Además, se trata de un acuerdo costoso. Por ley, El Salvador le garantiza a Google un mínimo de 500 millones de dólares de ganancia. A eso hay que sumarle toda la información que Google se va a llevar. Con los sistemas de Classroom, por ejemplo, le estás entregando en bandeja todo un mercado cautivo. Tenemos que tener más autoestima como país y desarrollar las capacidades locales. Google nos ofrece soluciones que son realizables por empresas y profesionales argentinos.
–¿Cómo se explica entonces la insistencia del presidente?
–Es muy paradójico lo que hace Milei, que se reúne con ejecutivos de empresas tecnológicas de afuera al mismo tiempo que está desmantelando el sistema científico nacional. Hay una relación colonial donde una élite gobierna para la metrópolis y nos entrega como si fuéramos territorio virgen para que nos vengan a explotar, tanto en términos de recursos naturales, como también en términos de adquirir una tecnología que perfectamente se puede hacer con empresas y profesionales argentinos. Realmente es muy triste lo que está pasando.
“Es muy paradójico lo que hace Milei, que se reúne con ejecutivos de empresas tecnológicas de afuera al mismo tiempo que está desmantelando el sistema científico nacional.“
La IA y los sistemas de «caja negra»
La docente y activista Beatriz Busaniche destaca que «en Argentina hemos construido un sistema de administración pública con la aspiración de ser transparente. Tenemos una Ley de Derecho de Acceso a la Información Pública que le permite a cualquier ciudadano pedir un expediente y conocer por qué se tomó una decisión. Vos te presentás y el Estado tiene la obligación de entregarte esa info. Los sistemas de IA, en cambio, son de ‘caja negra’ porque su funcionamiento interno es desconocido o incomprensible para el que lo usa. Por eso no se deben aplicar en la toma de decisiones que afecten a las personas”.
Con respecto a las herramientas ciudadanas, Busaniche reconoce que “estamos en problemas. Tenemos una autoridad que debería hacer cumplir la Ley de Protección de los Datos Personales; hay una persona designada y presupuesto, pero uno ve lo que está pasando con Worldcoin y el escaneo de iris y el panorama es desolador. Está prohibido en la Unión Europea y en Estados Unidos, entonces lo vienen a hacer a los países pobres y no hay ninguna reacción”.
