Boti, el chat de la Ciudad: un negocio privado de 114 millones donde no se controla el uso masivo de datos personales

Por: Martín Suárez

La Auditoría porteña publicó un informe sobre el sistema de chat de la Ciudad, creado y manejado por la empresa Botmaker. Subraya la falta de regulación y de información de los datos que obtiene de los usuarios.

«¡Hola, Martín! Soy Boti, el chatbot de la Ciudad. Sé que no ves la hora de que esto se termine. ¡Todos estamos igual! Pero, por ahora, tenemos que seguir cuidándonos».

Amigable, rápido y eficaz. La tarea que desempeñó el chat del Gobierno de la Ciudad en épocas de pandemia fue elemental para la asignación de turnos de testeos, vacunación y atención médica por el Covid, y para responder consultas administrativas. En pocos segundos, luego de intercambiar mensajes con datos personales (dirección, documento, edad), Boti daba respuesta. Lo que nadie se preguntó es en manos de quién queda nuestra información personal.

Un informe de la Auditoría General de la Ciudad alerta que los datos de millones de personas son potestad de la empresa privada que creó y maneja el Boti, la cual obtuvo contratos con el gobierno porteño por casi 115 millones de pesos y no cumple con las medidas de seguridad correspondientes para proteger la información personal, ante la falta de regulación de la administración larretista.

En 2020, Meta ponderó el trabajo realizado por el chatbot durante la pandemia. En el informe de BOTI, detalla que “Buenos Aires fue la primera ciudad del mundo en integrar WhatsApp a su protocolo frente al COVID-19”.

El sistema fue impulsado por la Secretaría de Innovación y Transformación Digital, y funciona a través de una red neuronal de inteligencia artificial que llegó a ser capaz de clasificar sonidos de voz, respiración y tos. Pasó la pandemia y a inicios de 2022 Boti ya ofrecía más de 70 posibles trámites. Ese año agregó otros 15, desde solicitar la reimpresión de la licencia de conducir o un nuevo DNI hasta turnos médicos en los CeSAC y centros de atención barrial.

Todo eso representó más flujo personal de datos, manejados por un privado: el chat es desarrollado por la empresa Botmaker, liderada por Alejandro Zuzenberg, exdirectivo de Google y extitular de Facebook Argentina, y que por año factura decenas de millones de dólares.

Boti y el marco regulatorio

La auditoría porteña, integrada por cinco auditores de JxC y dos del FdT, relevó los sistemas, procesos, servicios, y tecnologías que garantizan la operatividad de Boti. En su informe, el organismo de control afirma que la empresa «no adjunta copia de los Acuerdos de Niveles Operativos firmados con la Agencia de Sistemas de Información (Ley Nº 2.689)» y que «no consta la documentación respaldatoria que asegure la firma de convenios de confidencialidad y no divulgación del código fuente con las empresas desarrolladoras de BOTI».

Además Botmaker no informó «si existen procedimientos de evaluación y clasificación de la información según su criticidad, nivel de confidencialidad, integridad, disponibilidad y privacidad gestionada en BOTI».

Beatriz Busaniche, presidenta de Fundación Vía Libre, una ONG que promueve el software libre, destacó al sitio El Auditor que «es imperioso dotar de un marco regulatorio apropiado la integración de estos sistemas, que no suponga algún tipo de riesgo para los derechos de la ciudadanía«. Y abogó por «auditorías de sesgos discriminatorios, control y monitoreo permanentemente» sobre estos sistemas.

En el mismo artículo, Sofía Beatriz Scasserra, directora del Observatorio de Impactos Sociales de la Inteligencia Artificial de la UNTREF, señaló que hay que dotar a estos sistemas de transparencia algorítmica: «que nos expliquen qué están haciendo los algoritmos, necesitamos saber cuando estamos interactuando con Inteligencia Artificial».

Millones

Como el manejo está concentrado sólo en un privado –subraya el relevamiento de la auditoría– no garantiza la continuidad y disponibilidad del chatbot ante imprevistos ocurridos con la empresa. ¿Por qué el gobierno porteño no es el encargado del manejo integral del chatbot y los datos que recaba, y deriva esa responsabilidad en una firma privada? Y no se trata de algo barato.

En mayo de 2020, Botmaker S.R.L. fue beneficiada, sin pasar por licitación pública, con compras y contrataciones directas «por exclusividad» por parte de la Ciudad, concentrando todos los servicios: consultoría para conversaciones en el chat, desarrollo, mantenimiento y soporte.

En 17 meses, la Subsecretaría Ciudad Inteligente (que depende de Innovación y Transformación Digital) desembolsó $ 114.803.938 a la empresa, que además tiene en su poder toda la información privada de millones de usuarios. Según relevó la auditoría, desde el 2020 hasta el primer trimestre del 2022, Boti recibió 76.037.101 de consultas.

«Es esencial evaluar, planificar e implementar políticas y acciones que permitan al GCBA la posibilidad de la portabilidad del chatbot hacia otros posibles proveedores –manifiesta el organismo de control–, así como reducir el nivel de dependencia total hacia el proveedor actual y el riesgo que implica la caída del servicio frente a problemas técnicos o cambios contractuales«.

La inteligencia artificial y el manejo de los datos privados cotiza. Un ejemplo lo da Fernando «Bana» Benegas. Fue el secretario de Innovación y Transformación Digital cuando se creó el sistema. De hecho se supo presentar como «papa de Boti». El año pasado, como publicó La Política Online, dejó el gobierno y pasó a integrar Bleett, que también hace chatbots. Es decir, es socio en una empresa que vende un software casi idéntico al que desarrolló durante su gestión en CABA. «

Genera millones de dólares y supuestamente no es «de ningún partido político»

La empresa Botmaker elabora y programa ChatBots para Ciudad y otros distritos. Es un sector que, según un informe de la consultora internacional Statista, generará más de mil millones de dólares para el 2025.

Actualmente, cuenta con oficinas en Buenos Aires, Miami, San Pablo, Bogotá y Ciudad de México. En 2022 la revista Forbes, entrevistó al CEO, Alejandro Zuzenberg, que tiene en sus manos el monopolio de Boti en Ciudad: “En los últimos dos años triplicamos el crecimiento y el objetivo. La compañía está facturando decenas de millones de dólares al año y esperamos llegar a los US$ 100 millones por año”, contó en relación a las ganancias globales de la firma.

Agregó que «los robots tienen un aprendizaje acumulativo. Cada vez entienden más y se nutren con las nuevas conversaciones, pero es imposible que un robot atienda mejor que una persona. Aprenden de las conversaciones y quienes entrenan a los robots son las personas que hablan. Es un aprendizaje en conjunto».

Boti se hizo popular con los chistes, aunque tiene su costado político. Al ser consultado por Mauricio Macri respondió que es un «expresidente». Consultado por Perón respondió: «No soy de ningún partido político. Sólo estoy enfocado en ayudar a los vecinos de la Ciudad».

Compartir

Cristina sobre el caso Kueider: «Esto siempre sucede con los gobiernos de despojo»

La expresidenta asumió formalmente al frente del justicialismo nacional.

2 horas hace

La Legislatura trata el proyecto de Kicillof para crear un laboratorio provincial de medicamentos

La Cámara de Diputados sesiona este jueves. El proyecto sale por mayoría simple y busca…

2 horas hace

Se complicó la salud de Lula: volverá a ser operado para detener la hemorragia intracraneal

La intervención, que se realizará este jueves, se trata de una "embolización de la arteria…

2 horas hace

La inflación fue del 2,4% en noviembre por el impacto de los precios regulados

Con la economía en frío y el consumo por el suelo, el IPC fue el…

2 horas hace

Los sindicatos aeronáuticos respaldaron la propuesta de Kiciloff para Aerolíneas Argentinas

Para los gremios el gobierno nacional tiene una actitud "infantil y caprichosa". Además destacaron que…

2 horas hace

Pobres millonarios: el costo de la canasta básica ya superó la barrera del millón de pesos

La línea de pobreza para una familia tipo fue estimada por el Indec en $…

3 horas hace

María Paula Godoy: “Quiero mostrar el poder de integración que tiene la música”

La cantora presenta su repertorio de música popular que mama de la Patria Grande. También…

4 horas hace

Un juez porteño autorizó a Jorge Macri a cerrar y demoler una escuela pública

El magistrado Martín Furchi dio por tierra un amparo solicitado por las familias y habilitó…

4 horas hace

La FIFA oficializó que Argentina será sede del Mundial 2030 junto a Uruguay, Paraguay, España, Portugal y Marruecos

El titular de la AFA , Claudio Tapia, dijo desde la Conmebol en Paraguay que…

5 horas hace

La inflación de noviembre fue del 2,4%

El aumento de la inflación se estableció nuevamente por debajo de los tres puntos porcentuales.…

5 horas hace

Daniel Craig cambia de registro en “Queer” y ya se habla de una posible nominación al Oscar

El actor británico dejó atrás a James Bond. Ahora destaca en la piel de un…

5 horas hace

Villarruel convocó a sesión especial en el Senado para tratar los «actos inmorales» de Kueider

La presidenta del Senado convocó a la sesión donde se decidirá la suerte del senador…

5 horas hace