La irrupción de la Inteligencia Artificial (IA) generada masivamente con el lanzamiento de ChatGPT puso a los Estados de todo el mundo frente al desafío de regular esta poderosa tecnología. Sus usos y aplicaciones son de lo más diversos por lo que las consecuencias negativas, y hasta trágicas, están a la vuelta de la esquina. Hoy, el gobierno de la provincia de Buenos Aires dio un paso clave.
A través de la Resolución 9/25 de la Subsecretaría de Gobierno Digital, la gestión de Axel Kicillof aprobó, y puso en marcha, lo que es el primer reglamento para el uso de IA en una administración pública provincial. Las reglas “para el desarrollo, implementación y uso responsable de sistemas de Inteligencia Artificial” ya es obligatorio para todas las oficinas y dependencias del Estado bonaerense.
En la norma que se publicó en el Boletín Oficial de este jueves, las autoridades argumentaron que “la popularización y masividad de las inteligencias artificiales, plantea la necesidad de reglas que clarifiquen su utilización en el ámbito público“. A esto le sumaron que “la innovación tecnológica jamás puede ir en desmedro de los derechos fundamentales y humanos de la ciudadanía”.
El reglamento está basado en normativas internacionales, como la AI Act de la Unión Europea, e introduce cuatro niveles de riesgo. Uno de ellos es calificado como inaceptable y directamente prohíbe su uso. En esta categoría entraron usos conocidos como scoring social, manipulación subliminal o explotación de vulnerabilidades.
En un segundo escalón quedaron los usos de alto riesgo que quedaron permitidos, pero bajo estrictas condiciones. Acá entran los sistemas de identificación biométrica, la gestión de las relaciones laborales o la administración de justicia, entre otros sistemas.
De los riesgos a la “autodeterminación informativa”
En la categoría riesgo limitado quedaron los chatbots genéricos que es una tecnología cuyo uso ya está extendido en empresas y entes gubernamentales. En este punto, la novedad que impone el reglamento bonaerense es la llamada autodeterminación informativa que obliga a todos los organismos que usen sistemas de IA para comunicarse con la ciudadanía a advertir cuando estén interactuando con una IA. “Dicho aviso, además de expreso y claro, debe ser previo a la interacción”, aclara el reglamento.
Más allá de las prohibiciones y la calificación de riesgos, el reglamento habla de “mitigar la aparición de sesgos“, respetar la privacidad y proteger los datos, contar con procedimientos de trazabilidad y auditorías y de conservar la “centralidad de la persona humana“, entre otros principios.
La normativa cierra con la creación del Registro de Inteligencia Artificial al que deberán inscribirse de manera obligatoria “los organismos de la Administración Pública de la Provincia de Buenos Aires, que usen o desarrollen sistemas de inteligencia artificial”. Este registro funcionará en el ámbito de la Subsecretaría de Gobierno Digital que lidera Sandra D’Agostino.
