La diputada bonaerense de Fuerza Patria (FP), Silvina Nardini, presentó en las últimas horas un proyecto de ley para regular el uso de la Inteligencia Artificial (IA), tras el escándalo que sacude el Colegio Carlos Pellegrini, donde dos estudiantes fueron denunciados por comercializar imágenes de alumnas manipuladas de manera digital.
De acuerdo con la información publicada, ocho alumnos del Colegio Nacional de Buenos Aires, de entre 13 y 14 años, fueron señalados como presuntos responsables de haber integrado un grupo de WhatsApp donde se compartían imágenes íntimas de compañeras alteradas mediante IA.
Según trascendió, las imágenes correspondían principalmente a alumnas del mismo curso e incluían, en algunos casos, a amigas o exparejas de los adolescentes involucrados. El caso, que terminó con varias denuncias penales, reavivó los riesgos del uso de la IA y la necesidad de avanzar en un marco regulatorio que prevenga este tipo de prácticas.
En ese escenario, Nardini presentó un proyecto de ley con el objetivo de regular la utilización, desarrollo, implementación y supervisión de sistemas de IA en el ámbito de la Administración Pública de la provincia de Buenos Aires, promoviendo su uso responsable, transparente, seguro y respetuoso de los derechos fundamentales.
“Su utilización permite mejorar la gestión documental y administrativa, optimizar el procesamiento de expedientes, asistir en la elaboración de informes y documentos, fortalecer la atención ciudadana, realizar análisis estadísticos complejos y contribuir al diseño, implementación y evaluación de políticas públicas”, alegó la legisladora.
Vale precisar que, a los efectos de la ley, se entiende por sistema de Inteligencia Artificial a toda herramienta informática o sistema automatizado capaz de procesar datos, generar contenidos, realizar predicciones, formular recomendaciones, asistir procesos decisorios o ejecutar tareas mediante técnicas computacionales.
No obstante, Nardini aclaró que la utilización de la IA deberá ajustarse a los principios rectores de legalidad, transparencia, trazabilidad, auditabilidad, protección de datos personales, igualdad de trato, control humano significativo, seguridad informática, eficiencia administrativa, responsabilidad institucional e inclusión digital.
Además, la legisladora bonaerense recalcó que ningún sistema de IA podrá sustituir la responsabilidad legal de los funcionarios públicos ni adoptar decisiones definitivas que afecten derechos subjetivos o intereses legítimos de las personas sin intervención, supervisión y validación humana.
“La Inteligencia Artificial constituye una herramienta de enorme potencial para el progreso humano, pero no puede reemplazar la responsabilidad moral, el discernimiento ético ni la capacidad de decisión inherente a las personas”, expresó Nardini, tras subrayar la necesidad de que estas tecnologías permanezcan bajo control humano.
En esa línea, Nardini recordó las declaraciones del Papa León XIV al respecto y agregó: “La IA debe ser desarrollada e implementada de manera compatible con el respeto a la dignidad humana, la inclusión y prevención de nuevas formas de desigualdad, discriminación o exclusión”.
Por tal motivo, tras los hechos acontecidos en la comunidad educativa del Pellegrini, la legisladora resaltó que resulta indispensable que la implementación de la IA se encuentre sujeta a evaluaciones de impacto, auditorías técnicas, jurídicas y éticas, mecanismos adecuados de transparencia y supervisión humana obligatoria.
En virtud de ello, Nardini subrayó que el proyecto “adopta el principio de control humano significativo, garantizando que ningún sistema automatizado pueda sustituir la responsabilidad legal de los funcionarios públicos, ni de adoptar de manera autónoma decisiones administrativas”.
En paralelo, el texto prevé la creación de un Registro Provincial de Sistemas de Inteligencia Artificial, utilizados por la Administración Pública, la realización de auditorías periódicas y la capacitación obligatoria de agentes y funcionarios públicos, con el objeto de asegurar una implementación responsable, eficiente y segura.
Así, el proyecto de Nardini abre la puerta a un debate más amplio dentro de la Legislatura bonaerense sobre la necesidad de establecer reglas claras frente al avance de las nuevas tecnologías. La irrupción de la IA plantea nuevos desafíos que requieren respuestas normativas capaces de acompañar su desarrollo, garantizar un uso responsable y proteger los derechos de las personas ante los riesgos que trae aparejados.
