El documento oficial, firmado por el gobernador Maximiliano Pullaro y el ministro de Gobierno e Innovación Pública, Fabián Bastia, cuenta con ocho artículos donde se desglosa cómo será utilizada la herramienta. Además, se anexa el protocolo propiamente dicho, que consta de 10 puntos.
Los puntos más importantes del protocolo de uso de IA en Santa Fe
- Supervisión humana obligatoria: Toda interacción con sistemas de IA generativa requiere supervisión humana significativa y competente. El agente público debe validar los resultados antes de que adquieran valor jurídico o administrativo.
- Transparencia y explicabilidad: Los sistemas utilizados deberán ser transparentes, auditables y explicables, asegurando trazabilidad en cada paso y claridad sobre cómo se generan los resultados.
- Equidad y no discriminación: Se prohíbe el uso de IA que genere o reproduzca sesgos o prácticas discriminatorias. Los agentes deben formular consultas neutrales y corregir posibles resultados sesgados.
- Protección de datos personales: Es obligatorio garantizar la privacidad y anonimización de toda información ingresada en herramientas de IA. No se podrán incorporar datos personales, sensibles o confidenciales en plataformas no oficiales.
- Responsabilidad individual: Cada agente público será responsable por el uso que haga de la IA y por los resultados que valide o incorpore en actos administrativos.
- Uso limitado de herramientas externas: El uso de IA generativa de acceso público (como ChatGPT o Gemini) solo podrá realizarse para tareas de baja sensibilidad y sin introducir información confidencial o de identificación personal.
- Límites a la automatización: Está prohibido automatizar decisiones o procesos que impliquen competencias administrativas reservadas a funcionarios humanos. La intervención humana sigue siendo obligatoria en cada flujo decisorio.
- Transparencia en la comunicación: Cuando la IA haya tenido un papel sustancial en informes, dictámenes o resoluciones, deberá mencionarse expresamente su uso en el documento o sistema.
- Uso ético y responsable: La inteligencia artificial (IA) debe ser una herramienta de apoyo al criterio profesional, nunca un sustituto de la voluntad administrativa ni de las competencias legales de los funcionarios.
- Propiedad intelectual estatal: Todo contenido generado por IA bajo supervisión de un agente público será propiedad del Estado provincial, considerándose producido dentro de la función pública.
