Una inteligencia artificial podrá resolver ayudas o licencias sin intervención del funcionario

Una oficina evaluará el riesgo de los proyectos de las consellerías para desplegar esta tecnología

Se informará a los ciudadanos de que interactúan con una inteligencia artificial

Una empleada pública, en la Xunta.

Una empleada pública, en la Xunta. / Xoán Álvarez

Paula Pérez

Paula Pérez

La Xunta se prepara para la revolución tecnológica que supone el desarrollo de la Inteligencia Artificial con una ley que regulará su implantación en el ámbito de la Administración autonómica. Aunque ahora esta herramienta se utiliza ya en algunos ámbitos concretos como apoyo al trabajo de los funcionarios, su potencial es mucho mayor hasta el punto de que la nueva norma contempla que se pueda usar para resolver “actos administrativos de forma automatizada y sin intervención directa de un empleado público”. Un acto administrativo es todo aquel que emana de una administración pública, desde aprobar una subvención, una licencia, imponer una multa o conceder una autorización, por poner algunos ejemplos.

Así, una inteligencia artificial, en el marco de un procedimiento administrativo, podrá ejercer “potestades regladas”, que son aquellas en las que la actividad de la Administración se encuentra precisa y taxativamente establecida en la ley, pero también “discrecionales” aunque de forma excepcional.

El nuevo anteproyecto de Lei para o Desenvolvemento e o Impulso da Intelixencia Artificial, que está ahora en consulta pública, prevé que la Xunta pueda usar también las previsiones o recomendaciones de la IA en su toma de decisiones.

La implantación de esta tecnología permitirá imprimir mayor agilidad a los procedimientos administrativos descargando de trabajo a los empleados públicos. Se reducirán así también las necesidades de plantilla de la Administración autonómica.

Derechos

En todo caso, la norma, que ahora está en exposición pública, es muy garantista respecto a los derechos de los ciudadanos y busca minimizar los riesgos en el uso de esta tecnología.

Así, los ciudadanos que se relacionen con la Xunta a través de una IA tendrán derecho a “recibir la debida información de forma clara y comprensible”. Se le informará siempre de que está interactuando con una inteligencia artificial y tendrá derecho a recibir “una explicación de la decisión, recomendación o previsión”. Es decir, una persona a la que se le deniegue, por ejemplo, una subvención tendrá derecho a saber los motivos y los criterios utilizados. Y podrá exigir la intervención de un empleado público si la decisión adoptada en base a algoritmos “produce efectos relevantes o impacta de manera significativa en sus intereses”.

La nueva norma regula los pasos para la progresiva implantación de la IA en la Administración autonómica. Las consellerías y entes públicos deberán identificar en qué ámbitos se podrá usar esta tecnología y diseñarán el proyecto para desarrollarla. Para ello contarán con una guía que deberán seguir para la elaboración de estos informes, que serán evaluados por la Oficina de Inteligencia Artificial, un nuevo órgano creado por esta ley que se encargará de supervisar y coordinar la implantación de estos sistemas de IA.

Esta oficina deberá evaluar el nivel de riesgo de usar esta tecnología y si considera que es “inaceptable” el proyecto será rechazado.

Si se aprueba su desarrollo y se despliega el uso de IA se mantendrá una supervisión continua y además previamente será necesario realizar ensayos en espacios controlados para testar el proyecto.

Además habrá un protocolo de reacción inmediata para actuar en caso de que se detecte un posible fallo en el funcionamiento de los sistemas de inteligencia artificial.

Comisionados para velar por el uso ético de esta herramienta

Los beneficios y las potencialidades de la inteligencia artificial son enormes, pero también los peligros que conlleva. Por eso, la Xunta prevé habilitar una especie de valedores especializados en la materia que “velarán por el cumplimiento de los principios y obligaciones en materia de prevención, detección y eliminación de los riesgos y los resultados negativos de la implementación de la IA en el ámbito de la administración pública”.

Serán los comisionados de inteligencia artificial –podrá haber uno por cada consellería o ente público– y, entre sus funciones, está la de garantizar “un uso ético y responsable” de estos sistemas tecnológicos, así como supervisar el diseño, desarrollo e implementación de estas tecnologías. Con carácter previo a la presentación de una reclamación o recurso ante la Xunta, la persona que se considere afectada podrá dirigirse al comisionado que en un plazo de dos meses decidirá si procede a la adopción de medidas.

Suscríbete para seguir leyendo