Contas usará la IA para fiscalizar a las administraciones pero se blinda para evitar sesgos y alucinaciones

El Consello de Contas incorporará la IA para detectar anomalías y fiscalizar las cuentas del sector público, pero le pone límites. No podrá elaborar conclusiones, ni recomendaciones ni sustituir el juicio de un auditor. Y además establece mecanismos para evitar sesgos y alucinaciones por parte de la inteligencia artificial.

El órgano fiscalizador de la Xunta ha aprobado un marco regulatorio para el uso de la IA. «Debe utilizarse dentro de un marco de gobernanza sólido, ético y seguro que garantice la primacía de la decisión humana, la protección de los datos, la ausencia de sesgos injustificados, la trazabilidad de los procesos y la inexistencia de automatismos susceptibles de afectar al juicio profesional del personal», señala el acuerdo publicado en el Diario Oficial de Galicia (DOG).

Las fiscalizaciones de Contas obligan a los auditores a comprobar multitud de datos de los organismos públicos, tanto de la Xunta como de los concellos o diputaciones. Estará permitido usar la IA para «el análisis masivo» de informes presupuestarios o contables, así como para la búsqueda semántica y la extracción automatizada de información o la detección preliminar de riesgos o anomalías. También se podrá usar para elaborar informes internos no vinculantes.

Prohibiciones

En todo caso, se blinda la «primacía del juicio humano». «La inteligencia artificial tendrá exclusivamente carácter de apoyo y asistencia técnica, sin que pueda sustituir en ningún caso el juicio del profesional», advierte la resolución. Además, se debe preservar la «independencia» del Consello de Contas. Los resultados de la IA no podrán condicionar la objetividad del auditor.

En este sentido, estará prohibido usar la inteligencia artificial para tomar decisiones automatizadas, elaborar juicios profesionales o realizar valoraciones sobre responsabilidades. Tampoco se podrá utilizar para elaborar perfiles de personas físicas, predecir comportamientos o evaluar riesgos individuales.

Además, el personal de Contas debe «identificar y evitar sesgos algorítmicos» y para ello se adoptarán mecanismos de evaluación periódica. Y se formará al personal para que sea capaz de detectar «alucinaciones» de la IA.

Para dar mayor seguridad al uso de la inteligencia artificial se creará un comité de gobernanza, al que corresponderá autorizar nuevos usos, evaluar los riesgos, fijar estándares y procedimientos, así como guías internas y elaborar un informe anual cuyo contenido se hará público en el portal de transparencia institucional.

«Todo uso de inteligencia artificial deberá ser auditable, documentable y susceptible de supervisión posterior», advierte el acuerdo adoptado por Contas.

Además , la IA se someterá a un análisis previo de riesgos. En este sentido, queda prohibido el tratamiento masivo de datos personales y se incorporarán medidas que garanticen la seguridad de la información analizada, la prevención de accesos no autorizados, así como la imposibilidad de su reutilización con finalidades distintas.

Suscríbete para seguir leyendo