“Una aplicación como la que genera desnudos falsos no debería existir”

La investigadora del CITIC de la Universidad de A Coruña (UDC) Amparo Alonso Betanzos (Vigo, 1961) acaba de ser nombrada académica correspondiente en la sección de Matemáticas de la Real Academia de Ciencias Exactas, Físicas y Naturales de España (RAC), la entidad que asesora al Gobierno en política científica en sus áreas de actuación. Para la científica, este nombramiento supone “un inmenso honor, pero también una gran responsabilidad”. “A esta real academia han pertenecido muchos científicos brillantes cuyo legado debemos preservar”, afirma. Alonso, catedrática de Ciencias de la Computación y referente en investigación en inteligencia artificial (IA), centrará su discurso de ingreso en la inteligencia artificial verde, un conjunto de sistemas cuya meta es interpretar todos los datos de una entidad y traducirlos de la forma más sostenible, más responsable y menos contaminante para el planeta. Alonso ha trabajado por la candidatura de esta ciudad gallega para acoger la sede de la Agencia Española de Supervisión de la IA (ESIA).

–A pesar del peso de la ciencia en el progreso de la sociedad, hay un déficit de vocaciones científicas.

–Cierto. Las vocaciones científicas disminuyen y cada vez necesitamos más científicos y más tecnólogos. Por eso, es importante que podamos llegar a personas de todas las edades, especialmente a los más jóvenes, para que sientan esa vocación y para que entendamos que la ciencia es importante para todos. Cuanto mejor entendemos y sabemos qué es lo que pasa a nuestro alrededor, qué es verdad y qué no, más libertad tenemos y más capaces somos de elegir mejor. El desconocimiento siempre nos hace más manejables.

–¿Se siguen asociando las carreras tecnológicas y científicas a la dificultad y al sacrificio?

–Es cierto que la ciencia tiene su dificultad. Pero también es cierto que cuanto más estudias y mejor la entiendes, más te gusta. Creo que es una cuestión que se debe inculcar desde pequeños y que debemos hacer un esfuerzo en la divulgación para intentar que sea motivador. Pero también las personas que estudian tienen que entender que es necesario hacer un esfuerzo para poder llegar a un cierto nivel en el entendimiento de la ciencia.

–¿Ese déficit es mayor aún entre las mujeres?

–Depende del campo. En general, en todas las disciplinas STEM (ciencia, tecnología ingeniería y matemáticas), hay un déficit de vocaciones femeninas, sobre todo todo en ingenierías. Por ejemplo, en ingeniería informática estamos en un 18 o 19%, que está muy bien porque hace un par de años estábamos en el 12%. En otras titulaciones científicas, más relacionadas con el campo de ciencia de la salud, sí que hay más vocaciones femeninas.

–La presencia de científicas es muy minoritaria en instituciones como la RAC.

–El equilibrio de género recogido está en los estatutos de la RAC. En este momento, hay unos 46 numerarios y solamente 8 son mujeres y en la sección de matemáticas somos 5 de 33 académicos correspondientes. Estamos dando pasos, pero tenemos que ver cómo mejorar estos números. Esperemos que con este compromiso estatutario, que estamos viendo que está funcionando, nos vayamos incorporando más mujeres.

"Cuanto mejor entendemos y sabemos qué es lo que pasa a nuestro alrededor, más libertad tenemos y más capaces somos de elegir mejor"

–Usted es experta en IA. ¿Qué impacto tiene esta tecnología en la sociedad y cuáles son los principales retos que plantea?

–La inteligencia artificial está impactando de manera importante en prácticamente cualquier campo. Todos estamos usando IA todos los días: cuando encendemos nuestro móvil y usamos la huella o el reconocimiento facial, cuando usamos una aplicación del móvil para guiarnos por la ciudad, cuando nos recomiendan una serie o una película en nuestra plataforma... ¿De qué tenemos que preocuparnos? Pues de aspectos que tienen que ver con el desarrollo de una IA ética y responsable, es decir, de temas que tienen que ver con la privacidad de los datos, con el monopolio tecnológico, con las ‘deepfakes’, con los engaños que se pueden hacer con las herramientas o con su uso indebido, como los falsos desnudos de las niñas en Extremadura y otros puntos del país... La IA aprende de los datos del mundo real y el mundo real no es ideal, sino que está sesgado, y hay que ser muy cuidadoso para detectar todos estos sesgos a tiempo. Pero una cosa es que tú desarrolles una herramienta que inadvertidamente tenga un sesgo o que se pueda usar para hacer cosas que no se deben y otra es el caso de esta herramienta que genera desnudos falsos porque no sirve para otra cosa que para eso. Es una herramienta que no se debería desarrollar y que no debería de estar permitida.

–¿Esto es una cuestión de regular o también de educación?

–De ambas cosas. Hay que regular y hay que poner una serie de normas que deben ser cumplidas, pero también es una cuestión de educación, pero no sólo de los ciudadanos. Las empresas y los investigadores debemos tener también un código ético cuando trabajamos en el desarrollo de aplicaciones. Estamos en una sociedad en transición. Me gusta usar la metáfora de que la revolución anterior, que fue la revolución industrial,es una revolución que ya está avanzando y la nueva, que es la revolución tecnológica, básicamente la que trae la inteligencia artificial, está un poco en la etapa adolescente. Entonces, entre todos tenemos que intentar educar a esa nueva sociedad para que podamos crear una inteligencia artificial que respete a las personas y que tenga a las personas en su centro.

–¿La IA reemplazá al ser humano como sostienen los más críticos?

–Yo creo que no es así. Ya hay muchas tareas que se han sustituido por máquinas, no sólo por temas de inteligencia artificial, sino por los temas de automatización. Lo podemos ver cuando vamos al supermercado y tenemos una caja automática, que no tiene que ver con la inteligencia artificial, o cuando vamos por la autopista y pagamos a una máquina, que tampoco tiene que ver con la inteligencia artificial. Al mismo tiempo, otros trabajos van a aparecer, y ya lo estamos viendo. Hace unos 10 años, un ingeniero en inteligencia artificial era apreciado la universidad, para investigación. Hoy en día, es el trabajo más demandado por las empresas, y hay muchos puestos que quedan sin cubrir. Luego, la mayoría de nuestros trabajos van a ser trabajos en los que algunas tareas las realizarán sistemas inteligentes, y ya lo estamos viendo. Lo estamos viendo en los periódicos todos los días. El SINAD, por ejemplo, es una herramienta útil en radiología, que asiste a los radiólogos en la detección de cuestiones que se pueden apreciar en una radiología de una persona determinada, porque es capaz de trabajar con datos con mucha obstrucción, ha visto muchísimas más radiologías que cualquier ser humano, y, por tanto, puede ayudar al especialista en su objetivo a la hora de realizar un diagnóstico que pueda ser mucho más eficiente, más preciso, y podrá realizarlo con menos tiempo.Esto puede implicar que se va a necesitar una educación también. Todas las profesiones van a tener que saber más de tecnología, y los tecnólogos vamos a tener que saber más de ética.

–¿Qué nivel tiene la IA en Galicia?

–Su nivel es para estar orgullosos. Tenemos muy buenos grupos de IA en las tres universidades y en los centros de investigación, y también un número interesante de empresas que se dedican a temas de IA y otras que, aunque éste no sea su campo de trabajo concreto, sí que hacen uso de ella. Este ecosistema ha permitido traer a Galicia centros como la ESIA (Agencia Española de Supervisión de Inteligencia Artificial), que es la primera agencia del mundo en la supervisión ética de la IA.

–Su discurso de ingreso estará centrado en la inteligencia artificial verde. ¿En qué consiste?

–La inteligencia artificial verde es porque las herramientas de inteligencia artificial han ido derivando hacia herramientas cada vez más precisas, pero también más complejas y con más parámetros que ajustar. Eso lo que hace es, por una parte, que sea menos transparente, porque los modelos son más complicados, tienen más parámetros que podemos explicar. Por otra parte, el consumo computacional, el comportamiento energético de estas herramientas es muy alto.Existen varios estudios que dicen que en el año 2030 la inteligencia artificial puede estar consumiendo el 30% de los recursos energéticos. Éste es un porcentaje muy alto que no podemos seguir aumentando y esta previsión es anterior a tener la inteligencia generativa de herramientas como el chat GPT o como Andali, que consumen aún mucha más energía. La inteligencia artificial verde lo que busca no es sólo optimizar con respecto a la precisión, que también, sino manteniendo esa precisión, ser capaces de hacerlo con modelos más sencillos que hagan un consumo energético mucho menor. Eso se puede conseguir a través de modelos generados, por ejemplo, que trabajen más cerca de los datos, donde los datos además pueden proteger mejor su privacidad. Podemos conseguir modelos más simples simplificando las estructuras de conocimientos profundos o simplificando algún tipo de los parámetros que necesitamos utilizar de forma que algunos de ellos se autoajusten o usar menos variables, eligiendo sólo las más importantes a la hora de afrontar un problema. Hay varias formas de hacerlo.

Suscríbete para seguir leyendo