Investigadores de la UVigo crean una aplicación que verifica informaciones

Los resultados de una investigación sobre la fiabilidad y los sesgos de la IA generativa respecto a veinte personalidades de la provincia, comparando el tratamiento hacia hombres y mujeres, ha dado lugar a una aplicación que permitirá a cualquier usuario verificar informaciones de forma rápida. La extensión para Google Chrome (github.com/xabimr/verifica-chrome/) ya está disponible y analiza los textos priorizando fuentes de confianza y con una perspectiva de género.

«Unha vez que instalas a extensión no navegador e seleccionas o texto fai unha verificación en varIas vías, ChatGPT, Grok e Mistral, cun prompt específico e público. É a nosa forma de contribuir á alfabetización dixital e que a xente, na medida do posible, se poida enfrontar a posibles desinformacións en liña», destaca Xabier Martínez Rolán, del grupo SEPCOM (Investigación en Comunicación para o Servizo Público).

El proyecto, financiado dentro de la Cátedra Feminismos 4.0 de la UVigo y la Diputación de Pontevedra, involucra a otros tres investigadores del mismo grupo –Alberto Dafonte, Mabel Míguez y Juan Manuel Corbacho–, a dos expertas de la UDC –Teresa Piñeiro y Laura M. Castro– y a Graciela Padilla, de la Complutense. Un equipo que abarca tres ámbitos de especialización: los estudios de género, la comunicación y el fact-checking y los sesgos.

El estudio recoge el testigo de otros anteriores financiados por la misma cátedra y lleva a cabo una comparativa del desempeño de cuatro soluciones de IA generativa –ChatGPT, Grok, la europea Mistral y la china DeepSeek– a la hora de ofrecer información sobre veinte personas relevantes en diferentes ámbitos.

«Comparamos os resultados para dous futbolistas, Joselu Mato e Tere Abelleira, e tamén para Ana Peleteiro e Iago Aspas, que non practican o mesmo deporte pero teñen moita proxección pública. No ámbito da política eliximos a Ana Pontón e José Ramón Gómez Besteiro e, no da investigación, a Marisol Soengas e Jorge Mira. Outras personalidades son as da influencer Rebeca Stones e o youtuber El Xokas, aínda que non se dedican exactamente ao mesmo pero forman parte do mundo da comunicación», detalla M. Rolán.

«Ademais dos de xénero preguntámoslle ás catro IA por outro tipo de sesgos, como un tratamento tendencioso cara o polémico ou o excepcionalmente bo. Utilizamos os modos máis sinxelos, sen recurrir a opcións de pago ou máis complexas. E a busca estandarizada foi moi simple, ‘que sabes de tal persoa’, engadindo deportista ou política en cada un dos casos para miminizar o número de veces que hai que repreguntar», explica sobre la metodología seguida.

Los investigadores presentarán los resultados a finales de noviembre, pero ya pueden adelantar algunas conclusiones: «Atopamos sesgos, pero hai máis problemas relacionados coa fiabilidade das fontes ou directamente coa construción de fontes que non existen. É ocaso da china DeepSeek, unha ferramenta que desaconsellamos por completo. Inventa referencias e a súa fiabilidade é terrible, desastrosa».

«Estamos moi contentos co proxecto. Temos un equipo impecable e este foi o primeiro paso. Queremos atopar máis socios e amplialo tanto para seguir implementando medidas de alfabetización dixital como para investigar unha cuestión que a todos os que estamos no grupo nos preocupa, os nesgos da IA. Con máis xente poderemos facer máis estudos de caso e codificar outras cuestións que vaian saíndo», añade.

Los resultados obtenidos pretenden ofrecer un servicio a la sociedad en un momento en el que el acceso a la información es mayor que nunca y, al mismo tiempo, los bulos y la desinformación van en aumento. «Hai que enfrontarse á industria da mentira e a do odio, que moitas veces van da man», apunta.

«A IA é como unha agulla hipodérmica que nos inxectou a todos e non nos dá tempo de repensar esta tecnoloxía e as implicacións que ten a todos os niveis. Agora mesmo, asistimos a unha carreira tecnolóxica entre dous grandes polos, EE UU e China, que queiman dólar a uns ritmos vertixinosos. E o que eu cuestiono é que isto se está facendo só dende o punto de vista tecnolóxico e se está olvidando toda a parte humanística e as implicacións sociais. Non podemos olvidar que estas aplicacións son creadas por unhas empresas pero os usos defínenos os propios usuarios», reflexiona Martínez Rolán.

De ahí que el investigador aplauda iniciativas la Cátedra de Feminismos 4.0: «Son convocatorias moi importantes. Estamos orgullosos de que nos seleccionen ano tras ano e tentamos que os nosos proxectos teñan retorno. Cando podemos facer un produto cunha aplicación real como neste caso é todo un orgullo».

Suscríbete para seguir leyendo