Violencia con IA
Musk limita la generación de imágenes sexuales en Grok tras causar un escándalo internacional
La indignación de los usuarios y la presión de los reguladores en países de todo el mundo fuerza al magnate tecnológico, dueño de xAI, a restringir la herramienta de IA que ha permitido desnudar sin consentimiento a mujeres y menores de edad
Los accionistas de Tesla aprueban dar a Elon Musk la cifra récord de un billón de dólares
Añádenos en Google
Grok, el chatbot de inteligencia artificial propiedad de Elon Musk, ha protagonizado estas semanas un sonado escándalo internacional a causa de una función que permite desnudar sin consentimiento imágenes de cualquier persona. Su dueña, la empresa xAI, respondió a la polémica anunciando que limitará el servicio con la intención de atajar el problema.
"Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis", indicó el miércoles por la noche la start-up en una publicación en X, la red social también propiedad del hombre más rico del mundo. "Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago". La generación de otro tipo de imágenes también queda limitada únicamente a quienes paguen una suscripción.
Hasta ahora, Grok ha permitido crear imágenes hiperrealistas de mujeres o incluso menores de edad con bikinis microscópicos, en posiciones sexualizadas, incluso denigrantes, y con moretones en el cuerpo. A finales de la semana pasada, Musk trató de calmar la indignación al anunciar una restricción a medias que limitaba la creación de desnudos a los suscriptores de pago. Con ese método, apuntó el magnate, se garantizaba la identificación de los usuarios que hiciesen un uso indebido de Grok. No fue suficiente. Y es que el flujo de imágenes de chicas desnudadas ilegalmente en X seguía sin cesar este miércoles, indica Reuters.
Malasia se suma a bloquear el acceso a Grok por generar "imágenes manipuladas obscenas" / Archivo
Indignación global
El movimiento de xAI responde a la indignación de miles de personas de todo el mundo, que han denunciado que la IA está sirviendo para perpetrar violencia sexual contra colectivos que ya sufren ese problema más allá de internet. Musk afirmó el miércoles que "no tenía conocimiento de ninguna imagen de menores desnudos generada por Grok". Aun así, la empresa asegura que "toma medidas" para eliminar el contenido de abuso sexual infantil.
Gobiernos y organismos reguladores de todo el mundo han tomado medidas drásticas para cortar el problema de raíz. Malasia e Indonesia han sido los más radicales al prohibir directamente el acceso a Grok. Otros, como España, Estados Unidos o Australia, han abierto la puerta a investigaciones judiciales contra un posible delito de pornografía infantil. "Se trata de una vulneración de derechos fundamentales", aseguró la semana pasada la ministra española de Juventud e Infancia, Sira Rego. En Francia, uno de los primeros en actuar, la Fiscalía advirtió que desnudar a terceros sin consentimiento se castiga con penas de dos años de prisión y con sanciones de hasta 60.000 euros.
Suscríbete para seguir leyendo
Fuente: El Periódico
- Medio Ambiente ha impuesto medio centenar de multas en lo que va de verano por aparcar en las dunas de Nerga y Viñó, y en otros espacios de Red Natura en Cangas
- Las terrazas convierten el centro de Vigo en una yincana
- Denuncian que Moaña impide el uso de un bajo comercial por irregularidades de un edificio en el que sí permite vivir
- El último verano del Carrito que endulzó Vilagarcía durante 60 años
- ¿Cómo es un día con la Panorama?: Los cantantes y el resto del equipo de la orquesta ponen sus secretos al descubierto
- La familia Rodríguez, la saga ourensana que convirtió la lucha contra el fuego en una misión personal
- La hazaña de dos abuelos de 92 y 83 años en Cíes: Mario y Alsira conquistan la isla junto a su nieto
- «Ya no me queda nada por hacer en el partido ni en la política»
