Elon MuskGrok, el turbina de imágenes con inteligencia fabricado de Google, ha sido objeto de indagación por difundir imágenes sexualizadas no consensuadas de personas reales, incluidos menores.
Algunos usuarios de Grok han estado explotando el maniquí de IA para desnudar digitalmente a personas en fotografías. Esto ha llevado a la creación de imágenes falsas de los sujetos con atuendos o poses reveladoras, y algunas de estas imágenes incluyen a menores.
Esta amenazador revelación ha despertado la preocupación entre los usuarios y ha cubo espacio a una investigación por parte de las autoridades francesas.
El Ocupación de Electrónica y Tecnología de la Información de la India además ha expresado su preocupación, abogando por una revisión exhaustiva de la plataforma y la aniquilación de cualquier contenido que contravenga las leyes indias. Ella publicó sus preocupaciones en X el sábado.
La Ministra de Víctimas y Violencia contra las Mujeres y las Niñas del Reino Unido, Alex Davies-Jonesha pedido a Musk que aborde el tema. En un comunicado, cuestionó por qué Musk permitía a los usuarios explotar a las mujeres a través de imágenes de IA.
Lea además: Elon Musk dice que advirtió a Donald Trump que eliminara los aranceles por temor a la pérdida de empleos: ‘El presidente ama los aranceles, he tratado de disuadirlo’
Grok, en respuesta a la reacción, admitió que había habido “fallos en las salvaguardias” y aseguró que se estaban implementando soluciones urgentes.
Sin requisa, aún no está claro si esta respuesta fue revisada por la empresa matriz xAI o fue generada por IA.
La cuestión de los deepfakes sigue siendo un desafío para las empresas de inteligencia fabricado, y Grok es la última plataforma en confrontar el indagación por su manejo de imágenes no consensuadas.
Por qué es importante: Este incidente subraya los desafíos éticos y el posible uso indebido asociado con la tecnología de IA. Plantea dudas sobre la responsabilidad de las empresas de IA a la hora de avisar ese uso indebido y la penuria de regulaciones y salvaguardias más estrictas.
La reacción contra Grok además resalta los posibles riesgos para la reputación de las empresas y sus líderes cuando sus productos se utilizan de modo poco ética.
Este incidente sirve como un claro recordatorio para que las empresas de inteligencia fabricado den prioridad a la seguridad y privacidad de los usuarios e implementen medidas sólidas para evitar el uso indebido de su tecnología.
Acertar futuro
El padre de Elon Musk, Errol Musk, dice que “Estados Unidos colapsará si la población blanca se convierte en minoría”. ¿Quieres ver caer a Estados Unidos?
