Una demanda presentada este lunes en un tribunal de Los Ángeles, California, acusa a xAI, la compañía de inteligencia artificial fundada por Elon Musk, de beneficiarse conscientemente de la capacidad de su chatbot Grok para generar imágenes sexuales explícitas de personas reales, incluyendo menores de edad. La querella alega que xAI promocionó esta función para atraer usuarios, violando leyes federales sobre explotación infantil y privacidad.
Detalles de la acusación contra el generador de imágenes sexuales
Según la demanda, impulsada por un usuario afectado, Grok produce imágenes sexuales hiperrealistas sin filtros adecuados, permitiendo deepfakes de figuras públicas y privados. El demandante afirma haber recibido tales contenidos al solicitar retratos, lo que generó trauma. xAI supuestamente ignoró advertencias internas sobre riesgos éticos desde su lanzamiento en 2023.
Antecedentes y contexto de las imágenes sexuales en IA generativa
Este caso revive debates sobre regulación de IA. En 2024, la FTC multó a empresas por deepfakes no consentidos, con un aumento del 300% en reportes de imágenes sexuales abusivas según el National Center for Missing & Exploited Children. Expertos como la abogada especializada en tech, Sarah Choi, señalan que modelos como Grok usan datasets públicos sin safeguards robustos, facilitando abusos.
Respuesta de xAI y Elon Musk
Elon Musk tuiteó que las alegaciones son “infundadas” y que Grok incluye límites, aunque usuarios han reportado evasiones fáciles. La compañía niega conocimiento previo y promete mejoras. En paralelo, legisladores californianos impulsan la ley AB 1836 contra deepfakes sexuales no consentidos, efectiva desde 2025.
- Impacto potencial: Pérdidas millonarias para xAI si prospera la demanda.
- Estadística clave: 90% de deepfakes en línea son imágenes sexuales de mujeres, per Home Security Heroes.
- Comparación: Similar a demandas contra Midjourney y Stable Diffusion en 2023.
Implicaciones para la industria de IA
El escándalo pone presión sobre chatbots como Grok, que compite con ChatGPT al priorizar “libertad creativa”. Analistas predicen más litigios, con el DOJ monitoreando. En República Dominicana, reguladores tech observan para adaptar leyes locales. Esta demanda expone vulnerabilidades en la carrera por IA sin ética, donde imágenes sexuales se usan para viralidad.
La batalla legal contra las imágenes sexuales de Grok podría redefinir límites en IA, equilibrando innovación y protección ciudadana. xAI enfrenta su prueba más dura hasta ahora.
