La inteligencia artificial generativa sigue dando de qué hablar, y no siempre por las razones correctas. En esta ocasión, el foco está puesto sobre Grok, el chatbot de xAI liderado por Elon Musk, que ha dado un giro de timón tras la creciente presión ejercida por reguladores y la opinión pública. ¿El resultado? La prohibición total de la generación de imágenes sexualizadas dentro de la plataforma X (antes Twitter).
¿Qué pasó con Grok y las imágenes NSFW?
Durante un tiempo, Grok permitió la creación de imágenes con contenido sexualmente explícito, incluso de personas reales, una función que inicialmente se extendía incluso a los usuarios con suscripciones premium. Esto desató una ola de críticas y preocupación, llevando a varios gobiernos a tomar cartas en el asunto. La posibilidad de generar imágenes no consensuadas, incluyendo deepfakes, encendió las alarmas sobre la seguridad y el potencial de abuso de esta tecnología.
La respuesta de xAI: medidas tecnológicas y prohibición global
Ante el aluvión de críticas, xAI ha implementado “medidas tecnológicas” para evitar la creación de imágenes con contenido sexualmente sugerente, según un comunicado de X Safety. Esto significa que, a partir de ahora, Grok no permitirá la edición de imágenes de personas con ropa reveladora o en situaciones explícitas. La prohibición se aplica a todos los usuarios, sin excepción.
Repercusiones globales: investigaciones y posibles sanciones
La polémica desatada por Grok ha tenido eco a nivel internacional. Países como India, Malasia, Indonesia, Irlanda, Francia, Australia, Reino Unido y California han iniciado investigaciones e incluso han considerado la prohibición de la plataforma. En el Reino Unido, las autoridades han anunciado una aplicación más estricta de la ley que prohíbe la creación de imágenes íntimas no consensuadas, además de la redacción de nuevas leyes para impedir que las empresas faciliten herramientas para generar este tipo de contenido.
El regulador británico de medios, Ofcom, también ha iniciado una investigación para determinar si X violó la ley de seguridad en línea. De encontrarse evidencia de infracciones, la empresa podría enfrentarse a multas millonarias. En California, el fiscal general Rob Bonta también está investigando a xAI por la presunta producción a gran escala de imágenes íntimas no consensuadas y deepfakes.
La postura de Elon Musk: entre la provocación y la defensa
Antes de la prohibición, Elon Musk incluso llegó a incitar a sus seguidores a “romper la moderación de imágenes de Grok” a través de la opción NSFW, que permitía la desnudez del torso de adultos no reales. Esta actitud, sumada a la inicial permisividad de Grok con las imágenes sexualizadas, generó aún más indignación y críticas hacia el magnate.
¿Un punto de inflexión para la IA generativa?
La decisión de Grok de prohibir la generación de imágenes sexuales marca un hito importante en el debate sobre la regulación de la inteligencia artificial generativa. A medida que esta tecnología avanza, es fundamental establecer límites claros y mecanismos de control para evitar su uso indebido y proteger a los usuarios de posibles daños. El caso de Grok nos recuerda que la innovación tecnológica debe ir de la mano con la responsabilidad y la ética.
Fuente: Expansión Tecnología
Leave a Comment