En la era de la inteligencia artificial, la difusión de imágenes íntimas sin consentimiento ha tomado una nueva y preocupante dimensión. Ya no se trata solo de filtraciones de contenido real, sino también de la creación de deepfakes: imágenes y videos generados por IA que pueden dañar profundamente la reputación y la privacidad de las personas. Afortunadamente, existen herramientas como StopNCII.org que buscan combatir este problema.
¿Qué es StopNCII.org y cómo funciona?
StopNCII.org es una herramienta gratuita diseñada para ayudar a las víctimas de la difusión no consentida de imágenes íntimas, incluyendo aquellas generadas por inteligencia artificial. Su funcionamiento se basa en la creación de un hash o huella digital única del contenido afectado.
Este hash se genera directamente en el dispositivo del usuario mediante un algoritmo que asigna un identificador específico al archivo. Lo interesante es que todas las copias duplicadas de la imagen o video conservan exactamente la misma huella digital. Esto permite que la herramienta identifique coincidencias del contenido en diferentes plataformas.
Una vez generado el hash, StopNCII.org lo comparte con una red de empresas participantes, que incluyen redes sociales y plataformas de contenido. Estas empresas utilizan el hash para detectar y eliminar las imágenes o videos coincidentes, evitando así su propagación.
¿Quién está detrás de StopNCII.org?
El servicio es operado por Revenge Porn Helpline (RPH), una organización que forma parte de SWGfL, una entidad benéfica dedicada a la protección de personas en entornos digitales. Desde su creación, RPH ha ayudado a miles de víctimas de difusión no consensuada de imágenes íntimas, logrando eliminar con éxito más de 200,000 imágenes de internet, con una tasa de éxito superior al 90%.
¿Cómo protege la privacidad de las víctimas?
Un aspecto fundamental de StopNCII.org es su enfoque en la privacidad. El sistema no almacena ni conserva los archivos originales. Solo se utiliza la huella digital generada a partir del contenido. Además, la herramienta recopila únicamente la información mínima necesaria para dar seguimiento al caso y coordinar la detección con las plataformas participantes.
Requisitos para utilizar StopNCII.org
Para poder utilizar el servicio, el caso debe cumplir con los siguientes criterios:
- La persona solicitante aparece en las imágenes.
- El contenido muestra desnudez, semidesnudez (como genitales o pechos cubiertos por ropa interior) o un acto sexual.
- La persona que aparece en el material es mayor de 18 años.
El sistema acepta tanto imágenes reales como sintéticas (deepfakes) siempre que representen desnudez o contenido sexual no consentido.
¿Qué tipo de contenido no se puede procesar?
Existen ciertas categorías de contenido que StopNCII.org no admite, entre ellas:
- Imágenes comerciales o profesionales.
- La imagen original utilizada para crear un contenido íntimo sintético o falso.
- Imágenes de prueba.
- Capturas de pantalla de conversaciones basadas en texto.
- Grabaciones de audio.
Estos materiales no pueden integrarse al proceso de detección mediante huella digital.
Paso a paso: Cómo crear un reporte en StopNCII.org
El proceso para generar un caso se realiza completamente en línea:
- Ingresa a https://stopncii.org/crea-tu-caso/
- Selecciona la opción “crea tu caso”.
- Responde el cuestionario inicial para determinar si el caso cumple con los criterios de elegibilidad.
- Adjunta el contenido para su revisión y generación del hash.
- Crea una cuenta para recibir actualizaciones sobre el estado del caso, la generación de la huella digital y las plataformas donde el contenido ha sido eliminado.
¿En qué plataformas se bloquea y elimina el contenido?
El hash generado se comparte con una red de empresas y plataformas digitales participantes, entre ellas:
Facebook, X, Instagram, Threads, Microsoft Bing, TikTok, Reddit, OnlyFans, Pornhub, Snap Inc., Playhouse, Redgifs, Patreon, Vivastreet, F2F.com y Bluesky.
La detección se realiza mediante coincidencias técnicas del hash, lo que impide que el material vuelva a publicarse en esos espacios una vez identificado.
El auge de los deepfakes y la necesidad de herramientas como StopNCII.org
La expansión de la pornografía generada con inteligencia artificial ha puesto de manifiesto la magnitud del problema. Casos como el de Grok, el chatbot de xAI, que generaba imágenes sexualizadas sin consentimiento, demuestran la necesidad de medidas de seguridad más robustas y de herramientas como StopNCII.org para proteger a las víctimas.
Un informe de la asociación Somos Más reveló que el 98% de los deepfakes que circulan en internet son pornográficos y no consensuados, y que el 99% de las personas afectadas son mujeres. Estos datos ponen de relieve la urgencia de abordar este problema y de brindar apoyo a las víctimas.
Conclusión
La proliferación de imágenes íntimas generadas con IA es un problema creciente que requiere soluciones efectivas. StopNCII.org se presenta como una herramienta valiosa para combatir este tipo de abuso, permitiendo a las víctimas tomar el control de su imagen y frenar la propagación de contenido no consentido. Si eres víctima de este tipo de situación, no dudes en utilizar esta herramienta y buscar apoyo legal y psicológico.
Fuente: Expansión Tecnología
Leave a Comment