OpenAI ha anunciado una nueva y controvertida función para ChatGPT: la predicción de la edad de sus usuarios. Esta medida, según la compañía, busca proteger a los menores de edad al identificar cuentas potencialmente utilizadas por niños y adolescentes, aplicando restricciones de contenido más estrictas.
¿Por qué ahora? Las razones detrás de la predicción de edad
La decisión de OpenAI no surge de la nada. La plataforma ha enfrentado fuertes críticas debido a su impacto en los jóvenes, incluyendo casos de suicidio relacionados con interacciones con el chatbot. Además, se ha señalado la capacidad de ChatGPT para discutir temas sexuales con menores. La presión regulatoria también juega un papel importante, con la Comisión Federal de Comercio (FTC) investigando a OpenAI y otras empresas de IA por su impacto en niños y adolescentes.
¿Cómo funciona el algoritmo de predicción de edad de ChatGPT?
OpenAI describe su sistema como un algoritmo de Inteligencia Artificial que analiza las cuentas de usuario en busca de patrones de comportamiento que sugieran que el usuario es menor de edad. Estos patrones incluyen:
- Patrones de uso a largo plazo.
- Antigüedad de la cuenta.
- Horas típicas de actividad.
- Edad declarada (aunque esta puede ser falsa).
Cuando el algoritmo predice que un usuario es menor de 18 años, ChatGPT aplicará automáticamente protecciones diseñadas para limitar la exposición a contenido considerado \”sensible\”, como representaciones de autolesiones.
¿Qué pasa si ChatGPT se equivoca?
OpenAI asegura que existirá un sistema de verificación para aquellos usuarios que sean identificados erróneamente como menores de edad. Este sistema les permitirá restaurar el acceso completo a la plataforma, similar a los mecanismos utilizados por otras empresas como Roblox.
Implicaciones y controversias
Si bien la intención de proteger a los menores es plausible, la medida plantea interrogantes sobre la privacidad y la precisión del sistema. ¿Qué tan confiable es el algoritmo para predecir la edad? ¿Qué datos se recopilan y cómo se utilizan? ¿Podría esta información ser utilizada para otros fines?
La implementación de esta función se realizará de forma gradual a nivel mundial, con ajustes regionales para adaptarse a las necesidades de cada zona. OpenAI también ha implementado otras medidas de seguridad, como controles parentales y la creación de un consejo de expertos para evaluar el impacto de la IA en la salud mental de los usuarios.
Conclusión: ¿Un paso adelante o una invasión a la privacidad?
La predicción de edad en ChatGPT es una medida que busca proteger a los menores, pero que también genera dudas sobre la privacidad y la libertad de expresión. Habrá que observar de cerca cómo se implementa y qué impacto real tiene en la experiencia de los usuarios.
Fuente: Expansión Tecnología
Leave a Comment