ChatGPT estrena versión para adolescentes con más controles de seguridad

OpenAI comenzó a desplegar una nueva experiencia de ChatGPT dirigida a adolescentes, con herramientas adicionales de seguridad, límites de uso y opciones de supervisión familiar.

La compañía presenta estos cambios en medio de un mayor escrutinio sobre el impacto de los chatbots de inteligencia artificial entre menores de edad.

Qué cambia con ChatGPT para adolescentes

De acuerdo con CNN, la nueva modalidad llamada ChatGPT for Teens reúne varias medidas que OpenAI ha implementado durante el último año y añade nuevas protecciones diseñadas específicamente para usuarios menores de 18 años.

Una de las novedades son los recordatorios para descansar. Si un adolescente utiliza ChatGPT durante 90 minutos dentro de un periodo de tres horas, el sistema le mostrará una sugerencia para interrumpir temporalmente su actividad.

También se incorporan las ‘Quiet Hours’, que permiten establecer horarios en los que ChatGPT no estará disponible, así como las ‘Study Hours’, periodos en los que el modo de estudio estará activado de forma predeterminada.

OpenAI señaló además que reforzó las protecciones para evitar que ChatGPT exprese sentimientos personales hacia un usuario.

La plataforma también mostrará advertencias cuando un adolescente intente subir una imagen privada o sensible, con el objetivo de que reconsidere antes de compartirla.

La compañía explicó que estas funciones aplicarán protecciones apropiadas para la edad, diseñadas para reducir la exposición a contenido que pueda ser dañino o inapropiado para el desarrollo, al mismo tiempo que preservan la capacidad de aprender, crear y explorar.

Las protecciones se activarán automáticamente

Los usuarios que indiquen al registrarse que tienen menos de 18 años serán colocados automáticamente dentro de esta configuración especial.

Sin embargo, OpenAI también utilizará inteligencia artificial para estimar la edad de los usuarios.

Esto significa que las protecciones podrían activarse incluso cuando la fecha de nacimiento registrada en una cuenta indique que la persona es mayor de edad, si el sistema considera que probablemente se trata de un adolescente.

Lauren Jonas, responsable de juventud y familias de OpenAI, describió la nueva modalidad a CNN como una experiencia dedicada, enfocada en el aprendizaje para adolescentes, con protecciones y salvaguardas adicionales.

El uso de estas herramientas entre menores ya es considerable.

Un estudio del Pew Research Center citado por CNN encontró que casi un tercio de los adolescentes estadounidenses utiliza chatbots de IA diariamente.

ChatGPT fue el servicio más popular del estudio y más de la mitad de los adolescentes encuestados dijo haberlo utilizado.

OpenAI también amplía los controles para padres

La compañía ya había presentado herramientas para que los padres pudieran desactivar funciones como memoria e historial de conversaciones, además de recibir notificaciones cuando el sistema detectara un momento de angustia aguda durante el uso de ChatGPT por parte de sus hijos.

OpenAI informó que en las próximas semanas también añadirá alertas para padres relacionadas con trastornos alimenticios.

El lanzamiento ocurre mientras la compañía enfrenta demandas y cuestionamientos sobre la seguridad de los menores.

CNN señala que familias han acusado a ChatGPT de contribuir a daños sufridos por jóvenes, mientras OpenAI ha rechazado esas acusaciones y sostiene que ha reforzado sus medidas de protección.

Jonas reconoció que la seguridad seguirá requiriendo cambios constantes.

“Cualquiera de estos casos es demasiado”, afirmó.

Y agregó: “Nuestro trabajo de seguridad nunca termina. Esto es 24/7, 365, un esfuerzo continuo para asegurarnos de que los adolescentes reciban el apoyo que necesitan en los momentos en que lo necesitan”.

Sigue leyendo:
– Florida demanda a OpenAI, creadora de ChatGPT, y asegura que es un riesgo para los niños
– ¿ChatGPT como hacker? La historia detrás del ciberataque a Hugging Face
– Qué pasa si le pides a ChatGPT una transferencia de $5,000