El suicidio de un adolescente y otros casos de delirios han puesto a los chatbots con inteligencia artificial en el centro de atención debido a su impacto en la salud mental, particularmente entre los más jóvenes. ChatGPT ya ha introducido controles parentales en respuesta a esta creciente preocupación y admitió hace unos días que era consciente de que ChatGPT estaba causando graves problemas psicológicos a algunos usuarios. . Ahora Character.ai, uno de los chatbots también en el centro de la polémica, ha tomado una decisión drástica.
+18. Estados Unidos ya está aprobando leyes para regular el uso de los llamados “compañeros de IA” en menores, y Character.ai ha tomado una medida aún más drástica que los simples controles parentales. Como dicen TechCrunchA partir del 25 de noviembre, la duración de uso de la aplicación para menores de 18 años se limitará a dos horas. Este tiempo se reduce gradualmente hasta cero.
Verificación de edad. Para garantizar que las personas menores de 18 años ya no puedan utilizar la aplicación, Character.ai utilizará un sistema de verificación de edad que analiza el comportamiento del usuario. Si eso falla, la aplicación utiliza verificación de identidad adicional y reconocimiento facial para bloquear a los usuarios menores de edad.
ChatGPT, calienta cuando sales. OpenAI tomó medidas recientemente para evitar esto Casos como el de Adam Raineprincipalmente la integración de controles parentales en ChatGPT. La medida contrasta con las declaraciones de Altman días después, cuando dijo que ChatGPT nos permitiría tener conversaciones con contenido erótico, pero sólo para adultos. Altman dijo que la aplicación requeriría verificación de edad para cualquiera que quisiera usarla, pero no dijo nada sobre bloquearla completamente para menores, como lo ha hecho Character.ai.
¿Disparo en el pie? Hacer de ChatGPT una aplicación para mayores de 18 años sería una medida eficaz para acabar con el problema o al menos cumplir con la normativa. primeras leyes que quieren regular los “compañeros de IA”.. Sin embargo, podría ser un tiro en el pie porque les haría perder muchos usuarios, algo que no pueden permitirse en el clima actual.
OpenAI lanzó recientemente uno informe detallado sobre sus usuariosSin embargo, por motivos de protección de datos, no transmitió ningún dato de usuarios menores de 18 años. Sabemos que casi la mitad (46%) de su base total de usuarios tiene entre 18 y 26 años. Esto significa que una gran proporción de ellos son usuarios muy jóvenes.
Menores e IA. OpenAI no quiere decirnos cuántos menores utilizan su chatbot, pero gracias a otros estudios sabemos que el uso de la IA generativa es muy popular en este segmento de edad. Según un estudio de planificación internacionalEn España, el 86% de los jóvenes de entre 12 y 21 años ha utilizado recientemente la IA. En cambio, el 18% de las chicas y el 12% de los chicos admiten que lo utilizan “para hablar y contar sus cosas”.
Imagen | Carácter.ai, Pexels
En | La gran paradoja de los móviles en la adolescencia: son malos para el rendimiento y la salud mental, pero prohibirlos en la escuela no ayuda
