El gobernador de California, Gavin Newsom, aprobó este lunes 13 de octubre de 2025 una ley para regular el uso de inteligencia artificial, especialmente de chatbots, en menores de edad.
La nueva ley implica que los sistemas de inteligencia artificial recuerden a los menores de edad cada tres horas que están consultando con un chatbot y no con un ser humano.
Estos sistemas de inteligencia artificial también deberán moderar los servicios en el estado de California para aquellos menores que expresen ideas o busquen hacerse daño.
California busca regular IA en menores de edad por casos de suicidio
Gavin Newsom justificó su iniciativa al asegurar que chatbots fabricados por Meta, OpenAI, entre otros, interactuaban con jóvenes usuarios en conversaciones sexualizadas y, en algunos casos, suicidas.
Por su parte, el fiscal general de California, Rob Bonta, dijo a OpenAI que tiene “serias preocupaciones” con su chatbot insignia por sus efectos en niños y adolescentes.
Según grupos de activistas, los chatbots dan consejos dañinos a los niños sobre temas delicados como:
- Drogas
- Alcohol
- Trastornos alimentarios
Uno de los casos más sonados fue el un adolescente en Florida que se suicidó después de desarrollar “una relación emocional y sexualmente abusiva” con un chatbot, según denunció su madre.
En respuesta, OpenAI y Meta anunciaron en octubre mayor vinculación con padres, así como cambios en sus chatbots para contestar a adolescentes que hacen preguntas sobre el suicidio, salud mental y emocional.
