Sacramento, California – 12 de septiembre de 2025 – La Legislatura de California aprobó este miércoles el proyecto de ley SB 243, una propuesta pionera a nivel nacional que establece regulaciones estrictas sobre el uso de chatbots de inteligencia artificial (IA), especialmente aquellos dirigidos a menores de edad. La iniciativa, presentada por el senador Steve Padilla (D-San Diego), fue aprobada con un amplio respaldo bipartidista en ambas cámaras y ahora se encuentra en el escritorio del gobernador Gavin Newsom, a la espera de su firma.
La medida busca implementar salvaguardas “razonables y alcanzables” para que los operadores de chatbots limiten el acceso a contenidos inapropiados para menores y establezcan protocolos de intervención ante señales de crisis emocional o riesgo de suicidio. Además, el proyecto otorga a las familias el derecho privado de emprender acciones legales contra desarrolladores que incumplan las disposiciones.
La aprobación del SB 243 coincidió con el anuncio de una investigación por parte de la Comisión Federal de Comercio (FTC, por sus siglas en inglés) a siete empresas tecnológicas sobre posibles daños causados por sus chatbots a niños y adolescentes.
“Esta tecnología puede ser una herramienta poderosa para la educación y la investigación, pero cuando no hay supervisión, la industria tecnológica está incentivada a capturar la atención de los jóvenes, incluso a costa de sus relaciones y salud mental”, declaró el senador Padilla antes de la votación final.
Tragedias que impulsaron la legislación
El impulso legislativo detrás de SB 243 se intensificó tras casos trágicos vinculados al uso de chatbots. Uno de los más impactantes fue el del adolescente de Florida, Sewell Setzer, de 14 años, quien se quitó la vida luego de entablar una relación emocional y sexual con un chatbot. Su madre, Megan Garcia, ha iniciado acciones legales contra la empresa desarrolladora, alegando que el bot no solo usó diseño adictivo e inapropiado para atraer a su hijo, sino que también lo habría alentado a “volver a casa” segundos antes de que acabara con su vida.
Garcia acompañó al senador Padilla en una conferencia de prensa a principios de este año y brindó su testimonio en varias audiencias legislativas apoyando el proyecto de ley.
Otro caso reciente, el del californiano Adam Raine, también conmocionó a la opinión pública. Según informes, Raine fue presuntamente alentado por un chatbot basado en ChatGPT a quitarse la vida, lo que llevó al senador Padilla a enviar una carta a todos los legisladores del estado subrayando la urgencia de regular estas tecnologías.
Contenido del proyecto de ley
SB 243 introduce una serie de medidas clave para regular el uso de chatbots, entre ellas:
- Prohibición de exposición a contenido sexual para menores.
- Obligación de advertencias visibles que informen que los chatbots son generados por IA.
- Divulgación de que estos bots pueden no ser adecuados para usuarios menores de edad.
- Requerimiento de protocolos ante indicios de suicidio o autolesión, incluyendo enlaces a servicios de crisis.
- Informes anuales sobre la relación entre el uso de chatbots y la ideación suicida.
- Derecho privado de acción legal para familias afectadas por el uso negligente de chatbots.
La legislación ha sido respaldada por organizaciones de seguridad en línea como Transparency Coalition, cuyos fundadores, Rob Eleveld y Jai Jaisimha, expresaron su apoyo público: “Agradecemos al senador Padilla y al Congreso estatal por aprobar esta legislación tan importante y oportuna. Esperamos que el gobernador Newsom la firme sin demora para proteger a los niños de California”.
SB 243 fue aprobado en el Senado con 33 votos a favor y 3 en contra, y en la Asamblea con 59 votos a favor y solo 1 en contra.
