California prohíbe algoritmos y funciones adictivas en redes dirigidas a menores

California, Estados Unidos.- Con el fin de proteger a los menores de 16 años en el entorno digital, el gobernador de California, Gavin Newsom, promulgó 13 leyes que prohíben funciones adictivas en redes sociales, tales como el desplazamiento infinito, la reproducción automática y los algoritmos de recomendación. El paquete también regula los chatbots de Inteligencia Artificial (IA) y castiga con sanciones económicas a las empresas que causen daños comprobables a los jóvenes.

Redes sociales deben limitar funciones adictivas

El eje central del paquete normativo es la ley AB 1709, promovida por el asambleísta demócrata Josh Lowenthal. Dicha disposición prohíbe que las redes sociales ofrezcan a menores de 16 años mecanismos diseñados para retener su atención, tales como el desplazamiento infinito, la reproducción automática y los flujos personalizados o pestañas ‘Para ti’, los cuales se alimentan del historial y perfil del usuario.

Estas herramientas provocan que los jóvenes pasen en las plataformas mucho más tiempo del que tenían planeado. No obstante, la legislación no veta el acceso de los menores a las redes, sino que otorga a las empresas la opción de desactivar estas funciones específicas para este grupo demográfico o, de lo contrario, restringirles por completo el acceso a sus servicios.

Chabots de IA también se regularán

Otra de las piezas clave es la SB 1119 o ‘Ley Adam‘, que regula los chatbots de Inteligencia Artificial enfocados en el acompañamiento conversacional. La normativa exige auditorías de riesgo previas al lanzamiento, la incorporación de controles parentales y la creación de protocolos de emergencia.

Entre las medidas más destacadas, las plataformas deberán reportar a los tutores si identifican conductas o indicios de autolesión en los menores, además de limitar el tiempo de interacción, ofrecer recursos psicológicos y someterse a revisiones anuales de seguridad. La ley tiene el nombre de Adam Raine, un adolescente de California que murió por suicidio en 2025 después de utilizar ChatGPT. Su madre, María Raine, participó en la firma de la legislación.

Multas llegarán hasta de un millón de dólares por menor

La ley AB 2 castiga a las plataformas con multas de hasta un millón de dólares por niño si causan daños comprobables a su salud mental, como depresión o ansiedad, calculando el pago entre 5 mil dólares por violación o el triple de los perjuicios reales. Además, amplía el marco de protección contra la explotación infantil al sancionar imágenes de menores creadas o alteradas con la IA.

Las 13 leyes del paquete

1. AB 1709: Restringe funciones adictivas de redes sociales para menores de 16 años.
2. SB 1119: Establece controles para chatbots de acompañamiento.
3. AB 2: Contempla sanciones civiles de hasta un millón de dólares por niño.
4. SB 1276: Amplía la definición de explotación sexual infantil a imágenes alteradas o generadas con IA.
5. SB 1128: Impide que escuelas exijan a alumnos de jardín de infantes y preescolar llevar dispositivos electrónicos a casa.
6. SB 867: Prohíbe durante cuatro años fabricar y vender juguetes con chatbots de acompañamiento para menores de 16 años.
7. AB 1856: Modifica el sistema de señales de verificación de edad de la AB 1043.
8. AB 2246: Actualiza las obligaciones de diseño seguro para servicios digitales accesibles a menores.
9. AB 1946: Establece un mecanismo para denunciar material de abuso sexual infantil en plataformas digitales.
10. AB 1159: Refuerza la protección de información personal de estudiantes en sistemas de IA.
11. AB 2071: Incorpora bienestar digital a los estándares educativos de informática.
12. AB 302: Regula el uso de feeds algorítmicos adictivos en comunicaciones escolares.
13. AB 2298: Actualiza los estándares curriculares de informática con énfasis en bienestar y seguridad digital.

¿Cuándo llegará la verificación de edad?

Para aplicar las restricciones de edad, las plataformas digitales deberán utilizar un sistema establecido a través de la AB1043, la cual exigirá a los proveedores de sistemas operativos enviar a las aplicaciones una señal indicando el rango de edad del usuario. Comenzará a implementarse desde enero de 2027 y contempla una extensión para sistemas operativos de código abierto. El gobernador californiano defendió la medida al indicar que el objetivo es abordar directamente los mecanismos de diseño y los algoritmos utilizados por las plataformas.

Meta llega a acuerdo con California

Estas leyes se aprobaron poco después de que Meta llegara a un arreglo con California y otros 28 estados que la demandaron colectivamente por diseñar Facebook e Instagram para enganchar a los menores y ocultar los riesgos de sus aplicaciones.

Como parte de la resolución, que evitó un juicio federal, Meta aceptó pagar hasta 18 mil millones de dólares y ajustar sus plataformas con topes de uso diario y bloqueos nocturnos para adolescentes, convirtiéndose en uno de los precedentes más importantes sobre protección infantil digital.

Fuente: Tribuna del Yaqui