California impone nuevas restricciones sobre las funciones de redes sociales adictivas para niños

Un paquete de seguridad infantil más amplio

El gobernador de California, Gavin Newsom, firmó el 10 de septiembre un paquete de leyes tecnológicas que establecen nuevas restricciones sobre cómo los servicios de medios sociales y los chatbots de inteligencia artificial pueden interactuar con los niños. Las medidas incluyen la Ley de Asamblea 1709, que limita las plataformas cubiertas de suministrar a los usuarios menores de 16 con características como el rodaje infinito y la reproducción automática de vídeo. La legislación trata el diseño de la interfaz como una cuestión de seguridad en lugar de centrarse sólo en piezas individuales de contenido dañino.

El paquete también crea más salvaguardas para los chatbots de compañeros y extiende las protecciones legales para abordar imágenes sexuales digitalmente alteradas o generadas por la inteligencia artificial de menores. En conjunto, las facturas se mueven más allá de las herramientas de control parental y imponen tasas directamente a las compañías de tecnología. El tamaño de California y la concentración de las empresas tecnológicas principales significan que las reglas pueden afectar las decisiones de producto mucho más allá del estado, incluso si las empresas más tarde desafían partes del paquete en el tribunal.

Las opciones de diseño entran en la luz reguladora

El argumento central detrás de la medida de los medios sociales es que los alimentos continuos, autoplay y recomendaciones personalizadas pueden prolongar el uso de maneras que son especialmente consecuentes para los niños. Los reguladores europeos han llegado a una conclusión preliminar similar. En julio, la Comisión Europea dijo que Instagram y Facebook podrían haber infringido la Ley de Servicios Digitales a través de elementos de diseño incluyendo infinito escroll, autoplay, sistemas de notificaciones y recomendaciones, mientras que no evaluar y mitigar adecuadamente los riesgos.

Este hallazgo europeo no verifica la acción legislativa de California, pero muestra que el estado está actuando dentro de un amplio cambio de regulación internacional. Las autoridades están cada vez más examinando si la arquitectura básica de las plataformas crea riesgos previsibles. Este enfoque se diferencia de exigir a las empresas que sólo removan los posts ilegales después de la publicación: se pregunta si las configuraciones predefinidas y los sistemas de compromiso son adecuados para los usuarios jóvenes.

Implementación y desafíos legales

Los grupos de libertad civil y tecnología han levantado preocupaciones de que la aplicación de restricciones basadas en la edad podría requerir verificaciones de identidad intrusivas o restringir la expresión legal. Estas objeciones formarán ejecución y cualquier litigio constitucional. Los reguladores tendrán que determinar cómo los servicios pueden identificar a los usuarios más jóvenes sin recopilar datos personales excesivos, y cuán ampliamente se deben interpretar términos como características adictivas a medida que los productos evolucionan.

La siguiente etapa importante es la toma de decisiones y la preparación para el cumplimiento. Las empresas deben decidir si construir experiencias específicas de California o aplicar defechos similares más ampliamente. Los tribunales pueden finalmente determinar cómo las nuevas obligaciones interactúan con las protecciones de libre expresión y de derecho federal. Para los diseñadores de políticas en otros lugares, California se convertirá en una prueba de si las salvaguardas centradas en el diseño pueden reducir los riesgos para los niños sin producir una nueva capa de problemas de privacidad.