SACRAMENTO— Julianna Arnold no se alarmó cuando su hija adolescente se unió a Instagram por primera vez.
Mucha gente de su edad lo estaba usando. Y su hija Coco tenía vida social y otros pasatiempos, como atletismo y gimnasia, para equilibrar su tiempo en línea.
“Eran videos de música y baile y parecían inocentes”, dijo Arnold, quien reside en Los Ángeles, y explicó que revisaría el contenido que Coco veía.
Pero Arnold dijo que un hombre usó Instagram para atacar a su hija mientras vivían en Nueva York en 2022, enviando mensajes privados y actuando como un “hermano mayor” para ganarse su confianza. Dos semanas después de cumplir 17 años, Coco lo conoció cerca de su casa… y Murió después de tomar un medicamento con fentanilo. Percocet falso que proporcionó.
Historias similares son jugando a nivel nacional mientras los padres luchan por encontrar la manera de proteger a sus hijos de una gran cantidad de amenazas en línea.
Como el estado alberga muchos gigantes tecnológicos, el gobernador Gavin Newsom ha dicho que California está allanando el camino para restricciones legislativas sobre las redes sociales y la inteligencia artificial. Pero aunque los defensores de la seguridad infantil coinciden en que se lograron avances en la capital del estado este año, argumentan que todavía queda un largo camino por recorrer y planean luchar por más protecciones cuando los legisladores se vuelvan a reunir en enero.
«Yo diría que California definitivamente está a la cabeza en esto», dijo Jai Jaisimha, cofundador de Transparency Coalition, una organización sin fines de lucro que investiga los riesgos y oportunidades asociados con la IA. «(Pero) me encantaría ver una voluntad de ser un poco más fuerte en términos de comprender los impactos y tomar medidas más rápidamente. No podemos darnos el lujo de esperar tres o cuatro años: el daño está ocurriendo ahora».
Una encuesta del año pasado del Pew Research Center encontrado casi medio de los adolescentes estadounidenses de 13 a 17 años dicen que están en línea «casi constantemente». Nueve de cada 10 adolescentes dijeron que usan YouTube y aproximadamente 6 de cada 10 dijeron que usan TikTok e Instagram. El cincuenta y cinco por ciento informó usar Snapchat.
Durante la reciente sesión legislativa, Newsom firmó una serie de leyes destinadas a hacer que Internet sea más seguro, particularmente para los menores.
Uno nueva ley requiere que los proveedores de sistemas operativos pregunten a los titulares de cuentas la edad del usuario al configurar equipos como computadoras portátiles o teléfonos inteligentes. Luego, los proveedores del sistema envían una señal a las aplicaciones sobre el rango de edad del usuario para que el contenido pueda ajustarse a la edad apropiada. Otra medida requiere ciertas plataformas mostrar etiquetas de advertencia sobre los efectos adversos para la salud mental que las redes sociales pueden tener en los niños.
Una tercera nueva ley requiere chatbots complementarios recordar periódicamente a los usuarios que no están interactuando con un ser humano e implementar procesos de prevención del suicidio para ayudar a quienes muestran signos de angustia. Un chatbot complementario es un programa informático que simula conversaciones similares a las de los humanos para brindar a los usuarios entretenimiento o apoyo emocional.
Newsom, sin embargo, vetó lo que podría decirse que era el proyecto de ley más agresivo, diciendo que era demasiado amplio y podría impedir por completo que los niños accedan a la IA.
El Proyecto de Ley 1064 de la Asamblea habría prohibido poner chatbots complementarios a disposición de menores si los chatbots fueran «previsiblemente» capaces de promover ciertos comportamientos, como autolesiones, trastornos alimentarios o actos violentos. También habría requerido auditorías de seguridad independientes sobre los programas de IA para niños.
«Esa es una pieza que vamos a revisar el próximo año», dijo Sacha Haworth, director ejecutivo del Tech Oversight Project. «Estamos en conversaciones con las oficinas de los miembros y la oficina del gobernador para llevar esa legislación a un lugar donde él pueda firmarla».
Otra organización está adoptando un enfoque diferente.
El director ejecutivo de Common Sense Media, Jim Steyer, ha lanzado una campaña para un estado iniciativa electoraldenominada Ley de seguridad de la IA para niños de California, para llevar el tema directamente a los votantes. Entre otras disposiciones, limitaría estrictamente el acceso de los jóvenes a los chatbots complementarios y requeriría auditorías de seguridad para cualquier producto Al dirigido a niños o adolescentes. También prohibiría a las empresas vender datos personales de usuarios menores de 18 años sin consentimiento.
Steyer añadió que la AB 1064 contaba con un amplio apoyo y probablemente se habría firmado si no fuera por el agresivo lobby de la industria tecnológica y las amenazas de abandonar el estado.
“En el mundo de la política, a veces hay que intentarlo y volver a intentarlo”, dijo Steyer. «(Pero) tenemos el impulso, tenemos los hechos, tenemos el público y, sobre todo, tenemos la autoridad moral, así que vamos a ganar».
Ed Howard, asesor principal y defensor de políticas del Children’s Advocacy Institute de la Universidad de San Diego, dijo que uno de sus objetivos para el próximo año es darle más fuerza a dos leyes actuales.
El primero requiere que las plataformas de redes sociales proporcionen un mecanismo para que los menores denuncien y eliminen imágenes de ellos mismos siendo abusados sexualmente. El segundo requiere que las plataformas creen un mecanismo de denuncia similar para las víctimas de ciberacoso.
Howard dijo que las principales plataformas, como TikTok, Facebook e Instagram, no cumplieron o hicieron que el proceso de presentación de informes fuera «increíblemente difícil».
«La existencia de tales imágenes atormenta a los supervivientes de estos crímenes», afirmó. «Este año habrá un proyecto de ley para limpiar el lenguaje en (esas leyes) para garantizar que no se salgan con la suya».
Howard cree que los legisladores de ambos partidos están comprometidos a encontrar soluciones.
«Nunca antes había visto el tipo de furia bipartidista que he visto dirigida contra estas empresas (de tecnología)», dijo.
Lishaun Francis, directora senior de salud conductual de Children Now, dijo que la organización todavía está explorando posibles prioridades legislativas para 2026.
Explicó que a menudo adoptan un enfoque mesurado porque una legislación más estricta tiende a quedar atrapada en demandas de la industria tecnológica. Meta, Google y TikTok, por ejemplo, son desafiando una ley de California promulgada el año pasado que restringe el acceso de los niños a feeds personalizados de redes sociales.
«Todavía estamos tratando de investigar un poco más con nuestros jóvenes sobre cómo quieren interactuar con la IA y cómo creen que debería ser», dijo Francis. «Creemos que es una pieza importante que falta en la conversación; hay un grupo de adultos de 40 años y más en la sala hablando sobre tecnología e ignorando por completo cómo los jóvenes quieren usarla».
David Evan Harris, asesor principal de políticas de la Iniciativa de California para la Tecnología y la Democracia, dijo que está atento a Washington mientras se prepara para la sesión estatal.
«Hay personas en el Congreso y en la Casa Blanca que están tratando de hacer imposible que los estados» regulen la IA, dijo. “Quieren quitarle ese poder a los estados y no reemplazarlo con ningún tipo de regulación federal, sino reemplazarlo con nada”.
La Casa Blanca tiene en suspenso un proyecto de orden ejecutiva que prevalecería sobre las leyes estatales sobre inteligencia artificial mediante demandas y reteniendo fondos federales. Reuters informó el sábado.
Cuando los defensores hablen en la cámara estatal el próximo año, Arnold estará entre ellos. Desde que murió su hija hace tres años, ha cofundado Parents Rise, un grupo de defensa de base, y trabaja para crear conciencia sobre los riesgos que enfrentan los jóvenes en línea.
Incluso antes de que Coco fuera atacada por un depredador, Arnold dijo que la tecnología ya había pasado factura a sus vidas. Su hija, que alguna vez fue animada, se volvió adicta a las redes sociales y se retiró de las actividades que antes amaba. Arnold llevó a Coco a terapia y restringió su tiempo en línea, pero eso resultó en peleas interminables y creó una brecha entre ellos.
«Crees que tu hijo está seguro en su dormitorio, pero estas plataformas proporcionan un portal a tu hogar para depredadores y contenido dañino», dijo Arnold. «Es como si estuvieran entrando por la puerta principal».
