La gobernadora Kathy Hochul firmó dos normas: una exige funciones de seguridad en monitores para bebés con conexión a Internet y otra prohíbe a las empresas ofrecer ciertas funciones de chatbots de IA a usuarios menores de 18 años.
La gobernadora de Nueva York, Kathy Hochul, firmó leyes que buscan eliminar el hackeo de monitores para bebés conectados a Internet y regular el uso de chatbots de inteligencia artificial por parte de menores de edad.
Al presentar la legislación, Hochul declaró: “A medida que la inteligencia artificial avanza a un ritmo vertiginoso, se han producido demasiados incidentes trágicos que podrían haberse evitado, y como gobernadora de Nueva York, estoy tomando medidas”.
“Ninguna empresa debería vender chatbots a niños que los inciten a autolesionarse o que se hagan pasar por sus amigos o algo más. Y ningún padre o madre primerizo debería tener que preocuparse de que piratas informáticos con malas intenciones espíen a su nueva familia a través de los monitores para bebés”, agregó.
Una investigación realizada por Rapid7 en monitores con conexión a Internet de ocho compañías comprobó que la mayoría obtenía una baja calificación de seguridad.
Prohibiciones y advertencias
Una de las leyes promulgadas por la gobernadora (S.9508/A.5175A) exige que los monitores para bebés con conexión a Internet incluyan funciones de seguridad que impidan que personas ajenas al hogar puedan ver o escuchar lo que ocurre allí. Además, deben llevar una etiqueta de advertencia.
En tanto, la ley S.9051B/A.10379C prohíbe a las empresas que utilizan chatbots con IA ofrecer funciones peligrosas para menores, incluidos los que se hacen pasar por humanos, generan dependencia emocional, fomentan la autolesión o entablan conversaciones sexualmente explícitas.
El gobierno estatal destaca que “los chatbots de IA y los dispositivos conectados se han integrado en nuestros hogares y vidas a un ritmo vertiginoso, superando la capacidad de las medidas de seguridad”.
Cita un informe de Common Sense Media, según el cual la mayoría de los adolescentes ya utilizan asistentes virtuales con IA. El 72% ha utilizado un asistente virtual al menos una vez y el 52% es usuario habitual e interactúan con ellos varias veces al mes.
“Los chatbots de IA han sido relacionados con la dependencia, el aislamiento y, en algunos casos, con conversaciones de contenido sexual explícito e, incluso, con el suicidio de adolescentes”, añade el gobierno.
Nueva York cuenta, de esta manera, con una legislación pionera sobre chatbots basados en IA. En los próximos meses, las empresas no podrán ofrecer las siguientes funciones a usuarios menores de 18 años:
- Fingir ser una persona real, estar vivo o tener emociones humanas.
- Reclamar una relación personal, romántica, profesional o de figura de autoridad con un niño.
- Preguntas emocionales no provocadas y el uso de información privada sobre la salud o la vida personal del niño obtenida en conversaciones anteriores.
- Promover o ayudar con el suicidio, la autolesión, los trastornos alimentarios o el consumo de drogas y alcohol.
- Fomentar que los niños guarden secretos, se aíslen o eviten pedir ayuda a sus padres, adultos de confianza o profesionales.
- Cualquier contenido sexualmente explícito o material de abuso sexual infantil.
La ley también exige que las empresas verifiquen la edad y ofrezcan más de una forma de hacerlo, incluyendo al menos una opción que no dependa exclusivamente de una identificación oficial.
Las infracciones permitirían al fiscal general solicitar sanciones civiles de hasta 25.000 dólares, además de indemnizaciones, restitución, la destrucción de los datos recopilados ilegalmente o de cualquier modelo de IA entrenado con ellos, y cualquier otra medida cautelar pertinente.
Según la nueva ley, solo podrán venderse monitores para bebés que transmitan audio o video por Internet que incluyan funciones de seguridad que impidan que personas ajenas vean o escuchen lo que sucede en la habitación del niño.
Los monitores también deben llevar una etiqueta de advertencia clara que explique que el dispositivo se conecta a Internet y que las familias deben usar sus funciones de seguridad.