El estado de Florida presentó una demanda contra OpenAI y su CEO, Sam Altman, por presuntas prácticas inseguras de ChatGPT hacia menores de edad.
El estado de Florida inició una demanda contra OpenAI y su CEO, Sam Altman, alegando que la empresa tiene conocimiento de que ChatGPT no es seguro, especialmente para menores de edad. La demanda fue presentada este lunes en el décimo circuito de Florida.
El fiscal general de Florida, James Uthmeier, afirmó: “Sam Altman y ChatGPT eligieron la carrera de la IA por encima de la seguridad y la protección de nuestros niños. Eligieron el beneficio por encima de la seguridad pública, y no lo vamos a permitir aquí en Florida”.
La demanda acusa a OpenAI de realizar prácticas comerciales engañosas e injustas, negligencia y violar las leyes de responsabilidad por productos. También busca responsabilizar a Altman “personalmente por el daño que causó a los floridanos”, incluido su presunto “absoluto desprecio por el riesgo para la vida humana causado por la conducta de sus empresas”.
Entre las acusaciones contra ChatGPT se incluyen: ayudar a autores de tiroteos masivos, fomentar el suicidio, causar “humillación pública”, volver adictos a menores a una herramienta “sin supervisión parental” y hacer que los usuarios pierdan “habilidades de pensamiento crítico”.
Uthmeier declaró que, en última instancia, necesitan que OpenAI “cambie su programación” y que podrían ser responsables de “potencialmente miles de millones de dólares”.
La demanda se centra en la falta de controles parentales eficaces para usuarios jóvenes. Señala que la versión gratuita de ChatGPT no tiene “ningún mecanismo de control de acceso o verificación de edad” y que OpenAI no exige que las cuentas de los niños estén vinculadas a la cuenta de un padre o tutor. Incluso cuando las cuentas están vinculadas, OpenAI solo notifica a los padres sobre contenido preocupante en “situaciones limitadas” y “en ningún caso un padre puede solicitar acceso a qué información ha proporcionado un niño a ChatGPT”.
La demanda civil se basa en la primera investigación penal de la historia contra OpenAI, iniciada por Uthmeier en abril, en torno a un tiroteo masivo en la Universidad Estatal de Florida el año pasado. El presunto atacante mantuvo conversaciones extensas con ChatGPT en los días previos al tiroteo, incluyendo detalles sobre otros casos de balaceras y consejos para usar armas.
OpenAI declaró en ese momento que el tiroteo “fue una tragedia, pero ChatGPT no es responsable de este terrible crimen”. La compañía agregó: “En este caso, ChatGPT proporcionó respuestas fácticas a preguntas con información que podría encontrarse ampliamente en fuentes públicas en internet, y no alentó ni promovió actividad ilegal o dañina”.