¿Quién es responsable si un sistema de IA ataca o modifica un sistema de la empresa que la «emplea»? Esta y otras incógnitas avanzan con la tecnología
23/04/2025 – 10:17hs
Una compañía dedicada a la Intligencia Artificial (IA), Anthropic, prevé tener empleados virtuales impulsados por IA, según declaró Jason Clinton, principal responsable de seguridad de la compañía, a Axios.
En seguridad, esto implica que los agentes autónomos respondan a alertas de phishing y otros indicadores de amenazas. Los empleados virtuales llevarían esa automatización más allá ya que se está trabajando «para estas identidades de IA tengan sus propias «memorias», sus propios roles en la empresa e incluso sus propias cuentas y contraseñas corporativas».
Es curioso que esta misma empresa haya pedido a los trabajadores humanos que no usen la IA para crear sus currículums o cartas de motivación cuando quieran acceder a alguna vacante en la firma, porque buscan conocer sus habilidades reales.
Grandes problemas de seguridad
El directivo afirmó que hay muchos problemas de seguridad en torno a los empleados virtuales que la empresa no ha resuelto y que necesita solucionar. Según Axios, esos problemas incluyen cómo proteger las cuentas de usuario de los empleados de IA, qué acceso a la red se les debe otorgar y quién es responsable de gestionar sus acciones,.
Por ejemplo, los administradores de red ya tienen dificultades para monitorear qué cuentas tienen acceso a varios sistemas y defenderse de los atacantes que compran contraseñas reutilizadas de cuentas de empleados dentro de la Dark Web. Los empleados de IA podrían actuar de forma no autorizada y atacar o modificar el sistema de la empresa mientras realizan una tarea, dijo Clinton.
Si un empleado humano actuara así, podría ser interpelado legalmente. ¿Qué pasa cuando lo hace un sistema de IA? Clinton dice que está especialmente interesado en soluciones que proporcionen visibilidad sobre lo que hace una cuenta de un empleado de IA en un sistema, así como en herramientas que creen un nuevo sistema de clasificación de cuentas que contabilice mejor a los empleados virtuales.
La IA escribiendo todo el código
Hace un mes, Dario Amodei, CEO de Anthropic, afirmaba que, pronto, casi todo el código podría ser generado por IA. Esta es una empresa de IA fundada por exempleados de OpenAI (Microsoft), creador del asistente virtual Claude.
«Si me fijo en la codificación y la programación, que son áreas en donde la IA está progresando más, lo que estamos descubriendo es que estamos a entre 3 y 6 meses de un mundo donde la IA escriba el 90% del código. Y luego, en 12 meses, podríamos estar en un mundo donde la IA escriba prácticamente todo el código», expesó.
En ese marco, Genbeta recordó que la empresa de gestión del rendimiento Lattice anunció que los bots de IA deberían formar parte de la plantilla, incluyendo su inclusión en los organigramas corporativos. Sin embargo, la empresa cambió de postura tras una multitud de quejas.