Una de las mayores empresas de IA alerta de que en un año habrá empleados virtuales con IA. Y no lo ven bueno para la ciberseguridad

Anthropic prevé tener empleados virtuales impulsados ​​por IA, según declaró Jason Clinton, que es el principal responsable de seguridad de la compañía a Axios en una entrevista.

En seguridad, esto implica que los agentes autónomos respondan a alertas de phishing y otros indicadores de amenazas. Según las novedades, los empleados virtuales llevarían esa automatización más allá ya que se está trabajando "para estas identidades de IA tengan sus propias "memorias", sus propios roles en la empresa e incluso sus propias cuentas y contraseñas corporativas". 

Anthropic asume que tiene dos responsabilidades para ayudar a invadir los desafíos de seguridad relacionados con la IA. Primero, probar exhaustivamente los modelos de Claude para avalar que resistan ciberataques; y, en segundo zona, monitorear los problemas de seguridad y mitigar las formas en que los actores maliciosos puedan extralimitarse de Claude, todo según las palabras de Clinton.

Es raro que esta misma empresa haya pedido a los trabajadores humanos que no usen la IA para crear sus currículums o cartas de motivación cuando quieran consentir a alguna vacante en la firma, porque buscan conocer sus habilidades reales.

Grandes problemas de seguridad que resolver

El directivo afirma que hay muchos problemas de seguridad en torno a los empleados virtuales que la empresa no ha resuelto y que necesita solucionar. Según Axios, esos problemas incluyen cómo proteger las cuentas de usufructuario de los empleados de IA, qué camino a la red se les debe otorgar y quién es responsable de ejecutar sus acciones, añadió Clinton.

Como ejemplo, explica que los administradores de red ya tienen dificultades para monitorear qué cuentas tienen camino a varios sistemas y defenderse de los atacantes que compran contraseñas reutilizadas de cuentas de empleados interiormente de la Dark Web. Los empleados de IA podrían proceder de forma no autorizada y atacar o modificar el sistema de la empresa (donde se fusiona y prueba el nuevo código antiguamente de su implementación) mientras realizan una tarea, dijo Clinton.

En caso de suceder poco así, en el mundo de los empleados humanos, esto constituye un delito que conlleva un castigo para la persona. Y se pregunta el directivo de Anthropic: “En este nuevo mundo, ¿quién es responsable de un agente que llegó a ese punto?”.

Clinton dice que está especialmente interesado en soluciones que proporcionen visibilidad sobre lo que hace una cuenta de un empleado de IA en un sistema, así como en herramientas que creen un nuevo sistema de clasificación de cuentas que contabilice mejor a los empleados virtuales.

La IA escribiendo todo el código

Hace un mes, Dario Amodei, CEO de Anthropic, afirmaba que, pronto, casi todo el código podría ser generado por IA. Esta es una empresa de IA fundada por exempleados de OpenAI y que tiene en el mercado al asistente Claude.

Según sus palabras: “Si me fijo en la codificación y la programación, que son áreas en donde la IA está progresando más, lo que estamos descubriendo es que estamos a entre 3 y 6 meses de un mundo donde la IA escriba el 90% del código. Y luego, en 12 meses, podríamos estar en un mundo donde la IA escriba prácticamente todo el código”.

El problema de integrar la IA en el entorno profesional

En el mismo artículo de Axios afirman tener presente que la integración de la IA en el entorno profesional ya está causando problemas, y que “descubrir cómo ejecutar a los empleados virtuales no será liviana”.

El año pasado, la empresa de diligencia del rendimiento Lattice anunció que los bots de IA deberían formar parte de la plantilla, incluyendo su inclusión en los organigramas corporativos. Sin incautación, la empresa cambió de postura tras una multitud de quejas.

Lattice, una plataforma de diligencia del rendimiento con sede en San Francisco, anunció hace unos meses su plan de que los bots de IA fueran tratados como empleados interiormente de su software interno: incorporándolos, integrándolos en el organigrama de la empresa y gestionando su rendimiento. Poco luego, tuvo que revertir su postura tras las críticas de profesionales de bienes humanos y del sector tecnológico.

Imagen | Foto de Brett Jordan en Unsplash

En Genbeta | Le despidieron con una carta hecha con inteligencia químico. Para el magistrado es “impresentable” y lo declaró improcedente