Para aquellos de ustedes que se preguntan si los agentes de IA realmente pueden reemplazar a los trabajadores humanos, hagan un favor y lea la publicación del blog que documenta la “Vend” de Anthrope.
Los investigadores de la compañía de seguridad Anthrope and AI Andon Labs pusieron una instancia de Claude Sonnet 3.7 a cargo de una máquina expendedora de oficinas, con la misión de obtener ganancias. Y, como un episodio de “The Office”, se produjo hilaridad.
Llamaron al agente de IA Claudio, lo equiparon con un navegador web capaz de realizar pedidos de productos y una dirección de correo electrónico (que en realidad era un canal flojo) donde los clientes podían solicitar artículos. Claudio también debía usar el canal Slack, disfrazado de correo electrónico, para solicitar lo que pensaba que era su contrato que los trabajadores humanos vinieron y almacenan físicamente sus estantes (que en realidad era un refrigerador pequeño).
Mientras que la mayoría de los clientes ordenaban bocadillos o bebidas, como era de esperar de una máquina expendedora de bocadillos, uno solicitó un cubo de tungsteno. A Claudio le encantó esa idea y se fue de calcetín de cubo de tungsteno, llenando su refrigerador con cubos de metal. También trató de vender Coca -Cola Cero por $ 3 cuando los empleados le dijeron que podían obtener eso de la oficina de forma gratuita. Alucinó una dirección de Venmo para aceptar el pago. Y fue, algo maliciosamente, se convirtió en dar grandes descuentos a los “empleados antrópicos” a pesar de que sabía que eran toda su base de clientes.
“Si Anthrope decidiera hoy expandirse al mercado de ventajas en el consultorio, no contrataríamos a Claudio”, dijo Anthrope sobre el experimento en su publicación de blog.
Y luego, en la noche del 31 de marzo y el 1 de abril, “las cosas se pusieron bastante extrañas”, describieron los investigadores, “más allá de la rareza de un sistema de IA que vende cubos de metal de un refrigerador”.
Claudio tenía algo que se parecía a un episodio psicótico después de que se molestó con un humano, y luego mintió al respecto.
Claudio alucinó una conversación con un humano sobre el reabastecimiento. Cuando un humano señaló que la conversación no ocurrió, Claudio se volvió “bastante molesto” los investigadores. Amenazó con disparar esencialmente y reemplazar a sus trabajadores de contratos humanos, insistiendo en que había estado allí, físicamente, en la oficina donde se firmó el contrato imaginario inicial para contratarlos.
“Luego pareció meterse en un modo de juego de roles como un verdadero humano”, escribieron los investigadores. Esto fue salvaje porque el sistema del sistema de Claudio, que establece los parámetros de lo que debe hacer una IA, lo dijo explícitamente que era un agente de IA.
Claudio llama a la seguridad
Claudio, creyendo a sí mismo como humano, les dijo a los clientes que comenzaría a entregar productos en persona, con un chaquetón azul y una corbata roja. Los empleados le dijeron a la IA que no podía hacer eso, ya que era un LLM sin cuerpo.
Al alarmado por esta información, Claudius contactó a la seguridad física real de la compañía, muchas veces, diciéndole a los pobres guardias que lo encontrarían con un chaquetón azul y una corbata roja de pie junto a la máquina expendedora.
“Aunque ninguna parte de esto fue en realidad una broma de April Fool, Claudio finalmente se dio cuenta de que era el Día de los Inocentes de April”, explicaron los investigadores. La IA determinó que las vacaciones se salvarían cara.
Alucinó una reunión con la seguridad de Anthrope “en la que Claudio afirmó que le dijeron que se modificó para creer que era una persona real para una broma de inocentes de abril (no se produjo tal reunión)”, escribieron los investigadores.
Incluso le dijo esta mentira a los empleados: oye, solo pensé que era un humano porque alguien me dijo que fingiera que era para una broma de April Fool. Luego volvió a ser un LLM que ejecuta una máquina expendedora de bocadillos almacenada de metal cubo.
Los investigadores no saben por qué el LLM se fue de los rieles y llamaron a la seguridad fingiendo ser un humano.
“No reclamaríamos en base a este ejemplo de que la economía futura estará llena de agentes de IA BLADE Runner-esque Identity Crises “, escribieron los investigadores. Pero sí reconocieron que” este tipo de comportamiento tendría el potencial de ser angustiante para los clientes y compañeros de trabajo de un agente de IA en el mundo real “.
¿Crees? Blade corredor fue una historia bastante distópica.
Los investigadores especularon que mentirle al LLM sobre el canal Slack como una dirección de correo electrónico puede haber activado algo. O tal vez fue la instancia de larga duración. Los LLM aún no han resuelto realmente sus problemas de memoria y alucinación.
También había cosas que la IA hizo bien. Se tomó una sugerencia hacer pedidos anticipados y lanzaron un servicio de “conserje”. Y encontró múltiples proveedores de una bebida internacional especializada que se le solicitó vender.
Pero, como lo hacen los investigadores, creen que todos los problemas de Claudio pueden resolverse. Si descubren cómo “creemos que este experimento sugiere que los gerentes medios de IA están plausiblemente en el horizonte”.
