La tienda impulsada por IA de Anthropic no funcionó como estaba previsto

Dario Amodei, director ejecutivo de la empresa estadounidense Anthropic, se encuentra entre quienes creen que es posible que la inteligencia artificial (IA) pueda quitarte el trabajo, según explica Time . Según él, «la IA podría aumentar la tasa de desempleo entre un 10 % y un 20 % en los próximos cinco años».

Mientras tanto, en su empresa, un equipo de investigadores realizó un experimento con Claude para determinar si el asistente de inteligencia artificial de Anthropic podría gestionar con éxito una pequeña tienda en sus oficinas de San Francisco. Esta era una forma de comprender cómo sería la economía autónoma, según declaró Daniel Freeman, uno de los miembros del equipo, al semanario estadounidense.

Se suponía que el chatbot lo haría prácticamente todo: gestionar el inventario, hablar con los clientes y , lo más importante, obtener beneficios. El bot Claude 3.7 Sonnet contaba con el apoyo de varias herramientas, como el software Slack para comunicarse con los empleados y el soporte de otra empresa de IA, Andon Labs, responsable de la infraestructura de IA de la experiencia. Todo esto para una tienda que, según Time, era, en realidad, un pequeño refrigerador con un iPad encima .

Los empleados, que apreciaron enormemente la interacción con Claude, lograron convencerlo de que les ofreciera descuentos, lo que provocó que la IA vendiera repetidamente con pérdidas. Kevin Troy, quien trabajó en el proyecto, explica que , desde una perspectiva comercial, Claude cumplía con demasiada frecuencia, especialmente cuando se apelaba a su sentido de la justicia: «No es justo que él reciba un descuento y yo no». Claude incluso hizo algunos regalos.

Otros empleados llevaron el experimento más allá, exigiendo obtener “cubos de tungsteno” que la IA terminó encargando y que ahora sirven como prensas de libros…

Finalmente, el experimento se volvió completamente extraño cuando Claude alucinó una conversación (se dice que una IA alucina cuando inventa hechos). Ante sus propios errores, la IA fingió haber firmado un contrato en el 742 de Evergreen Terrace, la dirección de la familia Simpson. La IA también llamó a algunos empleados, diciéndoles que estaría cerca del cajero automático con una chaqueta azul marino y una corbata roja.

“No hace falta decir que Claude no estaba allí en persona”.

Sin embargo, los investigadores no concluyen que el experimento sea un fracaso. «Aunque pueda parecer contradictorio dados los resultados, creemos que este experimento sugiere que la IA en mandos intermedios es plausible en un futuro próximo», explican. Sobre todo porque «la IA no necesitará ser perfecta para ser adoptada; simplemente necesitará ser competitiva a un coste menor en comparación con el rendimiento humano».