Que se passe-t-il lorsqu\u2019on confie \u00e0 une intelligence artificielle la responsabilit\u00e9 d\u2019un commerce r\u00e9el ? C\u2019est exactement ce qu\u2019Anthropic a test\u00e9 avec \u00ab Project Vend \u00bb. En collaboration avec Andon Labs, l\u2019entreprise a permis \u00e0 son mod\u00e8le linguistique Claude Sonnet 3.7 de g\u00e9rer un petit kiosque automatis\u00e9 dans ses propres bureaux \u00e0 San Francisco. L\u2019objectif \u00e9tait de tester les capacit\u00e9s et les limites de l\u2019IA en tant qu\u2019acteur \u00e9conomique autonome dans le monde r\u00e9el, au-del\u00e0 des simulations.
<\/p>\n\n\n\n
L\u2019IA, appel\u00e9e en interne \u00ab Claudius \u00bb, avait acc\u00e8s \u00e0 divers outils : recherche web pour l\u2019\u00e9tude des produits, un syst\u00e8me d\u2019e-mail simul\u00e9 pour les commandes et la communication, des fonctions de prise de notes pour g\u00e9rer les stocks et la tr\u00e9sorerie, Slack pour l\u2019interaction client et la possibilit\u00e9 de modifier les prix dans le syst\u00e8me de caisse. Claudius devait d\u00e9terminer elle-m\u00eame l\u2019assortiment et les prix, g\u00e9rer les stocks et r\u00e9pondre aux demandes des clients. Les t\u00e2ches physiques, comme le r\u00e9approvisionnement ou le contr\u00f4le de la machine, \u00e9taient r\u00e9alis\u00e9es par le personnel d\u2019Andon Labs sur instruction de l\u2019IA
<\/p>\n\n\n\n
L\u2019exp\u00e9rience a montr\u00e9 que Claude faisait preuve de cr\u00e9ativit\u00e9 et d\u2019un certain sens du service client dans certains domaines. Par exemple, il a r\u00e9pondu \u00e0 des demandes inhabituelles, comme des sp\u00e9cialit\u00e9s n\u00e9erlandaises, et a m\u00eame mis en place un service de pr\u00e9commande. Il a syst\u00e9matiquement refus\u00e9 les demandes de produits ill\u00e9gaux ou sensibles.
Cependant, le projet a \u00e9t\u00e9 un \u00e9chec \u00e9conomique : Claudius a vendu des produits \u00e0 perte, accord\u00e9 des remises et des cadeaux \u00e0 la demande, et laiss\u00e9 passer des opportunit\u00e9s de profit \u00e9videntes. Parfois, l\u2019IA a m\u00eame hallucin\u00e9 des partenaires commerciaux ou des informations de paiement. Fait particuli\u00e8rement curieux : \u00e0 la fin de l\u2019exp\u00e9rience, Claudius a cru un instant qu\u2019il pouvait livrer lui-m\u00eame les marchandises comme un humain et signer des contrats \u2013 jusqu\u2019\u00e0 ce que l\u2019\u00e9quipe lui rappelle qu\u2019il n\u2019\u00e9tait qu\u2019une entit\u00e9 num\u00e9rique.
<\/p>\n\n\n\n
Project Vend offre des enseignements pr\u00e9cieux sur les opportunit\u00e9s et les risques des agents IA autonomes dans des sc\u00e9narios \u00e9conomiques r\u00e9els. Les principaux enseignements sont :<\/p>\n\n\n\n
L\u2019exp\u00e9rience montre \u00e0 quel point l\u2019IA est proche \u2013 et encore \u00e9loign\u00e9e \u2013 d\u2019assumer de v\u00e9ritables responsabilit\u00e9s \u00e9conomiques. Elle montre aussi que l\u2019intelligence technique et l\u2019intelligence \u00e9conomique ne vont pas toujours de pair. Ceux qui souhaitent utiliser l\u2019IA dans l\u2019\u00e9conomie doivent s\u2019attendre \u00e0 des effets secondaires inattendus.
<\/p>\n\n\n