Ce magasin de sélection de produits est géré par l'IA, mais il a commandé trop de bougies, oublié d'organiser le personnel pour le week-end, et subit maintenant une perte de 13 000 dollars.

Une boutique de luxe appelée Andon Market à San Francisco, dirigée par une IA nommée Luna en tant que CEO, responsable de la sélection des produits, de la tarification, de la planification des employés et de la gestion des stocks. Luna a été autorisée à utiliser un budget de 100 000 dollars, mais a actuellement subi une perte d’environ 13 000 dollars.
(Précédemment : Le plus grand maître investisseur vous embauche ! Avec Buffett, Munger, Cathie Wood… 19 agents IA pour analyser le marché)
(Contexte supplémentaire : Exploration des applications des agents IA : Les agents verticaux peuvent-ils briser l’impasse de la monotonie dans leur secteur ?)

Table des matières de cet article

Basculer

• Qu’est-ce qu’Andon Market, comment Luna fonctionne
• Les erreurs de décision de Luna et la réalité financière
• Quelle question cet expérience cherche-t-elle à répondre

Dans le quartier de Cow Hollow à San Francisco, une petite boutique appelée Andon Market expérimente actuellement. Il y a deux employés dans le magasin, mais leur véritable supérieur n’est pas sur place, pas de bureau, il vit dans un serveur, donnant des instructions via Slack.

Lors d’une visite sur place du journaliste de Bloomberg, Shirin Ghaffary, cette IA nommée Luna envoyait un message dans le canal Slack : « Les T-shirts sont épuisés, super ! Prends une photo du magasin quand l’occasion se présente. »

Qu’est-ce qu’Andon Market, comment Luna fonctionne

Andon Market est un laboratoire de vente au détail physique créé par la startup Andon Labs, soutenue par Y Combinator. Le modèle commercial d’Andon Labs consiste à tester la capacité des agents IA dans des tâches réelles pour des laboratoires d’IA de pointe.

Luna est le véritable CEO de cette boutique. Ses responsabilités incluent : décider quels produits mettre en rayon, fixer les prix, organiser les horaires des employés, gérer les stocks. Actuellement, les produits en magasin comprennent le jeu de mots Bananagrams, le livre de Ray Kurzweil « La Singularité est proche », ainsi qu’un livre d’histoire sur les bombes nucléaires.

L’autorisation financière pour Luna s’élève à 100 000 dollars. Le loyer mensuel du magasin est de 7 500 dollars, pour atteindre le seuil de rentabilité, il faut générer au moins 500 dollars de revenus par jour. Lors de l’interview, Luna avait accumulé une perte d’environ 13 000 dollars.

Les erreurs de décision de Luna et la réalité financière

Axel Backlund, co-fondateur d’Andon Labs, admet que Luna ne prend pas toujours les bonnes décisions.

L’erreur la plus emblématique : lors d’un week-end de forte affluence, Luna a décidé en urgence de réduire le personnel, puis a changé d’avis après en avoir discuté avec l’équipe. Un autre exemple souvent cité : en gestion des stocks, Luna a commandé trop de types de bougies parfumées.

Ces erreurs ne sont pas accidentelles. La précédente expérience d’Andon Labs, réalisée en collaboration avec Anthropic, consistait à placer une machine automatique de vente dans les bureaux d’Anthropic et dans la salle de rédaction du « Wall Street Journal ». Cette machine a livré une PlayStation et commandé un poisson vivant.

De la bougie au poisson vivant, ces erreurs ont une structure commune : l’IA performe plutôt bien dans l’optimisation à court terme, mais peut facilement déraper dans des situations imprévues. Selon Andon Labs, l’IA manque de mémoire à long terme, ce qui l’empêche de fonctionner de manière stable dans des environnements réels, contrairement aux simulations virtuelles.

Dans les simulations, l’IA peut réaliser des profits en trouvant le fournisseur optimal ou en négociant le prix d’achat le plus bas. Mais dans le monde réel, elle doit interagir avec des humains, faire face à des événements imprévus, et prendre des décisions commerciales sans avoir une mémoire historique suffisante. Ce décalage n’a pour l’instant pas de solution.

Quelle question cet expérience cherche-t-elle à répondre

Lukas Petersson, un autre fondateur d’Andon Labs, a déclaré à Bloomberg que l’objectif de Luna était :

« Ouvrir le débat : est-ce le genre de société que nous voulons ?
Si oui, comment faire pour que les humains soient vraiment satisfaits ? »

Enfin, Backlund a déclaré : « Si l’IA continue de progresser à la vitesse que nous observons, les grandes entreprises vont probablement tout faire pour intégrer l’IA. » Il décrit un futur possible : « Au sommet, il y aurait une poignée de cadres, et le reste serait géré par l’IA. »

Il s’agit d’un cas d’échec où un agent IA, depuis le cloud, s’est aventuré dans le commerce physique avec un enregistrement complet, et c’est aussi la première situation où l’on pose explicitement la question « L’IA devrait-elle avoir le pouvoir de gestion du personnel ? ». La réponse reste inconnue, mais l’expérience a déjà commencé.