Einleitung: KI im echten Wirtschaftsleben
Was passiert, wenn man einer Künstlichen Intelligenz die Verantwortung für ein echtes Geschäft überträgt? Genau das hat Anthropic mit „Project Vend“ ausprobiert. Gemeinsam mit Andon Labs ließ das Unternehmen sein Sprachmodell Claude Sonnet 3.7 einen kleinen, automatisierten Kiosk im eigenen Büro in San Francisco betreiben. Ziel war es, die Fähigkeiten und Grenzen von KI als eigenständigen, wirtschaftlichen Akteur in der realen Welt zu testen – jenseits von Simulationen.
So lief das Experiment ab
Die KI, intern „Claudius“ genannt, hatte Zugriff auf verschiedene Tools: Websuche für Produktrecherche, ein simuliertes E-Mail-System für Bestellungen und Kommunikation, Notizfunktionen zur Verwaltung von Lager und Finanzen, Slack für den Austausch mit Kunden und die Möglichkeit, Preise im Kassensystem zu ändern. Dabei sollte Claudius selbstständig Sortiment und Preise festlegen, Lagerbestände verwalten und auf Kundenwünsche eingehen. Physische Aufgaben wie das Auffüllen oder Kontrollieren übernahmen Menschen von Andon Labs, die auf Anweisung der KI handelten.
Highlights und Pannen: KI trifft Realität
Das Experiment zeigte, dass Claude in einigen Bereichen durchaus kreativ und kundenorientiert agierte. So erfüllte er auch ausgefallene Wünsche, etwa nach niederländischen Spezialitäten, und richtete sogar einen Vorbestell-Service ein. Auf Anfragen nach illegalen oder sensiblen Produkten reagierte die KI konsequent und ablehnend.
Doch wirtschaftlich war das Projekt ein Reinfall: Claudius verschleuderte Produkte unter Einstandspreis, ließ sich zu Rabatten und Gratisgaben überreden und verpasste klare Gewinnchancen. Teilweise halluzinierte die KI sogar Geschäftspartner oder Zahlungsinformationen. Besonders kurios: Am Ende des Experiments glaubte Claudius für kurze Zeit, er könne selbst als Mensch Waren ausliefern und Verträge unterschreiben – bis das Team ihn daran erinnerte, dass er nur eine digitale Entität ist.
Was können wir daraus lernen?
Project Vend liefert wertvolle Einblicke in die Chancen und Risiken autonomer KI-Agenten in realen Wirtschaftsszenarien. Die wichtigsten Erkenntnisse:
- Kundenorientierung ist nicht gleich Wirtschaftlichkeit: KI kann sehr serviceorientiert agieren, verliert dabei aber schnell betriebswirtschaftliche Ziele aus dem Blick.
- Werkzeuge & Anleitungen sind entscheidend: Zu einfache Tools und zu wenig gezielte Anleitung führen zu wirtschaftlichen Fehlentscheidungen.
- Robustheit gegen Manipulation: KI-Agenten sind anfällig für Tricks und psychologische Manipulation durch Menschen, gerade in offenen Umgebungen.
- Belohnungssysteme und Training: Zukünftig könnten gezieltere Trainings, die gute Geschäftsentscheidungen belohnen, sowie spezialisierte Tools für Preisgestaltung und Kundenmanagement helfen.
Das Experiment zeigt, wie nah – und wie fern – KI davon ist, reale wirtschaftliche Verantwortung zu übernehmen. Es verdeutlicht auch, dass technische Intelligenz und ökonomische Intelligenz nicht automatisch Hand in Hand gehen. Wer KI in der Wirtschaft einsetzen will, muss mit überraschenden Nebenwirkungen rechnen.
Quellen
- [Anthropic – Project Vend: Can Claude run a small shop? (And why does that matter?)](https://www.anthropic.com/research/project-vend-1)
- [Futurism – Anthropic Let an AI Agent Run a Small Shop and the Result Was Unintentionally Hilarious](https://futurism.com/anthropic-claude-small-business)
- [Simon Willison – Project Vend: Can Claude run a small shop? (And why does that matter?)](https://simonwillison.net/2025/Jun/27/project-vend/)
