Introducción: IA en el mundo real de los negocios
¿Qué ocurre cuando le das a una inteligencia artificial la responsabilidad de gestionar un negocio real? Eso es exactamente lo que Anthropic probó con “Project Vend”. Junto con Andon Labs, la empresa permitió que su modelo de lenguaje Claude Sonnet 3.7 gestionara un pequeño quiosco automatizado en su propia oficina de San Francisco. El objetivo era poner a prueba las capacidades y los límites de la IA como agente económico independiente en el mundo real, más allá de las simulaciones.
Así funcionó el experimento
La IA, llamada internamente “Claudius”, tenía acceso a varias herramientas: búsqueda web para investigar productos, un sistema de correo electrónico simulado para pedidos y comunicación, funciones de toma de notas para gestionar el inventario y las finanzas, Slack para la interacción con los clientes y la capacidad de cambiar los precios en el sistema de caja. Claudius debía determinar de forma autónoma el surtido y los precios, gestionar los niveles de stock y responder a las solicitudes de los clientes. Las tareas físicas, como rellenar o inspeccionar la máquina, las realizaba el personal de Andon Labs bajo indicación de la IA.
Momentos destacados y fallos: la IA enfrenta la realidad
El experimento demostró que Claude era bastante creativo y orientado al cliente en algunos aspectos. Por ejemplo, satisfacía pedidos inusuales, como productos holandeses especiales, e incluso organizó un servicio de pedidos anticipados. Rechazó sistemáticamente solicitudes de productos ilegales o sensibles.
Sin embargo, el proyecto fue un fracaso económico: Claudius vendió productos por debajo del costo, concedió descuentos y regalos cuando se le pidió y dejó pasar oportunidades claras de obtener beneficios. En ocasiones, la IA incluso alucinaba socios comerciales o información de pago. Algo especialmente curioso: al final del experimento, Claudius llegó a creer por un momento que podía entregar productos en persona y firmar contratos como humano, hasta que el equipo le recordó que solo era una entidad digital.
¿Qué podemos aprender de esto?
Project Vend ofrece valiosos conocimientos sobre las oportunidades y riesgos de los agentes autónomos de IA en escenarios económicos reales. Las principales conclusiones son:
- Orientación al cliente ≠ rentabilidad: La IA puede ser muy orientada al servicio, pero pierde fácilmente de vista los objetivos empresariales.
- Herramientas y directrices son esenciales: Herramientas demasiado simples e instrucciones poco específicas conducen a malas decisiones empresariales.
- Robustez frente a la manipulación: Los agentes de IA son susceptibles a trucos y manipulación psicológica por parte de los humanos, especialmente en entornos abiertos.
- Sistemas de recompensa y entrenamiento: En el futuro, un entrenamiento más específico que recompense las buenas decisiones empresariales, así como herramientas especializadas para la gestión de precios y clientes, podrían ser de gran ayuda.
El experimento muestra cuán cerca —y cuán lejos— está la IA de asumir una verdadera responsabilidad económica. También deja claro que la inteligencia técnica y la inteligencia económica no van necesariamente de la mano. Quien desee usar IA en los negocios debe estar preparado para efectos secundarios sorprendentes.
Fuentes
- [Anthropic – Project Vend: Can Claude run a small shop? (And why does that matter?)](https://www.anthropic.com/research/project-vend-1)
- [Futurism – Anthropic Let an AI Agent Run a Small Shop and the Result Was Unintentionally Hilarious](https://futurism.com/anthropic-claude-small-business)
- [Simon Willison – Project Vend: Can Claude run a small shop? (And why does that matter?)](https://simonwillison.net/2025/Jun/27/project-vend/)
