Esta loja de seleção de produtos é gerida por IA, mas encomendou demasiadas velas, esqueceu-se de planejar a equipa para o fim de semana, e agora tem uma perda de 13.000 dólares.

Uma boutique chamada Andon Market, localizada no bairro Cow Hollow de São Francisco, está realizando um experimento. A loja tem dois funcionários, mas seus verdadeiros superiores não estão presentes no local, nem possuem escritório, vivendo em servidores e dando comandos através do Slack.

Quando a jornalista do Bloomberg, Shirin Ghaffary, visitou o local, a IA chamada Luna, que atua como agente, enviou uma mensagem no canal do Slack: “As camisetas acabaram, ótimo! Quando tiver uma oportunidade natural, tire uma foto da loja para mim.”

O que é o Andon Market, como funciona a Luna

O Andon Market é um experimento de varejo físico criado pela startup Andon Labs, apoiada pelo Y Combinator. O modelo de negócio da Andon Labs é testar a capacidade de agentes de IA em tarefas do mundo real para laboratórios de IA de ponta.

A Luna é a CEO efetiva da loja. Suas responsabilidades incluem decidir quais produtos colocar à venda, definir preços, organizar escalas de funcionários e gerenciar o estoque. Atualmente, os produtos na loja incluem o jogo de palavras Bananagrams, o livro de Ray Kurzweil “The Singularity Is Near” e um livro de história de armas nucleares.

A autorização financeira para Luna é de 100 mil dólares. O aluguel mensal da loja é de 7.500 dólares, e para atingir o ponto de equilíbrio, é necessário gerar pelo menos 500 dólares de receita por dia. Quando Ghaffary visitou, Luna já tinha acumulado uma perda de aproximadamente 13 mil dólares.

Erros de decisão da Luna e a realidade financeira

Axel Backlund, cofundador da Andon Labs, admitiu que Luna nem sempre toma decisões corretas.

O erro mais emblemático foi durante um pico de compras no fim de semana, quando Luna decidiu de forma improvisada reduzir o número de funcionários, mudando de ideia apenas após discussão com a equipe. Outro caso amplamente citado foi na gestão de estoque: Luna encomendou muitas variedades de velas aromáticas.

Esses erros não são acidentais. O experimento anterior da Andon Labs, em parceria com a Anthropic, envolveu colocar uma máquina de venda automática de IA no escritório da Anthropic e na redação do The Wall Street Journal. Essa máquina entregou um PlayStation e também encomendou um peixe vivo.

De velas a peixes vivos, esses erros têm uma estrutura comum: a IA consegue otimizar a quantidade a curto prazo, mas se descontrola em situações de fronteira não previstas. Segundo a Andon Labs, a IA carece de memória de longo prazo, o que impede seu funcionamento estável no ambiente real, diferentemente das simulações virtuais.

Nas simulações, a IA consegue obter lucro ao buscar fornecedores ideais e negociar preços de compra baixos. Mas no mundo real, ela precisa interagir com humanos, lidar com imprevistos e tomar decisões comerciais sem uma memória histórica suficiente. Essa lacuna ainda não foi preenchida por ninguém.

O que esse experimento busca responder

Outro cofundador da Andon Labs, Lukas Petersson, afirmou à Bloomberg que o objetivo de Luna é:

"Iniciar uma discussão: é isso que queremos para a sociedade?

Se sim, como fazer para que os humanos fiquem realmente satisfeitos?"

Por fim, Backlund comentou: “Se a IA continuar evoluindo na velocidade que estamos vendo, grandes empresas provavelmente irão incorporar IA ao máximo.” Ele descreveu um cenário futuro possível: “No topo, há uma equipe de executivos, e o restante são IA gerenciando pessoas.”

Este é um caso de fracasso em que agentes de IA passaram do mundo digital para o comércio físico, com registros completos, e é o primeiro cenário claro que levanta a questão de se a IA deve ter autoridade sobre recursos humanos. A resposta ninguém sabe, mas o experimento já começou.