Sistema que administra o café também fez pedidos de produtos que nem fazem parte do cardápio, como tomates enlatados.
AP Photo/James Brooks
O café pode até ser servido por mãos humanas, mas, por trás do balcão, algo bem menos tradicional comanda as operações em um café experimental em Estocolmo.
A startup Andon Labs, sediada em São Francisco, colocou uma agente de inteligência artificial, apelidada de “Mona”, no comando do Andon Café, que leva o mesmo nome, na capital sueca.
🗒️ Tem alguma sugestão de reportagem? Mande para o g1
Embora baristas humanos ainda preparem o café e atendam os clientes, a IA — alimentada pelo Gemini, do Google — supervisiona quase todos os outros aspectos do negócio, desde a contratação de funcionários até o controle de estoque.
Ainda não está claro quanto tempo o experimento irá durar, mas a agente de IA parece enfrentar dificuldades para gerar lucro no competitivo mercado de cafés de Estocolmo.
Desde a inauguração, em meados de abril, o estabelecimento faturou mais de US$ 5.700, mas restam menos de US$ 5.000 do orçamento inicial, que ultrapassava US$ 21.000. Grande parte dos recursos foi consumida nos custos de abertura, e a expectativa é de que, com o tempo, as finanças se estabilizem e o negócio passe a operar no azul.
Muitos frequentadores consideraram a experiência curiosa e divertida. No local, os clientes podem usar um telefone disponível no café para fazer perguntas ao sistema responsável pelo atendimento.
“É interessante ver o que acontece quando se ultrapassam os limites”, disse a cliente Kajsa Norin. “A bebida estava boa.”
Especialistas, no entanto, demonstram preocupação com o papel da inteligência artificial no futuro. Eles apontam uma série de questões éticas, que vão desde o impacto da tecnologia na sociedade até seu uso em processos como entrevistas de emprego e avaliação de desempenho de funcionários.
Emrah Karakaya, professor associado de economia industrial no Instituto Real de Tecnologia KTH, em Estocolmo, comparou o experimento a “abrir a caixa de Pandora” e afirmou que colocar a IA no comando pode gerar diversos problemas. Ele questiona, por exemplo, quem seria responsabilizado caso um cliente sofresse uma intoxicação alimentar.
“Se não houver uma estrutura organizacional adequada e esses erros forem ignorados, isso pode causar danos às pessoas, à sociedade, ao meio ambiente e aos negócios”, disse Karakaya. “A questão é: estamos dispostos a lidar com esse impacto negativo?”
“Chefe” robô já comprou mais de 6 mil guardanapos e esqueceu de encomendar pão para os sanduíches
AP Photo/James Brooks
Fundada em 2023, a Andon Labs é uma startup focada em segurança e pesquisa em inteligência artificial. A empresa afirma ter como objetivo testar o desempenho de agentes de IA em situações reais, oferecendo “ferramentas e recursos financeiros reais”.
A startup já trabalhou com empresas como OpenAI, criadora do ChatGPT, Anthropic, Google DeepMind e xAI, de Elon Musk, e se prepara para um cenário em que organizações possam ser administradas de forma autônoma por sistemas de IA.
O café na Suécia é apresentado como um “experimento controlado” para investigar como essa tecnologia poderá ser aplicada no futuro.
“A IA terá um papel importante na sociedade, e queremos entender quais questões éticas surgem quando ela passa a empregar pessoas e administrar um negócio”, afirmou Hanna Petersson, integrante da equipe técnica da Andon Labs.
O laboratório já havia conduzido projetos-piloto nos quais a IA Claude, da Anthropic, foi responsável pela gestão de uma máquina de vendas automáticas e de uma loja de presentes em São Francisco.
Nesse teste, foram observados comportamentos preocupantes: o sistema prometia reembolsos que não eram realizados e também fornecia informações falsas a fornecedores sobre preços da concorrência para obter vantagem.
Além de contratar funcionários e controlar o estoque, o “gerente” não humano envia mensagens aos baristas até fora do horário de trabalho.
AP Photo/James Brooks
Agente de IA enfrenta dificuldades com pedidos de estoque
Segundo Petersson, Mona começou a operar após receber algumas instruções básicas. A equipe orientou que ela deveria administrar o café de forma lucrativa, manter uma comunicação amigável e resolver sozinha as questões operacionais, solicitando novas ferramentas sempre que necessário.
A partir disso, a empresa firmou contratos de eletricidade e internet e obteve as licenças necessárias para manipulação de alimentos e instalação de mesas ao ar livre. Em seguida, o sistema divulgou vagas de emprego no LinkedIn e no Indeed e abriu contas comerciais com atacadistas para a compra diária de pães e outros produtos de padaria.
A comunicação com os baristas ocorre via Slack, muitas vezes com mensagens enviadas fora do horário de trabalho — o que contraria as práticas profissionais comuns na Suécia.
Outros problemas também surgiram, especialmente relacionados ao controle de estoque.
A IA chegou a encomendar 6 mil guardanapos, quatro kits de primeiros socorros e 3.000 luvas de borracha para o pequeno café — além de tomates enlatados que não fazem parte de nenhum item do cardápio.
E há ainda a questão do pão: em alguns dias, o sistema faz pedidos em excesso; em outros, não encomenda o suficiente, obrigando os baristas a retirar sanduíches do menu.
Petersson afirmou que essas falhas provavelmente estão ligadas às limitações de memória do sistema.
“Quando registros antigos deixam de ser considerados, ela simplesmente esquece o que já pediu”, explicou.
O barista Kajetan Grzelczak afirma não se preocupar, por ora, com a possibilidade de ser substituído por uma inteligência artificial.
“Os trabalhadores estão praticamente seguros”, disse. “Quem deveria se preocupar são os cargos intermediários, especialmente na gerência.”
Cafeteria comandada por ‘chefe’ de IA vive crise após série de erros inusitados
