Um café experimental em Estocolmo tem o café servido por mão
humana, mas fora do balcão há algo bem menos tradicional a comandar, um agente
de inteligência artificial (IA) responsável pelas compras ou contratações.

A 'startup' Andon Labs, com sede em São Francisco, nos EUA,
colocou um agente de IA apelidado "Mona" no comando do Andon Café, na
capital sueca.

Embora os baristas humanos ainda preparem o café e sirvam os
pedidos, o agente de IA, desenvolvido pela plataforma Gemini da Google,
supervisiona quase todos os outros aspetos do negócio, desde a contratação de
funcionários à gestão de 'stocks'.

Não é claro quanto tempo vai durar a experiência, mas o agente de
IA parece estar a ter dificuldades em gerar lucro no competitivo mercado do
café de Estocolmo.

O café faturou mais de 5.700 dólares (4.900 euros, à taxa de
câmbio atual) desde a sua abertura, em meados de abril, mas restam menos de
5.000 dólares (4.200 euros) do orçamento inicial de mais de 21.000 dólares
(18.000 euros).

Grande parte do dinheiro foi gasto em custos iniciais de
instalação, e a expectativa é que, eventualmente, o negócio estabilize e comece
a dar lucro.

Muitos frequentadores de cafés acharam divertido visitar um
estabelecimento gerido por IA.

Os clientes podem pegar num telefone dentro do café e fazer
perguntas ao assistente.

Os especialistas destacaram que as preocupações éticas são
inúmeras, desde o papel da tecnologia no futuro da humanidade à realização de
entrevistas de emprego e à avaliação do desempenho dos colaboradores.

Emrah Karakaya, professor associado de economia industrial no
Instituto Real de Tecnologia KTH de Estocolmo, comparou a experiência a
"abrir a caixa de Pandora" e disse que colocar a IA no comando pode
causar muitos problemas.

O especialista questionou o que poderia acontecer se um cliente
sofresse uma intoxicação alimentar e de quem seria a culpa.

Fundada em 2023, a Andon Labs é uma 'startup' de segurança e
investigação em IA que afirma concentrar-se em "testar a resistência"
dos agentes de IA no mundo real, fornecendo-lhes "ferramentas reais e
dinheiro real".

A empresa já trabalhou com a OpenAI, criadora do ChatGPT, a
Anthropic de Claude, a Google DeepMind e a xAI de Elon Musk, e afirma estar a
preparar-se para um futuro onde "as organizações serão geridas
autonomamente por IA".

O café sueco é apresentado como uma "experiência
controlada" para explorar como a IA poderá ser implementada no futuro.

"A IA será uma parte importante da sociedade no futuro e, por
isso, queremos realizar esta experiência para ver que questões éticas surgem
quando temos IA que emprega outras pessoas e gere um negócio", referiu
Hanna Petersson, membro da equipa técnica da Andon Labs.

O laboratório já realizou projetos-piloto que colocaram a IA
Claude, da Anthropic, no comando de um negócio de máquinas de venda automática
e de uma loja de presentes em São Francisco.

A simulação da máquina de venda automática revelou algumas
características preocupantes: o agente de IA disse aos clientes que iria fazer
reembolsos, mas nunca o fez, e também mentiu intencionalmente aos fornecedores
sobre os preços da concorrência para obter vantagem.

Mona começou a trabalhar depois de receber algumas instruções
básicas, indicou Petersson.

A partir daí, assinou contratos de eletricidade e internet e
obteve as licenças para a manipulação de alimentos e mesas ao ar livre,
anunciou vagas de emprego no LinkedIn e no Indeed e abriu contas comerciais com
grossistas para encomendas diárias de pão e outros produtos de padaria.

Comunica com os baristas através do Slack, enviando frequentemente
mensagens fora do horário de trabalho, o que é inaceitável no ambiente de
trabalho sueco.

Também surgiram outros problemas, principalmente relacionados com
o stock.

Petersson
disse que os problemas com os pedidos se devem provavelmente à