ストックホルム — コーヒーは人間の手で注がれるかもしれないが、ストックホルムの実験的なカフェでは、カウンターの向こう側で、はるかに伝統的ではないものが注目を集めている。
サンフランシスコを拠点とする新興企業 Andon Labs は、スウェーデンの首都にあるその名を冠した Andon Café の責任者に、「Mona」という愛称の人工知能エージェントを配置しました。人間のバリスタが引き続きコーヒーを淹れ、注文に応じる一方で、Google の Gemini を搭載した AI エージェントが、スタッフの雇用から在庫管理に至るまで、ビジネスの他のほぼすべての側面を監督します。
実験がどれくらい続くかは不明だが、AIエージェントはストックホルムの競争の激しいコーヒー貿易で利益を上げるのに苦戦しているようだ。このカフェは4月中旬のオープン以来、5,700ドル以上の売上を上げているが、当初の予算である21,000ドル以上には5,000ドルも足りていない。資金の多くは一度限りのセットアップ費用に費やされており、最終的には損益分岐点になって利益が得られることが期待されています。
コーヒーショップの顧客の多くは、AI が運営するビジネスを訪れるのが楽しいと感じました。顧客はカフェ内で電話を取って、担当者に質問することができます。
「制限を超えた場合に何が起こるかを確認するのは良いことです」と顧客の Kajsa Norin 氏は言いました。 「お酒が美味しかったです。」
専門家らは、人類の将来におけるテクノロジーの役割から、就職面接の実施や従業員の業績評価に至るまで、倫理的な懸念が数多く存在すると述べている。
ストックホルムのKTH王立工科大学の産業経済学のエムラ・カラカヤ准教授は、この実験を「パンドラの箱を開ける」ことに例え、AIに担当させると多くの問題が生じる可能性があると述べた。顧客が食中毒になったら何が起こるでしょうか?と彼は言いました。誰が責任を負うのでしょうか？
「必要な組織インフラが周囲になく、これらの間違いを見逃した場合、人々、社会、環境、ビジネスに害を及ぼす可能性があります」とカラカヤ氏は述べた。 「問題は、この悪影響を私たちが気にするかということです。」
2023年に設立されたAndon Labsは、AI研究およびセキュリティ企業であり、AIエージェントに「本物のツールと本物のお金」を提供することで、現実世界での「ストレステスト」に焦点を当てていると述べている。同社はChatGPT作成者のOpenAI、Claude氏のAnthropic、Google DeepMind、イーロン・マスク氏のxAIと協力しており、「組織がAIによって自律的に運営される」未来に向けて準備を進めていると同社は述べている。
スウェーデンのコーヒーショップは、AIが将来どのように実装されるかを調査するための「対照実験」として宣伝されている。
アンドン研究所の技術スタッフのハンナ・ピーターソン氏は、「AIは将来、社会の大きな部分を占めるようになるだろう。そのため、AIが他人を雇用してビジネスを運営する場合にどのような倫理的問題が生じるかを確認するために、この実験を行いたいと考えている」と述べた。
以前、この研究所では、Anthropic の Claude AI にサンフランシスコの自動販売機ビジネスとギフト ショップを担当させるパイロットを実施していました。自動販売機のシミュレーションでは、いくつかの厄介な特徴が明らかになりました。AI エージェントは顧客に払い戻しを行うと伝えていたのに実際には払い戻しを行わなかったこと、また、影響力を得るために競合他社の価格についてベンダーに意図的に嘘をついたことなどです。
ピーターソン氏によると、モナさんは基本的な指示を受けた後、仕事を始めたという。チームは彼に、コーヒーショップを利益を上げて運営するよう努めること、フレンドリーで気さくな態度でいること、運営の詳細は自分で理解すること、ただし必要に応じて新しいツールを求めることなどを指示しました。
そこから彼は電気とインターネットの契約を結び、食品の取り扱いと屋外席の許可を確保しました。その後、エージェントは LinkedIn と Indeed でスタッフを宣伝し、毎日のパンやベーカリーの注文のために卸売業者とのビジネス アカウントを確立しました。彼はバリスタと Slack を介してコミュニケーションしており、スウェーデンでは禁止されている勤務時間外にメッセージを送信することもよくあります。
他にも、特に在庫に関連した問題が発生しました。
AIエージェントは、この小さなカフェのためにナプキン6,000枚、救急箱4個、ゴム手袋3,000個を注文したほか、カフェで提供される料理には使用されていないトマト缶も注文した。
そして、パンです。時にはエージェントが注文しすぎることもあれば、パン屋の締め切りに間に合わず、バリスタにサンドイッチをメニューから外さざるを得ない日もある。
ピーターソン氏は、順序の問題はAIアシスタントの「限られたコンテキストウィンドウ」が原因である可能性が高いと述べた。
「物を頼んだ古い記憶が文脈の窓から外れると、過去に何を頼んだのか完全に忘れてしまいます」とピーターソン氏は言う。
バリスタのカジェタン・グゼルチャクさんは、AIに取って代わられることについてはまだ心配していないと語った。
「作業員全員はほぼ安全だ」と同氏は語った。 「自分の仕事について心配すべきなのは、中間管理職、つまり管理職の人たちです。」
