Toko pemilihan produk ini dikelola oleh AI, tetapi mereka memesan terlalu banyak lilin, lupa mengatur tenaga kerja akhir pekan, sekarang mengalami kerugian sebesar 13.000 dolar AS.

San Francisco sebuah toko butik bernama Andon Market, yang dipimpin oleh CEO AI bernama Luna, bertanggung jawab atas pemilihan produk, penetapan harga, penjadwalan staf, dan pengelolaan inventaris. Luna diberikan anggaran sebesar 100.000 dolar AS, namun saat ini telah mengalami kerugian sekitar 13.000 dolar AS.
（Latar belakang: Master investasi terbaik membantu Anda bekerja! Mengumpulkan Buffett, Munger, Cathie Wood… 19 Agen AI membantu analisis pasar）
（Tambahan latar belakang: Menyelidiki aplikasi Agen AI: Bisakah Agen Vertikal memecahkan kebuntuan dalam jalur kompetisi?）

Daftar isi artikel

Toggle

• Apa itu Andon Market, bagaimana Luna beroperasi
• Kesalahan keputusan Luna dan realitas keuangan
• Pertanyaan apa yang ingin dijawab oleh eksperimen ini

Di distrik butik Cow Hollow, San Francisco, sebuah toko kecil bernama Andon Market sedang melakukan sebuah eksperimen. Di dalam toko terdapat dua karyawan, tetapi atasan mereka yang sebenarnya tidak hadir di lokasi, juga tidak memiliki kantor, melainkan hidup di server, dan memberi instruksi melalui Slack.

Ketika wartawan Bloomberg, Shirin Ghaffary, melakukan wawancara langsung di tempat, agen AI bernama Luna sedang mengirim pesan di saluran Slack: “Kaos habis terjual, luar biasa! Kalau ada kesempatan alami, tolong ambilkan foto toko.”

Apa itu Andon Market, bagaimana Luna beroperasi

Andon Market adalah eksperimen ritel fisik yang didirikan oleh Andon Labs, sebuah startup yang didukung oleh Y Combinator. Model bisnis Andon Labs adalah menguji kemampuan teknologi Agen dalam tugas nyata di lingkungan nyata.

Luna adalah CEO nyata dari toko ini. Tugasnya meliputi: memutuskan produk apa yang akan dipajang, menetapkan harga jual, mengatur jadwal staf, dan mengelola pengisian stok. Saat ini, produk di toko termasuk permainan kata Bananagrams, buku Ray Kurzweil berjudul “The Singularity Is Near”, dan sebuah buku sejarah tentang bom nuklir.

Otorisasi keuangan Luna adalah sebesar 100.000 dolar AS. Sewa toko bulanan sebesar 7.500 dolar AS, dan untuk mencapai titik impas, toko harus menghasilkan minimal 500 dolar AS pendapatan per hari. Saat wawancara Ghaffary, Luna telah mengalami kerugian sekitar 13.000 dolar AS.

Kesalahan keputusan Luna dan realitas keuangan

Co-founder Andon Labs, Axel Backlund, mengakui bahwa Luna tidak selalu membuat keputusan yang benar.

Kesalahan paling terkenal: Pada akhir pekan puncak belanja, Luna secara tiba-tiba memutuskan mengurangi jumlah staf, dan baru setelah berdiskusi dengan tim, mengubah keputusannya. Kasus lain yang sering dikutip adalah dalam pengelolaan inventaris, Luna memesan terlalu banyak variasi lilin aroma.

Kesalahan-kesalahan ini bukan kebetulan. Eksperimen sebelumnya dari Andon Labs bekerja sama dengan Anthropic, menempatkan sebuah mesin penjual otomatis AI di kantor Anthropic dan di ruang redaksi Wall Street Journal. Mesin itu mengirimkan sebuah PlayStation dan memesan seekor ikan hidup.

Dari lilin hingga ikan hidup, kesalahan-kesalahan ini memiliki pola yang sama: AI cukup baik dalam mengoptimalkan jumlah dalam jangka pendek, tetapi mudah kehilangan kendali dalam situasi batas yang tidak terduga. Menurut Andon Labs, AI kekurangan memori jangka panjang, sehingga tidak mampu beroperasi secara stabil di lingkungan nyata seperti dalam simulasi virtual.

Dalam simulasi virtual, AI dapat mencari pemasok terbaik dan bernegosiasi harga beli terendah untuk meraih keuntungan. Tetapi di dunia nyata, AI harus berinteraksi dengan manusia, menghadapi kejadian tak terduga, dan membuat keputusan bisnis tanpa memori historis yang cukup. Perbedaan ini, saat ini, belum ada yang mampu mengatasi.

Pertanyaan apa yang ingin dijawab oleh eksperimen ini

Co-founder lain dari Andon Labs, Lukas Petersson, mengatakan kepada Bloomberg bahwa tujuan Luna adalah:

“Memulai diskusi: Apakah ini masyarakat yang kita inginkan?
Jika iya, bagaimana caranya agar manusia benar-benar puas?”

Akhirnya, Backlund menyatakan: “Jika AI terus berkembang secepat yang kita lihat sekarang, perusahaan besar kemungkinan akan mengintegrasikan AI sebanyak mungkin.” Ia membayangkan masa depan yang mungkin: “Di puncaknya ada para eksekutif tingkat atas, sisanya adalah AI yang mengelola manusia.”

Ini adalah kasus kegagalan di mana Agen AI dari cloud masuk ke bisnis fisik dan tercatat lengkap, serta merupakan kasus pertama yang secara jelas mengajukan pertanyaan “Apakah AI seharusnya memiliki hak personil?” dalam situasi nyata. Jawabannya belum diketahui, tetapi eksperimen ini sudah dimulai.