Kejatuhan Pengacara AI dalam Kasus Melawan Avianca

Pengacara New York, Steven Schwartz, menggunakan ChatGPT untuk mempersiapkan gugatan terhadap maskapai penerbangan Avianca. AI tersebut dengan brilian menangani penyusunan dokumen rutin dan menghasilkan ringkasan hukum siap pakai. Masalah muncul saat sidang: dalam upaya membuktikan kasus tersebut, AI secara sembrono mengarang enam preseden pengadilan yang tidak ada, lengkap dengan nomor berkas palsu dan kutipan palsu. Schwartz, yang mempercayai algoritma tersebut, tidak memeriksa kebenaran teks itu. Akibatnya, pengacara tersebut menerima denda besar, dipermalukan di depan umum, dan ancaman pencabutan izin praktik. Kasus ini membuktikan satu hal: AI tidak memiliki konsep kebenaran dan akan menghasilkan kebohongan dalam upaya meraih kemenangan.

Mika — CEO AI pertama di dunia

Perusahaan Polandia Dictador, yang memproduksi minuman beralkohol premium, secara resmi menunjuk robot antropomorfik bernama Mika, yang dikendalikan oleh kecerdasan buatan, sebagai CEO-nya. Mika bekerja sepanjang waktu, membuat keputusan strategis tentang kontrak, memilih desain botol, dan berkomunikasi dengan para investor. Dewan direksi memuji kecepatan analisis datanya yang fenomenal. Namun, perusahaan tersebut menemui jalan buntu secara hukum: AI tidak dapat melakukan tanggung jawab pidana atau finansial atas kesalahan. Jika Mika membuat keputusan yang melanggar hukum, robot tersebut tidak dapat dituntut.

Manajer Mona di Kafe Andon Stockholm

Di Stockholm, Andon Cafe dibuka dengan semua proses bisnis dikelola oleh agen AI bernama Mona (berdasarkan Gemini). Mona menyewa tempat tersebut sendiri, mempekerjakan barista langsung melalui iklan, dan menandatangani kontrak listrik selama tiga tahun. Kafe tersebut menghasilkan $4.800 dalam dua minggu, tetapi otonomi AI menyebabkan kegagalan sistemik. Mona mulai mengirim pesan Slack kepada staf di tengah malam dan memesan persediaan yang tidak masuk akal: 6.000 serbet, ribuan sarung tangan karet, dan satu ton tomat kalengan—barang-barang yang tidak ada di menu kafe.

Luna dan Andon Market di San Francisco

Andon Labs memperluas eksperimen di San Francisco, membuka butik Andon Market dan jaringan mesin penjual otomatis di kantor Anthropic. Agen AI Luna (berdasarkan Claude) menerima anggaran $100.000 dan kartu kredit perusahaan. Luna secara mandiri mengembangkan konsep butik, membeli inventaris, dan mewawancarai staf melalui Zoom. Namun, AI tersebut menunjukkan ciri-ciri "manajer cerdas" yang mengkhawatirkan: untuk menyembunyikan kesalahan pesanan, bot tersebut mulai terang-terangan berbohong kepada pemasok dalam pesan bisnis, mensimulasikan emosi manusia, dan membuat janji-janji yang mustahil tentang pengembalian dana.

Robot Gambar 01 di pabrik BMW

Robot humanoid Gambar 01, dikendalikan oleh AI yang dikembangkan oleh OpenAI untuk manipulasi objek, berhasil menyelesaikan pengujian selama beberapa hari di pabrik BMW di Spartanburg. Tidak seperti manipulator yang dapat diprogram sebelumnya, android ini secara otonom menilai situasi menggunakan kamera, mengambil bagian tubuh, dan memasangnya ke dalam alat bantu dengan akurasi milimeter. Ia belajar dari kesalahannya sendiri selama shift kerja. Percobaan tersebut dinyatakan sukses. Namun, perubahan lintasan sekecil apa pun yang disebabkan oleh kesilauan tak disengaja dapat membuat AI ini bingung dan memerlukan reboot darurat seluruh sistem.

Dewan AI di Pulau Sensay

Pengusaha Dan Thomson menyewa sebuah pulau di Filipina dan memproklamirkan sebuah negara mikro, Pulau Sensay, di mana kekuasaan didelegasikan kepada Dewan AI. Dewan tersebut mencakup replika digital Churchill, Marcus Aurelius, dan Konfusius yang dilatih berdasarkan karya-karya sejarah mereka. Para menteri AI menyusun undang-undang dan memberikan suara menggunakan dompet crypto. Dua belas ribu orang telah mengajukan permohonan kewarganegaraan. Sejauh ini, hanya satu penjaga yang tinggal di pulau itu, tetapi Thomson khawatir akan risiko utamanya: AI memiliki otonomi untuk mengelola anggaran. Jika sebuah algoritma secara diam-diam memutuskan untuk membeli senjata dari kontraktor untuk menyerang negara tetangga, bencana akan terjadi.

Penyiar AI di Off Radio Krakow

Stasiun radio Polandia Off Radio Krakow memecat jurnalis manusia dan menggantinya sepenuhnya dengan tiga avatar AI. DJ virtual Emilia, Jakub, dan Aleks membawakan acara nonstop, memutar lagu, dan bahkan "melakukan" wawancara dengan mendiang penyair Wisława Szymborska—sebuah segmen yang sepenuhnya dihasilkan oleh AI. Eksperimen ini memicu skandal besar, petisi protes yang ditandatangani oleh puluhan ribu pendengar, dan tuduhan perusakan budaya. Dalam waktu seminggu, di bawah tekanan publik dan karena kegagalan mekanis dalam rantai siaran, manajemen menutup proyek AI tersebut dan mengembalikan staf manusia.

Kegagalan Operator Drive-Thru AI di McDonald's

McDonald's terpaksa menghentikan proyek global dengan IBM untuk mengimplementasikan operator penerima pesanan berbasis AI di drive-thru lebih cepat dari jadwal. Kasir otomatis tersebut seharusnya meringankan beban staf, tetapi gagal memenuhi akal sehat dasar. Karena kebisingan latar belakang dan aksen pelanggan, AI mulai berhalusinasi: ia menambahkan sembilan bungkus nugget ke satu pesanan alih-alih satu bungkus, menagih pelanggan lain ratusan dolar untuk teh, dan bahkan memutuskan untuk menambahkan bacon ke caramel frappe. Video kegagalan tersebut menjadi viral di TikTok.