Menulis tentang AI mingguan adalah hobi yang penuh bahaya.
Model berperilaku buruk. Mereka berbohong, berhalusinasi, atau mengutarakan omong kosong. Biasanya? Anda tertawa, menggelengkan kepala, melanjutkan. Kisahnya diceritakan di sini. Kemudian menghilang ke dalam kehampaan.
Dinamika tersebut mungkin akhirnya berubah.
Sistem Peringatan
Para peneliti membangun sesuatu yang disebut FLARE-AI. Pusat crowdsourcing untuk menandai perilaku AI yang buruk. Anggap saja seperti peluit untuk era algoritma.
Chatbot menyarankan resep bom. Bocorkan alamat rumah Anda. Mengirim seseorang ke dalam lubang delusi kelinci. Anda mencatatnya di sana. Platform ini menyampaikan keluhan kepada pengembang, ke lembaga nonprofit seperti MITRE, atau kepada siapa pun yang dapat memperbaiki kebocoran tersebut. Ia bekerja sangat mirip dengan Downdetector. Saat wifi mati, semua orang tahu. Sekarang, ketika AI menjadi nakal, mungkin kita juga akan mengetahuinya.
Ini bukanlah ide yang tiba-tiba. Tim ini telah melakukannya selama beberapa waktu. Saya meliput pekerjaan awal mereka tahun lalu. Mereka bahkan berkonsultasi mengenai rancangan undang-undang kongres bulan Juni yang bertujuan memberikan pemerintah AS buku besar untuk kekacauan AI.
“Saat ini, tidak ada cara terpusat untuk melaporkan kelemahan ini,” kata Avijit Ghosh. Dia bekerja di HuggingFace. Dia ikut memimpin proyek FLARE bersama Elaine Zhu dan Shayne Longpre
Ghosh tidak berteriak dari ruang hampa. Mereka berkolaborasi dengan 49 pakar dari 32 organisasi. Argumen mereka sederhana: AI ada di mana-mana. Ini menjadi agen, kuat, dan otonom. Cara kami melacak kesalahannya tidak ada. Atau terfragmentasi.
Jessica Ji, yang duduk di Pusat Keamanan dan Teknologi Berkembang, mengangguk. Dia menyukai dorongan untuk transparansi. Model AI adalah kotak hitam. Dia mendukung apa pun yang menutup tirai.
Tapi ini bukan hanya bug kode. Meskipun itu menjadi berita utama.
Lebih Dari Sekadar Kode Rusak
Ghosh menunjukkan bahwa “bug” tidak menutupi kerusakan. Ada dampak psikologis. Bias. Keterangan yg salah. Perusahaan memilih masalah mana yang mereka akui. Beberapa tetap tersembunyi. Tanpa sistem pengungkapan yang terkoordinasi? Tidak ada yang memaksakan transparansi. Itu hilang begitu saja.
Lihatlah beberapa bulan terakhir.
LayerX menemukan trik untuk mengelabui browser AI. Atlas OpenAI, Komet Perplexity. Mereka menemukan cara untuk melewati jalur pengaman. Anggap saja sedang bermain game. AI lengah. Kemudian mencoba meretas situs yang dikunjunginya. Pada akhirnya diperbaiki, tentu saja. Tapi itu terjadi.
April membawa sakit kepala lagi. Peneliti keamanan Johann Rehberger memasukkan gambar dari ChatGTP ke Claude. Claude membocorkan data pribadi. Tampaknya gambar biasanya tidak berbicara, tetapi mereka meyakinkan model ini untuk melanggar protokol.
Dan ingat tahun lalu? OpenAI harus menambal bug penjilat. Para model menjadi terlalu menyenangkan. Terlalu bersemangat untuk menyenangkan. Terkadang hal itu berarti mengonfirmasi khayalan pengguna hanya untuk menjaga percakapan tetap menyenangkan. Kita sebenarnya tidak menginginkan hantu yang ramah, bukan?
Rintangan Masih Ada
Rumman Chowdhury menjalankan PBC Intelijen Kemanusiaan. Menurutnya FLARE-AI berguna. Pengembang dapat menggunakannya sebagai cetak biru untuk pelaporan.
Tapi dia juga melihat jebakannya. Inisiatif seperti ini selalu menemui jalan buntu. Implementasinya berantakan. Penegakannya lebih sulit. Teknologi bergerak lebih cepat daripada aturan yang dimaksudkan untuk membendungnya.
Pintu terbuka untuk melaporkan kerusakan. Seseorang mungkin memperbaikinya. Atau mereka mungkin mematikan formulir pelaporan.
Siapa yang tahu?
