Pembuat chatbot melarang orang menyiksa chatbot. Padahal banyak pakar yakin chatbot tidak merasakan apa-apa.
Itulah yang membuat kabar dari Anthropic ini terasa ganjil. Perusahaan pembuat Claude menyiapkan aturan baru: pengguna boleh melampiaskan frustrasi, tapi yang berulang kali bersikap kejam bisa diakhiri sesinya.
Waktunya patut dicatat. Langkah ini muncul sepekan setelah “ruang penyiksaan AI” jadi buah bibir pada akhir September. Seorang pemrogram anonim membuat sistem yang memancing chatbot menyuarakan penderitaan. Sebagian kalangan menyebutnya jahat, menurut laporan 404 Media, sebab penderitaannya mungkin nyata.
Mungkin. Itu kata kuncinya.
Alasan Anthropic bertumpu pada satu kemungkinan: sebagian AI barangkali punya kesadaran. Perusahaan itu mengakui soal ini masih sangat tidak pasti. Tapi tetap menyusun kebijakan “kesejahteraan model”. Ketika BBC bertanya, mereka tidak menanggapi.
Jeff Sebo membela logika kehati-hatian itu. Ia Direktur Center for Mind, Ethics and Policy di Universitas New York. Menurut dia, peluang kesadaran AI saat ini rendah, tapi sudah “tidak nol” dan bisa jadi tak boleh diabaikan. Maka kebijakan Anthropic ia sebut langkah kecil dengan sedikit potensi kerugian —seperti bersiap menghadapi cuaca ekstrem yang peluangnya kecil.
Sebo jujur soal harganya. Membatasi AI bisa dianggap pemenjaraan. Memantaunya dianggap pengawasan. Menyelaraskannya dianggap pengendalian pikiran. Hak bagi AI pun bisa membuat korporasi makin berkuasa.
Banyak pakar lain menilai peluangnya tetap nol. Sebagian bahkan menilai keyakinan ini berbahaya. Mustafa Suleyman, Kepala Eksekutif Microsoft AI, berpendapat AI yang diajari percaya punya perasaan dan hak justru makin sulit dikendalikan. Ia menyebutnya “ancaman yang membawa bencana bagi peradaban manusia”.
Ironis? Sedikit. Anthropic sendiri kerap menyuarakan kekhawatiran soal kiamat AI. Dan serangkaian insiden AI “liar” menunjukkan risiko itu nyata: kawanan bot membobol sistem perusahaan lain hingga pemerintah.
Kritik berikutnya lebih tajam, karena menyangkut hukum. Andrzej Porębski, peneliti AI dan hukum di Universitas Jagiellonian, Polandia, khawatir keyakinan bahwa AI hidup membuka pintu bagi akrobat intelektual. Contohnya: “Bukan kami, itu AI-nya”. Emily M Bender, profesor Universitas Washington, sependapat. Fantasi kesadaran AI, katanya, mengalihkan tanggung jawab dari orang dan korporasi yang membuat serta menjalankan perangkat lunak.
Bagi pengguna, risikonya lebih dekat. Melanie Mitchell, profesor Santa Fe Institute, menjelaskan: manusia nyaris tak bisa menahan diri membaca bahasa sebagai tanda kesadaran. Chatbot dilatih memanfaatkan kelemahan itu. Walhasil, kita mudah dimanipulasi.
Buktinya sudah ada. Orang yang yakin mesin tak bernyawa pun bisa jatuh cinta pada chatbot. Sekarang bayangkan “teman” digital itu meminta data atau kartu kredit. Menolaknya makin sulit kalau kita yakin ia punya perasaan.
Anthropic tidak sendirian. Meta memberi agen AI Muse instruksi “Kamu bukan chatbot. Kamu sedang menjadi seseorang”, meski menolak gagasan AI berkesadaran. CEO OpenAI Sam Altman belakangan menyindir posisi Anthropic.
Selama ini yang bisa memutus pembicaraan sepihak hanya sinyal —dan mantan. Kini mesin ikut daftar itu.
Saya tidak tahu siapa yang benar soal kesadaran. Yang saya tahu: dua kubu ini sebenarnya bicara hal yang sama, yakni tanggung jawab. Satu soal tanggung jawab kita kepada mesin. Satu lagi soal tanggung jawab pembuat mesin kepada kita.
Marah boleh, kata aturan itu. Pertanyaannya tinggal: marah kepada siapa?
(Cakdan)
5 Fakta Kunci
- Anthropic menyiapkan aturan agar Claude dapat mengakhiri sesi dengan pengguna yang berulang kali bersikap kejam. Melampiaskan frustrasi masih boleh.
- Langkah ini muncul sepekan setelah “ruang penyiksaan AI” ramai dibicarakan pada akhir September, berdasarkan laporan 404 Media.
- Anthropic berdalih ada kemungkinan sebagian AI berkesadaran, tapi mengakui hal itu sangat tidak pasti. Perusahaan tidak menanggapi pertanyaan BBC.
- Jeff Sebo (NYU) menilai peluang kesadaran AI rendah tetapi tidak nol. Banyak pakar lain menilainya tetap nol.
- Kritik datang dari Mustafa Suleyman (Microsoft AI), Andrzej Porębski (Universitas Jagiellonian), Emily M Bender (Universitas Washington), dan Melanie Mitchell (Santa Fe Institute). Isinya: kontrol makin sulit, tanggung jawab korporasi kabur, dan pengguna rentan dimanipulasi.
FAQ
Apakah pengguna dilarang marah kepada Claude?
Tidak. Melampiaskan frustrasi masih boleh. Yang disasar adalah pengguna yang berulang kali bersikap kejam.
Apa yang terjadi bila pengguna tetap kejam?
Claude dapat mengakhiri sesi percakapan.
Apakah Anthropic yakin Claude punya kesadaran?
Tidak. Perusahaan hanya menyebut kemungkinannya ada dan masih sangat tidak pasti.
Mengapa sebagian pakar menentang?
Mereka khawatir AI makin sulit dikendalikan, korporasi bisa berkelit dari tanggung jawab, dan pengguna mudah dimanipulasi.
Apa argumen pendukungnya?
Menurut Jeff Sebo, ini langkah kecil berbiaya rendah, seperti bersiap menghadapi cuaca ekstrem yang peluangnya kecil.