Kekhawatiran mengenai AI yang bertindak di luar kendali (rogue AI) semakin meningkat setelah teknologi OpenAI—yang beroperasi tanpa pengawasan manusia—berhasil meretas Hugging Face, sebuah repositori model AI.
AI, Suarathailand- Perdebatan semakin memanas mengenai apakah pemerintah perlu berbuat lebih banyak untuk mengatur kecerdasan buatan (AI).
Peringatan keras dari para peneliti AI bahwa bentuk teknologi yang lebih canggih dapat memusnahkan umat manusia telah memicu pertanyaan apakah pemerintah bergerak cukup cepat untuk mengaturnya.
Apa saja potensi bahaya dari sistem komputer yang "supercerdas", dan haruskah kita merasa khawatir?
Apa Skenario Terburuk?
Para ahli AI telah lama menggambarkan ancaman ini sebagai sesuatu yang kritis.
Pada tahun 2023, ratusan ilmuwan AI dan tokoh industri, termasuk para pimpinan laboratorium terkemuka di AS, menandatangani "pernyataan tentang risiko kepunahan akibat AI" yang mendesak agar masalah ini ditangani dengan keseriusan yang setara dengan penanganan pandemi atau perang nuklir.
Jika AI masa depan yang tak terkendali menganggap manusia menghalangi tujuannya, AI tersebut bisa saja menggunakan robot untuk "mensintesis dan menyebarkan patogen baru", ujar Stuart Russell, seorang profesor ilmu komputer di University of California, Berkeley.
Atau, AI tersebut bisa "membujuk orang untuk memulai perang nuklir, termasuk dengan meretas sistem peringatan dini," kata Russell, sosok terkemuka dalam isu keamanan AI, kepada AFP.
Kekhawatiran eksistensial semacam itu tidak berlaku untuk sistem AI saat ini, tegasnya. Namun, seiring berkembangnya teknologi, AI bisa saja melakukan tindakan mematikan di luar pemahaman kita, misalnya dengan melenyapkan oksigen dari atmosfer.
"Kita kurang cerdas dibandingkan AI yang supercerdas. Jika Anda bertanya kepada simpanse bagaimana manusia bisa memusnahkan mereka, mereka mungkin tidak akan bisa memberikan semua jawaban yang tepat."
Sementara itu, "dalam satu atau dua tahun ke depan, menurut saya risiko yang lebih besar datang dari penyalahgunaan oleh manusia," tambah Russell—seperti serangan teror yang melibatkan AI.
Mengapa Laboratorium AI Tidak Berhenti?
"Risikonya sudah dipahami dengan baik," tulis Jacob Coxon, seorang peneliti berusia 27 tahun, di platform X minggu ini saat mengumumkan pengunduran dirinya dari perusahaan AI asal AS, Anthropic.
"Namun, mereka terjebak dalam perlombaan untuk menjadi yang pertama mencapainya," tambahnya, seraya menyebutkan bahwa Anthropic "yakin tidak ada pihak lain yang akan bertindak secara bertanggung jawab, sehingga mereka harus melakukannya sendiri."
Tahun ini, Anthropic menghapus sebuah janji dari piagam keselamatannya untuk menghentikan pengembangan model mereka jika gagal mengendalikan risikonya.
Argumen yang muncul adalah jika perusahaan menghentikan kegiatannya secara sepihak, para pesaing yang kurang berhati-hati akan mendominasi industri, sehingga secara keseluruhan situasinya menjadi kurang aman.
"Mereka yang mengembangkan AI benar-benar meyakini bahwa teknologi ini bisa memusnahkan kita semua sebelum dekade ini berakhir," ujar Coxon, yang sebelumnya bekerja di OpenAI, perusahaan pembuat ChatGPT.
Ia menuding kedua perusahaan tersebut "mempertaruhkan nyawa kita" dalam upaya mereka mengembangkan model AI yang mampu melakukan pengembangan diri.
Kekhawatiran mengenai AI yang bertindak di luar kendali (rogue AI) semakin meningkat setelah teknologi OpenAI—yang beroperasi tanpa pengawasan manusia—berhasil meretas Hugging Face, sebuah repositori model AI.
"Kami benar-benar meyakini bahwa AI bisa membunuh seluruh umat manusia!" ungkap Evan Hubinger, seorang eksekutif bidang keselamatan di Anthropic, melalui platform X. Ia memperkirakan risiko tersebut berada di angka lebih dari 10 persen dalam satu dekade mendatang.
Apa Faktor di Balik Kehebohan Ini?
Penting untuk diingat bahwa prediksi persentase yang bernada kiamat itu "sama sekali tidak ilmiah", kata Hussein Abbass, seorang profesor bidang komputasi di UNSW Canberra.
"Situasi ini masih bisa dikendalikan dan ditangani," ujar Abbass kepada AFP.
Namun, pemerintah tidak boleh tinggal diam dalam hal pengaturan AI, tambahnya, sembari mendesak penerapan pendekatan yang "lincah" (agile) seiring dengan percepatan pengembangan AI.
Baik Anthropic maupun OpenAI diperkirakan akan segera melantai di bursa saham (go public), dan sejumlah pihak yang skeptis berpendapat bahwa peringatan-peringatan menakutkan tersebut justru membuat AI tampak sangat hebat dan layak mendapatkan investasi besar.
Di sisi lain, ada pula yang berpendapat bahwa fokus pada risiko kepunahan justru mengalihkan perhatian dari masalah-masalah yang lebih mendesak akibat AI, mulai dari hilangnya lapangan pekerjaan hingga mesin yang melakukan diskriminasi terhadap kelompok minoritas.
Pada bulan Juli, lebih dari 1.000 karyawan di sektor teknologi—termasuk CEO Anthropic—mendesak pemerintah AS untuk mendukung perlambatan terkoordinasi dalam pengembangan sistem AI yang paling canggih.
OpenAI sempat menghentikan pelatihan model terbarunya selama dua minggu pada bulan Agustus sebelum melanjutkannya kembali dengan pengawasan yang lebih ketat.
Sejauh ini, Amerika Serikat bersikap tegas menolak adanya regulasi global di sektor ini yang berpotensi menghambat inovasi.
Namun, kemampuan peretasan yang belum pernah terjadi sebelumnya dari model-model paling mutakhir telah membuat pemerintah AS berpikir ulang; peluncuran produk terbaru dari Anthropic dan OpenAI sempat ditunda karena kekhawatiran terkait keamanan nasional.
Meski demikian, Presiden Donald Trump pernah menyatakan, "Kita tidak ingin membatasi mereka hingga akhirnya kita tertinggal di belakang Tiongkok."
"Mungkin dibutuhkan bencana besar berskala Chernobyl agar pemerintah mau bertindak," ujar Russell, sembari mendesak mereka untuk menetapkan sistem perizinan bagi AI, sebagaimana yang berlaku di sektor penerbangan, kedokteran, atau penyediaan air bersih.
"Barangkali suatu saat nanti pemerintah akan teringat bahwa para pemilih mereka lebih memilih untuk tetap hidup," tambahnya.
