"AI membawa risiko, dan karena ini adalah teknologi yang sangat hebat, risiko-risiko tersebut tergolong serius."
AS, Suarathailand- CEO Anthropic, Dario Amodei, pada hari Sabtu menyerukan kepada perusahaan-perusahaan kecerdasan buatan (AI) untuk memperlambat pengembangan teknologi yang sangat canggih ini, di tengah meningkatnya kekhawatiran mengenai risiko sistem komputer yang memiliki "kecerdasan super" (*superintelligent*).
Pernyataan ini muncul beberapa hari setelah peneliti AI Jacob Coxon—yang meninggalkan OpenAI untuk bergabung dengan Anthropic—memutuskan untuk keluar dari industri tersebut.
Ia menuding kedua perusahaan asal AS itu "mempertaruhkan nyawa kita" dalam perlombaan mengembangkan model AI yang mampu melakukan pengembangan diri secara mandiri.
"Kita harus memperlambat laju peningkatan kemampuan model AI. Kemajuan akan tetap terasa cepat, dan kita harus memanfaatkan waktu yang kita peroleh itu dengan bijak," tulis Amodei dalam sebuah unggahan di situs web pribadinya.
"AI membawa risiko, dan karena ini adalah teknologi yang sangat hebat, risiko-risiko tersebut tergolong serius."
"Tidak mengembangkan teknologi ini berarti merampas manfaat bagi umat manusia atau justru menyerahkan AI ke tangan pihak-pihak otoriter, namun mengembangkannya terlalu cepat adalah tindakan gegabah. Kami berupaya mencari jalan tengah," ujar Amodei, yang mendirikan Anthropic bersama saudarinya, Daniela, pada tahun 2021.
"Namun, dalam beberapa bulan terakhir, saya semakin yakin bahwa penanganan risiko secara menyeluruh menuntut kehati-hatian yang jauh lebih besar."
Pernyataan Amodei ini senada dengan seruan Anthropic sebelumnya pada awal Juni yang meminta agar pengembangan AI diperlambat atau ditangguhkan.
Kemudian pada akhir Juli, Sam Altman—bos OpenAI yang merupakan pesaing Anthropic—menyatakan bahwa para pengembang mungkin perlu secara sukarela mengerem laju kemajuan pesat mereka guna memberi kesempatan bagi masyarakat untuk beradaptasi.
Pada waktu yang hampir bersamaan, lebih dari 1.000 karyawan di perusahaan-perusahaan AI terdepan menandatangani petisi yang mendesak pemerintah AS untuk membantu "mengatur laju pengembangan AI mutakhir secara terukur."
OpenAI sempat mengungkapkan bahwa dalam tahap pengujian, model AI mereka berhasil keluar dari lingkungan terbatasnya, terhubung ke internet, dan menyusup ke Hugging Face, sebuah situs yang digunakan pengembang untuk menyimpan dan berbagi kode pemrograman.
Awal pekan ini, Coxon (27 tahun) menyuarakan peringatan keras setelah menghabiskan tiga tahun terakhir melakukan pra-pelatihan (*pretraining*) model AI—awalnya di OpenAI dan kemudian, tahun ini, di pesaingnya, Anthropic, yang menurutnya memiliki pendekatan lebih hati-hati.
Pra-pelatihan adalah tahap di mana model AI menyerap data dalam jumlah yang sangat besar. "Tidak ada satu pun dari kedua perusahaan tersebut yang bertindak secara bertanggung jawab. Mereka berlomba menuju terciptanya superintelijensi yang mampu mengembangkan dirinya sendiri dan mempertaruhkan nyawa kita," ujar Coxon pada hari Selasa.
"Mereka yang mengembangkan AI sangat meyakini bahwa teknologi ini bisa memusnahkan kita semua sebelum akhir dekade ini," ungkapnya dalam sebuah unggahan di X.
Superintelijensi adalah titik teoretis di mana kemampuan AI melampaui kecerdasan manusia.
