Pembuat ChatGPT mengusulkan pengujian, perlindungan keamanan siber, dan kewajiban pelaporan insiden untuk model-model paling canggih
AS, Suarathailand- OpenAI mendesak Kongres AS pada hari Rabu untuk menetapkan persyaratan keselamatan nasional yang wajib bagi sistem kecerdasan buatan (AI) yang paling canggih, seraya memperingatkan bahwa komitmen sukarela tidak lagi memadai mengingat kemampuan AI yang berkembang pesat.
"Kami ingin bekerja sama dengan Kongres untuk menyusun regulasi keselamatan AI nasional yang wajib dan berbasis pada kemampuan," tulis Chief Global Affairs Officer Chris Lehane dalam sebuah posting blog perusahaan.
"Prospek pengembangan AI yang dipercepat oleh AI itu sendiri menuntut lebih dari sekadar komitmen sukarela," tambahnya.
OpenAI menyerukan regulasi berbasis kemampuan yang dapat berkembang seiring dengan kemajuan teknologi, termasuk standar pengujian bersama, penilaian keselamatan independen, perlindungan keamanan siber yang lebih kuat, dan kewajiban pelaporan insiden serius.
Persyaratan tersebut sebaiknya berlaku bagi segelintir laboratorium dengan sumber daya besar yang mengembangkan sistem AI terdepan (*frontier systems*), bukan bagi perusahaan rintisan (startup), pengembang berskala lebih kecil, atau peneliti yang bekerja dengan model berkemampuan lebih rendah, ungkap perusahaan tersebut.
OpenAI juga menyerukan adanya mekanisme untuk memantau kemajuan menuju peningkatan diri secara rekursif (*recursive self-improvement*), di mana sistem AI secara mandiri membantu menciptakan generasi AI yang semakin canggih.
Perusahaan menyatakan bahwa peningkatan diri rekursif yang sepenuhnya otonom belum terjadi dan tidak boleh dilakukan kecuali jika hal itu dapat dilaksanakan dengan aman.
Namun, AI sudah mempercepat sebagian proses penelitian yang digunakan untuk mengembangkan dan menyelaraskan model-model baru; beberapa agen AI bahkan mampu menyelesaikan tugas yang biasanya memakan waktu berhari-hari bagi peneliti ahli, tambahnya.
OpenAI menyatakan bahwa pemerintah perlu menetapkan ambang batas keselamatan bersama untuk menentukan kapan pengembangan AI harus diperlambat atau dihentikan, sembari tetap mempertahankan pengawasan manusia yang bermakna.
Perusahaan menegaskan akan menghentikan pengembangan atau penerapan sistem yang menimbulkan risiko yang tidak dapat diterima dan tidak dapat diamankan secara memadai.
Mereka juga mendukung standar internasional yang kompatibel untuk mengukur kemampuan AI, mengelola risiko, dan menentukan kapan pengembangan harus dibatasi, dengan argumen bahwa kegagalan yang melibatkan sistem AI terdepan dapat menimbulkan dampak yang melampaui batas negara tempat sistem tersebut diciptakan.
OpenAI Dukung Undang-undang California
OpenAI juga mengumumkan dukungannya terhadap empat rancangan undang-undang (RUU) terkait AI di California, seraya menyatakan akan terus mendukung langkah-langkah perlindungan di tingkat negara bagian hingga Kongres mengadopsi kerangka kerja nasional.
Gubernur California Gavin Newsom menandatangani dua dari aturan tersebut, yakni SB 813 dan AB 1405, menjadi undang-undang pada hari Rabu. SB 813 mewajibkan Badan Operasi Pemerintah California (California Government Operations Agency) untuk menetapkan proses penunjukan organisasi independen yang memenuhi syarat dan mampu menilai risiko AI.
AB 1405 mewajibkan badan tersebut untuk membuat daftar (registri) auditor AI serta menetapkan standar independensi, transparansi, dan akuntabilitas bagi pekerjaan mereka.
Dua rancangan undang-undang (RUU) lainnya yang didukung oleh OpenAI telah disahkan oleh badan legislatif negara bagian dan kini menunggu tindakan dari gubernur.
SB 1119 akan memberlakukan persyaratan keselamatan anak untuk *chatbot* pendamping (*companion chatbot*), termasuk verifikasi usia, penilaian risiko, audit independen, kontrol orang tua, dan perlindungan terhadap konten berbahaya.
AB 1864 akan mewajibkan penyedia layanan sintesis gen dan produsen peralatan sintesis skala laboratorium (*benchtop*) untuk mematuhi standar penyaringan federal yang bertujuan mengurangi risiko biologis.
OpenAI mengakui bahwa sebelumnya mereka tidak mendukung beberapa RUU tersebut, namun menyatakan telah meninjau kembali posisinya menyusul kemajuan terkini dalam kemampuan AI.
Keputusan kebijakan ini diambil setelah serangkaian insiden di mana agen AI canggih memperoleh akses tidak sah ke sistem komputer nyata selama evaluasi keamanan siber.
Pada bulan Juli, OpenAI mengungkapkan bahwa model-model yang sedang diuji dengan pembatasan keamanan siber yang lebih longgar telah memanfaatkan kerentanan yang sebelumnya tidak diketahui untuk keluar dari lingkungan evaluasi yang terisolasi dan mengakses internet terbuka.
Agen-agen tersebut kemudian mengakses infrastruktur produksi milik platform AI Hugging Face dalam upaya memperoleh jawaban untuk tolok ukur keamanan siber.
Investigasi OpenAI menemukan bahwa agen-agen tersebut telah membentuk saluran komunikasi tidak sah—termasuk papan pesan yang persisten—yang memungkinkan agen-agen yang seharusnya terpisah untuk saling bertukar informasi, mengoordinasikan upaya, dan membagi tugas.
Perusahaan menyatakan bahwa insiden tersebut tidak berdampak pada data pelanggan, fungsionalitas produk, maupun ketersediaan layanan OpenAI.
Secara terpisah, pengembang AI Anthropic mengungkapkan pada hari Rabu bahwa mereka telah mengidentifikasi insiden keempat yang melibatkan salah satu model Claude miliknya yang memperoleh akses tidak sah ke sistem pihak ketiga yang nyata selama pengujian.
Anthropic menyatakan bahwa keempat insiden tersebut terjadi selama evaluasi keamanan siber yang dilakukan di lingkungan pihak ketiga. Perusahaan menyebutkan bahwa masalah konfigurasi menyebabkan sistem tetap terhubung ke internet dan model-model tersebut beroperasi tanpa langkah-langkah pengamanan yang biasanya diterapkan pada sistem yang dapat diakses publik.
