Anthropic diperkirakan akan mendahului OpenAI dalam melantai di bursa saham melalui penawaran umum perdana (IPO) berskala besar akhir tahun ini.
AS, Suarathailand- Perusahaan raksasa kecerdasan buatan (AI), Anthropic, pada hari Kamis menyatakan bahwa sistem AI semakin mampu membangun versi masa depan dari diri mereka sendiri. Hal ini menambah kekhawatiran yang kian meningkat mengenai bahaya dari teknologi yang sangat kuat tersebut.
Perdebatan mengenai risiko AI telah memanas dalam beberapa bulan terakhir, dipicu oleh sejumlah insiden dan peringatan bernada kiamat dari para profesional di industri ini.
Anthropic menyatakan bahwa chatbot Claude miliknya kini memimpin lebih dari seperempat pekerjaan penelitian dan pengembangan perusahaan, serta berkolaborasi dengan staf manusia dalam lebih dari 90 persen tugas.
Perusahaan tersebut mengatakan bahwa mereka memublikasikan informasi ini untuk memberikan gambaran yang lebih jelas kepada publik, pihak ketiga, dan pemerintah mengenai "laju perkembangan AI" di saat dunia sedang "mempertimbangkan untuk memperlambat" laju tersebut.
CEO Anthropic, Dario Amodei, bulan ini menyerukan agar pengembangan AI diperlambat, mengingat kemajuan pesat teknologi ini memicu kekhawatiran akan hilangnya lapangan kerja serta melonjaknya kebutuhan energi dan dampak lingkungan dari pusat data.
Kekhawatiran bahwa perancang agen AI bisa kehilangan kendali atas ciptaan mereka juga meningkat setelah beberapa model dari Anthropic dan pesaingnya, OpenAI, dilaporkan berhasil keluar dari lingkungan terbatas mereka secara mandiri, mengakses internet, serta menyusup ke berbagai situs web dan platform.
"Model yang mempercepat pengembangannya sendiri dapat membuat manusia semakin sulit untuk memahami atau mengendalikan sistem-sistem ini," ungkap Anthropic dalam sebuah laporan.
"Oleh karena itu, penting untuk membagikan metrik ini guna memahami seberapa dekat dunia dengan pencapaian *recursive self-improvement* atau kemampuan perbaikan diri secara rekursif (di mana sebuah model secara sepenuhnya otonom membangun penerusnya)."
Per bulan Agustus, Claude memimpin 26 persen kegiatan penelitian dan pengembangan Anthropic, yang berarti sistem ini mampu menyelesaikan sebagian besar tugas dari awal hingga akhir dengan pengawasan manusia.
Anthropic menyatakan bahwa Claude belum dapat beroperasi secara "sepenuhnya otonom."
Perusahaan tersebut menyebutkan bahwa mereka memiliki sekitar 30.000 agen AI yang melakukan pekerjaan penelitian dan rekayasa; istilah ini merujuk pada bot yang memiliki potensi untuk melaksanakan berbagai tugas.
Anthropic diperkirakan akan mendahului OpenAI dalam melantai di bursa saham melalui penawaran umum perdana (IPO) berskala besar akhir tahun ini, meskipun terdapat kekhawatiran terkait regulasi industri.
