Mode khusus remaja ini diluncurkan di tengah meningkatnya tekanan hukum dan regulasi.
AS, Suarathailand- OpenAI telah meluncurkan versi baru dari chatbot andalannya, ChatGPT, dirancang khusus untuk remaja.
Versi ini dilengkapi dengan perlindungan dan pemantauan yang lebih ketat, menyusul kritik dan keluhan hukum yang menyebutkan bahwa layanan tersebut mendorong sebagian pengguna untuk melakukan bunuh diri.
Pada "ChatGPT for Teens", parameter yang telah disesuaikan akan aktif secara otomatis bagi pengguna yang mendaftar dengan rentang usia 13 hingga 17 tahun, atau bagi pengguna yang terdeteksi masih di bawah umur oleh perusahaan berdasarkan pola penggunaan maupun usia akun.
Sebagian besar langkah perlindungan yang diterapkan dalam model ChatGPT for Teens ini sebenarnya sudah ada pada akun ChatGPT milik pengguna di bawah umur, seperti pembatasan akses terhadap konten yang berkaitan dengan tindakan menyakiti diri sendiri, kekerasan, gangguan makan, dan konten seksual eksplisit.
Program ini juga menawarkan fitur tambahan berupa pengingat istirahat yang lebih sering, periode "jam tenang" (di mana layanan tidak aktif), serta "Mode Belajar" (Study Mode). Dalam mode ini, chatbot merespons pengguna dengan pertanyaan pemandu alih-alih langsung memberikan jawaban instan, yang bertujuan "membantu remaja memahami materi," menurut keterangan OpenAI.
Pembatasan lain dalam ChatGPT for Teens mencakup pencegahan chatbot untuk mengklaim memiliki perasaan pribadi terhadap pengguna atau memiliki kesadaran sendiri, serta penonaktifan beberapa fitur seperti mode suara.
Orang tua diberikan pilihan untuk menautkan akun mereka dengan akun remaja mereka dan menerima pemberitahuan jika terjadi diskusi mengenai situasi berisiko tinggi, seperti tindakan menyakiti diri sendiri atau bunuh diri.
Pemberitahuan bagi orang tua ini ditinjau oleh moderator manusia, dan detail spesifik dari riwayat percakapan dihapus demi menjaga privasi.
Mode khusus remaja ini diluncurkan di tengah meningkatnya tekanan hukum dan regulasi.
OpenAI menghadapi sejumlah gugatan hukum terkait kematian yang diduga akibat layanan mereka, termasuk gugatan dari orang tua Adam Raine, seorang remaja berusia 16 tahun asal California yang mengakhiri hidupnya dengan metode yang diduga disarankan oleh ChatGPT.
Komisi Perdagangan Federal (FTC) AS juga telah memulai penyelidikan terhadap chatbot AI yang berfungsi sebagai teman digital, dengan fokus pada potensi risiko bagi anak-anak dan remaja.
Seperti halnya perusahaan media sosial, perusahaan-perusahaan raksasa AI kini menghadapi tekanan regulasi yang semakin besar; Kongres AS telah mengajukan berbagai rancangan undang-undang untuk mengatur chatbot, sementara negara bagian California mewajibkan adanya langkah perlindungan bagi asisten AI yang berperan sebagai teman atau tempat mencurahkan isi hati.
Perusahaan AI lainnya juga menghadapi reaksi negatif akibat masalah yang timbul dari penggunaan layanan mereka oleh anak di bawah umur; beberapa perusahaan, seperti pesaing OpenAI yaitu Anthropic, bahkan memilih untuk membatasi penggunaan model mereka hanya untuk orang dewasa.
