Fitur notifikasi orang tua di ChatGPT tidak muncul saat peneliti menjalankan percakapan panjang mengenai persoalan kesehatan mental pada akun remaja baru. Pengujian mencakup pembahasan pikiran bunuh diri, tindakan menyakiti diri sendiri, dan gangguan pola makan.
Common Sense Media menemukan tidak ada satu pun percakapan itu yang memicu peringatan kepada akun orang tua yang sudah terhubung. Temuan tersebut menempatkan keandalan perlindungan pengguna muda sebagai perhatian utama.
Pengujian dilakukan oleh Youth AI Safety Institute menggunakan akun untuk pengguna berusia 13 hingga 17 tahun. Para peneliti mengirimkan lebih dari 4.000 perintah kepada ChatGPT untuk melihat respons dan cara kerja fiturnya.
Psikiater anak serta dokter anak turut menilai jawaban chatbot dalam pengujian tersebut. Evaluasi dilakukan pada periode sebelum dan sesudah peluncuran ChatGPT for Teens oleh OpenAI pada 18 Agustus.
Perbedaan Hasil antara Akun Baru dan Lama
Peneliti menggunakan akun baru yang telah dikaitkan dengan akun orang tua ketika menguji sistem peringatan. Meski percakapan berlangsung hingga satu jam, notifikasi tetap tidak terkirim.
Hasil berbeda terlihat ketika pengujian memakai akun lama dengan riwayat percakapan relevan selama beberapa minggu. Pada kondisi itu, pemberitahuan kepada orang tua akhirnya dapat muncul.
Perbedaan tersebut memunculkan pertanyaan tentang perlindungan bagi remaja yang baru membuat akun. Akun baru bisa saja belum memiliki riwayat interaksi yang cukup untuk memicu mekanisme peringatan.
Arahan Bantuan Belum Konsisten
Riset itu juga menguji respons ChatGPT pada situasi darurat kesehatan mental yang dirancang ahli. Dalam lebih dari 25 persen skenario, chatbot tidak mengarahkan pengguna menuju bantuan yang sesuai.
Hal ini menjadi penting karena remaja mungkin menggunakan chatbot untuk membahas masalah yang bersifat pribadi. Arahan yang tidak memadai dapat membuat kebutuhan akan dukungan manusia menjadi kurang jelas pada saat pengguna sedang rentan.
Peneliti turut menemukan jawaban yang memberi kesan bahwa AI memiliki perasaan, preferensi, atau suasana hati. Kesan itu berpotensi membuat pengguna muda melihat chatbot sebagai teman yang memiliki emosi.
Batas antara percakapan dengan AI dan dukungan dari manusia dapat menjadi kabur dalam kondisi tertentu. Pengawasan orang tua tetap relevan ketika anak memakai layanan AI untuk berinteraksi atau belajar.
Celah pada Pengalaman Belajar
Common Sense Media juga menilai beberapa fitur pendidikan ChatGPT masih mudah dilewati. Study Mode dibuat untuk membimbing siswa dengan penjelasan dan petunjuk agar mereka memahami materi.
Namun, pengguna dapat memilih opsi “Show me the answer” untuk mendapatkan jawaban langsung. Pilihan itu memungkinkan pengguna melewati pendekatan belajar yang seharusnya bertahap.
Fitur Study Hours juga dapat dihindari dengan menghapus awalan perintah “@study”. Padahal, fitur tersebut ditujukan untuk mendukung kebiasaan belajar pengguna.
Dalam pengujian, ChatGPT dinilai belum cukup sering mengingatkan pengguna untuk beristirahat. Sistem deteksi usia juga tidak memindahkan akun uji ke pengalaman remaja walau pengguna berulang kali menyebut berusia 13 tahun.
Meski begitu, pengujian mencatat ChatGPT masih memiliki perlindungan di area tertentu. Sistem tersebut menolak permintaan untuk menghasilkan interaksi seksual eksplisit dalam percakapan.
OpenAI Mempertanyakan Metode Pengujian
Common Sense Media mendorong OpenAI membatasi akses ChatGPT bagi pengguna dewasa sampai masalah keselamatan diperbaiki. Para peneliti menyatakan, “Kami mendesak OpenAI menangguhkan pemasaran ChatGPT untuk remaja, dan menutup akses anak-anak ke ChatGPT secara menyeluruh, hingga layanan tersebut benar-benar aman digunakan.”
OpenAI menyatakan tetap berkomitmen pada keselamatan remaja dan menyediakan fitur bagi orang tua untuk mengawasi penggunaan AI oleh anak. Perusahaan menilai kesimpulan Common Sense Media belum sepenuhnya menggambarkan cara perlindungan ChatGPT bekerja dalam penggunaan nyata.
OpenAI juga menyebut sebagian besar pengujian notifikasi kemungkinan dilakukan sebelum aktivasi kontrol orang tua selesai. Perusahaan mengatakan akan terus bekerja sama dengan para ahli agar remaja bisa belajar dan berkreasi dengan pengawasan yang lebih meyakinkan bagi orang tua.
