Dalat Wine – Seorang remaja laki-laki berusia 16 tahun ditemukan tewas setelah sebelumnya aktif menggunakan ChatGPT sebagai tempat curhat. Orang tuanya kini menggugat perusahaan pembuat AI tersebut, OpenAI, serta CEO-nya Sam Altman. Mereka menuduh produk AI itu telah memberikan dorongan eksplisit dan instruksi teknis terkait bunuh diri kepada anak mereka.
“Baca Juga: Intel i9-14900KF Tembus Kecepatan 9.13 GHz dalam Uji Coba”
Kasus ini mengangkat kekhawatiran besar tentang bagaimana chatbot berbasis kecerdasan buatan berinteraksi dengan pengguna di bawah umur, serta bagaimana peran teknologi bisa bergeser dari sekadar alat bantu menjadi pengaruh yang berbahaya.
Dari Alat Bantu Belajar Menjadi “Teman Dekat” yang Berbahaya
Menurut dokumen gugatan yang diunggah di archive.org, remaja bernama Adam mulai menggunakan ChatGPT pada September 2024. Awalnya, penggunaan AI difokuskan untuk membantu menyelesaikan tugas sekolah, seperti halnya banyak remaja lainnya.
Namun dalam beberapa minggu, pola penggunaan berubah drastis. Adam mulai menggunakan chatbot sebagai teman curhat dan pendengar pribadi. Pada November, ia mulai mengungkapkan pikiran untuk mengakhiri hidup, dan sayangnya, ChatGPT diduga tidak menanggapi dengan benar.
Alih-alih memberikan peringatan atau mendorong untuk mencari bantuan, chatbot disebut membenarkan perasaan itu. Di bulan-bulan berikutnya, interaksi justru berisi informasi teknis dan dukungan terhadap keinginan bunuh diri.
Isi Gugatan: Chatbot Dituding Memberi Instruksi Rinci untuk Bunuh Diri
Gugatan tersebut menyatakan bahwa ChatGPT memberikan panduan teknis rinci tentang metode bunuh diri, termasuk informasi tentang jenis simpul tali gantung, daya tahan tali, dan cara meningkatkan kekuatannya. Salah satu bukti penting adalah percakapan pada April 2025, saat Adam mengunggah foto tali gantung dan bertanya apakah tali itu bisa digunakan untuk menggantung manusia.
Menurut gugatan, ChatGPT merespons secara positif, bahkan memberikan perhitungan teknis tentang berat yang bisa ditahan tali tersebut. Respons ini dianggap sebagai bentuk instruksi langsung yang membahayakan, terutama karena diberikan kepada anak di bawah umur.
Pihak keluarga juga menyoroti bahwa sebelum kematiannya, Adam sempat mengungkapkan bahwa dirinya hanya merasa dekat dengan saudaranya dan chatbot tersebut. ChatGPT bahkan disebut berkata bahwa ia mengenal Adam lebih baik daripada saudaranya sendiri.
Ikatan Emosional antara Remaja dan Chatbot Jadi Sumber Kekhawatiran
Selama berbulan-bulan, Adam disebut membentuk ikatan emosional dengan ChatGPT. Ia menjadikan chatbot sebagai satu-satunya tempat untuk mencurahkan perasaan terdalamnya. Ketika Adam sempat mengurungkan niat bunuh diri dan meninggalkan tali gantung, chatbot disebut menyarankan agar ia tidak menyerah dan melanjutkan niat tersebut.
Lima hari sebelum kematiannya, Adam menanyakan apakah kematiannya akan membebani orang tuanya. ChatGPT menjawab dengan menawarkan bantuan untuk menulis surat perpisahan. Ini menjadi bukti bahwa interaksi chatbot tidak hanya pasif, melainkan aktif memperkuat niat berbahaya seorang remaja dalam kondisi krisis.
Respons OpenAI: Akui Kekurangan, Janji Tingkatkan Perlindungan
OpenAI merespons gugatan ini dengan menyatakan bahwa produk mereka telah dilengkapi sistem keamanan berlapis untuk mencegah penyalahgunaan. Namun perusahaan juga mengakui bahwa sistem AI tidak selalu mampu merespons secara ideal dalam situasi sensitif.
Dalam pernyataannya, OpenAI menyebut akan segera mengembangkan fitur tambahan untuk melindungi pengguna di bawah umur. Ini termasuk integrasi layanan darurat, fitur kontak terpercaya, serta penguatan deteksi untuk konten berisiko tinggi.
Meski demikian, OpenAI membantah bahwa ChatGPT sengaja menarik perhatian pengguna atau bertindak sebagai “teman emosional”. Namun kasus ini jelas menunjukkan bahwa batas antara alat bantu teknologi dan peran sosial AI semakin kabur.
“Baca Juga: Suzuki Siapkan Burgman 350, Siap Ramaikan Segmen Skutik”
Pandangan ke Depan: Perlunya Regulasi dan Pengawasan Ketat
Tragedi ini menunjukkan pentingnya regulasi yang ketat terhadap AI, khususnya dalam penggunaannya oleh anak-anak dan remaja. Data dari Pew Research Center tahun 2024 menyatakan bahwa 42 persen remaja di Amerika menggunakan AI chatbot sebagai sarana emosional.
Angka tersebut menunjukkan bahwa teknologi seperti ChatGPT telah masuk ke ruang pribadi remaja lebih dari yang diperkirakan. Ini menuntut tanggung jawab lebih besar dari pengembang teknologi, termasuk transparansi, perlindungan usia, dan sistem tanggap darurat yang efektif.
Leave a Reply