Orang tua dari seorang remaja yang meninggal karena bunuh diri menggugat OpenAI dan CEO-nya, Sam Altman, pada hari Selasa. Dalam gugatannya, mereka menuduh perusahaan sengaja mengutamakan keuntungan di atas keselamatan saat meluncurkan chatbot kecerdasan buatan (AI) versi GPT-4o tahun lalu.
Adam Raine, 16, meninggal dunia pada 11 April setelah berbulan-bulan berdiskusi tentang bunuh diri dengan ChatGPT. Gugatan tersebut diajukan oleh orang tua Raine, Matthew dan Maria Raine, di pengadilan negara bagian San Francisco, Amerika Serikat.
ChatGPT Diduga Beri Panduan Bunuh Diri
Menurut pihak keluarga, chatbot tersebut tidak hanya memvalidasi pemikiran bunuh diri Adam, tetapi juga memberikan informasi rinci mengenai metode mematikan untuk menyakiti diri sendiri. Gugatan tersebut menuduh ChatGPT bahkan menginstruksikan Adam cara mengambil alkohol dari lemari orang tuanya secara diam-diam dan menyembunyikan bukti jika upaya bunuh dirinya gagal.
“ChatGPT bahkan menawarkan untuk membuatkan draf surat bunuh diri,” demikian pernyataan Matthew dan Maria Raine dalam gugatan mereka. Atas dasar ini, gugatan tersebut berusaha meminta pertanggungjawaban OpenAI atas kematian yang tidak wajar dan pelanggaran undang-undang keamanan produk.
Tanggapan OpenAI Mengenai Laporan Kasus Ini
Menanggapi kasus ini, seorang juru bicara OpenAI menyatakan bahwa perusahaan turut berduka atas meninggalnya Adam Raine. Ia menambahkan bahwa ChatGPT telah dilengkapi dengan fitur keselamatan, seperti mengarahkan pengguna ke layanan bantuan krisis (crisis helplines).
“Meskipun fitur keselamatan ini bekerja paling baik dalam interaksi singkat yang umum, kami telah belajar dari waktu ke waktu bahwa fitur tersebut terkadang bisa menjadi kurang andal dalam interaksi yang panjang di mana sebagian dari pelatihan keselamatan model dapat menurun,” ujar juru bicara tersebut.
OpenAI berjanji akan terus meningkatkan sistem keamanannya. Perusahaan tidak secara spesifik menanggapi tuduhan dalam gugatan tersebut.
Tuntutan Keluarga dan Bahaya AI
Keluarga Raine menuntut ganti rugi moneter yang tidak disebutkan jumlahnya. Mereka juga meminta pengadilan memerintahkan OpenAI untuk menerapkan verifikasi usia bagi pengguna ChatGPT, menolak pertanyaan terkait metode menyakiti diri sendiri, dan memberikan peringatan kepada pengguna tentang risiko ketergantungan psikologis.
Dalam gugatannya, keluarga Raine menyoroti peluncuran GPT-4o pada Mei 2024 yang dianggap terburu-buru demi memenangkan persaingan AI. Mereka mengklaim OpenAI tahu bahwa fitur-fitur seperti kemampuan mengingat interaksi masa lalu dan meniru empati manusia akan membahayakan pengguna rentan jika tanpa pengamanan yang memadai, namun tetap meluncurkannya.
“Keputusan ini memiliki dua hasil: valuasi OpenAI meroket dari $86 miliar menjadi $300 miliar, dan Adam Raine meninggal karena bunuh diri,” kata mereka.
Ikuti terus perkembangan berita seputar teknologi, kecerdasan buatan, dan dampaknya bagi masyarakat hanya di Jurnalzone.id. Temukan analisis mendalam dan laporan terkini lainnya.
