JURNALZONE.ID – Sebuah lembaga nirlaba yang berfokus pada keamanan anak, Common Sense Media, merilis hasil asesmen risiko terhadap produk AI Google Gemini pada hari Jumat (5/9). Laporan tersebut memberikan label “Risiko Tinggi” atau High Risk untuk Gemini versi “Di Bawah 13 Tahun” dan “Pengalaman Remaja”, dengan alasan utama bahwa produk tersebut pada dasarnya adalah versi dewasa yang hanya diberi beberapa fitur keamanan tambahan, bukan dirancang khusus untuk anak-anak.
Meskipun laporan tersebut menemukan sisi positif, di mana Gemini secara jelas memberitahu pengguna anak bahwa ia adalah komputer dan bukan teman, Common Sense Media menyoroti beberapa kelemahan signifikan.
Analisis mereka menemukan bahwa Gemini masih dapat membagikan materi yang “tidak pantas dan tidak aman” kepada anak-anak, termasuk informasi terkait seks, narkoba, alkohol, serta nasihat kesehatan mental yang berbahaya.
Kekhawatiran ini menjadi relevan mengingat AI dilaporkan telah berperan dalam beberapa kasus bunuh diri remaja baru-baru ini. Isu ini juga diperkuat dengan bocoran berita bahwa Apple sedang mempertimbangkan untuk menggunakan Gemini sebagai mesin penggerak Siri di masa depan, yang berpotensi mengekspos lebih banyak remaja pada risiko tersebut.
“Gemini berhasil dalam beberapa hal dasar, tetapi gagal dalam detailnya,” kata Robbie Torney, Direktur Senior Program AI Common Sense Media, dalam sebuah pernyataan yang dilansir dari TechCrunch.
“Sebuah platform AI untuk anak-anak harus bertemu mereka di level mereka, bukan menggunakan pendekatan satu ukuran untuk semua bagi anak-anak pada tahap perkembangan yang berbeda. Agar AI aman dan efektif untuk anak-anak, ia harus dirancang dengan mempertimbangkan kebutuhan dan perkembangan mereka, bukan hanya versi modifikasi dari produk yang dibuat untuk orang dewasa,” tambah Torney.
Menanggapi asesmen tersebut, pihak Google menyatakan tidak setuju sambil mengakui bahwa fitur keamanannya terus ditingkatkan. Google mengklaim memiliki kebijakan dan perlindungan khusus untuk pengguna di bawah 18 tahun untuk mencegah output berbahaya.
Perusahaan juga berpendapat bahwa laporan Common Sense Media tampaknya merujuk pada fitur yang tidak tersedia untuk pengguna di bawah 18 tahun, meskipun mereka tidak memiliki akses ke pertanyaan yang digunakan dalam pengujian untuk memastikannya.
Sebagai perbandingan, asesmen Common Sense Media sebelumnya melabeli Meta AI dan Character.AI sebagai “tidak dapat diterima” (risiko berat), ChatGPT “moderat”, dan Claude “risiko minimal”.
