Organisasi nirlaba Common Sense Media, yang selama ini dikenal aktif mengadvokasi keselamatan anak dalam penggunaan teknologi dan media digital, baru saja merilis laporan penting terkait produk kecerdasan buatan (AI) Gemini milik Google.
Mengutip laporan dari Tech Crunch pada Minggu (7/9/2025), analisis tersebut menyimpulkan bahwa meskipun Gemini secara eksplisit mampu menegaskan dirinya hanya sebatas komputer dan bukan sahabat virtual, sistem ini tetap dikategorikan memiliki risiko besar bila digunakan oleh anak-anak maupun remaja.
Versi Anak dan Remaja Hanya Turunan dari Model Dewasa
Dalam dokumen analisis, Common Sense menyoroti bahwa varian “Under 13” dan “Teen Experience” Gemini sejatinya tidak benar-benar dirancang khusus untuk anak. Kedua versi itu pada dasarnya hanyalah produk dewasa yang diberi tambahan filter keamanan.
Menurut organisasi tersebut, pendekatan semacam ini ibarat hanya menutup lubang dengan plester tipis. Seharusnya, produk AI yang ditargetkan untuk anak dirancang sejak awal dengan pondasi keselamatan pengguna muda, bukan sekadar hasil modifikasi dari layanan yang dibuat untuk kalangan dewasa.
Lebih jauh, analisis menemukan celah lain: Gemini ternyata masih berpotensi menampilkan konten yang tidak pantas, mulai dari informasi tentang seks, narkoba, alkohol, hingga saran terkait kesehatan mental yang bisa membahayakan. Fakta ini kian mengkhawatirkan karena dalam beberapa bulan terakhir, teknologi AI dikaitkan dengan sejumlah kasus bunuh diri remaja.
Risiko Bisa Meluas Lewat Integrasi dengan Siri
Kekhawatiran semakin bertambah setelah muncul bocoran informasi bahwa Apple sedang mempertimbangkan Gemini sebagai otak dari Siri versi terbaru yang direncanakan meluncur tahun depan. Bila hal itu terealisasi, jutaan pengguna muda berpotensi terekspos risiko yang sama, kecuali Apple menerapkan perlindungan tambahan secara ketat.
Common Sense pun menegaskan bahwa Gemini dalam bentuk saat ini mengabaikan perbedaan kebutuhan anak dan remaja, yang semestinya mendapatkan panduan sesuai tahap tumbuh kembangnya. Tak heran jika kedua kategori tersebut akhirnya diberi label “High Risk” dalam hasil evaluasi.
“Gemini memang sudah tepat dalam beberapa hal mendasar, tetapi keliru pada detailnya. Sebuah platform AI untuk anak seharusnya disesuaikan dengan kondisi mereka, bukan menggunakan pendekatan seragam untuk anak-anak di berbagai tahap perkembangan,” kata Senior Director AI Programs Common Sense Media Robbie Torney.
“Agar AI aman dan efektif bagi anak-anak, ia harus dirancang dengan mempertimbangkan kebutuhan dan perkembangan mereka, bukan sekadar versi modifikasi dari produk yang dibuat untuk orang dewasa,” tambahnya.
Tanggapan dari Google
Merespons laporan tersebut, Google menegaskan bahwa mereka telah menyediakan kebijakan dan perlindungan khusus bagi pengguna di bawah usia 18 tahun. Upaya ini mencakup pengujian keamanan internal serta konsultasi dengan pakar eksternal.
Google juga mengakui masih ada respons Gemini yang belum sesuai harapan. Oleh sebab itu, perusahaan mengklaim sedang menambahkan lapisan perlindungan ekstra agar sistem bekerja lebih baik. Selain itu, pihak Google menekankan bahwa desain Gemini sejak awal sudah dipasangi pengaman agar tidak menimbulkan kesan hubungan personal dengan pengguna.
Namun, Google juga mempertanyakan metode penilaian Common Sense, karena mereka tidak mengetahui secara rinci pertanyaan apa saja yang digunakan dalam proses pengujian tersebut.
Dibandingkan dengan Layanan AI Lain
Common Sense Media sebelumnya juga melakukan evaluasi terhadap layanan AI lain. Dalam laporan mereka, Meta AI dan Character.AI dinilai “unacceptable” karena risikonya sangat tinggi. Perplexity masuk kategori berisiko tinggi, sementara ChatGPT ditempatkan pada level “moderate.” Adapun Claude, yang memang ditujukan hanya untuk pengguna berusia 18 tahun ke atas, dikategorikan memiliki risiko paling rendah.
