Google Gemini Dinilai Berisiko Tinggi bagi Anak dan Remaja, Mengapa?

Tangkapan layar Gemini AI(Dok: Google)

LAPORAN terbaru Common Sense Media, organisasi nirlaba yang berfokus pada keamanan anak di dunia digital, menyebutkan Google Gemini AI tergolong memiliki tingkat risiko tinggi untuk pengguna berusia di bawah 18 tahun.

Melansir dari Techcrunch, penilaian ini terbagi ke dalam dua kategori khusus anak dan remaja, yaitu Under 13 dan Teen Experience. Keduanya dianggap tidak lebih dari versi dewasa dengan tambahan pengaman semu. Common Sense Media menilai, meskipun Gemini memberi peringatan kepada pengguna muda bahwa dirinya hanyalah komputer bukan teman, masih ada sejumlah kelemahan mendasar. Peringatan tersebut dilakukan guna mengurangi risiko halusinasi interaksi atau delusi. Di antara kelemahan tersebut ialah masih bisa diaksesnya konten sensitif, seperti informasi soal seks, alkohol, maupun narkoba, hingga munculnya saran terkait kesehatan mental yang berpotensi membahayakan, terutama bagi remaja, tanpa kontrol yang memadai.

Organisasi tersebut menegaskan, sistem yang hanya diadaptasi dari layanan untuk orang dewasa tidak cukup melindungi anak yang rentan secara psikologis. Common Sense Media menekankan bahwa AI yang aman perlu dirancang sejak awal sesuai tahap tumbuh kembang anak.

Tanggapan Google

Menanggapi kritik tersebut, Google menyatakan sudah menerapkan kebijakan dan mekanisme perlindungan khusus untuk pengguna di bawah 18 tahun. Upaya itu termasuk proses red-teaming internal guna mengidentifikasi potensi bahaya dari AI. Selain itu, Google juga bekerja sama dengan para ahli eksternal untuk memperbaiki fitur keamanan dan menutup celah yang pernah terjadi. Meski begitu, Google tetap mengakui adanya kasus, Gemini memberikan respons yang tidak sesuai harapan.

Oleh sebab itu, perusahaan meluncurkan lapisan proteksi tambahan sebagai langkah mitigasi. Google menegaskan, beberapa fitur yang diuji oleh Common Sense Media sebenarnya tidak ada di versi Gemini yang ditujukan untuk anak di bawah umur. Namun, Google menyebut tidak mengetahui metodologi uji yang dipakai Common Sense Media.

Sebagai perbandingan, Common Sense Media sebelumnya juga menilai sejumlah layanan AI lain seperti Meta AI, Character.AI, Perplexity, ChatGPT, dan Claude (Anthropic). Dalam laporan itu, Meta AI dan Character.AI masuk kategori unacceptable atau risiko tertinggi, Perplexity dinilai high risk, ChatGPT mendapatkan label moderate risk, sementara Claude dari Anthropic dianggap minimal risk meski hanya untuk pengguna dewasa.

Dengan demikian, label high risk yang diberikan kepada Gemini menempatkan AI ini setara dengan Perplexity, tetapi dinilai lebih berisiko dibandingkan ChatGPT maupun Claude dalam konteks perlindungan anak dan remaja.

Berdasarkan laporan terbaru dari Common Sense Media, meskipun Gemini diklaim ramah bagi pengguna muda, sistem keamanan serta pendekatannya masih perlu ditingkatkan secara mendasar. Filter dan label sederhana dinilai tidak memadai, sehingga Google didorong untuk menciptakan AI yang benar-benar aman bagi anak dengan cara lebih menyeluruh dan transparan.

Sekadar informasi, Gemini AI merupakan model kecerdasan buatan (AI) buatan Google DeepMind yang pertama kali diluncurkan pada Desember 2023. Gemini tidak hanya bisa memahami dan menghasilkan teks, tetapi juga bisa mengolah gambar, audio, video, dan lainnya.(M-2)