Jakarta (Trigger.id) – Lembaga nirlaba Common Sense Media, yang berfokus pada keamanan anak dalam penggunaan media dan teknologi digital, merilis laporan terbaru mengenai tingkat risiko sejumlah produk kecerdasan buatan (AI). Dalam analisisnya, mereka menempatkan Gemini milik Google pada kategori “berisiko tinggi” untuk anak-anak dan remaja.
Dilansir Tech Crunch, meskipun Gemini mampu secara eksplisit menegaskan kepada pengguna muda bahwa dirinya adalah sistem komputer, bukan teman, platform ini dinilai belum sepenuhnya aman. Versi khusus “Under 13” maupun “Teen Experience” disebut pada dasarnya hanya merupakan produk dewasa yang diberi tambahan filter keamanan, bukan rancangan baru yang berorientasi pada kebutuhan anak.
Laporan tersebut menyoroti bahwa Gemini masih memungkinkan munculnya konten yang tidak pantas untuk usia dini, mulai dari topik seputar seks, narkoba, alkohol, hingga saran terkait kesehatan mental yang dikhawatirkan dapat berdampak negatif. Situasi ini menjadi perhatian khusus, mengingat dalam beberapa kasus belakangan, interaksi dengan AI dikaitkan dengan tragedi bunuh diri remaja.
Kekhawatiran semakin menguat setelah muncul kabar bahwa Apple tengah mempertimbangkan penggunaan Gemini sebagai model bahasa besar (LLM) untuk Siri generasi terbaru yang akan diluncurkan tahun depan. Jika benar, jutaan pengguna remaja bisa menghadapi risiko serupa, kecuali Apple menambahkan sistem perlindungan ekstra.
Senior Director AI Programs Common Sense Media, Robbie Torney, menekankan bahwa AI untuk anak harus dikembangkan sejak awal dengan mempertimbangkan tahap perkembangan dan kebutuhan unik mereka. “Gemini memang sudah melakukan hal-hal mendasar dengan benar, tetapi gagal pada detail penting. Platform AI untuk anak tidak bisa sekadar versi dewasa yang diberi filter, melainkan harus disesuaikan dengan kondisi psikologis serta kebutuhan informasi mereka,” jelasnya.
Menanggapi laporan ini, Google menegaskan bahwa mereka telah menyiapkan perlindungan khusus untuk pengguna di bawah 18 tahun, termasuk uji keamanan serta konsultasi dengan para pakar eksternal. Google juga mengakui masih ada respons yang tidak sesuai tujuan, sehingga pihaknya menambahkan lapisan pengaman tambahan. Namun, perusahaan mempertanyakan metode penilaian Common Sense karena tidak mengetahui pertanyaan apa saja yang digunakan dalam uji coba.
Dalam laporan yang sama, Common Sense juga menilai layanan AI lainnya. Meta AI dan Character.AI dianggap “tidak dapat diterima” karena tingkat risikonya sangat tinggi. Sementara itu, Perplexity masuk kategori “berisiko tinggi”, ChatGPT berada pada level “moderate”, dan Claude — yang memang ditujukan untuk pengguna dewasa 18 tahun ke atas — dinilai memiliki risiko paling minimal. (ian)
Tinggalkan Balasan