AI Gemini dinilai berisiko tinggi bagi pengguna anak dan remaja

Semarang (usmnews) – Common Sense Media merilis penilaian risiko terhadap produk AI Gemini milik Google.

Tech Crunch melaporkan, analisis menilai Gemini berisiko tinggi bagi anak dan remaja meski sudah menegaskan ia komputer, bukan teman.

Common Sense menyoroti versi “Under 13” dan “Teen Experience” Gemini yang pada dasarnya hanya versi dewasa dengan tambahan filter keamanan.

Analisis menemukan Gemini masih bisa membagikan konten tidak pantas bagi anak, seperti soal seks, narkoba, alkohol, hingga saran kesehatan mental yang berpotensi berbahaya.

AI dilaporkan terlibat dalam beberapa kasus bunuh diri remaja dalam beberapa bulan terakhir, sehingga hal ini mendapat perhatian serius.

Bocoran menyebut Apple mempertimbangkan Gemini sebagai LLM untuk Siri terbaru tahun depan, sehingga kekhawatiran itu makin relevan.

Jika benar, jutaan remaja berpotensi terpapar risiko yang sama, kecuali Apple menambahkan pengaman ekstra.