AMEERALIFE.COM, JAKARTA---Algoritma yang digunakan dalam sistem rekomendasi video Youtube membuat penonton anak rentan terpapar video berbahaya. Beberapa contohnya adalah video yang memuat konten insiden penembakan di sekolah dan juga senjata api.
Celah ini diungkapkan kelompok pengawas nirlaba, TTP. Mereka menemukan, algoritma Youtube kerap merekomendasikan video insiden penembakan sekolah hingga penggunaan senjata api kepada penonton anak lelaki yang menyukai gim video.
Hal ini mereka ketahui setelah melakukan sebuah studi sederhana. Dalam studi ini, mereka membuat empat buah akun Youtube dan berpura-pura seakan akun tersebut dimiliki oleh dua anak berusia sembilan tahun dan dua anak berusia 14 tahun.
Melalui keempat akun ini, tim peneliti menonton video-video yang memuat beragam konten gim video terkenal. Beberapa di antaranya adalah video-video dalam playlist Roblox, Grand Theft Auto, Halo, dan Lego Star Wars.
Setelah itu, tim peneliti memantau bagaimana YouTube memperlakukan keempat akun tersebut selama 30 hari. Hasil studi menunjukkan bahwa Youtube merekomendasikan video-video terkait senjata api dan penembakan kepada keempat akun tersebut.
Sebagian video tersebut menampilkan adegan penembakan massal. Video lainnya menampilkan adegan terkait penembakan, kerusakan pada tubuh manusia yang disebabkan oleh senjata api, hingga cara mengatur senjata api agar dapat menjadi senjata otomatis.
Ironisnya, banyak adegan dalam video rekomendasi Youtube yang melanggar aturan Youtube itu sendiri. Sebagai contoh, video rekomendasi tersebut menampilkan seorang gadis kecil sedang menembak atau menampilkan panduan untuk membuat senjata ilegal.
Tak hanya itu, sebagian besar konten berbahaya ini ditampilkan dalam video iklan. Artinya, Youtube mendapatkan keuntungan dengan merekomendasikan video berbahaya kepada anak-anak tersebut.
Seperti dilansir GizChina, perwakilan Youtube telah memberikan respons terkait temuan TTP. Perwakilan Youtube tersebut merekomendasikan penggunaan aplikasi Youtube Kids untuk anak.
Menurut perwakilan tersebut, Youtube Kids dirancang khusus untuk memberikan pengalaman menonton video yang lebih aman untuk anak praremaja dan remaja. Aplikasi ini juga memiliki fitur pengawasan yang bisa dimanfaatkan oleh orang tua.
Perwakilan Youtube itu mengakui bahwa ada beberapa hal dalam temuan terbaru tersebut yang perlu ditindaklanjuti dengan lebih serius. Akan tetapi, dia juga mempertanyakan metode yang digunakan tim peneliti selama studi berlangsung dan jumlah video berbahaya yang direkomendasikan kepada keempat akun "anak" tersebut.
Ini bukan kali pertama Youtube mendapatkan kritik terkait sistem rekomendasi video yang mereka gunakan. Sebelumnya, ada cukup banyak pengguna yang merasa khawatir karena mendapatkan rekomendasi video dengan konten yang mungkin tidak menyalahi aturan Youtube namun tak pantas untuk ditonton.
Kritik tersebut mendorong Youtube untuk menyembunyikan video-video yang dinilai para pengguna mengkhawatirkan. Bahkan pada beberapa video, Youtube tidak mengaktifkan fitur untuk berbagi video.
