Hal-Hal yang Membuat Algoritma YouTube Menjadi Teknologi yang Menakutkan
Ada apa dengan algoritma YouTube?
Sudah lebih dari 10 Milyar kali aplikasi ini di download. Perkiraan saya, ada 1,8 miliar pengguna YouTube aktif di dunia, lebih banyak dari jumlah rumah yang punya TV. Apa yang mereka tonton dibentuk oleh algoritma ini, yaitu algoritma yang menelusuri dan meranking miliaran video untuk memunculkan 20 klip rekomendasi yang relevan dengan video sebelumnya. Dan kemungkinan besar, secara statistik akan memikat orang itu tetap menatap layar monitor.
‘Orang dalam’ YouTube membocorkan bahwa algoritma ini adalah satu-satunya mesin terpenting dalam pertumbuhan YouTube. Para teknisi YouTube menggambarkannya sebagai salah satu “skala terbesar dan sistem rekomendasi industri paling canggih yang pernah ada”.
“YouTube tampak seperti kenyataan, tetapi terdistorsi biar Anda menghabiskan lebih banyak waktu online,” kata Guillaume Chaslot, seorang programmer komputer asal Prancis dengan gelar PhD dalam kecerdasan buatan, yang pernah bekerja dalam tim Sistem Rekomendasi YouTube. “Algoritma rekomendasi tidak mengoptimalkan apa yang benar, atau seimbang, atau yang sehat bagi demokrasi.”
Beberapa tahun lalu terkait pemilihan presiden AS, Zeynep Tufekci, seorang sosiolog dan kritikus teknologi, mentweet “YouTube adalah pepesan yang paling diabaikan di tahun 2016. Algoritma pencarian dan pemberi rekomendasinya adalah mesin informasi yang salah.”
Selama bertahun-tahun kemudian, algoritma rekomendasi video YouTube terus dituduh memicu penyakit sosial yang diperkuat AI merekomendasikan klip berupa ujaran kebencian, ekstremisme politik, dan/atau sampah konspirasi/disinformasi, dengan dalih mencoba menjaga miliaran tontonan agar inventaris iklannya tetap laku.
Penelitian baru yang diterbitkan Juli tahun ini oleh Mozilla mendukung gagasan itu. Hasilnya menunjukkan bahwa AI YouTube terus mendorong tampilan konten sampah/kelas rendah/memecah belah/disinforming — hal-hal yang mencoba menarik perhatian orang dengan memicu kemarahan, perpecahan /polarisasi atau menyebarkan disinformasi yang tidak berdasar/berbahaya — yang pada gilirannya menyiratkan bahwa YouTube sengaja merekomendasikan hal-hal buruk dengan sistemik; efek samping dari nafsu rakus platform dalam memanen tampilan untuk menayangkan iklan.
Google mengakui ada konten berbahaya yang direkomendasikan sekaligus upaya menguranginya. Namun saat ini berlaku hanya pada konten berbahasa Inggris. Video untuk pengguna Non-Inggris Belum lah mendapat perlakuan serupa.
Selain menjadi tempat marketing, YouTube bisa menjadi alat propaganda bagi mereka yang mengetahui cara algoritmanya bekerja. Apa yang akan kita konsumsi sudah diset oleh AI ini, pikiran bisa tercuci, terdistorsi, dan terpolarisasi. Efeknya mungkin sudah kita rasakan sekarang dengan adanya kubu-kubu berdasarkan ideologi politik dan SARA.
