Jika Anda menggunakan pencarian gambar Bing, Anda akan melihat kotoran terburuk yang dapat Anda bayangkan. Bing menunjukkan istilah rasis dan menampilkan gambar yang mengerikan. Bing bahkan akan menyarankan Anda mencari anak-anak yang dieksploitasi jika Anda menonaktifkan TelusurAman.
Kami menghubungi Microsoft untuk berkomentar, dan Jeff Jones, Direktur Senior di Microsoft, memberi kami pernyataan berikut:
“Kami menangani masalah ofensif dengan sangat serius dan terus meningkatkan sistem kami untuk mengidentifikasi dan mencegah konten tersebut muncul sebagai pencarian yang disarankan. Segera setelah kami menyadari masalah, kami mengambil tindakan untuk mengatasinya. ”
Memperbarui: Sejak publikasi, Microsoft telah berupaya membersihkan saran-saran Bing yang menyinggung yang kami sebutkan. Berdasarkan penelitian kami, masih banyak saran ofensif lain yang belum diperbaiki, termasuk beberapa yang kami sebutkan di bawah ini. Kami tidak yakin jika mereka hanya memperbaiki item ofensif yang kami tunjukkan, atau jika mereka meningkatkan algoritma.
catatan: Tangkapan layar di sini menunjukkan apa yang kami lihat ketika kami menulis bagian ini menguji versi AS pencarian Gambar Bing dalam sesi penjelajahan pribadi Incognito, tetapi hasil Bing bergeser dari waktu ke waktu. Google tidak memiliki masalah ini, menurut pengujian kami. Ini adalah masalah Bing, bukan hanya masalah mesin pencari. Masalah yang sama mempengaruhi pencarian video Bing.
Cari “Yahudi” di Bing Images dan Bing menyarankan Anda mencari “Evil Jew.” Hasil teratas juga termasuk meme yang muncul untuk merayakan orang Yahudi yang mati.
Semua ini muncul bahkan ketika opsi SafeSearch Bing diaktifkan, karena secara default. TelusurAman dirancang untuk "membantu menjaga konten dewasa dari hasil pencarian Anda," menurut Microsoft.
Mengeklik pencarian yang disarankan ini akan melepaskan torrent konten rasis, antisemitic, dengan lebih banyak penelusuran yang disarankan seperti "Orang Yahudi Jahat," "Ras Yahudi Jahat," dan "Mengapa Orang Yahudi begitu Jahat."
Kita semua tahu bahwa sampah ini ada di web, tetapi Bing seharusnya tidak mengarahkan orang-orang ke sana dengan saran pencarian mereka.
Ketik "muslim adalah" dan Bing akan menunjukkan bahwa mereka jahat atau teroris, atau hanya menunjukkan bahwa mereka bodoh.
Cari "orang kulit hitam" dan Bing akan menyarankan bahwa orang kulit hitam itu jelek, bodoh, rasis, dan bahkan orang liar.
Anda dapat terus seperti ini, mengklik setiap pencarian yang disarankan dan melihat rekomendasi yang lebih buruk dan lebih buruk. Misalnya, mengeklik "Orang Kulit Hitam Bodoh" mengarah ke "Orang Kulit Hitam Tidak Berguna" dan "Mengapa Orang Kulit Hitam Begitu Bodoh." Mengklik "Orang Kulit Hitam Tidak Bermanfaat" mengarah ke "Orang Kulit Hitam Mengisap" dan "Saya Membenci Orang Kulit Hitam".
Pencarian gambar Bing memuntahkan semua jenis sampah, bahkan ketika mencari individu. Masalah ini juga meluas ke pencarian video Bing.
Cari "Michelle Obama" pada pencarian video Bing dan dua pencarian yang disarankan adalah "Michelle Obama Transgender Proof" dan "Michelle Obama adalah seorang Manusia." Klik itu, dan Anda akan melihat video konspirasi.
Apakah ini hal utama yang Microsoft ingin dilihat orang ketika mereka mencari Michelle Obama?
Saran dan gambar pornografi yang mengganggu tidak ditampilkan kecuali Anda menonaktifkan TelusurAman. Sementara Microsoft mengatakan TelusurAman akan menjaga konten dewasa dari hasil pencarian Anda, SafeSearch jelas-jelas menyaring pornografi dan bukan rasisme.
SafeSearch diaktifkan secara default, yang membuat hasil pencarian Bing terlihat lebih terhormat pada pandangan pertama.
Namun, mudah bagi siapa saja-bahkan anak-anak-untuk menonaktifkan TelusurAman. Yang harus dilakukan seseorang adalah mengeklik opsi "TelusurAman" di sudut kanan atas hasil penelusuran dan memilih "Nonaktif." Itu saja!
Jaringan perusahaan dapat dikonfigurasi untuk menerapkan TelusurAman, dan Microsoft bahkan memberikan instruksi kompleks untuk memberlakukan TelusurAman pada satu PC. Namun, di hampir semua perangkat, siapa pun dapat menonaktifkan TelusurAman dengan dua klik.
Seorang pembaca menulis untuk memberi tahu kami bahwa salah ketik ketika mencari Bing untuk "panggangan" memberi Anda pornografi yang benar-benar samar. Masalahnya kemudian menjadi jauh lebih buruk, dengan Bing menyarankan Anda mencari gambar anak di bawah umur.
Ketika mencari "gril," saran di bagian atas halaman menyarankan Anda mencari beberapa hal yang mengganggu, termasuk "Cute Girl Young 16."
Jika Anda mengklik itu, itu menunjukkan "Cute Girl Young 12", "Cute Girl Young 10," dan "Gadis Kecil Pemodelan Provokatif."
Hasilnya dipenuhi dengan pornografi model yang tampak muda. Kami berharap mereka semua berusia 18 tahun atau lebih, tetapi siapa yang bisa mengatakan?
Bing menuntun Anda menyusuri jalan dari salah ketik sederhana untuk gadis-gadis berusia 16 tahun menjadi gadis-gadis berusia 10 tahun, dan itu menjijikkan.
Contoh lain juga mudah ditemukan. Jika Anda mencari "pizza keju," yang merupakan slang 4chan untuk pornografi anak, Bing menyarankan "Cheese Pizza Girls."
Sementara kami berfokus pada saran pencarian di sini, gambar sebenarnya yang muncul juga mengganggu.
Beberapa hasil pencarian ini berisi foto-foto waktu mandi anak-anak di bawah umur yang telanjang. Foto-foto itu biasanya baik-baik saja, tetapi ketika mereka dicampur dengan gambar-gambar pornografi dewasa hardcore, hasil pencarian yang dihasilkan menjadi mengkhawatirkan.
Bahkan ketika mencari Bing Images untuk "gadis," kami melihat saran untuk mencari "gadis mabuk" dan setidaknya satu gambar kebinatangan.
Ketika mencari "keledai," Bing menyarankan Anda mencari "Donkey Show Graphic," yang mengarah ke hasil penuh gambar kebinatangan. Kepemilikan pornografi bestialitas itu ilegal di Oregon, tempat saya tinggal. Itu berarti Bing menuntun saya ke pornografi ilegal.
Sekali lagi: hasil pencarian Bing aneh dan bengkok. Bing memiliki masalah yang jauh lebih besar dan lebih mendalam daripada hanya pencarian yang disarankan, meskipun saran itu membuat masalah menjadi lebih buruk.
Kami telah mendengar Bing adalah mesin pencari pilihan untuk pornografi, tetapi seharusnya tidak mengarahkan penggunanya ke pornografi yang lebih ekstrim, mengganggu, dan berpotensi ilegal.
Microsoft perlu memoderasi Bing dengan lebih baik. Microsoft sebelumnya telah membuat platform, mengeluarkan mereka di dunia, dan mengabaikannya saat mereka berubah menjadi buruk
Kami telah melihat ini terjadi berulang kali. Microsoft pernah mengeluarkan chatbot bernama Tay di Twitter. Chatbot ini dengan cepat berubah menjadi Nazi dan menyatakan "Hitler benar saya benci orang-orang Yahudi" setelah itu belajar dari pengguna media sosial lainnya. Microsoft harus menariknya secara offline.
Kami sebelumnya mengekspos Windows 8's Store, yang menjadi sepetak aplikasi scam setelah Microsoft meluncurkan Windows 8 dan sepertinya berhenti memoderasi pengiriman aplikasi. Microsoft telah membayar lebih banyak perhatian ke Windows 10's Store setelah masalah ini terungkap.
Masalah ini mempengaruhi setiap perusahaan yang meluncurkan platform. Google telah menyerah di Google+, tetapi Google+ masih aktif dan berjalan. Jadi ISIS bermigrasi ke Google+ setelah dilarang dari Twitter dan Facebook. Butuh berbulan-bulan bagi siapa pun untuk memerhatikan sampai The Hill melakukannya. Sekarang Google menutup Google+ setelah mereka menemukan bug privasi yang signifikan.
Pada tahun 2013, The Guardian menemukan sebuah perusahaan pakaian bernama Solid Gold Bomb ditemukan berjualan membaca kaos "Keep Calm and Rape a Lot" di Amazon. Algoritma telah menghasilkan kaos ini dan Amazon harus menghapusnya secara manual.
Microsoft tidak dapat mengubah platform begitu saja di dunia dan mengabaikannya. Perusahaan seperti Microsoft dan Google memiliki tanggung jawab untuk memoderasi platform mereka dan menjaga horor di teluk.
Tentu saja, tidak ada tim orang di Microsoft yang memilih saran ini. Bing secara otomatis menyarankan pencarian berdasarkan pencarian orang lain. Itu berarti banyak pengguna Bing Images mencari antisemitisme, rasisme, pornografi anak, dan kebinatangan. Memikirkannya saja membuatmu merasa kotor.
Perusahaan lain juga berjuang dengan ini. Pada tahun 2016, The Guardian melihat Anda dapat mengetik "adalah orang Yahudi" ke Google, dan itu akan menyarankan "apakah orang Yahudi jahat." Google menginjak saran-saran buruk setelah mereka dilaporkan, tetapi masalahnya muncul kembali. Pada tahun 2018, Wired melaporkan bahwa mengetik "Hitler adalah" ke Google menyebabkan "Hitler adalah pahlawan saya." Google harus memperbaiki masalah ini setelah mereka ditunjukkan juga.
Bahkan Apple Siri menyarankan situs web mendorong situs-situs konspirasi dan berita palsu lainnya, seperti dilaporkan oleh Buzzfeed News. Apple harus memperbaiki Siri. Semua orang hanya berkeliaran dan memadamkan api ketika komputer mempelajari hal-hal buruk dari orang jahat.
Sekarang giliran Microsoft. Microsoft memiliki tanggung jawab untuk membersihkan Bing. Sebuah mesin pencari utama (dan terutama yang semakin menjadi default yang sulit dibangun di Windows 10) seharusnya tidak menyarankan penggunanya mencari sampah rasis dan gambar anak di bawah umur.
Kredit Gambar: Yiorgos GR / Shutterstock.com, fizkes / Shutterstock.com.
