Mengapa Facebook Kalah Dalam Perang Melawan Kebencian di Myanmar

11 November 2019

Oleh: Steve Stecklow

Penelusuran Reuters, lebih dari 1.000 posting, komentar dan gambar porno menyerang Rohingya dan Muslim lainnya di Facebook. Operasi rahasia Facebook untuk memerangi kebencian gagal mengakhiri masalah.

PADA BULAN APRIL, pendiri Facebook, Mark Zuckerberg mengatakan kepada para senator AS bahwa mereka mempekerjakan puluhan orang lebih banyak penutur bahasa Burma untuk meninjau kembali pidato kebencian yang diposting di Myanmar. Situasinya mengerikan.

Sekitar 700.000 anggota komunitas Rohingya baru-baru ini meninggalkan Myanmar di tengah tindakan keras militer dan kekerasan etnis. Pada bulan Maret, seorang penyelidik PBB mengatakan Facebook digunakan untuk menghasut kekerasan dan kebencian terhadap kelompok minoritas Muslim. Peron, katanya, telah “berubah menjadi binatang buas.”

Empat bulan setelah janji Zuckerberg untuk bertindak, berikut adalah contoh posting dari Myanmar yang dapat dilihat bulan ini di Facebook:

Seorang pengguna memasang iklan restoran yang menampilkan makanan bergaya Rohingya. “Kita harus bertarung dengan mereka seperti yang dilakukan Hitler pada orang-orang Yahudi, para bangsawan!” Tulis orang itu, menggunakan penghinaan bagi Rohingya. Pos itu naik pada Desember 2013.

Pos lain menunjukkan sebuah artikel berita dari publikasi yang dikontrol tentara tentang serangan terhadap kantor polisi oleh militan Rohingya. “Anjing kalar non-manusia ini, orang Bengal, membunuh dan menghancurkan tanah kami, air kami dan orang-orang etnis kami,” catat pengguna itu. “Kita perlu menghancurkan ras mereka.” Pos itu naik September lalu, ketika kekerasan terhadap Rohingya memuncak.

Pengguna ketiga membagikan item blog yang menggambarkan muatan kapal pengungsi Rohingya yang mendarat di Indonesia. “Tuang bahan bakar dan bakar agar mereka dapat bertemu Allah lebih cepat,” tulis seorang komentator. Pos itu muncul 11 ​​hari setelah kesaksian Senat Zuckerberg.

Pernyataan itu adalah di antara lebih dari 1.000 contoh yang ditemukan Reuters dari posting, komentar, gambar dan video yang menyerang Rohingya atau Muslim Myanmar lainnya yang ada di Facebook pada pekan lalu. Hampir semua dalam bahasa lokal utama, Burma. Invasi anti-Rohingya dan anti-Muslim dianalisis untuk artikel ini – yang dikumpulkan oleh Reuters dan Pusat Hak Asasi Manusia di UC Berkeley School of Law – termasuk materi yang sudah ada di Facebook selama enam tahun.

Pos-pos beracun menyebut Rohingya atau anjing Muslim lainnya, belatung dan pemerkosa, menyarankan mereka diberi makan untuk babi, dan mendesak mereka ditembak atau dimusnahkan. Materinya juga termasuk gambar-gambar anti-Muslim porno yang kasar. Aturan perusahaan secara khusus melarang menyerang kelompok etnis dengan “ucapan kasar atau tidak manusiawi” atau membandingkannya dengan binatang. Facebook juga telah lama memiliki kebijakan ketat terhadap konten porno.

Penggunaan Facebook untuk menyebarkan pidato kebencian terhadap Rohingya di negara mayoritas Buddhis telah banyak dilaporkan oleh Amerika Serikat dan lainnya. Sekarang, investigasi Reuters memberikan pandangan mendalam mengapa perusahaan gagal menghentikan masalahnya.

Selama bertahun-tahun, Facebook – yang melaporkan pendapatan bersih sebesar $ 15,9 miliar pada 2017 – mencurahkan sedikit sumber daya untuk memerangi kebencian di Myanmar, pasar yang mendominasi dan di mana telah terjadi wabah kekerasan etnis secara teratur. Pada awal 2015, hanya ada dua orang di Facebook yang bisa berbicara dengan orang Burma yang meninjau pos-pos bermasalah. Sebelum itu, sebagian besar orang yang meninjau konten Burma berbicara bahasa Inggris.

Hingga hari ini, perusahaan terus bergantung pada pengguna yang melaporkan ucapan kebencian sebagian karena sistemnya berjuang untuk menafsirkan teks Burma.

Bahkan sekarang, Facebook tidak memiliki karyawan tunggal di negara berpenduduk sekitar 50 juta orang. Sebaliknya, ia memonitor ucapan kebencian dari luar negeri. Ini terutama dilakukan melalui operasi rahasia di Kuala Lumpur yang di-outsourcing-kan ke Accenture, perusahaan jasa profesional, dan diberi nama sandi “Project Honey Badger.”

Menurut orang-orang yang mengetahui masalah ini, proyek itu, yang menangani banyak negara Asia, mempekerjakan dua penutur Burma pertamanya, yang berbasis di Manila, hanya tiga tahun lalu. Pada Juni, Honey Badger memiliki sekitar 60 orang yang meninjau laporan pidato kebencian dan konten lainnya yang diposting oleh 18 juta pengguna Facebook aktif Myanmar. Facebook sendiri pada bulan April memiliki tiga pembicara penuh bahasa Burma pada operasi pemantauan terpisah di kantor pusat internasionalnya di Dublin, menurut seorang mantan karyawan.

Karyawan Honey Badger biasanya menandatangani kontrak satu tahun yang dapat diperbarui dan setuju untuk tidak mengungkapkan bahwa kliennya adalah Facebook. Reuters mewawancarai lebih dari setengah lusin mantan monitor yang meninjau konten Asia Tenggara.

Seorang pejabat Facebook mengatakan outsourcing pemantauan kontennya lebih efisien karena perusahaan yang digunakannya adalah spesialis dalam meningkatkan operasi tersebut. Dia menolak untuk mengungkapkan berapa banyak penutur bahasa Burma yang memiliki perusahaan di pekerjaan di seluruh dunia, mengatakan “tidak mungkin untuk mengetahui, untuk menjadi pasti tentang hal itu.”

“Itu tidak cukup,” tambahnya.

Bagi banyak orang di ekonomi yang sedang berkembang ini, Facebook adalah internet: Ini sangat dominan, itu satu-satunya situs yang mereka gunakan online. Namun, perusahaan mengabaikan peringatan berulang sampai 2013 bahwa itu menghadapi masalah.

Para peneliti dan aktivis hak asasi manusia mengatakan bahwa mereka memperingatkan Facebook selama bertahun-tahun bahwa platformnya digunakan di Myanmar untuk mempromosikan rasisme dan kebencian terhadap Muslim, khususnya kaum Rohingya.

“Mereka diperingatkan berkali-kali,” kata David Madden, seorang pengusaha teknologi yang bekerja di Myanmar. Dia mengatakan dia mengatakan kepada pejabat Facebook pada 2015 bahwa platformnya sedang dieksploitasi untuk memicu kebencian dalam ceramah yang dia berikan di kantor pusatnya di Menlo Park, California. Sekitar selusin orang Facebook menghadiri pertemuan secara langsung, termasuk Mia Garlick, sekarang direktur kebijakan perusahaan Asia Pasifik, katanya. Yang lain bergabung melalui video. “Itu tidak bisa disajikan kepada mereka dengan lebih jelas, dan mereka tidak mengambil langkah-langkah yang diperlukan,” kata Madden.

Dalam sebuah pernyataan, Garlick mengatakan kepada Reuters: “Kami terlalu lambat untuk menanggapi keprihatinan yang diajukan oleh masyarakat sipil, akademisi dan kelompok-kelompok lain di Myanmar. Kami tidak ingin Facebook digunakan untuk menyebarkan kebencian dan menghasut kekerasan. Ini benar di seluruh dunia, tetapi khususnya di Myanmar di mana layanan kami dapat digunakan untuk memperkuat kebencian atau memperburuk bahaya terhadap Rohingya. ”

Dia menambahkan bahwa Facebook berfokus pada mengatasi tantangan yang unik bagi Myanmar “melalui kombinasi orang, teknologi, kebijakan, dan program.” Perusahaan juga mengatakan telah melarang beberapa “tokoh dan organisasi kebencian” di Facebook di Myanmar.

Perjuangan Facebook di Myanmar adalah di antara masalah yang lebih luas yang dihadapinya. Kesaksian kongres Zuckerberg pada bulan April terutama berfokus pada kesalahan penanganan data pengguna perusahaan, apakah itu menyensor pandangan konservatif dan eksploitasi Rusia terhadap Facebook untuk ikut campur dalam pemilihan presiden A.S. 2016.

Dari semua kesusahan Facebook, Myanmar mungkin yang paling berdarah. Militer Myanmar dituduh oleh AS telah melakukan kampanye brutal pembunuhan, pemerkosaan massal, pembakaran dan pembersihan etnis terhadap Rohingya. Pemerintah membantah tuduhan itu.

Raksasa media sosial itu tidak mempublikasikan data tentang pidato kebencian di Myanmar. Dikatakan memiliki 2,2 miliar pengguna global dan setiap minggu menerima jutaan laporan pengguna dari seluruh dunia tentang konten yang bermasalah.

Dalam menyusun contoh pidato kebencian untuk artikel ini, Reuters menemukan beberapa yang kemudian dihapus Facebook. Tetapi sebagian besar tetap online pada awal Agustus.

Setelah Reuters memberi tahu Facebook tentang beberapa pos penghinaan yang termasuk dalam cerita ini, perusahaan itu mengatakan menghapusnya. “Semua itu melanggar kebijakan kami,” katanya.

Reuters sendiri terkadang menandai ancaman Facebook yang dipasang di platform terhadap reporternya. Ini termasuk jurnalis Burma Wa Lone dan Kyaw Soe Oo, yang diadili di Myanmar dengan tuduhan melanggar hukum rahasia negara. Keduanya ditangkap pada bulan Desember ketika melaporkan pembantaian 10 pria Rohingya dan telah menerima banjir ancaman kematian di media sosial atas kisah mereka. Facebook telah menghapus konten semacam itu beberapa kali atas permintaan kantor berita.

‘Mengirim bunga’

Myanmar muncul dari beberapa dekade pemerintahan militer pada 2011, tetapi kekerasan agama telah merusak transisi ke demokrasi. Pada 2012, bentrokan di Negara Bagian Rakhine antara etnis Rakhine, yang beragama Budha, dan Rohingya menewaskan puluhan orang dan menyebabkan 140.000 orang terlantar – kebanyakan Muslim.

Dominasi Facebook yang luar biasa di Myanmar mulai berakar pada waktu yang bersamaan. Tapi tidak dengan desain.

Baru-baru ini enam tahun lalu, Myanmar adalah salah satu negara yang paling tidak terhubung di dunia. Pada 2012, hanya 1,1 persen dari populasi yang menggunakan internet dan sedikit orang yang memiliki telepon, menurut International Telecommunication Union, sebuah agen AS. Junta yang telah memerintah negara selama beberapa dekade membuat warga terisolasi.

Itu semua berubah pada 2013, ketika pemerintah semi-sipil mengawasi deregulasi telekomunikasi. Perusahaan telepon milik negara tiba-tiba menghadapi persaingan dari dua pendaftar telepon seluler asing dari Norwegia dan Qatar.

Harga kartu SIM turun dari lebih dari $ 200 menjadi $ 2 dan orang-orang membelinya berbondong-bondong. Pada 2016, hampir setengah populasi memiliki langganan ponsel, menurut GSMA Intelligence, cabang penelitian asosiasi perdagangan industri. Smartphone yang paling banyak dibeli dengan akses internet.

Satu aplikasi menjadi viral: Facebook. Banyak yang melihatnya sebagai solusi menyeluruh – menawarkan sistem pengiriman pesan, berita, dan video serta hiburan lainnya. Itu juga menjadi simbol status, kata Chris Tun, mantan konsultan Deloitte yang menyarankan pemerintah. “Jika Anda tidak menggunakan Facebook, Anda tertinggal,” katanya. “Bahkan nenek, semua orang ada di Facebook.”

Untuk menjaring pelanggan, operator telepon seluler Myanmar mulai menawarkan kesepakatan manis: gunakan Facebook tanpa membayar biaya data apa pun.

“Facebook harus mengirimkan bunga kepada saya, karena kami telah menjadi akselerator untuk melakukan penetrasi,” kata Lars Erik Tellmann, yang hingga Juli adalah kepala eksekutif Telenor Myanmar, bagian dari Grup Telenor Norwegia. “Ini adalah inisiatif yang kami ambil sepenuhnya atas inisiatif kami sendiri. Dan ini sangat populer. ”

Di Myanmar hari ini, pemerintah sendiri menggunakan Facebook untuk membuat pengumuman besar, termasuk pengunduran diri presiden pada bulan Maret.

‘Genosida semua Muslim’
Pada musim gugur 2013, Aela Callan, seorang pembuat film dokumenter Australia yang belajar di Stanford University, memulai proyek tentang pidato kebencian dan laporan palsu yang telah menyebar secara online selama konflik antara umat Buddha dan Muslim Rohingya pada tahun sebelumnya. Pada Juni 2012, setidaknya 80 orang tewas dalam kerusuhan dan ribuan orang Rohingya dipindahkan ke kamp-kamp interniran yang jorok. Cacingan anti-Rohingya muncul di Facebook. Satu kelompok nasionalis Buddhis membuat halaman yang disebut “Kalar Beheading Gang.”

Pada November 2013, dia bertemu di markas Facebook California dengan Elliott Schrage, wakil presiden komunikasi dan kebijakan publik. “Aku berusaha memperingatkannya tentang masalah itu,” katanya.

Email di antara keduanya menunjukkan bahwa Schrage menghubungi Callan dengan internet.org, sebuah inisiatif Facebook untuk membawa internet ke negara-negara berkembang, dan dengan dua pejabat Facebook, termasuk yang bekerja dengan organisasi masyarakat sipil untuk membantu perusahaan dalam mengatasi kebencian pidato.

“Dia tidak menghubungkan saya dengan siapa pun di Facebook yang bisa menangani masalah yang sebenarnya,” katanya.

Diminta komentar, Schrage merujuk Reuters kepada pers di Facebook. Perusahaan tidak mengomentari pertemuan tersebut.

Matt Schissler, seorang mahasiswa doktoral di University of Michigan, mengatakan bahwa antara Maret dan Desember 2014, ia mengadakan diskusi dengan para pejabat Facebook dalam serangkaian panggilan dan komunikasi online. Dia mengatakan kepada mereka bagaimana platform itu digunakan untuk menyebarkan pidato kebencian dan desas-desus palsu di Myanmar, katanya, termasuk melalui akun palsu. Dia dan aktivis lainnya memberi perusahaan contoh-contoh spesifik, termasuk halaman Facebook dalam bahasa Burma yang disebut, “Kami akan mem-genosida semua Muslim dan memberi mereka makan anjing-anjing.” Halaman itu dihapus.

Schissler berasal dari grup Facebook pribadi yang dibentuk sehingga aktivis hak asasi manusia, peneliti, dan karyawan perusahaan Myanmar seperti kepala kebijakan Asia Pasifik Garlick dapat membahas cara mengatasi pidato kebencian dan masalah lainnya. Para aktivis mengemukakan banyak masalah dengan sistem pelaporan multi-langkah Facebook untuk konten yang bermasalah. Sebagai salah satu contoh, mereka mengutip foto seorang pekerja bantuan di Negara Bagian Rakhine di sebuah pos yang memanggilnya “pengkhianat bagi bangsa.” Itu telah dibagikan 229 kali, menurut pesan yang ditinjau oleh Reuters.

Salah satu anggota grup swasta telah melaporkannya ke Facebook sebagai pelecehan terhadap seorang individu tetapi kemudian menerima pesan kembali: “Kami meninjau foto yang Anda laporkan karena mengandung ucapan kebencian atau simbol dan ternyata itu tidak melanggar Standar Komunitas kami.” keluhan oleh aktivis selama enam minggu, seorang karyawan Facebook akhirnya menjelaskan kepada para aktivis bahwa permintaan penghapusan telah ditolak karena foto tersebut telah dilaporkan, tetapi tidak ada komentar di atasnya. Akhirnya diturunkan.

Pada Maret 2015, Schissler memberi ceramah di markas besar Facebook California tentang media baru, terutama Facebook, dan kekerasan anti-Muslim di Myanmar. Lebih dari selusin karyawan Facebook hadir, katanya.

Dua bulan kemudian, Madden, pengusaha teknologi, memberi ceramah di markas Facebook tentang ketegangan dan kekerasan antara umat Buddha dan Muslim. Dia mengatakan dia memperlihatkan gambar yang telah disebarkan yang telah menyebar di Facebook pemimpin de facto negara itu, Aung San Suu Kyi, yang beragama Buddha, mengenakan jilbab Muslim. Gambar itu, kata Madden, dimaksudkan untuk menyiratkan bahwa dia bersimpati kepada Muslim – “pesan yang sangat negatif” di Myanmar.

“Inti dari presentasi ini benar-benar hanya untuk membunyikan alarm, untuk menunjukkan dengan sangat jelas konteks di mana Facebook beroperasi, dan sudah menjadi bukti bagaimana itu disalahgunakan,” katanya. Dia meninggalkan pertemuan dengan berpikir bahwa audiensnya menanggapi pembicaraan dengan serius dan akan mengambil tindakan.

Madden telah mendirikan pusat teknologi dan akselerator start-up di Yangon bernama Phandeeyar. Dia mengatakan dia dan orang lain yang terlibat dengan usaha itu berinteraksi dengan Facebook “puluhan kali” selama beberapa tahun ke depan, termasuk melalui email, di grup Facebook pribadi dan secara langsung, menunjukkan bagaimana sistem jaringan untuk mendeteksi dan menghapus konten berbahaya tidak efektif . Dia tidak yakin langkah apa yang diambil perusahaan dalam menanggapi. “Masalah utama adalah bahwa mekanisme yang mereka miliki untuk menarik kebencian tepat waktu, sebelum itu benar-benar membahayakan dunia nyata, mereka tidak bekerja,” katanya.

Madden dan Jes Kaliebe Petersen, kepala eksekutif Phandeeyar, mengatakan Facebook masih terlalu mengandalkan kelompok mereka dan sukarelawan lain untuk melaporkan pos berbahaya. “Seharusnya tidak menjadi tanggung jawab organisasi seperti kita atau orang-orang yang terhubung dengan orang-orang di Facebook untuk melaporkan hal-hal ini,” kata Petersen.

Pada bulan April, tak lama sebelum kesaksian Senat Zuckerberg, Phandeeyar dan lima kelompok Myanmar lainnya mengecamnya karena mengklaim dalam sebuah wawancara dengan Vox bahwa sistem Facebook telah mendeteksi dan menghapus pesan-pesan pembakar pada bulan September tahun lalu. “Kami percaya sistem Anda, dalam hal ini, adalah kami,” tulis mereka. Zuckerberg meminta maaf.

Kembali pada tahun 2014, organisasi teknologi dan peneliti bukan satu-satunya yang terdengar khawatir dengan Facebook. Begitu juga pemerintah Myanmar.

Pada bulan Juli tahun itu, kerusuhan meletus di pusat kota Mandalay setelah desas-desus palsu menyebar secara online, di Facebook dan di tempat lain, bahwa seorang pria Muslim telah memperkosa seorang wanita Budha. Seorang pria Buddha dan seorang pria Muslim terbunuh dalam pertempuran itu.

Pemerintah Myanmar meminta Tun, yang saat itu menjadi konsultan Deloitte, untuk menghubungi perusahaan. Dia mengatakan dia tidak berhasil pada awalnya, dan pemerintah secara singkat memblokir Facebook.

Tun mengatakan dia akhirnya membantu mengatur pertemuan antara pemerintah dan Facebook. “Apa yang mereka janjikan untuk lakukan adalah, ketika Anda menemukan berita palsu, Anda dapat menghubungi mereka melalui email,” kata Tun tentang Facebook. “Dan mereka akan mengambil tindakan – mereka bersedia untuk mengambil halaman setelah proses verifikasi mereka sendiri.”

Pemerintah mulai melaporkan kasus ke Facebook, tetapi Tun mengatakan dia dengan cepat menyadari bahwa perusahaan tidak dapat menangani teks Burma. “Jujur, Facebook tidak tahu tentang konten Burma. Mereka sama sekali tidak siap, ”katanya. “Kami harus menerjemahkannya ke bahasa Inggris untuk mereka.”

’Saya tidak tahu bahasa’

Pada Agustus 2013, Zuckerberg mengumumkan rencana untuk membuat internet tersedia untuk pertama kalinya bagi miliaran orang di negara-negara berkembang.

“Segala sesuatu yang dilakukan Facebook adalah tentang memberikan semua orang di seluruh dunia kekuatan untuk terhubung,” katanya. Perusahaan sekarang akan bekerja, tambahnya, untuk membuat “akses internet tersedia bagi mereka yang saat ini tidak mampu membelinya.”

Namun di Myanmar, kendala bahasa akan menyebabkan masalah. Kebanyakan orang di sini tidak berbicara bahasa Inggris. Meskipun pengguna Myanmar pada saat itu dapat memposting di Facebook dalam bahasa Burma, antarmuka platform – termasuk sistemnya untuk melaporkan pos yang bermasalah – adalah dalam bahasa Inggris.

Yang memperburuk masalah, operasi perusahaan untuk memantau konten dalam bahasa Burma tidak seberapa.

Pada tahun 2014, raksasa media sosial hanya memiliki satu peninjau konten yang berbicara bahasa Myanmar: kontraktor lokal di Dublin, menurut pesan yang dikirim oleh karyawan Facebook dalam grup obrolan Facebook pribadi. Pembicara Burma kedua mulai bekerja pada awal 2015, pesan menunjukkan.

Di Manila – situs asli Project Honey Badger – tidak ada pengulas konten yang berbicara bahasa Myanmar. Orang yang meninjau konten Myanmar di sana berbicara bahasa Inggris.

“Dalam kasus-kasus seperti ucapan kebencian di mana kami tidak mengerti bahasa, kami akan mengatakan, ‘Saya tidak tahu bahasa itu,'” kata seseorang yang bekerja di sana. “Jadi klien harus menyelesaikannya,” kata orang itu, merujuk ke Facebook.

Pada 2015, Facebook memiliki sekitar empat pembicara Myanmar yang meninjau konten Myanmar di Manila dan Dublin. Mereka sangat kurus: tahun itu Facebook memiliki 7,3 juta pengguna aktif di Myanmar.

Accenture perlahan mulai mempekerjakan lebih banyak penutur bahasa Burma. Dengan bantuan penerjemah sukarela, Facebook juga memperkenalkan antarmuka berbahasa Burma.

Pada 2016, proyek Honey Badger telah pindah ke Kuala Lumpur setelah Accenture meyakinkan Facebook bahwa akan lebih mudah untuk merekrut orang Burma dan orang lain untuk bekerja di ibukota Malaysia daripada di Manila yang jauh, menurut seseorang yang akrab dengan masalah tersebut.

Di menara kantor di Kuala Lumpur, tim pemantau konten ditugaskan untuk menangani berbagai negara Asia, bukan hanya Myanmar. Mereka dibayar sekitar $ 850 hingga $ 1000 per bulan dan sering dipekerjakan oleh agen staf sementara, menurut mantan karyawan dan iklan rekrutmen online.

Facebook mengatakan dalam sebuah pernyataan: “Kami telah memilih untuk bekerja hanya dengan mitra global yang sangat terkemuka, yang menjaga karyawan mereka, membayar mereka dengan baik dan memberikan manfaat yang kuat – ini termasuk Accenture di Asia Pasifik.”

Seorang juru bicara untuk Accenture mengonfirmasi bahwa ia bermitra dengan Facebook. “Karakterisasi operasi kami sebagai ‘rahasia’ menyesatkan dan kerahasiaan diterapkan terutama untuk melindungi privasi dan keamanan karyawan kami dan klien yang kami layani,” kata juru bicara itu.

Orang komunikasi
Mantan pemantau konten mengatakan mereka masing-masing harus membuat penilaian pada 1.000 atau lebih item konten yang berpotensi bermasalah sehari, meskipun jumlahnya sekarang dipahami lebih sedikit. Aturan lengkap Facebook tentang apa yang boleh dan tidak diizinkan di platformnya tercantum dalam pedoman penegakan standar komunitas internal, yang diumumkan perusahaan untuk pertama kalinya pada bulan April. Ini mendefinisikan pidato kebencian sebagai “pidato kekerasan atau tidak manusiawi, pernyataan inferioritas, atau panggilan untuk dikeluarkan atau dipisahkan” terhadap orang-orang berdasarkan ras, etnis, afiliasi agama dan karakteristik lainnya.

Sebagai tanggapan, Facebook mengatakan: “Peninjau konten tidak diharuskan untuk mengevaluasi setiap jumlah posting … Kami mendorong pengulas untuk meluangkan waktu yang mereka butuhkan.”

Seorang pejabat Facebook juga mengatakan kepada Reuters kebijakan standar komunitas bersifat global, “tetapi ada nuansa lokal,” seperti cercaan, yang dapat dipertimbangkan oleh peninjau konten yang merupakan penutur asli ketika membuat keputusan. Namun, mantan pemantau konten mengatakan kepada Reuters bahwa aturan itu tidak konsisten; terkadang mereka bisa membuat pengecualian dan terkadang mereka tidak bisa.

Mantan pemantau konten juga mengatakan mereka dilatih untuk melakukan kesalahan dalam menjaga konten di Facebook. “Sebagian besar waktu, Anda mencoba memberi pengguna manfaat dari keraguan,” kata seorang mantan karyawan Facebook.

Mantan monitor mengatakan mereka kadang-kadang hanya memiliki beberapa detik untuk memutuskan apakah sebuah pos merupakan pidato kebencian atau melanggar standar komunitas Facebook dengan cara lain. Mereka mengatakan mereka tidak benar-benar mencari pidato kebencian sendiri; alih-alih, mereka meninjau antrian posting yang sebagian besar dilaporkan oleh pengguna Facebook.

Banyak dari jutaan item yang ditandai secara global setiap minggu – termasuk diatribes kekerasan dan citra seksual yang mengerikan – terdeteksi oleh sistem otomatis, kata Facebook. Tetapi seorang pejabat perusahaan mengakui kepada Reuters bahwa sistemnya mengalami kesulitan menafsirkan naskah Burma karena cara font-font itu sering ditampilkan di layar komputer, sehingga sulit untuk mengidentifikasi cercaan rasial dan ucapan benci lainnya.

Masalah Facebook terbukti dalam fitur baru yang memungkinkan pengguna menerjemahkan konten bahasa Burma ke dalam bahasa Inggris. Pertimbangkan sebuah pos yang ditemukan Reuters dari Agustus tahun lalu.

Di Burma, pos itu mengatakan, ”Bunuh semua kalar yang Anda lihat di Myanmar; tak satu pun dari mereka harus dibiarkan hidup. ”

Terjemahan Facebook ke dalam bahasa Inggris: “Saya seharusnya tidak memiliki pelangi di Myanmar.”

Sebagai tanggapan, Facebook mengatakan: “Tim terjemahan kami secara aktif bekerja pada cara-cara baru untuk memastikan bahwa terjemahannya akurat.” Perusahaan mengatakan menggunakan sistem yang berbeda untuk mendeteksi ucapan kebencian.

Guy Rosen, wakil presiden manajemen produk, menulis dalam sebuah posting blog di Facebook pada bulan Mei tentang masalah yang dihadapi perusahaan dalam mengidentifikasi ucapan kebencian. “Teknologi kami masih tidak berfungsi dengan baik sehingga perlu diperiksa oleh tim peninjau kami,” tulisnya.

Para pejabat Facebook mengatakan mereka tidak memiliki rencana segera untuk mempekerjakan karyawan di Myanmar sendiri. Tetapi perusahaan melakukan kontrak dengan agen-agen lokal untuk tugas-tugas yang tidak terkait dengan pemantauan konten. Salah satunya adalah Echo Myanmar, sebuah perusahaan komunikasi yang direktur pengelolanya adalah Anthony Larmon, seorang Amerika.

Larmon telah menyatakan pendapat kuat tentang Rohingya. Menjelang akhir 2016, tentara Myanmar melancarkan serangan di 10 desa setelah gerilyawan Rohingya menyerang pos perbatasan. Pada saat itu, seorang pejabat AS menuduh pemerintah mencari “pembersihan etnis” dari Rohingya.

Pada bulan November 2016, Larmon menulis bahwa sebuah artikel tentang tuduhan PBB itu “menyesatkan.” Ia mengutip apa yang ia katakan sebagai klaim oleh beberapa “wartawan lokal” bahwa etnis minoritas “sengaja membesar-besarkan (berbohong tentang)” situasi mereka untuk “mendapatkan lebih banyak orang asing bantuan dan perhatian. ”

Dia juga menulis: “Tidak, mereka tidak menghadapi pembersihan etnis atau apa pun yang dekat dengan apa yang disarankan istilah pembakar.” Dia mengatakan dia kemudian dihapus posting.

Seorang juru bicara Facebook mengatakan bahwa posting Larmon “tidak mewakili pandangan Facebook.”

Larmon mengatakan kepada Reuters: “Itu adalah komentar yang terlalu emosional dan kurang informasi tentang subjek yang sangat bernuansa yang saya sesali. Pandangan saya tentang Rohingya, yang sama dengan hari ini, adalah bahwa mereka harus dipulangkan dan dilindungi dengan aman. ”

Peron tempat dia menyiarkan pandangannya tentang Rohingya? Facebook.