Facebook'ta sakıncalı içerik moderatörleri: Psikolojimiz bozuldu!

Facebook'ta sakıncalı içerikleri denetlemekle sorumlu olan moderatörler, her gün karşılaştıkları yüzlerce nefret söylemi ve cinsel istismar vakası nedeniyle psikolojilerinin bozulduğunu anlattı.

Eklenme Tarihi: 17 Eylül 2019

Dünya çapında 2.41 milyon kullanıcısı olan Facebook’ta nefret söylemi, cinsel istismar ve ırkçılığa karşı içerik kontrolü yapan binlerce moderatörün yaşadığı psikolojik sorunlar tartışılıyor. Moderatörlerin bazılarının maruz kaldıkları nefret söylemi ve yalan haberler nedeniyle paranoyaklaştığı, faşist siyasi görüşlere kaydığı, müstehcen içeriklere bağımlı hale geldiği veya tüm bunlarla başa çıkamayarak alkol ve uyuşturucuya yöneldiği, birçoğunun psikolojik destek almak zorunda kaldığı belirtiliyor.

Söz konusu tartışma ilk olarak şubat ayında The Verge sitesi tarafından haberleştirilmiş, Facebook da gelen tepkiler üzerine moderatörlerin iş yükünü hafifletme kararı almıştı. Ancak yeni düzenlemeye rağmen, kota üzerinden çalışan moderatörlerden günde 400 ila 500 içeriği kontrol etmeleri bekleniyor. Bu durum günde sekiz saatlik mesai için dakikada yaklaşık bir içerik anlamına gelirken, moderatörlerin akıl sağlığı adeta bir sosyal deneye tabi tutulmaya devam ediyor.

Facebook’un Berlin’deki moderasyon merkezinde çalışan bir grup moderatör, yaşadıklarını The Guardian gazetesine anlattı. Moderatörlerden biri, yetişkinlerle 18 yaşın altındaki kullanıcılar arasında Facebook’un algoritması tarafından olası cinsel istismar ihtimali saptanıp ‘sakıncalı’ olarak işaretlenen konuşmaların özellikle rahatsız edici olduğunu söyledi.

Duvar'da yer alan habere göre, algoritmanın önlerine getirdiği ikili özel sohbetlerin ‘yüzde 90 oranında’ cinsel içerikli olduğunu anlatan moderatör, “[Bu mesajları okuyunca] Her gün inşa etmekte olduğumuz distopik toplum hakkında daha fazla şey öğreniyorsunuz. Avrupa’dan ABD’den, Filipinler’deki çocuklara yazan zengin beyaz erkekler var… 10 veya 20 dolar karşılığında cinsel fotoğraflar almaya çalışıyorlar” dedi.