- Facebook’ta nefret söylemi yaygınlığı üst üste dördüncü çeyrek boyunca azalmaya devam etti. Teknolojimizdeki gelişmeler ve yaptığımız değişikliklerle geçen yıl içinde yaygınlığı yarıdan fazla azalttık. Haber Kaynağı’ndaki sorunlu içeriği azaltın.
- İlk kez hem Facebook’ta hem de Instagram’da zorbalık ve tacize yönelik yaygınlık ölçümlerini, Instagram’da nefret söylemi için yaygınlık ölçümlerini ve şiddet ve kışkırtmaya yönelik tüm ölçümleri paylaşıyoruz.
- Ölçümlerimizin doğru şekilde ölçüldüğü ve rapor olduğunu doğrulamak için, EY tarafından denetim bu yılın dördüncü çeyreğini kapsayan sonuçlar 2022 baharında açıklanacak.
Bugün bizim Topluluk Standartları Uygulama Raporu 2021’in üçüncü çeyreği için. Bu rapor, Temmuz 2021’den Eylül 2021’e kadar politikalarımızı nasıl uyguladığımıza ilişkin ölçümler sağlar. Bu ek metriklerle artık Facebook’ta 14 ve Instagram’da 12 politika alanı hakkında rapor yapıyoruz.
Ayrıca şunları paylaşıyoruz:
Temmuz ayında ilkimizi paylaştık. Gözetim Kurulu üç aylık güncellemesi 2021’in ilk çeyreğini kapsıyor. Bu güncellemede, kurula yönlendirdiğimiz vakaların ayrıntılarını ve aldıkları tavsiyeler ve kararlar hakkında kurula verdiğimiz yanıtlarla ilgili güncellemeleri rapor ediyoruz. İleriye doğru, bu güncellemeleri Topluluk Standartları Uygulama Raporu ile birlikte dahil edeceğiz.
Bu raporların tümü, Şeffaflık Merkezi.
Rapordan Öne Çıkanlar
Facebook’ta nefret söyleminin yaygınlığı üst üste dördüncü çeyrek boyunca azalmaya devam etti. Q3’te, 10.000 içerik görüntülemesi başına %0,03 veya 3 izlenme oranı, %0,05’ten veya 2Ç’deki 10.000 içerik görüntülemesi başına 5 nefret söylemi görüntülemesi oldu. Nefret söyleminde azalma görmeye devam ediyoruz. teknolojimizdeki gelişmeler ve gelişmiş kişiselleştirme de dahil olmak üzere Haber Kaynağı’ndaki sorunlu içeriği azaltan değişiklikleri sıralama.
Instagram’da nefret söylemi yaygınlığı Q3 için% 0.02 idi ve bu sayıyı ilk kez bildiriyoruz.
Q3’te, Facebook’ta şiddet ve kışkırtma sıklığı% 0.04-0.05 veya içeriğin 10.000 görüntülemesi başına 4 ila 5 görüntülemeydi ve Instagram’da 10.000 içerik görüntülemesi başına% 0.02 veya 2 görüntüleme idi. Şiddet ve teşvik politikamızı ihlal ettiği için Facebook’ta 13,6 milyon içerik parçasını kaldırdık ve bu içeriğin %96,7’sini kimse bize bildirmeden proaktif olarak tespit ettik. Instagram’da bu içeriğin 3.3 milyon parçasını %96.4 proaktif tespit oranıyla kaldırdık. Altında kaldırabileceğimiz bir dizi içerik vardır. şiddet ve teşvik politikası birinin şiddeti savunabileceği veya şiddete niyet beyanında bulunduğu yer. Şiddeti teşvik etmeye çalışan içeriğin potansiyel olarak zararlı doğası nedeniyle, içeriğin şaka olup olmadığı belirsiz olsa bile, güvenlik konusunda aşırı endeksler ve bu tür içeriği kaldırırız. Bu, yaralanmaya neden olmak için silahların nasıl kullanılacağına dair talimatlar gibi ciddi bir şeyden, bir arkadaşınızın diğerine “Sizi öldürürüm!” dediği bir şakaya kadar değişebilir. Gerektiğinde, gerçek bir fiziksel zarar veya kamu güvenliğine doğrudan tehdit riski olduğuna inandığımız durumlarda kolluk kuvvetleriyle de çalışırız.
Q3’te, zorbalık ve taciz içeriğinin yaygınlığı% 0.14-0.15 veya Facebook’taki içeriğin 10.000 görüntüleme başına zorbalık ve taciz içeriğinin 14 ila 15 görüntülenmesi ve Instagram’daki içeriğin 10.000 görüntülemesi başına% 0.05-0.06 veya 5 ila 6 görüntüleme arasındaydı. Facebook’ta %59,4’lük proaktif bir oranla 9,2 milyon zorbalık ve taciz içeriğini kaldırdık. Ve Instagram’da %83,2 proaktif bir oranla 7,8 milyon zorbalık ve taciz içerikini kaldırdık. Zorbalık ve taciz benzersiz bir zorluktur ve bağlam kritik olduğu için ele alınması gereken en karmaşık sorunlardan biridir. Yaklaşımımız ve çabalarımız hakkında daha fazla bilgi edinin zorbalık ve taciz yaygınlığını azaltmak.
İnsanların Uygulamalarımızda Gördüğü Zararlı İçeriği Nasıl Azaltırız?
Her gün dünya çapında milyonlarca içeriği gözden geçirmek için uygulamamızı ölçeklendiriyoruz ve teknolojimizi tespit etmeye yardımcı olmak için kullanıyoruz ve gözden geçirilmesi gereken içeriğe öncelik verme. 70’in üzerinde dilde içerik ve 50’den fazla dilde nefret söylemi için yapay zeka teknolojisini inceleyen küresel inceleme ekiplerimiz var gibi teknolojiler oluşturmaya devam ediyoruz. RİO, WPIE ve XLM-R diller ve içerik türü (ör. metin, resim vb.) genelinde zararlı içeriği daha hızlı tanımlamamıza yardımcı olabilir. Bu çabalar ve yapay zeka araştırmalarına odaklanmaya devam etmek, platformlarımızı güvende tutmak için teknoloji ölçeğimize hızlı bir şekilde yardımcı oluyor. İçin çatışma yaşayan veya risk altında olan ülkeler, yerel topluluklarla çalışan, politikalar geliştiren, teknolojilerimizi geliştiren ve gerçek dünyadaki gelişmelere yanıt veren ekipler oluşturmak için çok yıllık yatırımlar yaptık.
İçerik ihlal etme yaygınlığını, algılama ve uygulamadaki iyileştirmeler ve Haber Kaynağı’ndaki sorunlu içeriği azaltma. Bu taktikler sadece geçen yıl Facebook’ta nefret söylemi yaygınlığını yarıdan fazla azaltmamızı sağladı ve aynı taktikleri şiddet, kışkırtma, zorbalık ve taciz gibi politika alanlarında da kullanıyoruz. Nefret söylemi, zorbalık ve taciz, şiddet ve kışkırtmayı daha iyi ele almak için – bunların hepsi dil, nüans ve kültürel normların anlaşılmasını gerektirir – bir yeni çapraz problemli yapay zeka sistemi her ihlal alanını daha iyi ele almak için üçü için de öğrenmeleri pekiştirmek.
Ayrıca, insanları topluluk standartlarımızı ihlal eden zorbalık ve taciz gibi düşmanca konuşmalar içerebilecek bir şey yayınlamaktan vazgeçirmek ve eğitmek için uyarı ekranlarını kullanıyoruz. Ekranlar, birisi içeriğin kurallarımızı ihlal edebileceğini ve gizlenebileceğini veya dağıtımın azaltılabileceğini açıklayan bir gönderi veya yorum yazdıktan sonra görünür. Bu içeriğin tekrar tekrar gönderilmesi, bir hesabın devre dışı edilmesine veya silinmesine neden olabilir.
İleriye Bakmak
Ürünlerimizin kötüye kullanımı statik değildir ve bütünlük çalışmalarımıza yaklaşım şeklimiz de öyle. Facebook, Instagram, Messenger, WhatsApp ve gelecek yıllarda metaverse oluşturacak ekiplerle bütünlük ekiplerini gömerek bütünlüğe nasıl yaklaştığımızı geliştirmeye devam ediyoruz. Ürün ekipleri mücadele bütünlük sorunları yeni ürünler oluşturmanın ve piyasaya sürmenin bir parçası olarak, metaverse oluşturma.
Ayrıca araştırmaya bağlıyız ve yeni başlattık a Facebook Açık Araştırma ve Şeffaflık (FORT) erken erişim programı akademik araştırmacılar için tasarlanmış bir API için, platformlarımızdaki verilere güvenli bir şekilde daha fazla erişim sağlarlar.
Zararlı içeriklerin her parçasını yakalamakta asla mükemmel olmayacağımızı biliyoruz. Ancak her zaman geliştirmek, daha anlamlı verileri paylaşmak ve kararlarımızı araştırmaya temel almaya devam etmek için çalışıyoruz.