Microsoft bugün, hassas medyalarından oluşturdukları dijital karma insanları kullanarak Bing'den zararlı samimi görüntüleri ve videoları proaktif olarak kaldırmak için StopNCII ile ortaklık kurduğunu duyurdu.
Stopncii, insanların medyayı telefonlarından yüklemeden samimi resim ve videolarının dijital karmalarını oluşturmalarını sağlayan Revenge Porn Yardım Hattı tarafından işletilen bir projedir. Stopncii daha sonra bu karmaları çevrimiçi olarak aynı veya benzer görüntüleri bulmak için kullanılan bir veritabanına ekler ve bu da Facebook, Tiktok, Reddit, Pornhub, Instagram, Onlyfans ve Snapchat dahil olmak üzere ortakları tarafından kaldırılır.
Mart ayında Microsoft, Photodna teknolojisini Stopncii ile paylaştı ve bir kişinin görüntüleri veya videoları cihazlarından ayrılmadan dijital karmaların geliştirilmesini sağladı.
"Stopncii.org'un zaten kullandığı (PDQ) karma teknolojisi gibi, Photodna, tanımlanmış zararlı görüntülerin dijital bir parmak izine zarar verilmesini sağlayan ek bir süreçtir, bu da rıksız olmayan herhangi bir tespiti tanımlamak ve kaldırmak için endüstri platformlarıyla paylaşılabilen ek bir süreçtir. Samimi görüntü kötüye kullanımı materyali, "diye açıklıyor Mart Duyuru.
Microsoft bugün Bing Arama Dizini'ndeki samimi görüntüleri kaldırmak için StopNCII'nin karma veritabanının kullanımına pilotluk yaptıklarını açıkladı. Bu veritabanını kullanarak Microsoft, Ağustos ayı sonuna kadar 268.899 görüntü üzerinde harekete geçtiklerini söylüyor.
Yapay zekanın yükselişi, çevrimiçi olarak paylaşılan samimi olmayan fotoğraflardan derin sahte çıplak görüntülerin artmasına neden oldu. Bu görüntüler sahte olsa da, sömürülenlere eşit derecede üzücü olabilirler.
DeepTrace'in 2019 tarihli bir raporu olan Now Lesity, İnternet'teki Deep pheake videolarının% 96'sının doğada pornografik olduğunu ve neredeyse tümünün bir kadının benzerliğinin rıza dışı kullanımı olduğunu gösterdi. Bu görüntülerin birçoğu "intikam pornosu", gasp veya vicdansız siteler tarafından gelir elde etmek için yüklenir.
Ne yazık ki, AI tarafından oluşturulan görüntüler Photodna karmalarına eşleşmeyi zorlaştırıyor. Bu durumlarda, etkilenenler görüntüleri manuel olarak Microsoft, Google ve diğer çevrimiçi medya şirketlerine bildirmelidir.
Microsoft, etkilenen kişilerin Bing arama dizininden gerçek veya sentetik görüntülerin çıkarılmasını istemek için raporlarını bir endişe sayfası kullanabileceğini söylüyor.
Google bu girişime katılmasa da, ayrıca yönergeler ve samimi görüntüleri dizinlerinden kaldırmanın bir yolu sağlarlar.
Google, Android'de Gemini AI ile gizliliğe odaklandığını söylüyor
X, Grook AI'yi yayınlarınızla eğitmeye başlar, işte nasıl devre dışı bırakılır
Sextortion Dolandırıcılığı Artık "Hile" eşinizin adını lüre olarak kullanın
AI ve Bots kullanarak 10 milyon dolarlık akışlı telif hakları sahtekarlığı ile suçlanan müzisyen
ClearView AI, yasadışı veri toplama için 30,5 milyon € para cezasına çarptırıldı
Kaynak: Bleeping Computer