İngiltere’de çocukların internet güvenliğiyle ilgili çalışma yürüten Internet Watch Foundation (IWF), çocukların cinsel tacize uğramasıyla ilgili yapay zeka ile üretilmiş görüntülere dikkat çekti ve hükümete bu konuda harekete geçmesi çağrısında bulundu.
İngiltere’de çocukların internet güvenliğiyle ilgili çalışma yürüten Internet Watch Foundation (IWF), çocukların cinsel tacize uğramasıyla ilgili yapay zeka ile üretilmiş görüntülere dikkat çekti ve hükümete bu konuda harekete geçme çağrısı yaptı.
Görüntüleri inceleyen ve taciz içerikli görüntüleri kaldıran vakıf, yapay zeka ile üretilmiş görüntülerin arttığına dikkat çekiyor.
Vakıf, sonbaharda İngiltere’nin ev sahipliğinde yapılacak ilk yapay zeka küresel güvenlik zirvesinde Başbakan Rishi Sunak’ın bu konuda adım atmasını istiyor.
IWF yapay zeka ile üretilmiş görüntüleri geçen ay ilk kez listelemeye başladı.
Bu tür görüntülerin dünyanın birçok yerinden albüm şeklinde paylaşıldığı ve bazılarının fotoğraf kadar gerçekçi göründüğü belirtiliyor.
Vakfın CEO’su Susie Hargreaves, “Şu anda bu görüntüleri çok sayıda görmüyoruz, ama suç işleyenlerin çok sayıda gerçekçi çocuk cinsel istismarı görüntüleri üretme potansiyeli var” dedi.
5 yaşındaki kız çocuklarının cinsel pozisyonlarda çıplak poz verdiğini gösteren bazı görüntülerin redakte edilmiş versiyonlarından BBC’ye örnekler gösterdi.
IWF, internette çocuk istismarı içeriklerini aktif olarak arama yetkisine sahip dünyadaki sadece üç yardım kurumundan biri.
Yapay zeka ile üretilmiş görüntüleri listelemeye 24 Mayıs’ta başlayan vakıf 5 haftada 29 internet sitesinde araştırma yaptı ve yapay zeka görüntüleri içeren galerileri paylaşan 7 web sayfası tespit etti.
Görüntülerin tam sayısı verilmese de yapay zeka ile üretilmiş onlarca görselin yasa dışı sitelerde paylaşılan gerçek istismar materyalleri arasına karıştığı belirtildi.
Bunlardan bazıları, uzmanların Kategori A olarak sınıflandırdığı, cinsel birleşme görüntüleriydi.
Çocuk istismarı görüntüleri oluşturmak hemen hemen her ülkede yasa dışı.
Yapay zeka ile üretilen görüntüler artıyor
Hargreaves’e göre, “Şimdi bu gelişen teknolojinin önüne geçmek için bir şansımız var, ancak mevzuatın bunu dikkate alması ve bu yeni tehdit ışığında amaca uygun olması gerekiyor”.
Başbakan Sunak, İngiltere’nin yapay zeka güvenliği konusunda dünyanın ilk küresel zirvesine ev sahipliği yapma planlarını Haziran ayında açıklamıştı.
Hükümet, yapay zekanın risklerini değerlendirmek ve uluslararası eşgüdümlü eylem planlarıyla bunların nasıl azaltılabileceğini tartışmak üzere uzmanları ve kanun yapıcıları bir araya getirmeyi hedeflediğini belirtiyor.
Çalışmalarının bir parçası olarak, IWF analistleri istismar görüntülerindeki eğilimleri kaydediyor. Örneğin, son zamanlarda çocukların kendi çektikleri videoları veya görüntüleri göndermeye zorlandığı istismar içerikleri artış gösteriyor.
Vakıf, yapay zeka ile üretilen görüntülerin artış göstermesinden endişe ediyor.
2022 yılında IWF, çocuklara yönelik cinsel istismar görüntüleri içeren 250.000’den fazla web sayfasını kaydetmiş ve çevrimdışı hale getirmeye çalıştı.
Uzmanlar ayrıca forumlarda, çocukların gerçeğe en yakın görüntülerinin nasıl oluşturulacağına dair ipuçları paylaşanlar arasındaki konuşmaları da kaydetti.
Yapay zekanın istismar görüntüleri yaratması için ne şekilde manipüle edileceğine, açık kaynak yapay zeka modellerinin nasıl indirileceğine ve güvenlik bariyerlerinin nasıl kaldırılacağına dair açıklamalara rastladılar.
Çoğu yapay zeka görüntü oluşturucu, kullanıcıların yasaklı kelimeler veya ifadelerle içerik oluşturmasını engellemek için katı kurallar içerse de, açık kaynak araçlar ücretsiz olarak indirilebiliyor ve kullanıcının istediği şekilde değiştirilebiliyor.
‘Görüntüler ciddi zarar verebilir’
BBC, ergenlik çağındaki kız çocuklarının cinselleştirilmiş görüntülerini oluşturmak için Stable Diffusion’ın özel bir versiyonunu kullanan bir yapay zeka görüntü üreticisiyle konuştu.
Japon erkek, ürettiği “sevimli” görüntüleri savunarak “tarihte ilk kez gerçek çocuklar istismar edilmeden çocuk görüntüleri yapılabildiğini” söyledi.
Ancak uzmanlar görüntülerin ciddi zarar verebileceğini söylüyor.
ABD’de cinsel suçlar işleyenler ve pedofiller konusunda uzman Dr. Michael Bourke, “Yapay zeka ile üretilen görüntülerin bu eğilimleri artıracağına, bu sapkınlığı güçlendireceğine ve dünyanın dört bir yanındaki çocuklara daha fazla zarar verme riski taşıdığına hiç şüphem yok” dedi.
Stable Diffusion’ın geliştiricilerinden Profesör Bjorn Ommer, Ağustos 2022’de platformu açık kaynak haline getirme kararını savundu ve o zamandan bu yana yüzlerce akademik araştırma projesinin ortaya çıktığını söyledi.
Ommer bunun kendisinin ve ekibinin kararını haklı çıkardığını ve araştırmayı durdurmanın doğru olmadığını öne sürüyor.
“Bunun dünya çapında, küresel bir gelişme olduğu gerçeğiyle yüzleşmemiz gerekiyor. Bunu durdurmak, demokratik olmayan ülkelerde bu teknolojinin küresel olarak gelişmesini durdurmayacaktır. Hızla ilerlediğini gördüğümüz bu gelişmeyi dikkate alıp risk giderecek adımlar atmamız gerekiyor” diyor.
Modelin geliştirilmesini finanse eden Stability AI, Stable Diffusion’ın yeni versiyonlarını geliştiren şirketlerden biri. Şirket röportaj teklifini reddetti ancak daha önce yaptığı açıklamada yapay zeka versiyonlarının yasa dışı ya da ahlaka aykırı amaçlarla kötüye kullanılmasını yasakladığını söylemişti.
