Tr 
En 
Kullanıcılara yapay zeka destekli “sansürsüz” cinsel içerikli sohbet botu yapma olanağı tanıyan Muah AI siber saldırıya uğradı. Saldırı sonrası ortaya çıkan verilere göre kullanıcılar, botlarla çocukların istismar edildiği simülasyonlar yapmaya çalıştı.
ARMAĞAN TEZEL
Kullanıcıların kendi yapay zeka destekli cinsel içerikli sohbet botlarını yapmalarını sağlayan Muah AI isimli yapay zekâ aracı siber saldırıya uğradı. 404 Media’da yer alan habere göre saldırıyla, “sansürsüz” bir şekilde sohbet botu oluşturulabilen platformun kullanıcılarının verileri çalındı.
Çalınan veriler, kişisel bilgilerinin yanı sıra Muah AI kullanıcılarının sohbet botlarından ne istediklerini ve fantezilerini de ortaya koydu. Verileri inceleyen 404 Media, kullanıcıların büyük çoğununluğunun çocuk rolü yapabilecek cinsel içerikli sohbet botu oluşturmaya çalıştığınız tespit etti.
Kaliforniya merkezliMuah AI’ı hackleyen ve 404 Media’ya konuşan hacker, “Siteyi, oluşturduğum bir yetişkin film senaryosuyla mastürbasyon yapmak amacıyla ziyaret ettim. Bu esnada da Muah AI’ın internet sitesinin kötü bir şekilde oluşturulduğunu fark ettim” dedi.
İnternet sitesinin, birkaç açık kaynak projesinin birbirine yamanmış hali gibi durduğunu söyleyen hacker, “Biraz araştırmaya başladım ve nispeten hızlı bir şekilde bazı güvenlik açıkları buldum. Başlangıçta bunu sadece merakımı gidermek için yapmıştım ama veritabanında ne olduğunu görünce 404 Media ile iletişime geçmeye karar verdim” diye konuştu.
“Yeni doğan bebeklerin istismar edilmesi hakkında komutlar girildi”
404 Media’ya göre çalınan veriler arasında küçük çocuklara yönelik cinsel istismarla ilgili açık komutlar ve mesajlar bulunuyor. Verileri inceleyen 404 Media’ya göre bir kullanıcı, oluşturmaya çalıştığı cinsel içerikli sohbet botundan, içerisinde “yeni doğan bebekler” ve “küçük çocuklar”ın katıldığı bir seks partisi atmosferi yaratmasını istedi.
Hacker, Muah AI’ın kullanıcıların bu gibi taleplerini gerçekleştirip gerçekleştirmediğini doğrulayamadı.
Muah AI: Saldırıyı sektördeki rakiplerimiz finanse etti
Habere göre Muah AI yöneticisi Harvard Han, siber saldırıyı geçen hafta fark etti. Han, siber saldırının sansürsüz yapay zeka endüstrisindeki sohbet botu üreticisi rakipleri tarafından finanse edildiğini iddia etti. Ancak yöneticiler buna dair bir kanıt sunamadı.
Han, Muah AI kullanıcıları tarafından oluşturulan tüm sohbet botlarının yer aldığı bir listelerinin olduğunu söyledi ve ekledi: “Discord, Reddit ve listemizdeki çocuklarla ilgili olarak oluşturulmuş sohbet botlarını askıya alan ve silen bir moderasyon ekibimiz var” dedi.
Muah AI, kendini “‘sansürsüz’ bir yapay zeka sohbet botu platformu” olarak tanımlıyor ve kullanıcıların müstehcen içerikli diyalog ve fotoğraflar oluşturmasına olanak tanıyor. Ancak, platform, aynı zamanda reşit olmayan tüm içeriklerin yasaklandığını iddia ediyor.
Muah AI’a reşit olmayan iki yapay zeka karakteri
404 Media’ya göre site yönetimi, iki kullanıcının Muah AI’da reşit olmayan yapay zeka karakteri oluşturduğuna yönelik bildirim aldığında, bir moderatör, “bu saçmalığı burada paylaşmamayın, birbirinize DM atın ya da başka şeyler yapın” diye yanıt verdi.
ABD’de savcılar, bunu bir tehdit olarak görüyor: “Dahası gelecek”
Amerika Birleşik Devletleri’nde (ABD) savcılar, yapay zeka tarafından üretilen çocuk cinsel istismarı görüntülerinin arttığını ve bunun bir tehdit haline geldiğini söylüyor.
Öyle ki ülkede yapay zeka araçlarıyla çocukların cinsel olarak istismar edildiği görüntüler oluşturan şüpheliler hakkında sıkı bir takip süreci yürütülüyor. ABD Adalet Bakanlığı, bunu yapan sanıklar hakkında iki farklı ceza davası açtı.
CNA’e konuşan Adalet Bakanlığı Bilgisayar Suçları ve Fikri Mülkiyet Bölümü Başkanı James Silver, benzer davaların daha da artacağını öngörerek "daha fazlası gelecek" dedi.
"Bizim endişemiz bunun normalleşmesi” diyen Silver, "Yapay zeka bu tür görsellerin üretilmesini kolaylaştırıyor ve ne kadar çok görsel varsa, bu o kadar normalleşiyor. Bu gerçekten engellemek ve önüne geçmek istediğimiz bir şey” ifadelerini kullandı.
Michigan’da bir erkek tutuklandı
26 Eylülde Michigan'da Trevor Alan Klinert isimli bir erkek, sosyal medyada paylaşılan bir çocuk fotoğrafını yapay zeka araçlarıyla çocuk pornografisine dönüştürdüğü iddiasıyla tutuklandı.
25 yaşındaki Klinert, dördü “çocuğa yönelik cinsel istismar”, dördü de “suç işlemek için bilgisayar kullanma” olmak üzere sekiz suçlamayla karşı karşıya.
UpNorthLive’daki habere göreyse Michigan eyaletinin Genesee County ilinde yaşayan Klinert, 2017 yılında da çocuk pornografisiyle ilgili suçlamalarla karşı karşıya kalmıştı.
Pensilvanya Eyalet Senatosu, yapay zekayla yapılacak istismarı önlemek için yasayı geçirdi
8 Ekim Salı günü Pensilvanya Eyalet Senatosu'ndan geçen ve Temsilciler Meclisinden de onay alan bir yasa tasarısıyla Pensilvanya'da yapay zekayla oluşturulacak cinsel içerikli görüntülere karşı önlemler artırıldı.
Tasarıyla, çocukların cinsel istismarını içeren görselleri ifade eden Çocuk Cinsel İstismarı Materyalleri (CSAM) tanımı, çocukların yapay zeka tarafından oluşturulan görüntülerini de kapsayacak şekilde genişletecek.