Algoritmik Sansür: Yapay Zeka Çağında İfade Özgürlüğünün Sınırları

Bu yazı, yapay zekanın sivil toplum ve medyaya etkisinin ele alınacağı 'Yapay Temas' isimli yazı dizimizin üçüncü makalesidir.

ÖZGÜR KURTULUŞ

İnternet ve Sansür

İnternet öncesi dönemde sansür, gazetelerdeki, kitap ve dergilerdeki içeriklerin önceden ya da yayımlandıktan sonra hükümet veya yetkili otoriteler tarafından incelenmesi ve sakıncalı görülen içeriklerin yayından kaldırılması; televizyon ve radyo programlarının içeriğinin önceden onaylanması veya yayından kaldırılması; canlı yayınların sıkı kontrolü ve gerektiğinde canlı yayının kesilmesi; filmlerin ve tiyatro oyunlarının gösterim öncesinde denetlenmesi ve sakıncalı görülen sahnelerin kesilmesi veya gösteriminin yasaklanması şeklinde oluyordu.

İnternet ve sosyal medya teknolojisinin, bilgi ekosistemini radikal olarak dönüştürmesi, internetin toplumun alt-yapısına dönüşmesi ile birlikte sansür daha karmaşık, teknik, geniş çaplı bir hal aldı. Artık sansür, yalnızca belirli içeriklerin engellenmesi ile sınırlı kalmayıp, bilgi akışının tüm yönlerini kontrol etmeyi hedefleyen yöntemlerle uygulanıyor. Filtreler ve engellemeler ile, belirli web sitelerine, web sayfalarına, sosyal medya mesajlarına ve genel olarak internet hizmetlerine erişim engellenebiliyor. Hemen her ülkede kullanılan bu yöntemin en gelişmiş örneği, Çin’in, DPI¹ teknolojisini kullanarak oluşturduğu,“Büyük Güvenlik Duvarı” (Great Firewall) oldu. Çin bu uygulama ile belirli web sitelerini, sosyal medya platformlarını ve içerikleri sürekli olarak engelliyor ve internet trafiğini gözetim altında tutuyor.

Sosyal medya platformlarında belirli anahtar kelimelerin izlenmesi ve bu anahtar kelimeleri içeren içeriklerin otomatik olarak kaldırılması, ya da yargı kararı ile bazı içeriklerin erişiminin kısıtlanması, dijital sansürün sık gördüğümüz yöntemleri. İran’da belirli siyasi veya dini terimler kullanıldığında içeriklerin otomatik olarak  sansürlenmesi bu yönteme tipik bir örnek olarak gösterilebilir. Seçim dönemlerinde ya da protestoların arttığı dönemlerde internet hızının düşürülmesi (throttling) veya tamamen internetin kesilmesi; Netflix vb. dijital platformlarda özellikle cinsellik ve LGBTi temalı belirli içeriklerin bölgesel kısıtlamalarla sansürlenmesi; Signal, Telegram, ByLock vb. mesajlaşma uygulamalarının hükümet tarafından “terörist faaliyetlerle” bağlantılı olduğu iddiasıyla engellenmesi, HTTPS sertifikalarının hükümetler tarafından iptal edilmesi veya zorunlu kılınması; sosyal mecralarda kimlik doğrulama zorunluluğu ile anonimliğin zayıflatılarak otosansürün teşvik edilmesi; sosyal medya platformlarının çeşitli kriterlere göre sakıncalı buldukları birtakım içeriklerini silmek yerine erişimi sıfırlayarak, hiçbir kullanıcının görmediği bir şekilde muhafaza ettiği “gizli susturma” (shadowbanning) gibi çok sayıda teknik ve sofistike sansür yöntemi gelişti. Kısacası, çevrimiçi dünyanın bilgi bolluğu ya da bilgi düzensizliği sansür mekanizmalarının otomasyonunu gerektirdi. Buna, algoritmik sansür diyoruz. 

Yapay Zeka ve Sansür

Çok büyük miktarda veriyi, hızlı bir şekilde analiz edebilen ve kararlar verebilen yapay zeka sistemlerinin gelişimiyle birlikte, otoritelerin algoritmik sansürü daha etkin ve yaygın kullanabilmesi mümkün oldu. İklim krizi, kanser ve pandemi gibi dünyanın en önemli sorunlarına çözüm üretme vizyonu ile sunulan yapay zeka teknolojisi, hükümetlerin çevrimiçi sansürü, gözetimi ve denetimi yaygınlaştırmalarına olanak tanıdı. Yapay zeka destekli içerik denetiminin ardındaki temel fikir, sosyal medya platformlarında ve web sitelerinde kullanıcı tarafından oluşturulan içeriği hızlı bir şekilde otomatik olarak analiz etmek ve filtrelemek için makine öğrenimi algoritmalarını kullanmaktır.² Bu teknoloji, web siteleri ve sosyal medya platformlarında yayılan nefret söylemi ve dezenformasyon içeriklerin belirlenmesine olanak tanıdığı gibi³, hükümetler tarafından ‘sakıncalı’ bulunan içerikleri tespit etmekte de kullanılır. 

ABD merkezli kâr amacı gütmeyen bir kuruluş olan Freedom House, geçen yıl Ekim ayında yayınladığı rapor ile yapay zeka alanındaki hızlı ilerlemelerin çevrimiçi dezenformasyonu artırdığını ve hükümetlerin sansür ve gözetimi artırmasına olanak tanıdığını iddia etti.⁴ Rapora göre en az 21 ülkedeki yasal çerçeveler, dijital platformların istenmeyen politik, sosyal ve dini konuşmaları kaldırmak için makine öğrenimini kullanmasını teşvik ediyor. Yapay zeka, hükümetlerin "çevrimiçi sansürü artırmasına ve iyileştirmesine" ve dijital baskıyı artırmasına olanak tanıyor, böylece gözetimi ve dezenformasyonu daha yaygın, daha ucuz ve daha etkili hale getiriyor.

Dijital Diktatörün İkilemi

Yapay zekanın ve makine öğreniminin içerik denetiminde sansür amacıyla kullanılması sadece otoriter devletlerde değil demokratik devletlerde de yaygın bir uygulama. Bununla birlikte, yapay zeka teknolojisi gücünü internetten kazınan büyük verilden alıyor. Bir yapay zeka sistemi hacim olarak ne kadar büyük ve nitelikli verilerle eğitilirse o kadar hatasız ve iyi sonuçlar veriyor. Sansürün yaygın olduğu otoriter rejimlerdeki mevcut kontrol ve baskı kurumları, verideki bilginin miktarını ve kalitesini doğal olarak sınırlıyor. Bu ülkelerde yaşayan kullanıcıların stratejik davranışları, örneğin tercih sahteciliği⁵ ve otosansür, yapay zekanın gözetimi ve sansürü otomatikleştirmeyi öğrenmesi için gereken verinin niteliğini olumsuz etkiliyor. Bu etki, yapay zekanın hata yapma oranını artırarak otoriter bir kontrol aracı olarak kullanımında temel bir sınırlama oluşturuyor. Buna “dijital diktatörün ikilemi” adı veriliyor.⁶ Bu ikilem, kriz zamanlarında, insanlar gerçek tercihlerini ortaya koyduğunda daha da şiddetleniyor ve yapay zeka modellerinin performansında büyük bir düşüşe yol açıyor. Bu durum, aynı önyargılı veri üretim sürecinden daha fazla veri toplayarak çözülemeyeceği gibi, sadece otoriter ülkelerde geliştirilen yapay zeka sistemlerini değil, o ülkelerde üretilen verilerle eğitilen tüm yapay zeka sistemlerinin performansını da olumsuz etkiliyor. 

Ne Yapmalı?

Daron Acemoğlu ve Simon Johnson’ın “İktidar ve Teknoloji” adlı kitabı, teknolojinin tarih boyunca nasıl kullanıldığını ve bu süreçte eşitsizliklerin nasıl derinleştiğini ele alıyor.⁷ Kitap, teknolojinin ilerleme ile eş anlamlı olduğu mitini sorguluyor ve teknolojik gelişmelerin çoğunlukla gücü elinde bulunduran kesimin yararına hizmet ettiğini tarihten birçok örnekle savunuyor. İncelemelerde vurgulanan temel görüş, teknolojinin, özellikle yapay zekanın, toplumsal fayda sağlamak yerine genellikle mevcut güç dengesini pekiştirdiği ve toplumsal eşitsizlikleri artırdığı yönünde.

Yapay zeka destekli içerik denetimini ve sansürü de bu bağlamda değerlendirebiliriz. Öncelikli olan yapay zeka teknolojisinin potansiyeli değil, bu yıkıcı ve dönüştürücü gücün kimlerin elinde ne amaçla kullanıldığı olmalı. Günümüzde, internetteki bilgi akışını kontrol eden, denetim ve gözetim motivasyonuyla hareket eden ve giderek otoriterleşen yönetimlerin ve kar maksimizasyonu güdüsüyle hareket eden, dünyadaki her hükümetle karşılıklı fayda odaklı lobicilik faaliyetleri yürüten Google, Meta, Microsoft, Apple ve Amazon gibi tarihin en büyük ve güçlü şirketlerinin, bu teknolojiyi toplumların faydası için kullandıkları iddiası oldukça naif bir görüş. Dolayısıyla bugün gerek sansür gerekse dezenformasyon ile mücadelede görev devletler ve şirketlerden çok topluma düşüyor. Mevcut durumda, sansürü ve dezenformasyonu ifşa etmek, doğrulama yapmak, kayıt altına almak gibi önemli savunuculuk faaliyetlerinin etkisi bu bilgi ekosistemi içinde sınırlı. Şirketleri ve devletleri, dijital teknolojileri ve yapay zekayı toplumsal fayda üretmek için açık, şeffaf ve hesap verebilir bir biçimde kullanmaya teşvik edici kurumlar, organizasyonlar ve kampanyalar gerekli. Bununla birlikte, hak odaklı hareket eden örgütlü toplumsal güçlerin dikkatlerini içerik ve sosyal medya platformları, haber siteleri, veri merkezleri vb. dijital varlıkların mülkiyetine ve yönetimine sahip olmaya yöneltmeleri de son derece önemli. Örneğin kar amacı gütmeyen bir vakıf tarafından yönetilen Wikipedia, kitlesel kaynak geliştirme ile geleneksel ansiklopedi sektörünü ortadan kaldırarak bilgi ekosisteminde önemli bir varlık haline gelmiştir. Bu minvalde, formal ve informal sivil toplum örgütlenmelerin mesleki örgütlerin ve sosyal girişimlerin dikkatlerini dijital ekonomiye ve platform kooperatifçiliği⁸, veri kooperatifçiliği⁹ vb. sosyal ve dayanışma ekonomilerine yöneltmeleri gerekli. Toplumsal örgütlenmelerin çevrimiçi bilgi ekosisteminde etkin bir pozisyon almaları; sansür, dezenformasyon vb. ifade özgürlüğü meselelerinin yanı sıra veri sömürgeciliği, gözetim ve gizlilik ihlalleri gibi kişisel hak ve özgürlükleri de içeren şekilde, günümüzün en önemli sorunlarına alternatif çözüm yolları geliştirecektir. 

Günümüzde, iletişimin insan hayatının tümüne sirayet ettiği bu enformasyon bombardımanı içinde, teknolojiyi kullanarak, demokratik katılım alanları ve dijital kamusal alanlar inşa etmek için kar amacı gütmeyen devlet-dışı girişimlere acil ihtiyaç var. Aksi takdirde yapay zeka teknolojisindeki yeni gelişmelerle birlikte, sansürün, dezenformasyonun, gözetimin ve dolayısıyla güvensizliğin arttığı; insan hakları ve demokratik değerlerin giderek daha fazla aşındığı, gördüğümüze, işittiğimize de inanmayacağımız ‘hakikatsiz” (truthless) bir dünya bizi bekliyor.  

¹ Deep Packet Inspection (DPI), ağ yönlendiricileri veya güvenlik duvarları tarafından kullanılan gelişmiş bir veri inceleme teknolojisidir. DPI, ağ trafiğini analiz eder ve veri paketlerinin içeriğini detaylı bir şekilde inceler. Bu teknoloji, geleneksel paket inceleme yöntemlerinin ötesine geçerek, paket başlıklarının yanı sıra paketlerin içeriğini de analiz eder. DPI, çeşitli amaçlarla kullanılabilir, bunlar arasında güvenlik, ağ yönetimi ve sansür yer alır.

^{2 The role of AI in content moderation and censorship,  https://aicontentfy.com/en/blog/role-of-ai-in-content-moderation-and-censorship}

³ Factmata ve Full Fact gibi doğrulama platformları, çevrimiçi içeriğin güvenilirliğini değerlendirmek, yanlış iddiaları belirlemek ve kullanıcılara doğru bilgi sağlamak için makine öğrenimi algoritmalarını kullanıyorlar.

⁴ The Repressive Power of Artificial Intelligence, https://freedomhouse.org/report/freedom-net/2023/repressive-power-artificial-intelligence

⁵ Tercih sahteciliği (preference falsification), bireylerin gerçek tercihlerini veya düşüncelerini saklayarak, toplumun beklentilerine veya baskısına uygun şekilde farklı tercih veya düşünceler sergilemesi durumudur. Bu kavram, insanların sosyal, politik veya ekonomik baskılardan kaçınmak için gerçek hislerini gizlemeleri anlamına gelir.

⁶ The Limits of AI for Authoritarian Control, Eddie Yang, https://www.eddieyang.net/research/AI_limits.pdf

⁷ İktidar ve Teknoloji: Bin Yıllık Mücadele, Daron Acemoğlu ve Simon Johnson, Doğan Kitap, 2023

⁸ Platform Kooperatifçiliği Nedir?, https://www.platformkoop.org/platform-kooperatifciligi/

⁹ Yapay Zeka Çağında Veri Kooperatifleri, Özgür Kurtuluş, https://www.ekoiq.com/yapay-zeka-caginda-veri-kooperatifleri/