Yeni Bir Sömürgecilik: Yapay Zekâ
Sömürgecilik yalnızca tarihin tozlu sayfalarında kalmadı; biçim değiştirerek dijital çağa taşındı. Toprak yerine verilerimizi, zenginlik yerine hayatlarımızı çıkaran bir sistemin içindeyiz. Ulises A. Mejias, yapay zekâ çağında veri sömürgeciliğini anlatıyor.
1945 yılında, dünya üzerindeki her üç insandan biri sömürge yönetimi altında yaşıyordu. Bugün ise dünyadaki her iki kişiden biri, Facebook, Instagram ve WhatsApp’ın sahibi olan Meta’nın ürünlerinden en az birini kullanıyor. Yani dünyanın yüzde 50’si, bu şirketin kurallarına ve düzenlemelerine tabi bir şekilde yaşıyor.
Bu kıyaslama ilk bakışta haksız görünebilir. Sömürgecilik, beş yüzyıl boyunca milyonlarca insanın hayatına mal olan acımasız bir sömürü sistemiydi. Sömürge halkları bu sisteme zorla dâhil ediliyor, toprakları, emekleri ve kaynakları zor kullanılarak ellerinden alınıyordu. Biz ise, görünüşte gönüllü biçimde, büyük teknoloji şirketlerinin yarattığı platformlara ve ağlara katılıyor; hiçbir bedel ödemeden pek çok fayda elde ediyor gibiyiz. Bu nedenle, Büyük Teknoloji’nin mümkün kıldığı dünyanın kapsamı sömürgecilik kadar geniş olsa da ilk bakışta onun kadar şiddetli görünmez.
Oysa Nick Couldry ve benim ileri sürdüğümüz gibi, bu düzende rahatsız edici derecede sömürgeci bir yan var. Biz buna “veri sömürgeciliği” diyoruz ve bu sisteme katıldığımızda aslında bir bedel ödüyoruz. Eski sömürgecilik toprakları gasp ediyordu; yenisi ise bizi, verilerimiz aracılığıyla gasp ediyor. Yani hayatlarımız, içlerinden sürekli veri çekilebilecek şekilde yeniden yapılandırılıyor.
Bu sistemin amacı elbette şirketler için kâr üretmek. Ancak toplumsal etkisi, kâr oranlarının ima ettiğinden çok daha derin; bunu en açık biçimde, yapay zekâya baktığımızda görebiliyoruz.
Yapay Zekâ Çağı
Yapay zekâ alanındaki son gelişmeler, insan düşüncesine benzeyen süreçleri taklit edebilen sinir ağlarının geliştirilmesiyle mümkün hâle geldi. Ancak gerçekte bu sistemler, yalnızca bir soruna en olası ya da en muhtemel yanıtı hesaplamakta son derece başarılı, sofistike yazılımlardır. İnsan beyni az miktarda bilgiyle öğrenme ve çıkarım yapma kapasitesine sahipken, yapay zekânın “öğrenebilmesi” için çok büyük miktarda veriye ihtiyacı vardır. Yapay zekâ ne kadar fazla veriyle
eğitilirse, ürettiği sonuçların olasılık temsili veya doğruluğu da o kadar artar. Başka bir deyişle, yapay zekâya bir kedi resmi çizmeyi öğretmek istiyorsanız, ona binlerce, hatta on binlerce kedi fotoğrafı göstermeniz gerekir.
Ancak devasa miktardaki bu eğitim verisinin bir yerden gelmesi gerekir. İşte tam bu noktada veri sömürgeciliği devreye girer. Yapay zekânın gelişimi, bizleri, yani kamuyu üç tür yeni-sömürgeci sürece dahil eder: Verilerin bizden nasıl çıkarıldığına, bu teknolojiyi kontrol edenlere nasıl bağımlı hâle geldiğimize ve bu teknolojinin gözetim ve tahmin yoluyla bizi nasıl denetim altına aldığına. Aşağıda bu üç süreci kısaca ele alacağım.
Veri Çıkarımı: Dijital Sömürgeciliğin Yeni Biçimi
Eski sömürgecilik ile yenisi ölçek, yoğunluk ve biçim bakımından farklılık gösterse de aralarında temel bir benzerlik vardır: Her ikisinin de işlevi madencilik, yani çıkarım (extraction) yapmaktır. Önceki sömürgecilik biçimlerinde kaynakların ve emeğin sömürülmesi, bugün yerini hayatlarımızdan veri çıkarımına bırakmıştır. Dün olduğu gibi bugün de bu süreçlerin merkezinde mülksüzleştirme yer alır. Bu mülksüzleştirmenin en temel yollarından biri, ortak alanların çitle çevrilmesi veya özelleştirilmesidir.
Sömürgecilik öncesinde, dünyanın geniş kesimleri topluluklarca ortaklaşa yönetilen, bireysel mülkiyetin olmadığı ortak alanlardan oluşuyordu. Avrupa’da bu ortak alanların zamanla “çevrilmesi” (enclosure) sonucunda, fazla nüfus yeni topraklara yerleştirildi. Kendi topraklarını elde etmek isteyen bu sömürge yerleşimcileri, gittikleri yeni toprakları “ucuz” olarak görüyorlardı: Toprak sözde boldu, özgürdü ve sahipsizdi. En azından toprağın “uygar” sahipleri olmadığına inanılıyordu ve ele geçirilmek üzere orada öylece duruyordu.
Yapay zekâyı besleyen veri madenciliği, ortak alanların yeni bir “çitle çevrilme” biçimini temsil eder. Veri de tıpkı geçmişteki topraklar gibi “ucuz” görülür: Bol, sahipsiz ve onu bulan için bedavadır. Oysa veri doğal bir kaynak değildir; milyonlarca saatlik kolektif emeğimizin ürünü olarak bizler tarafından üretilmiştir. Tüm bu verileri biz oluşturduk, paylaştık ve daha fazlasını üretmek üzere faaliyetlerimizin izlenmesine izin verdik.
Veri üretirken ve izlenirken geçirdiğimiz zamanı, aslında yeni bir ortak kaynak, yani bir veri commons’a katkıda bulunduğumuz yanılgısıyla yaşadık. Çünkü veri, rekabetsiz bir kaynak olarak düşünülüyordu. Sonsuzca kullanılabilir, tükenmeden paylaşılabilir bir şeydi. Örneğin ben bir kedi fotoğrafı çekip çevrimiçi paylaştığımda, herkes onu görebilir, indirebilir, yeniden paylaşabilir ya da üzerinde değişiklik yapabilirdi; üstelik orijinalinden hiçbir şey eksilmeden.
Ancak o kedi fotoğraflarının çoğu ve kim olduğumuz, ne yaptığımız hakkındaki diğer tüm verilerimiz, şirketlerin sahip olduğu platformlarda toplandı. Facebook veya Google gibi platformlara “ücretsiz” oldukları için katılmamız teşvik edildi. Oysa bu platformların ücretsiz olmasının nedeni, ham maddeyi bizim sağlamamızdı. Biz, o platformlara değer kazandıran hammaddeler hâline gelmiştik. Böylece Büyük Teknoloji şirketleri bizden muazzam miktarda veri çekmeyi başardı; bu verileri önce reklamcılara satabilecekleri son derece ayrıntılı pazarlama profilleri oluşturmak için kullandılar, ardından da bizi o platformlara daha da bağımlı kılacak yapay zekâ sistemlerini eğitmek için.
Büyük Teknoloji Şirketlerine Bağımlılık
Sömürgecilik, sömürenle sömürülen arasında kurulan bağımlılık ilişkileri üzerine inşa edilmişti ve bu ilişkiler bugün hâlâ Küresel Kuzey ile Küresel Güney arasındaki etkileşimleri belirlemeye devam ediyor. Başlangıçta, sömürgeciler için yalnızca toprakları işgal etmek ve o topraklardan ham madde çıkararak bunları kendi ülkelerine taşıyıp zenginlik üretmek yeterliydi. Eski Dünya’dan Yeni Dünya’ya akan madenleri ve doğal kaynakları düşünün. Ancak zamanla sömürgecilik, mülksüzleştirmenin yeni yollarını icat eden başka bir sistemle, kapitalizmle, iç içe geçmeye başladı.
Kapitalistler, çoğu sömürgeci atalarının biriktirdiği servetle finanse edilmişti. Ham maddelerin mamul mallara dönüştürüldükten sonra yeniden sömürgelere satılabileceğini fark ettiler. Böylece sömürgeler, aynı madde için iki kez bedel ödemek zorunda kaldı: Önce çıkarım sürecinde, sonra da mamul mal olarak. Sanayi teknolojisinin üretimi ucuzlatması sayesinde bu mallar yerel üretimleri kolayca rekabet dışı bıraktı.
Örneğin pamuğu düşünün: Küresel Güney’deki plantasyonlardan toplanıyor, sanayileşmiş Kuzey’deki mekanik dokuma tezgâhlarında işleniyor, ardından tekrar sömürgelere veya eski sömürgelere ihraç ediliyordu. Bu süreçte yerel dokumacılar yok oldu. Sömürgeler hem ucuz kumaşlara bağımlı hâle geldi hem de kendi tekstil üretim kapasitelerini kaybettiler.
Bugün verilerimiz ve yapay zekâ ile benzer bir süreç yaşanıyor. Bize, bizden çıkarılan “ucuz” verilerin bireysel düzeyde neredeyse hiçbir işe yaramadığı, bu yüzden onların şirketler tarafından toplanıp işlenmesine izin vermemiz gerektiği söyleniyor. Bu şirketler, bizim “ham maddemizi” dönüştürerek yaşamlarımızı ve işlerimizi kolaylaştıracağı iddia edilen yapay zekâ modelleri gibi “yararlı” ürünler üretiyorlar. Bu süreç ileri düzey teknoloji gerektirdiğinden, yalnızca birkaç büyük şirket bunu gerçekleştirebiliyor. Ardından, işlenmiş verilerimiz AI adı altında bize yeniden satılıyor; tıpkı geçmişteki mamul mallar gibi. Bu ürünler bir yandan bazı işleri kendimizin yapma kapasitesini ortadan kaldırırken, diğer yandan onları üretme tekelini elinde tutan bu şirketlere daha da bağımlı hâle gelmemize yol açıyor. Böylece sömürgecilik ilişkileri, dijital biçimde yeniden üretilmiş oluyor.
Yapay Zekâ Sömürgeciliği ve Denetim
Bize yapay zekânın insanlığın en acil sorunlarının çoğunu çözebileceği söyleniyor. Bazı uygulamaların gerçekten de hayatlarımızı iyileştireceğine, örneğin hastalıkları tespit edeceğine, yeni aşılar geliştireceğine, çevresel sorunlara yönelik çözümler üreteceğine inanmak istiyoruz. Ancak şimdiden görülüyor ki, birçok başka uygulama ve yapay zekânın çevresel maliyeti, yaşamlarımız üzerinde olumsuz etkiler yaratacak. Bu nedenle, yapay zekânın en önemli kullanım alanlarından biri toplumları gözetim ve tahmin yoluyla onları kontrol altında tutmak olmaya devam edecek.
Sömürgeciliğin doğurduğu şiddet ve adaletsizlik, insanları direniş göstermeye davet eder ve bu direnişin bastırılması gerekir. Tıpkı çıkarılan kaynakların yönetimi gibi, sömürgecilik de her zaman hoşnutsuzluğu yönetmeye, gözetim yoluyla kontrol altına almaya çalışmıştır. Veri sömürgeciliğinde de durumun farklı olacağına inanmak için hiçbir neden yok. Zaten veri teknolojilerinin insanları izlemek ve takip etmek için kullanılmasına defalarca tanık olduk: Gözetim kameraları, yüz tanıma sistemleri, algoritmik profilleme, “önleyici” polislik uygulamaları… Yapay zekâ, gözetimin yeni sınırlarını genişletir; yalnızca tehditleri tespit etmekle kalmayıp, mevcut düzen için tehdit oluşturabilecek davranışları önceden tahmin etme yeteneğini de geliştirir.
Bu yeni gözetim biçimlerinin mağdurlarının, tıpkı geçmişte olduğu gibi, ırk, sınıf ve cinsiyet bakımından sömürgeciliğin geleneksel kurbanları olmaya devam edeceğini vurgulamak gerekir. Bunu zaten çeşitli örneklerle görüyoruz: Beyaz olmayan yüzlerde yanlış eşleşmeler üreterek masum insanların haksız yere hapse girmesine neden olan yüz tanıma algoritmaları; güvencesiz işçilerin ücretlerini giderek düşüren yapay zekâ modelleri; sağlık, barınma, eğitim veya finansal hizmetlere erişimde ırkçı sonuçlar üreten karar sistemleri; kadınları veya farklı cinsiyet kimliklerine sahip kişileri koruyamayan içerik denetleme algoritmaları; mültecilerin ve göçmenlerin mahremiyetini ihlal eden sistemler…
Bu sistemlerin yarattığı etkiler son derece somut: Mahremiyetin kaybı, fırsatların kaybı, onurun kaybı ve bazı durumlarda yaşamın kaybı. Başka bir deyişle, veri sömürgeciliği yüzyıllardır sömürgecilik bağlamında geliştirilen ırksal, toplumsal cinsiyete dayalı, sınıfsal (ve çevresel) şiddet biçimlerini yeniden üretiyor ve genişletiyor.
Yapay zekânın sömürgeci veri çıkarımı, bağımlılık ve denetim biçimlerine karşı direnmek, tıpkı sömürgeciliğin mirasını ortadan kaldırmanın imkânsız göründüğü gibi olanaksız görünebilir. Ancak sömürgecilik olduğu sürece, ona karşı direniş de olmuştur. Karşımızda ilham alabileceğimiz zengin bir sömürgesizleşme mücadelesi tarihi var. Sömürgeciliğe her zaman bedenen karşı çıkılamasa da zihnen karşı çıkılabildi. Bu yüzden, veri sömürgeciliğine alternatif gelecekleri kolektif ve yaratıcı biçimlerde hayal etmek, bugün her zamankinden daha hayati bir görev.
Bu içerik 345. Sayıda yayımlanmıştır
