Yapay zeka, panopticon inşa

Peki, bu distopik neo-panopticon düzenin karşısında ne durabilir? Geçtiğimiz günlerde PALANTIR şirketinin New York ofisi önünde eylem yapan göçmenler ve hak savunucularına kulak verilebilir.

Panopticon, Benthamcı iktidar fiziğince icat edilmiş ve çağlara damga vuracak bir hapishane sistemiydi. Cezaevi taslağı bir esaret abidesiydi. Fransa'dan diğer ülke ve kıtalara yayılacaktı. Michel Faucault Panopticon'u "Görülmeden gözetim altında tutan hapishane sistemi" olarak tanımlar. 17. yüzyıl Avrupasını kasıp kavuran veba ve cüzzam salgınları Panopticon'un ilham kaynağıdır. Zira kriz dönemi olarak salgınlar, tecrit ve izolasyon mekanizmalarının geliştiği dönemlerdir. Nihayetinde cezaevi sistemi de toplumsal tecridin bir türevidir. Böylece "Panopticon laboratuvar olma yanıyla deney yapma, tutukluları değiştirme, bireyleri terbiye veya yeniden terbiye mekanizması" olarak kullanıldı. Bir gözetim, denetim ve rehabilitasyon modeli olarak Panopticon, Fransa örneği üzerinden devlet katmanlarına, oradan toplum yönetimine uygulandı. Yöneten erkin alabildiğince görünmez bir kudrete sahip olduğu ve fakat bunun karşısında yönetilenlerin her daim gözlem altında tutuklukları ve zavallılık duygusuna kapıldıkları "toplumsal cezaevinin" kapıları açılmıştı artık.

21. yüzyıla geldiğimizde toplumsal denetim ve esaret yeni boyutlar kazandı. Yapay zeka, olasılık hesaplamaları, algoritmalar, dijital robotlar ve makineler gözetim ve denetimi küresel ölçeğe taşıdı. Kişisel veriler artık kapitalizmin yeni petrol veya maden yatağı. Savaş, çatışma, afet, güç gibi olgular ise yine hem krizlere hem de fırsatlara işaret. Kriz anları veya bölgelerinde artık sadece silah teknolojileri değil, yapay zeka ve algoritmik analizlerle geliştirilmiş "insani yardım programları" da test ediliyor. Yıkım bölgelerine silahlı drone'lar kadar, yardım amaçlı sürüngen robotlar da gönderiliyor. Savaş ve insani yardım zıt iki konu olsa da çoğu zaman ortak şirketlerin kesişme kümesinde bir araya geliyor. Endüstri ortaklaşıyor. Yıkanlar ve yeniden kuranlar para üstüne para katıyorlar. Silah tekelleri mülteci fabrikası gibi göç üretiyor. Aynı tekeller "insani yardım programlarına" da el atıyorlar. Dijital kayıt/denetim ve algoritmik hesaplamalarla birlikte yıkma ve yeniden inşaya dayanan kapitalist Panopticon yönetim, her kriz bölgesinde kendisini biraz daha geliştirmeye çabalıyor.

ŞİRKET KÜNYELERİNDEKİ ANAHTAR
Mültecilerin biyometrik kaydı üzerine ilk sistematik dijital proje 2002 yılında Pakistan'da uygulandı. Toplam 100 Afgan mülteci data fişlemesi içine alındı. Nereye giderlerse gitsinler ölene kadar sürecek bir takip rejimiydi bu. Ürdün Za'atari Mülteci Kampında bu proje geliştirildi, sisteme yüz taraması kaydı eklendi. Taramalar block-chain ağı olan Building Blocks'a kaydedildi. Böylece dijital takip sınırlar aşan bir evreye geçmiş oldu. 2020 yılına geldiğinde sisteme 37 milyon mülteci kaydedilmiş olacaktı. Za'atari modeli BMMYK'nın da (Birleşmiş Milletler Mülteciler Yüksek Komiserliği) ölçüsü haline gelecekti. 2013 yılında Sophia isimli robot BM Kalkınma örgütü tarafından "ilk inovasyon elçisi" seçildi. Robot Sophia'ya Suudi Arabistan 2017'de vatandaşlık hakkı verecekti. Ki, Suudi Arabistan Suriye savaşından tek mülteci kabul etmemiş ülkeydi! 2023 yılında Sophia'nın yanına 8 robot daha dizildi ve "iyilik için yapay zeka" kampanyası başlatıldı. Dünya bir çağ dönümünde olabilir miydi? Yapay zeka ve algoritmik robotlar büyük insanlığın acılarını dindirebilir miydi? Daha eşit ve adil bir dünya yaklaşıyor muydu yoksa? Bilimsel ve teknolojik atılımlar elbette önemliydi. Evet, hayatı daha kolaylaştırmak mümkündü. Fakat esas mesele bilim ve tekniğin hangi ellerde kullanılıyor olmasıydı. Yapay zeka, dijital data, algoritmik analiz… Tüm bu değişim ve gelişimlerin ardında devasa şirketler gerçekliği vardı. Ve künyesinde kapitalizm yazan her şirket, tabiat gereği, büyük insanlığın refahına değil şirket kasasında biriken sermaye artışına bakardı.

VERİ TABANLI DİSTOPİK HAPİSHANE
Bugün data sistemine girmeyen mülteciler yardım programlarından faydalanamaz. Göç ve iltica işlemlerini de yerine getiremez. Gelinen yerde mültecinin kişisel verileri saklama hürriyetinin de karşılığı kalmadı. Hukuki bakımdan da önemli bir tartışma bu. Şirketler ve devletler bu verilere kolaylıkla ulaşıyor. Kişi mülteci programından çıksa dahi kişisel verilerini kurtaramıyor. Verilerin küresel mobilizasyonu yeni bir pazar akını açtı. Parayı basan şirket veya diplomatik şantaj yapan devlet, verileri istediği gibi kullanabiliyor. Savaş veya zulüm nedeniyle kaçan mültecilerin bilgisi can güvenliğini de tehdit ediyor.

Data kayıt ve takip sistemleri UNCHR ile işbirliğinde olan şirketlere ihale ediliyor. ABD'deki PALANTIR şirketi tipik örnek. Nitekim PALANTIR CIA bağlantılı Q-Tel'den yardım aldı. Hem Los Angeles Polis Departmanı'na hem de ABD Göçmenlik ve Gümrük Muhafaza Dairesi'ne işler yapıyor. WFP (Dünya Yiyecek Programı) ile de ortak çalışıyor,

Yapay zekanın kötü ellerde kullanımı bir başka tehlikeye işaret. Nitekim ABD ve AB ülkelerinde aşım sağın yükselişi biliniyor. Mülteci datalarının bu güçlerin eline geçmesi "Algoritmik Önyargı" dizilimini getirebilir ve linçlerin önü açılabilir. Dijital ırkçılık devletlerin rejimi haline dönüşebilir.

Algoritmik zeka insani yardım faaliyetlerini kolaylaştırabilir. Fakat tersi de mümkün. Öyle ki, İsrail ordusu LAVENDER ve THE GOSPEL projeleriyle 37 bin Filistinliyi hedef alabildi. Silahlı drone'lar datalar üzerinden insan avına çıkarken, aynı dönemde Gazze'ye yardım götüren/çalışan gönüllüleri izledi. BM mülteci kampları ve çadırları vuruldu. Gerekçe yüklenmiş data verileriydi: Siviller mülteci savaşçılara kalkan yapıldığı için vurulmuşlardı(!) Dolayıyla yapay zeka kıyım teknolojisi için de kullanılabiliyor. Öte yandan UNCHR ve WFP ile ortak çalışan her şirket mülteci datalarına kolaylıkla erişebiliyor. Dijital cüzdanlar, olasılık kümeleri mültecileri "terbiye" etmenin ya da yıldırmanın aparatları olarak kullanılabiliyor. Sistematik geri gönderme, itme ve deport için algoritmik suç katalogları oluşturuluyor. Uluslararası hukuk bu kez dijital gelişmeyle çiğnenmiş oluyor.

O halde, kendi başına ne yapay zeka ne de algoritmik devrim insanlığa refah ve barış getirecek kudrete sahip. Öncelikle bu ilerlemenin kimlerin elinde nasıl kullanıldığına bakmak lazım. Peki, bu distopik neo-panopticon düzenin karşısında ne durabilir? Geçtiğimiz günlerde PALANTIR şirketinin New York ofisi önünde eylem yapan göçmenler ve hak savunucularına kulak verilebilir. Zira mülteci haklarını savunmak, bilim ve teknolojik etiği savunmakla iç içe geçiyor; her gün biraz daha fazla. Ve çağlar değişse de ezilenler mücadele etmekten vazgeçmiyor.