Bunlar ciddi ölçüde sistemik tahribatı ve mütemadi kaosu ikame edici, daha doğrusu bozucu akıbeti geciktirici olabilir; fakat ortaya paradoksal bir sonuç ortaya çıkar: post-truth, algoritmik kontrol ve sofistike otoriter yönetim teknikleri kısa ve orta vadede insanın özneleşmesinin yerini tutabilir gibi bir yanılsama oluşturabilir; uzun vadede ise tam da çözmeye çalıştıkları antropolojik krizi derinleştirebilirler.
Burada "idare edebilirlikle", “yeterlilik ve sürdürülebilirliğin” arasını ayırmak gerekiyor.
Bir sistemin amacı insanları bir müddet yönetilebilir sınırlarında tutmaksa bugünkü teknolojik kapasite tarih boyunca görülmemiş derecede güçlüdür. İnsanların davranışları gözlemlenebilir, tercihleri tahmin edilebilir, kişiye özgü mesajlar üretilebilir, sosyal ilişkiler haritalanabilir, ekonomik davranışlar teşvik ve yaptırımlarla yönlendirilebilir, gündem algoritmik olarak düzenlenebilir. Yapay zekâ bunu daha da ileri taşıyor; artık yalnız kitlelere aynı propaganda mesajını vermek değil, her insana onun psikolojik ve kültürel özelliklerine uygun farklı bir gerçeklik sunmak teknik olarak giderek mümkün hale geliyor.
Post-truth da bunun epistemik ayağıdır. Klasik propaganda “benim söylediğime inan” derdi. Daha sofistike post-truth ortamı ise çok daha etkili bir sonuç üretebilir: “Neye inanılabileceğini artık bilemezsin.”
Bu daha güçlüdür.
Çünkü insan hakikate güvenini kaybettiğinde mutlaka iktidarın söylediğine inanması gerekmez. Yalnızca hakikati arama iradesini kaybetmesi yeterlidir. Yorulur, çekilir, kendi küçük hayatına kapanır ve kamusal gerçekliği uzmanlara, platformlara veya otoritelere bırakır.
Böylece itaat üretmeden pasifizasyon sağlanabilir.
Fakat burada sistemin karşısına aşamayacağı bir sınır çıkıyor.
Algoritma insanı yönlendirebilir fakat insanın yerine insan olamaz.
Sistem bir insanın ne satın alacağını tahmin edebilir. Fakat ona orijinal varlık nedeninin, neden yaşaması gerektiğinin sahici cevabını veremez.
Davranışını değiştirebilir fakat şahsiyetini ikame edemez.
Haz üretebilir fakat itminan üretemez.
Bağlantı sağlayabilir fakat gerçek aidiyeti garanti edemez.
Gözetleyebilir fakat vicdanın yerini alamaz.
Yapay topluluk oluşturabilir fakat güveni merkezden imal edemez.
İnsanın davranışsal kabuğu üzerinde muazzam bir hâkimiyet kurulabilirken, insanın ontolojik ihtiyacı karşılanmamış olarak kalabilir.
Kritik mesele budur. Çünkü kontrol sistemleri çoğunlukla insanın tezahürünü yönetir. Fıtrî problem ise insanın mahiyetinde ve bütünlüğünde ortaya çıkar.
Dolayısıyla iki süreç aynı anda ilerleyebilir:
Dışarıdan bakıldığında sistem giderek daha kontrol edilebilir görünürken içeriden bakıldığında insan giderek daha fazla çözülebilir. Bu, tehlikeli bir kombinasyondur.
Sofistike diktatörlüğün klasik diktatörlükten farkı şudur:
Geleceğin otoriter sisteminin mutlaka üniformalı, yasakçı, kaba kuvvete dayanan bir rejim olması gerekmez. Çok daha rafine bir sistem düşünülebilir. İnsanların büyük çoğunluğu kendisini özgür hisseder. Seçenekleri vardır. Konuşabilir, eğlenebilir, tüketebilir, seyahat edebilir, dijital dünyalarda kendisini ifade edebilir. Fakat seçeneklerin üretildiği üst alanı kontrol edemez.
Bu ayrım son derece önemli.
Sistem size A, B, C ve D arasında olağanüstü bir seçim özgürlüğü verebilir; fakat E'nin düşünülebilir bir ihtimal olduğunu hiç öğrenmemenizi sağlayabilir.
Bu durumda kontrol yasaklama üzerinden değil, mümkünler alanının mimarisi üzerinden gerçekleşir.
Bir adım daha ilerlediğinizde sansüre bile eskisi kadar ihtiyaç kalmaz. Milyarlarca içerik arasından hangisinin görünür olacağına karar veren algoritma, yasaklamadan da görünmezlik üretebilir.
Dolayısıyla geleceğin güçlü kontrol modeli:
baskı - teşvik - yönlendirme - kişiselleştirme - görünürlük yönetimi - gerçeklik mimarisi istikametinde gelişebilir. Bu, klasik diktatörlükten çok daha güçlüdür.
Fakat sistemlerin büyük açmazı burada başlıyor İnsanı davranışsal olarak optimize etmek ile insanı sağlıklı tutmak aynı şey değildir. Hatta birbirinin zıddı olabilir.
Bir sosyal medya sisteminin optimum insanı, ekran karşısında mümkün olduğunca fazla kalan insandır.
Bir tüketim sisteminin optimum insanı, sürekli yeni ihtiyaç hisseden insandır.
Bir siyasi mobilizasyon sisteminin optimum insanı, sürekli tehdit hisseden taraftardır.
Bir veri ekonomisinin optimum insanı, hayatının mümkün olduğunca büyük bölümünü ölçülebilir platformlarda geçiren insandır.
Ama insan fıtratının optimum hali bunların hiçbiri olmayabilir.
İşte sistemik çelişki: Alt sistemlerin optimizasyonu, insanın bütününün bozulmasını üretebilir. Ve insan bozulduğunda ekonominin müşterisi, devletin vatandaşı, şirketin çalışanı, ailenin ebeveyni, ordunun askeri, toplumun komşusu da bozulur. Sistem böylece kendi hammaddesini tüketmeye başlar.
Yapay zekâ bunu çözebilir mi?
Kısmen ve belirli bir süre için belki.
Yapay zeka giderek daha güçlü bir telafi teknolojisi olabilir.
İnsanların dikkat kapasitesi düşüyorsa yapay zekâ onların yerine analiz eder.
İnsanların karar verme yeteneği zayıflıyorsa yapay zekâ önerir.
Kurumsal hafıza zayıflıyorsa yapay zekâ hatırlar.
İnsan ilişkileri zayıflıyorsa yapay arkadaşlık sistemleri ortaya çıkar.
Eğitim bozuluyorsa yapay zeka öğretmenlik yapar.
Bürokrasi karmaşıklaşıyorsa yapay zekâ yönetir.
Yani teknoloji, insanın kaybettiği bazı fonksiyonları protez olarak üstlenebilir.
Fakat bunun içerisinde çok büyük bir geri besleme riski vardır: İnsan yapmadığı şeyi giderek daha az yapabilir hale gelir.
Hatırlamıyorsa hafızası;
Karar vermiyorsa muhakemesi;
Sorumluluk almıyorsa iradesi;
İlişki kurmuyorsa sosyal kapasitesi;
Hakikati araştırmıyorsa epistemik direnci zayıflayabilir. Sonra teknolojik proteze daha fazla ihtiyaç duyar.
Bu da daha fazla bağımlılık üretir.
Böylece; kapasite kaybı - teknolojik ikame - bağımlılık - daha fazla kapasite kaybı - daha fazla teknolojik ikame döngüsü ortaya çıkabilir.
Bu durumda teknoloji insanı güçlendiren araç olmaktan çıkarak insanın kaybettiği fıtrî fonksiyonların merkezi sağlayıcısına dönüşür.
Bu muazzam bir güç temerküzüdür.
Buna rağmen neden kalıcı çözüm olmayabilir?
Çünkü sistemlerin kontrol edemeyeceği dört temel alan kalıyor:
Birincisi gerçeklik. Algoritma hakikat algısını değiştirebilir fakat hakikatin esasını ve bundan doğacak olan maddi gerçekliğin sonuçlarını değiştiremez.
İkincisi insan fıtratı. İnsan davranışını uzun süre modifiye etmek mümkün olabilir; fakat insanın fıtratının bütünüyle tahrip edilip, ontolojik ihtiyaçlarının ortadan kaldırıldığı henüz gösterilmiş değildir.
Üçüncüsü karmaşıklık. Sistem büyüdükçe kontrol edilmesi gereken değişkenlerin sayısı artar. Üstelik kontrol müdahalelerinin kendileri yeni sonuçlar üretir.
Dördüncüsü beklenmedik oluş. Tarih hiçbir zaman bütünüyle planlandığı gibi gelişmez. Teknoloji bile yalnız onu kontrol edenlerin gücünü artırmaz; muhaliflerin ve sıradan insanların koordinasyon kapasitesini de artırabilir.
Bu yüzden sistem gittikçe daha güçlü hale gelirken aynı zamanda daha kırılgan hale gelebilir. Bu paradoksu önemsemek gerekir.
Dolayısıyla iki gelecek modeli yarışıyor olabilir.
Birincisi:
İnsanın bozulan kapasitelerinin giderek teknoloji tarafından ikame edilmeye çalışıldığı merkezî model.
İkincisi:
İnsanın bozulan kapasitelerinin yeniden inşa edildiği toplumsal model.
Birincisi insana daha fazla "hizmet" sunar. İkincisi insanın yeniden inşa edilmesini sağlar.
Birincisi bağımlılığı yönetir. İkincisi yeterlilik üretir.
Birincisi davranışı optimize eder. İkincisi şahsiyeti inşa eder.
Birincisinin büyük avantajı sermaye, teknoloji, devlet ve veridir. İkincisinin potansiyel avantajı ise çok daha eski bir şeydir: hakikat / insan fıtratı.
Bu son derece önemli bir stratejik avantajdır. Çünkü birinci sistem sürekli enerji harcayarak insanı belirli bir konumda tutmak zorundadır; ikinci sistem ise insanın kendi doğal kapasitesini yeniden harekete geçirmeye çalışmaktadır.
Sahici sivil toplumun asıl rakibi devlet veya sermaye olmayabilir. Onun asıl rakibi insanın kendi kapasitesinden vazgeçerek merkezi teknolojik sistemlerin müşterisi haline gelmesidir.
Dolayısıyla geleceğin temel çatışması belki de özgürlük–diktatörlük ikiliğinden bile önce, özne insan–nesne insan arasındaki çatışma olacaktır.
Ve daha da derinde; insanı yeniden insanlaştıran sistemlerle, insanın eksilen fonksiyonlarını teknolojik protezlerle ikame ederek onu yönetilebilir tutan sistemler arasındaki rekabet.
Bu açıdan bakınca post-truth, algoritmik kontrol ve sofistike diktatörlükler sivil toplum tezinin karşı argümanı değil; paradoksal biçimde neden sahici bir sivil toplumun gerekli hale geldiğini açıklayan karşı kuvvetlerdir.
