Kitabın tam adı: Nexus – Bilgi Ağlarının Taş devrinden yapay zekaya kısa tarihi. Kitabı İngilizce okuyup Türkçe özetlediğimden ufak tefek çeviri hatalarım olmuş olabilir. Keyifli okumalar.
Önsöz
100.000 yıllık keşifler, icatlar ve fetihlerden sonra insanlık kendini varoluşsal bir krizin içine itti. Eğer biz Sapiensler bu kadar bilgeysek, neden kendimize bu kadar zarar veriyoruz? Neden daha fazla bilgi ve güç biriktirme konusunda bu kadar iyiyiz de bilgelik edinme konusunda çok daha az başarılıyız?
Bu kitabın ana argümanı, insanoğlunun büyük işbirliği ağları kurarak muazzam bir güç elde ettiği, ancak bu ağların bizi akılsızca kullanmaya yatkın hale getirdiğidir. O halde sorunumuz bir ağ sorunudur. Daha da spesifik olarak, bu bir bilgi sorunudur. Bilgi, ağları bir arada tutan yapıştırıcıdır.
Her bir insan tipik olarak kendisi ve dünya hakkındaki gerçeği bilmekle ilgilenirken, büyük bilgi ağları üyelerini birbirine bağlar ve çeşitli kurgulara dayanarak düzen yaratır. Örneğin Nazizm ve Stalinizm’e bu şekilde ulaştık. Bunlar son derece güçlü ağlardı ve son derece yanıltıcı fikirler tarafından bir arada tutuluyorlardı.
Bilgiye Naif Bakış, büyük ağların bireylerin toplayabileceğinden çok daha fazla bilgiyi toplayıp işleyerek tıp, fizik, ekonomi ve diğer birçok alanda daha iyi bir anlayışa ulaştığını ve bunun da ağı sadece güçlü değil aynı zamanda bilge de yaptığını savunur. Bu görüş, yeterli miktarda bilginin hakikate, hakikatin de hem güce hem de bilgeliğe yol açtığını ileri sürmektedir. Örneğin, tek bir hastayı inceleyerek bir salgının nedenini belirlemek isteyen tek bir doktorun başarılı olma olasılığı, milyonlarca hasta hakkında veri toplayan binlerce doktordan daha azdır. Goethe’nin 1797’de “Büyücünün Çırağı ‘nı yazdığı dönemde, Alman çocuklarının sadece yüzde 50’sinin on beş yaşına ulaştığı tahmin edilmektedir.
Bilgelik genellikle “doğru kararlar vermek” olarak anlaşılır, ancak “doğru”nun ne anlama geldiği farklı insanlar, kültürler ve ideolojiler arasında farklılık gösteren değer yargılarına bağlıdır. Temel ilkesi, bilginin özünde iyi bir şey olduğu ve ne kadar çok bilgiye sahip olursak o kadar iyi olacağıdır.
2016 yılında Homo Deus’u yayınladım; Bu kitap, tarihin gerçek kahramanının Homo sapiens’ten ziyade her zaman bilgi olduğunu ve bilim insanlarının sadece tarihi değil, biyoloji, politika ve ekonomiyi de bilgi akışları açısından giderek daha fazla anladığını savunuyordu. Kitap, daha iyi bilgi teknolojilerinin bize sağlık, mutluluk ve güç vereceğini umarken, aslında gücü elimizden alabileceği ve hem fiziksel hem de zihinsel sağlığımızı yok edebileceği konusunda uyarıyordu.
2016’dan bu yana işler değişti. Popülizm aynı zamanda bilgiye yönelik naif bakış açısına da radikal bir meydan okuma getirmiştir. Popülizm bilgiyi bir silah olarak görmektedir. Daha uç versiyonlarında popülizm, hiçbir nesnel gerçeğin olmadığını ve herkesin rakiplerini alt etmek için kullandıkları “kendi gerçeğine” sahip olduğunu ileri sürer.
Bu radikal ampirist pozisyon, siyasi partiler, mahkemeler, gazeteler ve üniversiteler gibi büyük ölçekli kurumlara asla güvenilemeyeceğini, ancak çaba gösteren bireylerin yine de gerçeği kendi başlarına bulabileceklerini ima eder. Sadece “kendi araştırmama” güvenmek kulağa bilimsel gelebilir, ancak pratikte nesnel bir gerçek olmadığına inanmak anlamına gelir. Popülistler bilgiye yönelik naif bakış açısından kuşku duymakta haklıdırlar, ancak gücün tek gerçeklik olduğunu ve bilginin her zaman bir silah olduğunu düşünmekte yanılmaktadırlar. Bu kitap bu orta yolu keşfetmeye adanmıştır.
Bölüm I – İnsan Ağları
Bilgi Nedir?
Naif görüş, enformasyonun gerçekliği temsil etmeye yönelik bir girişim olduğunu ve bu girişim başarılı olduğunda ona gerçek dediğimizi savunur. Ancak bu kitap aynı zamanda çoğu bilginin gerçekliği temsil etmeye yönelik bir girişim olmadığını ve bilgiyi tanımlayan şeyin tamamen farklı bir şey olduğunu savunmaktadır.
Gerçeklik, insanların inançlarına bağlı olmayan nesnel olguları içeren nesnel bir düzeyi içerir; örneğin, Sarah Aaronsohn’un 9 Ekim 1917’de öldüğü nesnel bir gerçektir. Gerçekliğin hiçbir anlatımı yüzde 100 doğru değildir, ancak yine de bazı anlatımlar diğerlerinden daha doğrudur.
Naif görüş ayrıca yanlış bilgi ve dezenformasyonun yol açtığı sorunların çözümünün daha fazla bilgi olduğuna inanır. Naif görüşün aksine bilgi bizi ille de bir şeyler hakkında bilgilendirmek zorunda değildir.
Enformasyonu sosyal bir bağ olarak görmek, insanlık tarihinin, enformasyonu temsil olarak gören naif görüşü çürüten pek çok yönünü anlamamıza yardımcı olur.
Sonuç olarak, bilgi bazen gerçekliği temsil eder, bazen de etmez. Ancak her zaman bağlantı kurar. Bu onun temel özelliğidir. Bu nedenle, bilginin tarihteki rolünü incelerken, bazen “Gerçekliği ne kadar iyi temsil ediyor? Doğru mu yanlış mı?” diye sormak bazen mantıklı olsa da, çoğu zaman daha önemli sorular şunlardır: ”İnsanları ne kadar iyi birbirine bağlıyor? Hangi yeni ağı yaratıyor?”.
Hikayeler: Sınırsız Bağlantılar
İnsanlar yapı itibarı ile birkaç yüzden fazla bireyle uzun vadeli yakın bağlar kuramazlar. Yaklaşık yetmiş bin yıl önce, Homo sapiens grupları, gruplar arası ticaret ve sanatsal geleneklerin ortaya çıkması ve türümüzün Afrika’daki anavatanımızdan tüm dünyaya hızla yayılmasıyla kanıtlandığı üzere, birbirleriyle işbirliği yapma konusunda benzeri görülmemiş bir kapasite sergilemeye başlamıştır. Farklı grupların işbirliği yapmasını sağlayan şey, beyin yapısı ve dilsel yeteneklerdeki evrimsel değişikliklerin Sapiens’e kurgusal hikayeler anlatma ve bunlara inanma ve bunlardan derinden etkilenme yeteneği kazandırmış olmasıdır. Örneğin Neandertallerin yaptığı gibi sadece insandan insana zincirlerden bir ağ oluşturmak yerine, hikayeler Homo sapiens’e yeni bir zincir türü sağladı: insandan hikayeye zincirler. İşbirliği yapmak için Sapiens’in artık birbirini kişisel olarak tanıması gerekmiyordu; sadece aynı hikayeyi bilmeleri gerekiyordu.
Örneğin “Marka” belirli bir hikaye türüdür. Bir ürünü markalaştırmak, o ürün hakkında, ürünün gerçek nitelikleriyle çok az ilgisi olabilecek, ancak tüketicilerin yine de ürünle ilişkilendirmeyi öğrendikleri bir hikaye anlatmak anlamına gelir.
İsa hakkındaki gibi hikayeler, önceden var olan biyolojik bağları esnetmenin bir yolu olarak görülebilir. Aile, insanlar arasında bilinen en güçlü bağdır. Hikayelerin yabancılar arasında güven inşa etmesinin bir yolu, bu yabancıların birbirlerini aile olarak yeniden hayal etmelerini sağlamaktır.
Ancak bazı hikayeler üçüncü bir gerçeklik düzeyi yaratabilir: özneler arası gerçeklik. Acı gibi öznel şeyler tek bir zihinde var olurken, yasalar, tanrılar, uluslar, şirketler ve para birimleri gibi özneler arası şeyler çok sayıda zihin arasındaki bağlantıda var olur. Çok sayıda insan birbirlerine yasalar, tanrılar ya da para birimleri hakkında hikayeler anlattığında, bu yasaları, tanrıları ya da para birimlerini yaratan şey budur. İnsanlar bunlar hakkında konuşmayı bırakırsa, yok olurlar. Özneler arası şeyler bilgi alışverişi içinde var olur.
Eğer yeterli sayıda insan belirli bir devletin var olduğu konusunda hemfikirse, o zaman var demektir. O zaman diğer devletlerle, STK’larla ve özel şirketlerle yasal olarak bağlayıcı anlaşmalar imzalamak gibi şeyler yapabilir. Yasalar, tanrılar ve para birimleri gibi özneler arası şeyler belirli bir bilgi ağı içinde son derece güçlüdür ve bunun dışında tamamen anlamsızdır.
Büyük ölçekli insan grupları arasındaki tüm ilişkiler hikayeler tarafından şekillendirilir, çünkü bu grupların kimlikleri bizzat hikayeler tarafından tanımlanır. Kimin İngiliz, Amerikalı, Norveçli ya da Iraklı olduğuna dair nesnel tanımlar yoktur; tüm bu kimlikler sürekli olarak sorgulanan ve gözden geçirilen ulusal ve dini mitlerle şekillenir.
Bilgiye naif bakış açısı, bilginin hakikate götürdüğünü ve hakikati bilmenin insanların hem güç hem de bilgelik kazanmasına yardımcı olduğunu söyler. Ne yazık ki içinde yaşadığımız dünya böyle değil. Tarihte güç sadece kısmen gerçeği bilmekten kaynaklanır; asıl olarak çok sayıda insan arasında sosyal düzeni sağlama becerisinden kaynaklanır.
Nükleer fizikçilerin her zaman fark etmediği, tepedeki insanların bildiği şey, evren hakkında gerçeği söylemenin çok sayıda insan arasında düzen sağlamanın en etkili yolu olmadığıdır. E = mc ² olduğu doğrudur ve evrende olup bitenlerin çoğunu açıklar, ancak E = mc ² olduğunu bilmek genellikle siyasi anlaşmazlıkları çözmez veya insanları ortak bir amaç için fedakarlık yapmaya teşvik etmez. Bunun yerine, insan ağlarını bir arada tutan şey kurgusal hikayeler, özellikle de tanrılar, para ve uluslar gibi özneler arası şeylerle ilgili hikayeler olma eğilimindedir.
Gerçek çoğu zaman acı verici ve rahatsız edicidir Buna karşılık, kurgu son derece şekillendirilebilirdir. Her ulusun tarihi, vatandaşların kabul etmekten ve hatırlamaktan hoşlanmadıkları bazı karanlık bölümler içerir.
Daha Cumhuriyet adlı eserinde Platon, ütopik devletinin anayasasının “asil yalan”a -toplumsal düzenin kökenine dair, vatandaşların sadakatini güvence altına alan ve anayasayı sorgulamalarını engelleyen kurgusal bir hikayeye- dayanacağını hayal etmiştir. Tüm insani siyasi sistemler kurgulara dayanır, ancak bazıları bunu kabul eder, bazıları ise etmez. Sosyal düzenimizin kökenleri hakkında dürüst olmak, bu düzende değişiklik yapmayı kolaylaştırır.
Bilgiyi gerçeği keşfetmek için kullanmak ve aynı zamanda düzeni korumak için kullanmak zor bir süreçtir. İşleri daha da kötüleştiren ise bu iki sürecin çoğu zaman çelişkili olmasıdır, çünkü kurgular yoluyla düzeni korumak çoğu zaman daha kolaydır. Bu gibi durumlarda toplum, hakikat arayışına sınırlar koyarak düzeni korumaya çalışabilir. Bir bilgi ağı, insanların hakikati aramasına izin verebilir ve hatta teşvik edebilir, ancak bunu yalnızca toplumsal düzeni tehdit etmeden güç üretmeye yardımcı olan belirli alanlarda yapabilir. Örneğin Nazi Almanyası kimya, optik, mühendislik ve roket bilimi alanlarında dünyanın önde gelen uzmanlarının çoğunu yetiştirmiştir.
Belgeler ve Kayıtlar
Bir bilgi teknolojisi olarak hikayelerin sınırlamaları vardır. Kayıtlar ve hikayeler birbirini tamamlar. Ulusal mitler vergi kayıtlarını meşrulaştırırken, vergi kayıtları da arzulanan hikayelerin somut okul ve hastanelere dönüşmesine yardımcı olur.
Aralarındaki en önemli fark, kayıtların hikayelerden çok daha sıkıcı olma eğiliminde olmasıdır; bu da hikayeleri kolayca hatırlarken, kayıtları hatırlamakta zorlandığımız anlamına gelir. Hikayeler “olgusal, kavramsal, duygusal ve zımni bilgilerin iletilmesi için oldukça etkili bir araçtır. Buna karşın, çoğu insan kayıtları ezbere hatırlamakta zorlanır.
Sistemlerinin işleyebilmesi için organik olmayan benzersiz bir bilgi teknolojisine ihtiyaç duyulmuştur. Bu teknoloji yazılı belgedir. İhtiyacınız olduğunda doğru vergi kaydını, ödeme makbuzunu veya iş sözleşmesini nasıl bulursunuz?
Bürokrasi, büyük kuruluşlardaki insanların erişim sorununu çözme ve böylece daha büyük ve daha güçlü bilgi ağları yaratma yoludur. Ancak mitoloji gibi bürokrasi de düzen için gerçeği feda etme eğilimindedir.
Bürokrasi kelimenin tam anlamıyla “yazı masasıyla yönetmek” anlamına gelir. Bir anlamda dünyayı kaplara bölmek ve belgelerin karışmaması için kapları ayrı tutmaktır.
Bürokrasi, çoğu zaman dünyaya yeni ve yapay bir düzen dayatmakla meşguldür. Bürokratlar dünyayı tasarladıkları çekmecelere sığmaya zorlamaya çalışırlar ve eğer uyum çok iyi değilse, bürokratlar daha fazla zorlarlar. Daha önce resmi bir form doldurmuş olan herkes bunu çok iyi bilir.
Bürokrasiler mükemmel olmasa da, büyük ağları yönetmenin daha iyi bir yolu var mı? Mitoloji ve bürokrasi her büyük ölçekli toplumun ikiz sütunlarıdır. Ancak mitoloji hayranlık uyandırma eğilimindeyken, bürokrasi şüphe uyandırma eğilimindedir. Belgeler, arşivler, formlar, lisanslar, yönetmelikler ve diğer bürokratik prosedürler toplumdaki bilgi akışını ve bununla birlikte iktidarın işleyiş şeklini değiştirmiştir. Bu da iktidarı anlamayı çok daha zor hale getirmiştir.
Bürokratik iktidarı anlamanın zorluğu aynı zamanda kitlelerin merkezi otoriteyi etkilemesini, direnmesini ya da ondan kaçmasını da zorlaştırdı.
Hatalar: Yanılmazlık Fantezisi
Aziz Augustinus’un ünlü sözünde dediği gibi, “Hata yapmak insanidir; hatada ısrar etmek ise şeytanidir.”
İnsanlar tanrıların gerçek iradesini yanılabilir insanların icatlarından ya da hayallerinden nasıl ayırt edebilirdi?
Din, yanılabilir insanları devreden çıkarmak ve insanlara yanılmaz insanüstü yasalara erişim sağlamak istedi, ancak din sürekli olarak şu ya da bu insana güvenmeye indirgendi. Kanon mühürlendikten sonra, Yahudilerin çoğu Kutsal Kitap’ın derlenmesindeki karmaşık süreçte insan kurumlarının rolünü yavaş yavaş unuttu.
İkinci ve çok daha büyük bir sorun ise yorumlamayla ilgiliydi. İnsanlar bir kitabın kutsallığı ve tam ifadeleri konusunda hemfikir olsalar bile, aynı kelimeleri farklı şekillerde yorumlayabilirler. Kutsal Kitap Şabat günü çalışmamanız gerektiğini söyler. Ancak neyin “çalışma” sayılacağını açıklığa kavuşturmaz. Bu süreçte hahamlık kurumunun gücü daha da arttı. “Yanılmaz kitaba güven”, ‘kitabı yorumlayan insanlara güven ’e dönüştü.
Hıristiyanlar giderek daha fazla İncil, mektup, kehanet, benzetme, dua ve diğer metinleri yazdıkça, hangilerine dikkat edileceğini bilmek zorlaştı. Hıristiyanlar bir küratörlük kurumuna ihtiyaç duydular. Yeni Ahit bu şekilde oluşturuldu. Yeni Antlaşma’yı oluşturan kişilerin, içerdiği yirmi yedi metnin yazarları değil, küratörleri olduğunu belirtmek çok önemlidir.
Yahudilerin çoğunun Eski Ahit’i hahamların düzenlediğini unuttuğu gibi, Hıristiyanların çoğu da Yeni Ahit’i kilise konseylerinin düzenlediğini unutmuş ve onu sadece Tanrı’nın yanılmaz sözü olarak görmeye başlamıştır.
Luther, Calvin ve onların halefleri, sıradan insanlarla kutsal kitap arasına girecek herhangi bir yanılabilir insan kurumuna gerek olmadığını savundular. Hıristiyanlar İncil’in etrafında gelişen tüm asalak bürokrasileri terk etmeli ve Tanrı’nın orijinal sözüne yeniden bağlanmalıdır. Ancak Tanrı’nın sözü hiçbir zaman kendi kendini yorumlamamıştır, bu yüzden sadece Lutherciler ve Kalvinistler değil, diğer birçok Protestan mezhebi de sonunda kendi kilise kurumlarını kurmuş ve onlara metni yorumlama ve sapkınlara zulmetme yetkisi vermiştir.
Bilgi ağları tarihinde, erken modern Avrupa’nın matbaa devrimi genellikle bir zafer anı olarak selamlanır,
Matbaa sadece bilimsel gerçeklerin değil, aynı zamanda dini fantezilerin, yalan haberlerin ve komplo teorilerinin de hızla yayılmasını sağladı.
1420’ler ve 1430’larda özellikle Alpler bölgesinde faaliyet gösteren kilise adamları ve akademisyenler Hıristiyan dininden, yerel folklordan ve Greko-Romen mirasından unsurlar alarak bunları yeni bir Cadılık teorisinde bir araya getirdiler. Bu fikirlerden esinlenen ilk kitlesel cadı avı ve cadı davaları, 1428 ve 1436 yılları arasında Batı Alpler’in Valais bölgesinde yerel kilise adamları ve soylular tarafından yürütülmüş ve iki yüzden fazla sözde erkek ve kadın cadının idam edilmesine yol açmıştır. Matbaanın icadının Avrupa’daki cadı avı çılgınlığına neden olduğunu iddia etmek abartılı olsa da, matbaa küresel bir şeytani komplo inancının hızla yayılmasında önemli bir rol oynamıştır.
Cadı avları, bir bilgi alanı yaratmanın karanlık tarafını göstermektedir. Cadı avı bürokrasisi giderek daha fazla bilgi ürettikçe, tüm bu bilgileri saf fantezi olarak reddetmek zorlaştı. Yeni özneler arası gerçeklik o kadar ikna ediciydi ki, cadılıkla suçlanan bazı insanlar bile gerçekten de dünya çapında şeytani bir komplonun parçası olduklarına inanmaya başladılar. Erken modern Avrupa cadı çılgınlığının tarihi, bilgi akışının önündeki engellerin kaldırılmasının gerçeğin keşfedilmesine ve yayılmasına yol açmadığını göstermektedir.
Bilgi kirliliğinde hakikatin kazanması için, dengeyi gerçekler lehine çevirme gücüne sahip küratörlük kurumlarının oluşturulması gerekir. Ortaçağ avrupasında bilim bir kurum olarak, kurumun kendi hatalarını ortaya çıkaran ve düzelten güçlü kendi kendini düzeltme mekanizmalarına sahip olduğu için otorite kazanmıştır. Başka bir deyişle, bilimsel devrim cehaletin (kendimizi düzeltme ihtiyacının) keşfedilmesiyle başlatılmıştır.
Kutsal kitabın yanılmaz olduğu varsayılırken; bilimsel kurumlar büyük hatalar için sorumluluklarını kabul etmeye isteklidir. Bu dönemde bilimsel kurumlar güçlü kendi kendini düzeltme mekanizmalarına sahip olabilmişlerdir çünkü toplumsal düzeni koruma gibi zor bir işi diğer kurumlara bırakmışlardır.
Peki, akademik disiplinler dışındaki kurumlarda da güçlü öz-düzeltme mekanizmalarını sürdürmek mümkün müdür? Özellikle, polis güçleri, ordular, siyasi partiler ve hükümetler gibi toplumsal düzeni korumakla görevli kurumlarda bu tür mekanizmalar var olabilir mi?
Kararlar: Demokrasi ve Totalitarizmin Kısa Tarihi
Diktatörlük bilgi ağları son derece merkezidir. Bu iki anlama gelir.
- Birincisi, merkez sınırsız yetkiye sahiptir; dolayısıyla bilgi, en önemli kararların alındığı merkeze akma eğilimindedir.
- İkinci özelliği ise merkezin yanılmaz olduğunu varsaymalarıdır.
Özetlemek gerekirse, diktatörlük güçlü kendi kendini düzeltme mekanizmalarından yoksun merkezi bir bilgi ağıdır. Buna karşılık demokrasi, güçlü kendi kendini düzeltme mekanizmalarına sahip dağıtılmış bir bilgi ağıdır.
Tüm demokrasilerde merkez vergileri artırır ve bir ordu bulundurur ve çoğu modern demokraside en azından belli bir düzeyde sağlık hizmeti, eğitim ve refah sağlar. Ancak insanların yaşamlarına yapılan her müdahale bir açıklama gerektirir. Demokrasilerin bir diğer önemli özelliği de herkesin yanılabilir olduğunu varsaymalarıdır. Bu nedenle demokrasiler merkeze bazı hayati kararları alma yetkisi verirken, merkezi otoriteye meydan okuyabilecek güçlü mekanizmaları da muhafaza ederler.
Seçimler demokratik araç setinin merkezi bir parçasıdır, ancak demokrasinin kendisi değildir. Kendi kendini düzelten ek mekanizmaların yokluğunda, seçimlere kolayca hile karıştırılabilir. Seçimler tamamen özgür ve adil olsa bile, bu da tek başına demokrasiyi garanti etmez. Çünkü demokrasi çoğunluk diktatörlüğü ile aynı şey değildir. Örneğin siyasi rakiplerin haklarından mahrum bırakılması, demokratik ağların hayati önem taşıyan kendi kendini düzeltme mekanizmalarından birini ortadan kaldırır.
Güçlülerin demokrasinin altını oymak için kullandıkları en yaygın yöntem, genellikle mahkemeler ve medyadan başlayarak, kendi kendini düzelten mekanizmalara teker teker saldırmaktır. Akademik kurumlar, belediyeler, STK’lar ve özel işletmeler ya lağvedilir ya da hükümet kontrolü altına alınır. Diktatörlerin destekçileri genellikle bu süreci antidemokratik olarak görmezler. Seçim zaferinin onlara sınırsız güç vermediği söylendiğinde gerçekten şaşırırlar. Ancak demokrasi çoğunluğun yönetimi anlamına gelmez; daha ziyade herkes için özgürlük ve eşitlik anlamına gelir.
Hem insan hakları hem de medeni haklar konusunda dikkat edilmesi gereken önemli bir husus, bunların sadece merkezi hükümetin gücünü sınırlamakla kalmayıp, aynı zamanda ona pek çok aktif görev de yüklemesidir. Hem insan hakları hem de medeni haklar, insanların keşfetmekten ziyade icat ettikleri özneler arası sözleşmelerdir ve evrensel akıldan ziyade tarihsel olumsallıklar tarafından belirlenirler. Farklı demokrasiler farklı haklar listeleri benimseyebilir.
Tüm bunlar kulağa karmaşık geliyorsa, bunun nedeni demokrasinin karmaşık olması gerektiğidir. Basitlik, merkezin her şeyi dikte ettiği ve herkesin sessizce itaat ettiği diktatoryal bilgi ağlarının bir özelliğidir.
En önemli demokratik kurumlar bürokratik devler olma eğilimindedir.
“Popülizm” terimi Latince ‘halk’ anlamına gelen populus kelimesinden türemiştir. Demokrasilerde “halk” siyasi otoritenin yegane meşru kaynağı olarak kabul edilir. Popülistler bu temel demokratik ilkeye değer verirler, ancak bir şekilde bundan tek bir partinin veya tek bir liderin tüm gücü tekeline alması gerektiği sonucunu çıkarırlar. Popülistlerin en temel iddiası, sadece kendilerinin halkı gerçekten temsil ettiğidir.
O halde birinin halkın bir parçası olup olmadığını nasıl anlayabilirsiniz? Çok kolay. Eğer lideri destekliyorlarsa, halkın bir parçasıdırlar. İşte bu yüzden popülizm demokrasi için ölümcül bir tehdit oluşturur. Popülizm demokratik “halk iktidarı” ilkesine bağlı olduğunu iddia edebilir, ancak demokrasinin içini boşaltır ve bir diktatörlük kurmaya çalışır.
Popülizm demokrasinin altını başka, daha ince ama aynı derecede tehlikeli bir şekilde oyar. Halk sadece siyasi otoritenin tek meşru kaynağı değil, tüm otoritenin tek meşru kaynağıdır. Popülistler, nesnel gerçekler adına halkın sözde iradesini geçersiz kılan kurumlara şüpheyle yaklaşırlar. Bunu, elitlerin gayrimeşru gücü ele geçirmeleri için bir sis perdesi olarak görme eğilimindedirler. Popülist görüş caziptir çünkü bazen doğrudur. Her insani kurum gerçekten de yanılabilir ve belli bir düzeyde yolsuzluktan muzdariptir. Bazı yargıçlar rüşvet alır. Bazı gazeteciler halkı kasıtlı olarak yanlış yönlendirir. Akademik disiplinler zaman zaman önyargı ve kayırmacılıkla maluldür.
Bir kişi tüm kararları dikte ediyorsa ve en yakın danışmanları bile karşıt bir görüşü dile getirmekten korkuyorsa, hiçbir konuşma gerçekleşmiyor demektir. Seçimlerden ziyade konuşmalara odaklanmak bir dizi ilginç soruyu gündeme getiriyor. Bir konuşma yapmak için, konuşma özgürlüğüne ve dinleme yeteneğine sahip olmak yeterli değildir. Ayrıca iki teknik önkoşul da vardır:
- Birincisi, insanların birbirlerinin duyma menzilinde olmaları gerekir.
- İkincisi, insanların ne hakkında konuştuklarını en azından temel düzeyde anlamaları gerekir.
20. Yüzyıl: Kitlesel Demokrasi, Ama Aynı Zamanda Kitlesel Totalitarizm
1960 yılında, Kuzey Amerika kıtasına ve ötesine dağılmış yaklaşık yetmiş milyon Amerikalı (toplam nüfusun yüzde 39’u) Nixon-Kennedy başkanlık tartışmalarını televizyondan canlı olarak izledi ve milyonlarca kişi de radyodan dinledi. Büyük ölçekli demokrasi artık uygulanabilir hale gelmişti.
Bunun yanında başka türden rejimleri de mümkün kıldı. Özellikle modern çağın yeni bilgi teknolojileri büyük ölçekli totaliter rejimlere kapı açtı. Totaliter sistemler kendi yanılmazlıklarını varsayar ve insanların yaşamlarının bütünü üzerinde tam kontrol sağlamaya çalışırlar.
Neron gibi otokratik yöneticiler kendilerini rahatsız eden bir şey yapan ya da söyleyen herkesi idam edebilirken, imparatorluklarındaki çoğu insanın ne yaptığını ya da söylediğini bilemezlerdi. Stalinist SSCB gibi modern totaliter rejimler terörü tamamen farklı bir ölçekte teşvik etmiştir. Totalitarizm, ülke genelindeki her insanın günün her anında ne yaptığını ve söylediğini ve hatta potansiyel olarak her insanın ne düşündüğünü ve hissettiğini kontrol etme girişimidir. Modern totalitarizm birbiriyle örtüşen ve birbirini düzen içinde tutan gözetim mekanizmaları yaratmıştır. Bir Sovyet eyaletinin valisi, yerel parti komiseri tarafından sürekli izleniyordu ve her ikisi de çalışanları arasında kimin muhbir olduğunu bilmiyordu.
Totaliter rejimler bilgi akışını kontrol etmek üzerine kuruludur ve her türlü bağımsız bilgi kanalına şüpheyle yaklaşırlar.
Totalitarizmde Resmi kanalların tıkanmasının yaygın nedenlerinden biri, korkan astların kötü haberleri üstlerinden saklamasıdır. Bir diğer nedeni de düzeni korumaktır.
Dünya Savaşı’nın geniş tarihi ve sonuçları göz önünde bulundurulduğunda, Stalinizmin aslında şimdiye kadar tasarlanmış en başarılı siyasi sistemlerden biri olduğu ortaya çıkar – eğer “başarıyı” sadece düzen ve güç açısından tanımlarsak ve etik ve insan refahı ile ilgili tüm hususları göz ardı edersek-. Stalinizm, merhametten tamamen yoksun olmasına ve hakikate karşı duygusuz tutumuna rağmen -ya da belki de bu yüzden- devasa ölçekte düzeni sağlamada tek başına etkili olmuştur.
Bir sonraki bilgi devrimi, demokrasi ve totalitarizm arasındaki rekabette yeni bir raunda zemin hazırlayacak şekilde ivme kazanmaya başlamıştı. 2020’lerde demokrasiler bir kez daha, toplumsal düzeni bozmadan yeni sesleri kamusal diyaloğa entegre etme göreviyle karşı karşıya.
Yirmi birinci yüzyıl siyasetindeki temel bölünme demokrasiler ve totaliter rejimler arasında değil, insanlar ve insan olmayan aktörler arasında olabilir.
Bölüm II: İnorganik Ağ
Bilgisayarların Matbaalardan Farkı Nedir?
Mevcut devrimin tohumu bilgisayardır. Diğer her şey -internetten yapay zekaya kadar- bir yan üründür.
Kavranması gereken en önemli şey, sosyal medya algoritmalarının matbaa ve radyo setlerinden temelde farklı olduğudur. 2016-17 yıllarında Facebook’un algoritmaları kendi başlarına aktif ve kader belirleyici kararlar alıyordu. Matbaadan çok gazete editörlerine benziyorlardı. Peki bunu yaparken algoritmalar neden merhamet yerine öfkeyi teşvik etmeye karar verdi?
Facebook’un iş modeli “kullanıcı etkileşimini” en üst düzeye çıkarmaya dayanıyordu. Bu, kullanıcıların platformda geçirdikleri zamanın yanı sıra beğen düğmesine tıklamak veya bir gönderiyi arkadaşlarıyla paylaşmak gibi yaptıkları herhangi bir eylemi de ifade ediyordu. İnsanlar platformda ne kadar çok zaman geçirirse, Facebook o kadar zenginleşiyordu. Algoritmalar daha sonra milyonlarca kullanıcı üzerinde deneyler yaparak öfkenin etkileşim yarattığını keşfetti.
Bilgisayarların yükselişinden önce insanlar, kiliseler ve devletler gibi bilgi ağlarının her zincirinde vazgeçilmez halkalardı. Bazı zincirler sadece insanlardan oluşuyordu. Muhammed Fatıma’ya bir şey söyleyebilirdi, sonra Fatıma Ali’ye, Ali Hasan’a, Hasan da Hüseyin’e söylerdi. Bu insandan insana bir zincirdi. Diğer zincirler de belgeleri içeriyordu. Ancak belgeden belgeye bir zincir oluşturmak tamamen imkansızdı. Buna karşılık, bilgisayardan bilgisayara zincirler artık döngünün içinde insan olmadan da işleyebiliyor. Örneğin, bir bilgisayar sahte bir haber üretebilir ve bunu bir sosyal medya akışında yayınlayabilir. İkinci bir bilgisayar bunu sahte haber olarak tanımlayabilir ve sadece silmekle kalmayıp diğer bilgisayarları da engellemeleri için uyarabilir. Bu arada, bu faaliyeti analiz eden üçüncü bir bilgisayar bunun siyasi bir krizin başlangıcına işaret ettiği sonucuna varabilir ve derhal riskli hisse senetlerini satıp daha güvenli devlet tahvilleri satın alabilir.
Bilgisayarlar bilgi ağının tam teşekküllü üyeleridir, oysa kil tabletler, matbaalar ve radyo setleri sadece üyeler arasındaki bağlantılardır. Üyeler kendi başlarına karar alabilen ve yeni fikirler üretebilen aktif aktörlerdir. Bağlantılar sadece üyeler arasında bilgi aktarır, kendileri karar vermez ya da bir şey üretmez.
Bilgisayarlar potansiyel olarak insanlardan daha güçlü üyeler haline gelebilir. Onlar sınırsız sayıda bağlantı kurabilir ve en azından bazı finansal ve yasal gerçekleri birçok insandan daha iyi anlayabilirler.
Dil konusundaki ustalıkları sayesinde bilgisayarlar bir adım daha ileri gidebilirler.
Bahsettiğimiz şey potansiyel olarak insanlık tarihinin sonudur. Tarihin sonu değil, ama insan egemenliğindeki kısmının sonu. Bilgisayarlar kültürde giderek daha büyük bir rol oynadığında ve hikayeler, yasalar ve dinler üretmeye başladığında tarihin akışına ne olacak? Bugün hisse ticaretinin yüzde 90’ından fazlası zaten bilgisayarlar tarafından diğer bilgisayarlarla doğrudan konuşularak yapılıyor.
Bu ağın tamamen yeni siyasi ve kişisel gerçeklikler yaratacağı en başından belli olmalıdır. Bunlar yeni siyasi yapılar, ekonomik modeller ve kültürel normlar yaratır. Bunu anlamak önemlidir çünkü kontrol hala biz insanların elindedir.
Bilgisayarlar hakkında gerçekten yeni olan şey, karar verme ve fikir yaratma şekilleridir. Eğer bilgisayarlar insanlara benzer şekilde kararlar alıp fikirler üretseydi, o zaman bilgisayarlar bir tür “yeni insan” olurdu.
Ancak gerçek çok farklıdır ve potansiyel olarak daha endişe vericidir.
Ağ Her Zaman Açık – Mahremiyetin Sonu
İnsanların insanları izlediği bir dünyada, mahremiyet varsayılandı. Ancak bilgisayarların insanları izlediği bir dünyada, tarihte ilk kez mahremiyetin tamamen ortadan kaldırılması mümkün hale gelebilir.
Gözetimden bahsederken genellikle devlet aygıtlarını düşünürüz, ancak yirmi birinci yüzyılda gözetimi anlamak için izlemenin başka birçok şekilde olabileceğini unutmamalıyız. Örneğin bir restoranda personel bir müşteriyi memnun edemezse, restoran kötü bir eleştiri alacak ve bu da önümüzdeki yıllarda binlerce potansiyel müşterinin kararını etkileyebilecektir.
Para, insanların belirli ürün ve hizmetleri satarak biriktirdikleri ve daha sonra başka ürün ve hizmetler satın almak için kullandıkları puanlardır. Bazı ülkeler “puanlarını” dolar olarak adlandırırken, diğer ülkeler euro, yen veya renminbi olarak adlandırır. Paranın satın alamayacağı şeyleri puanlamak için, farklı isimler verilen alternatif bir parasal olmayan sistem vardı: onur, statü, itibar. Sosyal kredi sistemlerinin aradığı şey, itibar piyasasının standartlaştırılmış bir değerlemesidir. Sosyal kredi, gülümsemelere ve aile ziyaretlerine bile kesin değerler atfeden yeni bir puan sistemidir.
Bazı insanlar sosyal kredi sistemlerini toplum yanlısı davranışları ödüllendirmenin, bencil davranışları cezalandırmanın ve daha nazik ve uyumlu toplumlar yaratmanın bir yolu olarak görebilir. Ancak sosyal kredi algoritmaları her yerde bulunan gözetleme teknolojisiyle birleşerek tüm statü rekabetlerini sonu gelmeyen tek bir yarışa dönüştürme tehdidinde bulunuyor. İnsanlar kendi evlerinde ya da rahat bir tatilin tadını çıkarmaya çalışırken bile, sanki milyonların önünde sahneye çıkıyormuş gibi her eylem ve sözlerine son derece dikkat etmek zorunda kalacaklardır.
İnsanlar döngüsel biyolojik zamana göre yaşayan organik varlıklardır. Bazen uyanık, bazen de uykudayızdır. Para piyasası bile bu biyolojik döngülere saygı duyar. Buna karşılık, bir bilgisayar ağı her zaman açık olabilir. Dolayısıyla bilgisayarlar insanları her zaman bağlı olduğumuz ve her zaman izlendiğimiz yeni bir tür varoluşa doğru itmektedir.
Kendini düzeltmeye bilgi ağı çoğu zaman yanılır: Bilgi genellikle gerçeği keşfetmek yerine düzen yaratmak için kullanılır. Stalin’in zamanında ajanları “alkış testini” dinleyiciler hakkındaki gerçeği ortaya çıkarmanın bir yolu olarak kullandılar. Bu, ne kadar uzun süre alkışlarsanız Stalin’i o kadar çok sevdiğinizi varsayan bir sadakat testiydi. İlk alkışlamayı bırakan sorguya çekilirdi.
Homo sovieticus, her türlü inisiyatiften ya da bağımsız düşünceden yoksun, en gülünç emirlere bile pasif bir şekilde itaat eden ve eylemlerinin sonuçlarına kayıtsız kalan köle ruhlu ve alaycı insanlardı. Sovyet bilgi ağı, gözetim, cezalandırma ve ödüllendirme yoluyla Homo sovieticus’u yarattı.
Günümüze gelirsek: özellikle dikkat çekmek isteyen YouTuber’lar, yalanlarla dolu çirkin bir video yayınladıklarında, algoritmanın videoyu çok sayıda kullanıcıya tavsiye ederek ve YouTuber’ların popülerliğini ve gelirini artırarak onları ödüllendirdiğini fark ettiler. Elbette YouTube algoritmaları yalan ve komplo teorilerinin icat edilmesinden ya da aşırılık yanlısı içeriklerin yaratılmasından sorumlu değildi.
Fisher, YouTube algoritmasının kendileri için otomatik olarak oynattığı videoları izledikten sonra aşırılık yanlısı politikalara ilgi duymaya başlayan çok sayıda aşırı sağcı aktivisti belgeledi.
Tarihte, büyük tarihsel süreçlerin kısmen insan dışı zekanın kararlarından kaynaklandığı bir dönüm noktasına ulaşmış bulunuyoruz. Bilgisayar ağının yanılabilirliğini bu kadar tehlikeli kılan da budur. Bilgisayar hataları ancak bilgisayarlar tarihsel aktörler haline geldiğinde potansiyel olarak felaket boyutuna ulaşır. Facebook, YouTube, TikTok ve diğer platformları yönetenler, suçu algoritmalarından “insan doğasına” atarak kendilerini mazur göstermeye çalışıyorlar. Platformlardaki tüm nefret ve yalanları üretenin insan doğası olduğunu savunuyorlar.
Sosyal medya algoritmaları bizi basitçe bir dikkat madeni olarak görüyor. Algoritmalar, nefret, sevgi, öfke, neşe, kafa karışıklığı gibi çok yönlü insan duygularını tek bir kategoriye indirgedi: etkileşim. Yalan ve nefretin psikolojik ve sosyal olarak yıkıcı olma eğiliminde olduğu, oysa hakikat, merhamet ve uykunun insan refahı için gerekli olduğu gerçeği algoritmalarda tamamen kayboldu.
Süper zeki bilgisayarların hedeflerindeki bir uyumsuzluk, benzeri görülmemiş büyüklükte bir felakete yol açabilir. Filozof Nick Bostrom, 2014 tarihli Superintelligence adlı kitabında bu tehlikeyi bir düşünce deneyiyle örneklendirmiştir: Bostrom bizden bir ataç fabrikasının süper zeki bir bilgisayar satın aldığını ve fabrikanın insan yöneticisinin bilgisayara görünüşte basit bir görev verdiğini hayal etmemizi istiyor: mümkün olduğunca çok ataç üretmek. Bu hedef doğrultusunda ataç bilgisayarı Dünya gezegeninin tamamını ele geçirir, tüm insanları öldürür, başka gezegenleri ele geçirmek için keşif gezileri gönderir ve elde ettiği muazzam kaynakları tüm galaksiyi ataç fabrikalarıyla doldurmak için kullanır. Bu düşünce deneyinin amacı, bilgisayarın kendisine söyleneni aynen yapmasıdır (tıpkı Goethe’nin şiirindeki büyülü süpürge sopası gibi).
Bilgisayarların kimi önemsemesi gerektiğini, özneler arası bir mite saplanıp kalmadan tanımlamanın bir yolu var mıdır? Deontologlar özünde iyi olan evrensel kurallar bulmaya çabalarken, faydacılar eylemleri acı ve mutluluk üzerindeki etkilerine göre değerlendirir. O halde tarih boyunca bürokratik sistemler nihai hedeflerini nasıl belirledi? Bunu onlar adına yapması için mitolojiye bel bağlamışlardır. Neyin önemseneceği sorununun özünde bir mitoloji sorunu olduğu ortaya çıkmaktadır.
Yeni Cadılar
Erken modern Avrupa’da, ayrıntılı bir bilgi ağı suçlar, hastalıklar ve felaketlerle ilgili büyük miktarda veriyi analiz etti ve bunların hepsinin cadıların suçu olduğu sonucuna vardı. On dokuzuncu yüzyıla gelindiğinde, ırkçılık kesin bir bilimmiş gibi davranıyordu: insanlar arasında nesnel biyolojik gerçekler temelinde ayrım yaptığını ve kafataslarını ölçmek ve suç istatistiklerini kaydetmek gibi bilimsel yöntemlere dayandığını iddia ediyordu.
Bilgisayarlar, vergi toplama ve sağlık hizmetlerinden güvenlik ve adalete kadar giderek daha fazla bürokraside insanların yerini aldıkça, onlar da bir mitoloji yaratabilir ve bunu bize benzeri görülmemiş bir verimlilikle empoze edebilirler. Örneğin, sosyal kredi sistemleri “düşük kredili insanlardan” oluşan yeni bir alt sınıf yaratabilir.
Başlangıçta algoritmalar kendi başlarına çok fazla şey öğrenemiyordu. Makine öğrenimi alanı geliştikçe, algoritmalar daha fazla bağımsızlık kazandı. Makine öğreniminin temel ilkesi, algoritmaların tıpkı insanlar gibi dünyayla etkileşime girerek kendilerine yeni şeyler öğretebilmeleri ve böylece tam teşekküllü bir yapay zeka üretebilmeleridir. Organik yeni doğanlar gibi, bebek algoritmalar da erişebildikleri verilerdeki örüntüleri tespit ederek öğrenirler. Ancak veri tabanları önyargılarla birlikte gelir.
Bebek algoritmalar öğrenmek için veriye erişimin yanı sıra bir şeye daha ihtiyaç duyarlar. Ayrıca bir hedefe de ihtiyaçları var. Bir yapay zekanın üzerinde eğitildiği veri tabanı, bir insanın çocukluğuna benzer. Çocukluk deneyimleri, travmalar ve peri masalları hayatımız boyunca bizimle kalır. Yapay zekaların da çocukluk deneyimleri vardır. Algoritmik önyargılardan kurtulmak, kendimizi insani önyargılarımızdan kurtarmak kadar zor olabilir. Bir algoritma eğitildikten sonra, onu “eğitildiği paradigmadan çıkarmak” çok zaman ve çaba gerektirir. Tamamen tarafsiz veri̇leri̇ nereden bulabi̇li̇ri̇z?
Bölüm III – Bilgisayar döneminde Siyaset
Demokrasiler ayakta kalabilir mi?
Medeniyetler bürokrasi ve mitolojinin evliliğinden doğar.
20. yüzyılın sonuna gelindiğinde emperyalizm, totalitarizm ve militarizmin sanayi toplumları inşa etmek için ideal bir yol olmadığı anlaşılmıştı. Tüm kusurlarına rağmen, liberal demokrasi daha iyi bir
Ancak liberal demokrasinin kendisi yirmi birinci yüzyılda hayatta kalabilir mi?
Potansiyel tehditlerden biri, yeni bilgisayar ağının mahremiyetimizi ortadan kaldırması ve bizi sadece yaptığımız ve söylediğimiz her şey için değil, düşündüğümüz ve hissettiğimiz her şey için bile cezalandırması ya da ödüllendirmesidir. Demokrasi bu koşullar altında ayakta kalabilir mi?
Totaliter gözetim rejimlerinin yükselişine karşı demokrasiyi koruyacak bir yöntem anti-merkeziyetçiliktir. Demokratik bir toplum, ister hükümet ister özel bir şirket olsun, tüm bilgilerinin tek bir yerde toplanmasına asla izin vermemelidir. Çoklu veri tabanları ve bilgi kanalları da güçlü kendi kendini düzeltme mekanizmalarının sürdürülmesi için gereklidir.
Diğer bir demokratik ilke de karşılıklılıktır. Eğer demokrasiler bireylerin gözetimini arttırırlarsa, eş zamanlı olarak hükümetlerin ve şirketlerin gözetimini de arttırmalıdırlar.
Yapay zeka ve otomasyon ile iş piyasasının dengesini bozması demokrasinin altını oyabilir. Mayıs 1928’de Nazi Partisi oyların yüzde 3’ünden azını kazanmıştı ve Weimar Cumhuriyeti refah içinde görünüyordu. Beş yıldan kısa bir süre içinde Weimar Cumhuriyeti çöktü ve Hitler Almanya’nın mutlak diktatörü oldu. Bu geri dönüş genellikle 1929 mali krizine ve ardından gelen küresel depresyona bağlanmaktadır. Wall Street’in 1929’daki çöküşünden hemen önce Alman işsizlik oranı işgücünün yaklaşık yüzde 4,5’i iken, 1932’nin başlarında bu oran neredeyse yüzde 25’e yükselmişti. Yüzde 25 işsizlik, görünüşte refah içinde olan bir demokrasiyi tarihin en acımasız totaliter rejimine dönüştürebilirken, otomasyon yirmi birinci yüzyılın iş piyasasında daha büyük çalkantılara neden olduğunda demokrasilere ne olabilir?
Yanlış bir varsayıma göre yaratıcılık insanlara özgüdür, dolayısıyla yaratıcılık gerektiren herhangi bir işi otomatikleştirmek zor olacaktır. Yaratıcılık genellikle kalıpları tanıma ve sonra onları kırma yeteneği olarak tanımlanır. Eğer öyleyse, birçok alanda bilgisayarların bizden daha yaratıcı olması muhtemeldir, çünkü örüntü tanıma konusunda üstündürler.
Diğer bir yanlış varsayım, bilgisayarların terapistlerden öğretmenlere kadar duygusal zeka gerektiren işlerde insanların yerini alamayacağıdır. Duygular da birer örüntüdür. Öfke vücudumuzdaki biyolojik bir örüntüdür. Korku da böyle bir başka örüntüdür. Yapay zekanın kendine ait duyguları yoktur, ancak yine de insanlardaki bu kalıpları tanımayı öğrenebilir. Aslında, bilgisayarlar insan duygularını tanımada insanlardan daha iyi performans gösterebilir, çünkü tam da kendi duyguları yoktur.
Muhafazakâr olmak, politikadan ziyade hız ile ilgili olmuştur. Muhafazakârlar herhangi bir dine ya da ideolojiye bağlı değildir; onlar zaten burada olan ve az çok makul bir şekilde işleyen her şeyi korumaya kendilerini adamışlardır. 21. yüzyılda hayatta kalmak için en önemli insani beceri muhtemelen esneklik olacaktır ve demokrasiler totaliter rejimlerden daha esnektir.
Bilgisayarlar bizim hakkımızda hayatımızı değiştiren kararları giderek daha fazla alıyor. Toplum giderek daha fazla kararı bilgisayarlara emanet ettikçe, demokratik kendi kendini düzeltme mekanizmalarının ve demokratik şeffaflık ve hesap verebilirliğin uygulanabilirliğini zayıflatıyor. Seçilmiş yetkililer anlaşılmaz algoritmaları nasıl düzenleyebilir? Sonuç olarak, yeni bir insan hakkı olan açıklama hakkının tanınması yönünde artan bir talep var. Avrupa Birliği’nin 2018’de yürürlüğe giren Genel Veri Koruma Yönetmeliği (GDPR), bir algoritma bir insan hakkında bir karar verirse – örneğin bize kredi vermeyi reddederse – o insanın kararla ilgili bir açıklama alma ve bu karara bir insan otoritesi önünde itiraz etme hakkına sahip olduğunu söylüyor. Ancak bu hak pratikte yerine getirilebilir mi?
Bilgi ağımızın giderek daha anlaşılmaz hale gelmesi, popülist partilerin ve karizmatik liderlerin son dönemdeki dalgasının nedenlerinden biridir. İnsanlar artık dünyayı anlamlandıramadıklarında ve sindiremedikleri muazzam miktarda bilginin altında ezildiklerini hissettiklerinde, komplo teorileri için kolay bir av haline gelirler ve kurtuluş için anladıkları bir şeye, insana yönelirler.
Yeni bilgisayar ağı demokrasiler için şöyle de bir tehdit oluşturmaktadır: Dijital totalitarizm yerine dijital anarşiyi besleyebilir. Yapay zekanın anarşik potansiyeli özellikle endişe vericidir, çünkü kamusal tartışmaya katılmasına izin verdiği sadece yeni insan grupları değildir. Demokrasi ilk kez insan olmayan seslerden oluşan bir kakofoni ile de mücadele etmek zorunda kalmıştır. 2020 yılında yapılan bir araştırmaya göre tweetlerin yüzde 43’ünü botlar üretiyordu. Botlar başlangıçta yaydıkları mesajların hacmi sayesinde kamuoyunu etkilemek için kullanıldı. Eğer manipülatif botlar ve anlaşılmaz algoritmalar kamusal tartışmalara hakim olmaya başlarsa, bu durum tam da en çok ihtiyaç duyduğumuz anda demokratik tartışmaların çökmesine neden olabilir.
Para sahteciliği için geçerli olan şey botlar tarafından yapılan insan sahteciliği için de geçerli olmalıdır. Yasalar sadece belirli gerçek insanları taklit etmeyi (örneğin ABD başkanının sahte bir videosunu oluşturmak) değil, aynı zamanda insan olmayan bir ajanın/botun kendisini insan gibi göstermeye çalışmasını da yasaklamalıdır.
Eğer neyin bozuk olduğunu keşfedip düzeltemezsek, büyük ölçekli demokrasiler bilgisayar teknolojisinin yükselişinden sağ çıkamayabilir.
Totalitarizm: Tüm Güç Algoritmalarda mı?
Makine öğrenimi algoritmalarının yükselişi, dünyanın Stalin’lerinin tam da beklediği şey olabilir.
Bazı insanlar blok zincirinin bu tür totaliter eğilimler üzerinde teknolojik bir kontrol sağlayabileceğine inanmaktadır. Bir blok zinciri sisteminde kararlar için kullanıcıların yüzde 51’inin onayı gerekir. Bu teknolojinin ölümcül bir kusuru vardır. Sorun “kullanıcılar” kelimesinde yatmaktadır. Bir kişinin on hesabı varsa, on kullanıcı olarak sayılır.
Diktatörler her zaman zayıf kendi kendini düzeltme mekanizmalarından muzdarip olmuş ve her zaman güçlü astlar tarafından tehdit edilmişlerdir. Yapay zekanın yükselişi bu sorunları daha da kötüleştirebilir.
Dünyadaki diktatörlerden sadece birkaçı bile yapay zekaya güvenmeyi tercih ederse, bunun tüm insanlık için geniş kapsamlı sonuçları olabilir.
Küresel İmparatorluk mu, Küresel Bölünme mi?
İnsan uygarlığı, sosyal bağlarımızı zayıflatan hikayeler gibi sosyal kitle imha silahları tarafından da yok edilebilir. Bir ülkede geliştirilen bir yapay zeka, sahte haber, sahte para ve sahte insan tufanını serbest bırakmak için kullanılabilir, böylece çok sayıda başka ülkedeki insanlar herhangi bir şeye veya herhangi birine güvenme yeteneğini kaybeder.
Psikolojik savaş, veri sömürgeciliği ve siber uzayları üzerindeki kontrollerini kaybetme korkuları, birçok ülkenin tehlikeli gördükleri uygulamaları şimdiden engellemelerine yol açtı. Çin, Facebook, YouTube ve diğer birçok Batılı sosyal medya uygulamasını ve web sitesini yasakladı.
Yapay zeka endüstrisinin hammaddesi veridir. Görüntüleri tanıyan bir yapay zeka üretmek için kedi fotoğraflarına ihtiyacınız var. Sağlık alanında algoritma üretmek için genler ve tıbbi koşullar hakkında veriye ihtiyacınız vardır. Yeni bir emperyal bilgi ekonomisinde, ham veriler tüm dünyada toplanacak ve emperyal merkeze akacaktır. Bu algoritmalar daha sonra veri kolonilerine geri ihraç edilecektir.
Öte yandan yapay zeka ve otomasyon, gelişmekte olan yoksul ülkeler için özel bir zorluk teşkil etmektedir.
Bu ülkelerdeki vasıfsız iş kollarının değeri düşecek ve işgücünü yeniden eğitecek kaynaklara sahip olamayacaklar, bu da daha da geride kalmalarına neden olacaktır. Bu ekonomik ve jeopolitik dinamikler dünyayı iki dijital imparatorluk arasında bölebilir.
Örneğin Çin ile ABD ya da Rusya ile AB arasındaki Silikon Perde’nin ötesinde bilgiye erişmek zorlaşıyor.
Bu siyasi, kültürel ve düzenleyici farklılıklar, her alanın farklı yazılım kullandığı anlamına geliyor. Her alan aynı zamanda akıllı telefonlar ve bilgisayarlar gibi farklı donanımlar kullanmaktadır. İki dijital kutup birbirinden giderek daha da uzaklaşabilir.
Paradoksal olarak, günümüzde bilgi teknolojisi o kadar güçlüdür ki, farklı insanları ayrı bilgi kozalarına hapsederek insanlığı bölebilir ve tek bir ortak insan gerçekliği fikrini sona erdirebilir.
Siber silahlar nükleer bombalardan çok daha karışıktır. Varlıklarını bir mantar bulutu ve ateş fırtınası ile duyurmazlar ve fırlatma rampasından hedefe kadar görünür bir iz bırakmazlar. Sonuç olarak, zaman zaman bir saldırının gerçekleşip gerçekleşmediğini ya da kimin başlattığını bilmek zordur.
İkinci önemli fark ise öngörülebilirlikle ilgilidir. Hiç kimse her iki tarafın da virüslerini, Truva atlarını ve kötü amaçlı yazılımlarını nereye yerleştirdiğini kesin olarak bilemez. Hiç kimse kendi silahlarının çağrıldığında gerçekten işe yarayıp yaramayacağından emin olamaz.
Popülistlerin iddia ettiğinin aksine, küreselleşme küresel bir imparatorluk kurmak, ulusal bağlılıkları terk etmek ya da sınırları sınırsız göçe açmak anlamına gelmez. Aslında küresel işbirliği çok daha mütevazı iki şey anlamına gelir:
- Birincisi, bazı küresel kurallara bağlılık. Bu kurallar her ulusun eşsizliğini ve insanların uluslarına borçlu oldukları sadakati inkar etmez. Sadece uluslar arasındaki ilişkileri düzenler. Dünya Kupası iyi bir modeldir. Dünya Kupası uluslar arasında bir yarışmadır ve insanlar genellikle milli takımlarına şiddetli bir sadakat gösterirler.
- Küreselciliğin ikinci ilkesi, bazen -her zaman değil ama bazen- tüm insanların uzun vadeli çıkarlarını birkaç kişinin kısa vadeli çıkarlarına tercih etmek gerektiğidir.
Yapay Zeka konusunda uluslararası anlaşmalar yapmak ve bunları korumak, uluslararası sistemin işleyişinde büyük değişiklikler gerektirecektir. Bunun düzenlenmesi benzeri görülmemiş düzeyde güven ve öz disiplin gerektirecektir. Hükümetler ve şirketler rakiplerinin üzerinde anlaşmaya varılan düzenlemelere gerçekten uyduklarına güvenmekte ve kurallardan feragat etme eğilimine karşı koymakta daha fazla zorlanacaklardır.
Taş Devri insanlarına bakarsak; onlar avcı oldukları kadar toplayıcıydılar ve önlenemez savaşçı eğilimlere sahip olduklarına dair kesin bir kanıt yoktur. Çok sayıda spekülasyon olsa da, organize savaşa dair ilk kesin kanıt arkeolojik kayıtlarda sadece yaklaşık on üç bin yıl önce, Nil vadisindeki Jebel Sahaba bölgesinde ortaya çıkmaktadır. Bu tarihten sonra bile, savaş kayıtları sabit olmaktan ziyade değişkendir. Bazı dönemler son derece şiddetliyken, diğerleri nispeten barışçıl olmuştur. İnsanlığın uzun vadeli tarihinde gözlemlediğimiz en net örüntü, çatışmanın sürekliliği değil, işbirliğinin artan ölçeğidir.
Eş zamanlı olarak, madde temelli ekonomiden bilgi temelli ekonomiye doğru süregelen geçiş, savaşın potansiyel kazanımlarını azaltmıştır.
Roma İmparatorluğu bütçesinin yaklaşık yüzde 50-75’ini orduya harcıyordu ve bu rakam on yedinci yüzyılın sonlarında Osmanlı İmparatorluğu’nda yaklaşık yüzde 60’tı. 1685-1813 yılları arasında İngiliz hükümetinin harcamalarında ordunun payı ortalama yüzde 75’ti. 21. yüzyılın başlarında, dünya genelinde hükümetlerin orduya yaptığı ortalama harcama, bütçenin yalnızca yüzde 7’si civarındadır ve egemen süper güç ABD bile askeri hegemonyasını sürdürmek için yıllık bütçesinin yalnızca yüzde 13’ünü harcamıştır.
Savaşın azalması ilahi bir mucize ya da doğa kanunlarındaki bir metamorfozdan kaynaklanmamıştır. İnsanların kendi yasalarını, mitlerini ve kurumlarını değiştirmeleri ve daha iyi kararlar almaları sonucunda ortaya çıkmıştır.
Sonsöz
Bu kitapla amaç, yapay zeka devrimine daha doğru bir tarihsel bakış açısı sağlamaktır. Bu devrim henüz emekleme aşamasında ve önemli gelişmeleri gerçek zamanlı olarak anlamak oldukça zor.
Çıkarılacak derslerden biri, yeni bilgi teknolojilerinin icadının her zaman büyük tarihsel değişimler için bir katalizör olduğudur; çünkü bilginin en önemli rolü, önceden var olan gerçeklikleri temsil etmekten ziyade yeni ağlar örmektir. Eski Mezopotamya‘daki kil tabletler vergi ödemelerini kaydederek ilk şehir devletlerinin kurulmasına yardımcı olmuştur. Kutsal kitaplar peygamberlik vizyonlarını kanonlaştırarak yeni tür dinlerin yayılmasını sağlamıştır. Gazeteler ve telgraflar, başkanların ve vatandaşların sözlerini hızla yayarak hem büyük ölçekli demokrasiye hem de büyük ölçekli totalitarizme kapı açtı. Bu şekilde kaydedilen ve dağıtılan bilgiler bazen doğru, çoğu zaman yanlıştı, ancak her zaman çok sayıda insan arasında yeni bağlantılar yarattı. İlk Mezopotamya şehir devletlerinin yükselişi, Hıristiyanlığın yayılması, Amerikan Devrimi ve Bolşevik Devrimi gibi tarihsel devrimlere siyasi, ideolojik ve ekonomik yorumlar getirmeye alışkınız. Ancak daha derin bir anlayış kazanmak için bunları aynı zamanda bilginin akış biçimindeki devrimler olarak da görmeliyiz.
Bu tarihsel ders, bizi mevcut siyasi tartışmalarımızda yapay zeka devrimine daha fazla dikkat etmeye teşvik etmelidir. Bu potansiyel olarak telgrafın, matbaanın ve hatta yazının icadından daha önemlidir, çünkü o kendi başına karar verebilen ve fikir üretebilen ilk teknolojidir. Matbaalar ve parşömen tomarları insanları birbirine bağlamak için yeni araçlar sunarken, yapay zekalar bilgi ağlarımızın kendi eylemlerine sahip tam teşekküllü üyeleridir.
Bilgi gerçeklik demek değildir. Temel görevi temsil etmekten ziyade bağlantı kurmaktır ve tarih boyunca bilgi ağları genellikle düzeni gerçeğe tercih etmiştir. Vergi kayıtları, kutsal kitaplar, siyasi manifestolar ve gizli polis dosyaları, buna örnek olabilir. Daha fazla bilgi, ironik bir şekilde, bazen daha fazla cadı avına yol açabilir.
Şimdi bu kitabın başındaki soruya geri dönelim: Eğer bu kadar bilgeysek, neden kendimize bu kadar zarar veriyoruz?
Bu kitap, hatanın doğamızda değil, bilgi ağlarımızda olduğunu ileri sürmektedir. Düzenin hakikatten üstün tutulması nedeniyle, insan bilgi ağları çoğu zaman fazla güç ama az bilgelik üretmiştir. Örneğin, Nazi Almanyası son derece verimli bir askeri makine yarattı ve bunu çılgın bir mitolojinin hizmetine sundu. Sonuç muazzam ölçekte sefalet, on milyonlarca insanın ölümü ve nihayetinde Nazi Almanya’sının da yok olması oldu. Buna göre, bir ağ güçlendikçe, kendi kendini düzeltme mekanizmaları daha hayati hale gelir. Ne yazık ki, politikacılar bu mekanizmaları zayıflatma eğiliminde olabilirler.
Ancak daha da kötü bir senaryo var. Şu anda bilinçli olmayan ama çok güçlü bir uzaylı zekası yarattık. Eğer onu yanlış kullanırsak, yapay zeka sadece Dünya üzerindeki insan hakimiyetini değil, bilincin ışığını da söndürebilir ve evreni zifiri karanlık bir diyara dönüştürebilir. Bunu önlemek bizim sorumluluğumuzdur.
Daha akıllı ağlar oluşturmak için, hem naif hem de popülist bilgi görüşlerini terk etmeli, yanılmazlık fantezilerimizi bir kenara bırakmalı ve kendimizi güçlü kendi kendini düzeltme mekanizmalarına sahip kurumlar inşa etmenin zor ve oldukça sıradan işine adamalıyız. Bu kitabın sunduğu en önemli çıkarım belki de budur. Bu bilgelik insanlık tarihinden çok daha eskidir. Önümüzdeki yıllarda hepimizin vereceği kararlar, bu yeni yapay zekâyı icat etmenin ölümcül bir hata mı yoksa yaşamın evriminde umut dolu yeni bir bölümün başlangıcı mı olacağını belirleyecek.