Öteki Zekalar, James Bridle

Başlayabiliriz. Herkese merhaba! Bu hafta Berlin’de olamadığım için üzgünüm, ama bu şekilde konuşma fırsatım olduğu için de çok memnunum. Konuşmamın bazılarınızın ilgisini çekeceğini düşünüyorum. Her ne kadar biraz daha hafif bir şekilde ele alacak olsam da üzerinde düşünebileceğiniz ve hatta eğer canlı olarak izliyorsanız üzerinde tartışabileceğimiz birkaç konuya değinmeyi umuyorum. Birkaç konu başlığım var: en son yazdığım kitabım Yeni Karanlık Çağ [New Dark Age] ve bunun ne anlama geldiği üzerine konuşacağım. Özellikle Bilgisayımsal Düşünme (Computational Thinking) fikrini ve bundan sonra gelen diğer bahisleri biraz daha açacağım. Zira bu kitabı yazalı birkaç sene oluyor... Üstelik bugün bütün bir dünya olarak kitapta bahsettiğim durumdan çıkmaya çalıştığımız zamanlardan geçiyoruz. Dolayısıyla bu konular üzerine düşünmek için kritik bir eşikteyiz ve bu konuşma da bunun için iyi bir fırsat. Konuşmamın sonuna doğruysa bugün için düşüncelerim ve Bilgisayımsal Düşünmenin bizi nasıl bugünlere getirdiği üzerine konuşacağız. 

Ama öncelikle bir süredir üzerinde düşündüğüm ve yazdığım konular hakkında bugün neredeyiz ona bir bakalım. Uzunca bir süre adına bulut (cloud) dediğimiz bu figürle ilgilendim. Bugün bulut dediğimde çoğunlukla Bilgisayımsal Buluttan (Computational Cloud) bahsettiğim anlaşılıyor: yoğun bir şekilde bağlı olduğumuz, ama artık neredeyse görmediğimiz bilgisayarların ötekiliğinden bahsediyorum. Bu konuyu nadiren sorguluyoruz. Tamamen görünmez kılmasa da bir şeyin görünürlüğünü zorlaştırmak, iktidarın çalışma şekillerinden biri. Bu bağlamda, teknolojinin iktidarı uygulama yollarıyla ilgilenen kişilerin, bahsettiğim bu bulutu biraz olsun yeryüzüne indirip, neden onu bir bilgisayar gibi algılayıp, hem de üzerinde düşünmemiz gerekmeyen bir şeymiş gibi farz ettiğimizi anlamaya çalışmaları gerekiyor. Bu nedenle son yıllarda benle beraber birçok başka sanatçı da bulutu maddeleştirmek, gerçekten neden yapıldığını anlamak için bir hayli çalıştık ve fark ettik ki bulut aslında veri merkezlerinin, fiziki binaların içinde birbirlerine kablolarla bağlı makinelerden, bilgisayarlardan oluşuyor. Bu oldukça önemliydi ve bu çalışmalardan gerçekten keyif aldım. Fakat şimdi bulutu yeniden ele almanın, bulanık ve muğlak oluşunun aslında ne demek olduğu üzerine düşünmenin, bulutu salt bilgisayımsal bir şey olarak ele almanın kendisinin, bizi yine hesaplamalı düşünme tuzağına düşürdüğünü fark etmenin önemini anlıyoruz. Peki bu bilgisayımsal düşünme problemini nasıl anlayacağız ve bundan kendimizi nasıl sakınacağız?

Ben bunu tarih içinden okumayı seviyorum: bu tarih bizzat bulutlarla ve hatta hava durumu tarihsel verileriyle ilintili. Bilgisayımsal düşünmeyi anlamanın yollarından biri şu: 1910’lu yıllarda yaşamış Lewis Fry Richardson adında bir adamdan bahsedeceğim, ki kendisi benim bir nevi kahramanım olur. Richardson bir meteorologdu ve İngiltere’de savaş öncesinde gözlem evlerinde hava durumuna nasıl tepki verileceğinin ötesinde, nasıl daha iyi tahmin yürütülebileceği konusunda bir sürü deney gerçekleştiriyordu. Kafasında şöyle bir fikir vardı: dünya hakkında eğer yeterince veri toplanabilirse buradan hareketle birtakım hesaplamalar yapılabilir, ki bugün buna algoritmalar diyoruz. Bu sayede geleceğe dair hava durumu hesaplanabilir -nitekim o döneme kadar bu başarılamamıştır-. Evet, bunun için bir takım pratik metotlar vardı ama sağlam bir hesaplama henüz gerçekleştirilememişti. Ve böylece, bilgi toplamaya başlar. Sonra, 1. Dünya Savaşı patlak verir. Richardson bir Quaker ve bir pasifisttir, yani bir vicdani retçidir. Savaşa ön saflarda sedye taşıyıcısı olarak katılır ve oradayken savaş öncesinde topladığı bir güne ait hava durumu verilerini yanına alır. Savaş sırasında yalnızca kâğıt ve kalem kullanarak aylar boyunca çalışıp yalnızca bir günlük havayı tahmin edebilen bir algoritma bulur. Bu işlem aylarını alır. 1922’de Sayısal Süreçlerle Hava Tahmini [Weather Prediction by Numerical Process] adında bir kitap yazar. Burada Avrupa haritası üzerine çizdiği bir grid görselini göstereceğim.

Gördüğünüz gibi incelediği yerin okumasını yapmak için orayı karelere bölmek ister ve her bir karedeki havanın durumu için geleceğe dair hesap yapmak için bir algoritma kullanır. Tabi işin içinde muhteşem bir matematik söz konusudur ama çok da geliştirilemez çünkü henüz bilgisayarlar yoktur. Bilgisayarlar olmadan havanın hesaplanması daha ziyade entelektüel bir egzersizdir. 24 saat sonranın hava durumunu hesaplayabilmek için aylarca çalışması gerekmektedir. Senelerce bu çalışma bir kitabın parçası olarak kalmıştır. Daha sonra İkinci Dünya Savaşı patlar ve bilgisayarlar sahneye çıkar. Özellikle ENIAC, ilk depolanmış program bilgisayarı olarak Richardson’ın hesaplarını hava durumunun kendisinden daha hızlı bir şekilde yapabilir. Böylece birçok Amerikalı meteorolog ve bilgisayar bilimci aynı prosedürü uygulayarak Kuzey Amerika’yı gridlere bölüp, veri toplarlar ve veriyi bir bilgisayar programına girip havayı tahmin etmeyi başarırlar. Bu yine haftalar süren bir süreçtir ama bilgisayarın toplam hesaplama süresinin 23,5 saat olduğunu fark ettiklerinde, görevin başındaki kişi şu cümleleri kaleme alır: “Richardson’ın rüyası gerçek oldu.” Artık bilgisayarın hesaplama süresi hava durumunun kendisinden daha hızlıdır. Bu bir dönüm noktasıdır çünkü artık bilgisayar programlarının dünyanın kendisinden daha hızlı çalışabileceğini anladığımız andır. Bu an itibariyle dünyanın kendisinin hesaplanabilir olduğu düşüncesi artık zihinlerde yerini almıştır. Doğru veriler ve doğru algoritmalar kullanılırsa gelecek tahmin edilebilir. Geleceği tahmin etmek aynı zamanda geleceği kontrol edilebilir kılar. Buradan tek bir gelecek olduğu ve hepimizin ona doğru yol aldığı ve doğru bir matematikle bunun öngörülebilir olduğu fikri doğar. Dolayısıyla bu matematiği kim biliyorsa o geleceği kontrol edebilir çünkü ne olacağını bilir ve herkesten önce davranabilir. O zamandan beri bilgisayar teknolojilerindeki her gelişme bu inancı pekiştirmeye yaramıştır. Daha sonra bilgisayar bilimindeki tüm gelişmeler, son 50-60 sene içerisindeki teknolojik gelişmeler özellikle mikroçiplerin üretilmesi de bu inancı pekiştirir. 

Bu gördüğünüz grafik Moore Yasasını anlatıyor:

1950’lerde Intel’den Gordon Moore bilgisayarların gücünün, yani bilgisayarın tek bir çipte gerçekleştirebileceği hesaplamanın her 18 ila 24 ayda iki katına çıkacağını öngördü ki sonunda haklı da çıktı. Bilgisayarlar icatlarından beri her 18 ayda bir, iki kat güçlendiler. Bu tabi muhteşem bir şey. Bu bir nevi kendini gerçekleştiren kehanet de geleceğe dair bilgisayarların hep daha da güçleneceğini, gelecekte her daim problemleri çözebileceğimizi ve gün geçtikçe tahmin kuvvetimizin artacağını ve bu hesaplamaya dair inancın kuvvetlenmesi yine her şeyin öngörülebilir ve kontrol edilebilir olduğu inancını pekiştirdi. Tüm bunlar bilgisayımın gelişimiyle alakalı bu biçimlendirici temele dayanıyor gibi gözüküyor fakat birazdan anlatmaya çalışacağım gibi bir yandan da bu inanç zihinlerimizde o kadar derinlere işlemiş ve ürettiğimiz makinelere ve tüm hayat tarzımıza o kadar yerleşik ki bunu artık sorgulamıyoruz bile ve bu inanç bizi yolda bırakmakta, paramparça olmakta. Bunun sonuçları apaçık. Bu grafik hep aşağı doğru giden bir grafik.

Bu grafik zaman bazlı ilaç araştırmaları için harcanan parayla, keşfedilen yeni ilaç sayılarını karşılaştırıyor ki buradan şunu anlıyoruz: ilaç araştırmalarına harcanan rakamlar arttıkça, çok daha azını geri alıyoruz. Buna farmakolojide Eroom Yasası deniyor yani Moore Yasası’nın tersten okunuşu, çünkü tam tersini yapıyor: bir sorunu çözmek için ne kadar bilgisayar kullanırsak çözüm o kadar zorlaşıyor, çünkü yapılan bu: sorunları hep daha fazla bilgisayarla cevap veriliyor. Burada şunu belirtmek isterim ki bu yaklaşım problemli olmakla beraber, bir yandan da bugün koronavirüsle ilgili bir aşı bulmak için en büyük umutlarımızı yine bu araştırmalar vadediyor. Ama aynı zamanda şunu da gösteriyor: farmakoloji sektöründe kullanıldığı şekliyle bilgisayar odaklı araştırmalar bugün insanlık açısından büyük bir dayanışmayla desteklenmediği, bütün bu bilimsel aktiviteler sosyal pratiklerle iç içe geçmediği müddetçe tam anlamıyla yeterli olamayacaklar. Bu konuya sonra da değineceğim ama özetle Eroom Yasası şunu söylüyor: ilaç araştırmalarına devasa bilişim odaklı yatırımlar yapmak aslında bizim açımızdan en iyi sonuçları üretmiyor. 

Bu görsellerde de benzer bir şeyi görebiliyoruz: teknoloji, üzerinde tahmin yürütmek istediğimiz hava durumunun kendisinin öngörülebilirliğini engelliyor. Şöyle ki bunlar Kuzey Atlantik türbülans diyagramları. Grafikler şunu söylüyor: bugün Kuzey Atlantik üzerindeki hava kütleleri gitgide daha türbülanslı, daha sarsıntılı hale geliyor. Bu tamamen iklim değişikliğine bağlı atmosferin ısıtılmasıyla alakalı. Atmosfer ısındıkça, denge azalıyor ve bu büyük hava kütleleri birbirlerine çarpınca türbülans ortaya çıkıyor. Bu nedenle uçuşlar daha sarsıntılı hale geliyor. Bu dönemde bir uçağa binecek kadar şanslı ya da aptalsanız bunu hissetmiş olmalısınız. Bu tamamen iklim değişikliği kaynaklı ve etkilerini bedeninizde hissedebiliyorsunuz. BU ŞU DEMEK: GELECEĞİN TAHMİN EDİLMESI GÜÇLEŞİYOR ÇÜNKÜ BUGÜN ÖNCESİNE ORANLA GELECEK HAKKINDA DAHA AZ BİLGİ SAHİBİYİZ. 

Bu da şimdi göstereceğim grafikle alakalı: Moore Yasası gibi yukarı ve sağa doğru gidiyor. 1955’den beri Hawaii’deki Loa Dağında ölçülmüş olan karbondioksit seviyelerini gösteriyor ki bu kademeli artış küresel ısıtmanın en önemli sebeplerinden biri. Birçok insanın bilmediği bir şey var ki karbondioksit yalnızca atmosfer için kötü değil ama aynı zamanda direkt olarak bize de zararı var. Bundan birkaç sene önce atmosferdeki karbondioksit oranı milyonda 400 birim seviyelerini geçti (bugün 414 birim seviyesinde). Şu an bir ofisin içindeyseniz, ya da yatak odanızda veya oturma odasında pencereler kapalı ve ısıtıcılar açıksa, karbondioksit seviyeleri çok rahat milyonda 1000 birimi geçebilir. Avrupa’da sınıflarda yapılan araştırmalar gösteriyor ki kapalı sınıf ortamlarında sık sık milyonda 1000-1500 birimleri bulabiliyor bu seviye ve bu ortamda bilişsel kabiliyetlerimiz %20 oranında azalıyor. Berrak bir şekilde düşünme ve problem çözme kabiliyetimiz yüksek karbondioksit seviyeli ortamlarda düşüyor. Bu yüzden atmosfere bile bile bunu pompalıyor olduğumuz gerçeği bana inanılmaz geliyor ki şu an çok daha karmaşık problemleri çözmek için aklımızı en verimli biçimde kullanabilmeye ihtiyaç duyuyoruz. Bizi daha aptal yapan bir şeyi düzenli olarak havaya salıyoruz. Ben bunun tamamen ikiz bir etki olduğunu düşünüyorum. Bilgisayımsal düşünme bizi salt teknolojinin -insani yaklaşımlardan tamamen ayrıştırılmış hâliye teknolojinin- kurtarabileceğine, daha eşit, daha adil bir dünyaya erişebileceğimize ikna ediyor, ki bu şu an çok naif de gelse kulağa, ilk dönemlerde algı bu yöndeydi. İklim krizinin sebep olduğu şiddet ve tehlikeyle beraber, bu güçlerin birlikte çalıştığını görüyorum. Çünkü ikisi de daha farklı düşünememe kabiliyetlerimize hitap ediyor ve bizi oldukça tehlikeli sulara sürüklüyorlar. 

Bu bilişsel krizin apaçık olduğu bir örnek olarak GPS kaynaklı ölümleri veriyorum genelde. GPS kaynaklı ölüm, Amerika’da doğal park görevlilerinin, insanların GPS ekranlarında parlak kırmızı çizgiyi takip ederek gitmemeleri gereken yerlere gitmeleri fenomenine verdikleri isim. İnsanlar GPS’lerini takip edip araçlarıyla ölüm vadilerine yuvarlanıyor ya da derelere, göllere düşüyorlar çünkü GPS’lerindeki çizgi onlara oraya gitmeleri gerektiğini, o yolun güvenli olduğunu söylüyor. Bütün kritik karar verme yetilerini, tamamen güvendikleri bir teknolojiye emanet ediyorlar. Bu çok ciddi ve önemli bir konu ama bir yandan da gülünç bulabiliriz ya da aptallıkla ilişkilendirebiliriz. Ama aslında beynimizde çok derinlerde bir yerlerdeki duyarlılığımızla alakalı bir mevzu bu. Bu konu psikolojik çalışmalarda otomasyon önyargısı olarak geçer. Buna klasik bir örnek vermek gerekirse: oldukça deneyimli, eğitimli, kullandıkları teknolojiden haberdar birkaç pilotu bir uçak simülasyonuna bindirirler ve kritik bir anda bir kaza simülasyonu esnasında otomasyon sistemi onlara aslında yapmamaları gerektiklerini bildikleri bir şeyi yapmalarını söyler. Vakaların 99%’unda pilotlar aksini biliyor olmalarına rağmen, kendilerine söyleneni yaparlar. Çünkü beynimizin bir parçası işlevlerini teknolojiye devretmek, kolay yolu seçmek istiyor. Teknolojinin, bizi uçuruma da sürüklese, bir uçağı düşürecek de olsa, bizim için daha iyi cevapları olduğuna inanıyor. Beyinlerimiz dijital önerilere son derece duyarlı halde. Düşününce çok anlaşılır bir durum aslında. Mesela, beni dinlerken acaba kaç defa telefonu elinize alıp kaydırdınız, orada burada dolandınız ve şuna veya buna tıkladınız? Çoğu beyninizin berrak bir şekilde düşünme kabiliyetine karşı net bir saldırı neticesinde meydana geliyor. 

Beyninize, topluma yapılan bu saldırı, teknolojinin bu denli bilinçli donanımı ve bizim ona olan inancımız, ifadesini yalnızca GPS kazalarında ya da deneylerde bulmuyor. Dış dünyanın tamamında ama özellikle otomasyon söz konusu olunca daha da görünür oluyor. Mesela bu görseldeki Rugeley, Staffordshire’daki Amazon depolarını ele alalım. Burası Avrupa’daki en büyük Amazon tesisiydi -bilmiyorum hala öyle mi-. Bu mekânda çok ilgi çekici, özellikle etrafımızı saran dış dünyanın teknolojik bir şeye, insani olmayan bir şeye dönüşmesiyle ilgili kayda değer bir şeyler oluyor: Amazon burada kaotik depolama (chaotic storage) diye adlandırılan bir depolama sistemi kullanıyor. Bu sistem mekânı daha verimli kullanabilmekle ilintili. Zira Amazon gibi bir firma olduğunuzda milyarlarca farklı türde şey satıyorsunuz ve insanlar siparişlerini alfabetik sırayla ya da türe göre vermiyorlar. Mesela bir kitap, bir çamaşır deterjanı ve bir DVD ya da bir tişört aynı anda sipariş ediliyor ve eğer Amazon tarafında bu şeyler insan zihnine göre depolanmış olsa, kitapların bir uçta, çamaşır deterjanlarının öbür uçta olduğu bu kocaman depoda, siparişi hazırlayan kişinin kilometrelerce yürümesi gerekir. İşte bu nedenle kaotik depolama sistemini kullanıyorlar: Bu sistemde her şey görünüşte tamamen gelişigüzel bir şekilde, birbirine karışmış bir halde depolanıyor. Ama aslında insanların zevk ve ihtiyaç sepetlerini hesaplayabilen çok karmaşık bir algoritma bu sistemi belirliyor. Bir bakıyorsunuz, kitaplar, yanında tişörtler, onun yanında çamaşır deterjanları ve bu haliyle mekân çok daha verimli bir hale geliyor. Fakat aynı zamanda mekânı insanlar için tamamen okunaksız hale getiriyor. Netice itibariyle mekân içerisinde yönünü bulabilmenin tek yolu -tıpkı bir yönüyle yaşadığımız karmaşık dünyada olduğu gibi- teknolojik aygıtların desteğiyle mümkün kılınıyor. Bu nedenle Amazon depolarında -veya birçok başka depo için de aynısı mümkün olabilir- çalışanlar yanlarında onlara ne yöne ya da hangi noktadan hangi noktaya gitmelerini söyleyen kişisel GPS gibi küçük aygıtlar taşıyorlar. Mekân bu şekilde daha verimli bir şekilde kullanılıyor. Öte yandan böylece çok daha kolay bir şekilde işe alınabilen ya da aynı şekilde kolayca işten çıkarılabilecek, herhangi bir eğitim ya da yatırım gerektirmeyen, sıfır saat sözleşmeleriyle işe alınan, tuvalet aralarını gözetleyebildiğiniz, saniyesine kadar ne kadar süre öğle yemeği arası verdiğini kontrol edebildiğiniz bir işgücü tipi yaratıyor. Bir yanda şirket için verimliliğe dayalı bir sistem ve çalışanlarını tam gözetleme imkânı doğarken, öte yanda işgücü açısından tamamen bir vasıfsızlaştırma (deskilling) süreci gözlemleniyor. Bu noktada teknolojinin uygulanması birçok insanı aptallaştırıyor ve iktidarı yüksek düzeyli, varlıklı zümrenin yönetimine devrediyor. Bu senaryoda teknolojinin insanları güçlendirdiğine dair hiçbir unsur göremiyorsunuz ama bu fiili olarak bu şekliyle uygulanıyor ve bu durum her yerde geçerli.

Bu yine çok sevdiğim bir başka örnek: Susana Zubov da Gözetim Kapitalizmi Çağı [The Age of Surveillance Capitalism] adlı kitabında bu konuya değiniyor. Daha önce Pokemon Go adlı oyunu oynadıysanız ya da oynayan birini gördüyseniz biliyor olabilirsiniz. Bu oyun da yine bir alan içerisinde parlak bir noktayı takip ederek oynadığınız diğer bir durum yaratıyor. Ben şu detayı bilmiyordum: Oyun esnasında insanların her ne içinse Pokemon Gym adında toplaştıkları yerler, öncesinde Starbucks, McDonald’s ve Target gibi büyük şirketlere satılıyormuş. İnsanlar oyunu oynayıp Pokemon toplarken usulca ve doğrudan şehrin içinde bu perakende noktalarına yönlendiriliyor ve farkında olmadan bu farklı dükkanların içine giriyorlar. Nereden nereye... bizi bir şeyi satın almaya ikna etmeye çalışan koca reklam panolarından, kendi arzularımızı takip ettiğimize inandırarak resmen yönlendirmek istediği yerlere doğrudan götüren teknolojilere…Bugün bilişsel yetilerimizin neredeyse yok olması söz konusu. Bu tabi aynı zamanda sosyolojik ama politik de bir durum. Bu sosyal medya aracılığıyla, haberler aracılığıyla meydana geliyor. Öngörü, kontrol ve hesaplama süreçlerinin bütünüyle iç içe geçmesinin bir neticesi. 

Bu gördüğünüz 1980’lerde Amerikalı haber sunucusu Walter Cronkite. Gayet sakin ve açık bir şekilde iklim değişikliği, onun gerçek etkileri, üzerine düşünmemiz gerektiği, neler yapmamız gerektiği konusunda konuşuyor. Diğer yandaysa Youtube size iklim değişikliğiyle alakalı bunun bir komplo olduğuna dair şüphe aşılayan bir video serisi öneriyor. Bu tabi son 30-40 yılda petrol şirketlerinin gizlemeye gerek görmedikleri politikaları. 1970’lerde, 1980’lerde yazılmış Exxon bildirilerini okuduğunuzda yanıltıcı bilgilendirmenin (misinformation) bir şirket politikası haline geldiğini okuyorsunuz. Eğer zamanınız varsa bu konuda tarihsel örnekleri anlatan Drilled adında bir podcast var, dinlemenizi tavsiye ediyorum. Ama bu durumda bunu yapan Youtube, yani Google, ki dünyanın en büyük şirketlerinden biri. Burada çok sıra dışı bir şey açığa çıkıyor: benim Yeni Karanlık Çağ diye adlandırdığım bu anda artık önceden yaptığımız gibi gelecekle ilgili tahmin yürütemiyoruz ve onu kontrol edemiyoruz. Bunu yapabilme kabiliyetimiz bizim pek de iyiliğimizi istemeyenler tarafından toptan ele geçirilmişe benziyor. Burada gördüğümüz size bir sonra ne göstereceğine karar veren milyonlarca insanın takip ettiği algoritmalar bunu fark ettiler çünkü onları teşvik eden şey tıklama başına para kazanmak. Dolayısıyla size uçlarda içerikleri göstermek istiyorlar ve bu uçlar da genelde komplo teorilerinden oluşuyor, ya da politik uçlar, sahte bilim, sözde bilim ve en nihayetinde ırkçılık, mizojini içerikleri… Ve internetin karanlık köşelerinde yeşillendiğini bildiğimiz diğer her şey… Ben kimsenin bunu bilerek ve isteyerek yaptığını düşünmüyorum. Bir Google fanı değilim ama temelde bu denli bir radikalleşme bir platform kurmak için yola çıktıklarını düşünmüyorum. Fakat bunu gerçekleştirmiş oldular. Daha ziyade, daha çok ilgi çekmesi için bir algoritmayı eğittiklerini ve bu algoritmanın daha fazla dikkat çekmek için insanlara daha uçlarda içerikleri göstermesi gerektiğini keşfettiğini düşünüyorum. Bu nedenle bundan birkaç sene önce düz dünya (flat earth) diye deli saçması, kimsenin duymadığı bir konunun bugün dünyanın dört bir yanında yüz binlerce insan tarafından ciddiye alındığını görüyoruz. Tıpkı milyonlarca insanın küresel ısıtmanın bir düzmece olduğuna ya da bir virüsün genetik olarak üretildiğine inanması gibi. Bu inançlar toplumu parçalara ayırıyor. Bu inançlar teknolojinin, teknoloji hakkında açıkça düşünmemizi engellemesinden kaynaklanıyor. 

Bunun açıkça yapıldığına şahit olabileceğimiz o kadar çok örnek var ki... Son olarak bir tanesinden daha bahsetmek istiyorum. Çok net bir örnek. Bu konuyla ilgili benim ilgimi çeken kısım şu: çok tuhaf, tekinsiz bir görüntü, ancak konuya doğrudan baktığınızda teknolojinin bu tuhaf etkileri problemi o kadar aşikâr ki... Bu tuhaflık hesaplamanın bir yan ürünü değil, bizzat hesaplamanın ta kendisi. Teknoloji dünyada derin bir tuhaflığa sebep oluyor. Buna cevabımız “hmm bu düzeltmemiz gereken bir yan etki” olmamalı. Bunu yapan teknolojinin ta kendisi. Teknoloji şeyleri tuhaflaştırıyor ve benim açımdan buna doğrudan bakabilmek ve bundan ders çıkarabilmek çok kıymetli. Bu duruma bakıp teknolojinin yarattığı tuhaf, rahatsız edici çıktılarını; teknolojinin bir sonucunu değil, bizzat kendisini fark etmemiz çok önemli.

-Bu duyduğunuz köpeğim Bruno, bir süre daha bu şekilde havlayabilir, ben devam edeyim-

Bugün bu ismi hak etmese de Yapay Zekâ (Artificial Intelligence) dediğimiz şeyi içeren yeni aletler elimize geçince ilk yaptığımız şey, dünyayla alakalı yalanlar üretmek, onu daha az bilinebilir ve daha karmaşık kılmak. Bu animasyonlarda da bunu görüyorsunuz. Hiç durmadan sınırsız sayıda tamamıyla sahte yüzler üretiliyor ve daha sonra sahte haber sitelerinde durumu daha da bulandırmak, bizim kafamızı daha da karıştırmak için kullanılıyor. Yapay Zekâ ile yapılan ilk şey daha fazla bulanıklık ve kafa karışıklığı üretmek. Yapay Zekânın kullanıldığı diğer bir alan da tabi bizi yenmek. Yapay Zekâ oyunlarda insanları yenmek için test ediliyor. Bu yine bir tür güçsüzleştirme (disempowerment) sistemi: insanın en keyif aldığı şey olan oyun oynama alanının insansızlaştırılması. Makineler bu hedefle eğitiliyor. Elimizdeki her şeyi bizden alana kadar, duyularımızı, politik failliğimizi elimizden alana kadar, otomasyon aracılığıyla işlerimizi elimizden alana kadar geliştirilmek üzere eğitiliyorlar. Ama önce oyunlarımızı ve onlardan aldığımız keyfi elimizden alacaklar. Peki bu, bugün geliştirdiğimiz teknolojiler hakkında bize ne söylüyor? Teknolojiler bizim hemen karşımızda rakip konumunda konumlanıyorlar, bizi yenebilecekleri bir konuma. Ve bu son derece agresif bir konum. Ben bunu son derece etkileyici bir o kadar da açıklayıcı buluyorum. Eğer biri size Yapay zekânın bugün geldiğimiz yerde herhangi bir şekilde bizim faydamıza olduğunu söylüyorsa, uzun vadede bizi yenmek üzere eğitim gören makinelerden ne gibi faydalar göreceğimizi sorun o kişiye! Mübalağa etmiyorum. Onları resmen kendimize muhalif sistemler olarak yetiştiriyoruz. Aksi nasıl olabilirdi birazdan buna değineceğim. Ama ben bunun ciddiye alınması gerektiğini ve ürettiğimiz bu yeni teknolojilere dikkatle bakıp, kimdir bunu üreten, ne için üretilmiştir, ne için kullanılmaktadır gibi soruların sorulması gerektiğini düşünüyorum. Ve bu teknolojilerin etkileri konusunda son derece açık gözlü olmak gerektiğini düşünüyorum. Teknolojinin gerçekten nasıl işlediğinin anlaşılmasının genel anlamda bir eksikliği anlamındaki bu bilgisayımsal opaklık (computational opacity) ve yine bu teknolojilerin sebep olduğu iktidarın merkezileşmesi meselesi, bir arada, bizim açıkça düşünmemizi ve bu şeyleri kullanım şekillerimizi değiştirmemizi engelliyorlar. 

Bence bu Yeni Karanlık Çağ’da hesaplamalı düşünmenin merkezinde duran en kilit örneklerden biri dünyayla ilgili hep daha fazla bilgiye sahip olmanın, dünyayı daha fazla anlamanın, Aydınlanma’dan beri kültürümüzde yer alan bu merkezi fikrin aslında çok da anlamlı bir gelişime vesile olmadığını, saf bilgiyi aramanın, bilgiye saf erişimin, aksine dünyadaki karmaşıklığı açığa çıkardığını görüyoruz. Bu öyle bir karmaşıklık ki, belli ki elimizde bununla mücadele edecek gerekli araçlar da mevcut değil. Son 20-30 seneyi birçok farklı türden otoriteyi yıkmakla geçirdik ve ben de tamamen bundan yanayım. Birtakım otoriteleri devirmenin iyi olacağını düşünüyorum fakat eğer yerine farklı düşünme biçimleri koymadıysak, bu yolda kendimizi bugün de sık sık karşılaştığımız, özellikle kaos köktenciliğine ve komplo vari düşünme biçimlerine son derece savunmasız bir vaziyette bırakıyoruz. 

Bense bu problem için bir çözüm aramamak için çok çaba sarf ettim. Hatta bence çözümcülüğün kendisi ilk etapta bizi bu duruma düşüren bir tür bilgisayımsal düşünme. Bu nedenle çözümle ilgili düşünmeyi sevmiyorum. Ancak karşı-manevra kavramı üzerine düşünüyorum. Bugün kendimizi içinde bulduğumuz bu durumdan çıkaracaksak eğer, dönebileceğimiz farklı sapaklar, yola çıkabileceğimiz farklı patikalar üzerine düşünüyorum. Üç manevra hakkında konuşacağım ki çok da özel değiller ancak yine de bugün için küçücük de olsa umut veren ilgi çekici hikayeler bunlar. Bu manevralar, üzerine konuştuğumuz teknolojilerin kime ait olduğu, kimin bunları işlettiği ve kimin idare ettiği; bu teknolojileri kimin yorumladığı, kullandığı, şekillendirdiği ve değiştirebildiği ve son olarak “kim kimdir” soruları üzerine kurulu. 

İlk manevra bu teknolojiler kime ait, kimdir bunları işleten ve kimdir bunları idare eden sorularıyla alakalı. Bu manevraların hiçbiri teknolojiden tamamıyla kurtulmakla ilgili bir argüman değil. Aksi çok saçma olurdu çünkü halihazırda şu anda insanlığın oluşturduğu, ilginç biçimlerde bir araya gelip düşünmemizi sağlayan en sıra dışı bu toplaşma, gezegenimizin etrafını kaplayan bu iletişim ağı sayesinde buradayız ve konuşabiliyoruz. Hiçbiri bundan kurtulma amacı taşımıyor ama artık çok bariz ki teknolojiyi hangi şekiller içine soktuğumuz, kime yönelik olduğu ve hangi amaçla kullandığı üzerine radikal bir biçimde düşünmeliyiz. Yeni Karanlık Çağın ilk manevrası bu teknolojileri baş aşağı edebilmekle ilgili. Özellikle NASA ile ilgili tuhaf bir hikâyeden bahsedeceğim bir konferans sırasında gerçekleşiyor: Ulusal Jeo-Uzamsal İstihbarat Teşkilatı (National Geospatial Intelligence Agency), ellerindeki Hubble teleskobundan daha nitelikli ihtiyaç fazlası iki uyduyu NASA’ya alması için teklif ediyorlar. Bir istihbarat teşkilatının elinde, NASA’nın elindekilerden daha nitelikli uyduların olduğu bilgisi başlı başlına tuhaf. NASA bugün bu uyduları bilimsel kullanım için yenilemekle meşgul. İlkinin adı WFirst, dünyadan dışarı, farklı gezegenleri incelemek için kızılötesi bir teleskop. Yani bu teleskopu yeryüzüne doğru çevirmek yerine, baş aşağı edip, yeni yıldız ve gezegen keşfi için kullanacaklar. Ben bunun teknolojiyi bize karşı değil ama bizim için kullanımına ilişkin çok güzel bir örnek olduğunu düşünüyorum. Bu uyduların gayesi bir yerde baş aşağı edilmiş oluyor. Bu aslında tamamen teknolojinin kime ait olduğu ve onu kimin işlettiğiyle ilgili olumlu bir örnek.

Bu da beni ikinci manevraya getiriyor. Bu da elimizdeki teknolojileri gerçek anlamda dağıtmakla alakalı. Bu gördüğünüz 1960’lardan Paul Baran’ın farklı ağ biçimlerini açıkladığı bilinen bir diyagram. İnternetin bu dağıtılmış şekline henüz ulaşamadık, merkeziyetsizleştirilmiş ağ seviyesinde, B noktasında takılıp kaldık. Doğrusu tam anlamıyla merkeziyetsizleşmiş de diyemiyoruz daha ziyade farklı merkezlerde merkezlenmiş diyebiliyoruz. Son 50 senede teknolojiler söz konusu olduğunda, iktidar farklı büyük şirketler, devletin farklı organları etrafında merkezileşti. Gerçek anlamda bir dağıtım gerçekleşmedi. Bu dağıtım ancak hepimiz bu ağlara daha eşit bir şekilde bağlanabilirsek mümkün olacak. Bu da ancak her birimiz bu ağların inşasında daha etkin olup, onların nasıl işlediğini daha derinden kavrayabilirsek mümkün olacak. Burada başarmamız gereken çok gerçek hedeflerimiz var. Bunu birkaç şekilde yapabiliriz. Mesela bana sorsalardı bu konuşmayı Youtube üzerinden yapmazdım. Denklerarası (peer-to-peer) bir teknoloji kullanmayı seçerdim. Bunlar daha önemli hale gelecek. Mesela şu an google’a yazın nedir bu denklerarası teknolojiler ve onları kullanmaya başlayın, mesela duckduckgo,ffs). Örneğin ben Zoom ya da Skype yerine Whereby, Jitsi gibi teknolojileri kullanmayı tercih ediyorum. Google’dan bulabilirsiniz. Bunu yapmayı seçtiğinizde olağanüstü bir şey oluyor. Farklı teknoloji tiplerini kullanmayı seçtiğinizde, bu teknolojiyi kavrıyor ve zaten yaptığınız şeyleri halen yapabiliyorsanız, ağın kendisinin şeklini tamamen değiştiriyorsunuz. Şu an mesela iletişim kurabilmek için Youtube’un bu aptal çirkin kutusunu kullanarak Google’a güç veriyoruz. Ama bunu yapmak zorunda değiliz, farklı ağlar, farklı iletişim yolları, başka teknolojiler mevcut. Bu teknolojilerin nasıl kullanılacağının bilgisi, bizim onların nasıl çalıştığı ve onları kullanmanın bizdeki etkileri üzerine daha fazla eğilerek, onlarla daha ilişkili olmamızı gerektiriyor. Evet bunları kullanmak daha zor olabilir ancak değişimi gerçekleştirmenin tek yolu bizim onlarla daha çok ilişkilenmemizden geçiyor. Bugün elimizde en azından daha fazla vaktimiz varken bu ağın şeklini değiştirebileceğimiz teknolojileri kullanalım çünkü bunu başardığımız takdirde, ağı yalnızca dağıtmış olmuyoruz, iktidarı da dağıtıyoruz, gücü yeniden dağıtıyoruz. Ve bu gerçek dünyada gücü yeniden dağıtabilmek için çok önemli bir başlangıç noktası: her gün kullandığımız teknolojilerin bilgisini ve anlayışını yeniden dağıtmak. Bu ikinci manevraydı.

Son ve üçüncü manevra “kim kimdir” sorusuyla ilgili. Bu biraz daha garip. Ancak bugünlerde yine de üzerinde en çok düşündüğüm bu ve umarım size de üzerinde düşünecek bir malzeme verir. Yapay zekâ formlarının bu kadar muhalif ve rekabetçi, özellikle de bu kadar dar görüşlü, kapitalist ve çıkarımcı olmalarını çok tuhaf buluyorum. Kapitalizmle zekayı birbirine karıştırdık gibi görünüyor. Bugün zekânın bir nevi çıkarım (extraction) olduğunu düşünüyoruz; gerek veri toplamak olsun, bilgiyi işlemek olsun, insanları oyunlarda yenmek olsun, piyasaları daha verimli kılmak olsun… Bunların hiçbiri zekayla ilgili değil. Eğer son yıllarda insan dışı varlıkların bilişsel yeteneklerine ilişkin keşiflerimize biraz olsun dikkat kesildiyseniz bunu biliyor olmalısınız. 

Bugün İnsanlığın dışındaki dünyayla ilgili keşfettiklerimiz gerçekten sıra dışı. Hala daha çok azını anlıyoruz ama yine de bir kere içine girince o kadar parlak ve heyecan verici ki… Teknolojinin odağında bu tür bir kapitalist kurumsal zekanın olması belli ki bizi yok ediyor. Eğer önümüzdeki on yıllarda bu gezegende daha iyi yaşamanın yollarını araştıracaksak, kendimizi insan olmayanların zekalarına açmamız gerekiyor. Bugün bunun tamamen mümkün olduğunu ve hemen elimizin altında bir bilgi olduğunu anlıyoruz. İnsan olmayanların zekasına dair bu yavaş kavrayışın bir sembolü, bu gördüğünüz ünlü ahtapotu tanıyor olabilirsiniz. Ahtapotların zekasıyla ilgili herkesin bu kadar heyecanlanmasının sebebi onların bizden önemli şekillerde ayrışmaları. Fiziksel olarak çok farklılar... Nörolojik olarak çok farklılar: ahtapotların beyni tüm sekiz bacağına kadar uzanıyor. Beyinlerinin yarısı bütün vücutlarına dağılmış vaziyette. Görünüşe göre bacakları bağımsız olarak hareket ediyor ya da kafatasındaki beyniyle gevşek bir konfederasyon oluşturmuş gibi duruyor. Ahtapotlar bu anlamda tek bir birey olmaktan ziyade, bir failler kolektifi gibi hareket ediyor ve her biri kendi işlevini gördüğü gibi, birlikte de hareket ediyor ve ahtapotun yapması gereken şeyi yapıyorlar. 

Ahtapot beyniyle ilgili bir diğer şaşırtıcı şey, bu kadar farklı olmamıza rağmen, ahtapotlarla bizim bilinen en eski ortak atamız, dört milyon yıl önce okyanusun derinlerinde yaşamış bir yassı kurt. Beynimizin dışında hem bizim hem ahtapotların ortak olarak bir de gözlerimiz var. Hatta gözlerimizin yapısı şaşırtıcı derecede birbirine benziyor: Küçük yuvarlak ve yumuşak jelle kaplı küreler, arkasında ışık reseptörleri var. İkimizde de var olan bu gözler ortak atamızda yoktu. Bu demek ki göz bu iki ayrı evrimsel dalda ayrı ayrı evrimleşti. Sonrasında ahtapotların sahip oldukları iletişim, farkındalık ve problem çözme yetileriyle ilgili müthiş yeteneklerini fark etmeye başladık. Mesela kaçış konusunda çok iyiler. Ahtapotların zihinleri de bizden ayrı ve farklı bir şekilde evrimleşti. Bu gösteriyor ki zekâ, kademeli olarak gelişen, bizim ve yaratılarımızın en tepede konumlandığı bir ağaçtan çok, çiçek gibi açan bir şey, farklı formlarda zekalardan oluşan bir bulut... Ahtapot bize bunu öğretiyor. Gelecek için ihtiyaç duyduğumuz başka yollarla, başla problem çözme yetileriyle ilgili düşününce bu bana umut veriyor. Gelecekle ilgili daha iyi bir eylem planı için aslında Yapay bir zekaya değil, bu dünyada bulup fark edeceğimiz ve birlikte düşüneceğimiz farklı zekalara ihtiyacımız var. Ve bizim de ahtapotların kollarının konfederasyonu gibi bir ağdan oluşan varlıklar olduğumuzun farkındalığı, düşünmeyle ilgili daha önce düşünmediğimiz gibi düşünmemize yol açıyor. İnsan biyomuyla ilgili son keşiflere bakın mesela. Bağırsağımızda taşıdığımız iki kilogramlık bakterilerin beynimizle doğrudan bir iletişimi var. Öyle ki bağırsağımızın sağlığı doğrudan bilişsel yetkinliğimizi etkiliyor. Tıpkı ortamdaki karbondioksitin düşünme kabiliyetimizi etkilediği gibi, kendi bedenimizde yaşayan farklı tür organizmaların yapısı da bizi etkiliyor. Modern biçimde düşündüğümüz gibi münferit bireyler değiliz aslında. Farklı varlık topluluklarının oluşturduğu son derece ağsal varlıklarız. Aslında hep iletişim içinde olduk ama daha yeni fark ediyoruz bunları. Bu farklı varlıklarla kurabileceğimiz farklı iletişim ve dayanışma yollarını da henüz keşfediyoruz. 

Görselde gördüğünüz Pando, dünya üzerindeki mümkün en büyük birey. Bir ormana benziyor ama aslında Amerika Birleşik Devletleri’nde 43,6 hektarlık bir arazide bir arada duran 18000 yaşındaki kavak ağaçlarının oluşturduğu tek bir klonal birey, bir arada çalışan tek bir organizma. Bu ağaçların kökleri, bitkiler ve mantarlar arasındaki bazı bilim insanlarının son 20 yılda açığa çıkardıkları Wood Wide Web adındaki bu iletişim ağı, aralarındaki atmosferdeki gaz, sinyaller ya da yer altından gönderilen besin maddeleri şeklindeki iletişimi gözler önüne seriyor. Biz bunu ancak fark ediyoruz. Wood Wide Web görselindeki bu iletişim ağı yer altındaki farklı yaşam biçimleriyle de gerçekleşiyor. Mantar ve ağaçlarla ilgili araştırmalara ağ söyleminin girmesi araştırma laboratuvarlarının o dönem yeni yeni ortaya çıkan internetle çalışmaya başladığı 1970’li yılları buluyor. Ancak yapay bilgisayar ağlarını inşa edip diyagramları çizmeye başladığımızda, ağ metaforunu kullanıp, uygulamaya başlayabildik. Bizim açımızdan etrafımızı saran doğal dünyayı anlamak o kadar öncelikli bir mesele ki... İnşa ettiğimiz teknolojiler dünyayı bir problem olarak çözmek, onu fethetmek için değil, ama onu daha iyi düşünmemiz için var olmalılar. Dünya üzerinde yeniden düşünmek için her gün kullandığımız aletler, aslen dünyayı bir problem olarak çözmek için kullanacağımız aletler değiller. Bu aletler yaygın kullanım şekillerine rağmen dünya üzerinde bir egemenlik kurmak için kullanılmamalılar. Ama bu aletler üzerine de zaman içerisinde düzenli olarak yeniden düşünürsek, dünya üzerinde tefekkür edip, onu yeniden şekillendirebileceğimiz araçlar olarak hayatlarımızda yerlerini alabilirler. 

Sanırım yeterince konuştum. Sabrınız için teşekkür ederim.  

Lütfen eğer bunu canlı olarak izliyorsanız, sohbet üzerinden konuşalım çünkü ben burada neredeyse yapayalnızım ve belki siz de öylesinizdir. Çok teşekkürler.

Çeviri: Sinan Refik Akgün Son Okuma: Aslı Seven