Yuval Noah Harari’nin insan iletişimi üzerine yaptığı çalışma kısa sayılamaz, ancak ikinci yarıya kadar sabrederseniz, hem eğlenecek hem de ürpereceksiniz.
2022 yazında, Google’da yazılım mühendisi olarak çalışan Blake Lemoine, üzerinde çalıştığı sohbet robotu LaMDA’nın bilinç kazandığını iddia ettikten sonra The Washington Post’a verdiği röportaj nedeniyle işten çıkarıldı.
Birkaç ay sonra, Mart 2023’te, aralarında Steve Wozniak ve Elon Musk’ın da bulunduğu yüzlerce teknoloji lideri, Future of Life Institute’un yayımladığı bir açık mektubu imzalayarak yapay zeka çalışmalarının durdurulmasını talep etti. Mektupta, yapay zekanın “toplum ve insanlık için derin riskler” taşıdığı uyarısında bulunuluyordu.
Nisan ayında ise “yapay zekanın babası” olarak anılan Geoffrey Hinton, Google’daki görevinden istifa ederek yapay zeka araştırmalarından duyduğu pişmanlığı dile getirdi. Hinton, The New York Times’a yaptığı açıklamada, “Kötü niyetli kişilerin yapay zekayı kötü amaçlarla kullanmasını önlemek zor” diyerek uyarıda bulundu.
Son yıllarda, yapay zekayla ilgili, haberci kılıklı uzmanların kıyamet senaryoları yazdıklarına alışmış durumdayız. Ancak, bu tür uyarılara rağmen etkili ve katı bir düzenleme yapılmış değil. Buna karşın, teknoloji sektörünün hisse senetleri yükselmeye devam ederken, endüstrinin dilinde tanıdık savunmalar dolaşıyor: Risklerden daha büyük faydalar var; cin şişeden çıktı bir kere; biz yapmazsak düşmanlarımız yapar.
Yuval Noah Harari, bu bahanelere prim vermiyor. 2011 yılında yayımladığı Sapiens, insanlık tarihine dair zarif ve derin bir anlatımdı. 25 milyondan fazla satan bu eser, dünya çapında bir fenomen haline geldi. Harari, ardından geleceğe odaklanarak Homo Deus’u kaleme aldı. Artık Harari, akademik tarihçiden çok, yapay zeka uzmanı kimliğine bürünmüş ve bilim insanları, girişimciler ve dünya liderlerinin davet edildiği elit çevrelere girmeye başlamıştı. Nexus ise Harari’nin bu dünyadan getirdiği rapor niteliğinde.
Kapsamlı Bir Tarihsel Gezinti
Öncelikle belirtmek gerekir ki kitabın alt başlığı olan “Taş Devri’nden Yapay Zekaya Bilgi Ağlarının Kısa Tarihi” yanıltıcı. Aslında karşımızda, kısa olmayan iki ayrı kitap var. İlk 200 sayfa gerçekten de tarihle ilgili, okuyucuya Asur kil tabletlerinden 19. yüzyıl kolera salgınına, Hindistan’da televizyona uyarlanmış Ramayana destanına, Orta Çağ İngilteresi’ndeki Köylü İsyanı’na ve Romanya’daki Holokost’a kadar savuran baş döndürücü bir anlatı sunuluyor. Anlatımın kontrolsüz, hatta konulara yeterince hakim olmayan bir havası var—tıpkı uzun bir uçuşta yanınıza oturan, fazla kafein almış, çok kitap okumuş birinin size her şeyin teorisini anlatmaya çalışması gibi.
Yuval Noah Harari’nin ana tezi, demokrasilerle diktatörlüklerin bilgiyi nasıl yönettikleri üzerine kurulu. Diktatörlüklerin daha çok veriyi kontrol etme isteklerine, demokrasilerin ise vatandaşların veriyi değerlendirmesine ve gerekirse yanlış bilgiyi düzeltmesine olanak tanıdığına dikkat çekiyor.
Bu tez, kulağa ilginç gelse de fazlasıyla muğlak ve karşıt örneklere açık bir yaklaşım sunuyor. Sonunda, zaten hissettiğimiz bir gerçeğe ulaşmış oluyoruz: Karşılıklı iletişimi ve düzeltmeyi teşvik eden sistemler, itaatkarlık ve körü körüne bağlılık isteyen sistemlere göre daha tercih edilir.
Yapay Zekaya Dair Tehlikeler
Kitabın asıl önemli bölümü ise ikinci yarısında yer alıyor. Nexus, aslında yapay zekanın risklerini ve alınabilecek önlemleri ele alan geniş kapsamlı bir politika raporu niteliğinde. Harari, yapay zekanın faydalarına fazla değinmiyor çünkü “Yapay zeka devrimini yöneten girişimciler, bu konuda kamuoyuna yeterince pembe tablo sunuyorlar” diyor.
Harari’ye göre yapay zekanın tehditleri, sinema filmlerinde gördüğümüz türden değil: Örneğin, Kubrick’in HAL’ı gibi bizi hava kilidine kilitleyen robotlar veya sokaklarda yürüyen faşist bir RoboCop hayal etmek doğru değil. Tehditler daha gizli, fark edilmesi zor ama bir o kadar da varoluşsal. Bunlar arasında, sosyal medya algoritmalarının nefret dolu içeriklerle bizi kutuplaştırması veya hukuki, finansal ve askeri kararları insanların anlayamayacağı kadar karmaşık yapay zeka sistemlerine devretmek yer alıyor.
Harari, Winston Churchill’in “Demir Perde” ifadesine atıfta bulunarak, algoritmaların bizi kendi kararlarımızdan koparan “Silikon Perde”yi aralamamızı engelleyebileceği uyarısında bulunuyor.
Ancak bu senaryolar kaçınılmaz değil. Harari, e-posta spam’lerinin bir zamanlar milyonlarca saatlik verimliliği nasıl boşa harcadığını ve ardından nasıl bir anda ortadan kaybolduğunu hatırlatıyor. 2015 yılında, Gmail algoritmasının spam filtrelemede %99,9 başarı sağladığı duyurulmuştu. Harari, “Teknoloji devleri kalpten istediklerinde daha iyi algoritmalar geliştirebilirler” diyor.
Kitabın ikinci yarısı her ne kadar orijinal fikirlerle dolu olmasa da Harari, yapay zekanın mevcut durumunu akıcı ve net bir şekilde özetliyor. Bazı bölümleri cesur ve bilgece. Harari, demokratik toplumların hala yapay zekanın tehlikelerini önleyecek mekanizmalara sahip olduğunu ve bu görevin teknoloji şirketleri ile milyarder sahiplerine bırakılmaması gerektiğini hatırlatıyor.
Bu, kulağa sağduyulu bir öneri gibi gelebilir ve Harari gibi küresel bir entelektüelin bunu söylemesi değerli; keşke bunu daha öz bir şekilde ifade edebilseydi demekten kendimizi alamıyoruz.
Kaynak
