İNSANLIĞIN YAPAY ZEKAYLA İMTİHANI

Kuşkusuz ki, yapay zeka alanındaki bilimsel araştırmalar ve eşzamanlı yürütülen teknolojik gelişmeler insanlığın yararına ilerleme kaydediyor. Hatta potansiyel faydalara bazen kendimizi o kadar kaptırıyoruz ki, madalyonun diğer tarafında yer alan yıkıcı etkileri de görmezden gelebiliyoruz. Toplumdaki konumumuz ve gelişmelere bakış açımız ışığında safımızı belirliyoruz: “Yapay zeka ve bu temelde çalışan teknolojik sistemler hayırdır/şerdir!”  O halde bu yazıda biraz da “öteki”nin perspektifinden bakmayı deneyelim.

Bazıları teknolojiye insanları sıkıcı ve zorlu işlerden özgürleştirip, daha eğlenceli ve keyifli bir yaşam sürdürebilmelerine olanak sağladığı için, adeta insanlığa sunulmuş bir hediye gözüyle bakıyor. Diğer tarafın argümanları da sağlam: teknoloji en genel haliyle insanların işlerini ellerinden alıyor; güçlüyü daha güçlü zengini daha zengin kılıyor. Mahatma Gandhi, Hindistan’ın refahı için devasa makinelerle dolu tekstil atölyeleri yerine, her köylünün evine yerleştirilecek yün eğirme aletleri ve dokuma tezgahları vermeyi savunuyordu. Bu sayede az sayıda insana iş imkanı sağlayan, merkezi bir seri üretimden ziyade, toplulukların yararına olan dağıtılmış seri üretim sağlanmış olacaktı.

Yıllar geçtikçe, zamanın teknolojileri yerini yepyeni teknolojilere bıraktı, ancak tartışma baki kaldı. Bu sorunun yakın zaman teknolojileriyle vücut bulmuş en somut halini, fabrikaların üretim bantlarında çalışan insan işçilerin sorumlu oldukları işlerin, artık robotlara teslim edilmesi ile ilgili yazımızda görmüştük. Tarih, temeli gelir ve imtiyazların orantısız dağılımından kaynaklanan sıkıntılara dayanan devrimlerle doludur. Eğer ki gelecek teknolojileri bu amaca hizmet edecek şekilde kullanılacaksa, nice felaketler bizi bekliyor olacaktır.

Ancak zekası artan makineler üretmek, toplumun farklı katmanları arasında yaşanan güç savaşından daha da önemli bir sorun teşkil ediyor: Benlik bilinci. Diğer bir deyişle kişinin kendisi hakkında hissettiklerinin ve düşündüklerinin toplamı. Örneğin, 19. yüzyılda Charles Darwin’in evrim teorisini ve insanların (görece) daha değersiz yaşam formlarından evrildiği fikrini ortaya atması zamanında fırtınalar yaratmıştı. Hatta bu teorinin üzerinden geçen neredeyse 2 yüzyıl sonrasında bile, insanlık bu düşünceyle  cebelleşip durmaktadır. Olur da geleceğin hızla ilerleyen teknolojisi, insanla kapışabilecek zihinsel yetilere sahip makineler üretebilirse toplum nasıl bir tepki verecektir?

Geçmişte teknolojinin daha yavaş adımlarla ilerlemesi, benlik bilincimizin “zeka” kavramına adapte olarak kendisini korumasına olanak sağladı. Zeka ile şunu kastediyorum: Ağaçlardan meyve toplayarak hayatını idame eden veya mızrak, kılıç sallayan atalarımız 19. yüzyıldaki pistonlu, manivelalı, dişli, çarklı, buhar çıkaran sıradan makineleri görse, muhtemelen doğaüstü bir zekayla karşı karşıya kaldıklarını düşüneceklerdi.  Ancak günümüzde bu aletlerin herhangi bir zekaya sahip olmadıklarını bildiğimiz gibi, oldukça karmaşık otomatlar olan günümüzün otomatik içecek ve bilet satış makinelerini veya para çekme makinelerini bile yapay zekaya sahip makineler olarak tanımlamıyoruz. Peki ya teknolojik gelişmelerin korkunç bir ivmeyle arttığı günümüzde veya yakın gelecekte bu makinelerin insan zekasına meydan okuduğu durumlarla karşılaşsak ve hatta bizim “adapte olamayacağımız hızlarda” zekamızı geçtikleri gerçeğiyle yüzleşecek olursak, acaba biz nasıl bir tepki vereceğiz?

İnsanlığın buna vereceği tepkiyi tahmin etmek için, insanlığın geçmişte başına gelmiş benzer bir olaya verdiği tepkiden yola çıkacağız ve elimizde kökleri 20. yüzyıla dayanan ufak bir ipucunu takip edeceğiz: Zeka Katsayısı (ZK) veya İngilizce’deki karşılığıyla Intelligence Quotient (IQ) testleri. Bu testler çocukların zekasını ölçmek için kullanılmaya başlanmıştı. Amerika Birleşik Devletleri’nde çocuklar bu testteki performanslarına göre sınıflandırılır ve eğitimlerine bu test sonuçları baz alınarak yön verilirdi. İyi skor alanlar iyi okullara, kötü derece alanlar ikincil kalitede okullara gönderilir, ek derslerle desteklenmeye teşvik edilirlerdi. Yani biz insanlar olarak, elimize zekayı ölçebileceğimizi düşündüğümüz bir ölçüt geçtiği anda (kaldı ki ZK testleri oldukça tartışmalıdır), hemen sınıflandırma, ayrımcılık ve yabancılaştırma rotasına yöneliyoruz. Peki ya makinelerin zekası bizimkileri yakalarsa, veya yakalayabileceğine dair belirtiler ortaya koymaya başlarsa ne olacak? Makinelere karşı daha aşağı zekaya sahip insanlara toplum olarak nasıl davranacağız? İnsanın onuru ve haysiyeti bu tarz bir kıyaslamaya kurban gidebilir mi?

Aslına bakarsanız, makinelerin insan zekasına meydan okuduğu durumlarla karşılaşmaya başladık bile. Deep Blue Kasparov’u satrançta yendi, IBM Watson insan rakiplerini Riziko oyununda alt etti, bilgisayarlı uzman sistemler sağlık konusunda doktorlara tavsiye verecek algoritmalarla donatıldı, sürücüsüz arabalar Amerika’da birçok eyalette kullanılmaya başlandı, emekçi sınıf işlerini kendilerinden daha hızlı, etkin ve hatasız çalışan robotlara kaptırdı. Peki ya yenilenlerin veya işlerini yapay zekaya kaybeden insanların sayısı artmaya devam ettikçe veya kendilerini makinelerin tehdidi altında hissettikleri branşların sayısı artmaya başladıkça, bu insanların benlik bilinçleri ne olacak?

Edge isimli dernek dünyanın en başarılı ve zeki(?) filozoflarına, bilim adamlarına ve sanatçılarına her sene tek bir soru yöneltiyor ve cevaplarını internetten paylaşıyor. 2013 senesinin sorusu ise şu oldu: “Gelecekte neden endişe duymalıyız?” (What should we be worried about?). Cevaplardan bazılarını paylaşmak istiyorum:

Wired dergisinin kurucusu ve editörü Kevin Kelly, azalan genç nüfusa karşın artan robot nüfusunu en büyük tehdit olarak gösteriyor. Silikon Vadisi’nde çalışan teknoloji gurusu Paul Saffo ise gelecekte bizi bekleyen “mühendisler (engineers)”  ve kendi deyişiyle “rahipler (druids)” olarak iki sınıf arasında yaşanacak savaş konusunda uyarıyor. Ona göre temelde teknoloji kullanımı konusunda iyimser ve kötümser olanlar olarak nitelendirilebilecek bu iki gruptan rahipler, robot araçların güvensiz olduğunu, mühendisler ise insanların araba kullanmalarına bile en baştan izin verilmemesi gerektiğini “şiddetle” savunacak. Daha onlarca düşünür ortak payede cevaplarda buluşuyor: robotlar ve makine zekası. New York Times çok satanlar listesine girmiş Robot Mahşeri (Robopocalypse) isimli kitabın yazarı Daniel H. Wilson zeki robotların dünyayı ele geçirmesi durumunda, onlarla nasıl baş edeceğimize dair kafa patlatmış olanlardan. Aşağıda kendisiyle yapılmış bir söyleşinin çizgiye dökülmüş, oldukça eğlenceli bir videosunu seyredebilirsiniz.

Makinelerin zekasının doğası gereği insanınkinden daha farklı olduğunu savunanlar var; sonuçta insanlar biyolojik bir varlık, makineler ise değil. Bu sebeple makinelerin, insanların karar mekanizmalarında yaşadıkları süreçleri taklit edebilmeleri mümkün değil. Aynı kararları alsalar bile, bu kararlar aynı temele dayanarak alınmıyor olacak. O halde, farklı zekaları birbirinden ayıran sınırlar nelerdir, ve toplum olarak bir makinenin aldığı kararı takip etmek ne derece etiktir?

Bu konular belki kulağa bilim kurgu sohbeti gibi geliyor olabilir. Ancak uzunca bir süredir, zaten hiçbir zaman gerçekleşmeyeceyeceğini iddia ederek “Bilgisayarlar topluma hükmetmeye başlarsa ne olur?” sorusunu gözardı ettik, ancak alametler gösteriyor ki artık bu soruyu sormanın vakti geldi. Eğer ki bir gün bir bilgisayar veritabanı hatalı olarak kredi güvenilirliliğinizin kötü bir sicilden dolayı düşük olduğunu, sabıka kaydınız bulunduğunu veya hesabınızdaki tüm parayı çektiğinizi iddia ederse, size mi yoksa bilgisayardaki verilere mi inanılacak? Eğer navigasyon sistemi uçağınızı sis yüzünden yanlış olarak tanımlanmış bir piste, örneğin pistin sonundaki çimenlik araziye indirmeye çalışırsa ne olacak? Eğer ki hastanedeki bilgisayar programı veya donanımı topladığı verilerde bir hataya sebebiyet veriyorsa ve kanser olduğunuz izlenimi oluşturuyorsa, bu teşhisi koyan doktorun suçu mudur? Bankada, devlet dairesinde, hastanede, alışverişte kaç kez “Bilgisayar çöktüğü için size yardımcı olamıyorum” sözünü işittiniz? O halde, kontrol kimde? Toplum çoktan makinelere teslim olmadı mı?

Aslında yazıyı üst paragraftaki kasvetli ve iç karartıcı son cümle ile bitirebilirdim. Ancak ben karamsar bir gelecek kurgulayan insanlardan değilim. Teknolojiler, gelişimleri süresince sorunlar yaratacaklardır, ancak eninde sonunda düğmeye basan ve bu teknolojilerin geleceğine hükmedenler biz insanlar olacağız. Eğer ki insan tarafından yaratıldılarsa, insanlar tarafından da yok edilebilirler. İnsanın olduğu yerde umut vardır; umudun olduğu yerde de yaşam devam eder. “Senin boş umut vaat eden sözlerinden kime ne, makineler bizi ele geçirmiş, hepimiz öleceğiz!” diye ortalarda elleri havada bağırarak koşuşturmaya başlayan okurlara, umut dolu bir haber vereyim: Cambridge Üniversitesi’nden bir grup filozof, bilim adamı ve girişimci iş adamının başlattığı Varoluşsal Riskleri Araştırma Merkezi (Centre for the Study of Existential Risk), bizi hangi teknolojik risklerin beklediğini, bu teknolojilere karşı ne tarz önlemler almamız gerektiğini ve bu teknolojilerin beklenmedik sonuçlarını araştırmak için kolları sıvadı [2]. Böylece kendimizi geleceğe daha iyi hazırlayabileceğiz.

Grubun ilgilendiği konular arasında sentetik biyolojinin biyoterör amaçlı kullanılması, siber saldırılar ve ağ sistemlerinin (elektrik ağları, hava trafiği kontrol ağları, uluslararası finans ağları, vs.) hepten çökmesi olduğu gibi, bilgisayar ağlarının gelecekte ortak bir zihin oluşturup (bkz. Terminator filminde bahsi geçen Skynet) son derece güçlü bir yapay zeka ile insanlığı tehdit etmesi gibi senaryolar üzerine kafa yoruyorlar. Ancak yukarıda bahsi geçen Edge araştırmasında Indiana Üniversitesi Bilgisayar Mühendisliği profesörlerinden Andy Clark’ın da söylediği gibi süper yapay zekadan korkmamız için şu an için bir sebep yok, eğer ki kültür bilincini -ki insanların bunu geliştirmesi milyonlarca yıllarını aldı- önceden geliştirmeyi başaramazlarsa.

Kaynaklar:

Podcast: Play in new window | Download

Subscribe: RSS