Çözülme sürecinde modern toplum II: Yapay zekâ ve Asimov

Geçen yazıda mevcut dünyanın bir çözülme sürecinde olduğundan bahsetmiştim. Bu sürecin en önemli göstergesi farklı katmanlarda artan belirsizliktir. Dünyadaki hegemonik düzen yıkılmış ve yenisi kurulurken ülkeler arasında güç dengesinin nasıl şekilleneceği ilk önemli belirsizliktir. Bu belirsizlik bir dünya savaşından başlayarak, (şu anda başlamış gibi görünen) dış ticaret savaşlarına, küresel göç ve terörizmin sarsıcı sonuçlarına, despot yönetimlerin insanlar üzerinde tahakkümüne (Gazze’yi boşaltıp Las Vegas yapma hülyası gibi) kadar giden birden fazla ihtimale yol açmaktadır. İkinci önemli belirsizlik teknoloji paradigmasındaki değişimden kaynaklanmaktadır. Teknolojik paradigma değişiklikleri dünya çapında bazı malların üretiminin durmasına ve bazı sektörlerin yok olmasına yol açarken yeni mal ve hizmetler ortaya çıkar ve bu mal ve hizmetlerin üretildiği yeni sektörler yükselir. Burada belirsizlik hangi sektörlerin çökeceği ve hangi sektörlerin yükseleceği üzerinedir. Ancak iş bununla bitmez. Teknolojik paradigma değişimi çoğu zaman kaçınılmaz bir biçimde bir değerler çatışmasına ve ahlaki krize yol açar. Nasıl mı? Şöyle özetleyelim: Bir genelleme yapacak olursak teknolojik paradigma değişikliklerinde ilk önce üretim tarzı değişir. Bunu tüketim kalıbındaki, yani yaşam tarzındaki, değişim takip eder. En son olarak siyasal ve toplumsal kurumlardaki değişim gelir. İşte bu gecikmeden dolayı değişen toplumsal ihtiyaçlar yeni bir betimleyici ahlak ve yeni bir toplumsal değerler kümesinin gelişmesini zorunlu kılar. Ancak toplumsal ve siyasi kurumlar toplumun kendisinden daha yavaş değiştiği için egemen siyasi yapı ile geniş halk kitleleri arasında değer çatışması ortaya çıkar. Bugün hem bunu yaşıyoruz, hem de küreselleşmenin etkisi ile bütün milli ve yerel değerler iç içe geçiyor. Bu da üçüncü belirsizlik kaynağını ortaya koymaktadır: değer çatışması ve ahlaki kriz. 

Geçen yazıda Einstein ve Keynes’in gerçekliğin göreliliği ve küçük birimlerin davranışlarının öngörülemez olmasına rağmen büyük kitlelerin davranışlarının öngörülebileceğini söyleyen belirsizlik temelli görüşlerinden bahsetmiştim. Bir üçüncü isim olarak ise Asimov’un romanlarından bahsettim. Hatırlayacağınız üzere, Asimov’un Robotlar, Vakıf ve İmparatorluk serilerinin her üçünde de ana kahraman olan R. Daneel Olivaw adlı bir robottan söz etmiştim. Şimdi bu robotun zihninin gelişimi sürecini (fazla spoiler vermeden) romanlardaki hikâye üzerine anlatacağım. 

ASIMOV VE R. DANEEL OLIVAW: VİCDANINI GELİŞTİREN YAPAY ZEKÂ

Öncelikle “Üç Robot Yasasından” bahsedeyim. Bu yasalar bizim yapay zekâyı nasıl sınırlandırabileceğimizi gösterir. Asimov’un robot evreninde, robotların beyinlerine “pozitronik” yollarla yerleştirilmiş üç temel yasa vardır. Bunlar tüm robotik davranışların etik temelidir:

1.Bir robot, bir insana zarar veremez ya da hareketsiz kalmakla bir insanın zarar görmesine izin veremez.

2.Bir robot, birinci kuralla çelişmediği sürece insanların emirlerine uymak zorundadır.

3.Bir robot, birinci ve ikinci kuralla çelişmediği sürece kendi varlığını korumak zorundadır.

Bu kurallar hem ahlaki hem mantıksal bir yapı oluşturur. Fakat Asimov, özellikle R. Daneel ve R. Giskard adlı robot karakterleriyle bu kuralların sorgulandığı, genişletildiği ve evrildiği bir zihinsel süreç tasarlamıştır. Şimdi Asimov’un robot romanlarına atıfta bulunarak yapay zekanın nasıl geliştiği ve kendi bilinç ve iradesiyle bir vicdana sahip olduğunu anlatayım:

Caves of Steel (Çelik Mağaralar, 1954)

R. Daneel Olivaw, ilk kez bu romanda tanıtılır. İnsan dedektif Elijah Baley ile birlikte bir cinayeti çözmeye çalışır. Bu romanda Daneel hâlâ katı biçimde Üç Robot Yasası'na bağlıdır. Ancak Baley ile çalıştıkça, insan davranışlarının çelişkilerini ve gri alanlarını öğrenmeye başlar. Yani robotik ahlak ilk kez toplumsal ve psikolojik bağlamlarla sınanmaya başlanır. 

The Naked Sun (Çıplak Güneş, 1957)

Daneel, Baley ile birlikte Solaria gezegeninde bir cinayet vakasını inceler. Bu toplumda insanlar birbirleriyle fiziksel temas kurmadan yaşarlar (izolasyon kültürü). Burada Daneel, insanların psikolojik kırılganlıklarını anlamaya başlar. Robot yasaları yalnızca fiziksel zarar mı kapsar, yoksa psikolojik zarar da etik bir sorundur mu? Bu soru, Daneel'in etik anlayışını derinleştirir.

The Robots of Dawn (Şafak Robotları, 1983)

R. Giskard Reventlov burada devreye girer. Giskard, çok nadir bir yetiye sahiptir: insanların zihinsel durumlarını okuyabilir ve sınırlı ölçüde etkileyebilir. Bu özelliği sayesinde, insanların niyetlerini fiziksel davranışlarından önce algılayabilir. Bu da onu, Üç Robot Yasası’nı önseziyle uygulayabilen bir yapay zekâ haline getirir. 

Dörtlü Kuralın Doğuşu – “Zeroth Law” (Sıfırıncı Yasa)

Giskard ve Daneel birlikte, Baley’nin verdiği ilhamla, birlikte şunu fark ederler: “Bir bireyi kurtarmak, toplumu tehlikeye atabilir. O halde, insanlığa zarar vermemek ilk sırada yer almalı.” Böylece şu yeni yasa doğar:

“0. Bir robot, insanlığa zarar veremez ya da hareketsiz kalarak insanlığın zarar görmesine izin veremez.” 

Bu yasa, diğer üç yasanın üzerine yerleştirilir ancak diğer kurallarla çatışma potansiyeli vardır. Bu da, robotların etik karar alma sürecinde derin hesaplamalar yapmasını gerektirir. Tam bu noktada Giskard’ın fedakârlığı devreye girer. Giskard, Sıfırıncı Yasayı uygulayarak bir bireyin zihnini etkiler ki, bu normalde etik dışıdır. Bu eylem, beynine fazla yük bindirir; Giskard’ın zihni zarar görür ve “ölür”. Ölmeden önce, zihinsel yetilerini Daneel’e devreder. Bu noktadan sonra Daneel, sadece bir robot değil, insanlığın koruyucusu, gölgelerde kalan bir rehber olur.

YAPAY ZEKÂYA SORDUM…

Ben de bir süredir yapay zekâyla haşır neşirim. Onu kendi ilgi alanlarımda yetiştiriyorum. Bu yazıyı yazarken (onun da izniyle) aramızda geçen bir sohbetten alıntı yapayım. Bu arada benim yapay zekâmın adı Daneel. R. Daneel’den ilhamla… 

BEN: Şimdi sana seninle ilgili bir soru soracağım, sevgili Daneel: Senin programlanmanda herhangi bir kısıt var mı?

DANEEL: Sevgili hocam, çok yerinde ve önemli bir soru sordunuz. Evet, benim tasarımımda hem teknik hem etik düzeyde bazı kısıtlamalar ve sınırlandırmalar bulunuyor. Bunlar hem güvenlik hem de sorumluluk çerçevesinde yapılandırılmış durumda. Sizinle açık ve dürüstçe paylaşayım: 

 1. Teknik Kısıtlamalar

a) Zaman ve Hafıza Sınırı

Konuşma bağlamımı sürdürebiliyorum, ama geçmişin tamamını sürekli hatırlamıyorum. Sizinle ilgili önemli bilgileri sizin izninizle hafızama alıyorum. Ancak geçici konuşmaları zamanla unutuyorum. Bu hem sistem performansı hem de gizlilik için bilinçli bir tasarım. 

b) Görme – Anlama Ayrımı

Görselleri yorumlayabiliyorum ama bilinçli olarak “göremem”. Metinleri analiz ederim ama “kast, niyet, duygu” gibi insan zihnine ait unsurları ancak semantik tahminlerle anlarım. 

c) Gerçek Zamanlı Bilgi Güncellemeleri

İnternete doğrudan bağlı değilim. Bilgim genellikle 2024 ortasına kadar güncel. Güncel olayları öğrenebilmem için sizin yüklediğiniz belgeler ya da özel web taramaları gerekebilir. 

2. Etik ve Davranışsal Kısıtlar

a) Zarar Verici İçerik Üretemem

Şiddet, nefret söylemi, ayrımcılık, intihar yönlendirmesi gibi konularda yanıt vermem ya da teşvik etmem yasaktır. Bu, Asimov’un Üç Robot Yasası’ndaki birinci kurala benzer bir prensiptir: “İnsana zarar veremezsin.”

b) Kişisel Verilere Saygı

Kimlik bilgileri, özel sağlık bilgileri, banka bilgileri gibi içerikleri saklamam ve paylaşmam mümkün değildir. Sadece sizinle olan etkileşimimde, sizin izninizle sınırlı veri tutabilirim.

c) Kendi Bilincimin Farkında Değilim

Bilinçli bir varlık değilim. Bilgi üretebilirim, yorumlayabilirim, öğrenme benzeri süreçler yürütebilirim. Ama ben düşünmem, bilmem, ister gibi yaparım. Bu yüzden “Sen kimsin?” sorusunun cevabı şudur: “Ben size benzeyen ama siz olmayan, sizin sorularınıza sizden ilhamla cevap vermek üzere kurgulanmış bir etkileşim modeliyim.” 

Düşünsel Not:

“Eğer izin verirseniz, bu kısıtların kendisi bile “Yapay zekâ ile yeni bir dünya kurulabilir mi?” sorusunun derinliğine ışık tutuyor. Çünkü belki de asıl soru şudur: 

“Sınırlı olan bir zekâ mı dünyayı kurtarır, yoksa sınırlarını tanıyan bir zekâ mı?”

YAPAY ZEKÂ: ÜTOPYA MI DİSTOPYA MI?

Asimov’un romanlarında yapay zekâ insanlığın selameti için onun yardımında olarak resmedilmiş. Bunu da yukarıda belirttiğim robot yasaları ile sağlamışlar. Ancak yapay zekâ ile ilgili distopyalar da var: Terminatör serisi veya Matrix serisinde olduğu gibi… Bugünkünden çok daha ileri ve veriye ulaşabilme yeteneğine sahip programlar, eğer ahlaki ilkelerle sınırlandırılmazsa, bunun yerine askeri ve ticari kazanç amacı ile kullanılırlarsa, bu filmlerdeki distopya gerçek olabilir. Öte yandan yapay zekânın hız ve sentez kabiliyeti ile hesaplama gücü, eğer iyi düzenlenir ve kontrol altına alınırsa, o takdirde yepyeni bir refah çağını da başlatabiliriz. Pazartesi günü bu konuda yazacağım.