Ahlaki Failin Belirsizliği: Yapay Zeka Kararlarında Fail Kim?

Bir otonom aracın çarpışma anında verdiği ani manevrayı düşünün. Ya da bir kredi başvurusunu reddeden algoritmanın kararını. Ya da bir savaş alanında hedef önceliklendirmesi yapan bir sistem. Bu senaryoların ortak noktası şu: bir "karar" var, bir "sonuç" var, ama geleneksel anlamda bir "fail" yok. Kararı veren şey ne pişmanlık duyabilir, ne hesap verebilir, ne de cezalandırılabilir.

İnsan zihni binlerce yıldır sorumluluğu bir özneye bağlamak üzere evrildi. Bir şey ters gittiğinde sorduğumuz ilk soru neredeyse otomatiktir: "Bunu kim yaptı?" Yapay zeka sistemleri, özellikle otonom karar verme kapasitesi yüksek olanlar, bu sorunun cevapsız kaldığı ilk geniş ölçekli deneyim alanını oluşturuyor. Ve bu boşluk, zannedildiğinden çok daha derin psikolojik sonuçlar doğuruyor.

Sosyal psikolojide "adil dünya inancı" diye bir kavram var — insanların, olayların bir nedeni ve bir failinin olduğuna, kötü şeylerin rastgele değil belirli eylemlerin sonucu olarak gerçekleştiğine dair derin bir ihtiyaç. Bu inanç, dünyayı öngörülebilir ve kontrol edilebilir hissettirir. Bir fail bulunamadığında bu ihtiyaç karşılıksız kalır ve zihin bu boşluğu doldurmak için devreye girer.

^{Yapay Zeka Kararlarında Fail Kim? (Yapay Zekâ ile Oluşturulmuştur.)}

Fail bulunamadığında ilginç bir şey oluyor: sorumluluk, en yakın insan unsuruna kayıyor. Sistemi tasarlayan mühendis, onu kullanan operatör, ya da hatta zarar gören kişinin kendisi. Yani "kimse suçlu değil" durumu psikolojik olarak sürdürülemez olduğu için zihin, mevcut en makul insanı günah keçisi ilan ediyor — bu adil olsun ya da olmasın.

Sosyal psikolojinin klasik bulgularından biri olan "sorumluluk yayılması" (diffusion of responsibility), bir grup içinde herkesin müdahale etme sorumluluğunu hissetmesi gerektiğinde, aslında hiç kimsenin harekete geçmediğini gösterir. Yapay zeka sistemlerinde bu mekanizma daha da karmaşık bir hal alıyor, çünkü artık grup sadece insanlardan oluşmuyor: veri kümesini hazırlayan ekip, algoritmayı tasarlayan mühendisler, modeli eğiten şirket, sistemi devreye alan kurum, kararı onaylayan yönetici ve nihayetinde sistemin kendisi.

Bu kadar çok aktör arasında dağılan sorumluluk, her bir tarafın kendi payını psikolojik olarak küçültmesine izin veriyor. "Ben sadece veriyi hazırladım", "ben sadece kodu yazdım", "ben sadece onayladım" — her cümle tek başına makul, ama toplamda kimse tam resmi sahiplenmiyor. Bu, kötü niyetten değil, insan biliş sisteminin karmaşık nedensellik zincirlerini basitleştirme eğiliminden kaynaklanıyor.

Otonom sistemlerle çalışan insanlarda gözlemlenen bir diğer eğilim de "sorumluluk kayması" (responsibility shift): bir kararı bir algoritmaya devrettiklerinde, o kararın ahlaki ağırlığını da devrettiklerini hissetme eğilimi. Bu, aslında klasik itaat araştırmalarında görülen dinamiğe benziyor — otorite bir talimat verdiğinde bireylerin kendilerini "sadece emirleri uyguluyorum" konumuna yerleştirmesi ve bunun sağladığı ahlaki rahatlama.

Farkı şu: otorite figürü artık bir insan değil, "objektif" ve "tarafsız" olduğu varsayılan bir sistem. Bu varsayım, sorumluluktan kaçışı psikolojik olarak daha da kolaylaştırıyor, çünkü insan otoritesine itaat ederken en azından bir vicdani gerilim hissedilebilir; algoritmik otoriteye itaatte bu gerilim çoğu zaman hiç oluşmuyor. "Sistem böyle dedi" cümlesi, "amirim böyle dedi" cümlesinden daha az sorgulanabilir hissettiriyor — çünkü sistemin bir niyeti, bir çıkarı, bir önyargısı olmadığı varsayılıyor (ki bu varsayım çoğu zaman yanlış).

Madalyonun öbür yüzü de var. Bir yapay zeka kararından zarar gören kişi, öfkesini nereye yöneteceğini bilemez halde kalabilir. Öfke, insan psikolojisinde işlevsel bir duygudur — adaletsizliğe karşı harekete geçmemizi sağlar. Ama öfkenin yönelebileceği somut bir özne olmadığında, bu duygu ya içe döner (çaresizlik, öz-suçlama) ya da belirsiz bir hedefe — "sistem", "şirket", "teknoloji" gibi soyut kavramlara — yayılır.

Bu durum, adalet duygusunun tatmin olamamasına yol açıyor. Mahkeme süreçleri, özürler, hesap verebilirlik ritüelleri — insan toplumlarının zarar sonrası iyileşme için geliştirdiği mekanizmaların çoğu, tanımlanabilir bir failin varlığını varsayar. Fail belirsizleştiğinde, mağdurun psikolojik kapanış (closure) ihtiyacı da karşılıksız kalıyor.

AGI seviyesine yaklaşan sistemler, karar verme özerkliği arttıkça bu sorumluluk boşluğunu daha da büyütecek. Burada asıl mesele teknik değil — mesele insan zihninin ahlaki muhasebe yapma biçiminin, fail kavramının bulanıklaştığı bir dünyaya hazır olmaması. Hukuk sistemleri, kurumsal yapılar ve hatta gündelik ahlaki sezgilerimiz hâlâ "bir kişi, bir eylem, bir sonuç" üçgenine dayanıyor.

Bunun çözümü muhtemelen yeni bir sorumluluk çerçevesi inşa etmekten geçiyor — bireysel değil dağıtık, ama yine de hesap verebilir bir model. Ancak bu çerçeve oturana kadar, hem karar vericilerin hem de bu kararlardan etkilenenlerin, tanımı gereği "sahipsiz" bir sorumluluk alanında dolaşacağını kabul etmek gerekiyor. Ve bu, insan psikolojisinin alışık olmadığı, rahatsız edici bir belirsizlik.

Bu belirsizlik karşısında bireysel düzeyde yapılabilecek tek şey, belki de sorumluluğu tek bir noktaya sıkıştırma dürtüsüne direnmek ve süreci bir bütün olarak görmeyi öğrenmek.