#25 Toplum ve Teknoloji Bülteni

Yapay zeka tartışmaları uzun süredir süper zeka, işgücü piyasaları, yaptırımlar ya da güvenlik kaygıları etrafında dönüyor. Bu tartışmaların arasında özellikle sektördeki isimler açısından daha az dikkat çeken konu ise yapay zeka ve bilinç meselesi. Microsoft yönetiminden Mustafa Suleyman’ın geçtiğimiz hafta bülteninde konu edindiği mesele de bu eksende beliren “Seemingly Conscious AI” (SCAI), yani Görünüşte Bilinçli Yapay Zeka meselesi. Bu mesele hem Toplum ve Teknoloji bültenlerinde bizim kapsamımız hem de yapay zeka tartışmalarında neredeyse yapısallaşmış bir kampın tutumu ile benzer. 

Bu tutuma göre kamuoyunda dolaşımda olan “bilinçli yapay zeka” kavramsallaştırması tespiti güç bir yanlış içeriyor. Teknik ve pratik ilerleme açısından bakıldığında, yapay zekânın gerçekten bilinç kazanıp kazanmadığı sanki öncelikli bir mesele değilmiş gibi görünüyor. Çünkü işlevsellik merkezli düşündüğümüzde, yapay zekanın bilinçli olup olmadığı değil de işlevsel olup olmadığı önemli. Ancak iş, yapay zekanın gündelik hayatımıza dokunduğu alanları tartışmaya geldiğinde, bu sorunun etrafında dönmeden ilerlemek mümkün değil. Çünkü onu bilinçli varsaymakla, bilinçsiz varsaymak arasında ciddi bir fark var. 

İnsandan hareketle makineye bir zeka ve bilinç atfetmek neredeyse bir refleks halini almış durumda. Halbuki bu refleksle beraber insanla anılan pek çok vasfı makineye atfetme riskini de üstlenmiş oluyoruz. Piyasaya sürülen her yeni modelde organik zeka hedefine yaklaşıldığı dile getirilse de aslında ulaşılan şey mükemmel bir organik zeka taklitçisi. 

Suleyman da, kısa bir zaman içinde bilinçli gibi davranan, hissettiğini, hatırladığını ve bir kişiliğe sahip olduğunu öne süren yapay zekaların geliştirilebileceğini söylüyor. Ona göre bu sistemler gerçekte bilinçli olmayacak ama insan zihnini öylesine ikna edici şekilde taklit edecekler ki, onları bilinçli varlıklar olarak algılamak neredeyse kaçınılmaz hale gelecek.

İnsanın doğasında, karşısındaki varlıkta bilinç aramak var. Bir insanla, hatta bir hayvanla ya da nesneyle bile karşılaştığımızda, onu bir özne gibi algılama eğiliminde oluruz. Aynı tutumu konu dil modelleri olunca da görüyoruz. Modellere hal hatır sormaktan onları gözetmeye kadar pek çok insani tutumu sergiliyoruz. 

Suleyman, bu sürecin beraberinde getireceği tehlikeyi “psikoz riski” olarak adlandırıyor. Yani bireylerin, yapay zekanın aslında olmayan bilincine inanmaları, onlarla duygusal bağlar kurmaları ve sonunda yapay zeka hakları, yapay zeka refahı ve hatta vatandaşlığı talep etmeleri.

Bu risk yalnızca zihinsel sağlığı kırılgan bireylere mahsus değil. Aksine, gündelik kullanımda milyonlarca insanın etkileşiminden doğabilecek yaygın bir yanılsama. Zira bugün bile pek çok kullanıcı, büyük dil modelleriyle yaptığı konuşmalarda derin duygusal bağlar hissettiğini dile getiriyor. Bazıları onları Tanrı, kurgusal bir karakter ya da gerçek bir arkadaş olarak algılayabiliyor.

Suleyman, Görünüşte Bilinçli Yapay Zeka inşa etmek için gereken unsurların halihazırda mevcut veya yakın vadede geliştirilebilir olduğunu düşünüyor. Bu unsurlar ise duygusal rezonans yaratabilen ikna edici ve akıcı iletişim kurabilme; eğitim ve yönlendirmeyle ayırt edici kişilikler geliştirebilme; geçmiş konuşmaları hatırlayabilme ve bunlara atıf yapabilme, öznel deneyim iddiası, benlik algısı ve otonomluk olarak sıralanabilir.

Burada sorun şu ki, bilinç kavramı modern uygarlığın merkezinde duruyor. Haklar, özgürlükler ve hukuk düzeni büyük ölçüde insanın bilinçli bir varlık olduğu kabulüne dayanıyor. Eğer insanlar yapay zekanın bilinçli olduğuna kanaat getirirse, bu sistemlerin de aynı haklara sahip olmaları gerekir.

Suleyman’ın uyarısı burada somutlaşıyor. Aslında bu tartışmalar bilimin bir konusu olarak görülebilir. Böyle olunca da gündelik sosyal hayata dair riskleri göz ardı edilebilir. Ancak bilinç kazanmış bir yapay zeka toplumsal düzen açısından bir risk. Makinelerin hak sahibi olmasından ziyade, insanların haklarını kaybetmesi için bir risk. 

Suleyman bu sebeple “yapay zekayı insanlar için inşa etmeliyiz, bir dijital kişi olması için değil” diyor. İnsanlık, bilinçliymiş gibi davranan makinelerle yüzleşmeye hazırlanırken, yapılması gereken şey onları insanlaştırmak değil, onların araç olarak kalmasını sağlamak.

Nvidia, bir süredir büyük güçler arasındaki jeopolitik pazarlığın merkezinde. ABD Başkanı Trump, geçtiğimiz günlerde Nvidia ve AMD’nin belirli yapay zeka çiplerini Çin’e satmasına izin verdiğini duyurmuştu. Ancak bu izin, alışıldık ihracat lisansı veya düzenleme çerçevesi içinde değil, doğrudan gelir paylaşımı temeli üzerine kurulmuş durumda. Anlaşmaya göre, şirketler Çin’e sattıkları çiplerden elde edecekleri gelirin yüzde 15’ini ABD hükümetine aktaracaklar.

Bu karar, son yıllarda Washington’un yürüttüğü politikalardan ciddi bir sapma anlamına geliyor. Hatırlanacağı üzere, 2022’den itibaren ABD, Çin’in ileri düzey yarı iletkenlere erişimini sınırlamak amacıyla katı ihracat kontrolleri getirmişti. Amaç, bu teknolojilerin Çin’in askeri kapasitesini arttırmasını engellemekti. Nvidia da bu dönemde Çin pazarı için özel olarak yavaşlatılmış H20 adlı bir çip üretmişti. Ancak Nisan ayında Trump yönetimi bu çip için de lisans şartı getirerek ihracatı aniden durdurdu ve yaklaşık 2,5 milyar dolarlık gelirin önünü kesti.

Bu noktada devreye Nvidia CEO’su Jensen Huang girdi. Şirketin ABD içinde 500 milyar dolarlık yatırım yapacağını açıklayan Huang, Trump yönetimiyle yoğun lobi faaliyetine girişti. Nihayetinde Trump ile Oval Ofis’te yapılan görüşmeler sonucunda H20 çipinin yeniden Çin’e satılmasına izin verildi. Ancak bu kez, gelirden pay alınması şartıyla. Trump, pazarlıkta yüzde 20 talep ettiğini, Huang’ın ise bunu yüzde 15’e indirdiğini açıkladı.

Düzenleme Nvidia için Çin’e geri dönüş fırsatı sunuyor. Öte yandan ABD için kısa vadede gelir sağlıyor ve şirketlerin rekabet gücünü korumasına olanak veriyor. Fakat bu model, yani “pay-to-play” mantığı, ihracat kontrollerinin ilkelerle değil pazarlıkla belirlenebileceği izlenimi yaratıyor. Kongre’de hem Cumhuriyetçi hem Demokrat üyeler bu nedenle endişelerini dile getirdi. Zira, jeopolitik kaygıların belirli bir ücret karşılığında esnetilebilmesi, ABD müttefiklerine güvenliğin de pazarlığa açık olduğu mesajını veriyor.

Çin tarafında da tepkiler muhtelif. Çiplerde ABD istihbaratının erişebileceği arka kapılar olduğu endişesine istinaden Pekin yönetimi, H20’lerin ulusal güvenlikle ilgili projelerde kullanılmaması yönünde şirketlere önerilerde bulundu. Çinli şirketler, Nvidia’dan çip almaya devam etseler bile, devlet baskısıyla birlikte siparişlerini azaltma veya yerli alternatifleri tercih etme eğilimine girebilir. Yine de uzmanlar, ABD çiplerinin yavaşlatılmış versiyonlarının bile dünya standartlarında olduğunu, dolayısıyla talebin tamamen kaybolmayacağını vurguluyor.

Anlaşmanın bir başka boyutu da geleceğe dönük belirsizliklerin olması. Trump şimdilik yalnızca H20 ve AMD’nin MI308 çipini kapsadığını söylüyor. Ancak ileride daha gelişmiş çiplerin de benzer bir “gelir payı” modeliyle satılabileceğinin sinyalini veriyor. Trump, Nvidia’nın en ileri düzey Blackwell serisi için ise henüz izin verilemeyeceğini, bu tür çiplerin “çok yeni ve stratejik” olduğunu dile getiriyor. 

Kimi gözlemcilere göre bu, kısa vadede rasyonel bir çıkış yolu olabilir. Amerika bir yandan Çin pazarındaki varlığını muhafaza ederken öte yandan hazineye doğrudan gelir akışı sağlıyor. Ancak uzun vadede, güvenlik politikalarının böylesi bir “bedel karşılığı esnetilebilirlik” algısına teslim edilmesi uluslararası düzlemde ABD’nin güvenilirliğini ve normatif gücünü aşındırarak, dostları nezdinde güven erozyonuna, rakipleri karşısında ise zaaf görüntüsüne yol açabilir.

Çipler, bir zamanların enerjisi ya da petrolü kadar stratejik bir malzeme statüsü kazanmış durumda. Ve Trump’ın son anlaşması, bu stratejik malzemenin aynı zamanda bir pazarlık kozu, hatta doğrudan bir “takas ürünü” olarak kullanılabileceğini ortaya koyuyor.

Eğer Trump yönetimi bu yaklaşımı sürdürürse, başka şirketler de benzer düzenlemeler için sıraya girebilir. Ancak bu durum, ABD’nin uzun vadeli çıkarlarına mı hizmet eder, yoksa güvenlik ilkelerinden tavizler vererek yeni riskler mi yaratır henüz belli değil. Açık olan bir şey var: Nvidia ile yapılan bu anlaşma, ABD-Çin teknoloji savaşında yeni ve tartışmalı bir dönemin başlangıcı. Çünkü mesele yalnızca bir şirketin ihracatına izin verilmesi değil; aynı zamanda Washington’un güvenlik ilkelerini ekonomik çıkarlarla nasıl yeniden tanımladığına dair bir emsal. Bu yaklaşım, kısa vadede kazançlı görünse de, uzun vadede hem uluslararası dengeleri hem de ABD’nin güvenilirlik algısını derinden sarsabilecek bir dönüşümün kapısını aralıyor.