Yapay Zeka Ajanlarında Sorumluluk Kime Ait?

*Abdullah Yasir Atalan

Ajan temelli yapay zeka (agentic AI) son dönemin en çok dolaşıma sokulan kavramlarından biri ve çoğu zaman yapay zeka trendinin bir sonraki aşaması olarak paketleniyor, sanki chatbot devrimi kullanım ömrünü tüketmiş gibi. Oysa bu yeni dalganın arkasında, salt teknolojik bir sıçramadan ziyade sektöre ciddi kaynak aktaran şirketlerin yeni kurumsal iletişim stratejileri var. Örneğin, BCG’nin 116 ülkede gerçekleştirdiği bir anketinde “şirketlerin yüzde 35’inin ajan temelli yapay zekayı keşfetmeye başladığı” raporlanarak, kavramın bir endüstriyel anlatı ihtiyacına cevap verdiği görülüyor. Yani bu kavramın popülerleşmesi yeni bir teknolojik devrimden ziyade endüstriyel bir satış dili inşasından kaynaklanıyor.

Aslında bu iletişim stratejisindeki dönüşümün arkasında büyük dil modellerinin (LLM) ilk yaygın kullanım biçimi olan sohbet botlarının (chatbot) sınırları yer alıyor. Şirketler chatbot kavramının bir üst limitinin olduğunu farketmiş olacaklar ki ajan temelli yapay zeka söylemini sahiplenmeye başlamış durumdalar. Çünkü chatbotlar en nihayetinde kullanıcıyla diyaloğa giren ve sürekli kullanıcıyı merkezde konumlayan bir altyapıyı temsil ederken, çoğu senaryoda işi öneri üretme düzeyinde bırakıyorlar. Bu platformların, kullanıcı sormadan, kullanıcı onaylamadan, kullanıcı adına sistemlerde “iş” yapma iddiası oldukça zayıf. Burada “ajan” söylemi ise daha iddialı bir yön değişikliğini temsil ediyor. Sisteme bir hedef veriliyor, sistem bu hedefi alt görevlere bölüyor, gerektiğinde dış araçlara (API’ler, veri tabanları, kurumsal yazılımlar) erişiyor ve bir dizi adım üzerinden çıktı üretiyor. Daha pratik bakacak olursak, bir sistemin kullanıcı adına e-posta kutusunu taraması, belirli başlıklardaki mesajları gruplaması, taslak yanıt hazırlaması veya bir toplantıyı takvime önermesi ajan diye pazarlanabiliyor. Aynı şekilde, bir seyahati planlamak için fiyat kıyaslayan, rezervasyon adımlarını yöneten, onay sonrası işlemi tamamlayan bir kurgu da bu kategoriye sokuluyor. Yani aslında, sistem yalnızca metin üretmiyor; başka sistemlere dokunuyor, veri okuyor, bazen yazıyor ve bu yüzden sistemin yanlış yapması sadece yanlış cevap vermek olmaktan çıkıp yanlış işlem yapmak haline geliyor.

Buradan itibaren tartışmanın “Ajan tam olarak nedir?” sorusuyla sınırlı kalması, meselenin en konforlu ama en yanıltıcı formudur. Asıl soru şu olmalıdır: Ajan diye adlandırılan şey, hangi riskleri görünmez kılıyor, hangi yönetişim boşluklarını daha akıllı otomasyon anlatısının arkasına saklıyor?

Temel bir tespit yapmak gerekirse, “Ajan” kavramının yapay zeka alanında kullanımı yeni bir durum değil ve tek bir tanımı da hiçbir zaman olmadı. 1990’larda klasik ders kitapları yapay zeka ajanını en yalın haliyle “çevresini algılayan ve ona göre eylemde bulunan sistem” olarak tarif ediyordu. Fakat o dönemde de Wooldridge “Agent” terimi için evrensel kabul görmüş bir tanım olmadığını ifade ediyordu. Bugün de tablo farklı değil. Yalnız bu kez kargaşa daha görünür durumda, çünkü kavram yalnız akademide değil, piyasada da dolaşıyor.

Şirketler tarafındaki tanımlar, bu kargaşayı çıplak biçimde gösteriyor. Son dönemde bakıldığında birçok teknoloji firması bu trende kendisini kaptırarak ajan temelli yapay zekayı tanımlamaya koyuldu. İnternette basit bir arama sonrası Anthropic, Amazon, Google, IBM, OpenAI, McKinsey ve Deloitte gibi şirketlerin kendi tanımlamalarına rastlamak mümkün. Fakat bu tanımlar farklı ihtiyaçları karşılamak için birbirinden ciddi bir şekilde farklılaşıyor. Bazı şirketler ajanı, “araçları (tool) çağıran ve iş akışlarını kendi kendine yöneten” uzun soluklu sistemler olarak tanımlarken, diğerleri ise daha çok “doğal dil arayüzü”ne referans vererek ajanı “daha konuşkan yazılım” olarak tanımlıyor. Bir kısmı “chatbot”ları ajan saymazken, bir kısmı “basit müşteri hizmeti botları bile ajanın ilkel bir türü” diyerek sınırı genişletiyor.

Daha pratik bir noktadan baktığımızda şirketlerin ajana dair tanımlarının çoğu, insandan devralınan bilişsel yüke dayanıyor. Yani ajan, “minimum yönlendirmeyle maksimum işi yapan”, insanın bilişsel yükünü azaltan, hedefi alt görevlere bölen sistem olarak anlatılıyor. Bu çerçeve, ürün geliştirme ve pazarlama için anlaşılır, çünkü başarı ölçütünü insanın daha az uğraşması gibi sezgisel bir yere bağlıyor.

Fakat kargaşanın kaynağı, aynı kelimenin, pazarlama dili içinde hem daralıp hem genişlemesi. Daralıyor, çünkü “ajan” etiketini ayrıcalıklı bir ürün segmenti gibi konumlamak gerekiyor. Genişliyor; çünkü bu pazarlama dilinin doğal sonucu olarak şirketler temel otomasyonu daha ileri bir şey gibi pazarlayabiliyor. Böylece “ajan” hem otomasyon hem de otonomi için aynı anda kullanılan bir şemsiye kavrama dönüşüyor.

Burada dikkat edilmesi gereken husus meselenin yalnızca bir tanım tartışması olmadığı ve bu kavram tartışmasının bir takım yönetişimsel sonuçlarının da olduğudur. Yapay zeka ajan olduğunda, artık yalnızca metin üreten bir model değildir. Başka sistemlere dokunan, veri okuyan, bazen yazan ve organizasyonel yapılara bağlanan bir arayüzdür. Bu bağlanma, hatayı epistemik bir problem olmaktan çıkarıp operasyonel bir probleme dönüştürür. Yanlış özetlenen bir e-posta can sıkıcıdır ama yanlış gönderilen bir e-posta kurumsal kriz doğurabilir. Yanlış önerilen takvim saati tolere edilebilir ama yanlış iptal edilen bir toplantı zincirleme aksama yaratır.

Bu geçişin en önemli yan etkisi de sorumluluğun bulanıklaşmasıdır. Chatbot döneminde hata, çoğunlukla “yanlış yanıt” diye çerçevelenebilir. Kullanıcı görür, beğenmez, düzeltir. Ajan temelli yapay zeka altyapısıyla beraber, hata, çoğu zaman bir iş akışının içinde görünmezleşir. Bir araç çağrısı, bir veri çekimi, bir otomatik eylem, bir erişim yetkisinin kullanılması. Tam bu noktada eylemliliği nasıl anladığımız belirleyici hale gelir. Birinci yaklaşım, eylemliliği büyük ölçüde yapay zeka modelinin içinde arayan yaklaşımdır. Bu bakışta ajan, çevreden veri alır, içeride bir temsil/çıkarım mekanizması çalışır ve dışarıya bir eylem ya da öneri üretir. Yani eylemliliğin kaynağı, sistemin içsel karar fonksiyonudur. Bu çerçeve özellikle endüstrinin bugünkü tanımlarına çok iyi oturur. Sistem ne kadar az yönlendirmeyle ne kadar çok işi tamamlıyorsa o kadar “ajan”dır, risk de çoğu zaman modelin hata yapması (yanlış çıkarım, yanlış plan, yanlış araç çağrısı) olarak görülür. Böyle bir okuma, iki nedenle eksik kalır. Birincisi, ajanın başarısı ya da başarısızlığı yalnız modelin doğruluğuna değil, hangi veriye eriştiğine, hangi sistemlere yazma yetkisi olduğuna ve hangi sınırlar içinde hareket ettiğine bağlıdır. İkincisi, organizasyonel açıdan asıl mesele “model doğru mu?” sorusundan önce “model neye yetkili ve bu yetkiyi kim verdi?” sorusudur. Yani model-merkezli okuma, yetki devri ve hesap verebilirlik tartışmasını arka plana iter.

İkinci tartışma ise ajansı ilişkisel biçimde ele alır. Buna göre eylemlilik tek bir modelin mülkü değildir. Aksine insan, yazılım, arayüz, veri altyapısı, kurum kültürü, prosedürler ve teşvikler bir araya geldiğinde ortaya çıkan bir özelliktir. Bu yaklaşıma göre, ajan temelli yapay zeka sistemi tek başına “akıllı” olduğu için değil, bir iş akışının içine gömüldüğü ve orada karar süreçlerini yeniden şekillendirdiği için risk üretir. Buradan doğan yönetişim soruları da kaçınılmaz olarak genişler. Hangi modeller organizasyona entegre edilecek, hangi test ve değerlendirme metodu uygulanacak, test planı yalnız model puanına mı bakıyor yoksa gerçek iş akışında ekip performansını mı ölçüyor, erişim izinleri nasıl katmanlandırılıyor, insan onayı hangi eşikte devreye giriyor, sistemin yaptığı her araç çağrısı ve veri yazımı denetlenebilir biçimde kayıt altına alınıyor mu, hata olduğunda sorumluluk kimde toplanıyor?

Bu soruların ortak noktası şudur. “Agency”, yani eylemlilik, artık yalnızca bir algoritmanın içinde aranamaz, bir bütün olarak organizasyonun içinde, onun yetki devri pratiklerinde, denetim izinde, teşvik yapısında ve sorumluluk rejiminde yatmaktadır. Kimin yetkisiyle yapay zeka sistemine izin verildi? Hangi onay mekanizması devredeydi? Hangi kayıtlar tutuldu? Hangi sınırlar çizildi? Hangi teşvikler bu kullanımı normalleştirdi? Ajan tartışması bu sorularla yüzleşmediği sürece, teknik bir kabiliyet yarışının parçası olarak kalacak, oysa mesele teknik olmaktan çok siyasal ve kurumsaldır. Çünkü “ajan” dediğimiz şey, çoğu zaman yeni bir zeka biçimi değil, yeni bir delegasyon rejimidir. Ve delegasyon rejimleri, ancak sınırları çizildiğinde, izi tutulduğunda ve sorumluluk alanları netleştirildiğinde güvenli hale gelir.