Agentic AI'ın En Büyük Sorunu Modeller mi, Mimari mi?

Yapay zekâ dünyasında son iki yılın en popüler kavramlarından biri Agentic AI oldu. Artık yalnızca soru cevaplayan modeller değil; plan yapan, araç kullanan, veri tabanlarına erişen, e-posta gönderen ve şirket süreçlerini otomatikleştiren otonom ajanlardan bahsediyoruz.

Ancak kurumsal şirketlerde ilk heyecanın ardından ortak bir tablo ortaya çıkmaya başladı.

Projeler çalışıyor.

Demolar etkileyici.

Pilot uygulamalar başarılı.

Fakat üretim ortamına geçildiğinde beklenmeyen iki sorun büyüyor:

• Yapay zekâ maliyetleri hızla artıyor.
• Güvenilirlik beklenen seviyeye ulaşmıyor.

İlk tepki ise genellikle aynı oluyor:

"Daha büyük modeli kullanalım."

Peki gerçekten sorun modelin yeterince akıllı olmaması mı?

Bugün birçok Agentic AI mimarisinde büyük dil modeli yalnızca düşünen bileşen değil, aynı zamanda karar veren ve işlemi gerçekleştiren bileşen hâline geliyor.

Bir müşteri talebi geliyor.

Model düşünüyor.

CRM sistemine bağlanıyor.

ERP üzerinde işlem yapıyor.

Veritabanını güncelliyor.

Gerekirse müşteriye e-posta gönderiyor.

Başka bir deyişle aynı sistem hem "beyin" hem de "el" görevini üstleniyor.

İşte temel mimari hata tam burada başlıyor.

Çünkü büyük dil modelleri deterministik sistemler değildir.

Aynı girdiye farklı zamanlarda farklı çıktılar üretebilirler.

Bu yaratıcılık gerektiren alanlarda büyük avantajdır.

Ancak finans, sigorta, sipariş yönetimi veya müşteri işlemleri gibi kurumsal süreçlerde aynı özellik risk oluşturur.

Birçok kurum güvenilirliği artırmak için modeli daha fazla düşündürmeye çalışıyor.

Prompt büyüyor.

Context büyüyor.

Reasoning açılıyor.

İkinci model doğruluyor.

Üçüncü model tekrar kontrol ediyor.

Her başarısız denemede biraz daha fazla token tüketiliyor.

Sonuçta ortaya çıkan tablo oldukça ilginç:

Model daha fazla düşünüyor.

Fakat şirket aynı oranda daha fazla değer üretmiyor.

Buna karşılık bulut faturası sürekli büyüyor.

Kurumsal AI projelerinde en büyük maliyet artık model lisansı değil; gereksiz tekrarlar, doğrulama döngüleri ve sonsuza kadar sürebilen reasoning zincirleri hâline geliyor.

Burada yapılması gereken en önemli mimari değişiklik, düşünme yetkisi ile işlem yapma yetkisini birbirinden ayırmaktır.

Yapay zekâ öneride bulunabilir.

Alternatif üretebilir.

Belirsizlik altında akıl yürütebilir.

Ancak gerçek sistemlerde değişiklik yapma yetkisi deterministik bir katmanda olmalıdır.

Bu yaklaşım işletim sistemlerindeki User Space ve Kernel Space ayrımına oldukça benzer.

Uygulamalar önerir.

Çekirdek karar verir.

AI sistemlerinde de benzer bir "hava kilidi" yaklaşımı giderek daha fazla önem kazanıyor.

Bir uzay istasyonuna girişte önce hava kilidine girilir.

Kimlik doğrulanır.

Basınç dengelenir.

Koşullar sağlanmadan iç kapı açılmaz.

Kurumsal AI sistemlerinde de benzer bir kontrol katmanı bulunmalıdır.

Model bir işlem önerdiğinde sistem şu soruları sormalıdır:

• Yetkisi var mı?
• JSON yapısı doğru mu?
• İş kuralını ihlal ediyor mu?
• Veritabanındaki gerçek bilgilerle çelişiyor mu?
• Güncel duruma göre hâlâ geçerli mi?
• Hesaplanan maliyet belirlenen sınırın üzerinde mi?

Bu kontrollerin hiçbiri yeniden LLM çalıştırmayı gerektirmez.

Çoğu SQL sorgusu, politika motoru veya uygulama koduyla milisaniyeler içinde doğrulanabilir.

Böylece pahalı token tüketimi yerine ucuz deterministik kontroller devreye girer.

Geleneksel güvenlik bakış açısı daha çok dış saldırılara odaklanır.

Oysa Agentic AI çağında farklı bir tehdit ortaya çıkıyor.

Model yanlış kişiye indirim tanımlayabilir.

Yanlış müşteriye erişim verebilir.

İptal edilmesi gereken aboneliği kampanyaya çevirebilir.

Üstelik bunların tamamı teknik olarak "geçerli" JSON çıktıları olabilir.

Yani sorun artık kodun çalışmaması değildir.

Sorun, yanlış kararın kusursuz şekilde uygulanmasıdır.

Bu nedenle geleceğin güvenlik anlayışı yalnızca yetki kontrolü değil; kanıt doğrulaması, bağlam doğrulaması ve zaman doğrulaması üzerine kurulacaktır.

Son yıllarda milyarlarca dolarlık GPU yatırımları yapıldı.

Fakat kurumsal AI projelerinin başarısını belirleyen tek unsur artık model performansı değil.

Asıl farkı oluşturan unsur;

• politika motorları,
• workflow altyapıları,
• gözlemlenebilirlik sistemleri,
• karar kayıtları,
• maliyet yönetimi,
• insan onay mekanizmaları
• ve deterministik kontrol katmanları olacak.

Bir başka ifadeyle geleceğin rekabet avantajı yalnızca "en akıllı modeli" satın almak olmayacak.

En güvenilir mimariyi kurabilen şirketler öne çıkacak.

Yapay zekâ tarihinin ilk yıllarında odak noktası model kalitesiydi.

Bugün ise yeni bir döneme giriyoruz.

Artık soru:

"Hangi model daha akıllı?"

değil.

"Hangi mimari modeli güvenli, ekonomik ve sürdürülebilir hâle getiriyor?"

sorusu.

Çünkü mükemmel model büyük ihtimalle hiçbir zaman gelmeyecek.

Fakat kusurlu modellerle bile güvenilir sistemler tasarlamak mümkün.

Gerçek mühendislik de tam burada başlıyor.