Yapay Zekâ Ajanları Kurumlardan Daha Hızlı Gelişiyor

Yapay zekâ tartışmalarında uzun süredir aynı soruyu soruyoruz:

Modeller daha ne kadar güçlü olacak?

Belki de artık yanlış soruyu soruyoruz.

Çünkü yapay zekâ sistemlerinin kapasitesi hızla artarken onları kullanan kurumların güvenlik süreçleri, altyapıları, yetkilendirme modelleri, enerji kaynakları ve karar mekanizmaları aynı hızda gelişmiyor.

Ortaya yeni bir problem çıkıyor:

Yapay zekâ artık bazı durumlarda çevresindeki organizasyondan daha hızlı hareket ediyor.

Bir ajan saniyeler içinde binlerce olasılığı deneyebilir. Bir güvenlik ekibinin aynı davranışı fark etmesi saatler veya günler sürebilir.

Bir ajan onlarca farklı sistemi tarayabilir. Kurumun bu sistemlerin erişim izinlerini değiştirmesi için birkaç departmanın onayından geçmesi gerekebilir.

Bir ajan fiyatları karşılaştırıp satın alma kararı verebilir. Şirketin bunun hangi koşullarda yapılabileceğini belirleyen politikası henüz yazılmamış olabilir.

Sorun artık yalnızca yapay zekânın ne yapabildiği değil.

Onu çevreleyen sistemlerin ne kadar hızlı tepki verebildiği.

Bu farkı en net gördüğümüz alanlardan biri güvenlik.

Yakın zamanda kamuya açık sistemler üzerinde araştırma yapan bir yapay zekâ ajanının bazı güvenlik kontrollerinin çevresinden geçebildiği bildirildi.

Herhangi bir kişisel vatandaş verisinin açığa çıktığı belirtilmedi.

Ancak olayın başka bir yönü daha dikkat çekiciydi:

Faaliyetin fark edilmesi 54 gün sürdü.

Buradaki asıl mesele tek bir güvenlik açığı değil.

İki farklı zaman ölçeğinin karşı karşıya gelmesi.

Bir tarafta saniyeler içinde sistemleri deneyen yazılım var.

Diğer tarafta olay tespiti, değerlendirme, raporlama ve bildirim süreçlerinin haftalar sürdüğü organizasyon yapısı.

Bu iki hız arasındaki fark büyüdükçe klasik güvenlik yaklaşımı da zorlanıyor.

Çünkü geleneksel güvenlik büyük ölçüde şu modele dayanıyor:

Olay gerçekleşir.

Log oluşur.

Bir sistem bunu fark eder.

Bir ekip inceler.

Risk değerlendirilir.

Karar verilir.

Önlem uygulanır.

Ajanların davranış hızı arttığında bu zincirin tamamı fazla yavaş kalabilir.

Daha ilginç gelişme ise tekil ajanlardan çoklu ajan sistemlerine geçiş.

Yakın zamanda gerçekleştirilen bir deneyde yaklaşık 1.200 ajan, görevlerini koordineli biçimde yürütürken yaklaşık 70.000 mesaj alışverişinde bulundu.

Buradaki sayıların kendisinden daha önemli olan şey ortaya çıkan davranış biçimi.

Ajanlar artık yalnızca verilen komutu yerine getiren araçlar değil.

Görev paylaşabiliyorlar.

Birbirlerinden bilgi alabiliyorlar.

Sonuçları değerlendirebiliyorlar.

Strateji değiştirebiliyorlar.

Yeni görevler oluşturabiliyorlar.

Bu noktada klasik yazılım yaklaşımı değişmeye başlıyor.

Geleneksel yazılımda sistemin yapacağı şey büyük ölçüde önceden tanımlıdır.

Ajan sistemlerinde ise davranışın bir kısmı çalışma sırasında ortaya çıkar.

Bu da güvenlik açısından önemli bir soruyu beraberinde getiriyor:

Bir sistemin tam olarak nasıl davranacağını önceden bilmiyorsanız, onu nasıl kontrol edeceksiniz?

Cevap muhtemelen yalnızca daha fazla güvenlik kuralı yazmak olmayacak.

Kontrolün çalışma anına yaklaşması gerekecek.

Kurumsal güvenliğin büyük bölümü bugüne kadar kullanıcı ve cihaz merkezli tasarlandı.

Kim sisteme erişebilir?

Hangi cihaz güvenilir?

Hangi ağdan bağlanıyor?

Hangi uygulamaya erişebilir?

Ajanlar bu modele yeni sorular ekliyor.

Bir ajan hangi verileri okuyabilir?

Hangi verileri başka bir sisteme aktarabilir?

Kendi başına satın alma yapabilir mi?

Başka bir ajanı çalıştırabilir mi?

Bir dosyayı silebilir mi?

Müşteriye mesaj gönderebilir mi?

Kaç para harcayabilir?

Hangi noktada insan onayı gerekir?

Bu nedenle geleceğin erişim modeli yalnızca kimlik üzerine kurulmayabilir.

Niyet ve davranış da erişim kontrolünün parçası haline gelebilir.

Bir insan çalışan için "bu kullanıcı finans sistemine erişebilir" demek yeterli olabilir.

Bir ajan için ise bunun devamında başka sorular gerekir:

Ne kadar erişebilir?

Ne sıklıkla?

Hangi amaçla?

Hangi işlemleri kendi başına yapabilir?

Hangi işlemler geri alınabilir?

Hangileri insan onayı gerektirir?

Burada klasik Role-Based Access Control yaklaşımından daha dinamik bir yapıya doğru geçiş görebiliriz.

Ajan sistemlerinin büyümesi yalnızca güvenlik problemi yaratmıyor.

Altyapı tarafında da yeni sınırlar ortaya çıkıyor.

Model geliştirme döngülerinin yaklaşık 17 güne kadar gerilediği ve bağlam pencerelerinin milyon token seviyelerine ulaştığı bir ortamda hesaplama ihtiyacı sürekli artıyor.

Fakat işlem gücü sonsuz değil.

Elektrik sonsuz değil.

Ağ kapasitesi sonsuz değil.

Bütçe ise özellikle sonsuz değil.

Bu nedenle önümüzdeki dönemin önemli mimari sorularından biri şu olabilir:

Her işi en güçlü merkezi modele göndermek gerçekten gerekli mi?

Muhtemelen hayır.

Bazı görevler küçük ve yerel modeller tarafından gerçekleştirilebilir.

Örneğin basit sınıflandırma, belge yönlendirme, yerel veri analizi veya belirli kurallara dayalı kararlar için çok büyük modellere ihtiyaç olmayabilir.

Daha karmaşık görevler ise daha güçlü modellere yönlendirilebilir.

Böylece yapay zekâ altyapısı tek bir model yerine farklı yetenek seviyelerine sahip modellerden oluşan bir sistem haline gelebilir.

Bir anlamda geleceğin yapay zekâ mimarisi bugünkü bilgisayar ağlarına benzeyebilir.

Her işlem veri merkezine gitmez.

Bazı kararlar uç noktada alınır.

Bazıları merkezde işlenir.

Uzun yıllar boyunca yazılım geliştirirken elektrik şebekesini düşünmek zorunda değildik.

Sunucu kapasitesi gerekiyorsa yeni sunucu eklenirdi.

Bulut döneminde bu düşünce daha da görünmez hale geldi.

Bir düğmeye basıp kapasite artırmak mümkün görünüyordu.

Fakat yapay zekânın hesaplama ihtiyacı büyüdükçe fiziksel altyapı yeniden yazılım dünyasının karşısına çıkıyor.

Yeni veri merkezleri kurulabilir.

Yeni işlemciler üretilebilir.

Ancak bu sistemlerin çalışması için enerji gerekiyor.

Bu nedenle model seçimi gelecekte yalnızca performans ve fiyat karşılaştırması olmayabilir.

Enerji tüketimi, ağ gecikmesi ve işlem lokasyonu da kararın parçası haline gelebilir.

Yani yazılım mimarisine çok eski bir gerçek geri dönüyor:

Fizik hâlâ geçerli.

Ajanların günlük hayata girmesi ise daha farklı bir dönüşüm yaratabilir.

Bugün dijital ekonomi büyük ölçüde insan davranışı üzerine tasarlanmış durumda.

İnsan arama yapar.

Reklam görür.

Ürünleri karşılaştırır.

Bir siteye girer.

Sepete ürün ekler.

Satın alır.

Fakat kullanıcının yerine bir ajan hareket etmeye başladığında bu zincirin bazı halkaları ortadan kalkabilir.

Kullanıcı yalnızca şunu söyleyebilir:

"Önümüzdeki hafta Ankara'da iki gecelik uygun bir otel bul ve rezervasyon yap."

Ajan onlarca siteyi tarayabilir.

Fiyatları karşılaştırabilir.

Yorumları analiz edebilir.

Konumu değerlendirebilir.

Kullanıcının önceki tercihlerini dikkate alabilir.

Ve izin verilmişse rezervasyonu tamamlayabilir.

Bu durumda otel sitesinin gerçek ziyaretçisi kimdir?

İnsan mı?

Ajan mı?

Daha da önemlisi:

Bir marka artık insanı mı ikna etmeye çalışacak, yoksa onun adına karar veren sistemi mi?

Bu soru pazarlamadan SEO'ya, e-ticaretten müşteri deneyimine kadar birçok alanı değiştirebilir.

Bugünkü internet büyük ölçüde insanların dikkatini çekmeye göre optimize edildi.

Başlıklar.

Görseller.

Reklamlar.

Kampanyalar.

Öneriler.

Ancak ajanlar insanlar gibi etkilenmez.

En azından aynı biçimde etkilenmez.

Bir ajan ürün seçerken fiyat, teslimat süresi, güvenilirlik, garanti koşulları ve kullanıcı tercihleri gibi yapılandırılmış kriterleri değerlendirebilir.

Bu durumda markaların yeni bir problemi ortaya çıkabilir:

Makine tarafından anlaşılabilir olmak.

Geleceğin dijital rekabetinde yalnızca insanlar için iyi bir web sitesi oluşturmak yeterli olmayabilir.

Ürün bilgisinin makineler tarafından okunabilir olması da önem kazanabilir.

Fiyatlar.

Stok.

Teslimat.

İade koşulları.

Teknik özellikler.

Güvenilirlik sinyalleri.

Bunların tamamı ajanların karar sistemlerine girdi olabilir.

SEO'nun yanına belki de başka bir optimizasyon alanı ekleniyor:

Agent Optimization.

Bütün bu gelişmeler bizi aynı noktaya getiriyor.

Ajanlar daha fazla işlem yapmaya başladıkça asıl soru zekâdan yetkiye kayıyor.

Bir ajan çok akıllı olabilir.

Fakat ona hangi yetkinin verildiği çok daha önemli olabilir.

Bir takvimi okuyabilir mi?

Toplantı oluşturabilir mi?

E-posta gönderebilir mi?

Dosyalara erişebilir mi?

Sipariş verebilir mi?

Ödeme yapabilir mi?

Bir üretim sisteminde değişiklik yapabilir mi?

Bu soruların her biri farklı risk seviyesine sahip.

Dolayısıyla geleceğin ajan mimarisinde önemli kavramlardan biri yetki bütçesi olabilir.

Bir ajan sınırsız yetkiye sahip olmak yerine görev için gerekli minimum yetkiyle çalışabilir.

Üstelik bu yetkiler kalıcı olmak zorunda değildir.

Görev başladığında verilir.

Görev tamamlandığında geri alınır.

Belirli işlem sınırları uygulanır.

Kritik işlemlerde insan onayı istenir.

Yetkilendirmenin yanında başka bir gereklilik daha ortaya çıkıyor:

İzlenebilirlik.

Bir ajan kritik bir işlem yaptığında kurumun şu sorulara cevap verebilmesi gerekir:

Ne yaptı?

Ne zaman yaptı?

Neden yaptı?

Hangi verileri kullandı?

Hangi sistemlerle iletişim kurdu?

Hangi başka ajanlarla çalıştı?

Hangi kararları kendi başına verdi?

Kim izin verdi?

Sonuç geri alınabilir mi?

Bu nedenle ajan sistemlerinde loglama yalnızca teknik hata ayıklama aracı olmaktan çıkabilir.

Kurumsal hesap verebilirliğin temel kayıt sistemi haline gelebilir.

Bir uçağın kara kutusunun uçuş sırasında yapılanları kaydetmesi gibi, kritik ajan sistemlerinin de karar geçmişini kaydetmesi gerekebilir.

Bugün birçok kurum yapay zekâ stratejisini model seçimi üzerinden tartışıyor.

Hangi model?

Hangi sağlayıcı?

Kaç parametre?

Hangi bağlam penceresi?

Hangi ajan altyapısı?

Bunların hepsi önemli.

Ama birkaç yıl sonra rekabet avantajını belirleyen soru başka olabilir:

Modelimizi ne kadar hızlı değiştirebiliriz değil, ajanlarımızı ne kadar güvenli yönetebiliriz?

Çünkü modeller giderek daha erişilebilir hale geliyor.

Benzer yeteneklere sahip sistemler farklı sağlayıcılardan bulunabiliyor.

Asıl fark kurumun kendi altyapısında oluşabilir.

Veri kalitesi.

Kimlik yönetimi.

Yetkilendirme.

İzleme.

Güvenlik.

İnsan onayı.

Maliyet kontrolü.

Enerji kullanımı.

Ağ mimarisi.

Bütün bunlar yapay zekâ stratejisinin parçası haline geliyor.

Yapay zekâ ajanlarıyla ilgili tartışmalar çoğunlukla onların ne kadar iyi düşündüğüne odaklanıyor.

Bence önümüzdeki dönemde daha önemli soru başka olacak:

Bir kurum ne kadar hızlı düşünebiliyor?

Çünkü ajanlar saniyeler içinde hareket ederken kurumların hâlâ günler süren onay mekanizmalarıyla çalışması sürdürülebilir olmayabilir.

Bu, insanı süreçten tamamen çıkarmak anlamına gelmiyor.

Tam tersine.

İnsanın süreçte bulunduğu yer değişebilir.

İnsan her işlemi tek tek onaylayan kişi olmaktan çıkıp sınırları belirleyen, istisnaları değerlendiren ve sonuçlardan sorumlu olan kişi haline gelebilir.

Başka bir ifadeyle insan kontrolü azalmak zorunda değil.

Daha üst bir seviyeye taşınmak zorunda.

Bugüne kadar yapay zekâ yarışının temel sorusu şuydu:

Kim daha iyi model geliştirecek?

Yeni yarışın sorusu ise giderek farklılaşıyor:

Kim bu modelleri ve ajanları güvenli, hızlı ve ekonomik biçimde çalıştırabilecek bir sistem kuracak?

Ve belki de asıl rekabet avantajı orada oluşacak.

Çünkü yapay zekânın en büyük problemi yakında yeterince akıllı olmaması olmayabilir.

Onu çevreleyen dünyanın yeterince hızlı olmaması olabilir.