Agentic AI Mesh Mimarileri Üretimde Neden Zorlanır?

Yararlı Bir Mimari, Tehlikeli Bir Varsayım

McKinsey'in Agentic AI Mesh yazısı iyi yazılmış, profesyonelce yapılandırılmış ve kurumsal agent denemeleri ekipler arasında yayıldığında ortaya çıkan sorunları haritalamak açısından değerlidir. Yazı parçalanmayı, tutarsız standartları, maliyet artışını, yönetişim boşluklarını ve gözlemlenebilirlik ihtiyacını doğru biçimde adlandırıyor. Sorun yazının özensiz olması değildir. Sorun, referans mimarinin hâlâ daha fazla agent, daha fazla delegasyon ve daha fazla LLM aracılı kararın doğal olarak daha iyi kurumsal sonuçlar üreteceği inancını besleyebilmesidir.

Pek çok üretim uygulamasının kırılacağı nokta bu inançtır. Zeka doğrusal biçimde birleşmez. Zayıf sınırlandırılmış agent'lardan oluşan bir ekip, uzmanlardan oluşan bir ekip anlamına gelmez. Her adımda daha büyük model kullanmak, dar ve deterministik rol oynayan daha küçük bir modelden otomatik olarak daha güvenli değildir. Mesh mimarisi vendor bağımlılığını azaltabilir ve yeniden kullanımı artırabilir; ama aynı zamanda her devir teslimde belirsizlik, gecikme, maliyet ve hesap verebilirlik boşluğu ekleyen dağıtık stokastik bir sistem de yaratabilir.

Multi-Agent, Multi-Smart Demek Değildir

Agent mimarilerindeki en çekici fikir uzmanlaşmadır. Bir agent planlar, biri retrieval yapar, biri doğrular, biri araç çalıştırır, biri uyumluluğu kontrol eder. Diyagram üzerinde bu organizasyon tasarımı gibi görünür. Üretimde ise çoğu zaman olasılıksal çevirmenler zinciri gibi davranır. Her agent eksik bağlam alır, niyeti yorumlar, görevi dönüştürür ve yeni bir temsil biçimini sonraki adıma aktarır. Küçük hatalar sessizce birikir.

Multi-agent sistemler sınırlar açık ve devir teslimler tipli olduğunda faydalı olabilir. Yalnızca onaylı fiyatlandırma API'lerini çağırabilen bir fiyatlandırma agent'ı, ticari politikayı nasıl yorumlayacağına kendisi karar veren genel akıl yürütme agent'ından farklıdır. Deterministik politika kontrolleri olan bir uyumluluk doğrulayıcı, başka bir agent'ın özetini okuyup güven ifadesi üreten bir uyumluluk agent'ından farklıdır. İlk tasarım davranışı sınırlar. İkinci tasarım ikna edici dili çoğaltır.

Bu yüzden kurumsal liderler her yeni agent için sert bir soru sormalıdır: bu agent hangi belirsizliği ortadan kaldırıyor? Cevap yalnızca "başka bir bakış açısı ekliyor" ise mimari güvenilirliği artırmadan yüzey alanını büyütüyor olabilir.

LLM Aracılı Orkestrasyon Hâlâ Bir Agent'tır

Birçok agent mesh tasarımı görevleri parçalayan, agent seçen, işi yönlendiren, çıktıları doğrulayan ve sonraki adımı belirleyen bir orkestratör veya planlayıcı tarif eder. Bu kararlar ağırlıklı olarak LLM tarafından veriliyorsa orkestratör kararlı bir kontrol düzlemi değildir. Daha fazla yetkiye sahip başka bir agent'tır. Bu ayrım önemlidir.

Üretim orkestratörü altyapı gibi davranmalıdır: öngörülebilir, gözlemlenebilir, test edilebilir ve sınırlandırılmış. Hangi iş akışının çalışabileceğini, hangi araçların çağrılabileceğini, hangi retry'ların izinli olduğunu, hangi çıktı şemasının zorunlu olduğunu ve ne zaman insan onayı gerektiğini bilmelidir. LLM'ler belirsiz niyeti sınıflandırmaya veya ara plan taslağı üretmeye yardım edebilir; fakat nihai planlama durumu yürütmeden önce test edilebilen deterministik bir yapıda temsil edilmelidir.

Bu ayrım yapılmadığında sistemler beklenmeyen retry'lar, tutarsız araç davranışları, döngüye giren agent konuşmaları, kontrolsüz token harcaması ve yeniden üretilemeyen hatalar yaşar. Sorun modelin "kötü" olması değildir. Sorun, mimarinin olasılıksal akıl yürütmeye iş akışı kontrolüne ait sorumluluğu yüklemesidir.

Araç Çağırma En Büyük Hata Yüzeyidir

Kurumsal diyagramlar çoğu zaman araçların çağrılabilir, erişilebilir, yetkili ve net sonuç döndüreceğini varsayar. Gerçek sistemler böyle davranmaz. API'ler zaman aşımına uğrar. Yetkiler değişir. Veri sözleşmeleri kayar. Aşağı akış sistemleri kısmi sonuç döndürür. Bir araç teknik olarak başarılı olur ama iş zamanlamasını ihlal eder. Model araç açıklamasını görür ve yanlış gerekçeyle seçer. Araç çağırma, agentic AI'ın demodan çıkıp operasyonel gerçekliğe temas ettiği yerdir.

Çözüm ilk agent'ı izleyen başka bir agent değildir. Çözüm yaptırım katmanıdır. Araçlar tipli sözleşmelere, idempotency kurallarına, hız sınırlarına, politika kontrollerine, telafi aksiyonlarına ve denetim kayıtlarına ihtiyaç duyar. Araç çağrıları, güvenli olmayan istekleri kayıt sistemine ulaşmadan reddedebilen gateway'ler tarafından aracılanmalıdır. Yüksek etkili aksiyonlarda agent bir aksiyon paketi önermeli; deterministik iş akışı yürütülüp yürütülemeyeceğine karar vermelidir.

OpenTelemetry, API gateway'leri, service mesh'ler ve Open Policy Agent gibi politika motorları burada opsiyonel eklentiler değildir. Bunlar agent platformu ile stokastik entegrasyon otobüsü arasındaki farktır.

Vizyon Değil, Ekonomi Önce Kırılır

Agent mesh mimarileri demoda kusursuz çalışabilir; çünkü demo ölçeği sıkıştırır. Kullanıcı azdır, uç durum azdır, eşzamanlılık düşüktür, prompt'lar dostçadır ve araç çeşitliliği sınırlıdır. Kurumsal ölçekte her ek agent model çağrısı, bağlam aktarımı, doğrulama işi, loglama, retry ve değerlendirme yükü ekler. Sistem planlama, yönlendirme, doğrulama ve üretim için büyük modeller kullanıyorsa maliyet değer kanıtlanmadan büyür.

Bu yüzden "her yerde LLM" ekonomik olarak kırılgandır. Agent iş akışındaki birçok adım daha küçük dil modelleri, sınıflandırıcılar, kurallar veya prosedürel servislerle yürütülmelidir. Yönlendirme çoğu zaman politika tablosu olabilir. Doğrulama çoğu zaman şema ve sözleşme kontrolü olabilir. Bellek retrieval'ı semantik aramadan önce deterministik meta veriyle filtrelenebilir. Pahalı model, dil akıl yürütmesinin gerçekten değer kattığı adımlara ayrılmalıdır.

Üretim iş gerekçesi tamamlanan görev başına maliyeti, başarısız görev başına maliyeti, retry oranını, insan inceleme süresini ve altyapı yükünü içermelidir. Maliyet modeli yalnızca başarılı mutlu yol çalıştırmalarını sayıyorsa mimari üretim planlamasına hazır değildir.

Planlama Olasılıksal Olmamalı

Temel mesele basittir: dil üretimi olasılıksal olabilir ve akıl yürütme olasılıksal unsurlar içerebilir; fakat multi-agent sistemlerde planlama yürütme noktasında olasılıksal olmamalıdır. Plan, kontrollü bir yapıt haline gelmelidir: sürümlenmiş, incelenebilir, tipli, yetkilendirilmiş ve tekrar oynatılabilir. Sistem LLM'i plan önermek için kullanabilir; ama serbest biçimli niyeti doğrudan yürütmemelidir.

Daha iyi desen sınırlandırılmış agent mimarisidir. LLM'leri yorumlama, taslak çıkarma, özetleme ve belirsizliği ele alma için kullanın. Yürütme için deterministik orkestrasyon kullanın. Yetki için politika kapıları kullanın. Aksiyon için tipli araçlar kullanın. Negatif senaryoları test etmek için değerlendirme setleri kullanın. Geri alınabilirliği düşük veya iş etkisi yüksek yerlerde insan onayı kullanın.

Agentic AI Mesh fikri, agent çoğalmasına izin belgesi olarak değil entegrasyon yönetişimi olarak yorumlandığında hâlâ faydalı olabilir. Üretim sorusu "kaç agent birlikte çalışabilir?" değildir. Üretim sorusu "hangi kararlar asla olasılıksal bileşenlere devredilmemelidir?" sorusudur. Dayanıklı kurumsal sistemleri etkileyici demolardan ayıracak soru budur.

Öne çıkan görsel: Albert Stoynov, Unsplash.