Yapay Zekâ Ajanı Mimari Diyagramı: Model, Araçlar, Bellek ve Koruma Mekanizmaları

Çoğu yapay zekâ ajanı diyagramı, bir LLM logosunun yanında bir robot simgesi ve "araçlar" etiketli bir ok gösterir. Bu resim, bir ajanın güvenle çalıştırılıp çalıştırılamayacağına karar veren soruları gizler: bir sonraki adımı kim seçiyor, ajanın neye dokunmasına izin var, güvenilmeyen metin nereden giriyor ve hiçbir yere varmayan bir çalıştırmayı ne durduruyor.

Bu yazı bir ajanı parçalarına ayırıyor, onu yürüten döngüyü adım adım anlatıyor; araçları ve Model Context Protocol'ü, belleği, koruma mekanizmalarını, limitleri ve izlemeyi ele alıyor ve siparişleri sorgulayıp iade yapabilen bir müşteri destek ajanını çiziyor.

İş akışı mı, ajan mı?

Anthropic'in etkili ajanlar oluşturma rehberi faydalı bir ayrım çizer. Bir iş akışında LLM'ler ve araçlar, önceden yazdığınız kod yolları üzerinden yönetilir. Bir ajanda ise model kendi sürecini yönlendirir ve görev bitene kadar hangi araçları kullanacağına adım adım kendisi karar verir.

Aynı rehber, işe yarayan en basit çözümü önerir. Bir görev her zaman aynı üç adımı izliyorsa, o adımları kodda yazın ve modeli onların içinde çağırın. Yol, ajanın ilerlerken bulduklarına bağlıysa bir ajana başvurun: bir sonraki sorgunun son cevaba bağlı olduğu bir destek talebi ya da birkaç düzenleme ve test turu gerektiren bir kodlama görevi gibi.

Bir ajanın parçaları

Model yalnızca bir kutudur. Mühendisliğin büyük kısmı ve risk kontrolünün çoğu onun etrafındaki kodda yaşar.

Döngü

En sade haliyle çalışma ortamı bir döngüdür:

def run(task, user):
    messages = [system_prompt(user), task]
    for step in range(MAX_STEPS):
        reply = llm.generate(messages, tools=allowed_tools(user))
        if not reply.tool_calls:
            return check_output(reply.text)
        for call in reply.tool_calls:
            result = execute(call, user)   # permission check, approval, timeout
            messages.append(tool_result(call, result))
    return stop("step limit reached", messages)

Model hiçbir şeyi kendisi çalıştırmaz. Ya bir cevap ya da belirli argümanlarla bir aracı çağırma isteği döndürür; onu çalıştırıp çalıştırmayacağına ve nasıl çalıştıracağına çalışma ortamı karar verir. Kontrol de buradadır: izin kontrolleri, onaylar, zaman aşımları ve limitler prompt'ta değil, execute içinde ve döngüdedir.

Araçlar ve MCP'nin yeri

Bir araç, modelin isteyebileceği bir fonksiyondur: bir ad, bir açıklama ve argümanları için bir JSON şeması. Açıklamalar kod kadar önemlidir, çünkü model bir aracı ne zaman kullanacağı hakkında yalnızca onları bilir.

Model Context Protocol, yapay zekâ uygulamalarını dış sistemlere bağlamak için açık bir standarttır. Bir MCP sunucusu araçları, verileri ve prompt'ları sunar; ajan çalışma ortamı da istemci olarak davranır. Her entegrasyonu ajanın koduna bağlamak yerine her sistem bir sunucu yayınlar ve MCP destekleyen her çalışma ortamı onu kullanabilir.

İyi araçların birkaç ortak özelliği vardır:

• Az ve belirgin. refund_order(order_id, amount, reason), genel bir call_api(url, body) aracından iyidir.
• Okuma ve yazma ayrılmış, böylece bir rol yazma araçları olmadan okuma araçlarını alabilir.
• Modelin üzerine bir şey yapabileceği açık hatalar, örneğin "tutar sipariş toplamını aşıyor".
• Yazmalarda idempotency anahtarları, böylece yeniden denenen bir adım iki kez iade yapmaz.

Bellek

Ajanların iki tür belleği vardır ve diyagramlar bunları çoğu zaman birbirine karıştırır:

• Çalışma belleği, her adımda modele gönderilen bağlamdır: talimatlar, konuşma ve şimdiye kadarki araç sonuçları. Modelin bağlam penceresi ve maliyetle sınırlıdır; bu yüzden uzun çalıştırmalar eski adımları özetler ya da ham araç çıktısını kullanıldıktan sonra atar.
• Uzun süreli bilgi modelin dışında yaşar: belgeler, politikalar, eski destek kayıtları. Ajan ilgili parçaları, çoğu zaman bir vektör dizininden getirir ve çalışma belleğine ekler. RAG mimari diyagramı geri getirme hattını ayrıntılı olarak ele alıyor.

Hangi adımların zaten çalıştığı ve hangi onayın beklediği gibi bir çökmeden sağ çıkması gereken görev durumu, modelin bağlamında değil, sıradan bir veritabanında durmalıdır.

Koruma mekanizmaları ve izinler

LLM uygulamaları için OWASP Top 10 prompt injection'ı ilk sıraya koyar. Başka bir madde olan aşırı yetki (excessive agency), bir LLM sisteminin ihtiyacından fazla işleve, izne ya da özerkliğe sahip olduğu için yapabileceği zararlı eylemleri kapsar. Ajanlar ikisine de açıktır: güvenilmeyen metin okurlar (kullanıcı girdisi, web sayfaları, getirilen belgeler, araç sonuçları) ve eylemde bulunabilirler.

Pratikte işe yarayan kurallar:

• Her araç sonucunu ve getirilen belgeyi veri olarak görün. Bir web sayfasının içindeki metin izin veremez ya da görevi değiştiremez.
• Kullanıcının izinleriyle hareket edin, her müşteriyi görebilen bir servis hesabıyla değil.
• Yazmaları kapıdan geçirin. Okumalar serbestçe çalışır; bir eşiğin üzerindeki yazmalar ya da geri alınamayan her eylem bir kişiyi bekler.
• Kod çalıştırmayı sandbox'a alın: varsayılan olarak kimlik bilgisi ve ağ olmadan.
• Çıktıları kontrol edin; kullanıcılara ya da başka sistemlere ulaşmadan önce sızan dahili veriler ya da güvensiz içerik için.

Tehdit modelleme veri akışı diyagramı, güvenilmeyen metnin eylemde bulunabilen bir bileşene nerede geçtiğini bulmanın iyi bir yoludur.

Limitler ve maliyet

İlerleme kaydetmeden dönen bir ajan parayı ve sabrı tüketir. Limitleri prompt'a değil, çalışma ortamına koyun:

• Adımlar: görev başına en fazla model çağrısı sayısı.
• Zaman: görev başına bir duvar saati limiti ve araç çağrısı başına bir zaman aşımı.
• Para: görev başına ve kullanıcı başına günlük bir token ya da dolar bütçesi.
• Hız: hız sınırlayıcı tasarımındaki gibi, API'de kullanıcı başına istek limitleri.

Bir limite takıldığında temiz bir şekilde durun: o ana kadar bulunanları döndürün, çalıştırmayı hangi limitin durdurduğunu söyleyin ve izi inceleme için saklayın.

İzleme ve değerlendirmeler

Her adımı kaydedin: gönderilen bağlam, model ve ayarları, argümanları ve sonuçlarıyla her araç çağrısı, token'lar, gecikme ve maliyet. OpenTelemetry'nin üretken yapay zekâ için semantik kuralları vardır; böylece bu izler sisteminizin geri kalanıyla aynı arka uçlara akabilir. Gözlemlenebilirlik mimari diyagramı bu hattı gösteriyor.

İzler "bu çalıştırmada ne oldu?" sorusunu cevaplar. Değerlendirmeler (evals) ise "ajan iyileşiyor mu, kötüleşiyor mu?" sorusunu: otomatik puanlanan, prompt'larda, araçlarda ya da modellerde yapılan her değişiklikte çalıştırılan sabit bir gerçekçi görevler kümesi.

Mimari diyagram

Nasıl okunur:

• Sol: kullanıcı görevi, girişi ve oturumları yöneten sohbet uygulaması üzerinden gönderir; uygulama görevi kullanıcının kimliğiyle birlikte koruma mekanizmalarına iletir.
• Orta: ajan döngüsü bağlamı ve araç listesini LLM'e gönderir (düz) ve bir cevap ya da bir araç çağrısı geri alır (kesikli). Çalışma belleğini okur ve yazar; Markdown bloğu limitleri listeler.
• Sağ: araç çağrıları web aramaya, bir kod sandbox'ına ve sipariş API'sine gider. Bir iade, onaylayıcıyı bekler (kesikli).
• Alt: bilgi dizini getirilen belgeleri çalışma belleğine aktarır ve her adım izlere ve değerlendirmelere kaydedilir (noktalı).

Uçtan uca bir örnek: iade

Bir müşteri şöyle yazıyor: "4411 numaralı sipariş kırık geldi, paramı geri istiyorum."

1. Koruma mekanizmaları mesajı kontrol eder ve müşterinin kimliğini ekler.
2. Model get_order(4411) ister. Çalışma ortamı siparişin bu müşteriye ait olduğunu kontrol eder ve sonucu döndürür: üç gün önce teslim edildi, 180 dolar.
3. Çalışma ortamı iade politikasını bilgi dizininden getirir ve çalışma belleğine ekler: hasarlı ürünler 30 gün içinde iade edilebilir.
4. Model refund_order(4411, 180, "damaged") ister. Tutar 100 dolarlık eşiğin üzerinde olduğu için çalışma ortamı çalıştırmayı duraklatır ve bir destek liderine onay isteği gönderir.
5. Lider onaylar. Çalışma ortamı iadeyi bir idempotency anahtarıyla yürütür ve onayı döndürür.
6. Model cevabı yazar, çıktı kontrolleri geçer ve müşteri cevabını alır.

Üç model çağrısı, iki araç çağrısı, bir geri getirme, bir onay ve her adımı gösteren bir iz.

Ajan diyagramına neler konmalı

• Bir sonraki adıma kimin karar verdiği: model mi, yoksa sizin yazdığınız kod mu.
• Her araç, okuma ya da yazma erişimiyle ve kimin izinlerini kullandığıyla.
• Riskli eylemler için onay noktaları.
• Limitler: adımlar, zaman ve bütçe.
• Güvenilmeyen metnin nereden girdiği: kullanıcı girdisi, web sayfaları, belgeler, araç sonuçları.
• İzleme, böylece inceleyen kişi çalıştırmaların incelenebileceğini bilir.

Archboard'da oluşturun

1. Google ya da GitHub ile giriş yapın ve bir diyagram oluşturun.
2. Kullanıcı ve onaylayıcı için C4 Modeli paketinden iki Kişi düğümü, sohbet uygulaması için de bir Konteyner ekleyin.
3. Ajan çalışma ortamı için Temel paketinden bir Çerçeve ekleyin; içine ajan döngüsü için bir Konteyner, koruma mekanizmaları ve çalışma belleği için iki Bileşen düğümü koyun.
4. ML paketinden bir Model ve bir Vektör dizini, araçlar için Stack paketinden üç Servis kartı düğümü içeren ikinci bir Çerçeve ve DevOps paketinden İzler ekleyin.
5. Modelin cevaplarını kesikli, izleme kenarını noktalı çizin ve limitleri içeren, Temel paketinden bir Markdown bloğu ekleyin. Diyagramı sizin yerinize bir ajanın çizmesi için MCP üzerinden yapay zekâ ajanlarıyla diyagram oluşturma yazısına bakın.

Örnek 15 diyagram düğümü kullanıyor ve Free planın sınırları içinde kalıyor.

SSS

Yapay zekâ ajanı ile iş akışı arasındaki fark nedir? Bir iş akışında adımların sırasına sizin kodunuz karar verir ve modeli onların içinde çağırır. Bir ajanda ise bir sonraki adıma ve hangi araçların kullanılacağına, kodunuzun kontrol ettiği bir döngünün içinde model karar verir.

Bir ajan mimarisinde MCP nedir? Model Context Protocol, yapay zekâ uygulamalarını araçlara ve verilere bağlamak için açık bir standarttır. Sistemler MCP sunucuları sunar; ajan çalışma ortamı da onlara istemci olarak bağlanır.

Bir ajanın zararlı eylemlerde bulunmasını nasıl önlerim? Ona yalnızca ihtiyaç duyduğu araçları verin, araçları kullanıcının izinleriyle çalıştırın, bir eşiğin üzerindeki yazmalar için insan onayı isteyin ve tüm araç sonuçlarını ve belgeleri güvenilmeyen veri olarak görün.

Ajanlar bir şeyleri nasıl hatırlar? Bir çalıştırma içinde, her adımda modele gönderilen bağlam aracılığıyla. Çalıştırmalar arasında ise gerektiğinde getirilen saklı bilgi ve bir veritabanında tutulan görev durumu aracılığıyla.

Ajan maliyetlerini nasıl kontrol altında tutarım? Çalışma ortamında görev başına adım, zaman ve token limitleri koyun, kullanıcı başına bütçeler ekleyin ve her çalıştırmayı izleyin ki pahalı kalıplar incelemelerde ortaya çıksın.

Ücretsiz başlayın — tek kullanıcı, kredi kartı gerekmez.