Bellek bir kayıt olarak, önbellek değil
Bir önbellek isabet oranı için optimize edilir. Bir kayıt ise hesap verebilirlik için optimize edilir. Çoğu ajan bellek sistemi önbellek gibi inşa edilir ve sonra kayıt gibi davranması beklenir; bu yüzden hiç geçmek üzere tasarlanmadıkları denetimlerde başarısız olurlar.
Bir ajanın sakladığı her öğe, yazılmadan önce dört alan taşımalıdır: bir kaynak (hangi etkileşim, belge veya araç çağrısı onu üretti), bir zaman damgası (gömüldüğü an değil, gözlemlendiği an), bir sahip (hangi kullanıcı, kiracı veya hizmet ondan sorumlu) ve bir saklama nedeni (bilgilendirmesi beklenen belirli gelecek karar). Bu dördü olmadan depo, savunulabilir bir anlamı olmayan bir vektör yığınıdır. Bir tercihi döndüren bir retrieval, tercihin nereden geldiğini veya hâlâ geçerli olup olmadığını söyleyemiyorsanız incelemede işe yaramaz.
Özetler kaynağı en hızlı kaybeder. Uzun bir epizodik iz bir paragrafa sıkıştırıldığında, sıkıştırma adımı orijinal turlara geri giden bağlantıları atar. Özet, en çok geri getirilmesi muhtemel ve sonradan savunulması en zor olan eserdir, çünkü iddialarının kanıtı çoktan atılmıştır. Bu nedenle bir özet, geldiği izin yerine geçen bir şey değil, kendi kaynak işaretçisine sahip türetilmiş bir kayıt olarak ele alınmalıdır. İşaretçi eksikse, özet bellek değildir; atfedilmemiş bir iddiadır.
Pratikte saklama politikası
Yapılması gereken ilk ayrım, epizodik izler ile kalıcı gerçekler arasındadır. Epizodik izler bir çalıştırma sırasında olanlardır: araç çağrıları, ara akıl yürütme, getirilen belgeler, kısmi sonuçlar. Kalıcı gerçekler ise çalıştırmadan sonra hayatta kalması gerekenlerdir: onaylanmış bir tercih, çözülmüş bir tanımlayıcı, uygulanmış ve kabul edilmiş bir politika. Uzun vadeli belleğe yalnızca ikinci kategori aittir. Diğer her şey oturuma kapsamlanmalı ve oturum kapandığında atılmalıdır.
Varsayılan olarak sona erme, inceleme ile terfi. Yeni öğeler kısa bir yaşam süresi ve düşük bir güven ağırlığıyla girer. Kalıcı statüye terfi otomatik değil, açık bir olaydır. Pratikte bu, şuna benzeyen bir yazma yolu anlamına gelir:
memory.write(
key="shipping.preference",
value="carrier_a",
source="interaction:4821",
observed_at="2025-01-14T09:12:00Z",
owner="tenant:acme",
reason="applied in checkout flow",
ttl="P30D",
trust="provisional",
)
trust alanı kaldıraçtır. Geçici öğeler bağlam için geri getirilebilir ancak geri döndürülemez kararlar almak için kullanılmamalıdır. confirmed statüsüne terfi, ikinci bir gözlem veya açık bir kullanıcı eylemi gerektirir ve terfinin kendisi kaydedilir. Dürüst ödünleşim budur: daha katı terfi kuralları, ajanın hatırlıyor görünme oranını düşürür, çünkü daha az öğe eşiği geçer. Alternatif ise hiç doğru olmamış şeyleri kendinden emin bir şekilde hatırlayan bir depodur.
Silme, yalnızca birincil depoya değil, türetilmiş özetlere ve embedding'lere de yayılmalıdır. Çoğu uygulamanın sızdığı yer burasıdır. Bir kayıt anahtar-değer deposundan silinir, ancak onu alıntılayan özet kalır ve anlamını kodlayan embedding vektör dizininde kalır. Ajanın bakış açısından gerçek hâlâ mevcuttur, çünkü retrieval türetilmiş eserler üzerinde çalışır. Yayılma birinci sınıf bir işlem olmalıdır: bir kayıt silindiğinde, ona atıfta bulunan her özet geçersiz kılınır ve ondan türetilen her embedding kaldırılır veya yeniden hesaplanır. Bu olmadan silme, bir garanti değil bir jesttir.
Eski tercihlerin yeni bağlamlara kendinden emin bir şekilde uygulanması
Bir bağlamda gözlemlenen bir tercih, tüm bağlamlar için bir politika değildir. Bir kullanıcının kısa yanıtları tercih ettiğini hatırlayan bir ajan, bu tercihi bütünlüğün önemli olduğu bir hukuki incelemeye uygulayabilir. Başarısızlık, belleğin yanlış olması değil; belleğin kapsamının olmamasıdır. Kaynak burada yardımcı olur, çünkü kaynak ve zaman damgası, retrieval katmanının tercihin benzer koşullar altında oluşup oluşmadığını sormasına olanak tanır. Kapsamı olmayan bir bellek her yerde uygulanı
Hafifletme, her kalıcı gerçeğe bir kapsam eklemektir: alan, görev türü ve gözlemlendiği koşullar. Retrieval daha sonra alaka düzeyine göre sıralamadan önce kapsama göre filtreler. Bu, geri getirmeyi azaltır ve bu maliyet gerçektir. Kapsamlı belleğe sahip bir ajan, bazen bir insanın doğru şekilde genelleştireceği bir tercihi uygulamayı başaramaz. Alternatif olan kapsamsız bellek ise, ajanın tam güveniyle geldikleri için tespit edilmesi daha zor hatalar üretir.
Kiracılar arası sızıntı
Tek bir bellek ad alanı birçok kullanıcıya hizmet ettiğinde, anlamsal benzerliğe göre retrieval eninde sonunda bir kiracının verisini diğerine gösterecektir. Bu ince bir başarısızlık değil; yapısaldır. Benzerlik araması, kiracılık aramadan önce değil sonra uygulanmadıkça kiracılık kavramına sahip değildir. Sonuçları retrieval sonrası filtrelemek yeterli değildir, çünkü embedding dizini içeriği zaten sıralama adımına maruz bırakmış olabilir ve yanlış katmanda uygulanan bir filtrenin bir refactor'da atlanması kolaydır.
İşe yarayan mekanizma, depolama katmanında ad alanı izolasyonudur; kiracılık sorgu üzerinde bir yüklem değil, anahtarın bir parçasıdır. Her okuma ve yazma bir kiracı bölümüne kapsamlanır ve bölümler arası okumalar gelenek gereği değil, yapı gereği imkânsızdır. Bunu işletmek daha pahalıdır, çünkü dizin sayısını çoğaltır ve küresel analitiği zorlaştırır. Ödünleşim budur: izolasyon operasyonel basitliğe mal olur, alternatif ise doğruluğa mal olur.
Bunun ajan tasarımı için anlamı
Bellek, bir ajana eklediğiniz bir özellik değil; uyguladığınız bir politikadır. Politika, saklanan her öğe için nereden geldiğini, kime ait olduğunu, neden tutulduğunu ve ne zaman sona ereceğini yanıtlamalıdır. Özetler ve embedding'ler türetilmiş kayıtlardır ve kaynaklarının yükümlülüklerini devralır. Silme, yalnızca her türetilmiş biçime yayılırsa anlamlıdır.
Pratik sonuç, bellek sistemlerinin birikim etrafında değil, silme ve inceleme etrafında tasarlanması gerektiğidir. Daha az hatırlayan ama hatırladığını gerekçelendirebilen bir ajan, üretimde her şeyi hatırlayan ve hiçbir şeyi açıklayamayan bir ajandan daha faydalıdır. Denetim izi bir ek yük değil; belleği üzerine hareket edilecek kadar güvenilir kılan şeydir.