Ajanın kısa süreli bellek ve uzun süreli bellek ayrımı

Ajanın kısa süreli bellek ve uzun süreli bellek ayrımı

Yapay zeka ajanlarıyla sohbet ederken “Az önce söylediğimi neden hatırlamıyor?” diye sorduysanız, aslında ajanın kısa süreli bellek ve uzun süreli bellek ayrımı konusunun tam ortasındasınız. Bu iki bellek türü, bir yapay zeka ajanının ne kadar “akıllı” ve tutarlı davrandığını doğrudan belirliyor.

Kısa Tanım: Kısa süreli bellek, ajanın aktif konuşma sırasında tuttuğu geçici bilgidir. Uzun süreli bellek ise oturumlar arası kalıcı olarak saklanan, gerektiğinde geri çağrılan bilgi deposudur.

Kısa Süreli Bellek Nedir?

Kısa süreli bellek (short-term memory), bir yapay zeka ajanının “şu anki konuşma” boyunca aktif tuttuğu bilgi havuzudur. Bunu bir masa üzerindeki çalışma alanı gibi düşünebilirsiniz: Üzerinde çalıştığınız belgeler, notlar ve araçlar orada durur, ama masa sınırlıdır.

LLM tabanlı ajanlarda bu bellek genellikle context window (bağlam penceresi) olarak adlandırılır. GPT-4 için bu pencere yaklaşık 128.000 token, Claude için 200.000 token civarındadır. Pencere dolduğunda en eski bilgiler silinmeye başlar.

Kilit Çıkarım: Kısa süreli bellek hızlıdır ama geçicidir. Oturum kapandığında veya bağlam penceresi aşıldığında bilgi kaybolur.

Kısa Süreli Belleğin Pratik Sınırları

  • Token limiti: Her model farklı bir sınıra sahip. Sınır aşıldığında ajan “unutmaya” başlar.
  • Oturum bağımlılığı: Tarayıcıyı kapatıp açtığınızda sohbet geçmişi sıfırlanabilir.
  • Maliyet: Daha uzun bağlam = daha yüksek API maliyeti.

Uzun Süreli Bellek Nedir?

Uzun Süreli Bellek Nedir?

Uzun süreli bellek (long-term memory), ajanın oturumlar arasında bilgi saklamasını sağlayan kalıcı depolama mekanizmasıdır. İnsan beynindeki hipokampüs benzeri bir işlev görür: Önemli bilgileri kodlar, depolar ve gerektiğinde geri çağırır.

Teknik açıdan bu genellikle vektör veritabanları (Pinecone, Weaviate, ChromaDB) veya geleneksel veritabanları aracılığıyla sağlanır. Ajan, kullanıcı hakkında öğrendiği bilgileri—tercihler, geçmiş kararlar, önemli tarihler—bu depolara yazar.

2024-2025 döneminde Mem0 gibi araçlar, bu bellek yönetimini otomatikleştiren çözümler sunmaya başladı. Araştırmalar, hibrit bellek mimarilerinin ajanların uzun vadeli muhakeme kapasitesini önemli ölçüde artırdığını gösteriyor.

Uzun Süreli Bellek Türleri

Bellek Türü Ne Saklar? Örnek Kullanım
Episodik Bellek Geçmiş etkileşimler, olaylar “Geçen hafta X projesinden bahsetmiştik”
Semantik Bellek Genel bilgiler, kavramlar Kullanıcının sektörü, uzmanlık alanı
Prosedürel Bellek Nasıl yapılır bilgisi Kullanıcının tercih ettiği kod formatı

İki Bellek Türü Nasıl Birlikte Çalışır?

Modern yapay zeka ajanları bu iki bellek türünü hibrit bir mimariyle birleştirir. Süreç kabaca şöyle işler:

  1. Kullanıcı bir mesaj gönderir.
  2. Ajan, mesajı kısa süreli belleğe (context window) ekler.
  3. Gerekirse uzun süreli bellekten ilgili bilgileri çeker (retrieval).
  4. Çekilen bilgiler kısa süreli belleğe enjekte edilir.
  5. Ajan, zenginleştirilmiş bağlamla yanıt üretir.

Pro İpucu: RAG (Retrieval-Augmented Generation) sistemleri tam olarak bu prensibi kullanır. Uzun süreli bellekteki dokümanlar, sorguya göre filtrelenir ve kısa süreli belleğe aktarılır.

Nerede Kullanılır?

Bellek ayrımının kritik olduğu senaryolar:

  • Kişisel asistanlar: Kullanıcı tercihlerini hatırlama (diyet kısıtlamaları, çalışma saatleri).
  • Müşteri destek botları: Önceki şikayetleri ve çözümleri takip etme.
  • Kod asistanları: Proje yapısını ve kodlama stilini öğrenme.
  • Sağlık uygulamaları: Hasta geçmişini oturumlar arası koruma.

Basit Örnek

Diyelim ki bir yapay zeka asistanına “Kahve siparişimi ver” dediniz. Kısa süreli bellekle çalışan bir ajan her seferinde “Nasıl bir kahve istersiniz?” diye sorar. Uzun süreli belleği olan bir ajan ise “Her zamanki gibi sütlü latte mi?” diyebilir—çünkü tercihlerinizi hatırlar.

Doğru Bilinen Yanlışlar

Doğru Bilinen Yanlışlar
  • “ChatGPT her şeyi hatırlar”: Hayır. Standart oturumlarda yalnızca kısa süreli bellek aktiftir. Memory özelliği açıkça etkinleştirilmedikçe bilgiler kalıcı değildir.
  • “Daha büyük context window = uzun süreli bellek”: Yanlış. 200K token bile tek bir oturumla sınırlıdır. Oturum kapandığında sıfırlanır.
  • “Uzun süreli bellek her zaman iyidir”: Gizlilik riskleri var. Kullanıcı verileri kalıcı olarak saklandığında KVKK/GDPR uyumluluğu kritik hale gelir.

Maliyet ve Performans Dengesi

Faktör Kısa Süreli Bellek Uzun Süreli Bellek
Hız Çok hızlı (RAM’de) Görece yavaş (veritabanı sorgusu)
Maliyet Token başına ücret Depolama + sorgu maliyeti
Kalıcılık Oturum sonunda silinir Süresiz saklanabilir
Gizlilik Riski Düşük Yüksek (veri ihlali potansiyeli)

Sıkça Sorulan Sorular

Yapay zeka ajanları insan beyni gibi mi çalışır?

Benzer kavramlar kullanılsa da mekanizma farklıdır. İnsan belleği nöroplastisite ile sürekli yeniden şekillenirken, yapay zeka bellekleri açıkça programlanmış kurallara göre çalışır.

Hangi uygulamalar uzun süreli bellek kullanıyor?

Hangi uygulamalar uzun süreli bellek kullanıyor?

ChatGPT’nin “Memory” özelliği, Claude’un “Projects” yapısı ve özelleştirilmiş kurumsal çözümler bu kategoriye girer. Mem0 gibi açık kaynak araçlar da geliştiricilere bu imkânı sunuyor.

Uzun süreli bellek güvenli mi?

Uygulamaya bağlı. Veriler şifrelenmiş ve erişim kontrollü tutuluyorsa risk azalır. Ancak hassas bilgilerin (sağlık, finans) saklanması ek güvenlik önlemleri gerektirir.

Context window dolduğunda ne olur?

Çoğu sistem FIFO (ilk giren ilk çıkar) mantığıyla en eski mesajları siler. Bazı gelişmiş sistemler ise önem skoruna göre hangi bilgilerin tutulacağına karar verir.

Sonuç

Yapay zeka ajanlarında kısa süreli ve uzun süreli bellek ayrımı, ajanın ne kadar tutarlı, kişiselleştirilmiş ve verimli çalışacağını belirleyen temel mimari karardır. Kısa süreli bellek anlık bağlamı yönetirken, uzun süreli bellek deneyimlerin birikimini sağlar.

Bir ajan geliştiriyorsanız veya kullanıyorsanız şu soruları sorun: Kullanıcı bilgilerinin ne kadarı kalıcı olmalı? Gizlilik gereksinimleri neler? Maliyet-performans dengesi nerede kurulmalı? Bu soruların yanıtları, doğru bellek mimarisini seçmenize yardımcı olacaktır.

Barış avatarı
Dijitalportal’da teknoloji gündemi ve pratik rehberler üzerine yazar. Boş zamanlarında yeni uygulamaları kurcalamayı ve “en basit anlatım”la anlatılabilecek yolları toplamayı sever.