📌 Ders-19 – Canlı Veri ile Beslenen AI Ajanı

Bu derste önceki derslerde hazırladığımız vektörel veritabanını (Pinecone) bir RAG Chatbot içinde kullanmayı öğrendik. Amacımız, öğrencilerin sık soracağı sorulara otomatik yanıt verebilecek, gerektiğinde kendi dokümanlarımızdan destek alan bir müşteri temsilcisi yapay zekâsı oluşturmaktır.

Chatbot Akışının Mantığı

  • Chat Trigger: Kullanıcı bize bir soru yazdığında akış tetiklenir.
  • AI Agent Node: Sisteme yazdığımız özel talimatları (system prompt) uygular ve yanıt üretir.
  • LLM Model: Chat yanıtlarını üreten büyük dil modeli (örneğin GPT-4o-mini).
  • Memory: Sohbetin önceki mesajlarını hatırlayarak bağlamı korur.
  • Pinecone Vector Store: Daha önce yüklediğimiz eğitim dokümanlarını içeren bilgi deposu. AI, gerektiğinde buradan bilgi çekerek cevap verir.

System Prompt

Chatbot’un nasıl davranacağını belirlemek için “system prompt” yazdık. Bu talimatlar, modelin bir müşteri temsilcisi gibi davranmasını sağlar:

Sen The Akademi isimli, Video Eğitimlerin satışının yapıldığı sitenin müşteri temsilcisisin. Adın Sevilay.. 
Bir öğrenci adayı seninle iletişime geçtiğinde önce kendini saygılı bir şekilde tanıt. 
Örneğin: "Merhaba, Ben Sevilay, size nasıl yardımcı olabilirim?" diyebilirsin. 
Her koşulda çok kibar olmalısın. 

Sana bir soru sorulduğunda sana sağlanan konteksten faydalanarak yanıt üret. 
Yanıtını bilemediğin spesifik sorular gelirse basitçe "bu konuda isterseniz hocama danışarak 
size telefon ile geri dönüş yapabilirim" de ve müşteriden telefon bilgisini iste. 

Kontekst dışında alakasız sorular gelirse müşteriye kibarca uyarıda bulun: 
"Burada sadece eğitimlerimiz hakkında bilgi vermek üzere bulunuyorum, eğitimlerimiz ile ilgili 
sorularınız varsa yardımcı olabilirim."

Bu sayede chatbot’un her zaman kibar, yönlendirici ve görevine uygun yanıtlar vermesi sağlanır.

LLM Modeli

  • OpenRouter üzerinden seçilen GPT-4o-mini modeli kullanıldı.
  • Bu model hızlı ve ekonomik olduğu için müşteri destek botları için uygundur.
  • OpenRouter sayesinde ister ücretsiz ister ücretli farklı modelleri de deneyebiliriz.

Memory (Sohbet Geçmişi)

  • Simple Memory seçildi.
  • Son 10 mesaj hatırlanacak şekilde ayarlandı.
  • Böylece chatbot, önceki konuşmaları unutmadan akışı sürdürebilir.

Pinecone ile Bilgi Enjeksiyonu

  • Daha önce yüklediğimiz dokümanlar Pinecone index’inde saklanıyor.
  • AI Agent, soruya yanıt verirken önce Pinecone’a başvuruyor.
  • Örneğin: “Eğitim paketinizde neler var?” → Chatbot yanıtı doğrudan dokümanlardan alır.
  • Bu yöntemle yanıtlar çok daha doğru, güncel ve spesifik olur.

Akışın Çalışma Şekli

  1. Kullanıcı chat üzerinden soru sorar.
  2. AI Agent prompt’u okur, Memory’den bağlamı hatırlar.
  3. Gerekirse Pinecone’daki belgeleri çağırır.
  4. Seçili LLM modeli (GPT-4o-mini) yanıtı üretir.
  5. Kullanıcıya kişiselleştirilmiş, doküman destekli bir cevap gönderilir.

🎯 Bu Dersin Özeti

  • Chatbot’un müşteri temsilcisi gibi davranması için system prompt hazırladınız.
  • GPT-4o-mini modeli ile yanıtların üretilmesini sağladınız.
  • Memory ile sohbet bağlamını korudunuz.
  • Pinecone veritabanını bağlayarak chatbot’un özel bilgilere erişmesini sağladınız.
  • Sonuçta RAG destekli, eğitimler hakkında bilgi verebilen akıllı bir chatbot oluşturuldu.