AI Assistant Nedir? Ne İşe Yarar ve Nasıl Yapılır?
AI Assistant (AI asistan), bir görevi insan yerine veya insanla birlikte yürüten yapay zekâ arayüzüdür. Sohbet eder, belgeye bakar, araç çağırır, özet çıkarır. Chatbot’tan farkı “selamlaşmak” değil; iş bitirmektir.
Bu yazıda AI assistant nedir, ne işe yarar, chatbot / copilot / agent ayrımı nedir ve sıfırdan nasıl kurulur onu netleştiriyorum. Kurumsal tarafta çoğu asistanın omurgası RAG + LLM’dir; gizlilik isteyenlerde yol Private AI / Local LLM’e çıkar.
AI Assistant Nedir?
AI assistant, kullanıcının doğal dilde verdiği isteği anlayan, gerektiğinde dış bilgiye veya araçlara bakan ve sonuç üreten yazılımdır. Model tek başına asistan değildir. Asistan, modelin etrafına örülen üründür:
- LLM: dili anlar, cevap üretir
- Bellek / bağlam: sohbet geçmişi, kullanıcı profili, sistem talimatı
- Bilgi katmanı (çoğu kurumda RAG): PDF, wiki, ticket, kod deposu
- Araçlar (tools): arama, CRM kaydı, e-posta, SQL, takvim
- Arayüz: web chat, Slack, Teams, IDE eklentisi, telefon botu
ChatGPT bir genel amaçlı asistan ürünüdür. Sizin “şirket AI asistanınız” ise çoğu zaman dar kapsamlıdır: insan kaynakları soruları, satış teklif özeti, destek ticket sınıflandırma, iç doküman Q&A.
AI Assistant Ne İşe Yarar?
İş değeri “havalı sohbet”te değil, tekrarlayan bilgi işini kısaltmadadır. Sahada en çok tutan kullanım alanları:
| Alan | Asistan ne yapar? | Ölçülebilir kazanım |
|---|---|---|
| İç doküman Q&A | Politika, prosedür, teknik dökümana soru sorar | Arama süresi, “kime sorayım?” maliyeti |
| Destek / IT helpdesk | Ticket özeti, çözüm önerisi, bilinen hata eşlemesi | İlk yanıt süresi, L1 çözüm oranı |
| Satış / teklif | RFP özeti, rakip karşılaştırma, e-posta taslağı | Teklif hazırlama süresi |
| Yazılım geliştirme | Kod açıklama, test iskeleti, PR özeti (copilot) | Onboarding, review hızı |
| Operasyon | Log/özet, runbook adımları, alarm yorumu | MTTR, nöbet yükü |
Asistanın işe yaramadığı yer de nettir: doğrulanmamış hukuki karar, tek başına fatura onayı, “hallüsinasyonu kabul edilemez” kritik işlem. Oralarda insan onayı (human-in-the-loop) şarttır.
Chatbot, Copilot, Agent: Hangisi AI Assistant?
Pazarlama hepsine “AI assistant” der. Teknik ayrım şöyle:
| Tür | Davranış | Örnek |
|---|---|---|
| Chatbot | Soru-cevap; çoğu zaman sabit akış veya basit LLM | SSS botu |
| Copilot | İnsan yanına oturur; önerir, taslak üretir; son kararı insan verir | IDE / Office copilot |
| Agent | Hedefe ulaşmak için adım planlar, araç çağırır, sonucu doğrular | “Bu ticket’ı araştır, benzer case bul, taslak cevap yaz” |
Pratik tavsiye: ilk sürümde agent hayali kurmayın. Önce iyi bir RAG’li Q&A asistanı kurun. Belge kalitesi ve değerlendirme oturmadan tool-calling karmaşası sadece gürültü üretir.
AI Assistant Nasıl Yapılır? (Pratik Mimari)
Kurumsal bir AI asistanı genelde şu boru hattıdır:
Kullanıcı sorusu
↓
Sistem prompt + sohbet geçmişi
↓
(isteğe bağlı) Sorgu yeniden yazma
↓
Retrieval: embedding + vector / keyword arama
↓
İlgili parçalar (chunk) seçilir
↓
LLM: parçalar + soru → cevap
↓
(isteğe bağlı) Araç çağrısı / kaynak dipnotu
↓
Arayüzde gösterim + log / feedback
1. Kapsamı tek cümlede kilitleyin
“Her şeyi bilen şirket asistanı” diye başlamayın. Örnek iyi kapsam: “İK politikaları ve izin prosedürü hakkında, yalnızca onaylı PDF’lerden cevap ver; bilmiyorsa bilmiyorum de.”
Kapsam net değilse RAG çöpe döner. Model uydurmaz; siz yanlış belgeyi verirsiniz, o da yanlıştan güvenle konuşur.
2. Veriyi temizleyin
Asistanın kalitesi %70 veri hazırlığındadır. PDF tarama, başlık kaybı, tablo dağılması, eski prosedürün indekste kalması… Bunlar model seçiminden daha çok can yakar. Dokümanı LLM’e hazırlama tarafını Docling yazısında, Türkçe RAG kurulumunu şirket dokümanı yazısında anlatmıştım.
3. Retrieval’i ciddiye alın
Chunk boyutu, overlap, hybrid search (BM25 + vektör), rerank. “Embedding attım bitti” çoğu prod’da yetmez. Yanlış parça gelince en iyi model de yanlış cevaplar.
4. Modeli işe göre seçin
- Bulut API: hızlı çıkış, düşük ops; veri sınıflandırması ve sözleşme şart
- Private AI / Local LLM: veri dışarı çıkmasın diyorsanız Ollama / vLLM hattı
- Serving: demoda Ollama yeter; üretimde trafik varsa vLLM veya benzeri serving katmanı
5. Ürün katmanını unutmayın
İyi asistan sadece model çağrısı değildir:
- Kaynak göster (hangi PDF, hangi sayfa)
- “Bilmiyorum” demeyi sistem prompt’a yaz
- Rate limit, auth, tenant ayrımı
- Kullanıcı geri bildirimi (👍/👎) ve hatalı cevap arşivi
- PII maskeleme ve erişim kontrolü (herkes her belgeyi görmesin)
6. Ölçmeden canlıya çıkmayın
En azından küçük bir altın set (50–100 soru) hazırlayın:
- Cevap doğru mu?
- Doğru belgeye dayandı mı?
- Uydurma var mı?
- Reddetmesi gereken soruyu reddetti mi?
Bu set yoksa “bana iyi geliyor” ile prod’a çıkmış olursunuz.
.NET Tarafında Tipik İskelet
Backend’i ASP.NET Core olan ekiplerde asistan çoğu zaman şöyle oturur:
ASP.NET Core API
├─ ChatController (SSE / WebSocket)
├─ AssistantService
│ ├─ PromptBuilder
│ ├─ Retriever (vector DB)
│ └─ LlmClient (OpenAI uyumlu / Ollama / Azure OpenAI)
├─ IngestWorker (PDF → chunk → embed)
└─ AuditLog + Feedback
OpenAI uyumlu API konuşan bir client ile hem bulut modeli hem Ollama’yı aynı arayüzden sürmek mümkündür. Asıl iş LLM client’ta değil; ingest, yetki ve değerlendirmededir.
Sık Yapılan Hatalar
- Tek PDF ile demo yapıp prod sanmak — 200 dağınık SharePoint dosyasında kırılır.
- Kaynak göstermemek — kullanıcı doğrulayamaz; güven bitince asistan da biter.
- Her soruya cevap zorlamak — bilmediğini söylemeyen sistem tehlikelidir.
- Eski belgeyi temizlememek — indeks çöpse cevap da çöptür.
- Agent’e erken geçmek — Q&A oturmadan tool zinciri yangın çıkarır.
Ne Zaman Private AI, Ne Zaman Bulut?
Kişisel veri, müşteri sözleşmesi, kaynak kod, henüz kamuoyuna açılmamış finansal rakam → önce sınıflandırma, sonra mimari. Bu sınıfta Private AI / on-prem veya en azından sıkı VPC + sözleşme gerekir. Genel bilgi, marketing metni, iç eğitim özeti → bulut API ile hız kazanmak mantıklı olabilir.
Ayrımı Private AI yazısında açmıştım; serving seçimini Ollama / vLLM karşılaştırmasında yazdım.
Sık Sorulan Sorular
AI assistant ile chatbot aynı şey mi?
Hayır. Chatbot çoğunlukla soru-cevap arayüzüdür. AI assistant ise bağlam, belge ve araçlarla iş bitirmeyi hedefler. Her assistant bir sohbet arayüzüne sahip olabilir; her chatbot assistant değildir.
AI assistant yapmak için mutlaka RAG gerekir mi?
Genel sohbet için hayır. Şirket dokümanına dayanan asistan için evet veya eşdeğeri (CAG, seçilmiş context, fine-tune) gerekir. Üretimde en yaygın ve bakımı yapılabilir yol RAG’dir.
AI assistant kaç günde yapılır?
Dar kapsaklı bir iç Q&A demosu günler içinde çıkar. Güvenilir prod (yetki, ingest, değerlendirme, izleme) haftalar / aylar sürer. Süre modeli indirme süresinden değil, veri ve süreç olgunluğundan uzar.
Küçük dil modeli ile asistan olur mu?
Olur; özellikle sınıflandırma, kısa özet, tool-routing için. Uzun hukuki belge analizi veya karmaşık Türkçe muhakeme için model boyutu ve retrieval kalitesi birlikte düşünülmelidir.
AI assistant güvenli mi?
Kendi başına güvenli değildir. Prompt injection, veri sızıntısı, yetkisiz belge erişimi gerçek risklerdir. Kaynak kontrolü, çıktı filtresi, audit log ve rol bazlı erişim olmadan “güvenli asistan” iddiası boştur.
Sonuç
AI assistant, LLM’i ürünleştirmektir. Ne işe yaradığı kapsamla, nasıl yapıldığı ise veri + retrieval + ölçümle belirlenir. İlk adım: tek bir iş problemini seçin, 50 soruluk altın set çıkarın, RAG’li dar bir asistan kurun, kaynak gösterin, bilmiyorum dedirtin. Sonra genişletin.
İlgili yazılar: Vector Database ve RAG, Türkçe RAG, Private AI / Local LLM, RAG / CAG / KAG.