Kendi Verinizle Çalışan Yapay Zekâ Nasıl Kullanılır?

Yapay zekânın şirketinizin dokümanlarına, ürün bilgisine ve süreçlerine göre cevap vermesi nasıl sağlanır? Kavramlar, yaklaşımlar ve dikkat edilecekler.

Genel yapay zekâ araçlarını deneyen her şirket aynı duvara çarpar: model dünyayı biliyor ama sizi bilmiyor. Ürünlerinizi, fiyat politikanızı, iç süreçlerinizi, geçmiş projelerinizi...

"AI'ı kendi bilgimizle nasıl konuşturur?" sorusu, kurumsal AI'ın asıl sorusudur. Cevabın basitten karmaşığa birkaç katmanı var.

Katman 1: Bağlam vermek (en basit yol)

En temel yöntem, ilgili dokümanı konuşmaya eklemek: sözleşmeyi yükleyip "buna göre cevapla" demek.

Artısı: Sıfır kurulum; bugün başlarsınız.
Eksisi: Her seferinde elle doküman seçmek gerekir; büyük arşivlerde ölçeklenmez.

Küçük ekip ve tekil işler için çoğu zaman bu katman yeterlidir. Atlanıp pahalı çözümlere koşulması ise en yaygın israf.

Katman 2: Bilgi tabanına bağlı AI (RAG yaklaşımı)

Ölçekli çözümün adı teknik literatürde RAG (Retrieval-Augmented Generation). Türkçesi şu: önce bul, sonra cevapla.

Sistem, sorunuzu aldığında önce şirket arşivinizde (dokümanlar, yardım makaleleri, geçmiş kayıtlar) ilgili parçaları bulur; sonra modele "bu kaynaklara dayanarak cevapla" der. Model ezberden değil, o an önüne konan güncel bilgiden konuşur.

Bu yaklaşımın üç büyük değeri:

Güncellik: Bilgi değişince doküman güncellenir; modeli yeniden eğitmek gerekmez.
Kaynak gösterme: "Bu cevap şu dokümanın şu bölümünden" denebilir; bu da güven ve denetim sağlar.
Halüsinasyon kontrolü: "Yalnızca verilen kaynaktan cevapla, yoksa bilmiyorum de" kuralı, uydurma alanını ciddi daraltır.

Katman 3: İnce ayar (fine-tuning), çoğu şirketin ihtiyacı DEĞİL

Modelin kendisini kendi verinizle yeniden eğitmek de mümkün. Ama yaygın yanılgının aksine ince ayar, "şirket bilgisi öğretme" aracı değil; üslup ve davranış öğretme aracıdır (belirli format, ton, özel görev tipi).

Bilgi için yanlış araçtır çünkü: pahalıdır, bilgi güncellenince tekrarlanması gerekir ve kaynak gösteremez. Pratik kural: bilgiyi RAG'e, üslubu ince ayara sorun. Çoğu şirketin işi zaten ikinci katmanda biter. Bu katmanın kendi ayrı mantığı için fine-tuning nedir yazısına bakabilirsiniz.

Katman	Ne öğretir	Güncelleme	Kaynak gösterir mi	Maliyet
Bağlam vermek	Tek seferlik bilgi	Elle, her seferinde	Evet (verdiğiniz doküman)	Yok
RAG	Güncel, arşiv bilgisi	Dokümanı güncellersiniz	Evet	Orta
İnce ayar	Üslup, davranış	Yeniden eğitim gerekir	Hayır	Yüksek

Başlamadan önce: asıl iş veri hijyeni

Tecrübeyle sabit en önemli gerçek: AI, arşivinizin kalitesi kadar akıllıdır.

Çelişen iki sürüm dokümanı, güncelliğini yitirmiş fiyat listesi, "herkesin bildiği ama yazılmamış" kurallar... Bunlar insanken idare edilir; AI'a bağlanınca sistemli yanlış cevap üretir. Bu yüzden sıralama şudur:

Hangi soruların cevaplanmasını istiyorsunuz? (Kullanım senaryoları)
O cevapların kaynağı hangi dokümanlar? Güncel mi, tekil mi, sahipli mi?
Erişim sınırları ne? (Maaş dokümanına kim sorabilmeli?)

AI projesi gibi görünen işlerin yarısı, aslında bilgi yönetimi projesidir.

Bu yaklaşımın teknik adı ve çalışma mantığı için RAG nedir yazısına bakabilirsiniz.

Sık sorulan sorular

Verilerimiz modele "öğretilmiş" olur mu, dışarı sızar mı?

Kurumsal katman ürünlerinde standart taahhüt, verinizin genel model eğitiminde kullanılmamasıdır. Ama bu bir varsayılan değil, sözleşme maddesi; kontrol edin. Hassas veri için erişim sınırları ve yerinde/özel bulut seçenekleri ayrıca değerlendirilir. Konunun genel çerçevesi için yapay zekâ veri gizliliği yazısına bakabilirsiniz.

Küçük bir şirket bunu kurabilir mi?

Bugün evet: hazır "bilgi tabanınıza bağlanan asistan" ürünleri, teknik ekip olmadan makul kurulum sunuyor. Kriterler için araç seçimi rehberimize bakın; özellikle veri politikası ve çıkış kapısı maddeleri burada kritik.

İlk pilot ne olmalı?

Sık sorulan, cevabı dokümanlarda var olan, hata maliyeti düşük bir alan: iç yardım masası ya da ürün SSS'i. Hukuki taahhüt üreten alanlarla başlamayın.

RAG kurmanın maliyeti nedir?

İki bileşenden oluşur: arşivi hazırlama/temizleme (çoğu zaman en pahalı ve en çok zaman alan kısım) ve sistemin çalışma maliyeti (her soru için arama + model çağrısı). Genel AI maliyet mantığı burada da geçerli: soru hacmi arttıkça birim maliyeti düşürmek öncelik kazanır.

RAG mı fine-tuning mi, hangisiyle başlamalı?

Neredeyse her zaman RAG. Fine-tuning'e geçiş, RAG'in gerçekten yetmediği, üslup/davranış sorununun ölçülebilir olduğu nokta kanıtlandığında düşünülmeli; baştan fine-tuning'e atlamak, çoğu zaman gereksiz maliyet ve bakım yüküdür.

Bu rehber, AI destekli ürün ve bilgi sistemleri üzerine çalışmalarımdan derlenmiştir.