LLM Nedir? Büyük Dil Modelleri Nasıl Çalışır?

LLM, açılımıyla Large Language Model, yani büyük dil modeli. ChatGPT, Claude ve Gemini gibi araçların arkasındaki teknolojinin adı. Bu yazı, matematiğe girmeden nasıl çalıştığını anlatıyor.

Temel fikir: bir sonraki kelimeyi tahmin etmek

LLM'in yaptığı iş tek cümleyle özetlenebilir: verilen metnin devamında hangi kelimenin gelmesi gerektiğini tahmin etmek. "Bugün hava çok" dediğinizde model, eğitim verisinde bu ifadenin ardından en sık ne geldiğine bakarak "güzel", "sıcak", "kapalı" gibi adaylar arasından seçim yapar.

Bu kadar basit bir mekanizmanın nasıl olup da kod yazdığını, özet çıkardığını ve akıl yürütür göründüğünü anlamak zor gelebilir. Cevap ölçekte: yeterince büyük veriyle ve yeterince çok parametreyle eğitildiğinde, kelime tahmini dilin altındaki yapıları (dilbilgisi, mantık kalıpları, olgular arası ilişkiler) örtük olarak öğrenir.

Parametre ne demek?

Parametre, modelin eğitim sırasında ayarladığı sayısal katsayılardır; öğrendiği her şey bu sayıların içinde kodludur. Modern modeller yüz milyarlarca parametreye sahiptir. Daha çok parametre genelde daha yetenekli model demektir ama doğrusal bir ilişki değildir; veri kalitesi ve eğitim yöntemi en az büyüklük kadar belirleyicidir.

Token: modelin gördüğü birim

Model kelimeleri değil token'ları görür; token, kelimeden küçük parçalardır. Türkçede eklerin çokluğu nedeniyle bir kelime birden fazla token'a bölünebilir. Bu ayrıntı maliyet ve sınırlar açısından önemlidir; token ve bağlam penceresi yazısında ayrıntılandırdım.

Nasıl eğitilir?

Kabaca üç aşama vardır:

1. Ön eğitim: Devasa metin yığını üzerinde kelime tahmini yapılarak dil öğrenilir. Pahalı ve uzun aşama budur.
2. İnce ayar: Model, talimat takip etmeyi ve belirli görevleri öğrenir. Ayrıntı için fine-tuning yazısı.
3. İnsan geri bildirimiyle hizalama: İnsanların tercih ettiği cevaplar ödüllendirilerek modelin üslubu ve güvenliği şekillenir.

Neyi iyi yapar, neyi yapamaz?

İyi yaptıkları: dil dönüştürme (özet, çeviri, yeniden yazım), kalıp tanıma, taslak üretme, kod yazma.

Doğal sınırları: eğitim verisi bir tarihte donmuştur, sizin özel verinizi bilmez (RAG bunun çözümüdür) ve bilmediğini bilmez. Bu sonuncusu, halüsinasyon denen davranışın kaynağıdır: model boşluğu sessizce değil, akıcı bir tahminle doldurur.

Modelden iyi sonuç almanın girdi tarafı ayrı bir konudur; temeli prompt nedir yazısında, ileri teknikleri prompt engineering yazısında topladım.

LLM tek başına sadece cevap üretir; bir hedefe göre araç kullanıp adım planlaması için AI agent mimarisi, kendi verinizle çalışması için RAG gerekir. LLM, bunların hepsinin çekirdek motorudur.

Sıkça sorulan sorular

LLM düşünüyor mu?

Felsefi tartışma bir yana, mekanik olarak yaptığı istatistiksel tahmindir. Ama çıktının pratikte akıl yürütmeye benzemesi, çoğu iş için "gerçekten düşünüyor mu" sorusunu ikincil kılar.

Hangi model daha iyi?

Göreve göre değişir. Kod, uzun metin, hız ve maliyet ayrı ayrı değerlendirilir. Doğru soru "en iyi model hangisi" değil, "bu iş için yeterli en ucuz model hangisi" olmalıdır.

Türkçede İngilizce kadar iyi mi?

Fark ciddi kapandı ama tamamen kapanmadı; eğitim verisindeki Türkçe payı daha küçük. Yerel bağlam gerektiren konularda hata payı yüksektir.

LLM ile AI agent farkı ne?

LLM bir modeldir: girdi alır, metin üretir. Agent ise bu modelin etrafına araç kullanma, planlama ve adım tekrarlama katmanları eklenmiş bir sistemdir. Her agent bir LLM kullanır ama her LLM kullanımı agent değildir.