Fine-Tuning Nedir? Ne Zaman Gerekir, Ne Zaman Gereksiz?

Fine-tuning, hazır bir LLM'i kendi örneklerinizle bir miktar daha eğiterek davranışını şekillendirmektir. Türkçesi ince ayar. Sıfırdan model eğitmekle karıştırılmamalı; onun maliyeti milyonlarca dolarla ölçülür, ince ayar ise çoğu zaman birkaç yüz dolarlık bir iştir.

Ne değiştirir, ne değiştirmez?

İnce ayar modelin nasıl davrandığını değiştirir: üslubunu, çıktı biçimini, belirli bir görevi yapış tarzını. Modele yeni bilgi öğretmenin ise verimsiz ve riskli yoludur.

Bu ayrım en sık yapılan hatanın kaynağıdır. "Şirket dokümanlarımızı modele öğretelim" cümlesi kulağa ince ayar gibi gelir ama doğru cevap neredeyse her zaman RAG mimarisidir. Sebebi basit: doküman değiştiğinde RAG'de veritabanını güncellersiniz, ince ayarda modeli yeniden eğitmeniz gerekir.

Karşılaştırma

Boyut	Fine-tuning	RAG
Amaç	Davranış ve üslup	Bilgi erişimi
Güncelleme	Yeniden eğitim	Veritabanı güncellemesi
Maliyet	Eğitim + barındırma	Depolama + sorgu
Kaynak gösterme	Yapamaz	Yapabilir
Hazırlık	Etiketli örnek seti	Belge parçalama

İkisi rakip değildir. Olgun sistemlerde üslup için ince ayar, güncel bilgi için RAG birlikte kullanılır.

Ne zaman gerçekten gerekir?

Şu üç durumda ince ayar açık kazançtır:

1. Tutarlı özel format: Her çıktının aynı katı yapıda olması gerekiyorsa ve prompt'la bir türlü tutturamıyorsanız.
2. Kurumsal ses tonu: Marka dili, prompt'a sığmayacak kadar incelikliyse.
3. Dar ve tekrar eden görev: Belirli bir sınıflandırma veya dönüştürme işini küçük ve ucuz bir modele öğretip maliyeti düşürmek istiyorsanız.

Üçüncüsü en az konuşulan ama en kârlı olanıdır: büyük modele her seferinde uzun talimat göndermek yerine, küçük modeli o işe özel eğitmek uzun vadede ciddi tasarruf sağlar.

Kaç örnek gerekir?

Sanılandan az. Basit format ve üslup işleri için 50-100 iyi seçilmiş örnek fark yaratır. Kritik olan sayı değil kalitedir: çelişkili örnekler modeli kararsızlaştırır. Örnek setinizde aynı girdiye iki farklı stil cevap varsa, modele ne öğreteceğinizi siz de bilmiyorsunuz demektir.

Önce prompt'u tüketin

İnce ayara geçmeden önce prompt tarafını sonuna kadar kullanın: rol verme, örnekle gösterme (few-shot), format sabitleme. Prompt engineering teknikleri yazısındaki yöntemler çoğu ihtiyacı ince ayara gerek kalmadan karşılar. İnce ayar, prompt'un yetmediği yerde başlar.

Hangi aracın hangi işe uygun olduğuna karar verme yöntemini AI aracı nasıl seçilir yazısında anlattım.

Sıkça sorulan sorular

İnce ayar halüsinasyonu azaltır mı?

Doğrudan azaltmaz, bazen artırır: model kendinden emin konuşmayı öğrenir ama bilgisi güncellenmez. Halüsinasyon için doğru araç kaynağa dayandırmaktır.

Verilerim eğitimde kullanılır mı?

Sağlayıcıya ve plana göre değişir. Hassas veriyle çalışıyorsanız bu soruyu sözleşme aşamasında netleştirin.

Model güncellenince ince ayarım ne olur?

Genelde yeni sürüm için yeniden eğitim gerekir. Bu tekrar eden maliyet, karar verirken hesaba katılmalıdır.

Fine-tuning maliyeti nasıl hesaplanır?

Üç kalem vardır: eğitim (tek seferlik, örnek sayısı ve model büyüklüğüyle orantılı), barındırma (özel modelin çalıştığı sürece devam eden) ve bakım (model güncellendiğinde yeniden eğitim). Genel çerçeve için AI maliyeti nasıl hesaplanır yazısına bakabilirsiniz; küçük/dar görevlerde toplam maliyet birkaç yüz dolar mertebesinde kalabilir.