İnce ayar ve istem: modelde ikisi aynı kapı değil

Bir modele daha iyi cevap verdirmenin iki sık yolu vardır. Biri, soruyu ve bağlamı değiştirmektir; buna istem denir. Öteki, modelin ağırlıklarını ek bir veri kümesiyle yeniden oynatmaktır; buna ince ayar denir. İkisi de çıktıyı değiştirir. Aynı işi görmezler. İstem, o oturumun metnini kurar. İnce ayar, modelin bir sonraki birçok oturumda taşıyacağı eğilimi değiştirir.

İstem neyi değiştirir, neyi değiştirmez

İstem, modele verilen yazıdır. Görev, örnek, üslup ve yasaklar orada durur. İyi kurulmuş bir istem, dağınık bir cevabı daraltabilir. Modelin bilmediği bir olguyu bildirmesini sağlayamaz. Bilmediği yerde akıcı bir boşluk doldurursa bu, istemin gücü değil, modelin alışkanlığıdır. Yazarken düşülen hataların bir kısmı da budur: https://biliminizi.com/yapay-zeka-ile-yazi-yazarken-hatalar.

İstem ucuz ve geri alınabilir görünür. Sohbet bitince o bağlam gider. Ürün, sohbeti saklıyorsa bağlam bir süre daha durabilir; ama modelin çekirdeği değişmemiştir. Yarın aynı soruyu kuru sorarsanız eski üslup kaybolabilir. Bu, istemin zayıflığı değil, yerinin belli olmasıdır.

İnce ayar ağırlığa dokunur

İnce ayarda model, dar bir örnek kümesi üzerinde ek eğitim görür. Amaç, belirli bir biçimi, terim dağarcığını veya görevi daha az tarif ile yapar hâle gelmektir. Müşteri destek yanıtı, laboratuvar notunun özeti veya belirli bir şablon buna örnektir. Ağırlık değişince davranış, tek bir sohbetin dışına taşar.

Bedeli de vardır. Dar küme, modelin genel bilgisinin bir kısmını ezebilir. Buna bazen unutma denir. Küme hatalı örnekler taşıyorsa model o hatayı daha sık tekrarlar. İnce ayar, doğruluk satın almaz. Satın aldığı şey, gördüğü örneklere benzerliktir. Örnekler yanlıysa benzerlik de yanlı olur.

Üçüncü kapı: belgeyi o an getirmek

Bir de ağırlığı değiştirmeyen, istemin içine belge yapıştıran yol vardır. Soruya yakın dokümanlar bulunur ve modele bağlam olarak verilir. Model, kendi hafızasından çok o sayfaya yaslanır. Bu, ince ayar değildir. Belge güncellenince cevap da güncellenebilir. Belge yanlışsa cevap da yanlış olur; model sayfayı eleştirmeden özetleyebilir.

Bu yol, kurum içi bir kılavuzu konuşturmak için ince ayardan daha şeffaf olabilir. Yine de kaynak göstermek, kaynağın doğru olduğunu kanıtlamaz. Sayfayı açıp cümleyle karşılaştırmak gerekir. Büyük dil modellerinin cümleyi nasıl kurduğuna dair sade çerçeve burada durur: https://biliminizi.com/buyuk-dil-modelleri-nasil-calisir.

Hangisini ne zaman düşünmeli

Üslup, sıra ve bir kerelik görev için önce istemi netleştirin. Görev her gün aynı şablona oturuyorsa ve örnekleriniz temizse ince ayar düşünülebilir. Bilginin sık değiştiği yerde ise belgeyi o an getirmek, ağırlığı dondurmaktan daha az bayatlar. Üçü birden kullanılabilir. Biri diğerinin denetimi değildir.

Karar verirken şunu yazın: Değişmesini istediğim şey tek sohbet mi, kalıcı davranış mı, yoksa taze belge mi? Cevap karışıksa ürün vaadi de karışıktır. Yeni bir aracın bu ayrımı anlatmaması, olgunlaşmamış bir vaadin işaretidir.

Sınır her kapıda durur

İnce ayar görmüş bir model de uydurabilir. İstemle sıkıştırılmış bir model de uydurabilir. Belge verilmiş bir model, belgede olmayan cümleyi belgeye mal edebilir. Sağlık, hukuk ve finansal metinlerde bu üç kapının hiçbiri uzman görüşünün yerine geçmez. Çıktı taslaktır. Hüküm, kaynağı ve sorumluluğu olan kişidedir.

Pratik test basittir. Aynı soruyu kuru, sonra örnekli, sonra belgeli sorun. Cevap yalnızca süslendiyse kazanç üsluptadır. Yeni ve doğru bir olgu ancak belge veya sizin kontrolünüzle gelmişse o olgu modele ait değildir.

Sık sorulan sorular

İyi istem, ince ayarın yerini tutar mı? Biçim ve sınır için çoğu zaman evet. Modelin görmediği bir bilgiyi kalıcı olarak öğretmek için hayır.

İnce ayar halüsinasyonu bitirir mi? Bitirmez. Dar örneklerde biçimi iyileştirebilir. Boşluk doldurma alışkanlığı durabilir.

Belge vermek kaynağı garanti eder mi? Hayır. Model belgeyi yanlış özetleyebilir veya dışarıdan cümle ekleyebilir. Metni belgeyle yan yana okuyun.