Genel olarak, şaşkınlık, bir olasılık modelinin bir örneği ne kadar iyi tahmin ettiğinin bir ölçümüdür. Doğal Dil İşleme bağlamında, dil modellerini değerlendirmenin bir yolu şaşkınlıktır.
NLP şaşkınlığı nedir?
Doğal dil işlemede, şaşkınlık dil modellerini değerlendirmenin bir yoludur Dil modeli, tüm cümleler veya metinler üzerinde bir olasılık dağılımıdır. … Daha öngörülebilir olduklarından, daha özelleşmiş korporalarda daha düşük şaşkınlık elde etmek genellikle mümkündür.
Şaşkınlığı nasıl yorumlarsınız?
Şaşkınlığı ağırlıklı dallanma faktörü olarak yorumlayabiliriz. Şaşkınlığımız 100 ise, bu, model bir sonraki kelimeyi tahmin etmeye çalıştığında, sanki 100 kelime arasında seçim yapmak zorundaymış gibi kafası karışmış demektir.
Şaşkınlığın sezgisel yorumu nedir?
Wikipedia şaşkınlığı şu şekilde tanımlar: "Bir olasılık dağılımının veya olasılık modelinin bir örneği ne kadar iyi tahmin ettiğinin bir ölçümü." Sezgisel olarak, şaşkınlık belirsizliğin bir ölçüsü olarak anlaşılabilir Karışıklık Aşağıdaki sembolü tahmin ederken bir dil modelinin karmaşıklığı seviyesi olarak görülebilir.
Yüksek düzeyde şaşkınlık iyi midir?
Çünkü tahmin edilebilir sonuçlar rastgeleliğe tercih edilir. Bu nedenle, insanlar düşük şaşkınlığın iyi olduğunu ve yüksek şaşkınlığın kötü olduğunu söylerler çünkü şaşkınlık entropinin üslenmesidir (ve şaşkınlık kavramını güvenle entropi olarak düşünebilirsiniz).
