"Fine-tuning",也叫做微調(diào),是一種遷移學(xué)習(xí)技術(shù),常用于深度學(xué)習(xí)中。這種方法的基本思路是:首先,我們有一個(gè)預(yù)訓(xùn)練的模型,這個(gè)模型已經(jīng)在大量的數(shù)據(jù)上訓(xùn)練過,已經(jīng)學(xué)會(huì)了一些基本的模式和結(jié)構(gòu)(比如在自然語言處理任務(wù)中,預(yù)訓(xùn)練模型可能已經(jīng)學(xué)會(huì)了基本的語法和單詞的語義》。然后,我們?cè)僭谔囟ǖ娜蝿?wù)數(shù)據(jù)上繼續(xù)訓(xùn)練這個(gè)模型,使其適應(yīng)新的任務(wù),這就是所謂的"fine-tuning"。