Fine-tuning (peenhäälestus) on tehnika, kus olemasolevat keelemudelit treenitakse edasi kitsamal, sihipärasel andmehulgal. Nii saab üldmudeli kohandada konkreetsele ülesandele, tööstusharule, stiilile või keelele.
Kuidas see töötab?
Aluseks võetakse suur eeltreenitud mudel ja seda „õpetatakse juurde” näidetega. Mudel säilitab üldteadmised, kuid õpib uue valdkonna eripära — näiteks juriidilise stiili või ühe ettevõtte tooni.
Eesti näide
Texta.AI on Tartus loodud tööriist, mis on häälestatud spetsiaalselt eesti keelele — see selgitab, miks kohalik kontekst ja grammatika on tal tugevam.
Fine-tuning vs RAG
Fine-tuning muudab mudelit ennast, RAG aga annab mudelile jooksvalt juurde välised dokumendid ilma mudelit muutmata. Värske info jaoks sobib RAG, püsiva stiili/oskuse jaoks fine-tuning.