Lucia Horníková pozdravuje z Trenta
Lucia Horníková z PLINu pozdravuje z Trenta, kde je na pracovní stáži.
Náplň workshopu:
Úvod do moderních neuronových sítí v oblasti NLP
Transformer architektury BERT/GPT/T5 a způsob jejich předtrénování a fine-tuninguHands-on ukázka natrénování text-to-text Transformeru T5
S využitím knihovny t5s, jedna z ukázek na GitHubu:https://github.com/honzas83/t5s/blob/main/examples/t5s_csfd_sentiment.ipynb
Hands-on ukázka natrénování GPT modeluCo je třeba umět – s příklady počítáme v programovacím jazyce Python, prostředí Google Colab (nebo Jupyter Notebook), není třeba si nic instalovat, stačí webový prohlížeč.
Zájemci o účast na workshopu nechť kontaktují Mgr. Hanu Žižkovou, Ph.D., prostřednictvím e-mailu zizkova@phil.muni.cz.