「Build Your Own Small Language Model」這堂課,將引導學員實際建立何種模型,並學習哪些基礎知識?
Answer
「Build Your Own Small Language Model」課程內容簡介
「Build Your Own Small Language Model」是 Google DeepMind 與倫敦大學學院(UCL)合作推出的「AI Research Foundations」課程系列中的第一堂課,課程時長約 6 小時。本課程旨在教授學員語言模型的基本原理與實作方法,讓學員了解語言模型的運作方式,並從傳統 n-gram 模型演進到現代 Transformer 架構的發展歷程。
課程核心知識與技能
在本課程中,學員將透過編碼實驗親自動手建立一個小型語言模型,從資料處理到文字生成,全面理解模型如何學習語言模式並生成內容。此外,課程還會介紹機器學習研發流程(ML development pipeline),涵蓋模型訓練、評估與部署等重要觀念。
實務應用與倫理考量
課程不僅著重理論與實作,還會透過真實案例,指導學員如何以「負責任的 AI」方式,將這些模型應用於解決社會與社群問題。這強調了在 AI 開發過程中,倫理考量與社會責任的重要性。