【 大成報記者吳非羽/臺中報導 】生成式AI為教育模式迎來改革浪潮,東海大學攜手HPE、NVIDIA及AMD,打造全臺首創「從晶片到應用」的全棧式(full-stack) LLM校園學習平台,讓學生能實際建置AI Agent、微調大型語言模型(LLM),創造具商業價值的AI應用,以克服AI教學的3大斷層。
隨著人工智慧技術掀起全球教育革命,東海借助HPE等科技巨頭的頂尖技術團隊,結合敦新科技的系統整合專業,導入高效能AI伺服器及AI深度學習解決方案,不僅於校園內提供產業級算力資源,更建構跨領域教學與實作場景。
3/6於東海圖書館集思區正式舉行平台啟用儀式,現場貴賓雲集,包含臺中市副市長鄭照新、東海校長張國恩、HPE臺灣暨香港董事長王嘉昇、AMD臺灣分公司資深業務協理黃偉喬、RedHat臺灣總經理孫媛音,以及東海3位副校長詹家昌、張嘉修、劉正,一級主管等人都到場參與。
張國恩表示,東海多年前在大渡山學會理事長鄭清和的支持下成立AI中心,積極推動AI產官學合作、AI課程,奠定東海在AI教育研究上的基礎。而今再度創新突破,平台試運半年來,已誕生2組具商業價值的作品,包含應用於本地端AI護理師助理系統(PrivNurse AI)、與整合「檢索增強生成」(Retri-Augmented Generation, RAG) 架構的課程學習助教,這些成果充分展現東海團隊與學生的實力以及LLM學習平台的潛力。
張國恩說,教育的本質在於「讓知識轉化為實踐力、創造出真正能解決產業與社會需求的應用」;這次和HPE一同打造LLM學習平台,不只是技術的革新、更是學習模式的變革。未來也會進一步優化系統,將基於LLM的聊天機器人開放校外使用,讓社會大眾共同體驗先進的AI科技、善盡大學的社會責任和影響力。
鄭照新指出,東海致力推動成為AI大學,已建置AI NB教室,以及和資策會及產業進行密切合作,並與臺中市政府共同爭取NVIDIA到臺中設立研發中心等等,都說明東海作為臺中市推動智慧城市的重要夥伴。
鄭照新也強調,臺中做為科技供應鏈的重要城市,正積極推動臺中成為臺灣數位發展的重要核心。看到東海攜手HPE、NVIDIA及AMD等3大巨頭,共同打造全臺第一個「從晶片到應用」的全棧式(full-stack) LLM校園學習平台,臺中市非常肯定東海作為AI教育的領導者。
此外,他也提到,東海不僅在AI推動上遙遙領先,更是一所充滿人文的大學,中市府希望與東海持續合作,將人文與AI科技結合,共同幫助臺中市打造為全臺最佳的人文數位城市。
而王嘉昇表示,很榮幸能與東海攜手合作、推動生成式AI教育的發展,幫助學生深化跨領域理論與應用學習,並為教師提供創新教學工具、提升教學效率。王嘉昇說,目前HPE也正積極把AI技術融入教育與研究流程,擴展在智慧校園、教學資源管理等領域的應用;期望加速教育科技的數位轉型、培養更多具備AI能力的人才。
圖資長楊朝棟也分享成立平台的契機,在推動AI技術引入教育體系的過程中,發現一般生成式AI教學,存在著應用層次、算力資源及實作場景等3大斷層;為解決此困境,東海建置全棧式LLM校園學習平台,採用混合雲架構並搭配於2024年領先全國導入CPU+NPU、且內含先進GPU運算設備的「玉釵AI NB教室」進行教學,幫助東海學生在較短的時間內完成複雜的運算任務。
同時,也把教學環境從「工具使用」升級到「模型創造」,並從產業面導入邊緣運算方案,將產業問題整合為領域知識微調模型,建立跨領域資料庫及部署架構。
此外,也進一步為資訊與非資訊專業科系學生、增設相對應的課程;未來學生可以自行建立更多LLM應用,幫助自身學習、甚至助力產業發展。