beat365系列講座名家講壇第10期——大模型與國産算力
報告題目(Title):大模型與國産算力
時間(Date & Time):2023.12.13 10:00
地點(Location):理科二号樓2736(燕園校區) Room 2736, Science Building #2 (Yanyuan)
主講人(Speaker):翟季冬
邀請人(Host):劉譞哲
報告摘要(Abstract):
随着人工智能模型的不斷發展,其對算力的需求也在持續增大。然而,鑒于當前的國際關系,中國在獲取最先進的芯片方面面臨巨大的挑戰。如何充分發揮和優化國産算力,以滿足大模型對算力的需求,具有重要意義。針對此挑戰,我們在新一代國産超級計算機上,從底層算子庫、并行加速庫、負載均衡和混合精度等多方面對大模型進行了深入優化,訓練了世界最大規模--百萬億級參數的預訓練模型,達到了EFLOPS的訓練吞吐量。
主講人簡介(Bio):

翟季冬,清華大學計算機系長聘教授,博士生導師。國家傑出青年科學基金獲得者。清華大學計算機系高性能所副所長,ACM中國高性能計算專家委員會秘書長。主要研究領域包括高性能計算、性能評測和編譯優化等。研究成果發表在相關領域頂級學術會議和期刊——SC、ICS、PPOPP、ASPLOS、MICRO、OSDI、ATC、IEEE TC、IEEE TPDS等。研究成果獲IEEE TPDS 2021最佳論文獎、IEEE CLUSTER 2021最佳論文獎、ACM ICS 2021最佳學生論文獎等。擔任NPC 2018程序委員會主席、IEEE CLUSTER 2021領域主席、SC 2022領域副主席,SC、ICS、PPOPP、PACT等國際學術會議程序委員會委員。目前擔任IEEE TC、IEEE TCC等多個國際學術期刊編委。現為CCF傑出會員、IEEE高級會員、CCF秀湖論壇AC。擔任清華大學學生超算團隊教練,指導的團隊十三次獲得世界冠軍。獲教育部科技進步一等獎、中國計算機學會自然科學一等獎、CCF-IEEE CS青年科學家獎。

歡迎關注beat365微信公衆号,了解更多講座信息!
beat365官方网站
