鷺島論壇
數(shù)據(jù)智能系列講座第4期
「預(yù)訓(xùn)練的基礎(chǔ)模型下的持續(xù)學(xué)習(xí)」
10月30日(周三) 20:00
精彩開播
期待與您云相聚,共襄學(xué)術(shù)盛宴!

| 直播信息
報(bào)告題目
預(yù)訓(xùn)練的基礎(chǔ)模型下的持續(xù)學(xué)習(xí)
報(bào)告簡介
雖然近年來神經(jīng)網(wǎng)絡(luò),特別是預(yù)訓(xùn)練的基礎(chǔ)模型研究得到了廣泛的應(yīng)用,但其仍然主要依賴于在大量樣本上的批量式訓(xùn)練。
本報(bào)告將探討實(shí)現(xiàn)模型的增量式訓(xùn)練,針對深度神經(jīng)網(wǎng)絡(luò)在增量式學(xué)習(xí)新任務(wù)時(shí)所面臨的"災(zāi)難性遺忘"問題,介紹如何在預(yù)訓(xùn)練的基礎(chǔ)模型上進(jìn)行連續(xù)學(xué)習(xí),包括基于重放的遺忘抑制機(jī)制、基于模型高效微調(diào)的連續(xù)學(xué)習(xí)框架,以及連續(xù)學(xué)習(xí)在計(jì)算機(jī)視覺上任務(wù)上的應(yīng)用和部署等。
報(bào)告嘉賓
洪曉鵬
哈爾濱工業(yè)大學(xué)教授
特邀主持
黃禮泊
中國科學(xué)院計(jì)算技術(shù)研究所
特別研究助理
講座時(shí)間
2024年10月30日(周三)2010
講座環(huán)節(jié)及流程
?講座環(huán)節(jié):
① 5 分鐘主持人進(jìn)行主題與嘉賓介紹
②55分鐘報(bào)告嘉賓講座環(huán)節(jié)
③ 10分鐘互動問答環(huán)節(jié)
?講座流程:
① 19:45 開芯會視頻號上線,歡迎觀眾朋友提前進(jìn)入直播間候場
② 20:00 主持人開場
③ 20:05 主講嘉賓開始講座,持續(xù)55min
注:【在講座過程中歡迎觀眾朋友通過各直播平臺進(jìn)行提問工作人員將收集和整理問題】
③ 21:00主持人根據(jù)工作團(tuán)隊(duì)整理的問題與嘉賓進(jìn)行問答互動,持續(xù)10min
講座形式
視頻號、B站、電子發(fā)燒友、蔻享學(xué)術(shù)等多平臺同步直播
點(diǎn)擊預(yù)約精彩不容錯過!

直播海報(bào)
報(bào)告嘉賓

洪曉鵬
哈爾濱工業(yè)大學(xué)教授, IEEE資深會員。歷任芬蘭Oulu大學(xué)博士后、科研型副教授(Docent)和西安交通大學(xué)特聘研究員。斯坦福大學(xué)全球前2%頂尖科學(xué)家年度榜單入選者。已在頂級國際和國內(nèi)刊物和國際會議上發(fā)表文章80余篇,相關(guān)工作見諸美國《麻省理工技術(shù)評論》等技術(shù)媒體專文報(bào)道。2次獲得領(lǐng)域內(nèi)國際權(quán)威期刊和會議的優(yōu)秀論文獎,5次帶隊(duì)獲得國際評測冠軍。作為負(fù)責(zé)人主持了國家重點(diǎn)研發(fā)計(jì)劃課題、國家自然科學(xué)基金、芬蘭信息學(xué)會博士后基金等10余個項(xiàng)目。多次受邀擔(dān)任ACM MM 、 AAAI/IJCAI的領(lǐng)域主席或資深程序委員以及CVIU和IVC等國際主流期刊的編委。中國圖像與圖形學(xué)學(xué)會情感計(jì)算與理解專業(yè)委員會副秘書長,黑龍江省計(jì)算機(jī)學(xué)會學(xué)術(shù)工作委員會副主任、獎勵工作委員會秘書長。目前的研究領(lǐng)域包括:多模態(tài)目標(biāo)感知、深度連續(xù)學(xué)習(xí)、智能決策與任務(wù)分配等。
主持嘉賓

黃禮泊
博士,中國科學(xué)院計(jì)算技術(shù)研究所特別研究助理。主要研究領(lǐng)域?yàn)?a href="http://m.makelele.cn/v/tag/557/" target="_blank">機(jī)器學(xué)習(xí)理論和深度學(xué)習(xí)應(yīng)用,尤其是無監(jiān)督學(xué)習(xí)、持續(xù)學(xué)習(xí)、最優(yōu)化理論等方面的研究。在包括IEEE Transactions系列、AAAI、ICLR、CVPR、NeurIPS等國內(nèi)外期刊和會議上發(fā)表論文20余篇。作為負(fù)責(zé)人承擔(dān)國家領(lǐng)域預(yù)研課題、國家公派留學(xué)基金、北京市自然科學(xué)基金青年基金等多個項(xiàng)目。
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4838瀏覽量
107726 -
數(shù)據(jù)
+關(guān)注
關(guān)注
8文章
7335瀏覽量
94744 -
模型
+關(guān)注
關(guān)注
1文章
3751瀏覽量
52091
發(fā)布評論請先 登錄
直播預(yù)約 |開源芯片系列講座第30期:“一生一芯”計(jì)劃——從零開始設(shè)計(jì)自己的RISC-V處理器芯片
明晚開播 |開源芯片系列講座第29期:RISC-V AI芯片的創(chuàng)新和應(yīng)用
基于大規(guī)模人類操作數(shù)據(jù)預(yù)訓(xùn)練的VLA模型H-RDT
明晚開播 |開源芯片系列講座第28期:高性能RISC-V微處理器芯片
直播預(yù)約 |開源芯片系列講座第28期:高性能RISC-V微處理器芯片
明晚開播 |數(shù)據(jù)智能系列講座第7期:面向高泛化能力的視覺感知系統(tǒng)空間建模與微調(diào)學(xué)習(xí)
直播預(yù)約 |數(shù)據(jù)智能系列講座第7期:面向高泛化能力的視覺感知系統(tǒng)空間建模與微調(diào)學(xué)習(xí)
明晚開播 | 數(shù)據(jù)智能系列講座第6期:大模型革命背后的算力架構(gòu)創(chuàng)新
直播預(yù)約 | 數(shù)據(jù)智能系列講座第6期:大模型革命背后的算力架構(gòu)創(chuàng)新
明晚開播 | 開源芯片系列講座第27期:RISC-V AI指令集的標(biāo)準(zhǔn)化與開源實(shí)現(xiàn)
用PaddleNLP為GPT-2模型制作FineWeb二進(jìn)制預(yù)訓(xùn)練數(shù)據(jù)集
數(shù)據(jù)標(biāo)注服務(wù)—奠定大模型訓(xùn)練的數(shù)據(jù)基石
標(biāo)貝數(shù)據(jù)標(biāo)注服務(wù):奠定大模型訓(xùn)練的數(shù)據(jù)基石
直播預(yù)約 | 開源芯片系列講座第27期:RISC-V AI指令集的標(biāo)準(zhǔn)化與開源實(shí)現(xiàn)
直播預(yù)約 |數(shù)據(jù)智能系列講座第4期:預(yù)訓(xùn)練的基礎(chǔ)模型下的持續(xù)學(xué)習(xí)
評論