
羨林大講堂第95期:陳俊龍談動(dòng)態(tài)結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)
5月18日,由學(xué)生工作處主辦、數(shù)學(xué)科學(xué)學(xué)院承辦的聊城大學(xué)第95期“羨林大講堂”以線(xiàn)上直播、線(xiàn)下集中觀(guān)看的方式,于西校區(qū)11#B207、A201開(kāi)展。華南理工大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院院長(zhǎng)陳俊龍受邀做客本期羨林大講堂,作題為《動(dòng)態(tài)結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò):構(gòu)建疊層寬度神經(jīng)網(wǎng)絡(luò)成深度模型》的報(bào)告。本次報(bào)告會(huì)由數(shù)學(xué)科學(xué)學(xué)院副院長(zhǎng)趙軍圣主持,學(xué)院部分教師、研究生和數(shù)據(jù)科學(xué)與大數(shù)據(jù)專(zhuān)業(yè)2019級(jí)學(xué)生聽(tīng)取了報(bào)告。
報(bào)告強(qiáng)調(diào),深層的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)能夠使網(wǎng)絡(luò)具有強(qiáng)大的學(xué)習(xí)能力,然而大多數(shù)深度網(wǎng)絡(luò)的訓(xùn)練方式也是基于反向傳播的梯度下降法或隨機(jī)梯度下降法,往往存在著訓(xùn)練消耗時(shí)間長(zhǎng)、容易陷入局部最優(yōu)解等問(wèn)題。寬度學(xué)習(xí)系統(tǒng) (Broad Learning Systems, BLS) 是一種淺層的具有增量學(xué)習(xí)能力的神經(jīng)網(wǎng)絡(luò),具有快速、高效的優(yōu)點(diǎn),然而其淺層結(jié)構(gòu)也限制了網(wǎng)絡(luò)的特征表達(dá)能力。一種具有動(dòng)態(tài)結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)“由構(gòu)建疊層寬度神經(jīng)網(wǎng)絡(luò)成的深度模型”可以解決上述問(wèn)題。該模型保留了寬度學(xué)習(xí)系統(tǒng)高效、快速的優(yōu)點(diǎn),同時(shí)通過(guò)殘差連接將多個(gè)寬度學(xué)習(xí)系統(tǒng)模塊疊加起來(lái),增加網(wǎng)絡(luò)的深度,提高網(wǎng)絡(luò)的學(xué)習(xí)能力。疊層寬度神經(jīng)網(wǎng)絡(luò)(Stacked BLS)的“動(dòng)態(tài)”體現(xiàn)在寬度和深度兩個(gè)方面。寬度方向的增量學(xué)習(xí)體現(xiàn)在寬度學(xué)習(xí)系統(tǒng)模塊內(nèi)部的神經(jīng)元:在每一個(gè)寬度學(xué)習(xí)系統(tǒng)模塊內(nèi)部,當(dāng)新增加特征節(jié)點(diǎn)、增強(qiáng)節(jié)點(diǎn)或輸入數(shù)據(jù)時(shí),只需要學(xué)習(xí)新增加部分的權(quán)重即可;深度方向的增量學(xué)習(xí)體現(xiàn)在寬度學(xué)習(xí)系統(tǒng)模塊之間:在寬度學(xué)習(xí)系統(tǒng)模塊之,當(dāng)疊加新的寬度學(xué)習(xí)系統(tǒng)模塊時(shí),下層模塊的參數(shù)可以固定不變,只需要計(jì)算新疊加的寬度學(xué)習(xí)系統(tǒng)模塊的網(wǎng)絡(luò)參數(shù)即可。這兩種增量學(xué)習(xí)的方式使得模型的計(jì)算量較少,網(wǎng)絡(luò)復(fù)雜性較低,使用過(guò)程中可以很方便的增加網(wǎng)絡(luò)的寬度和深度,并實(shí)現(xiàn)快速、高效的訓(xùn)練,能夠針對(duì)不同任務(wù)進(jìn)行適應(yīng)性的調(diào)整,提高模型的泛化能力。疊層寬度神經(jīng)網(wǎng)絡(luò)在多個(gè)數(shù)據(jù)集上展現(xiàn)了優(yōu)越性,在多個(gè)圖像數(shù)據(jù)庫(kù)的測(cè)試,均優(yōu)于現(xiàn)有的很多圖像分類(lèi)方法,同時(shí)相較于深度神經(jīng)網(wǎng)絡(luò)方法,動(dòng)態(tài)結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)大幅減少了網(wǎng)絡(luò)計(jì)算時(shí)所需要的參數(shù)數(shù)量。
報(bào)告結(jié)束后,同學(xué)們紛紛表示受益匪淺,要以陳教授為榜樣,刻苦鉆研,為國(guó)家大數(shù)據(jù)發(fā)展貢獻(xiàn)自己的力量。
陳俊龍(C. L. Philip Chen),華南理工大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院院長(zhǎng)、講座教授、清華大學(xué)海外杰出訪(fǎng)問(wèn)教授、中國(guó)自動(dòng)化學(xué)會(huì)副理事長(zhǎng)、科睿維安全球高被引科學(xué)家(工程及計(jì)算機(jī)雙學(xué)科)、美國(guó)工學(xué)技術(shù)教育認(rèn)證會(huì)評(píng)審委員及我國(guó)計(jì)算機(jī)科學(xué)與技術(shù)的教育指導(dǎo)委員會(huì)成員。曾任IEEE Transactions on Cybernetics (2020-2021)、IEEE Trans. on Systems、Man, and Cybernetics: Systems (2014-2019)頂級(jí)期刊主編、IEEE SMC 學(xué)會(huì)國(guó)際總主席(2012-2013),現(xiàn)任《中國(guó)科學(xué)》、《自動(dòng)化學(xué)報(bào)》,IEEE Trans. on Fuzzy Systems, 和 IEEE Trans. on AI 的副編。曾獲2次IEEE Transactions on Neural Networks and Learning Systems年度期刊最佳年度論文獎(jiǎng),在2018 年獲IEEE系統(tǒng)科學(xué)控制論最高學(xué)術(shù)維納獎(jiǎng) (Norbert Wiener Award),獲2021 IEEE Joseph Wohl 終身成就獎(jiǎng),及獲2021吳文俊人工智能杰出貢獻(xiàn)獎(jiǎng)??蒲蟹较?yàn)橹悄芟到y(tǒng)與控制、計(jì)算智能等;科研支持包括科技部重點(diǎn)研發(fā)項(xiàng)目(首席)、國(guó)家基金委重點(diǎn)項(xiàng)目在人工智能方向的科研、以及多項(xiàng)廣東省、廣州市、澳門(mén)科技基金委的資助;科研成果包括3次澳門(mén)自然科學(xué)獎(jiǎng)、廣東省科學(xué)技術(shù)一等獎(jiǎng)等。曾任澳門(mén)大學(xué)講座教授及科技學(xué)院院長(zhǎng)、澳門(mén)大學(xué)工程學(xué)科及計(jì)算機(jī)工程獲國(guó)際《華盛頓協(xié)議》、《首爾協(xié)議認(rèn)證》,是他對(duì)澳門(mén)工程教育的至高貢獻(xiàn)。
(審核 趙軍圣)
聊大要聞
-
我校獲批山東省數(shù)字技術(shù)工程師培育項(xiàng)目培訓(xùn)機(jī)構(gòu)資質(zhì)2026-01-08
-
王文行博士獲批2025年度山東省海外優(yōu)秀青年科學(xué)基金項(xiàng)目2026-01-07
-
聊城大學(xué)舉辦“典贊芳華·星耀聊大”2025年度學(xué)生表彰典禮2026-01-07 -
美術(shù)與設(shè)計(jì)學(xué)院學(xué)生致敬英烈 持續(xù)5年助“烈士回家”2026-01-07
-
聊城大學(xué)舉辦外籍教師2026新年茶話(huà)會(huì)2026-01-06
-
【深學(xué)篤行全會(huì)精神 錨定高質(zhì)量發(fā)展】《聊城大學(xué)學(xué)報(bào)(自然科學(xué)版)》榮獲維普“學(xué)術(shù)影響力進(jìn)步期刊”2026-01-06
-
【深學(xué)篤行全會(huì)精神 錨定高質(zhì)量發(fā)展】我校5門(mén)課程獲評(píng)2025年山東省課程思政示范課程2026-01-05
-
我校在2025年“黨史國(guó)史·我來(lái)學(xué)我來(lái)講” 活動(dòng)中獲佳績(jī)2026-01-05
-
我校教師獲山東省社會(huì)科學(xué)學(xué)科新秀獎(jiǎng)2026-01-04
-
省《教育工作簡(jiǎn)報(bào)》推介我校構(gòu)建科研新體系工作2026-01-04
時(shí)間 :2022-05-18
閱讀次數(shù) :
字體 :
來(lái)源 : 數(shù)學(xué)科學(xué)學(xué)院
作者 : 李浩