特邀專家：黃曉霖 副教授
講座時(shí)間：6月15日 15:30
講座地點(diǎn)：騰訊會(huì)議：869-111-526
主講人簡(jiǎn)介：
黃曉霖副教授，本科畢業(yè)于西安交通大學(xué)、博士畢業(yè)于清華大學(xué)，博士后工作于比利時(shí)魯汶大學(xué)，并在德國(guó)埃爾朗根-紐倫堡大學(xué)任洪堡學(xué)者，現(xiàn)為上海交通大學(xué)電子信息與電氣工程學(xué)院副教授、博士生導(dǎo)師。他長(zhǎng)期從事機(jī)器學(xué)習(xí)理論與算法研究，發(fā)表論文五十余篇，其中十余篇發(fā)表于領(lǐng)域重要期刊《Journal of Machine Learning Research》《IEEE Transactions on Pattern Analysis and Machine Intelligence》《Applied and Computational Harmonic Analysis》，主持國(guó)家自然科學(xué)基金面上項(xiàng)目、JWKJW創(chuàng)新專項(xiàng)，參與“2030新一代人工智能”重大專項(xiàng)和“人工智能前沿基礎(chǔ)理論與關(guān)鍵技術(shù)”上海市科技重大專項(xiàng)。2017年入選國(guó)家特聘專家（青年項(xiàng)目）。
講座內(nèi)容簡(jiǎn)介：
深度神經(jīng)網(wǎng)絡(luò)的參數(shù)量極大，產(chǎn)生了很多冗余的特征，這也是神經(jīng)網(wǎng)絡(luò)存在對(duì)抗樣本的根本原因之一。找到有效的低維結(jié)構(gòu)、有效地去除冗余有望很好地控制神經(jīng)網(wǎng)絡(luò)、提升其穩(wěn)健性。通過分析神經(jīng)網(wǎng)絡(luò)的動(dòng)態(tài)特性，我們提出了神經(jīng)網(wǎng)絡(luò)動(dòng)態(tài)低維結(jié)構(gòu)，發(fā)展了新的降維方法，能夠在很低維的空間中對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行有效的訓(xùn)練。實(shí)驗(yàn)表明，對(duì)于CIFAR級(jí)別的任務(wù)，在40維空間對(duì)具有千萬(wàn)個(gè)參數(shù)的神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練就能夠達(dá)到標(biāo)準(zhǔn)訓(xùn)練的效果，并具有很好的穩(wěn)定性。在提取的低維空間中進(jìn)行對(duì)抗訓(xùn)練，能夠有效克服過擬合現(xiàn)象，使單步對(duì)抗訓(xùn)練達(dá)到多步對(duì)抗訓(xùn)練的效果。
