講座主題：基于局部近似的Stein變分梯度下降方法
特邀專家：閆亮 副教授
講座時間：2021年6月21日 10:30
講座地點：主樓A1-513學術討論室
專家介紹：閆亮，東南大學副教授。東南大學“至善青年學者”。主要從事不確定性量化、貝葉斯反問題理論與算法的研究。主持自然科學基金項目，江蘇省自然科學基金青年項目等。已在SISC、IP、JCP等刊物上發(fā)表論文20多篇。
講座摘要：貝葉斯計算在現(xiàn)代機器學習和統(tǒng)計中對不確定性進行推理有重要應用。貝葉斯推理中一個關鍵的計算挑戰(zhàn)是開發(fā)有效的近似技術，或從后驗分布中抽取樣本。SVGD已被證明是一個強大的近似推理算法。然而，普通SVGD需要計算目標密度的梯度，當梯度不可用或評估代價太大時，不能應用該梯度。本講座我們探討一種解決這一挑戰(zhàn)的方法，即為目標分布構(gòu)造一個局部代理，以一種計算上更可行的方式獲得梯度。更具體地說，我們使用一個深度神經(jīng)網(wǎng)絡(DNN)來近似前向模型，該網(wǎng)絡是在一個精心選擇的訓練集上訓練的，這也決定了代理的質(zhì)量。為此，我們提出了一種通用的自適應算法，在不破壞SVGD收斂性的情況下在線改進局部逼近。這大大降低了SVGD的計算成本，并產(chǎn)生了一套易于實現(xiàn)的算法。在一組具有挑戰(zhàn)性的貝葉斯反問題上給出了新算法，數(shù)值實驗表明標準SVGD的性能和適用性有了明顯的提高。
