5月25日，應(yīng)數(shù)學(xué)與統(tǒng)計學(xué)院邀請，廣西大學(xué)袁功林教授做客“牧野格致”講堂為學(xué)院師生作題為“A Biased Stochastic Conjugate Gradient Algorithm for Machine Learning of Empirical Risk Minimization”的學(xué)術(shù)講座，學(xué)院相關(guān)研究方向師生參加此次講座，裴永剛主持。

共軛梯度（CG）算法因其計算成本低于二階方法且收斂性優(yōu)于梯度下降法，被廣泛應(yīng)用于機器學(xué)習(xí)問題。袁功林教授提出一種具有自適應(yīng)步長的偏置隨機共軛梯度（BSCG）算法，將隨機遞歸梯度法（SARAH）與改進的Barzilai-Borwein（BB）技術(shù)融入經(jīng)典隨機梯度算法中。相較于現(xiàn)有大多數(shù)隨機梯度方法需精心選擇固定步長，而可能導(dǎo)致無法獲得最優(yōu)解，BSCG算法在不增加計算成本的前提下，利用二階信息動態(tài)獲取合適步長。袁功林教授不僅證明了該算法能收斂至全局最優(yōu)解，還建立了其在非凸目標函數(shù)下的線性收斂速率。最后，兩類機器學(xué)習(xí)模型的數(shù)值實驗驗證了BSCG算法的優(yōu)越性。報告結(jié)束后，袁功林教授針對與會師生提出的相關(guān)問題進行了詳細解答，并與大家展開深入的討論交流。

專家簡介：

袁功林，廣西大學(xué)數(shù)學(xué)與信息科學(xué)學(xué)院，教授，博導(dǎo)，副院長，廣西應(yīng)用數(shù)學(xué)中心(廣西大學(xué))常務(wù)副主任，國家一流專業(yè)負責(zé)人；主要從事優(yōu)化理論與方法及其應(yīng)用方面研究，主持國家基金、廣西杰出青年基金、廣西重點基金、中央主導(dǎo)地方科技發(fā)展基金、廣西科技基地和人才專項基金等項目；寶鋼教育獎，廣西十百千第二層次人選，廣西特聘青年專家，廣西卓越學(xué)者計劃人選，南寧市高層次人才；以第一或通訊作者發(fā)表SCI論文60余篇，成果發(fā)表在SIAM J. Optim.,，COAP，JOTA，JOGO，EXPERT SYST APP，STAT COMPUT等期刊，其中0.1%論文2篇、1%論文6篇、專著2部；入選 2024全球2%頂尖科學(xué)家榜單，獲得廣西自然科學(xué)獎二等獎2項；任中國數(shù)學(xué)會理事、中國運籌學(xué)會理事、中國運籌學(xué)會數(shù)學(xué)規(guī)劃分會理事、中國運籌學(xué)會算法軟件與應(yīng)用分會理事、廣西數(shù)學(xué)會常務(wù)理事、廣西運籌學(xué)會副理事長。

（數(shù)學(xué)與統(tǒng)計學(xué)院 王敬一 梁彥超 裴永剛）