2023年3月14日上午。學(xué)院邀請了來自德雷塞爾大學(xué)的許凱第教授為永利yl23411官網(wǎng)師生帶來了一場題為“如何信任人工智能？探索具有可證明魯棒性的神經(jīng)網(wǎng)絡(luò)”的學(xué)術(shù)講座。
許凱第教授是川大校友，2015于永利yl23411官網(wǎng)獲得本科學(xué)位，2017年于佛羅里達(dá)大學(xué)獲得碩士學(xué)位，2021年于東北大學(xué)獲博士學(xué)位。許教授主要的研究興趣是機(jī)器學(xué)習(xí)的魯棒性，包括物理對抗攻擊、嚴(yán)格的魯棒性驗證和認(rèn)證防御。其Google Scholar引用1600+，研究論文發(fā)表于NeurIPS、ICML、ICLR、IJCAI、AAAI、CVPR、ECCV、ICCV等多個頂級會議，他的作品《Adversarial T-shirt》獲得了200多家媒體的報道。
許凱第教授在講座中首先介紹了神經(jīng)網(wǎng)絡(luò)驗證問題的基本框架。許教授講到，神經(jīng)網(wǎng)絡(luò)驗證的主要任務(wù)是為神經(jīng)網(wǎng)絡(luò)的行為提供嚴(yán)格的理論保證。和很多對抗樣本的防御方法不同，經(jīng)過嚴(yán)格魯棒性驗證的網(wǎng)絡(luò)無需擔(dān)心被更強(qiáng)的對抗攻擊攻破。神經(jīng)網(wǎng)絡(luò)驗證可以用在很多其他的場景中，比如驗證正確性、公平性、安全性等。它可以確保神經(jīng)網(wǎng)絡(luò)在關(guān)鍵的應(yīng)用中不會出現(xiàn)意外的輸出導(dǎo)致嚴(yán)重的后果。
接著，許凱第教授向同學(xué)們介紹了其團(tuán)隊在今年國際神經(jīng)網(wǎng)絡(luò)驗證大賽 (VNN-COMP 2021)中的獲勝算法α,β-CROWN。CROWN是一個非完備(incomplete)神經(jīng)網(wǎng)絡(luò)驗證算法，其主要原理為將網(wǎng)絡(luò)中的非線性激活函數(shù)替換為線性的上下界，進(jìn)行限界傳播，拿到神經(jīng)網(wǎng)絡(luò)輸出對輸入的線性下界。雖然CROWN能夠在GPU上高效實現(xiàn)，但它計算出的下界相對較松，特別是和傳統(tǒng)的基于線性規(guī)劃(LP)的算法相比時差距較大。許教授團(tuán)隊提出的α-CROWN通過梯度上升來獲得更緊的下界。β-CROWN則是在限界傳播過程中結(jié)合分支定界法，實現(xiàn)了完備的神經(jīng)網(wǎng)絡(luò)驗證(complete verification)。
在講座的結(jié)尾，許教授也提出和深度學(xué)習(xí)中的其他領(lǐng)域相比，神經(jīng)網(wǎng)絡(luò)驗證還非常年輕，其中不乏很多有挑戰(zhàn)性的問題，例如對包含更復(fù)雜的非線性函數(shù)的網(wǎng)絡(luò)（如 Transformer）的完備驗證，以及將算法拓展到更大規(guī)模的網(wǎng)絡(luò)（如ImageNet）中，這些都將是其團(tuán)隊未來的研究方向。這場學(xué)術(shù)講座為同學(xué)們提供了一個神經(jīng)網(wǎng)絡(luò)驗證領(lǐng)域更全面、更深入的學(xué)術(shù)視角，開拓了同學(xué)們的視野。
永利yl23411官網(wǎng)
2023年3月15日
當(dāng)前位置：