2023年3月9日上午。學(xué)院邀請了湖南大學(xué)信息科學(xué)與工程學(xué)院胡玉鵬教授在線下為永利yl23411官網(wǎng)師生帶來了一場題為“矛與盾：人工智能范式下的安全系統(tǒng)與系統(tǒng)安全”的學(xué)術(shù)講座。
胡玉鵬教授是教育部普通高等學(xué)校本科教育教學(xué)評估專家、中國工程教育認證專家、湖南大學(xué)現(xiàn)代工程訓(xùn)練中心副主任，入選湖南省杰青、芙蓉學(xué)者、湖湘青年英才。目前已主持國家保密科研B類重點項目、國家自然科學(xué)基金面上項目等國家和省部級課題三十余項，以及華為等高新技術(shù)企業(yè)的技術(shù)攻關(guān)項目十余項。在ACM CSUV、IEEE TDSC、IEEE TCAD、IEEE TC、IEEE TCC、IEEE IoT-J、IEEE/IFIP DSN、CODES+ISSS、IEEE CLUSTER等發(fā)表論文80余篇，包括獲得ACM SIGBED國際旗艦會議CODES+ISSS 2022最佳論文提名、第六屆中國科協(xié)優(yōu)秀科技論文獎等。
隨著近期ChatGPT的出現(xiàn)，人工智能的安全問題也再次受到了人們的關(guān)注。胡玉鵬教授就人工智能范式下安全系統(tǒng)存在的內(nèi)生安全缺陷進行了詳細的介紹，并強調(diào)了這些缺陷所帶來的安全風(fēng)險。由于人工智能模型的復(fù)雜性，潛在攻擊者可以惡意修改訓(xùn)練或測試數(shù)據(jù)的分布以破壞模型結(jié)構(gòu)。這種內(nèi)生的安全隱患所引發(fā)的安全問題日益突出，因此構(gòu)建對抗機器學(xué)習(xí)攻擊的安全系統(tǒng)顯得尤為重要。
胡玉鵬教授首先以基于深度學(xué)習(xí)的智能語義分析在稀疏敏感文本挖掘和系統(tǒng)代碼漏洞挖掘中的應(yīng)用實踐為例，介紹了人工智能技術(shù)在構(gòu)建安全系統(tǒng)方面的一些應(yīng)用研究，闡述了人工智能技術(shù)在構(gòu)建安全系統(tǒng)方面的前景和應(yīng)用場景。接著，胡教授對AI系統(tǒng)的數(shù)據(jù)收集、數(shù)據(jù)預(yù)處理、模型訓(xùn)練、模型推理、系統(tǒng)集成全生命周期的安全問題展開了深入的探討。針對機器學(xué)習(xí)攻擊技術(shù)（如對抗樣本攻擊、投毒攻擊、后門攻擊等）所帶來的安全風(fēng)險，闡述了最新的攻擊與防御技術(shù)，并探討了如何利用高效的混淆技術(shù)構(gòu)建能有效對抗機器學(xué)習(xí)攻擊的PUF系統(tǒng)，以保障人工智能系統(tǒng)內(nèi)部安全結(jié)構(gòu)不被機器學(xué)習(xí)技術(shù)推測。
會上，胡玉鵬教授不僅介紹了人工智能技術(shù)在構(gòu)建安全系統(tǒng)方面的最佳實踐，也對未來的研究發(fā)展方向給出了展望，加深了同學(xué)們對人工智能技術(shù)的認識和理解。
永利yl23411官網(wǎng)
2023年3月12日
當前位置：