2024年6月18日星期二上午10點，應(yīng)永利官網(wǎng)方勇教授邀請，南洋理工大學(xué)劉楊教授在永利yl23411官網(wǎng)江安校區(qū)多學(xué)科交叉創(chuàng)新研究大樓919學(xué)術(shù)報告廳作了題為“A Road Towards an Interaction between Cyber Security and AIGC”的學(xué)術(shù)講座。本場講座由黃誠副教授主持。
在本次講座中，劉楊教授深入討論生成式人工智能（Artificial Intelligence Generated Content，AIGC）與網(wǎng)絡(luò)安全之間的關(guān)系，特別是如何在軟件開發(fā)過程的相關(guān)階段系統(tǒng)地整合安全測試。
劉楊教授重點介紹利用大語言模型（Large Language Model，LLM）在應(yīng)用安全領(lǐng)域的最新努力，涵蓋漏洞分析的完整生命周期：漏洞檢測、診斷、概念驗證（Proof of concept，POC）的生成和漏洞修復(fù)。LLM的強(qiáng)大自然語言處理能力使其能夠高效地識別代碼中的潛在漏洞，并提供詳細(xì)的診斷報告，幫助開發(fā)人員快速理解問題所在。LLM還能提出相關(guān)方案，指導(dǎo)開發(fā)人員如何修復(fù)漏洞，從而確保系統(tǒng)的安全性。除了漏洞分析，劉楊教授還展示了有關(guān)LLM攻擊面的最新研究成果，包括針對提示注入的黑盒和白盒攻擊生成、針對多模態(tài)模型的攻擊、后門攻擊以及可能的防御機(jī)制。
劉楊教授將上述兩個方面整合起來，開發(fā)了一個用于應(yīng)用安全分析的AI支持平臺。這一平臺旨在充分利用LLM的強(qiáng)大能力，系統(tǒng)提升應(yīng)用安全分析的效率和效果，從而為軟件開發(fā)過程中的安全測試提供有力支持。通過自動化和智能化的安全分析，顯著減少開發(fā)人員的負(fù)擔(dān)，提高安全問題的發(fā)現(xiàn)和解決效率。此外，這一平臺還將集成最新的攻擊檢測和防御機(jī)制，確保LLM應(yīng)用的安全性和可靠性。
AIGC與網(wǎng)絡(luò)安全的結(jié)合在軟件開發(fā)過程中具有重要的現(xiàn)實意義。通過引入LLM等先進(jìn)技術(shù)，可以更早、更準(zhǔn)確地發(fā)現(xiàn)并解決安全問題，提升軟件的整體安全性和可靠性。在未來的發(fā)展中，劉楊教授將繼續(xù)探索這一領(lǐng)域，推動技術(shù)進(jìn)步，保障信息安全，為社會和產(chǎn)業(yè)的發(fā)展做出貢獻(xiàn)。報告結(jié)束后，劉楊教授與在場師生進(jìn)行了深入交流，并詳細(xì)解答了同學(xué)們提出的問題。
永利yl23411官網(wǎng)
2024年6月19日
當(dāng)前位置：