報告人：LIU YANG教授
報告時間：2024年6月18日上午10點-11點30
報告地點：江安校區(qū)多學科交叉研究創(chuàng)新大樓九樓919報告廳
報告內(nèi)容：
AIGC與網(wǎng)絡(luò)安全涉及在軟件開發(fā)過程的所有階段系統(tǒng)地整合安全測試。其目的是通過使用工具來自動化人類專家的安全專業(yè)知識，從而在開發(fā)生命周期的早期階段就能早期識別和解決安全問題。然而，其有效性在很大程度上依賴于智能工具模擬或潛在替代安全專家的能力。隨著大型語言模型（LLM）的出現(xiàn)，現(xiàn)在提供了實現(xiàn)這一目標的新手段。在這次演講中，我將討論利用LLM在應(yīng)用安全領(lǐng)域的最新努力，涵蓋漏洞分析的完整生命周期：漏洞檢測、診斷、POC生成和修復(fù)。另一方面，確保AI應(yīng)用成功部署，LLM的安全性同樣重要。在這個方向上，我們將展示有關(guān)LLM攻擊面的最新研究成果，包括針對提示注入的黑盒/白盒攻擊生成、針對多模態(tài)模型的攻擊、后門攻擊以及可能的防御機制。最后，我們正在考慮整合這兩個方面，以開發(fā)一個用于應(yīng)用安全分析的AI支持平臺。
報告人簡介：
LIU YANG博士南洋理工大學教授，網(wǎng)絡(luò)安全研究中心執(zhí)行主任、CyberSG研發(fā)項目辦公室（CRPO）執(zhí)行主任。2019年授予南洋理工大學大學領(lǐng)導論壇講席教授職位，2024年被授予校長講席教授職位。
LIU YANG博士專長于軟件工程、網(wǎng)絡(luò)安全和人工智能。他的研究成功地彌合了程序分析、數(shù)據(jù)分析和AI在理論和實際使用方面的差距，以評估軟件的設(shè)計和實施以實現(xiàn)高保證和安全性。他的許多研究已經(jīng)成功商業(yè)化。截至目前，在頂級會議和期刊上發(fā)表了超過500篇論文，并獲得了27個最佳論文獎和一個在頂級軟件工程會議上的最具影響力系統(tǒng)獎。他還領(lǐng)導了幾個主要的研究中心，包括Cysren、CRPO、南洋理工大學的可信AI中心（TAICeN）和與ICL合作的CREATE中心，專注于醫(yī)療設(shè)備安全。他獲得了多個高聲望獎項，包括微軟亞洲研究院獎學金、TRF獎學金、南洋助理教授、陳振傳獎學金、南洋研究獎、ACM杰出演講者、國家研究基金會調(diào)查員獎和南洋理工大學創(chuàng)新者（創(chuàng)業(yè)）獎。
永利yl23411官網(wǎng)
2024年6月12日
當前位置：