上海市計算機軟件評測重點(diǎn)實(shí)驗室2022年開(kāi)放課題立項公示

  根據《2022年上海市計算機軟件評測重點(diǎn)實(shí)驗室開(kāi)放課題指南》的要求，經(jīng)公開(kāi)自主申報、專(zhuān)家評審，擬定“面向人工智能應用的深度安全技術(shù)研究”等5項課題作為上海市計算機軟件評測重點(diǎn)實(shí)驗室2022年開(kāi)放課題。

  現將立項名單予以公示，公示期為2022年3月25日至3月31日。如對立項名單有異議，請于公示期內向上海市計算機軟件評測重點(diǎn)實(shí)驗室反映。郵箱：huy@sscenter.sh.cn,電話(huà)：021-54325166。

  1、“面向人工智能應用的深度安全技術(shù)研究”，上海交通大學(xué)，易冉

  近年來(lái)隨著(zhù)人工智能技術(shù)的發(fā)展，人工智能算法廣泛應用于日常經(jīng)濟、生活的各種場(chǎng)景。然而以人臉識別技術(shù)為代表的人工智能技術(shù)容易受到演示攻擊、虛假內容攻擊和對抗樣本攻擊等威脅，給個(gè)人和企業(yè)利益以及公共安全帶來(lái)嚴重的安全隱患，亟需研究深度安全技術(shù)對各類(lèi)攻擊進(jìn)行檢測與防御。本項目擬圍繞面向人工智能應用的深度安全技術(shù)，研究針對虛假內容、演示攻擊、對抗樣本等人工智能攻擊的深度安全技術(shù)，具體包括活體檢測技術(shù)研究、虛假內容檢測技術(shù)研究和對抗樣本防御技術(shù)研究。開(kāi)展面向活體檢測、虛假內容驗證識別、對抗樣本防御等深度安全技術(shù)；通過(guò)基于決策擾動(dòng)的攻擊方式，結合解耦對抗學(xué)習，求解智能決策邊界，提升模型安全性和魯棒性。

  2、“開(kāi)源軟件代碼異味檢測與質(zhì)量分析技術(shù)”，華東理工大學(xué)，虞慧群

  代碼異味的研究無(wú)法充分反映開(kāi)源軟件中存在的設計問(wèn)題，更難以指導軟件重構。本課題主要研究建構開(kāi)源軟件代碼異味數據集，定義開(kāi)源軟件中的通用和特定領(lǐng)域代碼異味，選擇區分度最佳的檢測指標，使用統計和經(jīng)驗研究方法確定檢測閾值；結合易錯性和易變性等軟件質(zhì)量指標，確定與質(zhì)量退化相關(guān)的異味，使用關(guān)聯(lián)規則學(xué)習等機器學(xué)習方法，結合實(shí)證研究和可解釋性機器學(xué)習技術(shù)，分析異味關(guān)聯(lián)及其影響軟件質(zhì)量的程度；從缺陷追蹤系統、開(kāi)發(fā)倉庫和社區中提取語(yǔ)義、任務(wù)權重、開(kāi)發(fā)者偏好等上下文因素，考慮異味在不同情境下的對軟件質(zhì)量的影響，確定重構優(yōu)先級最高的代碼組件，實(shí)現自適應的重構推薦。本課題研究為代碼異味的自動(dòng)化重構提供理論基礎，提升開(kāi)源軟件的可靠性。

  3、“基于深度神經(jīng)網(wǎng)絡(luò )的惡意通信識別研究”，華東理工大學(xué)，楊海

  隨著(zhù)網(wǎng)絡(luò )技術(shù)的迅速發(fā)展，互聯(lián)網(wǎng)成為人們日常生活中不可或缺的一部分?！盎ヂ?lián)網(wǎng)+”模式給各個(gè)領(lǐng)域帶來(lái)了新的發(fā)展機遇。然而，我們在享受互聯(lián)網(wǎng)的便捷的同時(shí)，其安全問(wèn)題也不容忽視。在信息更新迭代快速的時(shí)代，病毒、攻擊等網(wǎng)絡(luò )入侵隨之而來(lái)，增強入侵防范意識及其技術(shù)至關(guān)重要，但傳統的一些方法無(wú)法達到高性能、高準精度和實(shí)時(shí)性的要求。深度學(xué)習在處理高維、多量數據時(shí)，仍然能從中提取出有效的表示特征，足以應對目前網(wǎng)絡(luò )環(huán)境的需求。為構建更安全的網(wǎng)絡(luò )環(huán)境，本項目旨在研究基于深度學(xué)習的網(wǎng)絡(luò )流量層面和進(jìn)程行為層面的惡意通信識別方法，面對不斷變化的網(wǎng)絡(luò )環(huán)境，探索具有可遷移性的檢測方法，實(shí)現通用識別惡意軟件通信的模型算法。

  4、“面向隱私保護的人臉偽造檢測與匿名化”，西安電子科技大學(xué)，彭春蕾

人臉數據在采集、傳輸、存儲和使用的各個(gè)環(huán)節都面臨隱私泄露的風(fēng)險。如何將人臉數據隱私進(jìn)行高質(zhì)量的匿名處理對于在公共安全、醫療問(wèn)診、新聞采訪(fǎng)、數據共享與發(fā)布等領(lǐng)域的安全應用具有重要意義。為此，本項目擬開(kāi)展面向隱私保護的人臉偽造檢測與匿名化研究，從互相對抗與協(xié)作的人臉偽造檢測和人臉匿名化任務(wù)出發(fā)，內容包括：（1）研究公開(kāi)視頻數據人臉偽造檢測；（2）在訓練數據隱私保護條件下研究非公開(kāi)視頻數據偽造檢測；（3）研究面向身份隱私保護的人臉匿名化生成；（4）探索匿名化人臉圖像識別方法。本項目的研究有助于保障信息安全、數據安全和隱私安全，探索安全可信的人臉真偽分析與匿名識別新模式。

  5、“網(wǎng)絡(luò )威脅語(yǔ)義表征與深度學(xué)習入侵檢測”，北京航空航天大學(xué)，王天博

  當前網(wǎng)絡(luò )空間面臨多途徑、多樣性、多目標期望的攻擊威脅，借鑒本體論方法和深度學(xué)習技術(shù)，本課題圍繞表征計算網(wǎng)絡(luò )威脅和提高入侵檢測性能的需求，研究網(wǎng)絡(luò )威脅形式化表示方法，建立網(wǎng)絡(luò )威脅概念語(yǔ)義模型，實(shí)現對網(wǎng)絡(luò )威脅的準確界定；研究網(wǎng)絡(luò )入侵數據的高度重疊問(wèn)題的緩解方法，解決網(wǎng)絡(luò )正常數據與異常數據重疊分布難以分類(lèi)問(wèn)題；研究網(wǎng)絡(luò )入侵數據不平衡問(wèn)題的消除方法，提升數據分布的均衡程度，引入全連接網(wǎng)絡(luò )二次檢測框架，提高模型檢測性能；研究網(wǎng)絡(luò )入侵數據多類(lèi)型特性的特征融合方法，結合深度學(xué)習神經(jīng)網(wǎng)絡(luò )和特征融合方法，實(shí)現不同類(lèi)型數據的分類(lèi)學(xué)習和關(guān)聯(lián)分析。相比傳統入侵檢測技術(shù)，預期成果能夠提高應對多樣化智能攻擊的檢測能力。

上海市計算機軟件評測重點(diǎn)實(shí)驗室

2022年3月25日