商湯科技與北京航空航天大學合辦CVPR 2022 AI安全挑戰賽

為了推動安全可靠AI模型相關的技術研究與人才培養，人工智能軟件公司商湯科技聯合北京航空航天大學、上海人工智能實驗室於CVPR 2022大會共同發佈，面向技術開發者和在校學生的科技競賽活動「面向複雜場景的魯棒機器學習大賽 (Robust Models towards Open-world Classification) 」，鼓勵研究者打造更安全、更可靠的AI。

大賽由CVPR2022 Workshop：The Art of Robustness: Devil and Angel in Adversarial Machine Learning轄下舉辦，匯聚來自全球計算機視覺、機器學習與智能安全領域的專家學者，圍繞對抗機器學習的最新進展和發展展開研討與分享，以推動安全可信人工智能技術進步。

雙賽道對抗競賽 聚焦開放世界場景

比賽於2022年3月正式開賽，目標讓參與者發揮創新思維與創新能力，開發以數據為中心的新算法，例如數據增強、標籤細化、製作對抗性數據，甚至設計來自其他領域的知識融合算法、數據集，加速圖像分類中的對抗性魯棒性 (Robustness) 技術研究，藉此更好地訓練高效穩定的機器學習模型。

為了加速開放世界場景下的魯棒模型研究，本次比賽鼓勵研究者開發面向開放世界的對抗防禦算法，在面對多種對抗攻擊算法和真實世界中的各種場景，以及在測試類別不確定等因素下，探索魯棒模型的生產方式，促進魯棒防禦模型的發展。

本次比賽共設兩條賽道，第一賽道為「分類任務防禦模型競賽」，目標是獲得魯棒性好的模型，可以適應各種各樣的攻擊樣本。第二賽道為「OpenSet對抗噪聲檢測模型」，目標是對對抗攻擊產生的對抗樣本做區分。

比賽詳情可參閱大賽官網：aisafety.sensetime.com

建立AI安全平台技術體系 持續推動技術發展

隨著人工智能技術進一步發展，用戶和業界對於對抗安全、模型魯棒性等問題的關注度持續提升。本次大賽由商湯科技和北京航空航天大學劉祥龍教授團隊合作舉辦，團隊多年來鑽研人工智能安全領域，在對抗攻防、模型評測和可解釋理論方面成果豐碩，在國內外均具有一定影響力。比賽還得到了OpenI啓智新一代人工智能開源開放平台的資源協助和大力支持。

至於商湯科技一直秉持平衡發展的AI倫理觀，很早就啓動了相關研究和佈局，針對對抗安全、模型魯棒性以及隱私保護等問題，建立和完善了AI安全平台技術體系，推動人工智能更安全、更公平、更可持續性地發展。

在數據安全及保護方面，商湯科技更是第一家獲得全部三項ISO/IEC隱私信息管理系統、信息安全管理和個人身份信息保護認證的人工智能公司。同時，商湯科技還通過基於真實場景下的數據集的算法驗證與評測，圍繞「AI算法的數據隱私保護」、「AI 算法的魯棒性」、「AI算法的公平性」等多個方面從產品源頭確保人工智能算法的可信品質。