免费久久国产&夜夜毛片&亚洲最大无码中文字幕&国产成人无码免费视频之奶水&吴家丽查理三级做爰&国产日本亚欧在线观看

“‘維科杯’·OFweek 2020（第五屆）人工智能行業年度評選”活動由高科技行業門戶OFweek維科網主辦，OFweek人工智能網承辦，活動旨在表彰人工智能領域具有突出貢獻的優秀產品、技術及企業，鼓勵更多企業投入技術創新；同時為行業輸送更多創新產品、前沿技術，一同暢享人工智能的未來。

2020人工智能行業年度評選“OFweek （5th．）  AI Awards 2020”將于2020年9月21日－10月10日進入網絡投票階段，頒獎典禮將于10月28日在深圳舉辦。

目前，活動正處于火熱的報名評審階段，業內企業積極響應。瑞萊智慧已正式參評“維科杯·OFweek2020（第五屆）人工智能行業優秀產品應用獎”。

瑞萊智慧RealAI是依托清華大學人工智能研究院設立的人工智能企業，是國內首家安全可控人工智能技術及行業解決方案提供商，先后推出RealBox魯棒機器學習平臺、RealSafe人工智能安全平臺等自研平臺以及更加安全可靠的行業解決方案，致力于建設安全可控人工智能應用新生態。

參賽產品／項目名稱：RealSafe人工智能安全平臺

推出年份：2020／04

開發背景：近年來，以機器學習尤其是深度學習為代表的人工智能技術的取得了快速發展與廣泛應用。然而，當前以數據驅動為代表的第二代人工智能技術還存在著巨大的安全風險，當前人工智能系統被入侵的風險主要是對抗樣本攻擊與模型攻擊。

（1）對抗樣本攻擊

對抗樣本（Adversarial Examples）是指在數據集中故意添加細微的干擾所形成的輸入樣本，會導致模型以高置信度給出錯誤的輸出，從而導致AI系統判斷失準。如圖1所示，通過對圖像添加微小的擾動，構造對抗樣本，從而欺騙在正常樣本上工作良好的深度學習圖像分類模型，被攻擊過的熊貓圖像被深度學習模型以高置信度認為是長臂猿。

圖1：對抗樣本

（2）模型攻擊

通過在訓練數據中添加少量投毒數據的方式在模型中埋藏后門，埋藏好的后門通過攻擊者預先設定的觸發器激發。在后門未被激發時，被攻擊的模型具有和正常模型類似的表現；當模型中埋藏的后門被攻擊者激活時，模型給出錯誤的輸出。如圖2所示，通過事先修改訓練數據在模型中埋藏后門，模型在正常樣本上表現正常，一旦遇到黃色像素塊、炸彈、花朵圖案作為觸發器后門被激發，就會將停車標志錯認為減速標志。

圖2：模型攻擊

為了提升人工智能系統的安全性，有效抵御對抗樣本攻擊、模型攻擊等風險，RealAI推出RealSafe 人工智能安全平臺，通過集成主流及獨有世界領先對抗樣本攻擊與防御、模型后門檢測算法，提供業界首個可視化零編碼模型安全測評及防御升級升級平臺。

核心技術介紹：

RealSafe人工智能安全平臺包括大功能模塊：模型安全評測、防御解決方案，支持用戶創建和管理自定義的數據集用于模型安全測評與防御升級。

模型安全評測模塊提供對抗樣本風險檢測與模型后門檢測兩大功能，在進行對抗樣本安全風險測評時，平臺將基于多種算法生成對抗樣本模擬攻擊，并綜合在不同算法、迭代次數、擾動量大小的攻擊下模型效果的變化，給出被測AI模型的安全評分及詳細的測評報告；在進行模型后門檢測時，平臺將通過高維空間搜索的方式，檢查模型是否存在后門，若存在后門，還支持還原出模型學習到的觸發器信息。

模型安全評測結果，用戶可自行選擇合適的防御方案，一鍵提升模型安全性。目前RealSafe平臺支持五種去除對抗樣本噪聲的通用防御方法，可實現對輸入數據的自動去噪處理，破壞攻擊者惡意添加的對抗噪聲。

RealSafe平臺提供從安全測評到防御加固整體解決方案，目前可用于發現包括人臉比對、圖像分類、目標檢測等應用場景下常用算法模型可能出錯的極端情形，同時也能預防潛在的對抗攻擊、模型惡意攻擊。

參評述說／理由：

在人工智能技術快速發展與廣泛應用的當下，人工智能安全問題變得尤為緊迫。雖然AI安全仍是一個新興領域，但對抗樣本、數據投毒等攻擊手段在開源社區、工具包的加持下變得愈發可實現，甚至于實質性的危害已經開始產生，但與之相對的，相關防御手段的普及和推廣卻一直沒有跟上，主要原因在于對抗樣本等安全攻防技術存在較高的技術壁壘，只有極少部分的頂尖算法人才掌握這部分的能力。在這一背景下，RealSafe平臺作為一款自動化檢測工具，大大降低了模型安全檢測與防御升級的技術難度，能夠幫助大部分不具備該領域專業技能的企業與組織高效應對日益增長的惡意攻擊，有效提升人工智能系統的安全性、可靠性。從這一角度來看，RealSafe平臺可以說是劃時代的顛覆性產品。

本屆“‘維科杯’·OFweek 2020（第五屆）人工智能行業年度評選”活動將于9月21日進入網絡投票階段，歡迎各位踴躍投票！