KDD 2020最佳論文獎出爐!谷歌、北航獲獎
最佳學生論文獎
獲獎論文:《TIPRDC: Task-Independent Privacy-Respecting Data Crowdsourcing Framework for Deep Learning with Anonymized Intermediate Representations》

簡介:深度學習的成功部分得益于各種大規模數據集的可用性。這些數據集通常來自個人用戶,并且包含諸如性別、年齡等隱私信息。用戶對數據共享的隱私擔憂阻礙了眾包數據集的生成或使用,并導致對新的深度學習應用程序的訓練數據的渴求。一個自然的解決方案是在用戶端對原始數據進行預處理以提取特征,然后只將提取的特征發送到數據采集器。不幸的是,攻擊者仍然可以利用這些提取的特征訓練對抗分類器來推斷私有屬性。一些現有技術利用博弈論來保護私有屬性。然而,這些防御措施是針對已知的初級學習任務設計的,提取的特征對于未知的學習任務效果不佳。
為了解決學習任務未知或變化的情況,作者提出了一種基于匿名中間表示的任務無關隱私的數據眾包框架 TIPRDC。該框架的目標是學習一個特征抽取器,它可以隱藏中間表征中的隱私信息,同時最大限度地保留原始數據中嵌入的原始信息,供數據采集器完成未知的學習任務。
作者設計了一種混合訓練方法來學習匿名中間表示:(1)針對特征隱藏隱私信息的對抗性訓練過程;(2)使用基于神經網絡的互信息估計器最大限度地保留原始信息。他們廣泛地評估了 TIPRDC,并將其與使用兩個圖像數據集和一個文本數據集的現有方法進行了比較他們的結果表明,TIPRDC大大優于其他現有的方法。本文的工作提出了第一個任務獨立隱私尊重數據眾包框架。
Ang Li


論文第一作者 Ang Li 是杜克大學電子和計算機工程系的一名在讀博士,導師為陳怡然和 Hai "Helen" Li 教授。Ang Li 曾在2013 年獲得北京大學軟件工程碩士學位,2018 年獲得阿肯色大學計算機科學博士學位。
最佳論文亞軍
來自弗吉尼亞大學的 Mengdi Huai、Jianhui Sun、Renqin Cai、Aidong Zhang 和來自紐約州立大學布法羅分校的 Liuyi Yao 獲得了最佳論文獎的亞軍,獲獎論文是《Malicious Attacks against Deep Reinforcement Learning Interpretations》。

簡介:近年來,深度強化學習(DRL)得到了迅速的發展,它是深度學習和強化學習(RL)相結合的產物。然而,深度神經網絡的采用使得DRL決策過程不透明,缺乏透明度。基于此,人們提出了各種 DRL 解釋方法。然而,這些解釋方法隱含著一個假設,即它們是在可靠和安全的環境中執行的。在實踐中,順序 agent-環境交互將 DRL 算法及其相應的下游解釋暴露在額外的對抗性風險中。盡管惡意攻擊盛行,但目前還沒有研究針對 DRL 解釋的惡意攻擊的可能性和可行性。
為了彌補這一差距,本文研究了 DRL 解釋方法的脆弱性。具體來說,作者首先介紹了針對DRL解釋的對抗性攻擊的研究,并提出了一個優化框架,在此基礎上可以得到最優的對抗攻擊策略。此外,作者還研究了 DRL 解釋方法對模型中毒攻擊的脆弱性,并提出了一個算法框架來嚴格描述所提出的模型中毒攻擊。最后,作者進行了理論分析和大量實驗,以驗證所提出的針對 DRL 解釋的惡意攻擊的有效性。
這篇論文將深度學習和強化學習結合(DRL),并證明了其在眾多序列決策問題中動態建模的能力。為了提高模型的透明度,已經有研究提出了針對 DRL 的各種解釋方法。但是,這些 DRL 解釋方法隱式地假定它們是在可靠和安全的環境中執行的,但在實際應用中并非如此。弗吉尼亞大學的研究團隊調查了一些 DRL 解釋方法在惡意環境中的漏洞。具體而言,他們提出了第一個針對 DRL 解釋的對抗性攻擊的研究,提出了一個優化框架來解決所研究的對抗性攻擊問題。
Mengdi Huai


Mengdi Huai 是弗吉尼亞大學的博士生。她的研究興趣主要是數據挖掘和機器學習。特別是,我對可解釋機器學習、對抗性機器學習、隱私保護數據挖掘、深度強化學習、元學習、成對學習和醫療數據挖掘感興趣。
請輸入評論內容...
請輸入評論/評論長度6~500個字
最新活動更多
- 1 AI狂歡遇上油價破百,全球股市還能漲多久? | 產聯看全球
- 2 OpenAI深夜王炸!ChatGPT Images 2.0實測:中文穩、細節炸,設計師慌了
- 3 6000億美元估值錨定:字節跳動的“去單一化”突圍與估值重構
- 4 Tesla AI5芯片最新進展總結
- 5 連夜測了一波DeepSeek-V4,我發現它可能只剩“審美”這個短板了
- 6 熱點丨AI“瑜亮之爭”:既生OpenClaw,何生Hermes?
- 7 AI界的殺豬盤:9秒刪庫跑路,全員被封號,還繼續扣錢!
- 8 2026,人形機器人只贏了面子
- 9 DeepSeek降價90%:價格屠夫不是身份,是戰略
- 10 AI Infra產業鏈卡在哪里了?


分享













