最佳学生论文奖

获奖论文：《TIPRDC： Task－Independent Privacy－Respecting Data Crowdsourcing Framework for Deep Learning with Anonymized Intermediate Representations》

简介：深度学习的成功部分得益于各种大规模数据集的可用性。这些数据集通常来自个人用户，并且包含诸如性别、年龄等隐私信息。用户对数据共享的隐私担忧阻碍了众包数据集的生成或使用，并导致对新的深度学习应用程序的训练数据的渴求。一个自然的解决方案是在用户端对原始数据进行预处理以提取特征，然后只将提取的特征发送到数据采集器。不幸的是，攻击者仍然可以利用这些提取的特征训练对抗分类器来推断私有属性。一些现有技术利用博弈论来保护私有属性。然而，这些防御措施是针对已知的初级学习任务设计的，提取的特征对于未知的学习任务效果不佳。

为了解决学习任务未知或变化的情况，作者提出了一种基于匿名中间表示的任务无关隐私的数据众包框架 TIPRDC。该框架的目标是学习一个特征抽取器，它可以隐藏中间表征中的隐私信息，同时最大限度地保留原始数据中嵌入的原始信息，供数据采集器完成未知的学习任务。

作者设计了一种混合训练方法来学习匿名中间表示：（1）针对特征隐藏隐私信息的对抗性训练过程；（2）使用基于神经网络的互信息估计器最大限度地保留原始信息。他们广泛地评估了 TIPRDC，并将其与使用两个图像数据集和一个文本数据集的现有方法进行了比较他们的结果表明，TIPRDC大大优于其他现有的方法。本文的工作提出了第一个任务独立隐私尊重数据众包框架。

Ang Li

论文第一作者 Ang Li 是杜克大学电子和计算机工程系的一名在读博士，导师为陈怡然和 Hai ＂Helen＂ Li 教授。Ang Li 曾在2013 年获得北京大学软件工程硕士学位，2018 年获得阿肯色大学计算机科学博士学位。

最佳论文亚军

来自弗吉尼亚大学的 Mengdi Huai、Jianhui Sun、Renqin Cai、Aidong Zhang 和来自纽约州立大学布法罗分校的 Liuyi Yao 获得了最佳论文奖的亚军，获奖论文是《Malicious Attacks against Deep Reinforcement Learning Interpretations》。

简介：近年来，深度强化学习（DRL）得到了迅速的发展，它是深度学习和强化学习（RL）相结合的产物。然而，深度神经网络的采用使得DRL决策过程不透明，缺乏透明度。基于此，人们提出了各种 DRL 解释方法。然而，这些解释方法隐含着一个假设，即它们是在可靠和安全的环境中执行的。在实践中，顺序 agent－环境交互将 DRL 算法及其相应的下游解释暴露在额外的对抗性风险中。尽管恶意攻击盛行，但目前还没有研究针对 DRL  解释的恶意攻击的可能性和可行性。

为了弥补这一差距，本文研究了 DRL 解释方法的脆弱性。具体来说，作者首先介绍了针对DRL解释的对抗性攻击的研究，并提出了一个优化框架，在此基础上可以得到最优的对抗攻击策略。此外，作者还研究了 DRL 解释方法对模型中毒攻击的脆弱性，并提出了一个算法框架来严格描述所提出的模型中毒攻击。最后，作者进行了理论分析和大量实验，以验证所提出的针对 DRL 解释的恶意攻击的有效性。

这篇论文将深度学习和强化学习结合（DRL），并证明了其在众多序列决策问题中动态建模的能力。为了提高模型的透明度，已经有研究提出了针对 DRL 的各种解释方法。但是，这些 DRL 解释方法隐式地假定它们是在可靠和安全的环境中执行的，但在实际应用中并非如此。弗吉尼亚大学的研究团队调查了一些 DRL 解释方法在恶意环境中的漏洞。具体而言，他们提出了第一个针对 DRL 解释的对抗性攻击的研究，提出了一个优化框架来解决所研究的对抗性攻击问题。

Mengdi Huai

Mengdi Huai 是弗吉尼亚大学的博士生。她的研究兴趣主要是数据挖掘和机器学习。特别是，我对可解释机器学习、对抗性机器学习、隐私保护数据挖掘、深度强化学习、元学习、成对学习和医疗数据挖掘感兴趣。