AI的伦理问题

作为一位AI科学家，陶大程博士对于技术的伦理问题非常关注。他认为需要尽快建立AI医学应用的伦理管理规范和法律问责机制，以及对可能的伦理和法律的挑战。目前来说，AI的伦理还是一个开放性话题，如何保证AI做出符合伦理道德的决策需要进一步的探索。

随着技术的不断增强，AI已经开始产生一些社会问题了。基于AI的无人驾驶车辆，上路的基本要求是能够识别路牌。

中国，还有世界上不少国家都有贴小广告的习惯。我们想象一下，把一个小广告贴到路牌上，这样一个简单的改变就能够攻击无人驾驶系统。比如，在代表停止的路牌上贴上一个小广告，无人驾驶系统就会把它误判为百公里每小时，这是非常危险的。

另外，因为理论的不完善，AI也有很多的不稳定性。比如，AI在图像识别的时候会把黑猩猩误识别成人，这会引起种族的问题。还有AI的公平性和可解释性，比如黑盒算法——我们并不清楚算法为什么做出某一个决定。这些都跟人工智能的伦理道德相关。

陶大程博士认为这不仅仅是研究AI的科学家和医生的问题，还应该包括政府、社会学家等多方面的专业人士。大家共同探讨如何建立在特定领域的AI伦理道德的管控，保证AI的实践，不会产生伦理道德的问题，或者尽量避免产生这样的问题，让AI更好的为人类服务。

AI如何解决落地难的困境？

对于这个问题，陶大程博士认为需要从几个方面来考虑。

首先，医疗AI企业需要和医院、健康中心和保险公司建立多方面的共赢合作来探索医疗AI商业落地的几种模式。最终，行业还是需要市场的力量来刺激AI的落地。

其次，政府和医院需要建立起安全的数据开放和共享模式，同时也要保证用户的隐私。只有行业共同努力才能降低医疗数据的获取难度。在保证数据安全的基础上建立标准数据库，提升医疗数据的数量和质量，医疗AI企业才能够去提升产品的可用性。

第三个方面则是在AI技术层面。我们需要去考虑设计有效的联邦学习模型来应对目前构建大规模数据库比较困难的局面。很多时候，数据共享非常困难，需要考虑是不是有其他的人工智能技术来解决这样的问题。

联邦学习能够有效地保护用户的隐私不受侵犯，能够协助医疗AI企业训练出有效、稳健其具有解释性的模型。这样的模型才会得到医生的信任。

第四个方面则是审批监管部门。审批监管部门应该建立系统性的AI测试方案和验收标准来推动医疗AI产品的安全认证。目前，CFDA将AI影像辅助诊断软件列入风险较高的三类医疗器械。

陶大程院士认为尽管这意味着临床实验的控制非常严格，但从另外一方面而言对于保证AI+医疗产品的安全性和有效性是非常重要的。

写在最后

在陶大程博士看来，即使很多传统的、有着几百年历史的学科，如数学、物理和化学，还有很多悬而未决的基础问题，作为一个仅有半个世纪历史的新兴学科——人工智能，更加需要我们不断投入，奋勇直前。尽管今天的人工智能没有取代人类、甚至还依然处在弱人工智的状态，但是每一次AI的兴起都为我们带来了技术的革新，提升了我们的生产力、改善了我们的生活。

有了深度学习的支撑，今天的AI能够做很多过去我们不敢想的事情。虽然今天的人工智能还只是小狮子辛巴，但是我们有理由相信，未来辛巴一定会成为森林之王，成为有效的使能技术赋能医疗健康以及各行各业。

陶大程简介

悉尼大学工程学院教授、澳大利亚科学院院士、优必选悉尼大学人工智能中心主任、优必选AI首席科学家。

陶大程2015年荣获澳大利亚尤利卡（Eureka）奖（该奖有着澳洲科学界的奥斯卡的美誉）；2016年当选欧洲科学院外籍院士（Academia Europaea）；2017年荣获澳大利亚基金委桂冠教授；2018年，陶大程以其在人工智能领域，包括计算机视觉、机器学习及相关应用方面所做出的卓越贡献，入选澳大利亚科学院院士；同年荣获IEEE ICDM研究贡献奖（该奖项是全球数据挖掘研究领域的最高奖项之一，专门表彰在这一领域拥有深远影响力的学术成就与贡献的个人或群体）。

陶大程的主要研究方向是表征学习，这是人工智能领域非常重要的研究方向之一。包括多视角学习、多标签学习、多任务学习、迁移学习等。这些研究成果被广泛应用于计算机视觉、图像处理以及生物识别技术等领域。

文 ｜ 陈鹏

网站、公众号等转载请联系授权