妙鸭相机爆火之下，AI写真的安全问题怎么办？

2023-07-27 13:47

文/陈根

近日，“妙鸭相机”爆火。

作为一款AI写真小程序，我们只要通过这个小程序，上传一定数量的照片，选择好模版，就可以一键生成AI风格化写真，包括肖像照、艺术照、证件照等。

虽然首次生成需要支付9.9元的数字分身制作费，不过，相比动辄几百上千的摄影工作室约拍价格，9块9几乎是可以“无脑冲”的程度。妙鸭相机在爆火的同时，也引发了人们对于AI写真的伦理与安全问题的担忧。

AI写真面临的伦理与安全问题之所以会被关注，核心原因就在于基于AI的技术进入了真正落地应用的阶段，不论是写真，还是医疗，或者是文本，都会面临安全与伦理的问题。但AI写真的安全与伦理问题相对比较急迫，不仅牵涉到潜在的诈骗问题，更会牵涉到借助于AI生成技术导致的一些照片与小视频换脸问题。

同时，在AI写真技术目前，肖像权的保护与个人肖像隐私，以及基于人脸识别系统的一些安全措施都将面临着根本性的挑战。尤其是包括妙鸭在内的各种AI照片写真与合成技术，对于用户而言在使用之前更重要关注的是这些平台数据的安全保护措施。

对于拥有这些人像生成AI技术的平台而言，当前首先考虑的并不是商业化的问题，而是如何保障用户数据库的安全，这些数据库的安全不仅牵涉到用户隐私安全，还牵涉到国家安全层面。

因此，我们看到白宫在前几日紧急召集AI巨头企业到白宫商议对策。这让我们看到了正在到来的人工智能时代，人类社会已经有了明确的基本共识，就是要借助于技术的约束来让AI技术服务于人类，让AI成为人类社会的效率提升工具。要借助于有效的技术方式，保障AI在安全与可控的伦理范围内发展。

AI巨头在白宫的压力下，提出了八项技术的安全措施。这可以说是全世界所有从事于AI开发与训练企业需要学习的地方，就是在追求AI技术发展的同时，必须要考虑对AI技术的监管，以及要考虑AI万一偏离设想后的风险管控与干预。

训练AI服务于人类社会很难，但是如何再AI自我学习的情况下，能够管控AI不偏离服务人类社会的这个设想更难。

原文标题 : 陈根：妙鸭相机爆火之下，AI写真的安全问题怎么办？

声明： 本文由入驻维科号的作者撰写，观点仅代表作者本人，不代表OFweek立场。如有侵权或其他问题，请联系举报。

共0条评论，0人参与

登录登录即可访问所有OFweek服务

请输入评论内容...

请输入评论/评论长度6~500个字

暂无评论

图片新闻