侵权投诉
订阅
纠错
加入自媒体

AI换脸时代,当心换掉你的安全!

从先前的P图,到如今的换脸,人工智能飞速发展,在方便人们生活的同时,也增添了很多乐趣。AI换脸一时爽,但是欢乐背后带来的往往是更深的警惕:技术的更新换代,最终也将释放人性阴暗的一面。

AI换脸背后映射巨大的网络安全问题

首先,AI 换脸面临的一大风险,是对信息真实性的严峻挑战。俗话说“耳听为虚,眼见为实”,实时监控早已成为现实中记录事件真相的重要手段,在监控摄像头的保护下,我们活得越来越安全似乎已经变成共识。然而,随着AI换脸技术的发展,监控视频开始面临被篡改影像的风险,在本来就假消息满天飞的互联网时代,这无疑将造成更严重的信任崩塌。或许未来某一天,任何人发布或者引用的资料,都有可能被大众质疑其真实性,而比这更可怕的是,我们尚不自知自己是否正在被欺骗。

其次,AI换脸也会大大增加侵犯肖像权的可能性,让任何一个人成为这项技术的攻击目标只是时间问题。和静态的ps修图不同,AI 是动态的换脸,从这个角度来说,其存在本身就是对肖像权的一种威胁。国外已有类似案例:过去两年,就有人通过这项技术,将好莱坞著名影星的脸叠加到其他演员身上,凭借“杜撰明星影片”而走红。换脸俨然已变成一种赤裸裸的“技术不法行为”,虽然后来类似的换脸视频遭到了封杀,但显然,“潘多拉的魔盒”已经被打开,包括ZAO等软件开始大行其道。

第三,随着AI换脸技术的大规模流行,AI变声也开始崭露头角。早些年谷歌就曾研究过AI变声的相关技术,虽只停留在论文层面。但国内厂商却是更为激进,不少研究输入法的厂商已开始将该项技术应用到产品中并尝试进行推广。在输入一段语音后,等待片刻即可生成特定音色和音调的语音,拟真程度可谓是相当出色。而与此同时,近年来借助AI语音构成的诈骗案也开始层出不穷,其中有就一项嫌烦利用人工智能模仿公司高层声音骗走1000万美元的案例。

第四,当今一些银行基于人工智能,推出人脸识别的网络支付转账系统来进行大额转账,目前这项技术看起来似乎很安全、很“完美”,但在AI变脸技术面前,或许也会成为最脆弱的安防技术

AI换脸技术不能一刀切

当然,AI 换脸技术也不能一棍子打死。不可否认的是,AI技术发展到当下阶段,在医疗、出行等各行各业也为用户带来更多希望和惊喜。例如《速度与激情 7》中的演员保罗 · 沃克在拍摄前意外去世,制作方利用替身+动态捕捉+CGI 动画的方式,把保罗的脸换在替身演员身上。这类技术让电影得以上映,也为艺术创作提供了更多的可能性、创造力及想象力。还有类似“AI复活张国荣”这种致敬作品在粉丝之间广为流传。甚至有人将自己逝去亲人的面容,使用同类技术,换在视频中,以此来缅怀先人。

AI应用是未来发展的大趋势,为了保护数据安全就“粗暴一刀切”全部封杀并不现实。

保护信息安全需要共同努力

为了规范AI换脸,防止技术被不当利用,社会各方需要共同努力:

·监管部门需要加强立法和监管,以适应社会发展要求;

·互联网平台需要建立防治虚假信息的机制,承担起监督和管理责任;

·企业和研究机构,不但需要在管理上完善各项保密制度,更需要通过开发有效的技术手段来识别虚假的AI信息以保护企业内部重要数据的安全;

·网络音视频信息服务使用者,应依法使用网络音视频信息服务,当自己的权利受到侵犯时应立即举报,维护个人的合法权益;

·公众应该及时了解技术发展的趋势,增加自身防骗意识和能力,在面对网络信息时,做到不信谣、不传谣。

结语:水能载舟亦能覆舟,AI只是一项技术,它的存在不分善恶,但使用该技术的人是有立场的。或许AI换脸这类技术正在以我们难以预见的方式发展、演变,但永远别忘了,它只是一个工具,背后操控它的,始终还是人心。

声明: 本文由入驻维科号的作者撰写,观点仅代表作者本人,不代表OFweek立场。如有侵权或其他问题,请联系举报。

发表评论

0条评论,0人参与

请输入评论内容...

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

安防 猎头职位 更多
文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号