正因如此，刘耀文也认为:“人们的担忧是合理的，最大的问题可能就是安防方面，还有侵权一类的问题。这种换脸软件应用可能会造成用户侵犯名人的权利，还有用户的个人信息归平台所有了，生物信息让度出去了是最大的一个风险，因为软件的合约条款里规定了合理使用和永久授权，无法判断他们会用我们的信息干什么。”

　　不仅如此，业内专家还表示，这款应用的出现意味着AI深度换脸技术使用门槛大幅度降低，相关伪造影音视频被不法分子利用时，将对国家安全、新闻舆论、公众安全、刑事审判、政府通信等领域带来众多难以预测的风险。

　　首先，从国家安全层面看，当高度逼真的伪造视频被恶意使用在国家领导人及其他关键人物身上，不仅会导致领导人形象受损，如果伪造领导人发出有悖于国家安全的政治观点或指令，将导致严重后果。虽然我国还未出现此类案例，但在美国，用于政党攻击、娱乐的换脸视频时常出现。如2018年4月，美国娱乐网站Buzzfeed发布了一条网友制作的换脸视频，当中，美国前总统奥巴马用他的声音和惯用动作讲了一段他从没说过的话。

　　其次，从舆论传播层面看，如果AI深度换脸技术制造的虚假视频与社交网络相结合，不仅会让假新闻更难鉴别，也会导致谣言的讯速传播。例如印度某记者曾因揭露印度古吉拉特暴乱中官员的黑幕和不作为，被人用AI换脸技术做成大量的道歉小视频，严重影响当地舆论走向。

　　最后，AI换脸技术对公众安全、刑事审判等也可能带来不同程度负面影响。例如，不法分子可利用图片、视频冒充他人跟另一个人聊天、交易，不仅危害他人隐私、财产安全，甚至生命安全也可能受到威胁。在司法机关调查取证、审判等阶段伪造出来的影音视频证据，也可能对司法程序产生干扰。

　　“核心风险就是个人信息安全问题，换脸软件一旦被滥用将会产生消极影响。研究者们应该遵循科技伦理，企业合规和风控部门应当加强法律风险的审查，政府部门应当加强监管，行业组织加强自律，公民积极投诉举报。”郑宁说。（赵丽）