上传照片引风险争议，隐私安全如何保证

就在很多用户分享着这份“9.9元带来的快乐”时，也有人担忧“隐私安全问题”。“使用此类软件安全吗？”“我的照片真的只是用于AI图像生成吗？”有用户更是在照片生成后产生了顾虑，毕竟此前利用AI换脸进行诈骗的事件频频发生。于是，伴随AI写真产品热度上升，越来越多的用户也对其提出了质疑。

【资料图】

当上传照片后，隐藏风险并不少

风险 1

在用户不知情下将照片进行转卖和传播

有细心用户留意到，“妙鸭相机”一开始在用户服务协议中写道：“您特此授权我方在全世界（包括元宇宙等虚拟空间）范围内享有永久的、不可撤销的、可转让的、可转授权的、免费的和非独家的许可，使得我方可以任何形式、任何媒体或技术（无论现在已知或以后开发）使用您的内容”，并指出，“包括但不限于使用AI生成内容作为再训练数据等”。

这意味着一旦用户上传了自己的照片，即允许平台对照片和生成的图片内容进行任何处理，甚至可能在用户不知道的情况下将照片进行转卖和传播，还会成为平台“喂AI”的数据原料。不少用户担心自己的肖像权和隐私问题，纷纷吐槽平台的无理条款。

上述协议引发质疑后，“妙鸭相机”在公众平台发布协议修改公告，新公告中删除了“无限授权许可”的相关条款，更改为“上传的照片将仅被用于本服务使用，我们仅提供图像处理服务，不会提取识别信息，不会用于识别用途，服务完成后，系统将自动删除上述信息”“AI生成内容的所有权归用户所有”。

风险 2

存在可以冒用他人照片使用的可能性

此外，新快报记者在使用时发现，对于是否为本人照片，软件目前的机制尚未严格界定，存在可以冒用他人照片使用的可能性。记者随机下载了一张网络上他人的正面照片测试，短短几十秒内便通过了“正面照片”的审核，且审核期间没有盗用他人照片的风险提示。

随后，新快报记者联系到“妙鸭相机”官方客服，对方回应“隐私协议第11条有规定，使用他人照片需得到他人授权”“平台不鼓励这种行为”，记者追问其实际发生后如何处理这类情况，则得到了“需要承担相应法律责任”的回复。

风险 3

被山寨、被点名……“妙鸭相机”是非多

正所谓，人红是非多。平台也逃脱不了同样的命运。有眼尖的消费者注意到，“妙鸭相机”在付款的界面写道：“本服务购买后即刻生效，一旦购买成功，不支持退款。”对此，上海市消保委点名批评，“妙鸭相机”在付款页面以灰色小字标注的“一旦购买成功，不支持退款”涉嫌侵害消费者的公平交易权。随后，“妙鸭相机”官方回应称，“妙鸭相机”提供的是基于算力的服务，因此照片生成后即视为服务完成。不过如果因为技术问题，造成数字分身生成失败，可以退款，而且免费再次生成。

值得一提的是，自“妙鸭相机”上线后，仅一周的时间，“妙鸭相机”团队发布公告，近期网络上出现多个假冒“妙鸭相机”的产品、仿造“妙鸭相机”官方渠道的账号、软件和小程序，给消费者造成严重的信息安全隐患。

应对

新规出炉 为隐私保护保驾护航

事实上，生成式人工智能服务已引起监管机构的关注。针对生成式人工智能服务，国家网信办等多部门于7月13日公开的《生成式人工智能服务管理暂行办法》指出，“生成式人工智能服务提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录”。这一管理暂行办法将自2023年8月15日起施行。

为规范人脸识别技术应用，国家网信办于2023年8月8日就《人脸识别技术应用安全管理规定（试行）（征求意见稿）》公开征求意见。征求意见稿提出，只有在具有特定的目的和充分的必要性，并采取严格保护措施的情形下，方可使用人脸识别技术处理人脸信息。

【行业观察】

如何保护个人隐私？需各方配合

广州市政协委员、广东诺臣律师事务所高级合伙人郑子殷律师表示，《生成式人工智能服务管理暂行办法》对生成式人工智能服务的服务规范、监督检查和法律责任均进行了规定，服务规范中明确了提供生成式人工智能服务的提供者如何规范提供服务，当发现违法的用户时应当承担什么责任，例如依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。因此，在使用生成式人工智能时，如何保护个人隐私需要各方的配合。

对于容易泄露的个人信息，包括肖像、姓名、身份证号码、地址、手机号、密码等，要如何做好保护？在郑子殷律师看来，大数据时代，数据化、网络化、智能化生活已经涉及到日常生活的方方面面，个人信息无可避免运用到网络当中。尽管当前我国法律中民法典有关于个人信息保护的专门条款，也有个人信息保护法等相关法律法规保护，但在现实生活中，个人也要做好对个人信息的保护，例如：不轻易点击社交软件中不明来源的链接；不扫描没有安全保障的二维码；不要在陌生链接中填写个人信息等。

郑子殷认为，生成式人工智能技术在各行业、各领域应用，应当是生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。如何保障此类科技更规范地传播？他建议推动生成式人工智能基础设施和公共训练数据资源平台建设，推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。此外，生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动，使用具有合法来源的数据和基础模型；涉及知识产权的，不得侵害他人依法享有的知识产权；涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性。

AI类产品上线的审核和管理需加强

AI写真带来方便的同时也伴随着隐私风险，如何保障此类科技更规范地传播？华南师范大学教育信息技术学院院长、科技传播专家张学波表示，AI换脸、Al写真这些智能技术产品的出现，为用户提供了一种新的体验和趣味，以及多样化的产品选择，但也暴露了许多安全和隐私问题。

基于上述风险，政府监管部门要加强此类产品上线的审核和管理，保护用户的合法权益。对于产品平台企业，要自觉遵守相关法律法规，保护用户隐私和数据安全。对于用户，应该提高自身警惕，在使用这些智能产品之前，必须仔细阅读相关条款，了解自己的权利和义务，并采取相应的防范措施，以避免不必要的损失。

统筹：新快报记者 梁贤安 

采写：新快报记者 梁贤安 杨喜茵 

图片：VCG（部分为网上截图）

关键词：