发布时间：2024-04-22 来源：网络
转自：中国经济周刊
《中国经济周刊》记者 宋杰|上海报道
近期，来自上海一家企业开发的小程序“妙鸭相机”因为其高识别度而迅速走红。花9.9元就能拥有4款发型的“数字分身”，选择其中之一与现有身体模板合成，就能拥有美丽的相片。虽然目前上线的身体模板并不多，但由于该软件识别、还原度较高，且收费不算贵，因此在朋友圈迅速流行。
此外，以“AI孙燕姿”“AI王菲”也正成为短视频平台新一轮的流量密码。同时，能以假乱真、掩人耳目的AI技术因在民事方面易引发肖像权等侵权行为，刑事方面易引发诈骗罪、侵犯公民个人信息罪等，引发了不少争议。记者查阅中国裁判文书网后发现，从2022年8月至今年4月，共有12起由“AI换脸”引发的民事诉讼。
体验：想要得到“完美”数字分身，记者上传了60张照片“像是像的，就是PS得很厉害，脸型不太像，五官像，我付了9.9元，在线上排了9小时的队。”热爱拍美照的葛女士对《中国经济周刊》记者说，“朋友圈里不知道的同事还问我是哪里拍的写真，AI感不强，因为变高清及下载都要额外费用，所以我又忍不住充了钱。”
《中国经济周刊》记者实测后发现，系统要求最少上传20张人像照片，上传的照片分为“达标”“超棒”“完美”三个等级，为达到“完美”等级，记者前后共上传了60张照片，最终成功“换脸”，通过细节调整进一步生成写真，想要高清及下载，还需要充值购买“钻石”。
通过测试，《中国经济周刊》记者感觉古装的造型与本人差距较大，想联系人工客服退款，通过小程序始终无人应答。
除了“像或不像”的问题之外，其背后的AI技术也引发了部分用户对隐私泄露的担忧。有网友质疑妙鸭相机之前的用户协议。
第一版的隐私协议是这样表述的：“您特此授权我方在全世界（包括元宇宙等虚拟空间）范围内享有永久的、不可撤销的、可转让的、可转授权的、免费的和非独家的许可，使得我方可以任何形式、任何媒体或技术（无论现在已知或以后开发）使用您的内容”。
7月20日，妙鸭相机通过官方微博发布公告称：已经收到用户关于妙鸭用户协议的反馈，原协议内容有误，已进行了修改。妙鸭相机同时承诺，消费者上传的照片只会用于数字分身制作，不会提取也不会用于识别和其他用途，且分身制作完成后自动删除。
在该条微博评论留言中，妙鸭相机回复网友时表示，即将上线注销功能，用户可以自主选定是否要清除自己妙鸭的所有数据信息，同时，新版隐私协议已向包括已签署过的老用户在内的全体用户发起新版协议签署流程。
7月26日，上海市消保委发布《太霸道，网红妙鸭相机不支持退款，连上海市消保委也找不到这家公司》称，“上海市消保委微信团队的工作人员翻完该小程序的服务协议，并没有找到退款相关条款。唯一跟退款相关的只有在支付下方的：一旦购买成功，不支持退款。上海市消保委认为，此项协议涉嫌侵害消费者的公平交易权。”
7月27日，妙鸭相机运营方未序网络科技公司表示目前妙鸭相机在微信公众号端已设有客服入口，但由于团队处于创业初期，客服人员配置不足给用户造成了不便。对此，公司表示深感歉意，并承诺将尽快增加客服人员，同时增加小程序端客服入口，以畅通与用户的沟通渠道，高效处理用户反馈问题。
一旦有纠纷，法院怎么判？
记者通过查询关键词“AI换脸”查阅中国裁判文书网后发现，已经有不少此类案件，最终法院判决的赔偿金在1000-8000元不等。
比如：在上海金山区人民法院的一起关于肖像权纠纷的《民事判决书》中这样写道：“被告在原告未授权同意的情况下，在其运营的‘xxx’换脸软件中的‘古风汉服’栏目里，上传以原告肖像为原内容的视频提供给用户换脸使用而非法牟利。被告通过AI换脸技术，将该视频开放给众多用户分享并允许用户通过购买成为被告的会员后，自行制作‘换脸’后的视频以达到使用该软件的核心功能的目的。”最终，除被告需道歉外，法院裁定被告赔偿原告5200元。
北京德和衡（上海）律师事务所高级联席合伙人娄鹤接受《中国经济周刊》记者采访时说，以妙鸭相机为代表的AI换脸应用程序，给用户带来了趣味和创意，但也存在一些潜在的风险和隐患，其中最主要的问题涉及个人信息保护和数据安全。
他分析道，根据《民法典》第一千零一十八条：“肖像是通过影像、雕塑、绘画等方式在一定载体上所反映的特定自然人可以被识别的外部形象。”这表明肖像权的范围并不仅限于人的面部特征，还包括佩戴口罩、侧面、形体动作等，只要能够识别特定自然人的外部形象都受到肖像权的保护。《民法典》明确了侵犯肖像权的具体行为，其中包括未经肖像权人同意，丑化、污损、或者利用信息技术手段伪造等方式侵犯他人的肖像权，例如使用AI换脸技术。
“我国的侵害肖像权的责任方式主要是民事责任方式。该民事责任方式包括停止侵害、消除影响、赔礼道歉、赔偿损失。”娄鹤对记者说。
娄鹤说，在我国的司法实践中，即使侵权人不以营利为目的，只要存在恶意毁损、玷污、丑化公民的肖像，或利用公民肖像进行人身攻击等，也被认定为属于侵害肖像权的行为。因此，“以营利为目的”，并不是决定是否存在侵犯公民肖像权的唯一前提和要件。在“AI换脸”案件中，软件公司通常都是商业运营的主体，并以获取流量或销售服务为目的，通常被认定为侵权主体。如果通过“AI换脸”，尤其是利用一些明星、名人效应“吸粉”，通过互联网传播换脸后的图文、视频等，导致他人社会评价受损，则可能侵犯他人的名誉权。
近期，七部门联合公布《生成式人工智能服务管理暂行办法》，自2023年8月15日起施行，其中就有许多关于“个人信息安全保护”的条款。出台该《办法》，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。
娄鹤认为，对于企业而言，在利用AI技术提供服务时，应该提高合法合规意识，确保数据处理和信息生成的合法性、正当性和规范性，采取措施来落实个人信息保护的要求，提前进行风险评估，加强消费者权益保护。
同时，娄鹤建议，消费者在使用AI类产品和服务时，为了最大程度减少风险隐患，应注意以下几点：要有风险防范意识，注重个人信息和隐私保护；在使用前仔细阅读用户协议和隐私政策，了解服务方对个人数据的处理和保护；选择可信赖的服务提供商，确保其具备良好的安全措施和合规性；尽量避免上传过于敏感的个人照片或信息；如果发现个人信息泄露或侵权事件，要积极主动维权。
责编：郭霁瑶
