1987WEB视界-分享互联网热门产品和行业

您现在的位置是:首页 > 人工智能AI > 正文

人工智能AI

9.9元生成AI写真,小程序妙鸭相机走红,用户人脸隐私谁来保护?

1987web2023-08-10人工智能AI108
生成式AI技术正在改变更多行业,当国内大模型产品在B端深入垂直行业时候,更靠近C端用户的小程序妙鸭相机,一经推出迅速走红。

生成式AI技术正在改变更多行业,当国内大模型产品在B端深入垂直行业时候,更靠近C端用户的小程序妙鸭相机,一经推出迅速走红。

近日,一款在线生成专业质感大片的AI相机妙鸭掌握了引爆社交圈的流量密码,只需9.9元,上传21张照片,用户可以生成一套可媲美天真蓝、海马体的AI写真,并可将图片上传微信朋友圈、微博等社交平台。

上线不足半月,秒鸭相机团队发布公告,近期网络上出现多个假冒妙鸭相机的产品、仿造妙鸭相机官方渠道的账号、软件和小程序,给消费者造成严重的信息安全隐患。同时,用户发现,随着使用人数增多,用户生成照片时间需等待数小时,妙鸭相机的火爆可见一斑。

火速蹿红之后,妙鸭相机遭遇隐私争议,争议背后,是网民对于个人隐私安全的担忧:用户上传的照片如何处理?应用方是否会将用户照片挪作他用?若上传的照片被用于AI模型训练,那用户的一些面部特征是否会出现在其他地方的生成图片?而这些不仅仅是妙鸭相机,也是更多需要上传照片的相机应用所面临的问题。

收费9.9元,数千人排队

近半年来,以ChatGPT为代表的大模型产品甚嚣尘上,国内企业也掀起百模大战,在此背景下,妙鸭相机于6月开始内测,打出的口号是让每个人拥有一个属于自己的AI摄影师。

打开妙鸭相机小程序,首先需要上传一张正面照片,随后补充至少20张照片,在该步骤,系统会提示照片是否达标,已上传照片的质量超过多少百分比的用户,用户可以选择补充更多照片,让数字分身效果更棒。上传照片后,用户需关注妙鸭相机公众号,完成付费流程,标准价是29.9元,限时特惠9.9元,一旦购买成功,不支持退款。

从用户的分享来看,上传照片后,用户可以得到不同风格的写真,如商务写真、时尚海报、证件照、旅游大片等,生成的照片均带有水印,想要下载高清照片或照片原图需支付额外费用。而当澎湃新闻试用该程序后,发现生成照片预计需要3小时25分钟,前面有1308人。

随着使用用户的增多,等待时间较长被付费用户诟病,用户对需上传21张照片、模板效果不是很好也略有不满。有网友指出在晚上高峰期间,曾碰到4000至5000人排队,等待时间需十几个小时,另有网友表示:美颜美到不像本人,但又依稀有本人的影子。

在的朋友圈,一位关注互联网行业的研究员分享了自己的三点体会:一是妙鸭相机后台算力算法应该一般,用时长、精度差;二是模板少,尤其对于男性而言,参与度低,但这应该是一个未来很好的应用场景;三是经过这一波走红,妙鸭积累了数据与收入,未来可以继续讲故事融资。

针对网友的声音,妙鸭相机曾在7月17日表示,写真的效果还远没达到团队的理想状态,会继续优化提香的能力;妙鸭相机并不是摄影师的敌人,将很快开启对摄影师邀请制的内测合作,通过妙鸭,摄影师可以将自己的风格和审美制作成模板,从而让更多人享受到他们的创意。

妙鸭相机的背后公司是谁?

天眼查APP显示,妙鸭相机的主体公司是成立于2006年的未序网络科技(上海)有限公司,该公司是一家从事软件和信息技术服务为主的企业,注册资本为5520万美元,其法定代表人张龙名下有多家公司,张龙也是优酷视频(西安)传媒科技有限公司的法定代表人、执行董事兼总经理;而未序网络科技(上海)有限公司的监事冯云乐也同时担任了多家阿里系公司的监事。

未序网络科技(上海)有限公司与阿里有何关系?一位阿里文娱方面人士告诉澎湃新闻:是(阿里)大文娱参投的创业团队。

据澎湃新闻了解,该创业项目组从今年1月开始做妙鸭相机,7月份完成妙鸭的1.0版本,随着妙鸭相机的走红,团队在开心的同时希望保持低调。

是否保障用户隐私和数据安全引发争议

妙鸭相机的走红,让用户再次讨论起AI软件所带来的风险问题。有安全研究员曾告诉澎湃新闻,类似于AI换脸软件从用户处获得的信息主要是肖像图片,从技术角度而言,它并不比其他上传照片的App有更多风险,但若该类软件向用户索取了更多的肖像使用授权,这意味着用户会暴露更多的风险。

对于妙鸭相机, 国内知名白帽子公司KEEN公司联合创始人、独立安全研究员宋宇昊告诉澎湃新闻,看一项应用是否正规,可以从两个方面来看,一是用户上传的照片是否会被存储、存储多久、照片和用户信息在传输和存储过程中,是否存在泄露风险;二是上传的照片是否会被用于AI模型训练

第一种情况,一旦由于外部攻击或内部不法人员导致泄露,那么用户的照片与相关的用户信息可能流入黑产,被用于针对性的诈骗,或者其他犯罪行为。第二种情况,如果用户的照片在用户不知情的情况下,被用于模型训练,那么用户的一些面部特征可能会出现在其他地方的生成图片中,这可能是用户不希望发生的。宋宇昊说。

澎湃新闻查看妙鸭相机的隐私政策发现,对于储存期限,隐私政策并没有直接给出明确的时间期限,而是我们只会在达成本政策所述目的所需的期限内保留您的个人信息,除非法律有强制的留存要求。

妙鸭相机指出,在中华人民共和国境内产生或收集的个人信息,存储在中国境内的服务器。除非取得用户的单独同意,或为了履行与用户订立的合同,或为了遵循法律法规规定的义务,应用方不会向境外提供用户的任何个人信息。

值得关注的是,此前有网友在社交平台指出,在妙鸭相机最初版本的用户协议中,用户需授权妙鸭相机在全世界(包括元宇宙等虚拟空间)范围内享有永久的、不可撤销的、可转让的、可转授权的、免费的和非独家的许可,使得妙鸭相机可以任何形式、任何媒体或技术(无论现在已知或以后开发)使用用户的内容。这一霸王条款引发网友不满。

对此,妙鸭相机团队7月20日发布回应:已经收到用户关于妙鸭用户协议的反馈,原协议内容有误,我们第一时间根据妙鸭的实际情况进行了修改,在这里郑重地向大家承诺,您所上传的照片只会用于数字分身制作,不会提取也不会用于识别和其他用途,且分身制作完成后自动删除。

即便如此,一位不愿具名的安全人士向澎湃新闻表示,其在使用妙鸭小程序时,在第一步就已决定不使用该程序。我在使用中发现,首先要上传的图片要求是五官清晰的正面,这几乎是证件照的要求水平,社交媒体上,我们都没有上传过如此高清无码的照片;其次,未来,AI技术会越来越强大,你不知道以后一张照片会被利用到什么程度,也不知道对方或好或坏的目的;最后,我对新生的公司做的这种应用,持非常谨慎的态度,不会上传自己的高清照片,更何况该小程序此前就有‘霸道协议’。

据澎湃新闻了解,对于互联网应用在用户隐私保护、用户信息保存方面已有诸多规定。比如,《中华人民共和国网络安全法》规定,网络产品、服务具有收集用户信息功能的,其提供者应当向用户明示并取得同意;涉及用户个人信息的,还应当遵守本法和有关法律、行政法规关于个人信息保护的规定;《中华人民共和国个人信息保护法 (草案)》明确个人信息处理者的合规管理和保障个人信息安全等义务,要求其按照规定制定内部管理制度和操作规程,采取相应的安全技术措施,并指定负责人对其个人信息处理活动进行监督;《中华人民共和国消费者权益保护法》规定, 经营者及其工作人员对收集的消费者个人信息必须严格保密,不得泄露、出售或者非法向他人提供。经营者应当采取技术措施和其他必要措施,确保信息安全,防止消费者个人信息泄露、丢失。

此外,《生成式人工智能服务管理暂行办法》将于2023年8月15日起施行,该《办法》既是促进生成式人工智能健康发展的重要要求,也是防范生成式人工智能服务风险的现实需要,其中明确生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动,使用具有合法来源的数据和基础模型;涉及知识产权的,不得侵害他人依法享有的知识产权;涉及个人信息的,应当取得个人同意或者符合法律、行政法规规定的其他情形。

不过,有法律人士向澎湃新闻指出:以上规定只是作为参考,相关法规的适用需要根据具体情况进行判断。