网站地图 关闭
您的位置: 首页 > 资讯 > > 内容页

照片很可能被滥用、不支持退款 9.9元生成写真照的AI靠谱吗?

时间:2023-07-27 17:09:53 来源:央广网

只要9.9元就能生成写真照,还可以变换各种造型,AI正在颠覆传统照相馆。


【资料图】

近日,一款名叫“妙鸭相机”的微信小程序走红网络,用户上传照片,支付9.9元,就能生成逼真的艺术写真,开盲盒般的体验引来无数网友尝试。由于尝试的用户过多,该小程序算力资源一度紧张,用户需要排队等候几小时甚至十几小时才能使用。

这款小程序到底好不好用?记者亲自试用,首先上传了一张清晰的照片,然后提示补充20张不同角度的照片,系统识别无误后,支付9.9元。等待一段时间后,AI写真自动生成。该写真的清晰度、真实度堪比照相馆实体店的拍摄效果,价格却实体店上百元的证件照和动辄上千元的写真便宜。

网友也纷纷评论,“好看”“要替代传统照相馆了”。

截图自某社交媒体 央广网发

这款小程序基于哪些技术呢?北京邮电大学信息与通信工程学院教授邓伟洪告诉央广网,这款应用主要使用了基于图像的三维重建技术,该技术通过关键特征点的提取与匹配,对物体表面局部纹理进行填充和匹配,恢复其三维模型,进而呈现出连续视角变化的惊艳效果,是一类比较成熟生成式人工智能(AIGC)技术,一般用于数字人建模、虚拟现实、游戏直播等领域。

近年来,与妙鸭相机类似的AIGC应用,比如“ZAO”“DeepFake”频频火爆网络,相关技术和公司也备受投资者青睐。

天眼查数据显示,截至目前,现存与“AIGC”概念相关的企业190余家,涉及9家上市公司;从投融资数据来看,2023年上半年涉及AIGC的融资事件13起;而从专利数据来看,与AIGC相关的专利,截至目前,合计申请610余项,2023年上半年已申请120余项;从专利类型来看,以发明专利为主,占比超95%。

关注度居高不下,应用也越来越简洁,动动手指就能实现变妆换装,众多应用也出现算力资源不够用,需要长时间等待或服务器故障的情况。

越来越多的应用,也引发网友担心,“小姐姐的肖像之后多半已经不属于她了”“之前DeepFake火的时候大家都很担心肖像被滥用的问题,现在换了个皮居然就……”“你授权的脸……他们可以用你的脸做任何事……”“感觉后面这个小姐姐的头会出现在各种地方”。

截图自某社交媒体 央广网发

以妙鸭相机为例,其用户协议规定,“我方在全世界(包括元宇宙等虚拟空间)范围内享有永久的、不可撤销的、可转让的、可授权的、免费的和非独家的许可,使得我方可以任何形式、任何媒体或技术(无论现在已知或以后开发)使用您的内容”,这意味这用户上传的照片以后很可能被用作他用。

“近期,以ChatGPT和Diffusion Model为代表AIGC技术取得突破性发展,实现多轮人机对话和高质量图像的生成,将对文化教育、元宇宙和直播娱乐等产业带来巨大的变革。但逼真数字内容的生成技术一旦被不法份子滥用,将会给产生大量虚假和诈骗信息,危害社会的安全稳定。”邓伟洪说,学术界十分重视数字内容的鉴伪的研究,从技术层面监管AIGC技术的滥用。

他介绍,在技术上,可以使用隐私计算技术,对上传的人脸照片进行脱敏或者加密,防止其被不法份子滥用。此外,也有比较实用的联邦学习技术,可以在本地数据不外传的情况下进行大规模的模型训练,有效防止企业的用户数据泄露。同时,《民法典》和《个人信息保护法》已经严格定义人脸照片等敏感信息的使用范围,严格执行这些法规将会有效规避隐私的泄露。

面对网友质疑,妙鸭相机对用户协议进行修改并承诺,用户上传的照片只会用于数字分身制作,不会提取也不会用于识别和其他用途,且分身制作完成后自动删除。

当网友留言询问“此次更新前上传的照片如何处理”,妙鸭相机回复,即将上线注销功能,用户可以自主选定是否要清除自己的所有数据信息;用户可以私信后台注销,注销后所有的信息将被清除。对这样的回复,网友表示“虽然已经修正,但是还是很离谱”。

此外,类似应用支付上规定的“一旦购买成功,不支持退款”的“霸王条款”也颇受网友诟病,希望有更人性化的购买和售后条款出现。

近日,上海市消保委微信团队的工作人员也尝试了一把。支付9.9元后却没有换得想要的照片,原因是该用户平时佩戴眼镜,小程序模板图片也佩戴了眼镜,生成的照片却是没有眼镜,上传时也并未要求上传无眼镜的照片。沟通客服后,无法退款。

同时,也有消费者反映,在该程序储值后无法合成照片,无法退款。

记者询问情况,多次拨打妙鸭相机小程序的注册公司未序网络科技(上海)有限公司,电话一直未接通。

上海市消保委表示,企业在新技术的商用过程中也应该重视消费者权益。妙鸭相机在付款页面以灰色小字标注的“一旦购买成功,不支持退款”涉嫌违反《消费者权益保护法》第二十六条第二款规定,侵害消费者的公平交易权。

邓伟洪表示,以AIGC技术为基的三维成像技术应用普及还需要时间,目前更多是传统照相技术的补充,对于一般用户而言,传统的线下照相和摄像仍是主流。

x 广告
聚焦 更多>
最近更新 更多>