AI绘画乱象:拟真Stable Diffusion绘画模型闲鱼在售,社交平台大批AI账号现身

如果你最近刷过二手交易平台,说不定会刷到一些奇怪的商品。几块钱到几十块钱不等,标题写着「Stable Diffusion中文拟真模型包」「全网最全AI绘画大模型整合」「写实人脸模型百度云下载」,甚至还有商家标注「自带训练好的美女私房模型,解压即用」。

点进去看交易详情,不少卖家的销量还挺可观,月销几十上百的比比皆是。评论区里,买家分享着使用体验,有人说解压就能用,比自己到处找资源省心太多,几块钱花得值。也有人吐槽拿到的模型是网上到处都能免费下到的通用款,纯纯交了智商税。

Stable Diffusion本身是开源的AI绘画工具,不少开发者训练出效果更好的拟真模型之后,会选择免费分享给同好交流。但现在这些本该是免费交流的创作资源,被随便打包一下就放到二手平台上卖钱,不少普通玩家分辨不出来,稀里糊涂就付了钱。

更值得注意的是,现在各个社交平台上,突然冒出来一大批AI生成内容的账号。刷短视频的时候,你可能刷到过那种每天更新十多张美女写真的账号,照片看起来身材样貌都无可挑剔,质感和真人拍摄没差,粉丝还不少,点赞评论都挺像那么回事。

点进去主页才发现,所有内容都是AI生成的,账号运营者根本不需要出门拍照,也不需要找模特,只要输入几个关键词,十几分钟就能出几十张图,一天更个十多条内容毫无压力。不光是美女写真,风景图、萌宠图、励志语录配风景,甚至连所谓的「职场干货分享」「情感感悟文案」,配图全都是AI画的。

这些账号涨粉速度还特别快,毕竟AI生成内容成本太低了,批量做号一天就能养出十几个号,只要有一两个号做起来接广告,就能赚钱。之前就有网友扒出来,某百万粉丝的图文账号,所有配图全是AI生成的,博主本人根本没去过内容里说的那些景点,全靠AI画图加抄文案,赚得比很多真人原创博主还多。

还有不少AI账号做起了灰产生意。比如用AI生成高颜值的女性照片,包装成真人账号去加好友,引流到微信之后要么卖货要么诈骗,普通人不仔细看根本分辨不出来,毕竟照片太拟真了,连发丝和皮肤纹理都做得和真人一模一样。

AI绘画发展到现在,本来是给创作者多了一个创作工具,不少设计师和画师会用AI起稿找灵感,提升自己的创作效率。但现在乱象越来越多,首先就是版权问题说不清楚。

这些放在闲鱼上卖的模型,很多是用大量受版权保护的图像训练出来的,本身训练过程就没有获得原作者授权。买家买回去之后,用模型生成的图像用来商用,一不小心就会侵权,到时候原作者找上门,责任还是得用户自己担。不少卖模型的卖家根本不会提醒你这些,只说模型好用,能赚钱,隐去了侵权的风险。

那些批量做AI账号的社交平台账号,也存在同样的版权问题。AI生成的图片本身版权归属现在就没有明确的法律规定,要是有人用这些AI图商用,被告侵权之后根本说不清楚。而且很多AI模型生成的内容,会有意无意模仿原画师的风格,甚至直接重合部分原创内容,这对靠画画吃饭的原作者来说非常不公平。

我之前就看到有插画师吐槽,自己画了好几年的风格,被人拿去训练了AI模型,放到网上卖钱,别人用AI十分钟就能画出和自己风格几乎一样的图,价格还比自己的商单便宜几十倍,完全打乱了正常的创作市场。

除了版权,内容审核也是个大问题。AI生成内容太方便了,别有用心的人可以轻松生成大量低俗、虚假、甚至涉及隐私的内容。之前就有新闻说,有人用AI生成了公众人物的不雅照片,在网上流传,对当事人的名誉造成了很大伤害,而且这类内容删都删不完,一批号倒下了,马上就能用AI做一批新的号出来。

普通用户现在其实很难分辨一张图到底是真人拍摄还是AI生成的。不少诈骗分子就利用这点,用AI生成的高颜值照片骗钱,不少人上当之后才发现,对面连真人都不是,全是AI画出来的。

现在不管是二手平台还是社交平台,其实对这类AI衍生的乱象监管还比较滞后。二手平台上搜一搜AI绘画模型,大把的商品在售,平台很难一个个去审核这些模型是不是侵权,是不是违规内容。社交平台上的AI账号,只要内容不违反明显的社区规则,就可以正常涨粉接广告,普通人根本分不出来是真人原创还是AI批量生成的。

当然,我们不能一棍子打死AI绘画,它确实给很多人带来了便利,也催生了很多新的创作形式。但现在这些无序发展的乱象,确实该引起重视了。对于普通用户来说,下载AI模型尽量找正规的开源渠道,不要随便买二手平台不知道来源的模型,避免侵权风险。刷社交平台的时候,也要多留个心眼,不要随便相信陌生账号发的内容,更不要轻易转钱。而平台方也应该加快完善相关的规则,对售卖AI模型的商品加强审核,对批量注册的AI账号加大管理力度,别让AI变成部分人割韭菜、赚快钱的工具。

AI绘画乱象,Stable Diffusion,AI绘画模型,闲鱼,AI账号,社交平台,拟真AI绘画,AI绘画版权,AI批量做号,AI生成内容

[Q]:现在哪里有违规售卖AI绘画模型的情况?
[A]:二手交易平台闲鱼上有不少商家在售拟真Stable Diffusion绘画模型,将本应免费交流的AI模型打包后低价售卖。
[Q]:社交平台上的AI账号一般是什么运营模式?
[A]:运营者靠AI批量生成内容,不需要真人拍摄或原创创作,一天就能产出多条内容,批量注册多个账号涨粉后接广告或做灰产牟利。
[Q]:闲鱼售卖的AI绘画模型存在什么风险?
[A]:多数售卖的模型是用无授权的版权图片训练的,用户用生成内容商用很容易引发侵权纠纷,卖家一般不会提前告知侵权风险。
[Q]:社交平台的AI账号会做哪些违规灰产生意?
[A]:不少AI账号会用AI生成高颜值人像包装成真人,引流后开展诈骗、违规售假等活动,普通人很难分辨。
[Q]:AI绘画乱象对原创创作者有什么影响?
[A]:AI模型会模仿原创画师的创作风格,甚至直接盗用原创内容训练,AI生成作品成本极低,会挤压正经原创创作者的生存空间。
[Q]:普通用户怎么分辨AI生成内容和真人原创内容?
[A]:目前普通用户很难直接分辨,建议遇到频繁更新大量高质感内容、个人信息模糊的账号多加警惕,不要轻易相信陌生账号的诱导信息。
[Q]:AI绘画本身是不好的技术吗?
[A]:不是,AI绘画本身是合法的创作工具,可以帮助创作者提升创作效率,催生新的创作形式,目前的问题是无序发展带来的乱象,不是技术本身的问题。
[Q]:普通用户接触AI绘画要注意什么?
[A]:尽量从正规开源渠道获取AI模型,不要购买来源不明的付费模型,使用AI生成内容商用前要确认版权问题,避免侵权风险。
share
评论 (0)