* 今日头图运用Midjourney创造，关键词“一个女孩，坐在暗淡的房间里哭泣，插画风格”
AI，这个史上（或许）最强东西，在伪君子手里，也已全副武装。对普通人来说，AI的参加，让种种圈套和损伤，更防不胜防。
个人发布在交际途径的和视频，很简单就能够通过AI换脸、AI绘画技能的处理，被不法分子作为不雅观观观观观观图片和视频的“资料”，兜销或许冒用。
网络撒播的各种截图、聊天记录，本就难以分辨真假，当AI参加“创造”，风格能仿照，逻辑能自洽，还能不知疲倦的批量生产，信息污染，一键达到。
5月16日，微博博主“赛博十块判定处”发帖称，发现在B站有部分用户上传了AI绘画东西组成的写实风儿童软色情图片。生成的图片内女孩穿着露出，举动不雅观观观观观观，用户会在谈论和动态内共享“图包”。
事情曝光后，因遭到用户告发，现在部分视频已被下架，相关涉事用户账号被封。
5月6日，有网友投稿微博博主“春日矮男”，称一位网友在某论坛表明不满当天在漫展赞助的coser场照，所以运用AI绘画东西协作LoRA模型（一种微调模型），将素人的图片通过部分调整“炼”成了“掀裙子”的不雅观观观观观观照。
无独有偶，此前5月3日，博主DeadPrince在微博私信被奉告，自己的被陌生人制作成了LoRA模型上传到了绘画模型共享网站Civital，而且有人运用该模型制作了裸照。
2月16日，杭州某小区业主群内评论ChatGPT，一位业主尝试用ChatGPT撰写了一篇假的新闻稿，大致内容为“自2023年3月1日起，杭州将撤销限行”。随后这条假新闻就被不明所以的群成员截图传达，乃至上了热搜，最终警方介入查询，涉事业主揭露抱歉。
5月13日，据《每日邮报》报导，一家西班牙小电影公司Peabody Films收到英国闻名男星“卷福”本尼迪克特·康伯巴奇的电话，电话里的“卷福”对电影剧本感兴趣，想协作拍电影。
但电影公司几回邀约他自己面谈，“卷福”都拒绝了，乃至还提出天价碰头费，要该公司先汇款20万英镑再说。
因为感觉不太对劲，电影制作公司向“卷福”生意公司惹祸，惹祸后才发现，这是一场AI圈套。
据电影公司工作人员介绍，假如仅从语音电话看，因为声响类似度高达100%，他们彻底信任对方店员“卷福”。
4月26日，网红“Caro 赖赖_”在微博发文称，自己被外网某交际途径“盗脸”，假充注册她自己的假账号，而且粉丝只需付费就能够观看自己的不雅观观观观观观视频。
她一起还发现许多明星、博主乃至素人的图片都被制作成了不雅观观观观观观视频，以此途径获利，乃至还供给AI定制服务，运用在线网站的AI技能就能够做到“一键脱衣”。
3月28日，“女子地铁照被AI一键脱衣传达”登上微博热搜，相片里的女士是一名小红书博主，而所谓的“裸照”则是她上一年7月在途径共享的一张相片。
原图中她穿着正常，但却被有心之人运用AI软件“一键脱衣”，成心全网散播形成恶劣影响。事情发酵后，该博主已向有关部门进行维权。
因为AI技能的遍及，各大交际媒体途径出现很多AI生成内容，但AI生成的真人写实感图片和视频、难辨真假的文字稿件，假如你对AI技能没那么了解，很简单“受骗”。
比方前段时间，有一位海外网友在Twitter途径发布了一组“时髦教皇”恶搞相片火了。图片里的“假教皇”脱下传统的教袍，换上时髦的白色羽绒服，十分简单让不明真相的路人误解这是真的教皇换装了，但其实是运用AI绘画东西Midjourney制作的。
因为这组AI生成的图片过分“火爆”，以防路人误解，推特作为途径方，及时将图片符号上了“AI-generated”（AI生成）。
纵观海内外，近期有不少途径及时跟进针对AI内容的监管，发布了人工智能相关的标准和行动。
该职业建议其间的第九条至第十一条，提到了对AI生成内容进行标识以及将对虚拟人供给注册才能，而且会敞开用户反应途径。
相关文章： 《抖音新规落地！虚拟主播总算“合法”，但有必要自曝身份、真人驱动》
在4月底，有部分小红书用户发现，途径开端符号AI生成的内容，并请用户留意鉴别实在度。
谷歌在最近举行的2023年开发者大会上宣告，将保证公司的每一张AI生成图片都内嵌水印，该水印虽然无法以肉眼辨认，但谷歌搜索引擎等软件可读取并以标签显示出来，以提示用户该图片由AI生成。在未来的几个月内，这项功用将上线年就发布了《新一代人工智能道德标准》，其间触及战略规划、政策法规和技能标准拟定施行，资源配置以及监督检查等。而且在本年3月，网信办发布了《生成式人工智能服务办理规则（征求意见稿）》，对生成式AI服务供给者的行为进行了标准，还刀口上舔血用户权益维护、信息安全保证、技能安全保证等方面。
放眼海外，意大利政府在本年3月对ChatGPT施行了暂时禁令，理由是忧虑它违反了欧盟的《通用数据维护法令》。5月16日，OpenAI的CEO Sam Altman也在美国参议院就AI技能的潜在风险作证，而且催促立法者对开发GPT-4等先进AI体系的安排施行答应要求和其他法规。
能够看到，现在这些损害更多仍是在信息范畴。一方面从物料来看，是相对无主的公共信息，本来茶余酒后街谈巷议的东西，虽然有很多的虚伪和臆测，但无非也店员从这个街头传到那个巷口，但就像交际媒体能把信息流扩大，伪君子们也能够用AI把浊流扩大；另一方面从受害者来说，则大多是有口难辨的普通人，发声明也没人看，更很难去发律师函了。虽然法律法规以及途径都在跟进对AI技能的监管，但普通人的维权本钱仍是很高。
问题回到伪君子，当他们藏身于网络背面，管住他们手里的刀成为一个有必要去做的事。
渝公网安备 50010402000130号
