近期,AI智能体迎来爆发式发展,人工智能从“动口”进化为“动手”,成为提升效率、服务生活的重要工具。但与此同时,对AI智能体的滥用也催生了新的乱象,例如,“AI托管”已受到多个平台的严打。
何为“AI托管”?这主要是指部分用户采用该模式运营账号,在内容平台上通过技术手段批量生成内容、伪造真人互动,快速制造“虚假繁荣”,最终实现账号转卖或流量变现。
在笔者看来,这一现象不仅会侵害内容平台的真实底色,也会动摇互联网内容创作与信任的根基,行业各方要警惕其中存在的风险,合力保护内容生态。
首先,“AI托管”会消解真实内容,污染信息环境。
内容平台小红书日前发布了《关于打击AI托管运营账号的治理公告》,宣布对完全由“AI托管”代发、模拟真人互动的账号实施封禁。小红书之所以重拳出击,根本原因在于“AI托管”账号正在用算法的“伪经验”替代真人的“活人感”。无论是种草笔记还是生活分享,内容平台的核心资产并不是算法推荐的流量,而是用户之间基于真实体验建立的情感连接。
而“AI托管”的核心逻辑,是用算法模拟真人、用机器替代创作,批量生产同质化、低质化甚至虚假化内容。从自动生成图文笔记,到评论区机械式互动,再到刷量涨粉制造虚假热度,整个过程毫无真情实感与独立思考,充斥着同质化的模板与套路。这种“数字垃圾”不仅挤占优质内容空间,更因缺乏审核把关,极易夹带谣言、误导性信息与违规内容,在算法助推下快速扩散,严重污染公共信息环境,透支用户对网络内容的基本信任。
其次,“AI托管”极易破坏内容创作的公平秩序,扰乱平台生态。
“AI托管”以极低的成本实现规模化运营,让“躺着涨粉”成为可能,但这却会严重破坏内容创作的公平秩序:用心打磨作品的真实创作者,在流量分配中不敌流水线式的AI账号;真诚分享的普通用户,被虚假互动与虚假热度裹挟;踏实运营的合规账号,面临批量养号、账号买卖的恶意竞争。长此以往,优质内容会被淹没,原创动力被挫伤,用户获取有效信息的成本急剧上升,整个生态将陷入劣币驱逐良币的恶性循环,平台生态的多样性与创新性也随之枯竭。
“AI托管”的本质是把平台当成了流量套利场,把用户信任当作可变现的商品,这种行为是对内容生态的“釜底抽薪”。真正的流量红利,从来不在“AI托管”的灰产套路里,而在真实、优质、有价值的内容之中。
最后,“AI托管”暗藏安全风险,挑战监管底线。
“AI托管”背后是一条完整的灰色产业链,其不仅违反平台实名制、账号管理等规则,更暗藏多重安全隐患。批量注册、买卖账号为恶意营销、舆情操纵提供温床;无监管的AI内容生成,可能触碰法律红线、侵害他人权益;自动化互动与流量造假,更是对网络治理秩序的公然挑战。若放任乱象蔓延,不仅会扰乱市场秩序,更可能危害网络空间的安全。更为严峻的是,随着AI技术的迭代,造假手段愈发隐蔽,监管难度陡增。
实际上,从法律与监管层面看,“AI托管”早已“踩红线”。例如,中央网信办此前发布2025年“清朗”系列专项行动整治重点,其中包括整治AI技术滥用乱象,突出AI技术管理和信息内容管理,强化生成合成内容标识,打击借AI技术生成发布虚假信息、实施网络水军行为等,规范AI类应用网络生态。
笔者认为,斩断“AI托管”产业链,需要监管、平台、用户同向发力。监管要划定红线、从严执法,让违规者付出代价;平台要升级识别技术、压实主体责任,让AI造假无处遁形;创作者与用户也应坚守真实,拒绝流量捷径,共同打造清朗、可信的网络空间。
技术向善,方得长远。AI智能体的价值,在于辅助创作、提升效率,而非制造虚假、收割流量。唯有平台强化技术甄别与规则惩戒,监管部门完善法律法规,用户提升辨识能力,三方形成合力,才能遏制“AI托管”乱象,让AI真正赋能创作,守护内容生态的真实、健康与可持续。
1、“国际在线”由中国国际广播电台主办。经中国国际广播电台授权,国广国际在线网络(北京)有限公司独家负责“国际在线”网站的市场经营。
2、凡本网注明“来源:国际在线”的所有信息内容,未经书面授权,任何单位及个人不得转载、摘编、复制或利用其他方式使用。
3、“国际在线”自有版权信息(包括但不限于“国际在线专稿”、“国际在线消息”、“国际在线XX消息”“国际在线报道”“国际在线XX报道”等信息内容,但明确标注为第三方版权的内容除外)均由国广国际在线网络(北京)有限公司统一管理和销售。
已取得国广国际在线网络(北京)有限公司使用授权的被授权人,应严格在授权范围内使用,不得超范围使用,使用时应注明“来源:国际在线”。违反上述声明者,本网将追究其相关法律责任。
任何未与国广国际在线网络(北京)有限公司签订相关协议或未取得授权书的公司、媒体、网站和个人均无权销售、使用“国际在线”网站的自有版权信息产品。否则,国广国际在线网络(北京)有限公司将采取法律手段维护合法权益,因此产生的损失及为此所花费的全部费用(包括但不限于律师费、诉讼费、差旅费、公证费等)全部由侵权方承担。
4、凡本网注明“来源:XXX(非国际在线)”的作品,均转载自其它媒体,转载目的在于传递更多信息,丰富网络文化,此类稿件并不代表本网赞同其观点和对其真实性负责。
5、如因作品内容、版权和其他问题需要与本网联系的,请在该事由发生之日起30日内进行。