小红书：有团伙用AIGC大模型批量生成同质化素材，处置黑灰产养号100万个

2月19日消息，昨日，小红书发布“小红书黑灰产账号治理阶段进展公告（六）”。

公告称，截至今年2月17日，小红书“黑灰产账号”治理专项团队在3个月间共处置账号3208343个，其中10万粉以上账号401个，1万粉以上账号9215个。

公告表示，黑灰产账号治理可以分为两大重点打击领域打击黑灰产养号和打击黑灰产恶意营销。

黑灰产团伙先通过常见手段养号，如批量发布同质化影视综二创视频，把号养到高粉； 随后，黑灰产团伙通过售卖账号，或发布虚假营销内容，进行变现。过去三个月，治理团队共处置黑灰产养号超过100万个。

近期，真人养号因其隐蔽性成为当前治理重点，黑灰产团伙利用AIGC大模型批量生成同质化素材，或采取热点跟风手段，通过超大规模矩阵养号，严重扰乱社区生态。

黑灰产团伙会利用账号兜售灰色/违法商品或服务。比如，提供“逾期协商”服务（帮助债务人不正当逃避债务），或给用户提供伪科学的“占卜玄学”服务。

此外，黑灰产团伙还会通过同质化恶意营销矩阵方式，在多个行业和领域进行违规营销，动辄组织数千黑灰产账号，发布虚假、低质、恶意拉踩、恶意导流的营销内容。例如，在旅游和教育行业，打造“素人人设”铺设矩阵号；在创业领域，通过发布虚假内容引导用户购课，并铺设了大量矩阵号提供类似服务。治理团队共处置此类黑灰产账号近200万个。