AI前置拦截风险,Soul App二季度升级智能风控能力
Soul App发布2026年第二季度生态安全报告,报告核心展现平台以人工智能为核心抓手的全新治理模式,当下黑灰产作弊、虚假人设、网络诈骗行为链路化、隐蔽化特征显著,Soul App全面迭代多套AI识别模型,把风险拦截环节前置,从账号注册、内容发布、私聊互动全流程完成智能管控升级,依靠技术能力提升生态治理精度与效率。

在黑灰产批量作弊管控层面,Soul App在原有审核模型基础上新增批量账号识别节点,治理逻辑由“发布后再处理”转为“发布前拦截”,经过持续调优,违规内容处置率从上线初期约30%提升至60%,大幅压缩批量刷单、引流账号在平台的存活时长。针对杀猪盘、杀猪类电信诈骗衍生社交账号,平台自研反诈Agent系统,摒弃传统关键词单一筛查模式,整合账号基础信息、长期互动行为、对话语义做多维度综合判断,当前这套智能识别工具准确率达到93%以上,能够提前锁定高风险账号,阻断诈骗传播链路。

虚假人设、盗图搬运也是Soul App重点AI治理板块,依靠图像比对AI模型,平台二季度累计处置伪造身份账号30000余个,删除盗用图片、虚构生活场景相关帖子8万多条,减少虚假信息干扰正常用户社交。同时Soul App搭建专属AI图像分层识别链路,专门处理平台内AI生成图片,依次核验元数据、标识、人像特征,区分AI虚拟形象与真实实拍内容,识别完成后仅向用户展示中性提示,不会限制正常内容发布,兼顾创作自由与信息透明。
全场景内容机审AI同步完成迭代,覆盖广场动态、群聊、私聊全部板块,二季度AI系统直接拦截各类违规内容400万条,处理攻击性、低俗评论726万条,封禁违规设备3723台;针对以虚假邀约诱导线下消费的“消费托”账号,专属自动化AI策略落地,累计处置相关风险账号3.2万个,从源头减少用户财产受损风险。
私聊防护同样嵌入多层AI判断逻辑,Soul App为女性用户定制骚扰识别模型,依靠消息密度、互动轨迹隔离低质骚扰信息,对反复跨场景打扰用户的账号限制触达权限。二季度AI系统日均自动隔绝恶意骚扰、网络暴力近3099次,自动识别私聊不文明账号1737个,同步推送文明沟通提示19.9万次,借助智能识别减少人工举报压力。

未成年人防护搭载独立AI识别模块,可自动判别账号青少年属性,主动识别未成年人比例超99%,提前拦截不符合青少年规范的内容。Soul表示后续会持续迭代各类风控AI模型,适配不断演变的违规手段,结合人工复核形成互补机制,依靠智能技术持续前移治理各类社交风险。











评论排行