AI驱动社交安全进化,Soul发布《2025年?度生态安全报告》

  更新时间:2026-01-22 07:40   来源:牛马见闻

吉报头条
重要新闻
国内新闻
国际新闻
图片精选

Soul 在 2025 年的工作重炌Soul 在 2025 年部署了 7 大自主研发的 AI 模型2025 年Soul 针对

<p> 在数]字浪]潮滚滚向前的今日,社交平台已不再仅仅是信息的交互场,更是情感的链接地与精神的寄托所。然而,虚假宣传、网络诈骗、语言暴力等阴影,也如同杂草般随之滋生。2025 年,国家网信办深化“清朗”专项行动,聚焦数据安全、算法滥用、不良信息传播等关键领域,通过法规完善与技术监管,为网络空间筑牢安全防线。 </p> <p> 近日,社交平台 Soul App 正式对外发布《2025年度生态安全报告》。这份报告不仅是一份成绩单,也是一次关于AI 赋能与社会共治的深刻实践。报告显示,通过 7 大 AI 模型的协同,Soul 实现了涉诈人群同比下降 20%、未成年人假冒识别率 99% 的卓越战绩,为站内用户筑起一道坚固的防护墙。 </p> <p style="text-align:center;" align="center"> </p> <p> <strong>技术赋能,AI 成为社交安全“压舱石”</strong> </p> <p> 伴随语言模型与多模态识别技术的发展,网络治理也进入更为智能的新阶段。Soul 在 2025 年的工作重点之一,便是将 AI 深度嵌入整个治理周期中—— </p> <p> <strong>7 大模型协同作战</strong> </p> <p> 报告显示,Soul 在 2025 年部署了 7 大自主研发的 AI 模型,构筑了一套全方位、立体化的安全护盾。其中,“图片/文本反作弊大模型”拥有深层语义与潜在意图的理解能力,不仅能识别表面的违规文字,更能洞察伪装话术背后的黑产逻辑。而针对行业痛点“杀猪盘”,Soul 独创了“杀猪盘发帖文案识别大模型”。该模型针对情感诱导、人设造假等细微特征进行建模,能够在诈骗苗头出现的初期就进行精准拦截。 </p> <p> <strong>精准打击虚假流量</strong> </p> <p> 社交生态的基石是“真实”,2025 年Soul 针对“虚假人设”与“盗图”痛点,升级了全链路治理矩阵。通过 AI 图片路径分析与设备异常侦测,平台日均精准拦截虚假内容达 5 万条。这种对虚假流量的“熔断”机制,有效地粉碎了黑产滋生的土壤,确保了用户看到的每一份分享都贴近真实生活。 </p> <p> <strong>构建联防联治网络</strong> </p> <p> 安全治理从来不是孤军奋战。2025 年,Soul 持续深化与浦东反诈中心等有关部门的合作。全年向警方推送各类违法线索 100 余个,协助调查并维护用户权益 30 余次。通过“站内拦截+站外打击”的闭环,Soul 正在构建起一套让违法者无处遁形的安全网络。 </p> <p style="text-align:center;" align="center"> </p> <p> <strong>由堵到疏,重塑数字时代社交礼仪</strong> </p> <p> 网络暴力是社交平台的顽疾。在 2025 年,Soul 的治理思路不再仅仅是单纯的封禁,而是通过技术引导,培养用户的社交素养—— </p> <p> <strong>AI 情感分析,化解网络矛盾</strong> </p> <p> Soul 平台部署先进的 AI 情感分析模型,能够实时监测平台中的攻击性语言。不同于传统的关键词过滤,该模型能够根据上下文语境判断情绪意图。数据最具说服力:2025 年,Soul 日均提醒引导私聊文明发言高达 20.6 万次,日均评论友善发评提醒达 2208 次。这种“轻提醒、柔引导”的方式,在矛盾爆发前按下了“暂停键”,让社交重归友善。 </p> <p> <strong>构建反网暴共识</strong> </p> <p> 报告指出,Soul 系统性升级治理策略,构建起覆盖内容识别、风险干预、正向引导的全链条机制。为了推动社区共识,Soul 开展了多场“拒绝网暴”专题活动,累计有 93.4 万名用户签署了友善互动声明。官方账号“风纪球长”在 2025 年发布了 200 余篇安全生态宣传帖,触达用户超过 200 万。高频次的科普与宣传,让“社交礼仪”不再是一个抽象的概念,而是变成用户内化的行为准则。 </p> <p style="text-align:center;" align="center"> </p> <p> <strong>社区共治,让每位用户都成为守护者</strong> </p> <p> Soul 始终相信,最好的社区是由用户自己定义的,在 2025 年,社区共治模式在 Soul 平台得到了深度应用与推广—— </p> <p> <strong>8万名风纪“志愿者”</strong> </p> <p> 在 Soul 的生态中,活跃着一批特殊的群体——内容推荐官与风纪委员。目前,在任的社区共建用户数量已突破 8 万大关。这些用户日均贡献超过 1.8 万次 投票,通过众包决策的方式产生日均 2500 条 案例处理结果。这种“去中心化”的治理模式,既缓解了平台的审核压力,更重要的是让用户产生了主人翁意识,实现了社区氛围的自我进化。 </p> <p> <strong>细颗粒度群聊/私聊治理</strong> </p> <p> 针对群聊这一高频社交场景,Soul 在 2025 年实现了治理颗粒度的极致精细。日均中断语音违规消息 3 万条,拦截违规文字消息 4 万条。针对私聊生态,Soul 推出了“消息盒子辅助收纳”等功能,日均保护 6.6 万名用户免受骚扰。通过给用户更多的自主选择权,真正做到“我的社交空间,我做主”。 </p> <p style="text-align:center;" align="center"> </p> <p> <strong>硬核守护,筑牢未成年人安全“隔离墙”</strong> </p> <p> 未成年人保护是社交平台的底线,同时也是 Soul 2025 年的工作重点之一。平台深知,保护青少年就是保护社交生态的未来—— </p> <p> <strong>AI 看穿成人伪装</strong> </p> <p> 单纯依靠实名认证早已不足以应对复杂的情况。2025 年,Soul 引入了 AI 行为分析模型。该模型通过分析用户的交互模式、语言特征及设备使用习惯,能够有效区分真实未成年人与成人伪装行为。这一技术的引入,使得疑似未成年人的识别准确率提升了 50% 以上,针对冒充成年人的策略识别贡献率高达 99%。 </p> <p> <strong>从“被动防御”到“主动护航”</strong> </p> <p> 对于已进入青少年模式的用户,Soul 整合了身份认证、年龄识别、防沉迷系统等维度。尤其在寒暑假期间,Soul 会动态调整内容池策略,确保青少年看到的内容既安全又富有教育意义。2025 年,Soul 共计上线未成年人识别与保护相关策略 51 条。这些举措不仅减少了未成年人接触不良信息的风险,更显著提升了家长对平台的信任度。 </p> <p style="text-align:center;" align="center"> </p> <p> <strong>低质内容清理,回归清朗社交</strong> </p> <p> 一个健康的社交生态必须具备自我修复与自我净化的能力,健康的社区既需要源源不断的活水,也需要定期的“清淤”—— </p> <p> <strong>机器+人工,双轨制内容治理</strong> </p> <p> 2025 年,Soul 全面升级内容治理策略,重点打击低俗、虚假宣传及恶意营销。全年通过机器预审直接拦截的违规内容量级达到了惊人的 1642.5 万;处置违规账号 76.7 万个。 </p> <p> <strong>对“擦边”与“有偿交友”零容忍</strong> </p> <p> 针对广场中出现的低俗擦边、有偿交友、恶意引战等痛点,Soul 实施了严格的限流与处理措施。日均处理量超过 12 万帖。对于在同设备下存在多个违规账号的“黑产团伙”,平台累计拉黑设备 4 万个。这种雷霆手段,极大地净化了社区风气。 </p> <p style="text-align:center;" align="center"> </p> <p> <strong>社交平台的未来,是责任与科技的共振</strong> </p> <p> 《2025年度生态安全报告》的发布,标志着 Soul 在生态治理上迈向了更加成熟、更加智能的新阶段。生态安全不是一项阶段性的任务,而是一项长期的系统工程——为了在冰冷的算法之外,保留社交那份最宝贵的温情与真实。 </p> <p> 展望 2026 年,Soul 将继续加大在人工智能领域的研发投入,同时,平台将进一步扩大“共治体系”,让每一个 Soul 用户都能成为生态安全的参与者、建设者和受益者。这份报告,既是对过去的总结,更是对未来的承诺——Soul 将不忘初心,致力于构建一个真实、温暖且充满活力的线上社交空间。 </p>

编辑:奥利弗·丹奇