随着AI技术深度渗透社交领域,AI伪造人设、批量制造虚假内容、搭建不实社交关系等乱象频发,不断模糊真实社交的边界,给网络社区生态带来全新挑战。针对AI社交场景的各类新型风险,Soul张璐团队立足平台生态治理,持续完善AI场景治理体系,对《社区公约》进行了AI相关补充更新,筑牢网络真实社交防线。
《社区公约》AI相关补充更新
多维研判:破解AI伪装化社交风险
相较于传统网络违规内容,AI时代的社交风险具备极强的伪装性、场景化特征,单一敏感词筛查、单点内容审核的治理模式已然失效。不少违规账号依托AI包装精英人设,通过拼接美图、模板化话术营造虚假形象,单点内容看似合规,整套行为逻辑却暗藏诈骗、引流风险。针对这类新型治理难题,Soul采用跨模态联动的AI治理能力,将图片、文本、视频、声纹以及用户行为等不同维度的信息进行综合判断,应用于虚假人设识别、异常互动判断、风险内容拦截等多个场景;同时,平台也在持续加强对视频、语音等复杂场景的风险识别能力,实现对隐蔽风险的深度排查。
例如在图片场景中,平台会结合AI生成痕迹识别、图片原创性判断等能力,对AI生成图、盗图、拼接图等内容进行综合分析;在文本与互动场景中,则会通过大模型意图识别能力,对异常导流、人设包装以及欺诈倾向进行识别,而不仅仅依赖关键词本身。
前置防控:构建全流程智能治理体系
为彻底扭转“事后处置”的被动治理局面,Soul张璐团队推动平台治理向前置化、动态化、常态化升级,毫秒级智能风险识别系统。该系统突破单点审核局限,结合账号行为、互动关系、场景上下文进行动态分析,实现对社交风险的持续监测。
AI治理能力的落地,让平台风险审核效率提升数倍,彻底打破人工审核的能力局限。例如,一些被识别出的作弊图片、风险视频或高风险素材,在首次出现后,后续相同或高度相似内容将迅速失效并停止分发,相关账号也会被自动回溯识别与处置。目前,平台风险识别准确率达95%,超66%的高风险账号可被前置拦截,日均拦截异常、涉诈行为超10万次,累计为用户规避千万元级潜在损失,杀猪盘高危触达量同比下降37.37%,社区风险生态持续优化。
明晰边界:平衡AI赋能与真实社交
在严控风险的同时,Soul张璐团队清晰界定AI社交的边界,让AI成为社交辅助工具,而非真实关系的替代品;此次也在《社区公约》中新增了相关说明,进一步明确AI虚拟角色的使用边界,并提醒用户注意区分AI角色与真实用户。同时,平台上线智能提醒机制,引导用户理性区分AI互动与真实社交。此外,团队搭建用户共治体系,依托用户举报、社区巡查、护星员共建机制,吸纳真实用户的风控经验,反向优化AI治理模型,形成“技术治理+用户共治”的双向赋能治理模式。
同时,平台逐步增加使用提醒机制,引导用户理性区分AI互动与真实社交。此外,团队搭建用户共治体系,依托用户反馈、风险举报、社区巡查、护星员共治机制,吸纳真实用户的风控经验,反向优化AI治理模型,形成“技术治理+用户共治”的双向赋能治理模式。
结语
AI技术为社交赋能,却不能替代人与人之间的真实连接,坚守真实、善意的社交底色,是网络平台长久发展的核心。面对AI社交持续迭代带来的全新考验,Soul张璐团队持续聚焦AI治理技术、完善社区规则体系、深化用户共治模式,以动态化、精细化的治理能力,持续净化社交生态,守护每一份真实的网络社交关系,为AI时代社交平台的合规治理提供可行范本。
未经书面授权禁止复制或建立镜像
特别提醒：新报网文章内容、图片、视频出现侵权问题，请与本站联系撤下相关作品 help@cssxw.com。
风险提示：新报网发布的文章、图片、数据等信息来源于互联网，仅供参考、学习分享使用，不构成投资建议。相关侵权责任由信息来源第三方承担。
Copyright@2010-2023 by all rights reserved
举报投诉：Jubao_404@163.com