小红书举办反诈治理开放日，去年共处置违规涉诈账号492万

新京报

2025-03-11 19:17发布于北京新京报官方账号

+关注

数据新闻编辑文利新媒体设计苗奇卉校对刘越

3月10日，小红书在北京举办首次“诈骗治理开放日”。法律学者、业界专家、媒体代表及小红书治理相关负责人围绕诈骗治理的策略与难点展开了深入交流。活动上，小红书公布了2024年平台反诈成果，并分享了诈骗治理的经验及面临的挑战。

随着互联网的广泛普及，人们的生活和工作方式得到了极大的便利，信息获取、沟通交流以及商业活动都变得更加高效和便捷。而与此同时，网络犯罪案件也呈现出迅速增长的趋势。公开数据显示，网络犯罪案件已占据了全部犯罪案件的七成以上。其中，电信网络诈骗的发案率尤为突出，成为了网络犯罪中的“重灾区”，这不仅严重损害了用户的利益，也给互联网平台的治理带来了严峻的挑战。

近年来，AI技术的快速发展正深刻影响各个领域，AI换脸、AI语音克隆等技术已被部分诈骗团伙利用，为电信诈骗带来了新的挑战。这一现象在现场也引发了广泛讨论。

━━━━━

用大模型提升对诈骗的主动拦截率

苍连介绍说，网络诈骗呈现“更新迅速，链路复杂”的特质：过去的一年，平台累计出现近120种诈骗方式，比2023年的96种增加了四分之一。

为了应对这些挑战，小红书持续优化诈骗治理体系，加强对涉诈行为的监测和打击。平台在风险发现与提醒机制方面构建了100多个识别模型，结合大模型理解能力，实现跨场景风险识别与拦截。同时，通过多渠道提醒，提升用户对诈骗风险的警觉性，进一步强化防范效果。

▲小红书诈骗治理负责人苍连分享平台治理策略和措施

苍连在会上还分享了一项针对门票诈骗的治理案例。每逢暑期出游和娱乐活动高峰，诈骗分子常以“低价票”或“代订票”为诱饵，通过评论、私信等方式引导用户跳转至第三方平台实施诈骗。针对这一情况，小红书建立了门票交易风险模型，精准识别异常交易链路，并在诈骗发生前进行拦截。该措施已成功打击一批涉诈“黄牛”，封禁相关账号5万个，其中一个团伙涉及5000余个诈骗账号，有效减少了用户财产损失。

━━━━━

警企联合反诈：提升识别效率，加速打击行动

在诈骗治理体系的构建中，警企合作正在发挥越来越重要的作用。开放日上，小红书安全调查负责人艾吉介绍了平台以涉诈情报合作为核心的警企联动模式，依托技术手段与大数据分析，为公安机关提供高质量的线索和数据支持，助力精准识别诈骗风险。与此同时，平台还建立了涉诈资金快速冻结机制，对公安反馈的涉诈资金进行及时拦截，并针对高发诈骗类型设立专项打击行动，其中包括涉未成年人诈骗、公检法诈骗、暑期涉诈黄牛诈骗等重点领域。

基层反诈同样离不开创新探索。在开放日现场，苏州市公安局金牌反诈讲师朱钰警官分享了当地警方在打击和防范电信诈骗方面的经验。

▲苏州公安局金牌反诈讲师朱钰呼吁全社会共同反诈

她结合具体案例，介绍了基层公安机关如何通过丰富的反诈宣传形式提高公众警惕性，并特别强调了警企协作的必要性：“互联网平台及时发现风险并同步警方，能够加快诈骗案件的发现和处置，有效减少用户损失。”

━━━━━

反诈需“打防结合、共同治理”

尽管在诈骗治理方面取得了一定成效，但挑战仍然存在。小红书反诈治理负责人苍连表示，网络诈骗的隐蔽性和复杂性，使得单一平台的治理能力存在局限，这需要更多互联网平台、企业机构以及用户的共同参与，形成更广泛的防范和打击合力。

朱钰警官也强调，打击电信网络诈骗不仅依赖公安机关的高压严打，还需要各方共同努力。她呼吁全社会参与反诈行动，通过信息共享、技术防范和公众教育，共同筑牢反诈防线。

▲皮勇教授介绍“打防结合、共同防治”的反诈模式

在更广泛的治理层面，皮勇介绍，我国正通过“打防结合、共同治理”策略应对电信网络诈骗犯罪。这一策略在强化刑事打击的同时，也强调电信企业、互联网平台、金融机构、社会组织及公众的协同防治，推动多方共同构建反诈防线。

他特别指出，有效防范诈骗的关键在于及时阻断犯罪链条的形成，而网络用户在这一过程中起着至关重要的作用。他建议，用户应主动提升防诈意识，例如关注反诈警示信息、使用公安机关的反诈APP、在转账前与亲友充分沟通，并警惕因恐惧、贪婪或盲目信任等心理因素而落入诈骗圈套。他强调：“网络用户在网络空间生活工作中，要时时绷紧防范诈骗的神经。”

━━━━━

AI时代反诈新形势：技术对抗仍在升级

在谈到当前电信网络诈骗的挑战时，皮勇表示，人工智能时代已来，大量高度仿真的音视频信息、人形仿真机器人都会被用于网络诈骗犯罪，电信网络诈骗犯罪会升级到更高层次的自主智能诈骗。目前已经发生盗用知名人士的声音、影像，利用深度合成技术制作虚假音视频，向网络用户推销伪劣商品或虚假服务的案件。

交流中，媒体也提出疑问，AI技术的快速发展是否已经成为诈骗分子的主要手段？

对此，苍连表示，目前AI在诈骗中的应用尚未成为主流，大部分诈骗仍主要依赖心理操控和话术伪装，利用受害者的恐惧、贪婪等心理因素，诱导其主动交付财物。但是，随着AI技术的发展，未来诈骗分子可能会利用其提升作案效率、降低成本，甚至伪造身份信息，增加欺诈的可信度。

苍连说，为应对可能出现的AI诈骗升级，小红书也在不断优化AI识别与风控系统，积极探索更先进的技术方案，以确保在未来的技术对抗中保持领先。

皮勇表示，打击利用AI进行的犯罪难度更大，需要国家机关、人工智能研发应用单位、网络平台和公众与时俱进，提高防治新型智能诈骗犯罪的能力。

值班编辑康嘻嘻

免责声明：本内容来自腾讯平台创作者，不代表腾讯新闻或腾讯网的观点和立场。