2025年12月6日 星期六

AI火眼金睛上线!抖音直播严打低俗诱导,8.8万用户遭处罚

AI严查直播乱象,8.8万用户被封禁!

AI 大模型 抖音直播 低俗诱导

​​唠唠资讯2025年11月14日 13:52消息,抖音严打低俗诱导打赏,8.8万人被处罚。

   11月14日,抖音集团发布消息称,在直播行业持续发展的背景下,直播间不仅成为主播展示个人才艺的平台,也催生了许多新兴职业,成为促进灵活就业的重要“蓄水池”。随着各大平台在管理方面日趋专业和常态化,直播行业初期存在的各种乱象已基本得到控制,行业正朝着更加优质和规范的方向发展。然而,部分违规主播、作弊团队以及黑灰产业链也在不断调整手段,采取更为隐蔽的方式规避平台监管,与平台展开“游击战”。

   自2025年起,有8.8万人次因在抖音直播中涉及低俗诱导打赏行为被处罚,另有11.7万个账号因违反色情相关规定被永久取消直播权限。

   抖音集团指出,“低俗擦边”违规行为一直存在形式多变、界定困难等问题。自2024年起,以“语音助眠”为名的低俗直播形式开始出现,这类“软色情”内容逐渐成为各平台重点治理的对象。在持续加强监管的情况下,这些违规团伙开始采用剧情演绎、弹幕互动等新方式传播低俗内容,或通过特定的拍摄技巧、场景布置等手段营造低俗不良的氛围,大大增加了监管和治理的难度。

   相较于过往在直播间闪现二维码导流至站外淫秽色情网站,当下的色情黑产也同样有了更隐蔽的链路。他们通过在各种资料区、图片、主播着装上展现网址或关键词等信息以导流站外,或在导流中跨多个平台中转,甚至篡改 IP 地址,使用“黑话”沟通,规避平台审核。

   对此,抖音直播持续迭代治理策略和手段。针对较隐晦的软色情导流场景,平台启用了多模态大模型,综合判断直播间画面、声音、口播内容和用户举报等,分辨直播间是否有擦边风险,实现风险快速拦截。另一方面,平台不断完善举报链路,在 30 分钟内处置举报风险,并结合用户反馈更新大模型样本,达到长效化治理的效果。

   针对色情导流黑产,平台构建了“事前风险防控、事中隐晦内容识别与实时封禁、事后防止违规内容回流”的全链条治理机制。在高风险场景中,提前进行风险识别并实施拦截;在风险发生过程中,借助内容大模型和异常行为分析等技术手段,实现对违规内容的即时中断与封禁。对于较为隐蔽的引导线下交易的行为,主要依靠用户举报来识别风险主播,并采取有效的防回流措施,同时将涉嫌违法的信息及时上报给相关部门。

   自2025年以来,抖音已封禁66万个涉及“软色情”的直播间,并无限期回收了11.7万个存在色情违规行为账号的直播权限。这些数据反映出平台在打击网络不良信息方面持续加大力度,显示出对内容生态治理的重视。然而,尽管措施严厉,仍需关注此类内容是否通过隐蔽手段继续传播,以及平台在审核机制和用户教育方面的进一步优化空间。

   平台对主播的管理核心在于“长期观察、有效识别”。在对直播间违规内容进行单次处罚的同时,平台还会根据主播日常的直播行为调整其账号健康分,通过其长期表现来综合评估。对于多次违规且拒不整改的主播,平台将最终取消其直播权限。

   针对利用低俗直播内容诱导用户打赏的违规主播,平台在原有健康分体系的基础上,进一步强化对涉及诱导消费类违规行为主播的经济监管,对相关直播场次采取资金冻结、限制提现、延迟结算等措施。

   自2025年以来,用户对诱导打赏的举报率同比下降了74%;超过40万主播因违规诱导打赏被扣除健康分;共有8.8万人次因涉及低俗直播诱导打赏受到限制违规场次收益提现、关闭礼物收入功能、禁止使用PK功能等处罚,五千个账号被无限期回收直播权限。 从这些数据可以看出,平台在治理诱导打赏方面取得了明显成效。举报率的大幅下降,说明监管措施正在逐步发挥作用,用户对不良直播行为的容忍度降低,同时也反映出平台在内容审核和规则执行上的强化。然而,尽管处罚力度加大,仍需持续关注主播行为的规范性,避免“上有政策,下有对策”的现象出现。未来,如何进一步提升监管效率、增强用户监督意识,仍是平台需要持续努力的方向。

   此类精细化手段,还运用在了团播的治理上。近两年来,以互动性强、观赏度高为特点的团播逐渐兴起,成为用户喜闻乐见的直播形式。然而,一些账号却借团播玩起“翻牌选妃”“蒙面摸人”等低俗花样,或使用“跪爬”“嘶喊哭泣”等引人不适方式,进行拉票或诱导用户打赏互动。

   今年7月30日,抖音平台更新了《抖音直播团播内容管理规范》,同时发布了《抖音直播团播机构管理规范》。针对存在违规行为的团播账号,平台将依据违规严重程度采取阶梯式处罚措施。对于旗下违规主播比例较高,或存在侵犯主播权益等不当经营行为的公会,平台将进行扣减健康分、限制经营权限等处理,情节严重的将终止合作。据统计,今年以来,因低俗诱导打赏等问题,抖音已清退113家公会。 平台此次强化对团播内容和机构的管理,反映出其在内容生态治理上的持续发力。随着直播行业竞争加剧,平台对内容质量与合规性的要求也在不断提高。此举不仅有助于净化直播环境,也对公会和主播形成更明确的行为指引。然而,如何在监管与行业发展之间取得平衡,仍是未来需要关注的重点。

   抖音集团表示,无论采取何种直播形式,一旦发现违法行为,平台都会第一时间向有关部门上报,并配合线下执法行动。今年1月,抖音直播在日常管理中发现,有黑产团伙大量购买和注册抖音账号,将账号头像修改为隐晦的第三方平台联系方式,诱导用户下载涉及色情违法的App,并在App内进行相关非法活动。平台随即对这些账号进行永久封禁,并将相关线索上报至有关部门,最终有4名犯罪嫌疑人被依法刑事拘留。 从此次事件可以看出,网络平台在打击违法内容方面正变得更加主动和严格。面对不断演变的黑产手段,平台不仅需要加强技术识别能力,更要在发现异常行为后迅速响应,形成线上线下联动的治理机制。同时,这也反映出当前网络环境中的违法活动呈现出组织化、隐蔽化的趋势,亟需各方持续关注与协作应对。

   2025 年初,平台发现 2 个以承诺线下卖淫为由诱导用户消费打赏的团伙,利用短视频发布美女视频和虚假定位,诱导不同城市的用户进入直播间;再通过隐晦文案、背景、签名等多个场景发布隐晦交友信息,引导用户站外添加其他社交软件。抖音直播第一时间对相关账号进行封禁,并将线索上报给当地公安机关。截至目前,警方共抓捕 21 人,其中 16 人被刑事拘留。

   据抖音集团公告显示,自2025年起,已有68名涉嫌违法的犯罪嫌疑人因传播淫秽色情信息被刑事拘留。抖音直播相关负责人表示,平台将持续加大技术投入和治理力度,严打低俗直播及诱导打赏等不良行为,努力构建一个健康有序的网络直播环境。

相关阅读

微软紧急辟谣:AI销售目标被误读为硬性配额,实际为动态增长指引
联想杨元庆:2026年1月6日将发布个人超级智能体
AI火眼金睛上线!抖音直播严打低俗诱导,8.8万用户遭处罚
华为WATCH ULTIMATE DESIGN紫金款震撼登场:明日开启预售,智能腕表新标杆

发表评论

请输入您的姓名
请输入有效的邮箱地址
请填写评论内容

人工智能AI栏目

唠唠资讯人工智能AI栏目为您提供第一时间的新闻报道、深度分析和独家视角。

即时资讯

全天候更新热点事件,第一时间传递重要新闻

深度分析

专业团队解读事件背景与深层影响

24小时热文

友情链接

与优秀科技平台合作,共同构建创新数字生态

合作伙伴持续增加中,期待与更多优秀平台建立联系