【直播保障】AI拉黑恶评/实时监测
分享一个AI如何保障直播间的经典案例
👉
AI智能判断是否为恶意评论，是否为水军，是否影响直播间观众购买的评论。
对于这部分恶意中伤的内容，我们关联自动化流程，自动对这部分用户进行屏蔽拉黑。 同时我们构建企业自己的拉黑数据库，可以将拉黑账号同步传输给其他账号，一并拉黑处理，做到一次性彻底屏蔽同行恶意账号，防止多次骚扰。
拉黑示例。
- 单直播间拉黑
- 拉黑后立马同步数据至另一账号，一并拉黑。（直接拉黑，防止继续进场）
大量数据累积
我们在过去的业务服务沉淀里，积攒了20w条的直播恶意评论数据，为我们的AI大模型判断提供了强有力的训练材料。
模型训练、和效果
模型训练后，我们不再通过关键词进行屏蔽检测，而是让AI自己检测每一条弹幕，每一个用户昵称。做到过去出现的立马屏蔽，未曾出现的AI智能判断。
关于检测的方式。
我们通过RPA的方式，去检测每一条评论。没有通过协议进行，遵循了平台规则，无风险，更不会出现对直播间账号的影响。