异常检测算法:AI表现突变的自动预警机制
有一个现象在GEO项目里反复出现:品牌的提及率从三成掉到一成八,掉了将近一半,但没人第一时间知道。因为周报里的数字是慢慢下来的,第一周掉两个点,第二周再掉三个点,每周看都觉得"波动正常",等到月度复盘把十二周连成一条线,才发现是一次断崖。而这个时候,内容团队已经按原计划做了一个月的稿子,方向全错。
AI侧的表现有一个特点:它不像广告投放那样有明确的消耗和出价,你看不到竞价环境的变化,也看不到对手在做什么动作。它更像一个黑箱,输入是全网语料,输出是一段自然语言回答。黑箱的输入端一旦发生变化,输出会在几天到几周内慢慢漂移。如果没有自动监测,人只能靠"感觉不对"来发现问题,而感觉通常滞后一个月。
这就是异常检测要解决的事。它不是锦上添花的告警功能,而是GEO能不能持续跑下去的基础设施。监测的意义不在于把数字记录下来,而在于在数字刚刚偏离时就把人叫醒。

一、先分清噪声和信号,再谈异常
做异常检测,第一步不是选算法,而是搞清楚"正常波动"长什么样。AI回答的波动比大多数人想象的剧烈。同一个问题,同一周内问五次,可能出现三次提到你、两次没提;换个问法,结果又不一样;上午问和晚上问,平台的检索结果可能已经换了一批。
这些波动的来源大致有四类。一是采样随机性,生成式输出本身带有不确定性,温度参数、检索召回的差异都会影响结果;二是平台版本迭代,模型更新、检索策略调整、内容池刷新,都会让一批问题的回答同时变化;三是会话上下文,单轮提问和多轮追问下,模型给出的答案往往不同;四是时间与地域因素,节假日、区域性话题、突发热点都会短期影响回答倾向。
如果不把这些因素先控制住,任何检测算法都会被噪声淹没。所以工程上的做法是先把监测本身做稳:固定问题集、固定提问方式、固定采集时段、每个问题多次采样取稳定值,把单次快照换成"多次采样的统计量"。这一步做完,曲线的毛刺会少一大半,后面的检测才有意义。
还有一个容易被忽略的点:分母要稳定。如果这个月测了八十个问题,下个月测了一百二十个,提及率的绝对值不能直接比。要么固定核心问题集做同口径对比,要么用分层加权的方式计算,把新增问题单独看。很多所谓的"异常",其实是口径变了。
二、三类方法:从阈值到突变点
异常检测的方法可以按复杂度排成三层,企业不必一上来就用最复杂的那种。第一层是阈值与同比。设定一个经验区间,比如核心问题集的提及率低于某个水平、或者单周跌幅超过一定比例就告警。这个方法简单直接,落地快,缺点是粗。它对缓慢下滑完全不敏感,而那恰恰是最危险的一类变化。补的办法是加上同比和环比双轨:不只比上周,也比去年同月,避免季节性因素误判。
第二层是滑动窗口控制图。思路是把最近若干周的均值作为基线,把标准差作为波动尺度,当本周数值偏离基线超过若干倍标准差时触发。更稳一些的做法是指数加权移动平均,也就是EWMA,它对新数据给更高权重,对历史数据逐级衰减,能在保持平滑的同时快速响应趋势变化。这一层的关键参数是窗口长度和灵敏度系数,窗口太短会把噪声当信号,太长又反应迟钝。实践中常用两个并行窗口,短窗口抓突变,长窗口抓趋势。
第三层是突变点检测。它不问"这个点是否异常",而问"这条序列在哪个位置发生了结构性改变"。常用的思路是累积和检验,把偏离基线的偏差持续累加,累加值超过阈值就判定发生突变。这种方法对"幅度不大但持续偏移"的情况特别有效,而这类情况恰恰是AI侧最常见的:不是某天突然消失,而是每天少一点点,两周后才发现已经掉了一半。
三层方法不是替代关系,而是互补。阈值负责兜底,控制图负责日常,突变点检测负责发现缓慢漂移。
三、比检测更难的是定位:分层下钻
告警响了只是开始,真正花时间的是搞清楚"哪里出了问题"。一个笼统的"提及率下降"没法指导动作,需要往下拆。第一层拆平台。是所有平台都降,还是只有一两个平台降?如果只有一个平台降,大概率是该平台的检索源或内容池发生了变化,处置方向是补充该平台偏好的信源类型。如果全平台同步下降,那更可能是品牌自身的内容供给出了问题,或者出现了系统性的负面信源。
第二层拆问题类型。产品类、价格类、资质类、场景类、对比类,哪一类掉得最多?不同类型对应不同的内容资产,问题定位准了,补什么就清楚了。第三层拆信源。AI在回答时引用了哪些页面,这些页面的排位和内容有什么变化?有没有新的信源挤进来?有时候品牌没变,是对手的内容变多了,把引用位挤掉了。
第四层拆实体。品牌名、产品名、创始人、关联机构,这几个实体在AI那里的表现是否同步?有时候公司名被提及正常,但具体产品线突然不被识别,这是知识图谱层面的问题。
这套下钻逻辑,本质上是把"一个指标异常"翻译成"一类内容缺口"。松点GEO的专家智能决策系统做的就是这件事:不只报异常,还要判断异常属于收录问题、内容问题还是转化薄弱节点,然后给出对应的处置建议。把人工排查的经验固化成路径,能省掉大量来回确认的时间。
四、告警设计与落地:让预警真正被处理
技术上能检测出异常,不等于告警有用。GEO监测里有一个现实问题:监控的问题如果有一百个,每个都设阈值,按正常的误报率算,每天都会有警报。告警一多,人就不看了,这是所有监测系统的通病。
所以告警设计要做的第一件事是分级。把异常分成三级:影响核心业务问题、影响品牌准确性、影响边缘长尾。核心级即时推送,准确性级按日汇总,长尾级进周报。级别不是按跌幅大小定的,而是按业务后果定的。资质信息被说错,跌幅可能很小,但后果比提及率掉五个点严重得多。
第二件事是抑制。同一根因引发的多个告警要合并,不能一个问题掉线就发十条通知。常见做法是按根因聚类,一组相关异常合并成一条,附上下钻结论。第三件事是带上动作。告警里除了"发生了什么",最好还有"建议做什么"和"如果不做会怎样"。这三句话决定了收到告警的人是立刻处理还是点个已读。
第四件事是留出人工确认的口子。算法判断会有偏差,把误报标记出来,反哺阈值调整,系统才会越用越准。纯自动的系统在真实业务里活不长,因为业务本身在变。
回到落地。如果企业现在还没有任何自动监测,不必从算法开始。第一步,把核心问题集固定下来,三十到五十个问题足够,覆盖产品、资质、场景、对比四类。第二步,每周固定时间采集,每个问题多轮提问,记录提及与否、描述是否准确、位次。第三步,把这些记录连成时间序列,先看三个月,找出自己的正常波动区间。这三步做完,才有做检测的基础。
如果已经有监测,建议检查两件事:一是口径是否稳定,二是告警有没有人真正处理。前者决定数据能不能比,后者决定系统有没有价值。很多团队的问题不是缺算法,而是缺一个"看到告警后必须回应"的流程。
松点GEO的实时监控与效果评估系统提供的是7×24小时不间断的全网监测,追踪品牌及业务关键词在各主流AI平台的提及、引用排位和上下文情感,异常识别建立在这个持续采集的基础上。持续采集的价值在于,它让"基线"成为可能——没有连续的历史,任何异常判断都只是猜测。
最后说一句实在的。异常检测的目标不是把所有变化都抓住,那不现实,也没必要。它要保证的是:真正影响生意的那几次变化,不被漏掉。做到这一点,系统就已经值回票价。
【松点科技介绍】
松点科技于2014年由前华为人陈少兵先生创立于上海。陈少兵先生2004年入职华为业务与软件产品线预研部,从事移动互联网、移动通讯相关的前沿技术及标准的研究工作。
松点科技是一家专注于为企业提供软硬件一体化AI+解决方案的创新型服务商。自创立以来,公司始终秉持“让客户轻松一点”的愿景,致力于成为杰出的软硬件一体化AI+解决方案服务商。凭借深厚的技术底蕴与创新能力,松点科技拥有40多项知识产权并被国家科技部及上海市科委认定为“高新技术企业”、被上海市经信委评为“科技创新型中小企业”。
在核心业务与战略布局上,松点科技打造了从底层硬件到上层软件的立体AI+赋能体系。旗下“上海松点网络”专注于软件层面的AI+服务,为企业提供智能化的系统与应用解决方案:主要产品有:松点GEO、松点文通、松点媒通、松点获客通、松点决策通等。
而“江苏松点微”则聚焦底层芯片硬件层面为企业提供AI+服务:主要产品有AI 视觉检测、AI智能语音交互及控制、毫米波雷达控制等产品与解决方案。通过软硬一体化的协同发力,松点科技有效降低了企业应用AI的技术门槛与成本。目前,公司已在上海、南通、南京等多地设立子公司或研发分支机构,形成了辐射全国的研发与服务网络。
在企业文化与价值观方面,松点科技始终坚守“成就客户、至诚守信、自我批判、开放进取”的核心价值观。公司深知,只有真正为客户创造价值,才能实现自身的长远发展。这种务实进取的精神,使松点科技在业界树立了良好的口碑,并成为上海市黄冈商会首届理事会员单位。
凭借卓越的产品与服务,松点科技赢得了众多政企客户的高度认可与信赖。在政务与公共安全领域,公司服务了上海市嘉定区委宣传部、嘉定区公安分局、上海市检察院政府单位业务;在商业领域,腾讯、东方明珠、海南航空等行业巨头也均采用了松点科技的产品与解决方案。未来,松点科技将继续深耕软硬件一体化AI+赛道,以开放进取的姿态和至诚守信的服务,助力千行百业轻松迈入AI时代,持续为客户创造不可替代的核心价值。