ARTICLE DETAIL

资讯详情

深耕商务建站与企业官网运营的一线实战洞察。

智能风控系统架构设计与工程实践:规则、模型与名单的混合策略

智能风控系统架构设计与工程实践:规则、模型与名单的混合策略 1. 智能风控系统到底在解决什么问题先把场景说清楚。任何一个有交易、有用户注册、有内容发布的线上业务只要涉及到“钱”或者“资源分配”就一定会有人想钻空子。薅羊毛的、刷单的、盗号的、骗补贴的手段层出不穷。我最早接触风控是在一个电商促销项目里活动上线不到两小时后台就发现有一批账号在疯狂领券IP地址集中在几个网段收货地址高度相似。当时全靠人工封号运营同学盯着后台一条条看效率极低还容易误伤真实用户。智能风控系统要干的事情说白了就是在毫秒级的时间内判断一笔请求“像不像坏人干的”。它不像传统规则引擎那样只靠几条死规则而是结合了规则、模型、名单、画像等多种手段动态地给出一个风险评分再根据评分决定放行、拦截还是二次验证。这套东西适合谁看如果你是后端开发、数据开发、策略产品经理或者正在从零搭建风控体系那下面的内容应该能帮你少走不少弯路。我见过不少团队一开始就想上深度学习模型结果连基础的数据采集都没做好模型跑出来的结果根本没法解释策略同学也不敢用。所以这篇文章我会从整体架构讲到具体实现把每一步的“为什么”都掰开说清楚。2. 整体架构设计与核心模块拆解2.1 为什么选择“规则模型名单”的混合架构纯规则引擎的问题在于滞后性。你今天发现一个漏洞写一条规则堵上明天黑产换个手法规则就失效了。纯模型的问题在于冷启动和可解释性。新业务上线第一天没有标注数据模型根本训不出来就算训出来了策略同学看到一个“0.87的风险分”也不知道该怎么跟老板解释为什么拦截了这笔请求。所以业内比较成熟的做法是三层混合名单层黑白名单命中直接放行或拦截响应时间在微秒级。黑名单来源包括历史确认的欺诈账号、设备指纹、IP等。规则层由策略同学配置的专家规则比如“同一设备一小时内注册超过5个账号”“同一IP十分钟内下单超过20笔”。规则的好处是解释性强坏处是需要不断维护。模型层用机器学习模型对用户行为、设备信息、交易特征进行综合评分。模型负责发现那些规则覆盖不到的、隐蔽的异常模式。这三层的执行顺序通常是先查名单再过规则最后跑模型。但也不是绝对的有些场景下模型会前置比如对高风险交易做实时评分规则只作为兜底。注意不要一上来就把三层都做全。我建议先从名单规则起步等积累了足够的数据和标注样本再引入模型。否则模型就是个黑盒摆设。2.2 数据采集层风控的“眼睛”和“耳朵”风控系统最核心的资产不是模型是数据。没有高质量的数据采集后面全是空中楼阁。数据采集主要分三块第一块是设备指纹。通过采集设备的硬件信息、浏览器特征、网络特征等生成一个相对稳定的设备ID。这样即使用户换账号我们也能识别出是同一台设备。设备指纹的稳定性很关键我实测下来单纯用User-Agent加屏幕分辨率碰撞率太高至少要把Canvas指纹、WebGL指纹、字体列表、时区这些维度都加上。第二块是行为数据。包括用户的点击流、页面停留时长、输入速度、滑动轨迹等。黑产用脚本操作和真人操作在行为特征上有明显差异。比如真人输入密码会有停顿和修正脚本则是一气呵成。这些数据采集时要注意脱敏不能记录用户的密码等敏感信息。第三块是业务数据。订单金额、收货地址、支付方式、商品类型等。这些数据来自业务系统通过消息队列异步同步到风控系统。这里有个坑如果同步延迟太高风控决策时拿不到最新的业务数据就会导致误判。我们当时要求同步延迟控制在200毫秒以内。2.3 实时计算层毫秒级决策的工程挑战风控决策对延迟极其敏感。用户点“提交订单”之后如果风控系统要跑个两三秒才返回结果用户体验直接崩了。所以实时计算层必须做到高吞吐、低延迟。我们当时的架构是这样的请求先进入接入层做限流和降级然后并行调用名单服务、规则引擎和模型服务最后在聚合层做综合决策。并行调用是关键串行的话时间就是三者之和并行的话取决于最慢的那个。规则引擎我们选的是基于Rete算法的实现把规则编译成网络避免每次请求都重新匹配所有规则。模型服务用的是TensorFlow Serving把模型加载到内存里支持热更新。这里有个经验模型推理的耗时主要花在特征拉取上而不是模型计算本身。所以特征存储一定要用低延迟的KV数据库比如Redis或者本地缓存。模块技术选型延迟要求备注名单服务Redis 本地缓存 5ms布隆过滤器防穿透规则引擎Rete算法实现 20ms规则数量控制在500条以内模型服务TensorFlow Serving 50ms特征预计算缓存聚合决策内存计算 5ms加权评分阈值判断2.4 离线计算层模型训练与策略迭代离线层主要负责三件事特征工程、模型训练、策略效果评估。特征工程是最耗时的大概占整个流程70%的时间。我们当时建了一个特征平台把常用的特征如用户近7天交易次数、近30天退款率预计算好存到Hive表里模型训练时直接读取。模型训练方面我们用的是XGBoost和LightGBM因为它们在表格数据上表现稳定训练速度快而且能输出特征重要性方便策略同学理解。深度学习模型我们也试过但在我们的场景下提升不明显反而增加了维护成本。策略效果评估是个容易被忽视的环节。新策略上线前一定要做离线回测和AB实验。离线回测是用历史数据模拟新策略的效果看拦截率和误杀率的变化。AB实验是把流量分桶一部分走新策略一部分走老策略对比实际效果。这里要注意AB实验的周期要足够长至少覆盖一个完整的业务周期否则结论不可靠。3. 核心细节解析与实操要点3.1 设备指纹的生成与稳定性优化设备指纹是风控的基石。如果设备指纹不稳定同一个设备每次生成的ID都不一样那基于设备的规则和模型全都失效。我们踩过的坑是早期只用浏览器UA和IP做指纹结果用户换个网络、升级个浏览器指纹就变了。后来我们改成多维度加权的方式主要维度包括硬件维度CPU核心数、内存大小、显卡型号、屏幕分辨率浏览器维度User-Agent、语言、时区、插件列表、Canvas指纹、WebGL指纹网络维度IP段、DNS服务器、TCP指纹每个维度算一个哈希值然后按权重组合成最终指纹。权重是根据历史数据统计出来的稳定性越高的维度权重越大。比如Canvas指纹的稳定性就比IP高很多。实操心得设备指纹不要追求100%准确能达到95%以上的稳定性就够用了。剩下的5%可以通过行为特征来弥补。3.2 规则引擎的规则编排与冲突处理规则引擎的核心是规则编排。我们当时支持三种规则类型简单规则单条件判断如“订单金额 10000”组合规则多条件与或非如“订单金额 5000 且 收货地址与历史地址不一致”统计规则基于时间窗口的统计如“同一设备1小时内下单超过10笔”规则冲突是常见问题。比如规则A说“命中黑名单设备直接拦截”规则B说“VIP用户放行”。如果一个VIP用户用了黑名单设备到底听谁的我们的做法是给每条规则设置优先级优先级高的先执行并且一旦命中拦截规则就不再执行后续规则。规则的数量也要控制。我们实测下来规则超过500条之后匹配耗时会明显上升。所以定期做规则清理很重要把长期没有命中的规则下线把效果相似的规则合并。3.3 模型特征的选择与处理模型效果好不好八成看特征。我们当时选了大概200个特征主要分四类用户画像特征注册时长、历史交易次数、历史退款率、会员等级设备特征设备指纹、设备类型、操作系统、是否模拟器行为特征页面停留时长、点击次数、输入速度、操作间隔业务特征订单金额、商品类别、支付方式、收货地址特征处理要注意几点一是缺失值填充有些特征在冷启动阶段是空的我们用均值或者特殊值填充二是归一化不同特征的量纲差异很大不做归一化会影响模型收敛三是特征穿越训练时不能用未来数据这个坑很隐蔽一定要在特征平台层面做好时间对齐。3.4 风险评分的融合与阈值设定名单、规则、模型各自输出一个风险分最后要融合成一个总分。我们用的是加权求和的方式总分 w1 * 名单分 w2 * 规则分 w3 * 模型分权重是根据业务经验设定的名单分权重最高因为命中黑名单基本就是确认的欺诈。规则分和模型分权重相近但会根据场景调整。比如促销活动期间规则分权重会调高因为活动期间规则更精准。阈值的设定是个博弈过程。阈值太高拦截率低黑产容易漏过阈值太低误杀率高真实用户会投诉。我们的做法是先用历史数据画一条ROC曲线找到拦截率和误杀率的平衡点然后在这个点附近做小范围调整观察实际效果。总分区间决策说明0-30放行低风险直接通过30-70二次验证中风险触发短信验证或人工审核70-100拦截高风险直接拒绝4. 实操过程与核心环节实现4.1 从零搭建风控系统的完整步骤如果你现在要从零开始搭一套风控系统我建议按下面的顺序来第一步梳理业务场景和风险点。先搞清楚你的业务有哪些地方可能被薅、被刷、被骗。比如注册环节有批量注册登录环节有撞库下单环节有刷单支付环节有盗刷。每个场景的风险特征不一样需要的策略也不一样。第二步搭建数据采集管道。前端埋点采集设备和行为数据后端通过消息队列同步业务数据。数据统一写入数据仓库实时部分走Flink计算离线部分走Spark。第三步实现名单服务。先用Redis做一个简单的黑白名单支持增删改查和批量导入。名单来源可以是历史封禁账号、第三方共享名单、人工审核确认的欺诈账号。第四步实现规则引擎。可以先从硬编码开始把规则写在配置文件里每次请求加载配置进行匹配。等规则多了再考虑上专业的规则引擎。第五步接入模型服务。先用离线数据训练一个简单的逻辑回归模型跑通整个流程。等数据量大了再换XGBoost或者LightGBM。第六步搭建监控和告警。监控拦截率、误杀率、请求延迟等核心指标设置告警阈值。一旦指标异常及时排查。4.2 实时决策流程的代码实现下面是一个简化的实时决策流程用Python伪代码展示def risk_decision(request): # 1. 查名单 if blacklist_service.contains(request.device_id): return Decision.REJECT, blacklist_device if whitelist_service.contains(request.user_id): return Decision.PASS, whitelist_user # 2. 过规则 rule_score rule_engine.evaluate(request) # 3. 跑模型 features feature_service.get_features(request) model_score model_service.predict(features) # 4. 融合评分 total_score 0.5 * rule_score 0.5 * model_score # 5. 阈值判断 if total_score 70: return Decision.REJECT, high_risk elif total_score 30: return Decision.CHALLENGE, medium_risk else: return Decision.PASS, low_risk这段代码看起来简单但每个环节都有讲究。比如名单查询要用布隆过滤器防止缓存穿透规则引擎要支持热更新模型服务要支持多版本灰度。4.3 特征计算的性能优化特征计算是实时决策中最耗时的部分。我们当时的优化手段包括预计算把一些变化不频繁的特征如用户近30天交易次数提前算好存到Redis里实时请求直接读取。批量拉取一次请求需要多个特征时用pipeline批量从Redis拉取减少网络往返。本地缓存在应用层加一层本地缓存缓存那些短时间内不会变的特征比如用户注册时长。降级策略如果特征服务超时用默认值填充保证决策流程不阻塞。注意降级策略一定要有但降级后的决策要打标方便后续分析。我们当时因为降级导致误杀了一批用户后来在决策日志里加了降级标记才定位到问题。4.4 策略上线的灰度与回滚新策略上线绝对不能全量推。我们的流程是离线回测用历史数据跑一遍新策略对比老策略的拦截率和误杀率。小流量灰度切1%的流量走新策略观察24小时。扩大灰度如果指标正常逐步扩大到10%、50%。全量上线确认无误后全量推送。回滚预案一旦发现异常立即切回老策略。灰度期间要重点观察误杀率。如果误杀率上升超过0.5%就要暂停灰度排查原因。我们当时有一次灰度误杀率突然飙升后来发现是新策略里用了一个新特征而这个特征在部分用户上是空的导致模型评分偏高。5. 常见问题与排查技巧实录5.1 误杀率突然升高怎么排查误杀率升高是最常见也最头疼的问题。排查思路一般是先看是不是数据问题特征服务有没有超时名单服务有没有误命中消息队列有没有积压再看是不是策略问题最近有没有上线新规则或新模型如果有先回滚。最后看是不是业务问题业务有没有做活动有没有新用户大量涌入这些都会导致行为模式变化。我们当时遇到过一次误杀率飙升排查了半天发现是设备指纹服务升级导致部分设备的指纹变了触发了“设备异常”规则。后来我们在设备指纹服务加了兼容层新旧指纹同时保留一段时间才解决了问题。5.2 黑产绕过策略的常见手法与应对黑产绕过策略的手法一直在进化常见的包括改设备用模拟器、改机工具修改设备信息。应对方法是加强设备指纹的维度检测模拟器特征。养号批量注册账号后养一段时间再使用。应对方法是分析账号的行为轨迹养号账号的行为模式通常很单一。分散操作用大量账号小额操作避免触发统计规则。应对方法是做关联分析把同一设备、同一IP、同一收货地址的账号关联起来。代理IP用代理IP池切换IP。应对方法是检测IP的异常特征比如IP段是否来自数据中心。实操心得不要试图一次性堵住所有漏洞。风控是个持续对抗的过程关键是建立快速响应机制发现新手法后能快速上线新策略。5.3 模型效果衰减怎么办模型上线一段时间后效果会逐渐衰减因为黑产的手法在变用户的行为也在变。应对方法包括定期重训每周或每两周用最新数据重新训练模型。在线学习对于变化快的场景可以用在线学习的方式让模型实时更新。特征监控监控特征的分布变化一旦发现某个特征的分布偏移严重就要排查原因。模型融合用多个模型投票降低单模型衰减的影响。我们当时的做法是每周重训一次同时保留一个老版本模型做兜底。如果新模型效果不好可以快速切回老模型。5.4 常见问题速查表问题现象可能原因排查方法解决方案误杀率升高新策略上线对比新旧策略决策日志回滚策略误杀率升高特征服务异常检查特征服务监控修复特征服务拦截率下降黑产绕过分析拦截失败案例更新策略决策延迟升高规则过多检查规则数量和匹配耗时清理规则决策延迟升高模型推理慢检查模型服务和特征拉取耗时优化特征缓存名单误命中名单数据错误检查名单导入日志修正名单数据5.5 风控系统的监控体系监控是风控系统的生命线。我们当时监控的指标分三类业务指标拦截率、误杀率、二次验证率、投诉率。这些指标直接反映风控效果。技术指标请求量、响应时间、错误率、超时率。这些指标反映系统健康度。数据指标特征覆盖率、特征分布、模型评分分布。这些指标反映数据质量。每类指标都要设置告警阈值。比如误杀率超过1%告警响应时间超过100ms告警。告警要能快速定位到具体模块所以我们给每个模块都加了独立的监控面板。6. 一些踩坑后的个人体会风控系统不是建好就完事了它更像一个需要持续运营的产品。我最大的体会是策略、数据、工程三者缺一不可。策略同学懂业务但不懂工程工程同学懂技术但不懂业务数据同学懂模型但不懂策略三者之间需要大量的沟通和协作。另外不要迷信模型。模型能解决一部分问题但解决不了所有问题。很多场景下一条简单的规则比模型更有效。关键是找到规则和模型的平衡点让它们各自发挥优势。最后分享一个小技巧每次策略上线后一定要做决策日志的抽样分析。随机抽100条拦截记录人工看看有多少是误杀。这个工作很枯燥但能发现很多自动化监控发现不了的问题。我们当时就是通过抽样分析发现了一个规则在特定场景下的误判及时做了修正。
返回列表
PREV
查看更多资讯
NEXT
返回资讯列表