第六十四章 救火版 (第3/3页)
个“排队中,请稍后重试”的提示页。
“这个也部署上去。”
姜亦心接过去跑。
效果立竿见影——用户端从“一直转圈”变成“排队中”,带预计排队时间。刷新不再制造新请求,死亡螺旋的输入被切断了。
第三步,分离队列。
现在AI推理和网页页面共用一个请求队列,推理慢了会把页面加载也拖死;要把推理请求分到独立队列,网页服务走另一条通道。
韩路一说了方向,赵磊自己写了配置,改了路由规则,手速比韩路一预期的还快。
“可以了,”赵磊说,“推理队列隔离完了,网页服务不受影响。”
姜亦心部署完最后一版,盯着监控曲线,数字一格一格往下掉。
“超时率……百分之二……百分之一……”
七点二十,在线人数开始自然回落了,开物的用户画像偏白天使用场景,晚上本来就不是高峰期。
七点四十五,超时率归零,推理时间回到正常的十几秒。
监控面板上一片绿。
“解决了,都下班吧。”韩路一没站起来。
赵磊关掉终端,拿起外套。
“走了。”
“辛苦。”韩路一说。
姜亦心还在工位上,监控曲线还开着,但她低头在发微信。
【小姜(救火版)】:你不会信的,我今天经历了人生第一次生产事故!!!比过山车还刺激
【大刘】:这么野的吗?
【大刘】:你还吃晚饭吗我快饿死了啊!
苏念念走到韩路一工位旁边。
“用户群里已经安抚了,明天早上我再发一条公告,措辞你要不要看一下?”
“你定就行。”
“流失情况我明天跑一下数据给你。”
“好。”
苏念念拍了拍他的椅背,走了。
韩路一关了屏幕,拿起手机。
第二天早上八点四十。
陈建业一进办公室,就看见姜亦心端着杯子走过来,脸上带着那种经历了大事后还在回味的兴奋劲儿。
“老陈!你昨天没在太可惜了——”