阿里云香港机房线路故障应急预案 网络团队必备操作手册

1.

故障识别与初步判断

- 监控告警：通过云监控、Zabbix、Prometheus接收丢包、延迟和链路异常告警。
- 网络指标：定义阈值：丢包率>5%、平均延迟>200ms、抖动>50ms作为告警条件。
- 日志校验：检查系统日志、ping和traceroute输出，示例命令：ping -c 10 203.119.0.1；traceroute 203.119.0.1。
- 区分范围：确认故障是单实例、子网、VPC还是机房级别（BGP/ISP）问题。
- 通知机制：触发SRE值班电话、Slack/钉钉群并创建工单，记录故障开始时间和影响范围。

2.

故障信息收集标准流程

- 基本信息：收集实例ID、内网/外网IP、Region/Zone、实例类型（例如 ecs.g6.large）。
- 路由信息：导出路由表、BGP邻居状态和公网出口信息（示例：AS1000-peer down）。
- 性能快照：抓取top、netstat -an、iftop、tcpdump样本（tcpdump -c 200 -w /tmp/trace.pcap）。
- 带宽和QPS：记录当时带宽利用率和QPS（例如出站带宽 600 Mbps，平均QPS 1200）。
- 保留证据：将关键日志与抓包上传到工单系统，便于后续分析与厂商沟通。

3.

快速缓解措施（5分钟内可执行）

- 切换CDN：将静态资源切至备用CDN节点，调整CNAME或使用CDN回源策略。
- 流量引导：启用阿里云智能DNS（DNS 板块）或将域名解析切换至备用IP/机房。
- 临时带宽：临时提升实例公网带宽或开启弹性公网IP加速（例如从100Mbps提升到1Gbps）。
- 放量限流：在网关/Load Balancer端实施速率限制与灰度降级，保护后端服务。
- 支持沟通：联系阿里云香港机房负责人并启动BGP/线路故障工单（记录工单号与预计恢复时间）。

4.

中期恢复与流量切换策略

- 漏斗切换：先将非关键流量（媒体、静态文件）切至备用机房或CDN，再逐步切换关键API。
- DNS TTL策略：将受影响域名TTL临时降低至60秒，便于快速回滚与切换。
- 双活与容灾：若配置双活（香港+新加坡），启动跨域负载均衡并验证会话粘性。
- BGP路由调整：与ISP协作做社区路由优先级调整，临时引导流量到备用出口。
- 数据一致性：切换前确认数据库读写策略与异地同步（示例：RDS 宽带复制延迟< 5s）。

5.

安全防护与DDoS应对

- 流量清洗：启用阿里云Anti-DDoS或第三方清洗服务，设置黑白名单与ACL过滤。
- 阈值报警：设置异常流量阈值（例如瞬时流量>2Gbps触发清洗策略）。
- WAF规则：启用WAF拦截常见攻击（SQL注入、CC攻击）并调整自定义规则。
- 速率限制：在网关/负载均衡上设置全局速率与并发限制，保护后端资源。
- 事后复盘：保存攻击流量样本与IP列表，向上游运营商申请封堵与溯源。

6.

真实案例：2024-03 香港机房BGP线路故障

- 事件概要：2024-03-12 02:10，某电商在香港机房出现外网丢包并发用户500K受影响。
- 初始指标：观测到外网出带宽突增至1.2Gbps，丢包率达8%，平均延迟350ms。
- 处置流程：通过DNS降级与CDN回源切换，15分钟内静态资源恢复，1小时内API完成灰度切换。
- 配置示例：受影响主机 ecs.g6.large（2 vCPU / 8GB / 100GB SSD），公网EIP 47.74.XX.XX，出站带宽峰值1.2Gbps。
- 结果与教训：与ISP协同优化BGP策略并在24小时内完成多线路冗余设计，后续SLA提升至99.95%。

7.

操作手册：关键命令与配置示例

- 健康检查命令：curl -I https://api.example.com/health || echo "down"；ping -c 10 203.119.0.1。
- 路由与邻居查看：查看BGP状态示例：show ip bgp summary（路由器操作）或在云控制台查看BGP对端状态。
- 实例规格表（示例）：

实例	CPU	内存	磁盘	带宽
ecs.g6.large	2 vCPU	8 GB	100 GB SSD	1 Gbps
ecs.c6.large	4 vCPU	16 GB	200 GB SSD	2 Gbps

8.

事后分析与长期改进建议

- 根因分析：汇总pcap、路由器日志与云厂商回执，形成RCA文档并归档。
- 冗余建设：部署多ISP多机房双活或主备结构，启用智能调度（负载均衡+DNS）。
- 演练计划：每季度进行一次跨机房故障演练，验证DNS切换与流量回流机制。
- SLA与合同：与云厂商协商明确故障时限与赔偿策略，保留BGP与链路维保承诺。
- 文档与培训：完善应急手册并对值班团队进行培训，确保故障响应时间与处理一致性。

来源：阿里云香港机房线路故障应急预案 网络团队必备操作手册