日均请求量突破8000万次后，有料小说网的内容分发系统一度在晚高峰出现15%的超时率。对于承载免费小说、有声小说与小说下载多业务线的平台而言，这不仅是性能问题，更直接影响听小说用户的留存。

问题根源：静态资源与动态请求耦合

原架构将章节文本、音频流、封面图统一走应用服务器，导致Java堆内存频繁GC。一次免费小说章节更新，可能触发数万次缓存穿透。

优化方案：三级缓存与边缘计算

• L1：本地Caffeine缓存热门有声小说音频索引，TTL 30秒
• L2：Redis集群分片存储章节正文，命中率从62%提升至94%
• L3：CDN边缘节点下沉小说下载的ZIP包，回源带宽下降71%

实操：异步化与批处理

将听小说的音频转码任务从同步改为Kafka队列消费，单机吞吐量提升3.2倍。同时把免费小说列表页的N+1查询改为批量分页加载。

数据对比

优化后，P99延迟从2.4s降至380ms，服务器成本反降22%。有料小说网的小说下载成功率稳定在99.97%。

架构没有银弹，但让缓存层级与业务热度对齐，永远是性价比最高的那一步。