原创「让视频直播、点播与卡顿、延迟说Byebye，优化CDN节点缓存是关键」怎么把直播延迟缩小一些怎么调直播延迟

日前，奥运大赛如火如荼时，你是在为中国运动健儿十米气枪夺首金而欣喜若狂，还是为高台跳水的神级压水而感到不可思议，或是为了金牌榜数目的不断上升而欢呼雀跃。不过，无论有何感受，只要有时间发表感慨，就证明你的网络还是挺顺畅的。

然而，有一群抱着手机、平板、电脑观看网络直播的观众朋友可就不那么畅快——直播画面调至1080P清晰度还不如标清，关键时刻就卡顿让人防不胜防……对此网友的抱怨也五花八门：甲：看个圣火点燃仪式，只看到了圣火燃起来，没看到点燃的过程。乙：直播网页延迟，金牌已经出来了，我还在傻傻的等赛场画面。丙：网络卡的呀，乒乓球比赛分数直接从1:1变成5:1。……

其实，此类问题并不是奥运会比赛直播一家独有，在诸如演唱会、带货等各种直播中也屡见不鲜。频繁出现的卡成马赛卡、卡成PPT、卡到错位、卡出屏幕之外的画面，已让人无力吐槽，套用仓央嘉措的句式就是，你抱怨或不抱怨，卡顿就在那里，不舍不弃。随着5G网络的普及，视频点播、直播服务已成为互联网流量的绝对“C位”担当。要提升用户体验，那么卡顿、延迟、画面模糊这些问题就必须尽可能消除，这很大程度上依赖于CDN服务提供的高效内容分发和缓存加速能力。CDN（Content Delivery Network，内容分发网络）服务可以将用户的点播、直播请求调度至最近的CDN节点就近响应，从而有效解决因跨运营商访问、跨地域访问、服务器带宽及性能带来的访问延迟问题，提升用户体验。对此，中国电信优化CDN节点缓存系统，提升视频直播、点播性能之路上已经做出了成功探索。

中国电信优化CDN节点缓存系统，视频直播、点播性能再升级

中国电信是全球领先的电信运营商，一直在为众多头部视频服务商提供高效的内容分发和缓存加速能力，希望通过优化旗下天翼云CDN节点缓存系统性能，进一步提升终端视频播放的流畅度与清晰度。

天翼云CDN节点缓存系统采用三级架构，自上而下为内存级、固态盘级和硬盘级，其中内存级性能最优，但容量最小、价格昂贵且易失；硬盘级性能最低，但容量最大；固态盘级的性能和容量居中。中国电信的自研算法可根据数据热度和文件大小动态调整缓存内容，以获得最佳性能。例如，在奥运会期间，比赛相关视频会受到更多关注和点播，这时动态调整算法会根据节目热度上升幅度，将其从硬盘迁移到性能较好的固态盘，如热度再上升，就会迁移到性能最高的内存中；热度减退，则会将其下沉至大容量的硬盘，以节省内存空间。天翼云对CDN节点缓存系统的优化提出了两大要求：其一，扩容内存级缓存，确保高热点数据获得性能加持；同时升级固态盘缓存性能，使其成为缓存加速主力，提升天翼云CDN整体性能。在此基础上，还要满足不同业务场景对CDN节点缓存系统的需求。如视频直播中，热点视频在一定时间内被反复观看，大量数据会被长时间保留在内存级缓存中，但DRAM内存昂贵，不能无限扩容；视频点播中，热点内容分散持续时间短，更注重缓存系统整体性能表现，需要固态盘缓存性能与内存缓存平滑过度，弥合NAND固态盘时延性能与DRAM内存之间的巨大差距。其二，提升CDN节点索引性能。当CDN节点出现断电、宕机等意外情况时，索引数据的恢复速度会影响CDN服务的连续性和可用性。所以，中国电信需要兼顾性能、容量和非易失性的存储产品，为索引服务提供更好的性能保证。

图一：不同业务场景对CDN节点缓存系统的需求

英特尔 傲腾技术，为CDN缓存系统注入新能量

基于不同场景的需求和对成本、性能的考虑，中国电信选择了英特尔 傲腾 持久内存与英特尔 傲腾 固态盘两种产品，来应对CDN升级两大需求，提升节点缓存性能。

英特尔 傲腾 持久内存：让高性能、大容量、多场景融于一体

英特尔 傲腾 持久内存基于创新的存储介质以及字节寻址能力，性能几乎与DRAM内存持平，而且具备内存和App Direct（AD）两种应用模式，能够从容应对不同业务场景。

图二：英特尔 傲腾 持久内存的两种应用模式

英特尔 傲腾 持久内存单模组容量最高可达512GB，在内存模式下与DRAM内存配合使用，可以获得6TB的内存总容量，能够以内存和存储的分层架构，优化工作负载性能与成本，帮助中国电信CDN节点内存级缓存保持既有性能水平。测试表明，该组合方案使得测试数据大多被存储在英特尔 傲腾 持久内存中，首字节平均时延和传输时延两项指标均在中国电信的预期内。

AD模式英特尔 傲腾 持久内存：索引恢复性能提升18倍+

为提供高性能索引能力，天翼云CDN节点通常将索引服务部署在内存数据库中。当CDN节点出现断电、宕机等意外时，传统DRAM内存易失的缺点，需要从磁盘备份中重新读取索引文件，导致数分钟的服务停顿，影响用户体验。AD模式的英特尔 傲腾 持久内存，一方面，既能保持卓越性能，又可为CDN节点提供高密度内存容量；另一方面，持久性的特征使得系统即使断电或重启，数据仍会保留。

图三：部署在不同存储设备中的索引文件恢复方式

测试证明，与DRAM内存相比，英特尔 傲腾 持久内存在AD模式下的各项性能差值均符合中国电信的预期，而在中国电信最关注的索引恢复速度上，英特尔 傲腾 持久内存加载耗时下降多达18倍以上，大幅提升CDN服务的连续性和可用性。

英特尔 傲腾 固态盘弥合内存与固态盘之间的性能差距

当缓存数据规模及性能要求的不断提升时，DRAM内存和NAND固态盘之间的性能差距也会越来越大，就会在一些场景中造成用户体验问题，英特尔 傲腾 固态盘产品则可有效弥补这一性能差距。

英特尔 傲腾 固态盘 P4800X可实现55万次的随机读写性能，读写延迟可低至10微秒，可确保CDN缓存加速工作负载表现一致，性能最优；其使用寿命也比NAND固态盘延长数十倍。而新一代的英特尔 傲腾 固态盘 P5800X在这几个维度上性能表现更强劲，其具备读写双通道，在任何工作负载下数据写入和读出的性能相互不影响，4K混合读写可以达到180万的IOPS（基于PCIe 4.0）。中国电信测试结果也显示，英特尔 傲腾 固态盘在不同的QPS请求下都获得了良好的带宽表现，整体时延以及首字节时延性能指标符合预期，堪为CDN节点优化缓存性能的绝佳选择。

总结

中国电信与英特尔联合开展的面向CDN节点缓存系统和索引能力的优化，已被证明可以有效提升CDN服务效能，在控制成本的同时，能为视频点播、直播及其它互联网服务提供更多高等级缓存加速能力，满足更多热点数据的分发加速需要，从而在5G时代为用户打造流畅的视频体验。