IBM将内存驱动到uDepot!Memcache的问题

IBM声称，使用NAND或3D XPoint部署Memcache 可以以更低的成本接近DRAM的缓存性能。

Memcache是一个在2003年推出的开源分布式内存系统。目前，数据库规模要大得多，DRAM仍然很昂贵，实际上，从2016年到2017年，价格上涨了47％。

据统计现如今有700多个应用程序使用Memcache，还有许多公共云提供托管Memcache服务。例如，LinkedIn，Airbnb和Twitter使用Memcache来避免访问存储上的数据库，从而减少查询响应速度。

IBM将内存驱动到uDepot

IBM苏黎世研究人员使用NVMe闪存和Optane（3D XPoint）构建Memcache时表示，它可以以更低的成本提供接近DRAM的性能，并且在保存内容时而不损耗功率。

IBM员工指出了其中的一个关键要点：名为uDepot的超值商店，专为NVMe闪存而设计，还有Optane。在使用3D XPoint（1.25美元/ GiB）而不牺牲性能并获得更高的云缓存容量可扩展性时，使用闪存（$ 0.4 / GiB）和降低4.5倍硬件成本时，用户可以降低比DRAM低10倍的预期成本（10美元/ GiB） 。

他们将uDepot与NVMe闪存SSD一起实施为IBM Cloud服务，将其称为Data Store for Memcache，并使用memaslap 测试对其进行基准测试，其中针对使用亚马逊AWS Elasticache使用DRAM的免费版本。

他们发现，Memcache的数据存储平均速度提高了33％（在所有并发请求数据点上），每秒事务图表显示如下：

延迟对比图表显示DataStore for Memcache接近Elasticache延迟：

此图表的未标记垂直轴显示平均延迟（以微秒为单位）。

DataStore for Memcache可作为IBM Cloud 的免费测试版提供。

IBM官方产品目前还在测试阶段，以下是官网是给出的链接，有兴趣的可以去尝试体验一下：https://cloud.ibm.com/catalog/services/data-store-for-memcache

Memcache的问题

IBM还使用两个Intel Optane 3D XPoint驱动器（Intel P4800X 375GB）实现了uDepot，并将其与DRAM和闪存Memcache实施进行了比较，再次使用memaslap测试。该公司比较了五种备选的memcache实现：

uDepot Optane与trt-spdk后端

uDepot Optane与trt-aio后端

memcached与DRAM

MemC3 - 一个带DRAM更新的Memcache实现

Fatcache - 为SSD编写的Memcache实现，但在此处使用Optane媒体实现

结果显示uDepot接近memcached，MemC3在吞吐量方面表现优于memcached（左图）。Fatcache及其基于SSD的代码在吞吐量测试方面远远落后。

在延迟方面（右图）Fatcache也不是那么好。它将数据缓存在DRAM中，在低队列深度处获得低延迟，然后延迟随着来自客户端的并发请求数量而迅速增加。 

memcached和MemC3 DRAM以及uDepot Optane缓存替代方案在延迟方面紧密结合。

对于128个客户端，实际延迟和吞吐量数量为：

MemC3 - 110μs和1,145kops/s

memcached - 126μs和1,001kops/s

uDepot trt-spdk - 128μs和985kops/s

uDepot trt-aio - 139μs和911kops/s

Fatcache - 2,418μs和53kops/s

IBM研究人员得出结论，DRAM上的memcached可以被Optane上的uDepot取代，其中对性能的影响可以忽略不计。 

uDepot Optane吞吐量与uDepot闪存相比如何？128个客户端的uDepot Flash吞吐量为40,000，从第一张图表读取，大约为140,000，读取右上方的uDepot Optane图表 - 好3.5倍。

这些数字表明NVMe Optane驱动器在memcache应用程序中可能是值得替代的DRAM。