Redis在大数据中的使用技巧

1、特性

• 在ZTO大数据实时计算广泛应用，200多个Redis实例稳定工作一年多，每天处理近1亿包裹数据，日均调用量80亿次;
• 低延迟，Get/Set操作平均耗时200~600us(含往返网络通信);
• 大吞吐，自带连接池，最大支持1000并发;
• 高性能，支持二进制序列化(默认用的json，json很低效，转成二进制性能会提升很多)。

2、Redis经验分享

• 在Linux上多实例部署，实例个数等于处理器个数，各实例最大内存直接为本机物理内存，避免单个实例内存撑爆(比方说8核心处理器，那么就部署8个实例)。
• 把海量数据(10亿+)根据key哈希(Crc16/Crc32)存放在多个实例上，读写性能成倍增长。
• 采用二进制序列化，而非常见的Json序列化。
• 合理设计每一对Key的Value大小，包括但不限于使用批量获取，原则是让每次网络包控制在1.4k字节附近，减少通信次数(实际经验几十k，几百k也是没问题的)。
• Redis客户端的Get/Set操作平均耗时200~600us(含往返网络通信)，以此为参考评估网络环境和Redis客户端组件(达不到就看一下网络，序列化方式等等)。
• 使用管道Pipeline合并一批命令。
• Redis的主要性能瓶颈是序列化、网络带宽和内存大小，滥用时处理器也会达到瓶颈。
• 其它可查优化技巧。

以上经验，源自于300多个实例4T以上空间一年多稳定工作的经验，并按照重要程度排了先后顺序，可根据场景需要酌情采用。

3、缓存Redis的兄弟姐妹

Redis实现ICache接口，它的孪生兄弟MemoryCache，内存缓存，千万级吞吐率。

各应用强烈建议使用ICache接口编码设计，小数据时使用MemoryCache实现;数据增大(10万)以后，改用Redis实现，不需要修改业务代码。

四、关于一些疑问的回复

这一Part我们会来聊聊大数据中Redis使用的经验：

Q1：一条数据多个key怎么设置比较合理?

A1：如果对性能要求不是很高直接用json序列化实体就好，没必要使用字典进行存储。

Q2：队列跟List有什么区别?左进右出的话用List还是用队列比较好?

A2：队列其实就是用List实现的，也是基于List封装的。左进右出的话直接队列就好。Redis的List结构比较有意思，既可以左进右出，也能右进左出。所以它既可以实现列表结构，也能队列，还能实现栈。

Q3：存放多个字段的类性能一样吗?

A3：大部分场景都不会有偏差，可能对于大公司数据量比较大的场景会有些偏差。

Q4：大数据写入到数据库之后，比如数据到亿以上的时候，统计分析、查询这块，能不能分享些经验。

A4：分表分库，拆分到一千万以内。

Q5：CPU为何暴涨?

A5：程序员终极理念——CPU达到百分百，然后性能达到最优，尽量不要浪费。最痛恨的是——如果CPU不到百分百，性能没法提升了，说明代码有问题。

虽然Redis大家会用，但是我们可能平时不会有像这样的大数据使用场景。希望本文能够给大家一些值得借鉴的经验。

【编辑推荐】

1. 中数经纬CEO林道进：运用智慧大数据 助力海南大发展
2. 首届中国大数据创新发展论坛在海口召开
3. 2019第五代互联网重启：覆巢之下，机遇与挑战？
4. 产业互联网风口，BAT等能否继续笑傲群雄？
5. 2009-2018：中国互联网十年百大事件

（编辑：核心网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!