一、键值设计
1、key名设计
可读性和可管理性
以业务名(或数据库名)为前缀(避免key抵触),用冒号分隔,比方业务名:表名:id
ugc:video:1
简洁性
保障语义的前提下,管制key的长度,当key较多时,内存占用也不容忽视,例如:
user:{uid}:friends:messages:{mid}简化为u:{uid}:fr:m:{mid}。
不要蕴含特殊字符
反例:蕴含空格、换行、单双引号以及其余转义字符
2、value设计
回绝bigkey
避免网卡流量、慢查问,string类型管制在10KB以内,hash、list、set、zset元素个数不要超过5000。
反例:一个蕴含200万个元素的list。
非字符串的bigkey,不要应用del删除,应用hscan、sscan、zscan形式渐进式删除,同时要留神避免bigkey过期工夫主动删除问题(例如一个200万的zset设置1小时过期,会触发del操作,造成阻塞,而且该操作不会不呈现在慢查问中(latency可查)),查找办法和删除办法
抉择适宜的数据类型
例如:实体类型(要正当管制和应用数据结构内存编码优化配置,例如ziplist,但也要留神节俭内存和性能之间的均衡)
反例:
set user:1:name tomset user:1:age 19set user:1:favor football
正例:
hmset user:1 name tom age 19 favor football
管制key的生命周期
redis不是垃圾桶,倡议应用expire设置过期工夫(条件容许能够打散过期工夫,避免集中过期),不过期的数据重点关注idletime。
二、命令应用
1、O(N)命令关注N的数量
例如hgetall、lrange、smembers、zrange、sinter等并非不能应用,然而须要明确N的值。有遍历的需要能够应用hscan、sscan、zscan代替。
2、禁用命令
禁止线上应用keys、flushall、flushdb等,通过redis的rename机制禁掉命令,或者应用scan的形式渐进式解决。
3、正当应用select
redis的多数据库较弱,应用数字进行辨别,很多客户端反对较差,同时多业务用多数据库理论还是单线程解决,会有烦扰。
4、应用批量操作提高效率
- 原生命令:例如mget、mset。
- 非原生命令:能够应用pipeline提高效率。
但要留神管制一次批量操作的元素个数 (例如500以内,理论也和元素字节数无关)。
留神两者不同:
- 原生是原子操作,pipeline是非原子操作。
- pipeline能够打包不同的命令,原生做不到
- pipeline须要客户端和服务端同时反对。
5、不倡议过多应用Redis事务性能
Redis的事务性能较弱(不反对回滚),而且集群版本(自研和官网)要求一次事务操作的key必须在一个slot上(能够应用hashtag性能解决)
6、Redis集群版本在应用Lua上有特殊要求
1、所有key都应该由 KEYS 数组来传递,redis.call/pcall 外面调用的redis命令,key的地位,必须是KEYS array, 否则间接返回error,”-ERR bad lua script for redis cluster, all the keys that the script uses should be passed using the KEYS arrayrn”
2、所有key,必须在1个slot上,否则间接返回error, “-ERR eval/evalsha command keys must in same slotrn”
7、monitor命令
必要状况下应用monitor命令时,要留神不要长时间应用。
三、客户端应用
1、防止多个利用应用一个Redis实例
不相干的业务拆分,公共数据做服务化。
2、应用连接池
能够无效管制连贯,同时提高效率,规范应用形式:
执行命令如下:
Jedis jedis = null;
try {
jedis = jedisPool.getResource();
//具体的命令
jedis.executeCommand()
} catch (Exception e) {
logger.error("op key {} error: " + e.getMessage(), key, e);
} finally {
//留神这里不是敞开连贯,在JedisPool模式下,Jedis会被归还给资源池。
if (jedis != null)
jedis.close();
}
3、熔断性能
高并发下倡议客户端增加熔断性能(例如netflix hystrix)
4、正当的加密
设置正当的明码,如有必要能够应用SSL加密拜访(阿里云Redis反对)
5、淘汰策略
依据本身业务类型,选好maxmemory-policy(最大内存淘汰策略),设置好过期工夫。
默认策略是volatile-lru,即超过最大内存后,在过期键中应用lru算法进行key的剔除,保障不过期数据不被删除,然而可能会呈现OOM问题。
其余策略如下:
- allkeys-lru:依据LRU算法删除键,不论数据有没有设置超时属性,直到腾出足够空间为止。
- allkeys-random:随机删除所有键,直到腾出足够空间为止。
- volatile-random:随机删除过期键,直到腾出足够空间为止。
- volatile-ttl:依据键值对象的ttl属性,删除最近将要过期数据。如果没有,回退到noeviction策略。
- noeviction:不会剔除任何数据,回绝所有写入操作并返回客户端错误信息”(error) OOM command not allowed when used memory”,此时Redis只响应读操作。
四、相干工具
1、数据同步
redis间数据同步能够应用:redis-port
2、big key搜寻
redis大key搜寻工具
3、热点key寻找
外部实现应用monitor,所以倡议短时间应用facebook的redis-faina 阿里云Redis曾经在内核层面解决热点key问题
五、删除bigkey
- 上面操作能够应用pipeline减速。
- redis 4.0曾经反对key的异步删除,欢送应用。
1、Hash删除: hscan + hdel
public void delBigHash(String host, int port, String password, String bigHashKey) {
Jedis jedis = new Jedis(host, port);
if (password != null && !"".equals(password)) {
jedis.auth(password);
}
ScanParams scanParams = new ScanParams().count(100);
String cursor = "0";
do {
ScanResult<Entry<String, String>> scanResult = jedis.hscan(bigHashKey, cursor, scanParams);
List<Entry<String, String>> entryList = scanResult.getResult();
if (entryList != null && !entryList.isEmpty()) {
for (Entry<String, String> entry : entryList) {
jedis.hdel(bigHashKey, entry.getKey());
}
}
cursor = scanResult.getStringCursor();
} while (!"0".equals(cursor));
//删除bigkey
jedis.del(bigHashKey);
}
2、List删除: ltrim
public void delBigList(String host, int port, String password, String bigListKey) {
Jedis jedis = new Jedis(host, port);
if (password != null && !"".equals(password)) {
jedis.auth(password);
}
long llen = jedis.llen(bigListKey);
int counter = 0;
int left = 100;
while (counter < llen) {
//每次从左侧截掉100个
jedis.ltrim(bigListKey, left, llen);
counter += left;
}
//最终删除key
jedis.del(bigListKey);
}
3、Set删除: sscan + srem
public void delBigSet(String host, int port, String password, String bigSetKey) {
Jedis jedis = new Jedis(host, port);
if (password != null && !"".equals(password)) {
jedis.auth(password);
}
ScanParams scanParams = new ScanParams().count(100);
String cursor = "0";
do {
ScanResult<String> scanResult = jedis.sscan(bigSetKey, cursor, scanParams);
List<String> memberList = scanResult.getResult();
if (memberList != null && !memberList.isEmpty()) {
for (String member : memberList) {
jedis.srem(bigSetKey, member);
}
}
cursor = scanResult.getStringCursor();
} while (!"0".equals(cursor));
//删除bigkey
jedis.del(bigSetKey);
}
4、SortedSet删除: zscan + zrem
public void delBigZset(String host, int port, String password, String bigZsetKey) {
Jedis jedis = new Jedis(host, port);
if (password != null && !"".equals(password)) {
jedis.auth(password);
}
ScanParams scanParams = new ScanParams().count(100);
String cursor = "0";
do {
ScanResult<Tuple> scanResult = jedis.zscan(bigZsetKey, cursor, scanParams);
List<Tuple> tupleList = scanResult.getResult();
if (tupleList != null && !tupleList.isEmpty()) {
for (Tuple tuple : tupleList) {
jedis.zrem(bigZsetKey, tuple.getElement());
}
}
cursor = scanResult.getStringCursor();
} while (!"0".equals(cursor));
//删除bigkey
jedis.del(bigZsetKey);
}
起源:yq.aliyun.com/articles/531067
发表回复