熬了一個通宵,終于把Reids的7千萬個Key刪完了,今天腦子都嗡嗡響!
前言
由于有一條業(yè)務線不理想,高層決定下架業(yè)務。對于我們技術團隊而言,其對應的所有服務器資源和其他相關資源都要釋放。釋放了8臺應用服務器;1臺es服務器;刪除分布式定時任務中心相關的業(yè)務任務;備份并刪除MySQL數(shù)據(jù)庫;刪除Redis中相關的業(yè)務緩存數(shù)據(jù)。CTO指名點姓讓我?guī)ь^沖鋒,才扣了我績效……好吧,沖~
其他都還好,不多時就解決了。唯獨這刪除Redis中的數(shù)據(jù),害得我又熬了一個通宵,真是折煞我也!
難點分析
共用Redis服務集群
由于這條業(yè)務線的數(shù)據(jù)在Redis大概在3G左右,完全沒必要單獨建一個Redis服務集群,本著能節(jié)約就節(jié)約的態(tài)度,當初就決定和其他項目共享一個集群(這個集群配置:16個節(jié)點,128G內(nèi)存,還算豪華吧~)集群配置如下:
在這種共用集群的情況下,導致無法簡單粗暴的釋放。因此只能選擇刪除Key的方式。
Key命名不規(guī)范
要刪除Key,首先就要精準的定位出哪些Key需要刪除,如果勿刪Key,會影響到其他服務正常運轉!如果Key本身設置了過期時間,但有些數(shù)據(jù)需是持久化的。然而那該死的項目經(jīng)理一直催項目進度,導致開發(fā)人員在開發(fā)過程中很多地方都沒有設計到位,比如Redis Key散落在項目代碼的每個角落;比如命名不是很規(guī)范。真不知道是怎么review代碼!哦,想必是沒有時間review,那該死的項目經(jīng)理……
我隨便截個支付服務中的Key命名:
怎么樣?是不是覺得我們開發(fā)人員寫的代碼很low~別笑,在實際工作中,還有比這更low的!希望你別遇到,不然真的很痛苦~
解決思路
經(jīng)過以上的分析,我們簡單歸納如下:
- 我們真正關心的是那些未設置過期時間的Key
- 不能誤刪除Key,否則下個月績效也沒了
- 由于Key的命名及使用及其不規(guī)范,導致Key的定位難度很大
看來,通過scan命令掃描匹配Key的方式行不通了。只能通過人肉搜索了~
幸而Idea的搜索大法好,這個項目中使用的是spring-boot-starter-data-redis.因此我通過搜索RedisTemplate和StringRedisTemplate定位所有操作redis的代碼,具體步驟如下:
1、通過這些代碼統(tǒng)計出Key的前綴并錄入到文本中;
2、通過python腳本把載入文中中的的Key并在后面加上“*”通配符;
3、通過python腳本通過scan命令掃描出這些key;
4、為了便于檢查,我們并沒有直接使用del命令刪除key,在刪除key之前,先通過debug object key的方式得到其序列化的長度,再執(zhí)行刪除并返回序列化長度。這樣,我們就可以統(tǒng)計出所有key的序列化長度來得到我們釋放的空間大小。關鍵代碼如下:
- def get_key(rdbConn,start):
- try:
- keys_list = rdbConn.scan(start,count=2000)
- return keys_list
- exceptException,e:
- print e
- ''' Redis DEBUG OBJECT command got key info '''
- def get_key_info(rdbConn,keyName):
- try:
- rpiple = rdbConn.pipeline()
- rpiple.type(keyName)
- rpiple.debug_object(keyName)
- rpiple.ttl(keyName)
- key_info_list = rpiple.execute()
- return key_info_list
- exceptException,e:
- print"INFO : ",e
- def redis_key_static(key_info_list):
- keyType = key_info_list[0]
- keySize = key_info_list[1]['serializedlength']
- keyTtl = key_info_list[2]
- key_size_static(keyType,keySize,keyTtl)
通過以上方式,能夠統(tǒng)計出究竟釋放了多少內(nèi)存了。
由于這個集群是有這么接近7千萬個key:
因此,等到了第二天天亮,我睡眼朦朧的看了一下,終于刪除完畢了,時間07:13...早高峰即將來臨……
知恥而后勇
從來沒有經(jīng)歷過因業(yè)務下線而清除資源的經(jīng)驗。這次事情真心讓我覺得細微之處見真功夫的道理。如果一開始我們就能夠遵循開發(fā)規(guī)范來使用和設計redis key,也不至于浪費這么多時間。為了讓key的命名和使用更加規(guī)范,以及今后避免再次遇到這種情況,下午睡醒之后,我就在redis公共組件庫里面添加了一個配置和自定義了key序列化,代碼如下:
- @ConfigurationProperties(prefix = "spring.redis.prefix")
- publicclassRedisKeyPrefixProperties{
- privateBoolean enable = Boolean.TRUE;
- privateString key;
- publicBoolean getEnable() {
- return enable;
- }
- publicvoid setEnable(Boolean enable) {
- this.enable = enable;
- }
- publicString getKey() {
- return key;
- }
- publicvoid setKey(String key) {
- this.key = key;
- }
- }
- /**
- * @desc 對字符串序列化新增前綴
- * @author create by liming sun on 2020-07-21 14:09:51
- */
- publicclassPrefixStringKeySerializerextendsStringRedisSerializer{
- privateCharset charset = StandardCharsets.UTF_8;
- privateRedisKeyPrefixProperties prefix;
- publicPrefixStringKeySerializer(RedisKeyPrefixProperties prefix) {
- super();
- this.prefix = prefix;
- }
- @Override
- publicString deserialize(@Nullablebyte[] bytes) {
- String saveKey = newString(bytes, charset);
- if(prefix.getEnable() != null&& prefix.getEnable()) {
- String prefixKey = spliceKey(prefix.getKey());
- int indexOf = saveKey.indexOf(prefixKey);
- if(indexOf > 0) {
- saveKeysaveKey = saveKey.substring(indexOf);
- }
- }
- return(saveKey.getBytes() == null? null: saveKey);
- }
- @Override
- publicbyte[] serialize(@NullableString key) {
- if(prefix.getEnable() != null&& prefix.getEnable()) {
- key = spliceKey(prefix.getKey()) + key;
- }
- return(key == null? null: key.getBytes(charset));
- }
- privateString spliceKey(String prefixKey) {
- if(StringUtils.isNotBlank(prefixKey) && !prefixKey.endsWith(":")) {
- prefixKeyprefixKey = prefixKey + "::";
- }
- return prefixKey;
- }
- }
使用效果
為了避免再次發(fā)生這種工作低效而又不得不做的事情,我們在開發(fā)規(guī)范中規(guī)定,新項目中redis的使用必須設置此配置,前綴就設置為:項目編號。另外,一個模塊中的key必須統(tǒng)一定義在二方庫的RedisKeyConstant類中。配置如下:
- spring:
- redis:
- prefix:
- enable: true
- key: E00P01
- @Bean
- publicRedisTemplate<String, Object> redisTemplate(RedisConnectionFactory redisConnectionFactory) {
- RedisTemplate<String, Object> redisTemplate = newRedisTemplate<>();
- redisTemplate.setConnectionFactory(redisConnectionFactory);
- // 支持key前綴設置的key Serializer
- redisTemplate.setKeySerializer(newPrefixStringKeySerializer());
- redisTemplate.setValueSerializer(newGenericJackson2JsonRedisSerializer());
- return redisTemplate;
- }
通過以上方式,我們至少可以從項目維度來區(qū)分出key,避免了多個項目之間共用同一個集群時而導致重復key的問題。從項目維度對key進行了劃分。更方便管理和運維。如果對于key的管理粒度要求更細,我們甚至可以細化到具體業(yè)務維度。我們在測試環(huán)境進行了壓測,增加key前綴對redis性能幾乎沒有影響。性能方面能接受。