Redis 迁移 ssdb(一)由于公司机器不够,为了节约成本,推荐用的缓存从redis换成ssdb,本文记录自己所采用的方法和踩的坑。一、数据整理推荐使用的redis,存放的数据可以分为下面几类:a 用户的缓存,用来过滤近...
Redis 迁移 ssdb(一)
由于公司机器不够,为了节约成本,推荐用的缓存从redis换成ssdb,本文记录自己所采用的方法和踩的坑。
一、数据整理
推荐使用的redis,存放的数据可以分为下面几类:a 用户的缓存,用来过滤近期给用户推过的商品 b 相似商品结果,用来快速得到某种商品的相似商品列表 c 静态数据,用来获取商品的静态信息 d 冷启动数据,热门的商品列表 e 用户行为数据,有些用户行为数据没有放在uc中但是推荐会用到。这些数据有大约45种key前缀,key的数目约有2千多万。必须先要整理,才能做好迁移。
数据整理分为两个方面,a 清理不再使用的数据 b 获取所有现在使用的key和类型
如果团队有良好的习惯,灌入redis的数据都设定了有效期的话,a是可以不做的。但是毕竟会有那些不再使用而有占用空间较多的数据,这就需要把它们清理掉。因为我们的redis集群是和其他团队混用的,所有里面的数据有的是推荐使用的,我们拿出自己需要的数据。
1.1 步骤a的方法
我们有一个列表,记录了之前向redis灌入的数据的类型和前缀,多亏有了它,我才知道哪些key是有用的,大概有多少key前缀。我整理这个列表,就能获得哪些key前缀是我需要的,哪些是不再用的数据的前缀。
1.2 步骤b的方法
redis有个设置,可以在某个时间,将数据全部导出到硬盘上,形成dump结尾的文件。这个文件包括了redis备份的时刻,里面所有的数据信息,包括key的类型、名字、有效期、大小等。我们还需要一个工具来把这些信息从dump文件中提取出来。我用的是这个工具https://github.com/sripathikrishnan/redis-rdb-tools#generate-memory-report
文档很详细,我就不介绍了。
二、数据迁移
我们知道了redis中哪些数据是我们需要的,迁移到ssdb的时候还需要以下几点:a redis和ssdb的数据结构类型不同 b ssdb不支持redis的某些特性。
我总结的主要两点不同
a ssdb的结构中除了string类型,其他类型不支持expire函数设定超时时间。redis中是任何类型的key都可以调用expire函数设定超时时间,很方便。但是我们使用的数据大部分是需要一个超时时间,过期之后自动清除的。后来采用这个办法,对于string之外的其他类型的key1,我们给这个key1增加一个附属的key2,其中key2 是Stirng类型,并且值是key的过期时间。然后我们再写一个离线的任务,去获取所有的key2,然后根据时间,删除key1.后来得知ssdb不支持通过key前缀,扫描出所有的key,我们又把key2变成sorted set中一个项。
B ssdb中的sorted set结构,每一项的权重必须是int类型的整数,而redis中是浮点数。如果直接导入到ssdb中那么权重都会变成0. 我们为了解决这个问题,就把所有的权重都乘1000,增大权重。
清楚了上面几点,我们就可以把redis数据迁入ssdb了,我写了个脚步,可以参考。
https://github.com/delltower/redis_to_ssdb
下面还需要检查原来连接redis的代码是否可以使用,另外一篇再说。
本文标题为:Redis 迁移 ssdb(一)
- SQL Server 2022 AlwaysOn新特性之包含可用性组详解 2023-07-29
- MySQL8.0.28安装教程详细图解(windows 64位) 2023-07-26
- 搭建单机Redis缓存服务的实现 2023-07-13
- redis清除数据 2023-09-13
- Numpy中如何创建矩阵并等间隔抽取数据 2023-07-28
- Oracle 删除大量表记录操作分析总结 2023-07-23
- 基于Python制作一个简单的文章搜索工具 2023-07-28
- SQLSERVER调用C#的代码实现 2023-07-29
- 在阿里云CentOS 6.8上安装Redis 2023-09-12
- Mongodb启动报错完美解决方案:about to fork child process,waiting until server is ready for connections. 2023-07-16