【Redis】Redis 缓存设计:抗住百万并发量的最佳实践

目录

  • 1. Redis 缓存设计原则
    • 1.1 高可用性
    • 1.2 数据一致性
    • 1.3 读写分离
  • 2. 缓存策略
    • 2.1 常用缓存策略
      • 2.1.1 缓存穿透
      • 2.1.2 缓存雪崩
      • 2.1.3 缓存击穿
    • 2.2 额外缓存策略
      • 2.2.1 更新策略
      • 2.2.2 预热策略
      • 2.2.3 侧写缓存
  • 3. Redis 架构设计
    • 3.1 单机 vs 集群
    • 3.2 Redis 集群示例架构
  • 4. 性能优化
    • 4.1 使用 Redis 数据结构
    • 4.2 缓存失效策略
    • 4.3 示例:使用哈希存储用户信息
  • 5. 性能测试
  • 6. Redis 抗住百万并发量的实践
  • 结论

在高并发场景下,Redis 作为一种高性能的内存数据库,能够提供快速的数据访问能力,有效减轻后端数据库的压力,能有效支持高并发场景。本文将深入探讨如何设计 Redis 缓存,以帮助实现支持百万级并发处理,包括Redis 缓存的设计原则、策略、架构示例、优化技巧及性能测试。

1. Redis 缓存设计原则

1.1 高可用性

确保 Redis 集群的高可用性,可以通过主从复制和哨兵模式来避免单点故障,从而提高系统的稳定性。

1.2 数据一致性

根据业务需求选择合适的一致性模型,例如使用乐观锁等机制来处理并发写入,确保数据的准确性。

1.3 读写分离

通过缓存分担读取压力,实现读写分离,优化数据库的负载均衡。

2. 缓存策略

缓存策略是确保 Redis 能够高效处理请求的关键。以下是详细的缓存策略及其操作示例:

2.1 常用缓存策略

策略描述
缓存穿透使用布隆过滤器防止对不存在的数据频繁查询数据库,减少不必要的请求。
缓存雪崩设置不同的过期时间,避免大量缓存同时失效导致的请求冲击。
缓存击穿使用互斥锁,在高并发下确保同一时间只有一个请求查询数据库,避免多个请求同时查询。

2.1.1 缓存穿透

描述:缓存穿透指的是对不存在的数据进行频繁请求,这会导致直接访问数据库。

解决方案:使用布隆过滤器,拦截对不存在数据的请求。

示例

from redis import Redis
from pybloom_live import BloomFilter

redis = Redis()
bloom = BloomFilter(capacity=100000, error_rate=0.001)

def query_user(user_id):
    if user_id in bloom:
        user = redis.get(user_id)
        if user:
            return user
    return None

2.1.2 缓存雪崩

描述:大量缓存同时失效,导致瞬间请求涌入数据库。

解决方案:为不同数据设置随机的过期时间。

示例

import random

def set_user_cache(user_id, user_data):
    ttl = random.randint(300, 600)  # 设置随机的过期时间
    redis.setex(user_id, ttl, user_data)

2.1.3 缓存击穿

描述:热点数据在过期后被大量请求同时访问数据库。

解决方案:使用互斥锁,确保同一时间只有一个请求访问数据库。

示例

import threading

lock = threading.Lock()

def get_user(user_id):
    user = redis.get(user_id)
    if user is None:
        with lock:
            user = redis.get(user_id)  # 再次检查
            if user is None:
                user = db_query(user_id)  # 从数据库获取
                redis.set(user_id, user)
    return user

2.2 额外缓存策略

策略描述
更新策略根据业务场景选择合适的更新策略,如主动更新、被动更新或定时更新。
预热策略在系统启动时提前加载热点数据到缓存,以减少初始访问延迟。
侧写缓存将请求结果直接写入缓存,在更新数据库时同时更新缓存,降低读延迟。
分层缓存在不同层级使用不同的缓存(如本地缓存、Redis),提高访问速度。

2.2.1 更新策略

根据业务需求选择合适的更新策略,如主动更新(每次更新都更新缓存)或被动更新(缓存失效时更新)。

示例

def update_user(user_id, user_data):
    redis.hset(user_id, mapping=user_data)
    db_update(user_id, user_data)  # 更新数据库

2.2.2 预热策略

在系统启动时提前加载热点数据,减少初始访问延迟。

示例

def preload_hot_data():
    hot_data = db_get_hot_data()
    for item in hot_data:
        redis.set(item['id'], item['data'])

2.2.3 侧写缓存

将请求结果直接写入缓存,降低后续读取的延迟。

示例

def fetch_and_cache_user(user_id):
    user_data = db_query(user_id)
    redis.set(user_id, user_data)

3. Redis 架构设计

3.1 单机 vs 集群

架构类型适用场景优缺点
单机小型应用或开发环境简单,易于管理,但存在单点故障。
集群高并发、高可用场景支持分片,能处理更高的请求量,但配置复杂。

3.2 Redis 集群示例架构

                          +------------+
                          |   Client   |
                          +------+-----+
                                 |
            +--------------------+--------------------+
            |                                         |
      +-----v-----+                              +----v-----+
      |  Redis 1  |                              |  Redis 2  |
      +-----------+                              +-----------+
            |                                         |
      +-----v-----+                              +----v-----+
      |   Master   |                              |   Master  |
      +-----------+                              +-----------+
            |                                         |
      +-----v-----+                              +----v-----+
      |   Slave    |                              |   Slave   |
      +-----------+                              +-----------+

4. 性能优化

4.1 使用 Redis 数据结构

选择适当的数据结构能够有效提升性能:

数据结构优势
String适合简单的键值存储,性能极高。
List适合实现消息队列和任务队列。
Set支持集合运算,适合去重场景。
Hash节省内存,适合存储对象的属性。

4.2 缓存失效策略

  • 设置合理的 TTL:对热点数据设置较长的 TTL,避免频繁访问。
  • 定期清理过期数据:使用 Redis 的定时任务,定期扫描并清理过期缓存。

4.3 示例:使用哈希存储用户信息

# 存储用户信息
user_id = "user:1001"
redis.hset(user_id, mapping={
    "name": "Alice",
    "age": 30,
    "email": "alice@example.com"
})

# 获取用户信息
user_info = redis.hgetall(user_id)

5. 性能测试

使用工具如 redis-benchmarkApache JMeter 进行高并发性能测试,记录以下指标:

指标描述
吞吐量每秒请求数(QPS)
响应时间平均响应时间(ms)
错误率失败请求占比

示例测试命令:

# 使用 redis-benchmark 进行测试
redis-benchmark -h localhost -p 6379 -c 100 -n 10000

6. Redis 抗住百万并发量的实践

为了确保 Redis 能够处理百万级并发量,可以采取以下措施:

  1. 集群部署:使用 Redis 集群模式,水平扩展 Redis 实例,分片数据。
  2. 持久化机制:结合 RDB 和 AOF 持久化方式,确保数据不丢失。
  3. 监控与调优:使用 Redis 监控工具,实时监控性能指标,根据数据访问情况进行调优。
  4. 优化网络配置:合理配置网络带宽和延迟,降低访问延迟。

结论

通过合理设计 Redis 缓存,结合多种缓存策略、架构和性能优化,能够有效支撑百万级并发量的需求。不断监控系统性能并进行优化,是确保高可用性和高性能的关键。希望这些实践能够为您的 Redis 应用提供有价值的指导。如有疑问或建议,欢迎交流!


本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mfbz.cn/a/882792.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

漏洞复现_永恒之蓝

1.概述 永恒之蓝(EternalBlue)是一个影响Windows操作系统的远程代码执行漏洞,编号为CVE-2017-0144,最初由美国国家安全局(NSA)开发并利用,后来被黑客组织Shadow Brokers泄露。该漏洞存在于SMBv…

Gitee Pipeline 从入门到实战【详细步骤】

文章目录 Gitee Pipeline 简介Gitee Pipeline 实战案例 1 - 前端部署输入源NPM 构建Docker 镜像构建Shell 命令执行案例 2 - 后端部署全局参数输入源Maven 构建Docker 镜像构建Shell 命令执行参考🚀 本文目标:快速了解 Gitee Pipeline,并实现前端及后端打包部署。 Gitee Pi…

【d46】【Java】【力扣】876.链表的中间结点

思路 先获得总体长度, 再得到中间节点 的索引,,这里的索引是从1开始的索引,而不是从0开始的索引(这种理解方式更简单) 排错:另一个思路:将链表都放进list,获得中间的数字,然后遍历…

AfuseKt1.3.6-10110功能强大的安卓网络视频播放器,支持多种在线存储和媒体管理平台!

AfuseKt 是一款功能强大的安卓网络视频播放器,专为满足用户对多样化媒体播放需求而设计。它不仅支持多种流行的在线存储和媒体管理平台,如阿里云盘、Alist、WebDAV和Emby等,还提供了刮削功能和海报墙展示,使得用户能够更加便捷地管…

船舶检测系统源码分享

船舶检测检测系统源码分享 [一条龙教学YOLOV8标注好的数据集一键训练_70全套改进创新点发刊_Web前端展示] 1.研究背景与意义 项目参考AAAI Association for the Advancement of Artificial Intelligence 项目来源AACV Association for the Advancement of Computer Vision …

深度学习|误差逆传播:梯度速解

文章目录 引言链式法则误差逆传播加法的逆传播乘法的逆传播逆传播求梯度 SoftmaxWithLoss 层正向传播逆传播代码实现参考 结语 引言 我们知道训练神经网络模型的核心是以损失函数为基准来调整优化网络参数,使得网络的输出尽可能接近真实标签。在神经网络中&#xf…

网络原理(4)——网络层(IP)、数据链路层

1. IP 协议 基本概念: 主机:配有 IP 地址,但是不进行路由控制的设备 路由器:即配有 IP 地址,又能进行路由控制 节点:主机和路由器的统称 IP 协议报头格式 1) 4 位版本:实际上只有两个取值&…

RabbitMQ 高级特性——发送方确认

文章目录 前言发送方确认confirm 确认模式return 退回模式 常见面试题 前言 前面我们学习了 RabbitMQ 中交换机、队列和消息的持久化,这样能够保证存储在 RabbitMQ Broker 中的交换机和队列中的消息实现持久化,就算 RabbitMQ 服务发生了重启或者是宕机&…

安卓13去掉下拉菜单的Dump SysUI 堆的选项 android13删除Dump SysUI 堆

总纲 android13 rom 开发总纲说明 文章目录 1.前言2.问题分析3.代码分析3.1 位置13.2 位置24.代码修改5.编译6.彩蛋1.前言 客户需要去掉下拉菜单里面的Dump SysUI 堆图标,不让使用这个功能。 2.问题分析 android的下拉菜单在systemui里面,这里我们只需要定位到对应的添加代…

通义灵码AI 程序员正式发布:写代码谁还动手啊

虽然见不到面 但你已深潜我心 前几天,在 2024 年的杭州云栖大会上,随着通义大模型能力的全面提升,阿里云通义灵码这位中国的首位 AI 程序员也迎来重大的升级。 一年前这位 AI 程序员还只能完成基础的编程任务,到现在可以做到几…

2024年华为杯研究生数学建模竞赛D题(时空演化模型+脆性指数 完整文章|可视化)

2024年华为杯研究生数学建模竞赛D题 全文请从 底部名片 处加群获取哦~ 问题重述 题目背景: 地理系统是由自然和人文多要素综合作用形成的复杂巨系统。传统上,地理学家通过宏观结构和定性分析方法描述地理系统的主导特征,如地形分布、气候…

LabVIEW闪退

LabVIEW闪退或无法启动可能由多个原因引起,特别是在使用了一段时间后突然发生的问题。重启电脑后 LabVIEW 和所有 NI 软件都无法打开,甚至在卸载和重装时也没有反应。这种情况通常与系统环境、软件冲突或 NI 软件组件的损坏有关。 1. 检查系统和软件冲突…

使用 Docker 部署 RStudio 的终极教程

一.介绍 在现代数据科学和统计分析领域,RStudio 是一个广受欢迎的集成开发环境(IDE),为用户提供了强大的工具来编写、调试和可视化 R 代码。然而,传统的 RStudio 安装可能面临环境配置复杂、版本兼容性等问题。Docker…

CentOS7搭建Hadoop3集群教程

一、集群环境说明 1、用VMware安装3台Centos7虚拟机 2、虚拟机配置:2C,2G内存,50G存储 3、集群架构设计 从表格中,可以看出,Hadoop集群,主要有2个模块服务,一个是HDFS服务,一个是YAR…

不靠学历,不拼年资,怎么才能月入2W?

之前统计局发布了《2023年城镇单位就业人员年平均工资情况》,2023年全国城镇非私营单位和私营单位就业人员年平均工资分别为120698元和68340元。也就是说在去年非私营单位就业人员平均月薪1W,而私营单位就业人员平均月薪只有5.7K左右。 图源:…

视频监控相关笔记

一、QT 之 QTreeWidget 树形控件 Qt编程指南,Qt新手教程,Qt Programming Guide 一个树形结构的节点中的图表文本 、附带数据的添加: QTreeWidgetItem* TourTreeWnd::InsertNode(NetNodeInfo node, QTreeWidgetItem* parent_item) { // …

asp.net core日志与异常处理小结

asp.net core的webApplicationBuilder中自带了一个日志组件,无需手动注册服务就能直接在控制器中构造注入,本文主要介绍了net core日志与异常处理小结,需要的朋友可以参考下 ILogger简单使用 asp.net core的webApplicationBuilder中自带了一个日志组件…

Redis的一些数据类型(一)

(一)数据类型 我们说redis是key value键值对的方式存储数据,key是字符串,而value是一些数据结构,那今天就来说一下value存储的数据。 我们数据结构包含,String,hash,list,set和zest但…

新手卖家做跨境电商,选择Shopee还是亚马逊?

对于刚刚涉足跨境电商领域的新人来说,选择合适的电商平台是迈出成功第一步的关键。目前最主流的跨境平台一定是亚马逊,平台覆盖全球各个市场,利润高,但门槛也高。Shopee主要面向的是东南亚市场,商品一般更有性价比&…

LabVIEW界面输入值设为默认值

在LabVIEW中,将前面板上所有控件的当前输入值设为默认值,可以通过以下步骤实现: 使用控件属性节点:你可以创建一个属性节点来获取所有控件的引用。 右键点击控件,选择“创建” > “属性节点”。 设置属性节点为“D…