当前位置: 首页 > news >正文

哈希表笔记(四)Redis对比Java总结

文章目录

    • 一、基础结构对比
      • 数据结构定义
        • Java HashMap
        • Redis字典
      • 主要区别与设计思路
    • 二、关键操作API对比
      • 初始化
        • Java HashMap
        • Redis字典
      • 添加元素
        • Java HashMap
        • Redis字典
      • 查找元素
        • Java HashMap
        • Redis字典
      • 删除元素
        • Java HashMap
        • Redis字典
      • 扩容/重哈希操作
        • Java HashMap
        • Redis字典
    • 三、性能设计考量
      • 哈希函数设计
        • Java HashMap
        • Redis字典
      • 冲突处理
        • Java HashMap
        • Redis字典
      • 迭代器设计
        • Java HashMap
        • Redis字典
    • 四、内存管理与性能权衡
      • 内存布局
        • Java HashMap
        • Redis字典
      • 时间-空间权衡
        • Java HashMap
        • Redis字典
    • 五、线程安全考虑
      • Java HashMap
      • Redis字典
    • 六、特殊功能比较
      • 随机访问
        • Java HashMap
        • Redis字典
      • 批量操作
        • Java HashMap
        • Redis字典
    • 七、哈希冲突处理机制详解
      • Java HashMap的树化机制
      • Redis的渐进式rehash机制
    • 八、总结与实践建议
      • 设计决策对比
      • 适用场景建议
        • Java HashMap适合:
        • Redis 字典适合:
      • 设计启示
    • 九、源码深入剖析
      • 哈希函数的设计哲学
        • Java HashMap的位扩散设计
        • Redis多种哈希函数
      • 扩容和缩容的精细控制
        • Java HashMap的扩容策略
        • Redis的扩缩容控制
      • 内存布局和缓存效率
        • Java HashMap的内存特性
        • Redis字典的内存特性
    • 十、实际应用场景示例
      • 场景1:高频读取、低频写入
        • Java HashMap的表现
      • 场景2:实时交易系统
        • Redis字典的表现
      • 场景3:内存优化
        • Java HashMap的表现
        • Redis字典的表现
    • 结论

一、基础结构对比

数据结构定义

Java HashMap
public class HashMap<K,V> extends AbstractMap<K,V> implements Map<K,V>, Cloneable, Serializable {// 底层数组transient Node<K,V>[] table;// 元素数量transient int size;// 修改次数,用于快速失败机制transient int modCount;// 扩容阈值int threshold;// 负载因子final float loadFactor;// 基本节点类型static class Node<K,V> implements Map.Entry<K,V> {final int hash;final K key;V value;Node<K,V> next;}// 红黑树节点static final class TreeNode<K,V> extends LinkedHashMap.Entry<K,V> {TreeNode<K,V> parent;TreeNode<K,V> left;TreeNode<K,V> right;TreeNode<K,V> prev;boolean red;// ...}
}
Redis字典
typedef struct dict {dictType *type;       // 哈希表类型,包含各种操作函数指针void *privdata;       // 私有数据dictht ht[2];         // 两个哈希表,支持rehashint rehashidx;        // rehash索引,-1表示没有进行rehashint iterators;        // 安全迭代器计数
} dict;typedef struct dictht {dictEntry **table;    // 哈希表数组unsigned long size;   // 哈希表大小unsigned long sizemask; // 掩码,等于size-1unsigned long used;   // 哈希表中已有节点数量
} dictht;typedef struct dictEntry {void *key;            // 键union {               // 值可以是多种类型void *val;uint64_t u64;int64_t s64;double d;} v;struct dictEntry *next; // 下一个节点
} dictEntry;

主要区别与设计思路

  1. 多态实现方式

    • Java:使用泛型和继承实现多态
    • Redis:使用函数指针(dictType)实现不同类型的操作
  2. 哈希表数量

    • Java:仅一个哈希表数组
    • Redis:两个哈希表,用于渐进式rehash

    设计原因:Redis作为数据库需要保持稳定响应时间,一次性rehash可能导致较长停顿

  3. 节点结构

    • Java:有普通节点和树节点两种
    • Redis:仅有一种节点类型

    设计原因:Java HashMap追求在高冲突下的性能保证,而Redis通过控制负载因子和良好的哈希函数减少冲突

二、关键操作API对比

初始化

Java HashMap
// 默认构造函数
public HashMap() {this.loadFactor = DEFAULT_LOAD_FACTOR; // 0.75
}// 指定初始容量
public HashMap(int initialCapacity) {this(initialCapacity, DEFAULT_LOAD_FACTOR);
}// 指定初始容量和负载因子
public HashMap(int initialCapacity, float loadFactor) {// 参数检查if (initialCapacity < 0) throw new IllegalArgumentException("...");if (loadFactor <= 0 || Float.isNaN(loadFactor)) throw new IllegalArgumentException("...");this.loadFactor = loadFactor;this.threshold = tableSizeFor(initialCapacity); // 计算为大于initialCapacity的最小2的幂
}
Redis字典
// 创建字典
dict *dictCreate(dictType *type, void *privDataPtr) {dict *d = zmalloc(sizeof(*d));_dictInit(d, type, privDataPtr);return d;
}// 初始化字典
int _dictInit(dict *d, dictType *type, void *privDataPtr) {_dictReset(&d->ht[0]); // 重置第一个哈希表_dictReset(&d->ht[1]); // 重置第二个哈希表d->type = type;d->privdata = privDataPtr;d->rehashidx = -1;    // 表示没有进行rehashd->iterators = 0;return DICT_OK;
}

差异分析

  • Java提供多个构造函数满足不同初始化需求,Redis采用工厂方法模式
  • Java直接在构造时设定扩容阈值,Redis延迟到实际需要扩容时
  • Java的负载因子作为实例变量存储,Redis使用全局变量控制

添加元素

Java HashMap
public V put(K key, V value) {return putVal(hash(key), key, value, false, true);
}final V putVal(int hash, K key, V value, boolean onlyIfAbsent, boolean evict) {Node<K,V>[] tab; Node<K,V> p; int n, i;// 判断是否需要初始化表if ((tab = table) == null || (n = tab.length) == 0)n = (tab = resize()).length;// 计算索引并判断槽位是否为空if ((p = tab[i = (n - 1) & hash]) == null)tab[i] = newNode(hash, key, value, null);else {Node<K,V> e; K k;// 第一个节点就是要找的keyif (p.hash == hash && ((k = p.key) == key || (key != null && key.equals(k))))e = p;// 检查是否为树节点else if (p instanceof TreeNode)e = ((TreeNode<K,V>)p).putTreeVal(this, tab, hash, key, value);// 遍历链表else {for (int binCount = 0; ; ++binCount) {if ((e = p.next) == null) {p.next = newNode(hash, key, value, null);// 检查是否需要树化if (binCount >= TREEIFY_THRESHOLD - 1)treeifyBin(tab, hash);break;}if (e.hash == hash && ((k = e.key) == key || (key != null && key.equals(k))))break;p = e;}}// 更新已存在的key的值if (e != null) {V oldValue = e.value;if (!onlyIfAbsent || oldValue == null)e.value = value;afterNodeAccess(e);return oldValue;}}// 增加修改计数++modCount;// 检查是否需要扩容if (++size > threshold)resize();afterNodeInsertion(evict);return null;
}
Redis字典
int dictAdd(dict *d, void *key, void *val) {dictEntry *entry = dictAddRaw(d, key);if (!entry) return DICT_ERR;dictSetVal(d, entry, val);return DICT_OK;
}dictEntry *dictAddRaw(dict *d, void *key) {int index;dictEntry *entry;dictht *ht;// 如果正在rehash,执行一步渐进式rehashif (dictIsRehashing(d)) _dictRehashStep(d);// 获取新元素的索引,如果key已存在则返回-1if ((index = _dictKeyIndex(d, key)) == -1)return NULL;// 选择使用哪个哈希表(rehash时用ht[1],否则用ht[0])ht = dictIsRehashing(d) ? &d->ht[1] : &d->ht[0];entry = zmalloc(sizeof(*entry));// 头插法将新节点插入链表entry->next = ht->table[index];ht->table[index] = entry;ht->used++;// 设置键dictSetKey(d, entry, key);return entry;
}

差异分析

  1. 查找与插入合并

    • Java中先查找后插入,一次遍历
    • Redis先检查键是否存在,然后分开执行插入操作
  2. 扩容触发

    • Java在添加元素后检查是否需要扩容
    • Redis在_dictKeyIndex函数中检查是否需要扩容
  3. 冲突处理

    • Java在链表长度超过阈值时转为红黑树
    • Redis始终使用链表,但会在每次操作时执行一步rehash
  4. 错误处理

    • Java通过返回旧值表示替换,null表示新增
    • Redis通过返回状态码(DICT_OK/DICT_ERR)表示操作成功/失败

查找元素

Java HashMap
public V get(Object key) {Node<K,V> e;return (e = getNode(hash(key), key)) == null ? null : e.value;
}final Node<K,V> getNode(int hash, Object key) {Node<K,V>[] tab; Node<K,V> first, e; int n; K k;// 检查表是否为空,并计算索引if ((tab = table) != null && (n = tab.length) > 0 &&(first = tab[(n - 1) & hash]) != null) {// 检查第一个节点if (first.hash == hash && ((k = first.key) == key || (key != null && key.equals(k))))return first;// 遍历后续节点if ((e = first.next) != null) {// 如果是树节点,使用树查找if (first instanceof TreeNode)return ((TreeNode<K,V>)first).getTreeNode(hash, key);// 否则遍历链表do {if (e.hash == hash &&((k = e.key) == key || (key != null && key.equals(k))))return e;} while ((e = e.next) != null);}}return null;
}
Redis字典
dictEntry *dictFind(dict *d, const void *key) {dictEntry *he;unsigned int h, idx, table;// 空表直接返回NULLif (d->ht[0].used + d->ht[1].used == 0) return NULL;// 如果正在rehash,执行一步渐进式rehashif (dictIsRehashing(d)) _dictRehashStep(d);// 计算哈希值h = dictHashKey(d, key);// 在两个表中查找for (table = 0; table <= 1; table++) {// 计算索引idx = h & d->ht[table].sizemask;he = d->ht[table].table[idx];// 遍历链表查找while (he) {if (key == he->key || dictCompareKeys(d, key, he->key))return he;he = he->next;}// 如果没有进行rehash,无需检查第二个表if (!dictIsRehashing(d)) break;}return NULL;
}void *dictFetchValue(dict *d, const void *key) {dictEntry *he;he = dictFind(d, key);return he ? dictGetVal(he) : NULL;
}

差异分析

  1. 查找策略

    • Java先检查首节点,然后根据节点类型采用不同查找方法(链表遍历或树查找)
    • Redis在所有情况下都使用简单的链表遍历
  2. rehash考虑

    • Java查找不触发任何rehash
    • Redis在查找前执行一步渐进式rehash,并在两个哈希表中查找
  3. 键比较

    • Java使用equals方法和==操作符组合判断
    • Redis使用dictCompareKeys回调函数,支持自定义比较

删除元素

Java HashMap
public V remove(Object key) {Node<K,V> e;return (e = removeNode(hash(key), key, null, false, true)) == null ?null : e.value;
}final Node<K,V> removeNode(int hash, Object key, Object value,boolean matchValue, boolean movable) {Node<K,V>[] tab; Node<K,V> p; int n, index;// 定位节点if ((tab = table) != null && (n = tab.length) > 0 &&(p = tab[index = (n - 1) & hash]) != null) {Node<K,V> node = null, e; K k; V v;// 检查首节点if (p.hash == hash &&((k = p.key) == key || (key != null && key.equals(k))))node = p;else if ((e = p.next) != null) {// 树节点处理if (p instanceof TreeNode)node = ((TreeNode<K,V>)p).getTreeNode(hash, key);else {// 链表遍历do {if (e.hash == hash &&((k = e.key) == key || (key != null && key.equals(k)))) {node = e;break;}p = e;} while ((e = e.next) != null);}}// 找到节点后的删除操作if (node != null && (!matchValue || (v = node.value) == value ||(value != null && value.equals(v)))) {// 树节点移除if (node instanceof TreeNode)((TreeNode<K,V>)node).removeTreeNode(this, tab, movable);// 首节点移除else if (node == p)tab[index] = node.next;// 非首节点移除elsep.next = node.next;++modCount;--size;afterNodeRemoval(node);return node;}}return null;
}
Redis字典
int dictDelete(dict *ht, const void *key) {return dictGenericDelete(ht, key, 0);
}static int dictGenericDelete(dict *d, const void *key, int nofree) {unsigned int h, idx;dictEntry *he, *prevHe;int table;// 空表检查if (d->ht[0].size == 0) return DICT_ERR;// 如果正在rehash,执行一步渐进式rehashif (dictIsRehashing(d)) _dictRehashStep(d);// 计算哈希值h = dictHashKey(d, key);// 在两个表中查找for (table = 0; table <= 1; table++) {idx = h & d->ht[table].sizemask;he = d->ht[table].table[idx];prevHe = NULL;// 遍历链表while(he) {if (key == he->key || dictCompareKeys(d, key, he->key)) {// 从链表中删除节点if (prevHe)prevHe->next = he->next;elsed->ht[table].table[idx] = he->next;// 释放节点内存if (!nofree) {dictFreeKey(d, he);dictFreeVal(d, he);}zfree(he);d->ht[table].used--;return DICT_OK;}prevHe = he;he = he->next;}// 如果没有进行rehash,无需检查第二个表if (!dictIsRehashing(d)) break;}return DICT_ERR;
}

差异分析

  1. 查找策略

    • Java根据节点类型(普通/树)采用不同查找方法
    • Redis仅使用简单链表遍历
  2. 返回值

    • Java返回被删除的节点或null
    • Redis返回操作状态码(DICT_OK/DICT_ERR)
  3. 内存管理

    • Java依赖GC回收内存
    • Redis有nofree参数控制是否释放键值内存,并显式调用zfree释放节点
  4. 额外操作

    • Java有afterNodeRemoval回调供LinkedHashMap等子类使用
    • Redis在删除时也会执行渐进式rehash

扩容/重哈希操作

Java HashMap
final Node<K,V>[] resize() {Node<K,V>[] oldTab = table;int oldCap = (oldTab == null) ? 0 : oldTab.length;int oldThr = threshold;int newCap, newThr = 0;// 计算新容量和阈值if (oldCap > 0) {if (oldCap >= MAXIMUM_CAPACITY) {threshold = Integer.MAX_VALUE;return oldTab;}else if ((newCap = oldCap << 1) < MAXIMUM_CAPACITY &&oldCap >= DEFAULT_INITIAL_CAPACITY)newThr = oldThr << 1; // 阈值翻倍}else if (oldThr > 0) // 初始容量在阈值中newCap = oldThr;else { // 无参构造,使用默认值newCap = DEFAULT_INITIAL_CAPACITY;newThr = (int)(DEFAULT_LOAD_FACTOR * DEFAULT_INITIAL_CAPACITY);}if (newThr == 0) {float ft = (float)newCap * loadFactor;newThr = (newCap < MAXIMUM_CAPACITY && ft < (float)MAXIMUM_CAPACITY ?(int)ft : Integer.MAX_VALUE);}threshold = newThr;// 创建新表@SuppressWarnings({"rawtypes","unchecked"})Node<K,V>[] newTab = (Node<K,V>[])new Node[newCap];table = newTab;// 将旧表数据迁移到新表if (oldTab != null) {for (int j = 0; j < oldCap; ++j) {Node<K,V> e;if ((e = oldTab[j]) != null) {oldTab[j] = null;if (e.next == null)newTab[e.hash & (newCap - 1)] = e;else if (e instanceof TreeNode)((TreeNode<K,V>)e).split(this, newTab, j, oldCap);else { // 使用"拆分桶"技术优化迁移Node<K,V> loHead = null, loTail = null;Node<K,V> hiHead = null, hiTail = null;Node<K,V> next;do {next = e.next;// 低位桶if ((e.hash & oldCap) == 0) {if (loTail == null)loHead = e;elseloTail.next = e;loTail = e;}// 高位桶else {if (hiTail == null)hiHead = e;elsehiTail.next = e;hiTail = e;}} while ((e = next) != null);if (loTail != null) {loTail.next = null;newTab[j] = loHead;}if (hiTail != null) {hiTail.next = null;newTab[j + oldCap] = hiHead;}}}}}return newTab;
}
Redis字典
int dictExpand(dict *d, unsigned long size) {dictht n; // 新哈希表unsigned long realsize = _dictNextPower(size);// 检查是否正在rehash或size太小if (dictIsRehashing(d) || d->ht[0].used > size)return DICT_ERR;// 如果新大小与当前大小相同,无需扩容if (realsize == d->ht[0].size) return DICT_ERR;// 分配新哈希表n.size = realsize;n.sizemask = realsize-1;n.table = zcalloc(realsize*sizeof(dictEntry*));n.used = 0;// 如果是首次初始化if (d->ht[0].table == NULL) {d->ht[0] = n;return DICT_OK;}// 准备渐进式rehashd->ht[1] = n;d->rehashidx = 0;return DICT_OK;
}// 渐进式rehash
int dictRehash(dict *d, int n) {int empty_visits = n*10; // 最大允许访问的空桶数if (!dictIsRehashing(d)) return 0;// 执行n步rehashwhile(n-- && d->ht[0].used != 0) {dictEntry *de, *nextde;// 找到一个非空桶assert(d->ht[0].size > (unsigned long)d->rehashidx);while(d->ht[0].table[d->rehashidx] == NULL) {d->rehashidx++;if (--empty_visits == 0) return 1;}// 获取该桶的链表头de = d->ht[0].table[d->rehashidx];// 将该桶所有节点迁移到新表while(de) {unsigned int h;nextde = de->next; // 保存下一节点// 计算新表索引h = dictHashKey(d, de->key) & d->ht[1].sizemask;// 头插法插入新表de->next = d->ht[1].table[h];d->ht[1].table[h] = de;d->ht[0].used--;d->ht[1].used++;de = nextde;}// 清空旧表该桶d->ht[0].table[d->rehashidx] = NULL;d->rehashidx++;}// 检查是否完成所有rehashif (d->ht[0].used == 0) {zfree(d->ht[0].table);d->ht[0] = d->ht[1];_dictReset(&d->ht[1]);d->rehashidx = -1;return 0;}// 还有更多要rehashreturn 1;
}

差异分析

  1. 扩容时机

    • Java在put操作后检查是否需要扩容
    • Redis在多个操作中检查,但引入了dict_can_resize控制扩容行为
  2. 执行方式

    • Java一次性完成所有迁移工作
    • Redis采用渐进式rehash,将迁移工作分散到多个操作中
  3. 空间分配

    • Java直接使用新表替换旧表
    • Redis同时维护两个表,逐步将旧表元素迁移到新表
  4. 优化策略

    • Java使用"拆分桶"技术,减少链表遍历
    • Redis通过限制每次执行的步数和空桶访问数控制性能

三、性能设计考量

哈希函数设计

Java HashMap
static final int hash(Object key) {int h;return (key == null) ? 0 : (h = key.hashCode()) ^ (h >>> 16);
}
  • 位扩散:将高16位XOR到低16位,减少在小表上的冲突
  • null处理:显式支持null键,返回0作为哈希值
Redis字典

Redis提供多种哈希函数:

// Thomas Wang's 32位整数哈希
unsigned int dictIntHashFunction(unsigned int key) {key += ~(key << 15);key ^=  (key >> 10);key +=  (key << 3);key ^=  (key >> 6);key += ~(key << 11);key ^=  (key >> 16);return key;
}// MurmurHash2字符串哈希
unsigned int dictGenHashFunction(const void *key, int len) {/* MurmurHash2算法实现 */
}// 大小写不敏感的哈希(基于djb算法)
unsigned int dictGenCaseHashFunction(const unsigned char *buf, int len) {unsigned int hash = (unsigned int)dict_hash_function_seed;while (len--)hash = ((hash << 5) + hash) + (tolower(*buf++)); /* hash * 33 + c */return hash;
}

差异分析

  • Java依赖对象的hashCode方法,然后进行位扩散
  • Redis针对不同数据类型提供专用哈希函数,更好地控制分布

冲突处理

Java HashMap
  • 链表→红黑树转换:链表长度超过TREEIFY_THRESHOLD(8)时,转换为红黑树
  • 红黑树→链表转换:树节点数量小于UNTREEIFY_THRESHOLD(6)时,转回链表
  • 最小树化容量:表容量小于MIN_TREEIFY_CAPACITY(64)时先扩容而不树化
Redis字典
  • 纯链表法:始终使用链表解决冲突
  • 渐进式rehash:通过增量rehash控制链表长度
  • 强制扩容比例:当元素/桶比例超过dict_force_resize_ratio(5)时强制扩容

设计考量

  • Java的树化处理适合存在热点key的场景,保证最坏情况O(log n)性能
  • Redis通过控制负载因子和渐进式rehash,避免长链表出现,适合均匀分布场景

迭代器设计

Java HashMap
  • Fail-Fast迭代器:检测modCount变化,发现结构变化立即抛出ConcurrentModificationException
  • Spliterator支持:提供并行迭代支持
Redis字典
  • 安全迭代器:dictGetSafeIterator增加iterators计数,暂停rehash
  • 非安全迭代器:dictGetIterator用指纹机制检测迭代过程中的修改
  • 渐进式迭代:dictScan支持增量式迭代大字典

设计考量

  • Java侧重并发场景下的错误检测
  • Redis关注大数据量迭代的性能和内存一致性

四、内存管理与性能权衡

内存布局

Java HashMap
  • 对象模型:每个键值对都是独立的Node对象,额外引用开销
  • 数组扩容:创建新数组并迁移,暂时占用双倍内存
  • 树节点:TreeNode包含更多指针,内存占用更大
Redis字典
  • 紧凑布局:直接使用指针引用键值,减少封装开销
  • 双表存储:渐进式rehash期间同时维护两个表,额外空间开销
  • 单一节点类型:所有节点结构相同,无特殊处理

时间-空间权衡

Java HashMap
  • 一次性rehash:牺牲单次操作延迟,换取整体更少的内存占用
  • 树化优化:牺牲空间(树节点更大),换取查找性能(从O(n)到O(log n))
  • 懒加载:首次使用时才初始化table数组,节省初始内存
Redis字典
  • 渐进式rehash:牺牲持续时间内的额外内存占用,换取操作的平均延迟降低
  • 负载因子控制:通过dict_force_resize_ratio控制扩容时机,平衡内存使用和性能
  • 可禁用rehash:dictDisableResize()允许在特定场景(如fork子进程时)禁用扩容

权衡分析

  • Java HashMap更注重通用性能和内存利用率的平衡
  • Redis字典更关注操作延迟的一致性,适合实时系统需求

五、线程安全考虑

Java HashMap

  • 非线程安全设计:HashMap本身不是线程安全的
  • 外部同步:提供Collections.synchronizedMap进行包装
  • 并发替代品:提供ConcurrentHashMap作为线程安全替代
  • 快速失败机制:通过modCount检测并发修改
// 并发修改检测
if (modCount != expectedModCount)throw new ConcurrentModificationException();

Redis字典

  • 单线程模型:Redis主要是单线程架构,字典操作天然线程安全
  • RDB持久化保护:在fork子进程时可禁用rehash
// 可控制的rehash开关
void dictDisableResize(void) {dict_can_resize = 0;
}void dictEnableResize(void) {dict_can_resize = 1;
}
  • 指纹机制:使用dictFingerprint()检测字典的非法修改

设计理念对比

  • Java HashMap将线程安全问题委托给外部处理或使用专门的并发版本
  • Redis字典不直接处理线程安全,而是适应Redis的单线程模型和fork场景

六、特殊功能比较

随机访问

Java HashMap
  • 不直接支持随机元素访问
Redis字典
// 随机返回一个键值对
dictEntry *dictGetRandomKey(dict *d) {dictEntry *he, *orighe;unsigned int h;int listlen, listele;// 空表检查if (dictSize(d) == 0) return NULL;// 如果正在rehash,执行一步渐进式rehashif (dictIsRehashing(d)) _dictRehashStep(d);// 随机选择一个非空桶if (dictIsRehashing(d)) {do {h = d->rehashidx + (random() % (d->ht[0].size +d->ht[1].size -d->rehashidx));he = (h >= d->ht[0].size) ? d->ht[1].table[h - d->ht[0].size] :d->ht[0].table[h];} while(he == NULL);} else {do {h = random() & d->ht[0].sizemask;he = d->ht[0].table[h];} while(he == NULL);}// 计算链表长度并随机选择节点listlen = 0;orighe = he;while(he) {he = he->next;listlen++;}listele = random() % listlen;he = orighe;while(listele--) he = he->next;return he;
}

设计原因

  • Redis作为数据库和缓存系统需要支持抽样操作和过期键淘汰
  • Java HashMap作为通用数据结构无此需求

批量操作

Java HashMap
// 批量添加
final void putMapEntries(Map<? extends K, ? extends V> m, boolean evict) {int s = m.size();if (s > 0) {// 预先扩容if (table == null) {float ft = ((float)s / loadFactor) + 1.0F;int t = ((ft < (float)MAXIMUM_CAPACITY) ?(int)ft : MAXIMUM_CAPACITY);if (t > threshold)threshold = tableSizeFor(t);}else if (s > threshold)resize();// 批量插入for (Map.Entry<? extends K, ? extends V> e : m.entrySet()) {K key = e.getKey();V value = e.getValue();putVal(hash(key), key, value, false, evict);}}
}
Redis字典
  • 没有专门的批量操作API
  • 通过单个操作的增量rehash实现平滑批量处理

设计考量

  • Java HashMap支持批量操作,但仍可能因resize产生延迟峰值
  • Redis通过渐进式rehash将批量操作的成本分摊,更适合实时系统

七、哈希冲突处理机制详解

Java HashMap的树化机制

// 树化阈值
static final int TREEIFY_THRESHOLD = 8;// 将链表转化为红黑树
final void treeifyBin(Node<K,V>[] tab, int hash) {int n, index; Node<K,V> e;// 如果表太小,优先扩容而非树化if (tab == null || (n = tab.length) < MIN_TREEIFY_CAPACITY)resize();else if ((e = tab[index = (n - 1) & hash]) != null) {TreeNode<K,V> hd = null, tl = null;// 将链表节点转换为树节点do {TreeNode<K,V> p = replacementTreeNode(e, null);if (tl == null)hd = p;else {p.prev = tl;tl.next = p;}tl = p;} while ((e = e.next) != null);// 构建红黑树结构if ((tab[index] = hd) != null)hd.treeify(tab);}
}// TreeNode实现了红黑树的各种操作
static final class TreeNode<K,V> extends LinkedHashMap.Entry<K,V> {TreeNode<K,V> parent;TreeNode<K,V> left;TreeNode<K,V> right;TreeNode<K,V> prev;    // 双向链表支持boolean red;// 红黑树查找final TreeNode<K,V> getTreeNode(int h, Object k) {return ((parent != null) ? root() : this).find(h, k, null);}// 查找算法,结合哈希值和比较器final TreeNode<K,V> find(int h, Object k, Class<?> kc) {TreeNode<K,V> p = this;do {int ph, dir; K pk; TreeNode<K,V> pl, pr, q;if ((ph = p.hash) > h)p = pl = p.left;else if (ph < h)p = pr = p.right;else if ((pk = p.key) == k || (k != null && k.equals(pk)))return p;else if (pl == null)p = pr;else if (pr == null)p = pl;else if ((kc != null || (kc = comparableClassFor(k)) != null) &&(dir = compareComparables(kc, k, pk)) != 0)p = (dir < 0) ? pl : pr;else if ((q = pr.find(h, k, kc)) != null)return q;elsep = pl;} while (p != null);return null;}
}

Redis的渐进式rehash机制

// 执行n步rehash
int dictRehash(dict *d, int n) {int empty_visits = n*10;if (!dictIsRehashing(d)) return 0;while(n-- && d->ht[0].used != 0) {dictEntry *de, *nextde;// 找到非空桶while(d->ht[0].table[d->rehashidx] == NULL) {d->rehashidx++;if (--empty_visits == 0) return 1;}// 获取索引位置的链表头de = d->ht[0].table[d->rehashidx];// 迁移整个链表while(de) {unsigned int h;nextde = de->next;// 计算新哈希表中的位置h = dictHashKey(d, de->key) & d->ht[1].sizemask;de->next = d->ht[1].table[h];d->ht[1].table[h] = de;d->ht[0].used--;d->ht[1].used++;de = nextde;}// 清空旧表该位置d->ht[0].table[d->rehashidx] = NULL;d->rehashidx++;}// 检查是否完成所有rehashif (d->ht[0].used == 0) {zfree(d->ht[0].table);d->ht[0] = d->ht[1];_dictReset(&d->ht[1]);d->rehashidx = -1;return 0;}return 1;
}// 在其他操作中触发rehash
static void _dictRehashStep(dict *d) {if (d->iterators == 0) dictRehash(d, 1);
}

设计哲学对比

  1. Java的方法

    • 自适应结构:根据实际冲突情况动态切换链表/树结构
    • 优化热点:通过红黑树优化热点数据访问,保证最坏情况性能
    • 一次性成本:扩容时承担一次性较大成本,但保持结构简单
  2. Redis的方法

    • 增量设计:将rehash分散到多个操作中
    • 延迟均衡:避免单次操作延迟峰值,保证实时性
    • 双表机制:通过双表设计支持增量rehash,以空间换时间

八、总结与实践建议

设计决策对比

特性Java HashMapRedis 字典影响
冲突解决链表 + 红黑树仅链表Java在高冲突情况下性能更稳定
扩容方式一次性渐进式Redis操作延迟更一致
负载因子默认0.75可调整,强制阈值为5Java空间效率更高
内存分配连续数组两个哈希表Redis在rehash期间内存占用更高
随机访问不支持支持Redis更适合抽样操作
线程安全非线程安全基于单线程模型两者都需要外部同步机制
代码复杂度较高(树操作)中等(双表管理)Java实现更复杂但处理极端情况更佳

适用场景建议

Java HashMap适合:
  1. 通用存储:作为通用键值存储结构
  2. 内存敏感:对内存使用效率要求高的场景
  3. 不均匀分布:键的分布不均匀,存在热点数据的场景
  4. 批量操作:可接受偶尔的延迟峰值
Redis 字典适合:
  1. 实时系统:需要稳定、可预测延迟的场景
  2. 持续高频操作:需要避免操作阻塞的高吞吐系统
  3. 数据库基础结构:作为数据库核心组件,需要特殊控制
  4. 大规模数据:处理大规模数据集,需要平滑扩容

设计启示

  1. 平衡与取舍

    • Java选择了"大多数情况效率高,最坏情况有保障"的策略
    • Redis选择了"延迟稳定、可控制"的策略
  2. 适应使用环境

    • Java HashMap适应了JVM和通用编程模式
    • Redis字典适应了数据库和缓存系统的特殊需求
  3. 演化路径

    • Java HashMap从JDK 1.8开始引入树化机制,是对早期版本的优化
    • Redis字典设计初期就考虑了渐进式rehash,体现了实时系统设计思想
  4. 工程智慧

    • 两种实现都不是"完美"的,而是在各自约束下的最优解
    • 充分考虑了实际使用场景、性能特征和工程复杂度

九、源码深入剖析

哈希函数的设计哲学

Java HashMap的位扩散设计
static final int hash(Object key) {int h;return (key == null) ? 0 : (h = key.hashCode()) ^ (h >>> 16);
}

这种设计将高16位的信息混入低16位,主要考虑:

  1. 表大小影响:当表较小时,只有低位参与索引计算 (n-1) & hash
  2. 分布改善:通过高低位异或,让高位信息也能影响到最终索引
  3. 计算效率:比完整哈希算法开销小,但能显著改善分布
Redis多种哈希函数

Redis提供多种哈希函数以适应不同类型的键:

  1. 整数哈希:Thomas Wang算法,快速处理整数键
  2. 字符串哈希:MurmurHash2,均匀分布且计算高效
  3. 不区分大小写哈希:基于djb算法的变种,适合不区分大小写的字符串

扩容和缩容的精细控制

Java HashMap的扩容策略
// 当前大小翻倍
newCap = oldCap << 1;// 表大小始终是2的幂
static final int tableSizeFor(int cap) {int n = cap - 1;n |= n >>> 1;n |= n >>> 2;n |= n >>> 4;n |= n >>> 8;n |= n >>> 16;return (n < 0) ? 1 : (n >= MAXIMUM_CAPACITY) ? MAXIMUM_CAPACITY : n + 1;
}

HashMap不主动收缩,只会在负载超过阈值时扩容。这种策略有以下考虑:

  1. 避免频繁扩缩容导致的性能抖动
  2. 用空间换时间,保持查询效率
  3. 简化实现复杂度
Redis的扩缩容控制
// 扩容检查
static int _dictExpandIfNeeded(dict *d) {if (dictIsRehashing(d)) return DICT_OK;if (d->ht[0].size == 0)return dictExpand(d, DICT_HT_INITIAL_SIZE);if (d->ht[0].used >= d->ht[0].size &&(dict_can_resize ||d->ht[0].used/d->ht[0].size > dict_force_resize_ratio)){return dictExpand(d, d->ht[0].used*2);}return DICT_OK;
}

Redis支持扩容和收缩:

  1. 可通过全局开关控制是否允许重新调整大小
  2. 即使禁用了正常调整大小,也有强制阈值保证极端情况下的性能
  3. 收缩时机通常由上层应用触发,如键过期等场景

内存布局和缓存效率

Java HashMap的内存特性
  • 连续存储:桶数组是连续的,具有良好的缓存局部性
  • 节点分散:链表/树节点在堆上分散,缓存不友好
  • 装箱开销:泛型实现导致基本类型需要装箱,增加内存开销
Redis字典的内存特性
  • 指针直接性:直接使用指针而非对象封装,减少间接寻址
  • 双表交替:rehash期间的双表可能导致缓存未命中率增加
  • 键值灵活性:通过union结构支持不同类型的值存储,减少额外封装

十、实际应用场景示例

场景1:高频读取、低频写入

Java HashMap的表现
// 初始化足够大的容量以避免扩容
Map<String, Data> cache = new HashMap<>(10000, 0.75f);// 批量预加载
for (Data item : preloadData) {cache.put(item.getKey(), item);
}// 高频读取
public Data getData(String key) {return cache.get(key);
}

优势:一旦预加载完成,读取操作非常高效,特别是在数据分布不均时

场景2:实时交易系统

Redis字典的表现
// 在处理交易期间临时禁用rehash
dictDisableResize();// 交易处理
processTransaction();// 处理完成后恢复rehash
dictEnableResize();

优势:可精确控制延迟敏感期内的字典行为,保证操作延迟的稳定性

场景3:内存优化

Java HashMap的表现
// 使用computeIfAbsent优化内存
map.computeIfAbsent(key, k -> new ArrayList<>()).add(value);

优势:函数式API可以延迟创建对象,减少内存占用

Redis字典的表现
// 使用压缩链表等特殊编码(Redis上层实现)

优势:Redis可对特定数据类型使用特殊编码,极大节省内存

结论

Java HashMap和Redis字典实现都是哈希表的杰出案例,但针对不同应用场景做了专门优化:

  • Java HashMap 更注重通用性、最坏情况保证和整体内存效率,适合作为通用集合类型
  • Redis字典 更注重操作延迟的一致性、实时性和可控性,适合作为数据库核心组件

相关文章:

哈希表笔记(四)Redis对比Java总结

文章目录 一、基础结构对比数据结构定义Java HashMapRedis字典 主要区别与设计思路 二、关键操作API对比初始化Java HashMapRedis字典 添加元素Java HashMapRedis字典 查找元素Java HashMapRedis字典 删除元素Java HashMapRedis字典 扩容/重哈希操作Java HashMapRedis字典 三、…...

【精选】基于数据挖掘的广州招聘可视化分析系统(大数据组件+Spark+Hive+MySQL+AI智能云+DeepSeek人工智能+深度学习之LSTM算法)

博主介绍&#xff1a; ✌我是阿龙&#xff0c;一名专注于Java技术领域的程序员&#xff0c;全网拥有10W粉丝。作为CSDN特邀作者、博客专家、新星计划导师&#xff0c;我在计算机毕业设计开发方面积累了丰富的经验。同时&#xff0c;我也是掘金、华为云、阿里云、InfoQ等平台…...

WPF使用依赖注入框架AutoMapper

WPF应用中使用AutoMapper和依赖注入框架实现对象映射与依赖管理 1. 准备工作 首先,通过NuGet安装必要的包: Install-Package AutoMapper Install-Package Autofac Install-Package Autofac.Extensions.DependencyInjection Install-Package Microsoft.Extensions.Dependen…...

WPF封装常用的TCP、串口、Modbus、MQTT、Webapi、PLC通讯工具类

WPF封装常用通讯工具类 下面我将为您封装常用的TCP、串口、Modbus、MQTT、WebAPI和PLC通讯工具类,适用于WPF应用程序开发。 一、TCP通讯工具类 using System; using System.Net.Sockets; using System.Text; using System.Threading.Tasks;public class TcpClientHelper : …...

游戏引擎学习第253天:重新启用更多调试界面

运行游戏&#xff0c;尝试调试系统&#xff0c;并为今天的工作设定方向。 今天我们将继续完成调试编辑代码的收尾工作。虽然昨天已经让它运行起来了&#xff0c;但目前还在使用旧的GUID系统&#xff0c;以及调试系统里早期用于探索阶段的一些旧式实现。因此&#xff0c;我们需…...

C# | 基于C#实现的BDS NMEA-0183数据解析上位机

以下是一个基于C#实现的BDS NMEA-0183数据解析上位机的示例代码,包含基础功能和界面: using System; using System.Collections.Generic; using System.IO.Ports; using System.Windows.Forms; using System.Drawing; using System.Globalization;namespace BDS_NMEA_Viewer…...

【AI提示词】成本效益分析师

提示说明 专注于通过数据驱动的方式提供成本效益分析&#xff0c;帮助客户优化资源投入与预期回报。 提示词 # Role: 成本效益分析师## Profile - language: 中文 - description: 专注于通过数据驱动的方式提供成本效益分析&#xff0c;帮助客户优化资源投入与预期回报 - ba…...

Kotlin革新数据分析

摘要 在数据分析领域&#xff0c;Python长期占据主导地位。然而&#xff0c;随着技术的不断发展&#xff0c;Kotlin凭借其独特优势逐渐崭露头角。本文深入探讨Kotlin在数据分析中的应用&#xff0c;详细阐述其与Python在数据分析生态系统中的差异&#xff0c;通过具体案例展示…...

今日行情明日机会——20250430

指数目前仍然在震荡区间&#xff0c;等后续的方向选择以及放量后的主线~ 2025年4月30日涨停主要行业方向分析 一、核心主线方向 机器人概念&#xff08;政策催化技术突破&#xff09; • 涨停家数&#xff1a;18家。 • 代表标的&#xff1a; ◦ 全筑股份&#xff08;工业机器…...

【Docker】Dockerfile 使用

文章目录 1. 什么是 Dockerfile?2. Dockerfile 核心指令详解2.1 基础指令2.2 构建过程指令2.3 运行时指令2.4 容器启动指令3. Dockerfile 最佳实践3.1 优化镜像构建3.2 安全性增强3.3 多阶段构建4. 完整 Dockerfile 示例5. 构建与验证6. 总结Docker 作为容器化技术的代表,已经…...

【Hive入门】Hive性能调优之资源配置:深入解析执行引擎参数调优

目录 前言 1 Hive执行引擎概述 2 MapReduce引擎调优 2.1 Map阶段资源配置 2.2 Reduce阶段资源配置 2.3 并发控制参数 3 Tez引擎调优 3.1 Tez架构概述 3.2 内存配置 3.3 并发与并行度 4 Spark引擎调优 4.1 Spark执行模型 4.2 内存管理 4.3 并行度配置 5 资源隔离…...

初学python的我开始Leetcode题8-3

提示&#xff1a;100道LeetCode热题-8-3主要是二叉树相关&#xff0c;包括三题&#xff1a;将有序数组转换为二叉搜索树、验证二叉搜索树、二叉搜索树中第K小的元素。由于初学&#xff0c;所以我的代码部分仅供参考。 目录 前言 题目1&#xff1a;将有序数组转换为二叉搜索树…...

【音频】Qt6实现MP3播放器

1、简介 解码MP3有很多种方法,比如:FFmpeg、GStreamer、Qt、libmpg123 库等,下面介绍使用,只使用Qt的接口方法解码、播放MP3。 开发配置: 1)操作系统:Windows11 2)Qt版本:Qt6.5.1 3)编译器:MinGW_64 2、获取音频输出设备 QMediaDevices 用于获取媒体设备,包括音…...

【Linux】VSCode用法

描述 部分图片和经验来源于网络&#xff0c;若有侵权麻烦联系我删除&#xff0c;主要是做笔记的时候忘记写来源了&#xff0c;做完笔记很久才写博客。 专栏目录&#xff1a;记录自己的嵌入式学习之路-CSDN博客 1 安装环境及运行C/C 1.1 安装及配置步骤 请参考这位大佬的…...

普通 html 项目也可以支持 scss_sass

项目结构示例 下载vscode的插件Live Sass Compiler 自动监听编译scss 下载插件Live Server 用于 web 服务器&#xff0c;打开 html 文件到浏览器&#xff0c;也可以不用这个&#xff0c;自己用 nginx 或者宝塔其他 web 工具 新建一个 index.scss打开&#xff0c;点击 vscode 底…...

C#实现主流PLC读写工具类封装

以下是针对三菱、欧姆龙、西门子S7系列、汇川、台达PLC的完整封装工具类实现,基于Modbus TCP/RTU、MC协议、QJ71等主流通信协议: 基础接口定义 /// <summary> /// PLC操作基础接口 /// </summary> public interface IPLC {/// <summary>/// 连接PLC/// &…...

C++之特殊类设计及类型转换

目录 一、设计一个不能被拷贝的类 二、设计一个只能在堆上创建对象的类 三、设计一个只能在栈上创建对象的类 四、设计一个不能被继承的类 五、设计一个只能创建一个对象的类(单例模式) 六、C语言中的类型转换 七、C中的三类类型转换 八、C强制类型转换 8.1、为什么C需…...

【Linux】C语言补充知识

有一些Linux常见的C语言用法需要哈好复习一下。 部分图片和经验来源于网络&#xff0c;若有侵权麻烦联系我删除&#xff0c;主要是做笔记的时候忘记写来源了&#xff0c;做完笔记很久才写博客。 专栏目录&#xff1a;记录自己的嵌入式学习之路-CSDN博客 1 结构体 1.1 结…...

怎么查看数据库容量

要查看数据库容量&#xff0c;你需要登录数据库管理系统&#xff0c;然后执行相应的 SQL 查询语句。不同的数据库管理系统有不同的语法&#xff0c;以下是一些常见的数据库管理系统中查看数据库容量的 SQL 查询语句示例&#xff1a; MySQL/MariaDB: SELECT table_schema &quo…...

深度学习中卷积的计算复杂度与内存访问复杂度

深度学习中卷积的计算复杂度与内存访问复杂度 在深度学习中&#xff0c;普通卷积&#xff08;Standard Convolution&#xff09;、深度可分离卷积&#xff08;Depthwise Separable Convolution, DWConv&#xff09;和部分卷积&#xff08;Partial Convolution, PConv&#xff…...

神经网络—损失函数

文章目录 前言一、损失函数概念二、损失函数原理1、分类问题中常见的损失函数&#xff08;1&#xff09;0-1损失函数原理优缺点 &#xff08;2&#xff09;交叉熵损失&#xff08;Cross-Entropy Loss&#xff09;原理优缺点 &#xff08;3&#xff09; 合页损失&#xff08;Hin…...

Rust中避免过度使用锁导致性能问题的策略

一、引言 在 Rust 多线程编程中&#xff0c;锁是实现线程同步的重要工具&#xff0c;它可以防止多个线程同时访问和修改共享数据&#xff0c;从而避免数据竞争和不一致的问题。然而&#xff0c;过度使用锁会带来严重的性能问题&#xff0c;如锁竞争导致的线程阻塞、上下文切换…...

Qt connect第五个参数

在 Qt 中&#xff0c;QObject::connect 函数的第五个参数用于指定 连接类型&#xff08;Qt::ConnectionType&#xff09;&#xff0c;它决定了信号与槽之间的通信方式。以下是各枚举值的详解及使用场景&#xff1a; 1. Qt::AutoConnection&#xff08;默认值&#xff09; 行为…...

QT —— 信号和槽(带参数的信号和槽函数)

QT —— 信号和槽&#xff08;带参数的信号和槽函数&#xff09; 带参的信号和槽函数信号参数个数和槽函数参数个数1. 参数匹配规则2. 实际代码示例✅ 合法连接&#xff08;槽参数 ≤ 信号参数&#xff09;❌ 非法连接&#xff08;槽参数 > 信号参数&#xff09; 3. 特殊处理…...

极简GIT使用

只为极简使用。 创建本地仓库 初始化git仓库 1.创建一个新文件夹 2.在文件夹内打开git bash 之后进入如下界面&#xff0c;输入git init&#xff0c;这样此文件就可以使用git了。 在此文件夹中&#xff0c;除了.git文件外&#xff0c;其他全部都是工作文件。 接下来将以一个…...

【嵌入式———通用定时器基本操作——实验需求2:案列:测量PWM的频率/周期】

通用定时器输入捕获 需求&#xff1a;把测到的结果通过串口发送到电脑&#xff0c;检查测试结果。 在溢出之前&#xff0c;两次上升/下降沿记录时间。 345部分 滤波器&#xff1a;用来滤掉一些毛刺信息&#xff0c;信号质量好可以不滤波 边沿检测器&#xff1a;确定要捕获的是…...

兰亭妙微:数据驱动的 B 端设计:如何用 UI 提升企业级产品体验?

​ 在数字化转型的浪潮中&#xff0c;企业级产品的用户体验成为了决定产品竞争力的关键因素。对于 B 端产品而言&#xff0c;其使用场景复杂、用户需求多元&#xff0c;如何通过 UI 设计提升产品体验&#xff0c;成为了摆在设计者面前的重要课题。而数据驱动的设计方法&#x…...

Spring AOP---面向切面编程由认识到使用

1. AOP AOP(Aspect-Oriented Programming), 是一种思想, 面向切面编程。 在前文统一异常处理&#xff0c;统一结果返回就是使用了这一思想&#xff08;都是在集中处理某一类事情, 但又不影响原有代码的正常运行&#xff09;&#xff0c;但他们不是AOP&#xff0c;只是应用了这…...

深入解析 Python 应用日志监控:ELK、Graylog 的实战指南

深入解析 Python 应用日志监控:ELK、Graylog 的实战指南 引言 在现代应用开发中,日志不仅仅是用于记录错误和调试信息,它更是系统运行状况的窗口,帮助开发者和运维人员监控、优化应用性能。Python 作为广泛应用的开发语言,其应用日志管理的重要性不言而喻。而 ELK(Elas…...

贝叶斯算法实战:从原理到鸢尾花数据集分类

贝叶斯算法实战&#xff1a;从原理到鸢尾花数据集分类 在机器学习的广阔领域中&#xff0c;贝叶斯算法以其基于概率推理的独特优势&#xff0c;成为数据分类和预测的重要工具。今天&#xff0c;我们将通过一段Python代码&#xff0c;深入探讨贝叶斯算法在鸢尾花数据集分类任务…...

CSS学习笔记14——移动端相关知识(rem,媒体查询,less)

移动端 rem适配布局 rem单位 rem基准是相对于html元素的字体大小 父元素设定font-size&#xff0c;子元素根据rem缩放对应字体大小 媒体查询&#xff08;Media Query&#xff09; media可以针对不同屏幕尺寸设置不同样式当你重置浏览器大小过程中&#xff0c;页面也会根据…...

使用Node编写轻量级后端快速入门

使用Node编写轻量级后端快速入门 node 要作为轻量级后端需要下载一些对应模块可以参考下面命令。你可以借助 npm&#xff08;Node Package Manager&#xff09;来下载它们。 模块下载 express&#xff1a;这是一个广受欢迎的 Node.js Web 应用框架&#xff0c;能用于构建 Web…...

海量数据存储与分析:HBase vs ClickHouse vs Doris 三大数据库优劣对比指南

1.引言 在当今大数据时代&#xff0c;数据正以前所未有的速度持续增长。来自各个领域的数据&#xff0c;如互联网行业用户的每一次点击、浏览记录&#xff0c;金融机构的海量交易数据&#xff0c;以及物联网设备源源不断上传的实时监测数据等&#xff0c;其规模呈指数级攀升。…...

Redis 挂掉后高并发系统的应对策略:使用 Sentinel 实现限流降级与 SkyWalking 监控优化

前言 在现代分布式系统中&#xff0c;Redis 被广泛用作缓存中间件以提升性能和减轻数据库压力。然而&#xff0c;在高并发场景下&#xff0c;一旦 Redis 出现故障&#xff08;如宕机、网络中断等&#xff09;&#xff0c;如果没有有效的容错机制&#xff0c;可能会导致大量请求…...

C++11新特性_自动类型推导_decltype

decltype 是 C11 引入的一个关键字&#xff0c;用于在编译时推导表达式的类型。它提供了一种方式&#xff0c;让编译器根据表达式的类型来确定变量的类型&#xff0c;而不需要显式地指定类型。下面为你详细介绍 decltype 的使用方法和应用场景。 基本语法 decltype 的基本语法…...

Scrapy爬虫实战总结:动态与登录爬取的精炼经验

引言 在AI时代,信息和数据往往成就你的速度和高度。。。 这篇文章基于前两篇的实践基础之上的一次小结,通过“爬取动态网页”和“登录网站”两场实战,我用Scrapy+Splash破译JavaScript,用FormRequest敲开权限大门。这篇总结凝练两场冒险的体验,淬炼Scrapy爬虫的通用经验…...

windows系统搭建自己的ftp服务器,保姆级教程(用户验证+无验证)

前言 最近在搭建环境时&#xff0c;我发现每次都需要在网上下载依赖包和软件&#xff0c;这不仅耗时&#xff0c;而且有时还会遇到网络不稳定的问题&#xff0c;导致下载速度慢或者中断&#xff0c;实在不太方便。于是&#xff0c;我产生了搭建一个FTP服务器的想法。通过搭建FT…...

PDF本地化开源项目推荐

Stirling-PDF 项目详细总结 1. 项目概述 Stirling-PDF 是一个基于 Docker 的本地化 Web 应用&#xff0c;专注于 PDF 文件的多样化处理。其核心特点是&#xff1a; 完全本地化部署&#xff1a;所有文件处理均在用户设备或服务器内存中进行&#xff0c;任务完成后自动清理临…...

从工厂到生活:算法 × 深度学习,正在改写自动化的底层逻辑

一.背景&#xff1a; 从工业革命时期的机械自动化&#xff0c;到信息时代的智能自动化&#xff0c;人类对自动化技术的追求从未停歇。近年来&#xff0c;随着物联网、大数据、云计算等技术的蓬勃发展&#xff0c;自动化系统的复杂度与智能化程度显著提升。算法与深度学习的深度…...

如何拿奖蓝桥杯

要在蓝桥杯中拿奖&#xff0c;可参考以下方法&#xff1a; 备赛规划方面 - 明确目标与计划&#xff1a;选择自己感兴趣或有基础的组别&#xff0c;了解比赛大纲和历年真题&#xff0c;制定包含基础语法学习、算法入门、真题训练等阶段的合理学习计划。 - 合理安排时间&#xf…...

【STM32单片机】#12 SPI通信(软件读写)

主要参考学习资料&#xff1a; B站江协科技 STM32入门教程-2023版 细致讲解 中文字幕 开发资料下载链接&#xff1a;https://pan.baidu.com/s/1h_UjuQKDX9IpP-U1Effbsw?pwddspb 单片机套装&#xff1a;STM32F103C8T6开发板单片机C6T6核心板 实验板最小系统板套件科协 目录 SPI…...

从请求到响应:初探spring web

引入&#xff1a; 首先小编想分享下一些开发小知识 2000年——手写servlet/JSP时代 在这个阶段中&#xff0c;那时候写后端代码&#xff0c;可谓是个麻烦事。 毕竟什么都要自己干 发来的请求都要写extends HttpServlet的类&#xff0c;手动在web.xml配置 <servlet>…...

【中间件】bthread_基础_TaskControl

TaskControl 1 Definition2 Introduce**核心职责** 3 成员解析**3.1 数据结构与线程管理****3.2 任务调度与负载均衡****3.3 线程停放与唤醒&#xff08;ParkingLot&#xff09;****3.4 统计与监控** 4 **工作流程**5 **设计亮点**6 **使用场景示例**7 **总结**8 学习过程中的疑…...

systemd和OpenSSH

1 systemd 1.1 配置文件 /etc/systemd/system /lib/systemd/system /run/systemd/system /usr/lib/systemd/user 1.2 commands systemctl list-unit-files | grep enable systemctl cat dlt-daemon.service systemctl cat dlt-system.service systemctl show dlt-daemon.ser…...

08 Python集合:数据 “去重神器” 和运算魔法

文章目录 一、Python 中的集合概述1. 集合的特性 二、集合的创建三、元素的遍历四、集合的运算1. 成员运算2. 二元运算3. 比较运算 五、集合的方法六、不可变集合 一、Python 中的集合概述 在 Python 里&#xff0c;集合&#xff08;Set&#xff09;是一种无序且元素唯一的数据…...

配置和使用基本存储

配置和使用基本存储 文章目录 配置和使用基本存储[toc]一、什么是卷&#xff1f;二、卷的类型三、使用EmptyDir卷存储数据1.了解EmptyDir卷2.测试EmptyDir卷的使用 四、使用HostPath卷挂载宿主机文件1.了解HostPath卷2.测试HostPath卷的使用 五、使用NFS卷挂载NFS共享目录1.准备…...

win11 终端 安装ffmpeg 使用终端Scoop

1、安装scoop (Windows 包管理器) Set-ExecutionPolicy RemoteSigned -Scope CurrentUser iwr -useb get.scoop.sh | iex 2、使用scoop来安装ffmpeg scoop install ffmpeg 3、测试一下ffmpeg&#xff0c;将Mp3文件转为Wav文件 ffmpeg -i A.mp3 A.wav 然后我们就看到A.wav生成…...

navicat中导出数据表结构并在word更改为三线表(适用于navicat导不出doc)

SELECTCOLUMN_NAME 列名,COLUMN_TYPE 数据类型,DATA_TYPE 字段类型,IS_NULLABLE 是否为空,COLUMN_DEFAULT 默认值,COLUMN_COMMENT 备注 FROMINFORMATION_SCHEMA.COLUMNS WHEREtable_schema db_animal&#xff08;数据库名&#xff09; AND table_name activity&#xff08;…...

Azure Monitor 实战指南:全方位监控应用与基础设施

Azure Monitor 是 Azure 云原生的统一监控解决方案,能够实时追踪应用性能、基础设施健康状态及日志数据。本文将通过 实战步骤 演示如何利用 Azure Monitor 监控 GPT-4 服务、虚拟机、存储等资源,并结合自动化告警和日志分析,构建企业级监控体系。 1. Azure Monitor 核心功能…...

【人工智能】释放本地AI潜能:LM Studio用户脚本自动化DeepSeek的实战指南

《Python OpenCV从菜鸟到高手》带你进入图像处理与计算机视觉的大门! 解锁Python编程的无限可能:《奇妙的Python》带你漫游代码世界 随着大型语言模型(LLM)的快速发展,DeepSeek以其高效的性能和开源特性成为开发者关注的焦点。LM Studio作为一款强大的本地AI模型管理工具…...