Skuid生成器 简单易用 高性能 高可用的id生成系统
yuyutoo 2024-10-18 12:12 1 浏览 0 评论
ID是数据的唯一标识,传统的做法是利用UUID和数据库的自增ID,在互联网企业中,大部分公司使用的都是Mysql,并且因为需要事务支持,所以通常会使用Innodb存储引擎,UUID太长以及无序,所以并不适合在Innodb中来作为主键,自增ID比较合适,但是随着公司的业务发展,数据量将越来越大,需要对数据进行分表,而分表后,每个表中的数据都会按自己的节奏进行自增,很有可能出现ID冲突。这时就需要一个单独的机制来负责生成唯一ID,生成出来的ID也可以叫做分布式ID,或全局ID。
下面来是各个生成分布式ID的机制。
下面是我想到的一套策略: 类似滴滴的TinyId生成类似
/**
* @author :
* @program:es-server
* @description: 生成唯一码 <br>
* @create:2019-10-09 15-42
* @return:
*/
public interface SequenceService {
/**
* 方法: generateUniqueKey <br>
* 描述: 根据指定key生成唯一自增值 <br>
* 作者:
* 时间: 2019-10-09 15-42
* @param key 系统标识
* @param limit
* @return
*/
public Long generateUniqueKey(CommonGenerateKey key, long limit) ;
}
//系统标识key 枚举
package com.ouyue.xiwen.esserver.common.enums;
import lombok.Getter;
public enum CommonGenerateKey {
API_ACCESS_KEY("API_ACCESS_KEY", "ACCESS_KEY,系统自动生成"),
ACCOUNTBILLNO("ACCOUNTBILLNO", "账单编号序列"),
PAYROLLREQUISITIONNO("PAYROLLREQUISITIONNO","请款单号序列"),
WAY_BILL_NO("WAY_BILL_NO","运输单号序列"),
;
@Getter
private String key;
@Getter
private String des;
CommonGenerateKey(String intValue, String des) {
this.key = intValue;
this.des = des;
}
public String toString() {
return this.des;
}
}
/**
* @author :
* @program:es-server
* @description:生成唯一码 <br>
* @create:2019-10-09 15-44
*/
public class SequenceServiceImpl implements SequenceService {
protected static final Logger logger = LoggerFactory.getLogger(SequenceServiceImpl.class);
@Resource
private SequenceDao sequenceDao;
private final ConcurrentHashMap<String, Map.Entry<Long, Long>> keyMap = new ConcurrentHashMap<>();
/**
* 方法: updateBySkuId <br>
* 描述: 根据sku全量更新 <br>
* @author :
* @create:2019-10-09 15-44
*
* @return
*/
public Long generateUniqueKey(CommonGenerateKey key, long limit) {
// 默认缓存到本地的key域
if (limit <= 3) {
limit = 10;
}
synchronized (key.getKey()) {
Map.Entry<Long, Long> entry = keyMap.get(key.getKey());
if (entry == null) {
Long generateUniqueKey = sequenceDao.generateUniqueKey(key, limit);
keyMap.put(key.getKey(), Maps.immutableEntry(generateUniqueKey, generateUniqueKey + limit - 1));
logger.info("击穿db:" + (generateUniqueKey));
return generateUniqueKey;
} else {
Long start = entry.getKey();
Long end = entry.getValue();
Long result = start + 1;
if (end - start < 2) {
keyMap.remove(key.getKey());
} else {
keyMap.put(key.getKey(), Maps.immutableEntry(result, end));
}
logger.info("走缓存:" + result);
return result;
}
}
}
}
/**
* @author :
* @program:es-server
* @description:
* @create:2019-10-09 15-45
*/
@Component
public class SequenceDao {
protected static final Logger logger = LoggerFactory.getLogger(SequenceDao.class);
@Resource
private DBSequenceMapper dbSequenceMapper;
/**
* 方法: updateBySkuId <br>
* 描述: 根据sku全量更新 <br>
* 作者:
* 时间: 2019年10月9日
*
* @return
*/
@Transactional(propagation = Propagation.REQUIRES_NEW)
public Long generateUniqueKey(CommonGenerateKey key, long limit) {
for (int i = 0; i < 20; i++) {
DBSequence oldSequence = selectByKey(key.getKey());
if (oldSequence == null) {
oldSequence = createSequence(key.getKey());
boolean insert = insert(oldSequence);
if (!insert) {
ExceptionUtil.serviceException("创建seq失败");
}
}
oldSequence.setNewValue(oldSequence.getSeqValue() + limit);
boolean result = update(oldSequence);
if (!result) {
try {
logger.error("Sequence.generateKey fail sleep {}", i * 10);
Thread.sleep(i * 10);
} catch (InterruptedException e) {
logger.error("Sequence.generateKey sleep {}", key, e);
}
continue;
}
DBSequence newsequence = selectByKey(key.getKey());
if (NumberUtils.compare(newsequence.getSeqValue(), oldSequence.getNewValue()) == 0) {
logger.info("击穿db:" + (oldSequence.getSeqValue() + 1));
return oldSequence.getSeqValue() + 1;
}
}
ExceptionUtil.serviceException("数据库异常");
return -1l;
}
/**
* 方法: updateBySkuId <br>
* 描述: 根据sku全量更新 <br>
* 作者:
* 时间: 2019年10月9日
*
* @return
*/
public boolean insert(DBSequence squence) {
try {
squence.setDbUpdateTime(new Date());
int update = dbSequenceMapper.insertSelective(squence);
return update > 0;
} catch (Exception e) {
logger.error("Sequence.update error {}", JSONObject.toJSONString(squence), e);
ExceptionUtil.serviceException(ExceptionCode.DB_ERROR);
return false;
}
}
/**
* 方法: updateBySkuId <br>
* 描述: 根据sku全量更新 <br>
* 作者:
* 时间: 2019年10月9日
* @return
*/
public boolean update(DBSequence squence) {
try {
int update = dbSequenceMapper.updateByPrimaryKeySelective(squence);
return update > 0;
} catch (Exception e) {
logger.error("Sequence.update error {}", JSONObject.toJSONString(squence), e);
ExceptionUtil.serviceException(ExceptionCode.DB_ERROR);
return false;
}
}
/**
* 方法: updateBySkuIdSelective <br>
* 描述: 根据sku更新 <br>
* 作者:
* 时间: 2019年10月9日
*
* @return
*/
public DBSequence selectByKey(String key) {
try {
return dbSequenceMapper.selectBySeqKey(key);
} catch (Exception e) {
logger.error("Sequence.selectByKey error {}", key, e);
ExceptionUtil.serviceException(ExceptionCode.DB_ERROR);
return null;
}
}
private DBSequence createSequence(String key) {
DBSequence seq = new DBSequence();
seq.setSeqKey(key);
seq.setSeqValue(1l);
seq.setRemark("system创建");
seq.setDbCreateTime(new Date());
return seq;
}
}
数据库表字段值
CREATE TABLE `db_sequence` (
`id` bigint(20) NOT NULL AUTO_INCREMENT COMMENT '主键',
`seq_key` varchar(50) NOT NULL COMMENT '序号键',
`seq_value` bigint(20) DEFAULT '0' COMMENT '序号值',
`remark` varchar(100) DEFAULT '' COMMENT '备注',
`new_value` bigint(20) DEFAULT '0' COMMENT '新的序列值',
`db_update_time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '修改时间',
`db_create_time` timestamp NOT NULL DEFAULT '2000-01-01 00:00:00' COMMENT '创建时间',
PRIMARY KEY (`id`),
UNIQUE KEY `unique_key` (`seq_key`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COMMENT='自增序号表'/* BF=seq_key, POLICY=ims_single, STARTID=1, ASSIGNIDTYPE=USB */;
备注 /* BF=seq_key, POLICY=ims_single, STARTID=1, ASSIGNIDTYPE=USB */ 标识是 分布式数据库id 主键
相关推荐
- Google Chrome 100 Beta发布 用户代理字符串作用开始逐渐降低
-
GoogleChrome和MozillaFirefox都在迅速接近100版本,这有可能破坏一些错误识别浏览器版本的网站(可能导致访问不正常,这有点类似于众所周知的千年虫)。两种浏览器都在研究可能的...
- 如何在Chrome,Edge,Safari和Firefox中更改用户代理
-
无论您是SEO,营销人员还是Web开发人员,通常都可能需要更改浏览器的用户代理以测试其他内容。例如,您正在运行特定于MAC-OS的活动。要确定您的广告系列是否正常运行并且未针对Linux用户,更改浏览...
- Mozilla正在测试新的浏览器UserAgent
-
Mozilla最近发布了一个实验项目来测试3位数的UserAgent版本“Firefox/100.0”会不会让一些网站停止正常工作。浏览器UserAgent是一串字符串,里面包含了浏览器的软件信息,版...
- 爬虫与User-Agent
-
什么是User-Agent呢?User-Agent是一个特殊字符串头,被广泛用来标示浏览器客户端的信息,使得服务器能识别客户机使用的操作系统和版本,CPU类型,浏览器及版本,浏览器的渲染引擎,浏览器...
- 让你的浏览器充满魔性——User Agent Switche
-
对于前端人员,闲暇时就会研究各种插件,今天我就分享UserAgentSwitcher在Firefox和Chrome的使用情况。一、Firefox浏览器UserAgentSwitcher作为火...
- 亚马逊账号运营安全-浏览器指纹识别之User-Agent开篇
-
UA包含了一个约定的特征字符串。主要是面向受访问网络表明自己的操作系统,软件开发商,版本,应用类型等信息。这是一种主动暴露信息的方式。我们来看关于UA的简单语法定义:User-Agent:<p...
- 【每日学习】Python爬虫之伪装浏览器User-Agent
-
【主题】Python爬虫之伪装浏览器原理【分析】1.创建自定义请求对象的目的,对抗网站的反爬虫机制2.反爬虫机制1:判断用户是否是浏览器访问(User-Agent)3.对抗措施1:伪装浏览器进行访问【...
- 亚马逊账号运营安全-浏览器指纹识别之User-Agent二篇
-
大家好,上一篇亚马逊账号运营安全-浏览器指纹识别之User-Agent开篇为大家阐述了原理。下面是作者为大家整理的其他几个主流浏览器的UA配置。一下都是Windows1064X系统下整理。Chrom...
- 常见的爬虫UserAgent
-
通过前面的文章我们知道,UserAgent(用户代理)是HTTP请求的一部分,用于告诉服务器发起请求的客户端类型和属性等信息。同时,也了解了常见的UserAgent。...
- HTTP请求头之User-Agent
-
什么是User-AgentUser-Agent中文名为用户代理,简称UA,...
- 你想不到的浏览器流氓史!那些奇怪的User-Agent,是这么来的...
-
平时我们用chrome浏览器做开发测试。Chrome的Useragent字段怎么这么奇怪?...
- 谷歌宣布 Chrome 将逐步停止支持 User Agent
-
谷歌近日宣布将放弃对Chrome浏览器中用户代理字符串(User-AgentString)的支持。取而代之的是,Chrome将提供一个名为“客户端提示(ClientHints)”的新API...
- 数据采集-用户代理(useragent)
-
UserAgent分类:PC端的UserAgent。移动端UserAgent。使用UserAgent的必要性:在写python网络爬虫程序的时候,经常需要修改UserAgent,有很多原因,罗列几个如...
- 如何获取当前浏览器的useragent
-
有时候,我们需要得到浏览器的useragent,从而再进行后面的一系列判断,返回不同的值。网上有说,在浏览器地址栏输入:javascript:alert(navigator.userAgent)这种方...
- User Agent 解析:它是什么以及如何修改
-
什么是UserAgent?UserAgent,简称UA,是一个使服务器能够识别用户使用的浏览器类型、版本以及运行浏览器的操作系统等信息的字符串。它作为浏览器请求头部信息的一部分发送给服务器,以便服务...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- mybatis plus (70)
- scheduledtask (71)
- css滚动条 (60)
- java学生成绩管理系统 (59)
- 结构体数组 (69)
- databasemetadata (64)
- javastatic (68)
- jsp实用教程 (53)
- fontawesome (57)
- widget开发 (57)
- vb net教程 (62)
- hibernate 教程 (63)
- case语句 (57)
- svn连接 (74)
- directoryindex (69)
- session timeout (58)
- textbox换行 (67)
- extension_dir (64)
- linearlayout (58)
- vba高级教程 (75)
- iframe用法 (58)
- sqlparameter (59)
- trim函数 (59)
- flex布局 (63)
- contextloaderlistener (56)