百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 编程网 > 正文

Skuid生成器 简单易用 高性能 高可用的id生成系统

yuyutoo 2024-10-18 12:12 1 浏览 0 评论

ID是数据的唯一标识,传统的做法是利用UUID和数据库的自增ID,在互联网企业中,大部分公司使用的都是Mysql,并且因为需要事务支持,所以通常会使用Innodb存储引擎,UUID太长以及无序,所以并不适合在Innodb中来作为主键,自增ID比较合适,但是随着公司的业务发展,数据量将越来越大,需要对数据进行分表,而分表后,每个表中的数据都会按自己的节奏进行自增,很有可能出现ID冲突。这时就需要一个单独的机制来负责生成唯一ID,生成出来的ID也可以叫做分布式ID,或全局ID

下面来是各个生成分布式ID的机制。


下面是我想到的一套策略: 类似滴滴的TinyId生成类似

/**
* @author :
* @program:es-server
* @description: 生成唯一码 <br>
* @create:2019-10-09 15-42
* @return:
*/
public interface SequenceService {
/**
* 方法: generateUniqueKey <br>
* 描述: 根据指定key生成唯一自增值 <br>
* 作者: 
* 时间: 2019-10-09 15-42
* @param key 系统标识
* @param limit
* @return
*/
public Long generateUniqueKey(CommonGenerateKey key, long limit) ;
}


//系统标识key 枚举

package com.ouyue.xiwen.esserver.common.enums;
import lombok.Getter;

public enum CommonGenerateKey {

    API_ACCESS_KEY("API_ACCESS_KEY", "ACCESS_KEY,系统自动生成"),
    ACCOUNTBILLNO("ACCOUNTBILLNO", "账单编号序列"),
    PAYROLLREQUISITIONNO("PAYROLLREQUISITIONNO","请款单号序列"),
    WAY_BILL_NO("WAY_BILL_NO","运输单号序列"),
    ;
    @Getter
    private String key;
    @Getter
    private String des;

    CommonGenerateKey(String intValue, String des) {
        this.key = intValue;
        this.des = des;
    }

    public String toString() {
        return this.des;
    }
}


/**
 * @author :
 * @program:es-server
 * @description:生成唯一码 <br>
 * @create:2019-10-09 15-44
 */
public class SequenceServiceImpl implements SequenceService {

    protected static final Logger logger = LoggerFactory.getLogger(SequenceServiceImpl.class);

    @Resource
    private SequenceDao sequenceDao;


    private final ConcurrentHashMap<String, Map.Entry<Long, Long>> keyMap = new ConcurrentHashMap<>();

    /**
     * 方法: updateBySkuId <br>
     * 描述: 根据sku全量更新 <br>
     * @author :
    * @create:2019-10-09 15-44
     *
     * @return
     */

    public Long generateUniqueKey(CommonGenerateKey key, long limit) {
        // 默认缓存到本地的key域
        if (limit <= 3) {
            limit = 10;
        }
        synchronized (key.getKey()) {
            Map.Entry<Long, Long> entry = keyMap.get(key.getKey());
            if (entry == null) {
                Long generateUniqueKey = sequenceDao.generateUniqueKey(key, limit);
                keyMap.put(key.getKey(), Maps.immutableEntry(generateUniqueKey, generateUniqueKey + limit - 1));
                logger.info("击穿db:" + (generateUniqueKey));
                return generateUniqueKey;
            } else {
                Long start = entry.getKey();
                Long end = entry.getValue();
                Long result = start + 1;
                if (end - start < 2) {
                    keyMap.remove(key.getKey());
                } else {
                    keyMap.put(key.getKey(), Maps.immutableEntry(result, end));
                }
                logger.info("走缓存:" + result);
                return result;
            }
        }
    }

}

/**
 * @author :
 * @program:es-server
 * @description:
 * @create:2019-10-09 15-45
 */
@Component
public class SequenceDao {

    protected static final Logger logger = LoggerFactory.getLogger(SequenceDao.class);

    @Resource
    private DBSequenceMapper dbSequenceMapper;

    /**
     * 方法: updateBySkuId <br>
     * 描述: 根据sku全量更新 <br>
     * 作者: 
     * 时间: 2019年10月9日
     *
     * @return
     */

    @Transactional(propagation = Propagation.REQUIRES_NEW)
    public Long generateUniqueKey(CommonGenerateKey key, long limit) {
        for (int i = 0; i < 20; i++) {
            DBSequence oldSequence = selectByKey(key.getKey());
            if (oldSequence == null) {
                oldSequence = createSequence(key.getKey());
                boolean insert = insert(oldSequence);
                if (!insert) {
                    ExceptionUtil.serviceException("创建seq失败");
                }
            }
            oldSequence.setNewValue(oldSequence.getSeqValue() + limit);
            boolean result = update(oldSequence);
            if (!result) {
                try {
                    logger.error("Sequence.generateKey fail sleep {}", i * 10);
                    Thread.sleep(i * 10);
                } catch (InterruptedException e) {
                    logger.error("Sequence.generateKey sleep {}", key, e);
                }
                continue;
            }
            DBSequence newsequence = selectByKey(key.getKey());
            if (NumberUtils.compare(newsequence.getSeqValue(), oldSequence.getNewValue()) == 0) {
                logger.info("击穿db:" + (oldSequence.getSeqValue() + 1));
                return oldSequence.getSeqValue() + 1;
            }
        }
        ExceptionUtil.serviceException("数据库异常");
        return -1l;
    }

    /**
     * 方法: updateBySkuId <br>
     * 描述: 根据sku全量更新 <br>
     * 作者: 
     * 时间: 2019年10月9日
     *
     * @return
     */
    public boolean insert(DBSequence squence) {
        try {
            squence.setDbUpdateTime(new Date());
            int update = dbSequenceMapper.insertSelective(squence);
            return update > 0;
        } catch (Exception e) {
            logger.error("Sequence.update error {}", JSONObject.toJSONString(squence), e);
            ExceptionUtil.serviceException(ExceptionCode.DB_ERROR);
            return false;
        }
    }

    /**
     * 方法: updateBySkuId <br>
     * 描述: 根据sku全量更新 <br>
     * 作者: 
     * 时间: 2019年10月9日
     * @return
     */
    public boolean update(DBSequence squence) {
        try {
            int update = dbSequenceMapper.updateByPrimaryKeySelective(squence);
            return update > 0;
        } catch (Exception e) {
            logger.error("Sequence.update error {}", JSONObject.toJSONString(squence), e);
            ExceptionUtil.serviceException(ExceptionCode.DB_ERROR);
            return false;
        }
    }

    /**
     * 方法: updateBySkuIdSelective <br>
     * 描述: 根据sku更新 <br>
     * 作者: 
     * 时间: 2019年10月9日
     *
     * @return
     */
    public DBSequence selectByKey(String key) {
        try {
            return dbSequenceMapper.selectBySeqKey(key);
        } catch (Exception e) {
            logger.error("Sequence.selectByKey error {}", key, e);
            ExceptionUtil.serviceException(ExceptionCode.DB_ERROR);
            return null;
        }
    }

    private DBSequence createSequence(String key) {
        DBSequence seq = new DBSequence();
        seq.setSeqKey(key);
        seq.setSeqValue(1l);
        seq.setRemark("system创建");
        seq.setDbCreateTime(new Date());
        return seq;
    }
}



数据库表字段值


CREATE TABLE `db_sequence` (
  `id` bigint(20) NOT NULL AUTO_INCREMENT COMMENT '主键',
  `seq_key` varchar(50) NOT NULL COMMENT '序号键',
  `seq_value` bigint(20) DEFAULT '0' COMMENT '序号值',
  `remark` varchar(100) DEFAULT '' COMMENT '备注',
  `new_value` bigint(20) DEFAULT '0' COMMENT '新的序列值',
  `db_update_time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '修改时间',
  `db_create_time` timestamp NOT NULL DEFAULT '2000-01-01 00:00:00' COMMENT '创建时间',
  PRIMARY KEY (`id`),
  UNIQUE KEY `unique_key` (`seq_key`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COMMENT='自增序号表'/* BF=seq_key, POLICY=ims_single, STARTID=1, ASSIGNIDTYPE=USB */;

备注 /* BF=seq_key, POLICY=ims_single, STARTID=1, ASSIGNIDTYPE=USB */ 标识是 分布式数据库id 主键

相关推荐

Google Chrome 100 Beta发布 用户代理字符串作用开始逐渐降低

GoogleChrome和MozillaFirefox都在迅速接近100版本,这有可能破坏一些错误识别浏览器版本的网站(可能导致访问不正常,这有点类似于众所周知的千年虫)。两种浏览器都在研究可能的...

如何在Chrome,Edge,Safari和Firefox中更改用户代理

无论您是SEO,营销人员还是Web开发人员,通常都可能需要更改浏览器的用户代理以测试其他内容。例如,您正在运行特定于MAC-OS的活动。要确定您的广告系列是否正常运行并且未针对Linux用户,更改浏览...

Mozilla正在测试新的浏览器UserAgent

Mozilla最近发布了一个实验项目来测试3位数的UserAgent版本“Firefox/100.0”会不会让一些网站停止正常工作。浏览器UserAgent是一串字符串,里面包含了浏览器的软件信息,版...

爬虫与User-Agent

什么是User-Agent呢?User-Agent是一个特殊字符串头,被广泛用来标示浏览器客户端的信息,使得服务器能识别客户机使用的操作系统和版本,CPU类型,浏览器及版本,浏览器的渲染引擎,浏览器...

让你的浏览器充满魔性——User Agent Switche

对于前端人员,闲暇时就会研究各种插件,今天我就分享UserAgentSwitcher在Firefox和Chrome的使用情况。一、Firefox浏览器UserAgentSwitcher作为火...

亚马逊账号运营安全-浏览器指纹识别之User-Agent开篇

UA包含了一个约定的特征字符串。主要是面向受访问网络表明自己的操作系统,软件开发商,版本,应用类型等信息。这是一种主动暴露信息的方式。我们来看关于UA的简单语法定义:User-Agent:<p...

【每日学习】Python爬虫之伪装浏览器User-Agent

【主题】Python爬虫之伪装浏览器原理【分析】1.创建自定义请求对象的目的,对抗网站的反爬虫机制2.反爬虫机制1:判断用户是否是浏览器访问(User-Agent)3.对抗措施1:伪装浏览器进行访问【...

亚马逊账号运营安全-浏览器指纹识别之User-Agent二篇

大家好,上一篇亚马逊账号运营安全-浏览器指纹识别之User-Agent开篇为大家阐述了原理。下面是作者为大家整理的其他几个主流浏览器的UA配置。一下都是Windows1064X系统下整理。Chrom...

常见的爬虫UserAgent

通过前面的文章我们知道,UserAgent(用户代理)是HTTP请求的一部分,用于告诉服务器发起请求的客户端类型和属性等信息。同时,也了解了常见的UserAgent。...

HTTP请求头之User-Agent

什么是User-AgentUser-Agent中文名为用户代理,简称UA,...

你想不到的浏览器流氓史!那些奇怪的User-Agent,是这么来的...

平时我们用chrome浏览器做开发测试。Chrome的Useragent字段怎么这么奇怪?...

谷歌宣布 Chrome 将逐步停止支持 User Agent

谷歌近日宣布将放弃对Chrome浏览器中用户代理字符串(User-AgentString)的支持。取而代之的是,Chrome将提供一个名为“客户端提示(ClientHints)”的新API...

数据采集-用户代理(useragent)

UserAgent分类:PC端的UserAgent。移动端UserAgent。使用UserAgent的必要性:在写python网络爬虫程序的时候,经常需要修改UserAgent,有很多原因,罗列几个如...

如何获取当前浏览器的useragent

有时候,我们需要得到浏览器的useragent,从而再进行后面的一系列判断,返回不同的值。网上有说,在浏览器地址栏输入:javascript:alert(navigator.userAgent)这种方...

User Agent 解析:它是什么以及如何修改

什么是UserAgent?UserAgent,简称UA,是一个使服务器能够识别用户使用的浏览器类型、版本以及运行浏览器的操作系统等信息的字符串。它作为浏览器请求头部信息的一部分发送给服务器,以便服务...

取消回复欢迎 发表评论: