用MySQL實(shí)現(xiàn)分布式鎖,你聽過(guò)嗎?
概述
以前參加過(guò)一個(gè)庫(kù)存系統(tǒng),由于其業(yè)務(wù)復(fù)雜性,搞了很多個(gè)應(yīng)用來(lái)支撐。這樣的話一份庫(kù)存數(shù)據(jù)就有可能同時(shí)有多個(gè)應(yīng)用來(lái)修改庫(kù)存數(shù)據(jù)。
比如說(shuō),有定時(shí)任務(wù)域xx.cron,和SystemA域和SystemB域這幾個(gè)JAVA應(yīng)用,可能同時(shí)修改同一份庫(kù)存數(shù)據(jù)。如果不做協(xié)調(diào)的話,就會(huì)有臟數(shù)據(jù)出現(xiàn)。
對(duì)于跨JAVA進(jìn)程的線程協(xié)調(diào),可以借助外部環(huán)境,例如DB或者Redis。下文介紹一下如何使用DB來(lái)實(shí)現(xiàn)分布式鎖。
設(shè)計(jì)
本文設(shè)計(jì)的分布式鎖的交互方式如下:
- 根據(jù)業(yè)務(wù)字段生成transaction_id,并線程安全的創(chuàng)建鎖資源
- 根據(jù)transaction_id申請(qǐng)鎖
- 釋放鎖
動(dòng)態(tài)創(chuàng)建鎖資源
在使用synchronized關(guān)鍵字的時(shí)候,必須指定一個(gè)鎖對(duì)象。
- synchronized(obj) {
- }
進(jìn)程內(nèi)的線程可以基于obj來(lái)實(shí)現(xiàn)同步。obj在這里可以理解為一個(gè)鎖對(duì)象。如果線程要進(jìn)入synchronized代碼塊里,必須先持有obj對(duì)象上的鎖。這種鎖是JAVA里面的內(nèi)置鎖,創(chuàng)建的過(guò)程是線程安全的。那么借助DB,如何保證創(chuàng)建鎖的過(guò)程是線程安全的呢?
可以利用DB中的UNIQUE KEY特性,一旦出現(xiàn)了重復(fù)的key,由于UNIQUE KEY的唯一性,會(huì)拋出異常的。在JAVA里面,是SQLIntegrityConstraintViolationException異常。
- create table distributed_lock
- (
- id BIGINT UNSIGNED PRIMARY KEY AUTO_INCREMENT COMMENT '自增主鍵',
- transaction_id varchar(128) NOT NULL DEFAULT '' COMMENT '事務(wù)id',
- last_update_time TIMESTAMP DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP NOT NULL COMMENT '最后更新時(shí)間',
- create_time TIMESTAMP DEFAULT '0000-00-00 00:00:00' NOT NULL COMMENT '創(chuàng)建時(shí)間',
- UNIQUE KEY `idx_transaction_id` (`transaction_id`)
- )
transaction_id是事務(wù)Id,比如說(shuō),可以用
倉(cāng)庫(kù) + 條碼 + 銷售模式
來(lái)組裝一個(gè)transaction_id,表示某倉(cāng)庫(kù)某銷售模式下的某個(gè)條碼資源。不同條碼,當(dāng)然就有不同的transaction_id。如果有兩個(gè)應(yīng)用,拿著相同的transaction_id來(lái)創(chuàng)建鎖資源的時(shí)候,只能有一個(gè)應(yīng)用創(chuàng)建成功。
一條distributed_lock記錄插入成功了,就表示一份鎖資源創(chuàng)建成功了。
DB連接池列表設(shè)計(jì)
在寫操作頻繁的業(yè)務(wù)系統(tǒng)中,通常會(huì)進(jìn)行分庫(kù),以降低單數(shù)據(jù)庫(kù)寫入的壓力,并提高寫操作的吞吐量。如果使用了分庫(kù),那么業(yè)務(wù)數(shù)據(jù)自然也都分配到各個(gè)數(shù)據(jù)庫(kù)上了。
在這種水平切分的多數(shù)據(jù)庫(kù)上使用DB分布式鎖,可以自定義一個(gè)DataSouce列表。并暴露一個(gè)getConnection(String transactionId)方法,按照transactionId找到對(duì)應(yīng)的Connection。
實(shí)現(xiàn)代碼如下:
- package dlock;
- import com.alibaba.druid.pool.DruidDataSource;
- import org.springframework.stereotype.Component;
- import javax.annotation.PostConstruct;
- import java.io.FileInputStream;
- import java.io.IOException;
- import java.sql.Connection;
- import java.util.ArrayList;
- import java.util.List;
- import java.util.Properties;
- @Component
- public class DataSourcePool {
- private List<DruidDataSource> dlockDataSources = new ArrayList<>();
- @PostConstruct
- private void initDataSourceList() throws IOException {
- Properties properties = new Properties();
- FileInputStream fis = new FileInputStream("db.properties");
- properties.load(fis);
- Integer lockNum = Integer.valueOf(properties.getProperty("DLOCK_NUM"));
- for (int i = 0; i < lockNum; i++) {
- String user = properties.getProperty("DLOCK_USER_" + i);
- String password = properties.getProperty("DLOCK_PASS_" + i);
- Integer initSize = Integer.valueOf(properties.getProperty("DLOCK_INIT_SIZE_" + i));
- Integer maxSize = Integer.valueOf(properties.getProperty("DLOCK_MAX_SIZE_" + i));
- String url = properties.getProperty("DLOCK_URL_" + i);
- DruidDataSource dataSource = createDataSource(user,password,initSize,maxSize,url);
- dlockDataSources.add(dataSource);
- }
- }
- private DruidDataSource createDataSource(String user, String password, Integer initSize, Integer maxSize, String url) {
- DruidDataSource dataSource = new DruidDataSource();
- dataSource.setDriverClassName("com.mysql.jdbc.Driver");
- dataSource.setUsername(user);
- dataSource.setPassword(password);
- dataSource.setUrl(url);
- dataSource.setInitialSize(initSize);
- dataSource.setMaxActive(maxSize);
- return dataSource;
- }
- public Connection getConnection(String transactionId) throws Exception {
- if (dlockDataSources.size() <= 0) {
- return null;
- }
- if (transactionId == null || "".equals(transactionId)) {
- throw new RuntimeException("transactionId是必須的");
- }
- int hascode = transactionId.hashCode();
- if (hascode < 0) {
- hascode = - hascode;
- }
- return dlockDataSources.get(hascode % dlockDataSources.size()).getConnection();
- }
- }
首先編寫一個(gè)initDataSourceList方法,并利用Spring的PostConstruct注解初始化一個(gè)DataSource 列表。相關(guān)的DB配置從db.properties讀取。
- DLOCK_NUM=2
- DLOCK_USER_0="user1"
- DLOCK_PASS_0="pass1"
- DLOCK_INIT_SIZE_0=2
- DLOCK_MAX_SIZE_0=10
- DLOCK_URL_0="jdbc:mysql://localhost:3306/test1"
- DLOCK_USER_1="user1"
- DLOCK_PASS_1="pass1"
- DLOCK_INIT_SIZE_1=2
- DLOCK_MAX_SIZE_1=10
- DLOCK_URL_1="jdbc:mysql://localhost:3306/test2"
DataSource使用阿里的DruidDataSource。
接著最重要的一個(gè)實(shí)現(xiàn)getConnection(String transactionId)方法。實(shí)現(xiàn)原理很簡(jiǎn)單,獲取transactionId的hashcode,并對(duì)DataSource的長(zhǎng)度取模即可。
連接池列表設(shè)計(jì)好后,就可以實(shí)現(xiàn)往distributed_lock表插入數(shù)據(jù)了。
- package dlock;
- import org.springframework.beans.factory.annotation.Autowired;
- import org.springframework.stereotype.Component;
- import java.sql.*;
- @Component
- public class DistributedLock {
- @Autowired
- private DataSourcePool dataSourcePool;
- /**
- * 根據(jù)transactionId創(chuàng)建鎖資源
- */
- public String createLock(String transactionId) throws Exception{
- if (transactionId == null) {
- throw new RuntimeException("transactionId是必須的");
- }
- Connection connection = null;
- Statement statement = null;
- try {
- connection = dataSourcePool.getConnection(transactionId);
- connection.setAutoCommit(false);
- statement = connection.createStatement();
- statement.executeUpdate("INSERT INTO distributed_lock(transaction_id) VALUES ('" + transactionId + "')");
- connection.commit();
- return transactionId;
- }
- catch (SQLIntegrityConstraintViolationException icv) {
- //說(shuō)明已經(jīng)生成過(guò)了。
- if (connection != null) {
- connection.rollback();
- }
- return transactionId;
- }
- catch (Exception e) {
- if (connection != null) {
- connection.rollback();
- }
- throw e;
- }
- finally {
- if (statement != null) {
- statement.close();
- }
- if (connection != null) {
- connection.close();
- }
- }
- }
- }
根據(jù)transactionId鎖住線程
接下來(lái)利用DB的select for update特性來(lái)鎖住線程。當(dāng)多個(gè)線程根據(jù)相同的transactionId并發(fā)同時(shí)操作select for update的時(shí)候,只有一個(gè)線程能成功,其他線程都block住,直到select for update成功的線程使用commit操作后,block住的所有線程的其中一個(gè)線程才能開始干活。
我們?cè)谏厦娴腄istributedLock類中創(chuàng)建一個(gè)lock方法。
- public boolean lock(String transactionId) throws Exception {
- Connection connection = null;
- PreparedStatement preparedStatement = null;
- ResultSet resultSet = null;
- try {
- connection = dataSourcePool.getConnection(transactionId);
- preparedStatement = connection.prepareStatement("SELECT * FROM distributed_lock WHERE transaction_id = ? FOR UPDATE ");
- preparedStatement.setString(1,transactionId);
- resultSet = preparedStatement.executeQuery();
- if (!resultSet.next()) {
- connection.rollback();
- return false;
- }
- return true;
- } catch (Exception e) {
- if (connection != null) {
- connection.rollback();
- }
- throw e;
- }
- finally {
- if (preparedStatement != null) {
- preparedStatement.close();
- }
- if (resultSet != null) {
- resultSet.close();
- }
- if (connection != null) {
- connection.close();
- }
- }
- }
實(shí)現(xiàn)解鎖操作
當(dāng)線程執(zhí)行完任務(wù)后,必須手動(dòng)的執(zhí)行解鎖操作,之前被鎖住的線程才能繼續(xù)干活。在我們上面的實(shí)現(xiàn)中,其實(shí)就是獲取到當(dāng)時(shí)select for update成功的線程對(duì)應(yīng)的Connection,并實(shí)行commit操作即可。
那么如何獲取到呢?我們可以利用ThreadLocal。首先在DistributedLock類中定義
- private ThreadLocal threadLocalConn = new ThreadLocal<>();
每次調(diào)用lock方法的時(shí)候,把Connection放置到ThreadLocal里面。我們修改lock方法。
- public boolean lock(String transactionId) throws Exception {
- Connection connection = null;
- PreparedStatement preparedStatement = null;
- ResultSet resultSet = null;
- try {
- connection = dataSourcePool.getConnection(transactionId);
- threadLocalConn.set(connection);
- preparedStatement = connection.prepareStatement("SELECT * FROM distributed_lock WHERE transaction_id = ? FOR UPDATE ");
- preparedStatement.setString(1,transactionId);
- resultSet = preparedStatement.executeQuery();
- if (!resultSet.next()) {
- connection.rollback();
- threadLocalConn.remove();
- return false;
- }
- return true;
- } catch (Exception e) {
- if (connection != null) {
- connection.rollback();
- threadLocalConn.remove();
- }
- throw e;
- }
- finally {
- if (preparedStatement != null) {
- preparedStatement.close();
- }
- if (resultSet != null) {
- resultSet.close();
- }
- if (connection != null) {
- connection.close();
- }
- }
- }
這樣子,當(dāng)獲取到Connection后,將其設(shè)置到ThreadLocal中,如果lock方法出現(xiàn)異常,則將其從ThreadLocal中移除掉。
有了這幾步后,我們可以來(lái)實(shí)現(xiàn)解鎖操作了。我們?cè)贒istributedLock添加一個(gè)unlock方法。
- public void unlock() throws Exception {
- Connection connection = null;
- try {
- connection = threadLocalConn.get();
- if (!connection.isClosed()) {
- connection.commit();
- connection.close();
- threadLocalConn.remove();
- }
- } catch (Exception e) {
- if (connection != null) {
- connection.rollback();
- connection.close();
- }
- threadLocalConn.remove();
- throw e;
- }
- }
缺點(diǎn)
畢竟是利用DB來(lái)實(shí)現(xiàn)分布式鎖,對(duì)DB還是造成一定的壓力。當(dāng)時(shí)考慮使用DB做分布式的一個(gè)重要原因是,我們的應(yīng)用是后端應(yīng)用,平時(shí)流量不大的,反而關(guān)鍵的是要保證庫(kù)存數(shù)據(jù)的正確性。對(duì)于像前端庫(kù)存系統(tǒng),比如添加購(gòu)物車占用庫(kù)存等操作,最好別使用DB來(lái)實(shí)現(xiàn)分布式鎖了。
進(jìn)一步思考
如果想鎖住多份數(shù)據(jù)該怎么實(shí)現(xiàn)?比如說(shuō),某個(gè)庫(kù)存操作,既要修改物理庫(kù)存,又要修改虛擬庫(kù)存,想鎖住物理庫(kù)存的同時(shí),又鎖住虛擬庫(kù)存。其實(shí)也不是很難,參考lock方法,寫一個(gè)multiLock方法,提供多個(gè)transactionId的入?yún)?,for循環(huán)處理就可以了。這個(gè)后續(xù)有時(shí)間再補(bǔ)上。