前言
首先思考一个问题: 在高并发的场景中, 对于数据库都有哪些优化的伎俩?罕用的有以下的实现办法: 读写拆散、加缓存、主从架构集群、分库分表等,在互联网利用中, 大部分都是读多写少的场景, 设置两个库, 主库和读库。
主库的职能是负责写, 从库次要是负责读, 能够建设读库集群, 通过读写职能在数据源上的隔离达到缩小读写抵触、释压数据库负载、爱护数据库的目标。在理论的应用中, 但凡波及到写的局部间接切换到主库,读的局部间接切换到读库,这就是典型的读写拆散技术。本篇博文将聚焦读写拆散, 探讨如何实现它。
目录
- 一: 主从数据源的配置
- 二: 数据源路由的配置
- 三:数据源上下文环境
- 四:切换注解和 Aop 配置
- 五:用法以及测试
- 六:总结
主从同步的局限性:这里分为主数据库和从数据库, 主数据库和从数据库放弃数据库构造的统一, 主库负责写, 当写入数据的时候, 会主动同步数据到从数据库;从数据库负责读, 当读申请来的时候, 间接从读库读取数据, 主数据库会主动进行数据复制到从数据库中。不过本篇博客不介绍这部分配置的常识, 因为它更偏运维工作一点。
这里波及到一个问题: 主从复制的提早问题, 当写入到主数据库的过程中, 忽然来了一个读申请, 而此时数据还没有齐全同步, 就会呈现读申请的数据读不到或者读出的数据比原始值少的状况。具体的解决办法最简略的就是将读申请临时指向主库, 然而同时也失去了主从拆散的局部意义。也就是说在严格意义上的数据一致性场景中, 读写拆散并非是齐全适宜的, 留神更新的时效性是读写拆散应用的毛病。
好了, 这部分只是理解, 接下来咱们看下具体如何通过 java 代码来实现读写拆散:
该我的项目须要引入如下依赖:springBoot、spring-aop、spring-jdbc、aspectjweaver 等
一: 主从数据源的配置
咱们须要配置主从数据库, 主从数据库的配置个别都是写在配置文件外面。通过 @ConfigurationProperties 注解, 能够将配置文件 (个别命名为:application.Properties) 里的属性映射到具体的类属性上, 从而读取到写入的值注入到具体的代码配置中, 依照习惯大于约定的准则, 主库咱们都是注为 master, 从库注为 slave。
本我的项目采纳了阿里的 druid 数据库连接池, 应用 build 建造者模式创立 DataSource 对象,DataSource 就是代码层面形象进去的数据源, 接着须要配置 sessionFactory、sqlTemplate、事务管理器等
/**
* 主从配置
*
* @author wyq
*/
@Configuration
@MapperScan(basePackages = "com.wyq.mysqlreadwriteseparate.mapper", sqlSessionTemplateRef = "sqlTemplate")
public class DataSourceConfig {
/**
* 主库
*/
@Bean
@ConfigurationProperties(prefix = "spring.datasource.master")
public DataSource master() {return DruidDataSourceBuilder.create().build();}
/**
* 从库
*/
@Bean
@ConfigurationProperties(prefix = "spring.datasource.slave")
public DataSource slaver() {return DruidDataSourceBuilder.create().build();}
/**
* 实例化数据源路由
*/
@Bean
public DataSourceRouter dynamicDB(@Qualifier("master") DataSource masterDataSource,
@Autowired(required = false) @Qualifier("slaver") DataSource slaveDataSource) {DataSourceRouter dynamicDataSource = new DataSourceRouter();
Map<Object, Object> targetDataSources = new HashMap<>();
targetDataSources.put(DataSourceEnum.MASTER.getDataSourceName(), masterDataSource);
if (slaveDataSource != null) {targetDataSources.put(DataSourceEnum.SLAVE.getDataSourceName(), slaveDataSource);
}
dynamicDataSource.setTargetDataSources(targetDataSources);
dynamicDataSource.setDefaultTargetDataSource(masterDataSource);
return dynamicDataSource;
}
/**
* 配置 sessionFactory
* @param dynamicDataSource
* @return
* @throws Exception
*/
@Bean
public SqlSessionFactory sessionFactory(@Qualifier("dynamicDB") DataSource dynamicDataSource) throws Exception {SqlSessionFactoryBean bean = new SqlSessionFactoryBean();
bean.setMapperLocations(new PathMatchingResourcePatternResolver().getResources("classpath*:mapper/*Mapper.xml"));
bean.setDataSource(dynamicDataSource);
return bean.getObject();}
/**
* 创立 sqlTemplate
* @param sqlSessionFactory
* @return
*/
@Bean
public SqlSessionTemplate sqlTemplate(@Qualifier("sessionFactory") SqlSessionFactory sqlSessionFactory) {return new SqlSessionTemplate(sqlSessionFactory);
}
/**
* 事务配置
*
* @param dynamicDataSource
* @return
*/
@Bean(name = "dataSourceTx")
public DataSourceTransactionManager dataSourceTransactionManager(@Qualifier("dynamicDB") DataSource dynamicDataSource) {DataSourceTransactionManager dataSourceTransactionManager = new DataSourceTransactionManager();
dataSourceTransactionManager.setDataSource(dynamicDataSource);
return dataSourceTransactionManager;
}
}
二: 数据源路由的配置
路由在主从拆散是十分重要的, 根本是读写切换的外围。Spring 提供了 AbstractRoutingDataSource 依据用户定义的规定抉择以后的数据源,作用就是在执行查问之前,设置应用的数据源, 实现动静路由的数据源,在每次数据库查问操作前执行它的形象办法 determineCurrentLookupKey() 决定应用哪个数据源。
为了能有一个全局的数据源管理器, 此时咱们须要引入 DataSourceContextHolder 这个数据库上下文管理器, 能够了解为全局的变量, 随时可取(见上面具体介绍), 它的次要作用就是保留以后的数据源;
public class DataSourceRouter extends AbstractRoutingDataSource {
/**
* 最终的 determineCurrentLookupKey 返回的是从 DataSourceContextHolder 中拿到的, 因而在动静切换数据源的时候注解
* 应该给 DataSourceContextHolder 设值
*
* @return
*/
@Override
protected Object determineCurrentLookupKey() {return DataSourceContextHolder.get();
}
}
三:数据源上下文环境
数据源上下文保留器, 便于程序中能够随时取到以后的数据源, 它次要利用 ThreadLocal 封装, 因为 ThreadLocal 是线程隔离的, 人造具备线程平安的劣势。这里裸露了 set 和 get、clear 办法,set 办法用于赋值以后的数据源名,get 办法用于获取以后的数据源名称,clear 办法用于革除 ThreadLocal 中的内容, 因为 ThreadLocal 的 key 是 weakReference 是有内存透露危险的, 通过 remove 办法避免内存透露;
/**
* 利用 ThreadLocal 封装的保留数据源上线的上下文 context
*/
public class DataSourceContextHolder {private static final ThreadLocal<String> context = new ThreadLocal<>();
/**
* 赋值
*
* @param datasourceType
*/
public static void set(String datasourceType) {context.set(datasourceType);
}
/**
* 获取值
* @return
*/
public static String get() {return context.get();
}
public static void clear() {context.remove();
}
}
四:切换注解和 Aop 配置
首先咱们来定义一个 @DataSourceSwitcher 注解, 领有两个属性 ① 以后的数据源 ② 是否革除以后的数据源, 并且只能放在办法上,(不能够放在类上, 也没必要放在类上, 因为咱们在进行数据源切换的时候必定是办法操作), 该注解的次要作用就是进行数据源的切换, 在 dao 层进行操作数据库的时候, 能够在办法上注明示意的是以后应用哪个数据源;
@DataSourceSwitcher 注解的定义:
@Retention(RetentionPolicy.RUNTIME)
@Target(ElementType.METHOD)
@Documented
public @interface DataSourceSwitcher {
/**
* 默认数据源
* @return
*/
DataSourceEnum value() default DataSourceEnum.MASTER;
/**
* 革除
* @return
*/
boolean clear() default true;}
DataSourceAop 配置
为了赋予 @DataSourceSwitcher 注解可能切换数据源的能力, 咱们须要应用 AOP, 而后应用 @Aroud 注解找到办法上有 @DataSourceSwitcher.class 的办法, 而后取注解上配置的数据源的值, 设置到 DataSourceContextHolder 中, 就实现了将以后办法上配置的数据源注入到全局作用域当中;
@Slf4j
@Aspect
@Order(value = 1)
@Component
public class DataSourceContextAop {@Around("@annotation(com.wyq.mysqlreadwriteseparate.annotation.DataSourceSwitcher)")
public Object setDynamicDataSource(ProceedingJoinPoint pjp) throws Throwable {
boolean clear = false;
try {Method method = this.getMethod(pjp);
DataSourceSwitcher dataSourceSwitcher = method.getAnnotation(DataSourceSwitcher.class);
clear = dataSourceSwitcher.clear();
DataSourceContextHolder.set(dataSourceSwitcher.value().getDataSourceName());
log.info("数据源切换至:{}", dataSourceSwitcher.value().getDataSourceName());
return pjp.proceed();} finally {if (clear) {DataSourceContextHolder.clear();
}
}
}
private Method getMethod(JoinPoint pjp) {MethodSignature signature = (MethodSignature) pjp.getSignature();
return signature.getMethod();}
}
五:用法以及测试
在配置好了读写拆散之后, 就能够在代码中应用了, 一般而言咱们应用在 service 层或者 dao 层, 在须要查问的办法上增加 @DataSourceSwitcher(DataSourceEnum.SLAVE), 它示意该办法下所有的操作都走的是读库; 在须要 update 或者 insert 的时候应用 @DataSourceSwitcher(DataSourceEnum.MASTER)示意接下来将会走写库。
其实还有一种更为主动的写法, 能够依据办法的前缀来配置 AOP 主动切换数据源, 比方 update、insert、fresh 等前缀的办法名一律主动设置为写库,select、get、query 等前缀的办法名一律配置为读库, 这是一种更为主动的配置写法。毛病就是办法名须要依照 aop 配置的严格来定义, 否则就会生效
@Service
public class OrderService {
@Resource
private OrderMapper orderMapper;
/**
* 读操作
*
* @param orderId
* @return
*/
@DataSourceSwitcher(DataSourceEnum.SLAVE)
public List<Order> getOrder(String orderId) {return orderMapper.listOrders(orderId);
}
/**
* 写操作
*
* @param orderId
* @return
*/
@DataSourceSwitcher(DataSourceEnum.MASTER)
public List<Order> insertOrder(Long orderId) {Order order = new Order();
order.setOrderId(orderId);
return orderMapper.saveOrder(order);
}
}
六:总结
下面是根本流程简图, 本篇博客介绍了如何实现数据库读写拆散, 留神读写拆散的外围点就是数据路由, 须要继承 AbstractRoutingDataSource, 复写它的 determineCurrentLookupKey 办法, 同时须要留神全局的上下文管理器 DataSourceContextHolder, 它是保留数据源上下文的次要类, 也是路由办法中寻找的数据源取值, 相当于数据源的中转站. 再联合 jdbc-Template 的底层去创立和治理数据源、事务等,咱们的数据库读写拆散就完满实现了。