一、准备业务数据
将shop.sql 导入到mysql中
:::color2 1、shop 数据库是业务数据库,支持公司的电商系统的正常运转
2、shop_bi 是分析数据库,主要用于分析各项指标。
将指标的分析结果也存入这个数据库中。
分开的好处是:减少业务数据库的压力。
:::
二、使用kettle 实现ETL
其实工作就是将 shop数据库中的数据导入到 shop_bi 中。
1、完成行政区域表areas的导入
表输入:
数据要共享:
2、完成商品分类【goods_cats】的导入
步骤跟第一个areas的导入一摸一样。
3、每隔一周执行一次脚本
4、订单orders每日数据抽取
除了订单表,orders_goods、users、goods这些表都是每天抽取一次。
以订单表为例,说明导入的方式。
转换类型任务,怎么传递参数:
sql:
SELECT *,str_to_date('${dt}','%Y-%m-%d') as dt
FROM orders
WHERE substr(createTime,1,10)= '${dt}'