split()函数

是用于切分数据,也就是将一串字符串切割成了一个数组,标准格式为split(str,regex),支持正则切分不过有点奇怪的是,对于 “.”,”|“ 这样的特殊字符,不加”\“的时候是特殊字符,加了以后才是普通字符,而对于”\d”的字符,需要加”\“后才是特殊字符,就是是说”\d”才是匹配数字。
假设我有一张表(demo)如下:
split()、explode()、lateral row区别 - 图1
用split()函数对name字段切分

  1. select split(name,',') as name,age from demo;

结果如下,返回值是一个array数组
split()、explode()、lateral row区别 - 图2

explode()函数

用于打散行的函数(将一行的数据拆分成多行,它的参数必须为map或array)。这个函数常和split()并用
如下

select 
  explode(split(name,',')) as name 
from 
  demo;

上述sql代码表示将name字段按 “,” 分割,再按得到的数组利用explode打散成多行
split()、explode()、lateral row区别 - 图3
上面这各视图我们只能看到name列,如果我写成

select 
  explode(split(name,',')) as name,
  age
from 
  demo;

是不是就可以得到name,age两列了呢。
事实是hive不支持这样的操作,会报错
split()、explode()、lateral row区别 - 图4
一个select后面只能获得一个explode产生的视图,如果要显示多个列,则需要将多个视图合并。

lateral view

就是做这样的事的
如下(将name列打散,age列不打散)

select 
  rename,
  age 
from 
  demo 
  lateral view explode(split(name,',')) temp as rename;
-- 命名成rename这样这句话好理解一点,不会和原来的name列搞混

结果如下
split()、explode()、lateral row区别 - 图5
如果将name,age同时打散合并

select 
  name,
  age 
from 
  demo 
  lateral view explode(split(name,',')) temp as name
  lateral view explode(split(age,',')) temp as age;

结果如下
split()、explode()、lateral row区别 - 图6
我们可以看见,这时候两个later view合并实际上是做了一个全连接。如果要一一对应可能只能自己写函数了。


lateral view通常和split,explode等udtf配合来使用,能够把一行数据拆分为多行数据。在此基础上可以对拆分后的数据进行聚合。
这里需要分别对latera view 和explode进行拆分讲解。
explode()
作用:是将一行数据转成列数据,用于array和map类型的数据。
局限性:不能关联原有的表中的其他字段,不能和udtf嵌套使用
lateral view
作用:为原始表的每行调用udtf,udtf会把一行数据拆分为多行,lateral view再把结果组合,产生一个支持别名的虚拟表,这样就解决了explode不能关联原有表其他字段的问题