添加HBase数据 (LookupHBaseStreamOp)

Java 类名:com.alibaba.alink.operator.stream.dataproc.LookupHBaseStreamOp

Python 类名:LookupHBaseStreamOp

功能介绍

LookupHBaseStreamOp ,将HBase中的数据取出。
读HBase Plugin版。plugin版本为1.2.12。
读数据时,指定HBase的zookeeper地址,表名称,列簇名称。指定rowkey列(可以是多列)和要读取的数据列和格式(可以写多列)。
在使用时,需要先下载插件,详情请看https://www.yuque.com/pinshu/alink_guide/czg4cx

参数说明

名称 中文名称 描述 类型 是否必须? 取值范围 默认值
familyName 簇值 簇值 String
outputSchemaStr Schema Schema。格式为”colname coltype[, colname2, coltype2[, …]]”,例如”f0 string, f1 bigint, f2 double” String
pluginVersion 插件版本号 插件版本号 String
rowKeyCols rowkey所在列 rowkey所在列 String[]
tableName HBase表名称 HBase表名称 String
zookeeperQuorum Not available! Not available! String
reservedCols 算法保留列名 算法保留列 String[] null
timeout Not available! Not available! Integer 1000

代码示例

以下代码仅用于示意,可能需要修改部分代码或者配置环境后才能正常运行!

Python 代码

  1. df = pd.DataFrame([
  2. ["1"],
  3. ["2"]
  4. ])
  5. data = StreamOperator.fromDataframe(df, schemaStr='userid string')
  6. lookupHBaseStreamOp = LookupHBaseStreamOp()\
  7. .setZookeeperQuorum("localhost:2181")\
  8. .setTableName("user")\
  9. .setRowKeyCols("userid")\
  10. .setFamilyName("color")\
  11. .setPluginVersion("1.2.12")\
  12. .setOutputSchemaStr("red long,black double,green int")
  13. lookupHBaseStreamOp.linkFrom(data).print()
  14. StreamOperator.execute()

Java 代码

  1. import org.apache.flink.types.Row;
  2. import com.alibaba.alink.operator.stream.StreamOperator;
  3. import com.alibaba.alink.operator.stream.dataproc.LookupHBaseStreamOp;
  4. import com.alibaba.alink.operator.stream.source.MemSourceStreamOp;
  5. import com.alibaba.alink.testutil.AlinkTestBase;
  6. import org.junit.Test;
  7. import java.util.Arrays;
  8. import java.util.List;
  9. public class HBaseTest {
  10. @Test
  11. public void testReadStream() throws Exception {
  12. List <Row> datas = Arrays.asList(
  13. Row.of("1"),
  14. Row.of("2")
  15. );
  16. StreamOperator op = new MemSourceStreamOp(datas, "userid string");
  17. LookupHBaseStreamOp lookupHBaseStreamOp = new LookupHBaseStreamOp()
  18. .setZookeeperQuorum("localhost:2181")
  19. .setTableName("user")
  20. .setRowKeyCols("userid")
  21. .setFamilyName("color")
  22. .setPluginVersion("1.2.12")
  23. .setOutputSchemaStr("red long,black double,green int");
  24. lookupHBaseStreamOp.linkFrom(op).print();
  25. StreamOperator.execute();
  26. }
  27. }