Java 类名：com.alibaba.alink.operator.batch.dataproc.vector.VectorSizeHintBatchOp
Python 类名：VectorSizeHintBatchOp

功能介绍

取出Vector 的size进行检测，并进行处理。
指定size大小和处理策略（抛异常error和跳过skip），当大小不匹配时，触发处理策略。
支持稀疏向量和稠密向量。如果不设置 OutputCol ，默认替换输入列。

参数说明

名称 中文名称 描述 类型 是否必须？ 取值范围 默认值
selectedCol 选中的列名 计算列对应的列名 String ✓
size 向量大小 用于判断向量的大小是否和设置的一致 Integer ✓
handleInvalidMethod 处理无效值的方法 处理无效值的方法，可取 error, skip String “ERROR”, “SKIP” “ERROR”
outputCol 输出结果列 输出结果列列名，可选，默认null String null
reservedCols 算法保留列名 算法保留列 String[] null
numThreads 组件多线程线程个数 组件多线程线程个数 Integer 1

代码示例

Python 代码

  1. from pyalink.alink import *
  3. import pandas as pd
  5. useLocalEnv(1)
  7. df = pd.DataFrame([
  8.     ["$8$1:3,2:4,4:7"],
  9.     ["$8$2:4,4:5"]
  10. ])
  12. data = BatchOperator.fromDataframe(df, schemaStr="vec string")
  13. VectorSizeHintBatchOp().setSelectedCol("vec").setOutputCol("vec_hint").setHandleInvalidMethod("SKIP").setSize(8).linkFrom(data).collectToDataframe()

Java 代码

  1. import org.apache.flink.types.Row;
  3. import com.alibaba.alink.operator.batch.BatchOperator;
  4. import com.alibaba.alink.operator.batch.dataproc.vector.VectorSizeHintBatchOp;
  5. import com.alibaba.alink.operator.batch.source.MemSourceBatchOp;
  6. import org.junit.Test;
  8. import java.util.Arrays;
  9. import java.util.List;
  11. public class VectorSizeHintBatchOpTest {
  12.     @Test
  13.     public void testVectorSizeHintBatchOp() throws Exception {
  14.         List <Row> df = Arrays.asList(
  15.             Row.of("$8$1:3,2:4,4:7"),
  16.             Row.of("$8$2:4,4:5")
  17.         );
  18.         BatchOperator <?> data = new MemSourceBatchOp(df, "vec string");
  19.         new VectorSizeHintBatchOp().setSelectedCol("vec").setOutputCol("vec_hint").setHandleInvalidMethod("SKIP")
  20.             .setSize(8).linkFrom(data).print();
  21.     }
  22. }

运行结果

| vec | vec_hint | | —- | —- |

| $8$1:3,2:4,4:7 | $8$1:3.0 2:4.0 4:7.0 |

| $8$2:4,4:5 | $8$2:4.0 4:5.0 |