Java 类名：com.alibaba.alink.pipeline.dataproc.MultiStringIndexer
Python 类名：MultiStringIndexer

功能介绍

MultiStringIndexer训练组件的作用是训练一个模型用于将多列字符串映射为整数。

参数说明

名称 中文名称 描述 类型 是否必须？ 取值范围 默认值
selectedCols 选择的列名 计算列对应的列名列表 String[] ✓
handleInvalid 未知token处理策略 未知token处理策略。”keep”表示用最大id加1代替, “skip”表示补null， “error”表示抛异常 String “KEEP”, “ERROR”, “SKIP” “KEEP”
modelFilePath 模型的文件路径 模型的文件路径 String null
outputCols 输出结果列列名数组 输出结果列列名数组，可选，默认null String[] null
overwriteSink 是否覆写已有数据 是否覆写已有数据 Boolean false
reservedCols 算法保留列名 算法保留列 String[] null
stringOrderType Token排序方法 Token排序方法 String “RANDOM”, “FREQUENCY_ASC”, “FREQUENCY_DESC”, “ALPHABET_ASC”, “ALPHABET_DESC” “RANDOM”
numThreads 组件多线程线程个数 组件多线程线程个数 Integer 1
modelStreamFilePath 模型流的文件路径 模型流的文件路径 String null
modelStreamScanInterval 扫描模型路径的时间间隔 描模型路径的时间间隔，单位秒 Integer 10
modelStreamStartTime 模型流的起始时间 模型流的起始时间。默认从当前时刻开始读。使用yyyy-mm-dd hh:mm:ss.fffffffff格式，详见Timestamp.valueOf(String s) String null

代码示例

Python 代码

  1. from pyalink.alink import *
  3. import pandas as pd
  5. useLocalEnv(1)
  7. df_data = pd.DataFrame([
  8.     ["football"],
  9.     ["football"],
  10.     ["football"],
  11.     ["basketball"],
  12.     ["basketball"],
  13.     ["tennis"],
  14. ])
  16. data = BatchOperator.fromDataframe(df_data, schemaStr='f0 string')
  18. stringindexer = MultiStringIndexer() \
  19.     .setSelectedCols(["f0"]) \
  20.     .setOutputCols(["f0_indexed"]) \
  21.     .setStringOrderType("frequency_asc")
  23. stringindexer.fit(data).transform(data).print()

Java 代码

  1. import org.apache.flink.types.Row;
  3. import com.alibaba.alink.operator.batch.BatchOperator;
  4. import com.alibaba.alink.operator.batch.source.MemSourceBatchOp;
  5. import com.alibaba.alink.pipeline.dataproc.MultiStringIndexer;
  6. import org.junit.Test;
  8. import java.util.Arrays;
  9. import java.util.List;
  11. public class MultiStringIndexerTest {
  12.     @Test
  13.     public void testMultiStringIndexer() throws Exception {
  14.         List <Row> df_data = Arrays.asList(
  15.             Row.of("football"),
  16.             Row.of("football"),
  17.             Row.of("football"),
  18.             Row.of("basketball"),
  19.             Row.of("basketball"),
  20.             Row.of("tennis")
  21.         );
  22.         BatchOperator <?> data = new MemSourceBatchOp(df_data, "f0 string");
  23.         MultiStringIndexer stringindexer = new MultiStringIndexer()
  24.             .setSelectedCols("f0")
  25.             .setOutputCols("f0_indexed")
  26.             .setStringOrderType("frequency_asc");
  27.         stringindexer.fit(data).transform(data).print();
  28.     }
  29. }

运行结果

| f0 | f0_indexed | | —- | —- |

| football | 2 |

| football | 2 |

| football | 2 |

| basketball | 1 |

| basketball | 1 |

| tennis | 0 |