Java 类名:com.alibaba.alink.operator.stream.classification.BertTextClassifierPredictStreamOp
Python 类名:BertTextClassifierPredictStreamOp

功能介绍

与 BERT 文本分类训练组件对应的预测组件。

参数说明

| 名称 | 中文名称 | 描述 | 类型 | 是否必须? | 取值范围 | 默认值 | | —- | —- | —- | —- | —- | —- | —- |

| predictionCol | 预测结果列名 | 预测结果列名 | String | ✓ | | |

| inferBatchSize | 推理数据批大小 | 推理数据批大小 | Integer | | | 256 |

| modelFilePath | 模型的文件路径 | 模型的文件路径 | String | | | null |

| predictionDetailCol | 预测详细信息列名 | 预测详细信息列名 | String | | | |

| reservedCols | 算法保留列名 | 算法保留列 | String[] | | | null |

| modelStreamFilePath | 模型流的文件路径 | 模型流的文件路径 | String | | | null |

| modelStreamScanInterval | 扫描模型路径的时间间隔 | 描模型路径的时间间隔,单位秒 | Integer | | | 10 |

| modelStreamStartTime | 模型流的起始时间 | 模型流的起始时间。默认从当前时刻开始读。使用yyyy-mm-dd hh:mm:ss.fffffffff格式,详见Timestamp.valueOf(String s) | String | | | null |

代码示例

以下代码仅用于示意,可能需要修改部分代码或者配置环境后才能正常运行!

Python 代码

  1. # If OOM encountered, uncomment the following line and/or use a smaller parallelism
  2. # get_java_class("System").setProperty("direct.reader.policy", "local_file")
  3. url = "http://alink-test.oss-cn-beijing.aliyuncs.com/jiqi-temp/tf_ut_files/ChnSentiCorp_htl_small.csv"
  4. schemaStr = "label bigint, review string";
  5. data = CsvSourceStreamOp() \
  6. .setFilePath(url) \
  7. .setSchemaStr(schemaStr) \
  8. .setIgnoreFirstLine(True)
  9. model = CsvSourceBatchOp() \
  10. .setFilePath("http://alink-test.oss-cn-beijing.aliyuncs.com/jiqi-temp/tf_ut_files/bert_text_classifier_model.csv") \
  11. .setSchemaStr("model_id bigint, model_info string, label_value bigint")
  12. predict = BertTextClassifierPredictStreamOp(model) \
  13. .setPredictionCol("pred") \
  14. .setPredictionDetailCol("pred_detail") \
  15. .linkFrom(data)
  16. predict.print()
  17. StreamOperator.execute()

Java 代码

  1. import com.alibaba.alink.common.io.directreader.DataBridgeGeneratorPolicy;
  2. import com.alibaba.alink.common.io.directreader.LocalFileDataBridgeGenerator;
  3. import com.alibaba.alink.operator.batch.BatchOperator;
  4. import com.alibaba.alink.operator.batch.source.CsvSourceBatchOp;
  5. import com.alibaba.alink.operator.stream.StreamOperator;
  6. import com.alibaba.alink.operator.stream.classification.BertTextClassifierPredictStreamOp;
  7. import com.alibaba.alink.operator.stream.source.CsvSourceStreamOp;
  8. import org.junit.Test;
  9. public class BertTextClassifierPredictStreamOpTest {
  10. @Test
  11. public void testBertTextClassifierPredictStreamOp() throws Exception {
  12. StreamOperator.setParallelism(2); // a larger parallelism needs much more memory
  13. System.setProperty("direct.reader.policy",
  14. LocalFileDataBridgeGenerator.class.getAnnotation(DataBridgeGeneratorPolicy.class).policy());
  15. String url = "http://alink-test.oss-cn-beijing.aliyuncs.com/jiqi-temp/tf_ut_files/ChnSentiCorp_htl_small.csv";
  16. String schemaStr = "label bigint, review string";
  17. StreamOperator <?> data = new CsvSourceStreamOp()
  18. .setFilePath(url)
  19. .setSchemaStr(schemaStr)
  20. .setIgnoreFirstLine(true);
  21. BatchOperator <?> model = new CsvSourceBatchOp()
  22. .setFilePath("http://alink-test.oss-cn-beijing.aliyuncs.com/jiqi-temp/tf_ut_files/bert_text_classifier_model.csv")
  23. .setSchemaStr("model_id bigint, model_info string, label_value bigint");
  24. BertTextClassifierPredictStreamOp predict = new BertTextClassifierPredictStreamOp(model)
  25. .setPredictionCol("pred")
  26. .setPredictionDetailCol("pred_detail")
  27. .linkFrom(data);
  28. predict.print();
  29. StreamOperator.execute();
  30. }
  31. }

运行结果

| label | review | pred | pred_detail | | —- | —- | —- | —- |

| 1 | 大堂不错,有四星的样子,房间的设施一般,感觉有点旧,卫生间细节不错,各种配套东西都不错,感觉还可以,有机会再去泰山还要入住。 | 1 | {“0”:0.2737430930137634,”1”:0.7262569069862366} |

| 1 | 距离川沙公路较近,但是公交指示不对,如果是”蔡陆线”的话,会非常麻烦.建议用别的路线.房间较为简单. | 1 | {“0”:0.2784302234649658,”1”:0.7215697765350342} |

| 1 | 商务大床房,房间很大,床有2M宽,整体感觉经济实惠不错! | 1 | {“0”:0.274977445602417,”1”:0.725022554397583} |

| 1 | 装修较旧,特别是地毯的材质颜色显得较脏,与四星的评级很不相称,门童很热情,赞一个 | 1 | {“0”:0.26470857858657837,”1”:0.7352914214134216} |

| 1 | 住过好多次这家酒店了,上次来到前台,服务员能准确的报出我的名字,感觉很亲切。四星级就是不一样。而且当天服务员还给我安排了一间商务单间,房间很新,比我订的要好价格没变。说是酒店搞活动,像我们这样的商务客人都有机会享受,不错。 | 1 | {“0”:0.28754961490631104,”1”:0.712450385093689} |

| … | … | … | … |