Java 类名：com.alibaba.alink.operator.stream.classification.GbdtPredictStreamOp
Python 类名：GbdtPredictStreamOp

功能介绍

梯度提升决策树(Gradient Boosting Decision Trees)二分类，是经典的基于梯度提升的有监督学习模型，可以用来解决二分类问题

算法原理

梯度提升决策树模型构建了一个由多棵决策树组成的组合模型。每一棵决策树对应一个弱学习器，将这些弱学习器组合在一起，可以达到比较好的分类或回归效果。
梯度提升的基本递推结构为： 其中 通常为一棵 CART[2] 决策树， 为在这棵决策树下的分割变量， 为在 约束下的步长，通过这个递推结构即可得出最终模型。

算法使用

对于一些常见的二分类问题，都可以使用这个算法解决，模型拥有较好的性能，且拥有不错的可解释性，在实际场景中，应用较为广泛。

  • 支持连续特征和离散特征
  • 支持数据采样和特征采样
  • 目标分类必须为两个

    文献或出处

  1. Friedman J H. Greedy function approximation: a gradient boosting machine[J]. Annals of statistics, 2001: 1189-1232.
  2. Breiman, L., Friedman, J. H., Olshen, R. and Stone, C. (1983). Classification and Regression
    Trees. Wadsworth, Belmont, CA.
  3. weka
  4. xgboost
  5. lightgbm

    参数说明

    | 名称 | 中文名称 | 描述 | 类型 | 是否必须？ | 取值范围 | 默认值 | | —- | —- | —- | —- | —- | —- | —- |

| predictionCol | 预测结果列名 | 预测结果列名 | String | ✓ | | |

| modelFilePath | 模型的文件路径 | 模型的文件路径 | String | | | null |

| predictionDetailCol | 预测详细信息列名 | 预测详细信息列名 | String | | | |

| reservedCols | 算法保留列名 | 算法保留列 | String[] | | | null |

| vectorCol | 向量列名 | 向量列对应的列名，默认值是null | String | | | null |

| numThreads | 组件多线程线程个数 | 组件多线程线程个数 | Integer | | | 1 |

| modelStreamFilePath | 模型流的文件路径 | 模型流的文件路径 | String | | | null |

| modelStreamScanInterval | 扫描模型路径的时间间隔 | 描模型路径的时间间隔，单位秒 | Integer | | | 10 |

| modelStreamStartTime | 模型流的起始时间 | 模型流的起始时间。默认从当前时刻开始读。使用yyyy-mm-dd hh:mm:ss.fffffffff格式，详见Timestamp.valueOf(String s) | String | | | null |

代码示例

Python 代码

  1. from pyalink.alink import *
  3. import pandas as pd
  5. useLocalEnv(1)
  7. df = pd.DataFrame([
  8.     [1.0, "A", 0, 0, 0],
  9.     [2.0, "B", 1, 1, 0],
  10.     [3.0, "C", 2, 2, 1],
  11.     [4.0, "D", 3, 3, 1]
  12. ])
  13. batchSource = BatchOperator.fromDataframe(
  14.     df, schemaStr=' f0 double, f1 string, f2 int, f3 int, label int')
  15. streamSource = StreamOperator.fromDataframe(
  16.     df, schemaStr=' f0 double, f1 string, f2 int, f3 int, label int')
  18. trainOp = GbdtTrainBatchOp()\
  19.     .setLearningRate(1.0)\
  20.     .setNumTrees(3)\
  21.     .setMinSamplesPerLeaf(1)\
  22.     .setLabelCol('label')\
  23.     .setFeatureCols(['f0', 'f1', 'f2', 'f3'])\
  24.     .linkFrom(batchSource)
  25. predictBatchOp = GbdtPredictBatchOp()\
  26.     .setPredictionDetailCol('pred_detail')\
  27.     .setPredictionCol('pred')
  28. predictStreamOp = GbdtPredictStreamOp(trainOp)\
  29.     .setPredictionDetailCol('pred_detail')\
  30.     .setPredictionCol('pred')
  32. predictBatchOp.linkFrom(trainOp, batchSource).print()
  33. predictStreamOp.linkFrom(streamSource).print()
  35. StreamOperator.execute()

Java 代码

  1. import org.apache.flink.types.Row;
  3. import com.alibaba.alink.operator.batch.BatchOperator;
  4. import com.alibaba.alink.operator.batch.classification.GbdtPredictBatchOp;
  5. import com.alibaba.alink.operator.batch.classification.GbdtTrainBatchOp;
  6. import com.alibaba.alink.operator.batch.source.MemSourceBatchOp;
  7. import com.alibaba.alink.operator.stream.StreamOperator;
  8. import com.alibaba.alink.operator.stream.classification.GbdtPredictStreamOp;
  9. import com.alibaba.alink.operator.stream.source.MemSourceStreamOp;
  10. import org.junit.Test;
  12. import java.util.Arrays;
  13. import java.util.List;
  15. public class GbdtPredictStreamOpTest {
  16.     @Test
  17.     public void testGbdtPredictStreamOp() throws Exception {
  18.         List <Row> df = Arrays.asList(
  19.             Row.of(1.0, "A", 0, 0, 0),
  20.             Row.of(2.0, "B", 1, 1, 0),
  21.             Row.of(3.0, "C", 2, 2, 1),
  22.             Row.of(4.0, "D", 3, 3, 1)
  23.         );
  24.         BatchOperator <?> batchSource = new MemSourceBatchOp(
  25.             df, "f0 double, f1 string, f2 int, f3 int, label int");
  26.         StreamOperator <?> streamSource = new MemSourceStreamOp(
  27.             df, " f0 double, f1 string, f2 int, f3 int, label int");
  28.         BatchOperator <?> trainOp = new GbdtTrainBatchOp()
  29.             .setLearningRate(1.0)
  30.             .setNumTrees(3)
  31.             .setMinSamplesPerLeaf(1)
  32.             .setLabelCol("label")
  33.             .setFeatureCols("f0", "f1", "f2", "f3")
  34.             .linkFrom(batchSource);
  35.         BatchOperator <?> predictBatchOp = new GbdtPredictBatchOp()
  36.             .setPredictionDetailCol("pred_detail")
  37.             .setPredictionCol("pred");
  38.         StreamOperator <?> predictStreamOp = new GbdtPredictStreamOp(trainOp)
  39.             .setPredictionDetailCol("pred_detail")
  40.             .setPredictionCol("pred");
  41.         predictBatchOp.linkFrom(trainOp, batchSource).print();
  42.         predictStreamOp.linkFrom(streamSource).print();
  43.         StreamOperator.execute();
  44.     }
  45. }

运行结果

| f0 | f1 | f2 | f3 | label | pred | pred_detail | | —- | —- | —- | —- | —- | —- | —- |

| 1.0000 | A | 0 | 0 | 0 | 0 | {“0”:0.9849144946061075,”1”:0.01508550539389248} |

| 2.0000 | B | 1 | 1 | 0 | 0 | {“0”:0.9849144946061075,”1”:0.01508550539389248} |

| 3.0000 | C | 2 | 2 | 1 | 1 | {“0”:0.015085505393892529,”1”:0.9849144946061075} |

| 4.0000 | D | 3 | 3 | 1 | 1 | {“0”:0.015085505393892529,”1”:0.9849144946061075} |