Java 类名:com.alibaba.alink.operator.batch.clustering.GeoKMeansTrainBatchOp
Python 类名:GeoKMeansTrainBatchOp
功能介绍
KMeans 是一个经典的聚类算法。
基本思想是:以空间中k个点为中心进行聚类,对最靠近他们的对象归类。通过迭代的方法,逐次更新各聚类中心的值,直至得到最好的聚类结果。
本组件主要针对经纬度距离做Kmeans聚类,包括经纬度KMeans,经纬度KMeans预测, 经纬度KMeans流式预测。
经纬度距离(https://en.wikipedia.org/wiki/Haversine_formula)
输入数据中的经度和纬度使用度数
表示,得到的距离单位为千米(km)。
参数说明
| 名称 | 中文名称 | 描述 | 类型 | 是否必须? | 取值范围 | 默认值 | | —- | —- | —- | —- | —- | —- | —- |
| latitudeCol | 经度列名 | 经度列名 | String | ✓ | 所选列类型为 [BIGDECIMAL, BIGINTEGER, BYTE, DOUBLE, FLOAT, INTEGER, LONG, SHORT] | |
| longitudeCol | 纬度列名 | 纬度列名 | String | ✓ | 所选列类型为 [BIGDECIMAL, BIGINTEGER, BYTE, DOUBLE, FLOAT, INTEGER, LONG, SHORT] | |
| epsilon | 收敛阈值 | 当两轮迭代的中心点距离小于epsilon时,算法收敛。 | Double | | | 1.0E-4 |
| initMode | 中心点初始化方法 | 初始化中心点的方法,支持”K_MEANS_PARALLEL”和”RANDOM” | String | | “RANDOM”, “K_MEANS_PARALLEL” | “RANDOM” |
| initSteps | k-means++初始化迭代步数 | k-means初始化中心点时迭代的步数 | Integer | | | 2 |
| k | 聚类中心点数量 | 聚类中心点数量 | Integer | | | 2 |
| maxIter | 最大迭代步数 | 最大迭代步数,默认为 50。 | Integer | | | 50 |
| randomSeed | 随机数种子 | 随机数种子 | Integer | | | 0 |
代码示例
Python 代码
from pyalink.alink import *
import pandas as pd
useLocalEnv(1)
df = pd.DataFrame([
[0, 0],
[8, 8],
[1, 2],
[9, 10],
[3, 1],
[10, 7]
])
inOp1 = BatchOperator.fromDataframe(df, schemaStr='f0 long, f1 long')
inOp2 = StreamOperator.fromDataframe(df, schemaStr='f0 long, f1 long')
kmeans = GeoKMeansTrainBatchOp()\
.setLongitudeCol("f0")\
.setLatitudeCol("f1")\
.setK(2)\
.linkFrom(inOp1)
kmeans.print()
predict = GeoKMeansPredictBatchOp()\
.setPredictionCol("pred")\
.linkFrom(kmeans, inOp1)
predict.print()
predict = GeoKMeansPredictStreamOp(kmeans)\
.setPredictionCol("pred")\
.linkFrom(inOp2)
predict.print()
StreamOperator.execute()
Java 代码
import org.apache.flink.types.Row;
import com.alibaba.alink.operator.batch.BatchOperator;
import com.alibaba.alink.operator.batch.clustering.KMeans4LongiLatitudePredictBatchOp;
import com.alibaba.alink.operator.batch.clustering.KMeans4LongiLatitudeTrainBatchOp;
import com.alibaba.alink.operator.batch.source.MemSourceBatchOp;
import com.alibaba.alink.operator.stream.StreamOperator;
import com.alibaba.alink.operator.stream.clustering.KMeans4LongiLatitudePredictStreamOp;
import com.alibaba.alink.operator.stream.source.MemSourceStreamOp;
import org.junit.Test;
import java.util.Arrays;
import java.util.List;
public class GeoKMeansTrainBatchOpTest {
@Test
public void testGeoKMeansTrainBatchOp() throws Exception {
List <Row> df = Arrays.asList(
Row.of(0, 0),
Row.of(8, 8),
Row.of(1, 2),
Row.of(9, 10),
Row.of(3, 1),
Row.of(10, 7)
);
BatchOperator <?> inOp1 = new MemSourceBatchOp(df, "f0 int, f1 int");
StreamOperator <?> inOp2 = new MemSourceStreamOp(df, "f0 int, f1 int");
BatchOperator <?> kmeans = new GeoKMeansTrainBatchOp()
.setLongitudeCol("f0")
.setLatitudeCol("f1")
.setK(2)
.linkFrom(inOp1);
kmeans.print();
BatchOperator <?> result = new GeoKMeansPredictBatchOp()
.setPredictionCol("pred")
.linkFrom(kmeans, inOp1);
result.print();
StreamOperator <?> predict = new GeoKMeansPredictStreamOp(kmeans)
.setPredictionCol("pred")
.linkFrom(inOp2);
predict.print();
StreamOperator.execute();
}
}
运行结果
模型数据
| model_id | model_info | | —- | —- |
| 0 | {“vectorCol”:null,”latitudeCol”:””f1””,”longitudeCol”:””f0””,”distanceType”:””HAVERSINE””,”k”:”2”,”vectorSize”:”2”} |
| 1048576 | {“clusterId”:0,”weight”:3.0,”center”:”[8.333333333333332, 9.0]”,”vec”:null} |
| 2097152 | {“clusterId”:1,”weight”:3.0,”center”:”[1.0, 1.3333333333333333]”,”vec”:null} |
预测输出
| f0 | f1 | pred | | —- | —- | —- |
| 0 | 0 | 1 |
| 8 | 8 | 0 |
| 1 | 2 | 1 |
| 9 | 10 | 0 |
| 3 | 1 | 1 |
| 10 | 7 | 0 |