对用户的骚扰行为进行惩罚，定义了打分卡模型，模型流程如下
对于该模型，主要有以下几个方面
一、异常行为定义
首先需要定义出用户的哪些行为是属于超出正常交友范畴的骚扰行为，有以下几个维度：
1、举报拉黑
由聊天双方来判定聊天是否为骚扰聊天往往是最直接有效的方法，所以用户被举报拉黑，可以直接认定为一次骚扰行为。
2、关键字捕获
设定骚扰关键字比如“美女约吗”、“你大爷”等，实时监测用户交流消息文本，如果用户发送的消息中包含有某个或几个预先设定的骚扰关键字时，则认定用户该条消息为骚扰消息。
-该维度不仅可以识别出相应的骚扰消息，还可分析出用户的素质高低；如果后续系统考虑为用户推荐相关好友，可为付费用户推送相对高素质的好友。
3、交流频度
设定正常用户的消息发送频率范围比如“2 分钟内发送 50 条消息以内视为正常交流频率”，实时监测用户发送消息的频率，如果用户的消息频率超过了设定的正常频率， 则认定用户当前正在进行骚扰。
考虑到产品目前受脚本用户影响较大，该维度可有效过滤出脚本用户，可优先考虑实施上线。
4、交流广度
设定用户正常交流广度，及一个用户同一时间与多少好友交流属于正常范畴；与频度类似，超出该阈值则认定用户正在进行骚扰。
-该维度可与上面“交流频度”结合起来进行过滤，与频度相比该维度不仅可以过滤出脚本用户，还可识别出一定的海王用户（根据聊天数据分析，大多数海王用户同时会对多名女性进行钓鱼聊天）等等。
5、通讯录联系紧密度（ 业务联想扩展 ）
设定用户通讯录正常联系紧密度区间，来判断用户质量的好坏；可以根据用户与好友的联系时长及频率等维度来定义双方之间的联系紧密度，如果一个用户通讯录好友中联系紧密度低的占比非常高，则说明该用户无法进入深度聊天，更多的可能只是发送问候语或带骚扰性质的问候语，用户质量较差。
二、用户行为扣分
定义出异常骚扰行为之后，根据骚扰情节的严重程度对每个行为进行打分；比如关键字过滤中“美女约吗”，在正常聊天过程中也可能出现，所以其对应分值可相对较低，比如 1 分。
三、惩罚机制设定
定义出用户异常骚扰行为之后，还需要设定系统对于骚扰用户的惩罚机制。考虑到一刀切的惩罚会导致用户流失过度，所以需要按照惩罚的严重程度对惩罚机制进行分层，即所谓的按照你犯事程度来给你判刑。可将惩罚机制分为 3 类：
1、轻度
轻度惩罚一般以提醒为主，比如有：
发送系统消息
-该惩罚其实一定层面上可以不认为是惩罚，不对用户的任何行为进行阻塞，且用户也可以选择不看系统消息
警告提醒
-该措施比上一措施稍微严重一些，其主要表现为在用户聊天窗口进行置顶加粗标红，不对用户的任何行为进行阻塞，但会使用户强制接收到该警告提醒。
总的来说轻度惩罚以告诫为主，不对用户行为进行阻塞，用户还可体验所有的系统功能；在提醒用户犯错的同时，最大程度上防止用户的流失。
2、中度
中度惩罚一般以限制用户某些功能的使用为主，比如有：
限制用户与陌生人交流
-与陌生人的交流是骚扰的高发地段，所以在限制用户功能使用方面，该功能的优先级可以适当提高。
限制用户加好友（ 业务联想扩展 ）
-当限制用户陌生人聊天功能后，有些人可能会不死心进行疯狂加好友操作，该操作在一定程度上也会对女性造成骚扰（女性用户一般不太会有 app 权限设置意识，当有好友申请时，大部分 app 也会进行消息推送），所以该功能也可以考虑加入惩罚机制。
限制用户发消息
-好友交流发消息是产品的核心功能，在功能限制上核心功能的限制需要慎重，因为该操作很容易导致用户流失，所以该条措施可以考虑为中度惩罚中最严重的一条。
中度惩罚的目的是让用户冷静、脑子降温，某些用户可能也是一时兴起来进行骚扰，对其进行部分功能限制，可以让其冷静下来，尽最大可能挽留用户。中度惩罚的限制措施一般为时长，比如限制使用 5/10/15/30/60 分钟。
3、重度
重度惩罚就会以限制用户使用整个产品为主了，包括强制退出登录、限制登录、注销用户等。重度惩罚一般不以挽留用户为目的，能够触发重度惩罚的用户，一般情况下也不会打算继续使用该账号了。
与异常行为的定义类似，设定好惩罚机制之后，还需要对每个惩罚机制设定相应的触发分值；比如“发送系统消息”，该措施一定程度上都不算惩罚，那可以考虑其触发分数适当低一点，比如 40-50 分。
四、用户惩罚
当有了定义好的骚扰行为和制定好的惩罚机制之后，系统只需要实时监测用户的行为
（或者可以进行 T+1 的人工监测）；当用户出现了骚扰行为，那么给该用户记录相应的分值； 一旦用户的分值达到了某一个惩罚机制的触发阈值，则对用户进行相应的惩罚。
五、迭代优化
1、用户初始分设定
初始分的设定，主要聚焦的是模型上线之前的用户行为记录是否纳入考虑范围：
若有收获，就点个赞吧
0 人点赞
