[发明专利]多层聊天检测和分类

权利要求书

1.一种用于监视在在线多用户环境中交互的用户的计算机实现的方法，所述方法包括：

用多个被标注为可接受或者不可接受的消息训练第一分类器；

用多个训练示例会话训练第二分类器，其中每个训练示例是从被标注为适于上报或者不适于上报的会话中生成的，并且其中每个训练示例会话仅包括来自被所述第一分类器分类为不可接受的会话的消息；

对于由第一用户在会话期间发送的每条消息：

通过所述第一分类器，确定将所述消息标注为对于所述在线多用户环境是可接受的还是不可接受的；并且

如果满足针对所述用户的所述会话的触发条件，通过所述第二分类器接收由所述第一分类器分类为不可接受的会话中的消息，并且通过所述第二分类器确定是否将所述会话上报至仲裁人以供复查。

2.如权利要求1所述的方法，其中所述第一分类器是贝叶斯过滤器。

3.如权利要求1所述的方法，其中所述第二分类器是贝叶斯过滤器。

4.如权利要求1所述的方法，其中所述触发条件是所述会话中被分类为不可接受的消息和被分类为可接受的消息的比例。

5.如权利要求1所述的方法，其中所述触发条件是所述会话中被分类为不可接受的消息的最大数目。

6.一种用于监视在在线多用户环境中交互的用户的系统，所述系统包括：

存储应用程序的存储器；以及

处理器，当执行所述应用程序时，所述处理器被配置为行使用于监视在在线多用户环境中交互的用户的操作，所述操作包括：

用多个被标注为可接受或者不可接受的消息训练第一分类器；

用多个训练示例会话训练第二分类器，其中每个训练示例是从被标注为适于上报或者不适于上报的会话中生成的，并且其中每个训练示例会话仅包括来自被所述第一分类器分类为不可接受的会话的消息；

对于由第一用户在会话期间发送的每条消息：

通过所述第一分类器，确定将所述消息标注为对于所述在线多用户环境是可接受的还是不可接受的；并且

如果满足针对所述用户的所述会话的触发条件，通过所述第二分类器接收由所述第一分类器分类为不可接受的会话中的消息，并且通过所述第二分类器确定是否将所述会话上报至仲裁人以供复查。

7.如权利要求6所述的系统，其中所述第一分类器是贝叶斯过滤器。

8.如权利要求6所述的系统，其中所述第二分类器是贝叶斯过滤器。

9.如权利要求6所述的系统，其中所述触发条件是所述会话中被分类为不可接受的消息和被分类为可接受的消息的比例，或者是所述会话中被分类为不可接受的消息的最大数目。