[发明专利]检测对象的方法、装置和系统

说明书

本申请公开了一种检测对象的方法、装置和系统。其中，该方法包括：获取用户行为数据，其中，用户行为数据表征查询目标对象的过程所产生的数据，用户行为数据至少包括：查询数据以及对象数据；分别对查询数据以及对象数据进行向量化处理，得到第一向量和第二向量；对第一向量和第二向量进行拼接处理，得到拼接结果，通过神经网络输出拼接结果，得到标签；根据标签确定目标对象是否包括异常对象。本申请解决了现有技术对违规商品进行检测的准确率低的技术问题。

技术领域

本申请涉及数据处理领域，具体而言，涉及一种检测对象的方法、装置和系统。

背景技术

目前，电子商务平台在向用户提供方便接口的同时，一些违规商品，例如，枪支配件、色情暴力的图像影音、毒品等也容易被用户获得。违规商品的传播会对电子商务平台、用户,甚至社会都带来危害，因此对于电子商务平台的提供商来说，急需更加智能和高效的方法来召回违规商品。为了维护电子商务平台的环境，现有技术通常采用以下两种方式来对违规商品进行检测：

方式一：基于敏感关键词拦截结合人工审核的方法。该方法通常由相关领域专家基于已有的业务积累，提出和违规商品相关的敏感词典。同时，在人工审核的过程中，根据业务变化，随时增添敏感词典中的关键词。尽管该方法可以拦截绝大多数违规商品，但该方式不够灵活，很难应付卖家创造的新词或者新的描述。例如，出售违规商品的卖家在向电子商务平台上传违规商品的相关信息(例如，搜索信息)时，会尽量避免使用高危词汇，而是采用高危词汇的同义词，甚至完全和违规商品不相关的词来作为该商品的相关信息，以此来躲避审核机制。例如，在图1所示的电子商务平台的显示界面中，色情暴力的图像影音的关键词为“电影资源”、“网盘”、“云盘”、“网站”、“软件”，电子商务平台的审核机制无法检测出该商品为违规商品。另外，经验丰富的买家也可通过自己的搜索技术将违规商品从海量的相似商品中搜索出，例如，在图2所示的电子商务平台的显示界面中，买家通过与卖家沟通来搜索违规的图像影音。

方式二：基于特征提取的机器学习或者深度学习方法。该方法通常利用商品的文本信息作为特征，训练机器学习或者深度学习分类模型以理解商品文本中蕴含的语义。然而，由于违规商品的文本内容相对来说比较隐晦或者与正常商品相似，因此，已有的基于机器学习和深度学习的模型也很难捕捉到有效的语义。此外，由于这些模型需要大量的训练语料，而这些由商品本身的信息(例如，商品标题)或描述数据很难快速捕捉到商品文本信息中的变化，训练好的模型相对于最新的场景存在时延，因此，在线上使用该方法可能无法满足业务需求。

针对上述的问题，目前尚未提出有效的解决方案。

发明内容

本申请实施例提供了一种检测对象的方法、装置和系统，以至少解决现有技术对违规商品进行检测的准确率低的技术问题。

根据本申请实施例的一个方面，提供了一种检测对象的方法，包括：获取用户行为数据，其中，用户行为数据表征查询目标对象的过程所产生的数据，用户行为数据至少包括：查询数据以及对象数据；分别对查询数据以及对象数据进行向量化处理，得到第一向量和第二向量；对第一向量和第二向量进行拼接处理，得到拼接结果，并通过神经网络输出拼接结果，得到标签；根据标签确定目标对象是否包括异常对象。

根据本申请实施例的另一方面，还提供了一种检测对象的方法，包括：获取与目标对象对应的用户行为数据，其中，用户行为数据至少包括：查询数据以及对象数据；基于预设模型对用户行为数据进行检测，得到检测结果，其中，检测结果用于表征目标对象是否为异常对象，预设模型为使用多组数据通过神经网络学习训练得到的，多组数据中的每组数据至少包括：对对象进行查询时的用户行为数据，以及标签，标签用于表征对象是否为异常对象。