[发明专利]一种基于BERT文本分类技术的信用卡数据欺诈行为识别方法

说明书

本项发明提出了一种基于文本分类技术的信用卡欺诈行为识别方法。该方法包括以下步骤：（1）获取信用卡欺诈数据集，所述数据集中有28万笔交易数据，492笔盗刷，正例（被盗刷）占所有交易的0.172%（2）该方法通过对样本数据的分割，将训练数据和测试数据隔离，并在保证测试数据不在训练数据集中出现的前提下对训练数据进行增强，以保证数据的均衡性。（3）随着将数值数据转化为文本数据的方式，用户数据的数值信息和位置信息被向量化，能够表征用户的完整数据。（4）本项发明使用了BERT分类算法的Attention机制，通过调整权重以适应训练数据的位置信息和数值信息，进而构造了高效的文本分类模型，能够有效识别出信用卡数据中的欺诈行为。

技术领域

本发明涉及一种基于BERT文本分类技术的信用卡数据欺诈行为识别方法。

背景技术

在二元分类领域，类别不平衡问题是指某一类别的样本数量远少于另一类别样本的数量。传统的分类模型往往对大样本具有较高的识别率，然后对小样本的分类性能很差。许多现实应用问题都可以看作类别不平衡数据分类任务。在信用卡欺诈检测领域中，信用卡数据随着用户交易每时每刻都在产生，数据量巨大，且数据分布是不断变化的。我们可以将信用卡数据的维度与文本数据的位置信息相关联，并将用户数据视为文本数据进行处理。

在解决类别不平衡数据分类问题时，我们需要对模型进行调整，以便在识别率较高的同时保证对小样本的分类性能。常见的解决方法包括数据重采样、调整算法的决策权重以及使用集成学习等。此外，对数据进行预处理也是非常重要的。我们可以考虑在维度信息中引入一些相关性，或者使用一些数据生成方法来增加小样本的数量。总之，通过合理的解决方案和预处理技巧，我们可以得到更好的解决类别不平衡数据分类问题的效果。

早期的文本分类技术的准确率通常表现不佳，这归咎于文本分类算法对于数据的均衡性要求比较高。而BERT分类算法的底层逻辑在于通过注意力机制关注数据的向量信息和位置信息，对于小样本数据的敏感程度高于传统分类算法。通过将文本数据向量化的方式能够有效减轻传统数据分析的负担，无需关注数据不同维度对于最终结果的影响因子，底层权重可以完成该项任务。

因此，将信用卡数据转换为文本数据，并通过文本数据增强提高数据的均衡程度，避免数据过于偏向某一类别。然后使用bert分类模型，对用户数据进行建模，在真实用户数据上预测，得到的效果优于传统信用卡欺诈预测算法。

发明内容

本发明针对目前技术的不足，提供了一种基于BERT文本分类技术的信用卡数据欺诈行为识别方法，尽可能的保证了检测精度。

实现本发明目的的技术方案是：

基于文本分类技术的信用卡欺诈行为识别方法，包括以下步骤：

（步骤1）获取数据集。

（步骤2）数据预处理：首先需要剥离出测试数据，测试数据占所有数据的20%，在分离数据的过程中需要按照正负样例来分割。这一步的措施是保证测试数据不出现在训练和验证数据集中。保证测试过程的真实性以及评估模型对于未知数据的预测准确程度。

（步骤3）数据格式转换，将数值类型数据转换成文本数据：数据增强过程中的数据格式仍是数值类型，通过Bert模型进行训练需要文本数据，我们通过文本插值和数值归一的方式进行格式转换，统一数据格式为文本类型，并且适用于模型输入。

（步骤4）将训练集转换后的文本进行训练，并保存最优模型：最后，我们使用BERT模型进行训练，使用预处理后的数据以及经过数据增强的数据进行训练，选取最优的训练参数和迭代次数，保存模型。

（步骤5）将测试集输入训练后的最佳模型中进行测试，验证训练后模型的检测效果：在训练结束后，我们使用测试数据评估模型的性能，并使用混淆矩阵等评估指标来评估模型的效果。

本发明的有益效果是：