[发明专利]一种基于BERT文本分类技术的信用卡数据欺诈行为识别方法

权利要求书

1.一种基于BERT文本分类技术的信用卡数据欺诈行为识别方法，其特征在于，包括以下步骤：

步骤1：获取信用卡欺诈数据集；

步骤2：数据预处理；

步骤3：数据重采样；

步骤4：数据格式转换，将数值类型数据转换成文本数据；

步骤5：将训练集转换后的文本进行训练，并保存最优模型；

步骤6：将测试集输入最佳模型中进行测试，验证该模型的检测与识别效果。

2.根据权利要求1所述的一种基于BERT文本分类技术的信用卡数据欺诈行为识别方法。，其特征在于，所述步骤1中，信用卡欺诈数据集为欧洲人使用的信用卡进行交易的数据，此数据显示两天内交易的数据，数据集中有28万笔交易数据，数据集非常不平衡，其中492笔盗刷，正例（被盗刷）占所有交易的0.172%。

3.根据权利要求1所述的一种基于BERT文本分类技术的信用卡数据欺诈行为识别方法。，其特征在于，所述步骤2中，数据预处理是首先需要剥离出测试数据，测试数据占所有数据的20%，在分离数据的过程中需要按照正负样例来分割。这一步的措施是保证测试数据不出现在训练和验证数据集中。保证测试过程的真实性以及评估模型对于未知数据的预测准确程度。

4.根据权利要求1所述的一种基于BERT文本分类技术的信用卡数据欺诈行为识别方法。，其特征在于，所述步骤3中，由于信用卡欺诈数据样本数量往往较小，因此我们可以考虑使用数据重采样的方法来增加样本数量。通常可以使用过采样或欠采样的方法来增加小样本的数量。通过对于其中的欺诈样本进行迭代，按照正负样本的比例进行增强，对欺诈样本进行特征抽取，然后通过增强算法生成更多数据，创造出正负样本接近1:1的数据集。

5.根据权利要求1所述的一种基于BERT文本分类技术的信用卡数据欺诈行为识别方法。，其特征在于，所述步骤4中，数据增强过程中的数据格式仍是数值类型，通过Bert模型进行训练需要文本数据，我们通过文本插值和数值归一的方式进行格式转换，统一数据格式为文本类型，并且适用于模型输入。

6.根据权利要求1所述的一种基于BERT文本分类技术的信用卡数据欺诈行为识别方法。，其特征在于，所述步骤6中，我们使用BERT模型进行训练，使用预处理后的数据以及经过数据增强的数据进行训练，训练后进行选取最优的训练参数和迭代次数，保存模型。

7.根据权利要求1所述的一种基于BERT文本分类技术的信用卡数据欺诈行为识别方法。，其特征在于，所述步骤6中，在训练结束后，我们使用测试数据评估模型的性能，并使用混淆矩阵等评估指标来评估模型的效果。