融合行为词的罪名预测多任务学习模型

随着人工智能技术在司法领域的应用,依据案情描述预测所属罪名成为一项重要研究内容。案情内容术语专业,描述言简意赅,而现有方法却往往依赖文本特征,忽略了不同案件相关要素的差异性,缺乏对案情行为词要素的有效利用。为了解决此类问题,提出一种融合行为词的罪名预测多任务学习模型。首先,由边界识别器生成行为词跨度,提炼出案情核心内容;其次,通过构建行为词的结构特征预测所属罪名;最后,将行为词识别和罪名预测进行统一建模,通过共享参数的方式增强模型的泛化能力。通过构建行为词识别和罪名预测的多任务数据集进行验证,实验结果表明该模型识别行为词任务的F值达到了83.27%,罪名预测任务的F值达到了84.29%,与BERT-CNN模型相比,分别提高了0.57%和2.61%,验证了该模型对行为词识别和罪名预测的优势。

基于胶囊网络的多标签罪名预测

针对罪名预测任务中存在的数据不平衡,罪名预测效果不理想的问题,提出了基于胶囊网络的多标签罪名预测模型。使用双向门控循环神经网络与卷积神经网络的并行混合模型提取胶囊网络的初始特征,即提取数据的时序特征和语义特征,提高胶囊网络提取初始特征的能力,然后使用动态路由进行迭代运算提取深层次的空间的信息;在损失函数中引入权值信息,解决因数据不平衡而导致的低频数据训练不足的问题。仿真结果表明,相比其它经典深度学习模型,上述模型有较好的罪名预测效果,能够解决数据不平衡与罪名预测效果不理想的问题。

联合多源分析的罪名预测研究

随着人工智能技术逐步在司法领域落地与应用,法律人工智能的研究成果极大地提升了司法从业人员的工作效率。罪名预测作为法律人工智能的重要核心应用之一,旨在根据案件描述预测犯罪主体触犯的刑法罪名。针对目前罪名预测研究仅依赖于单一的裁判文书数据源,但裁判文书对案件细节的阐述不够全面的问题,构建了一个结合裁判文书和庭审文书的多源联合分析数据集,将概述内容的裁判文书与囊括细节的庭审文书相结合进行罪名预测。在构建的多源联合数据集上进行了大量实验及分析,实验结果验证了裁判文书和庭审文书在信息上的互补性,为罪名预测任务提供了新的思考角度。

基于自监督学习语言模型的罪名预测研究

针对解决法律判决预测中的罪名预测问题,为了更高效地捕捉案件事实描述中上下文的语义信息,提出了一种结合ALBERT(A Lite BERT)和卷积神经网络CNN(TextCNN)的中文罪名预测模型ALBT。模型利用ALBERT模型将法律文本的事实描述转化成向量表示,提取事实描述中的关键特征,把提取到的特征送入卷积神经网络TextCNN模型中进行分类预测,最终完成对事实描述中的罪名预测。实验在2018“中国法研杯”司法人工智能挑战赛构建的数据集上精度达到了88.1%。实验结果表明,模型在中文罪名预测上能够达到更好的预测效果。

基于数据增强和改进BERT的罪名预测

针对当前数据驱动的方法罪名预测准确率较低的难题,提出新的罪名预测方法。文章利用生成对抗网络(GAN)对案件事实文本进行数据增强,扩充了训练样本。并对BERT模型进行改进,引用卷积神经网络和双向长短期记忆网络提取案件的局部特征以及前后文特征,提高重点词语在案件事实中的作用。实验结果表明,该方法相比于其他罪名预测模型,具有更高的准确率,准确率、召回率、F1值分别为0.9416,0.9412,0.9403。

融合图卷积神经网络和BiGRU-TextCNN的罪名预测模型

随着人工智能的发展和司法信息化体系的构建,运用人工智能解决司法领域的需求成为近年来自然语言处理领域的研究热点.为了提升深度学习模型在罪名预测任务上的准确率,本文设想利用将图卷积神经网络提取文本之间的结构特征与传统的深度学习模型相融合,捕获更多潜在信息.因此本文提出了一种融合图卷积神经网络和BiGRU-TextCNN的罪名预测模型,实验结果表明在Cail2018数据集上对罪名预测问题有较好的效果.

融合类别先验Mixup数据增强的罪名预测方法

罪名预测是人工智能技术应用于司法领域的代表性任务.该任务根据案情描述和事实预测被告人被判的罪名.由于各类罪名样本数量高度不平衡,分类模型训练时分类器易偏向高频罪名类别,从而导致低频罪名预测性能不佳.针对罪名预测类别不平衡问题,提出融合类别先验Mixup数据增强策略的罪名预测模型,改进低频罪名预测效果.该模型利用双向长短期记忆网络与结构化自注意力机制学习文本向量表示,在此基础上,通过Mixup数据增强策略在向量表示空间中合成伪样本,并利用类别先验使合成样本的标签偏向低频罪名类别,以此来扩增低频罪名训练样本.实验结果表明,与现有方法相比,该方法在准确率、宏精确率、宏召回率和宏F1值上都获得了大幅提升,低频罪名预测的宏F1值提升达到13.5%.

基于词语语义差异性的多标签罪名预测

罪名预测是智慧司法领域中的一项重要研究内容,其旨在依据犯罪事实自动预测出犯罪主体触犯的罪名。犯罪事实是案件的真实客观描述,犯罪事实中各词语的语义重要性在不同罪名的判决中有所差异,而现有方法在对犯罪事实建模的过程中往往忽略了这种语义差异性,且缺乏对数罪并罚情形的处理。为此,该文在对犯罪事实的建模过程中将词语的语义差异融入注意力机制;并将数罪并罚情形下的多标签罪名预测转化为多个独立的单标签罪名预测。实验结果表明,该文基于词语语义差异性建模和多标签转化策略均有利于提升罪名预测的效果,在“中国法研杯”2018司法人工智能挑战赛公布的数据集上达到了88.0%的F1值。

联合罪名预测的涉案新闻重叠实体关系抽取

涉案新闻重叠实体关系抽取对于构建案件知识图谱有着重要意义。传统的方法通过定位关系指示符来抽取重叠实体关系,在涉案新闻中,预测罪名的关键词可以作为定位关系指示符的重要依据。该文提出一种联合罪名预测的涉案新闻重叠实体关系抽取方法。预测罪名,将罪名向量融入到关系分类和实体标签分类的状态向量中,实现重叠实体关系抽取。为了缓解因联合罪名预测而给重叠实体关系抽取带来的错误传播问题,引入一种分层级联强化学习机制,将整个过程分解为罪名预测层和重叠实体关系抽取层,利用罪名指导重叠实体关系抽取,帮助重叠实体关系抽取层优化强化学习策略。将重叠实体关系抽取结果反馈给罪名预测层帮助罪名预测层优化强化学习策略。试验表明:该文提出的模型相比基线模型的F1指标提升了4%。

基于图注意力网络的案件罪名预测方法:CP-GAT

案件罪名预测任务是基于文本数据去预测案件所属罪名.针对现有方法在相似罪名和长尾数据集上表现不佳的问题,提出了一种基于图注意力网络的案件罪名预测方法CP-GAT(charge prediction based on graph attention network).该方法首先使用司法文书数据集中的案例事件描述文本和案例对应的法条信息建立异质图结构数据,构建后的异质图包含两种类型的节点(词节点、案例节点),两种类型的边(词节点与词节点相连的边,词节点与案例节点相连的边).在基于法律文本构建后的异质图上使用图注意力网络进行图特征提取,最后将得到的特征向量输入到罪名预测的分类器中,得到案例所属的罪名.在CAIL2018法律数据集上的实验结果表明,基于图注意力网络的罪名预测方法优于对比实验使用的方法,准确率和宏观F 1值分别达到了95.2%和66.1,验证了提出的方法有利于提升案件罪名预测任务的性能.

基于法律裁判文书的法律判决预测

针对智慧司法服务领域中“法律判决预测”任务的实际需求,探讨了法律判决预测任务的研究思路与实现路径,介绍了法律判决预测的整体框架和具体过程。基于从中国裁判文书网获取的海量真实案件数据和2018“中国法研杯”司法人工智能挑战赛的评测数据,整理了实验数据类别,规范了实验数据格式,形成了基于法律裁判文书大数据的法律判决预测数据集。在判决预测模型中,首先使用判决要素抽取方法提取出高质量的判决要素句,然后借鉴法官的判案思路,将整个法律判决预测任务转换为法条预测、罪名预测和刑期预测3项子任务,并分别构建了基于判决要素的预测模型。实验结果表明,所提方法在刑法类判决预测数据集上得到了有效的结果。

基于注意力交互机制的智能司法预测方法研究

智能司法预测是法律人工智能的一项重要任务,其核心子任务之一是罪名预测,即,给定犯罪事实预测行为人所犯罪名.目前基于深度学习的罪名预测方法没有充分利用对准确定罪起重要作用的法律条文知识,而且缺乏可解释性.为此,本文提出一种新的罪名预测方法,该方法通过法条与事实之间的注意力机制,保留相关的事实句,以获得更好的事实表示;基于事实-罪名预测与法条-罪名预测这两个预测模型构建联合学习框架,从词、句子、篇章3个层级准确构建了事实与法条的语义表示.在3个公开的标准数据集上进行了大量实验与可视化分析,结果表明:与非预训练语言模型相比,本文所提方法取得了显著的性能提升;与BERT预训练语言模型相比,该方法在准确率与可解释性方面也更具竞争性.

基于深度学习的多通道多任务学习判决预测模型

针对目前深度学习在判决领域多聚焦于独立处理单一任务,无法捕捉到法条和罪名预测任务间的关联性,使得罪名预测效果存在准确率瓶颈并缺少法条依据和支持的问题。本文将法条和罪名预测相结合,提出一种基于深度学习的多通道多任务学习判决预测模型。针对词嵌入模型Word2Vec无法解决一词多义及动态优化的问题,引入基于Transformer的双向编码表征(Bidirectional Encoder Representation from Transformers,BERT)词嵌入方法,实现词向量的多任务输送,并通过搭建不同的特征抽取层,提出了基于注意力的双向编码表征法条预测模型(BERT-BiGRU-Attention,BERT-BA)和基于注意力和卷积神经网络的双向编码表征双通道罪名预测模型(BERT-BA-BERT-Convolutional Neural Network,BERT-BABC)。模型从多个视角捕捉多个维度的特征向量,获取更丰富的语义要素,以提升模型的预测效果和泛化能力。实验结果表明,在法条预测中模型准确率达到了87.24%,在罪名预测中模型准确率达到了88.21%,准确率均高于基准模型。

基于混合特征提取的判决预测模型

法律判决预测指的是在给定案情描述的情况下,对案件的罪名和刑期进行预测。当前罪名预测主要使用深度神经网络模型,刑期预测主要使用混合深度神经网络模型。现有研究只关注局部特征或全局特征,没有考虑到将二者结合。因此本文使用双向门控循环单元提取上下文特征,并结合注意力机制学习文本中词的重要性,使用胶囊网络克服卷积神经网络丢失空间信息的缺点,学习文本局部与全局之间的关系特征。同时由于刑期分类时分类粒度较大,导致辅助决策结果不够理想。为实现更加理想的分类效果,将刑期按年进行更加细粒度的分类,分为28类。实验结果表明,该混合模型比基线模型效果更好,在罪名预测和28类刑期预测准确率分别为98.88%和74.32%。

卷积神经网络在案件分类上的应用

几年前,机器学习在司法方面的应用被提出并得到迅速发展。本文通过对判决文书的学习,将训练出的模型以文本分类的方式,用于协助办案人员进行罪名预测:1、在权威网站爬取大量判决文书,进行信息预处理后,提炼出较为精炼的文本数据和罪名标签;2、对文本进行分词、结构化处理、构成词汇表并与相应的词向量进行1对1映射;3、应用谷歌的Tensorflow搭建卷积神经网络,设置参数,训练模型并测试;4、反复调整参数后,改进优化算法,使分类效果理想。最终分类准确率在95%以上。