生成式AI模型人智共创中的对齐问题研究

目的以人工智能对齐的视角,探讨在人智共创中生成式AI模型如何对齐设计师的意图。方法通过要素分析,以人工智能对齐问题中的可解释性与可控性为研究视角,探讨生成式AI技术作为辅助设计工具如何对齐设计求解过程中“探索-创新-评估”三个设计阶段的具体意图与需求,并分析对齐阶段中需要解决的对齐问题。结果根据对齐阶段的任务构建基于人智设计概念表征交互式对齐方法、表征拓展方法与表征评估方法。结论在三个对齐阶段中分别构建意图对齐、设计空间拓展和设计规则匹配这三种方法,帮助设计师构建可控、可解释的人智共创方法,从而构建可控、可信的人智共创。

人工智能对齐:经济学可以做什么?

AI技术的迅猛发展在对社会发展产生巨大推动作用的同时,也带来了很多问题和风险。在这种情况下,AI对齐,即确保AI的行为结果始终符合人类的利益变得越来越重要。从经济学的角度看,AI对齐可以区分为AI价值对齐和AI激励相容对齐,这两种对齐方式分别通过改变AI智能体的效用函数和AI智能体面临的约束条件来影响其行为。AI智能体在很多方面都和人类存在着共性。作为研究人类行为的科学,经济学可以为AI对齐提供很多启示。本文着重讨论了社会选择理论、机制设计理论、契约理论和信息设计理论在AI对齐领域的应用,并对这些理论在实践中的用例进行了介绍。由这些用例可见,经济学在AI对齐领域大有可为,其作用还远未得到发挥。

自适应特征融合的多模态实体对齐研究

多模态数据间交互式任务的兴起对于综合利用不同模态的知识提出了更高的要求,因此融合不同模态知识的多模态知识图谱应运而生.然而,现有多模态知识图谱存在图谱知识不完整的问题,严重阻碍对信息的有效利用.缓解此问题的有效方法是通过实体对齐进行知识图谱补全.当前多模态实体对齐方法以固定权重融合多种模态信息,在融合过程中忽略不同模态信息贡献的差异性.为解决上述问题,设计一套自适应特征融合机制,根据不同模态数据质量动态融合实体结构信息和视觉信息.此外,考虑到视觉信息质量不高、知识图谱之间的结构差异也影响实体对齐的效果,本文分别设计提升视觉信息有效利用率的视觉特征处理模块以及缓和结构差异性的三元组筛选模块.在多模态实体对齐任务上的实验结果表明,提出的多模态实体对齐方法的性能优于当前最好的方法.

基于信任视角的价值对齐探究

从价值对齐的信任意涵与信任样态来看,技术发展对人类提出了更高的要求。其要求作为类存在的人在价值对齐的进程中,必须厘清合作、信任与价值对齐这三者之间的逻辑关系与道德意涵,深刻反思人作为价值性存在的根基何在,充分审视技术信任的顶层逻辑及权重,高度重视信任的反面,警惕价值对齐的非道德现象与异化,积极守护技术语境中的人际信任,避免信任的单向度。因此,应以基于道德的信任校准价值对齐,将人类作为人机(技)信任链构建的出发点和落脚点,才能规避价值对齐的陷阱,走向有效的价值对齐,进而确保人工智能安全。

价值对齐:AIGC时代的人工智能文化科技伦理风险与精准共治路径研究

随着生成式人工智能技术的兴起,AIGC时代来临,人工智能技术在打造文化新质生产力方面取得显著进步,同时也带来了科技伦理风险和治理挑战。从理论建构来看,人工智能文化科技伦理涉及透明度、监管、责任、道德,以及与计算机伦理、机器伦理和计算伦理等关系的处理。从发展隐忧来看,算法作为非人类网络行动者,面临在隐私与道德交汇中的游离问题,数字化时代的数智鸿沟与伦理边缘不清问题,以及深度合成与深度伪造带来的多维安全风险。基于此,旨在立足人工智能技术遵守价值对齐,提出构建共创共建共治的AIGC文化科技伦理治理体系,即包括人工智能文化科技伦理治理制度创新、治理技术创新、治理主体创新的协同善治框架,推进AI文化新质生产力高质量发展并应对伦理风险,确保文化科技创新与文化科技伦理之间的可持续平衡。

面向自动驾驶的大模型对齐技术:综述

随着Transformer注意力机制的出现,以GPT为代表的通用基础大模型实现了智能的“涌现”,给自动驾驶迈向更高级别发展带来了曙光。受限于传统从头预训练方式需要大规模、高质量、多样性自动驾驶数据和高昂训练成本的困扰“,大模型+对齐技术”范式衍生。对齐技术作为通用基础大模型与自动驾驶之间的纽带,通过微调或提示工程等定制化方式,可高效、专业地解决自动驾驶领域内的工程性问题。对齐技术已是大模型在垂直领域发展的研究热点,但缺乏系统研究成果。基于此,本文首先对自动驾驶发展与大模型技术进行概述,从而衍生出对齐技术。然后,分别从微调和提示工程两个角度进行综述,系统化梳理并剖析各分类技术的结构或性能特点,同时给出实际的应用案例。最后,基于现有研究提出了对齐技术的研究挑战与发展趋势,为促进自动驾驶迈向更高级别发展提供参考。

基于多方嵌入的逐步实体对齐方法

大多数实体对齐方法对知识图谱信息的利用不够充分,没有考虑实体间的互相选择,忽略了现实生活中很多实体在对方知识图谱中不存在等价实体的事实。针对以上问题,提出一种基于多方嵌入的逐步实体对齐方法。该方法对三元组信息、邻域信息、实体名称的语义信息和字符串信息进行多方嵌入生成相似度矩阵,再通过所提出的逐步实体对齐算法将目前彼此最为相似且相似度大于最小相似度阈值的两个实体进行匹配,直到剩余所有实体的相似度都不大于最小相似度阈值时停止匹配,在确保等价实体准确匹配的前提下,减小不存在等价实体时发生错误匹配的概率。在DBP15K数据集上进行了三项实验,结果证明了该方法和逐步实体对齐算法的有效性,以及多方嵌入中每个模块的必要性。

卫星编队流调度的门控对齐策略研究

针对时间敏感网络(TSN)门控调度对相邻节点同步精度要求高,星间无线链路时延波动引起相邻节点门控开启出现偏差,导致业务流在多个卫星节点的调度不一致问题,提出了一种面向卫星编队流调度的门控对齐策略。首先,分析卫星编队中影响门控调度的因素,对业务流在端口的调度时间约束进行建模,并构建门控on/off列表模型;其次,设计在线滚动灰色预测算法对节点间链路时延进行预测,基于预测结果对相邻节点的门控列表偏差进行动态修正,确保多节点门控调度的一致性;最后,基于STK和EXata搭建卫星编队软件仿真场景,同时在现场可编程门阵列(FPGA)硬件平台上实现门控对齐策略。实验结果表明,所提策略能保障卫星编队中时敏业务流经过5跳卫星节点传输后时延为3782~3848μs、抖动稳定在30μs,比现有方案提升了20%。

一种多模态知识图谱实体对齐方法

多模态知识图谱的融合需要解决知识融合过程中的实体对齐问题。在多模态知识图谱中,多模态属性可以提供关键对齐信息来提升实体对齐的能力。本文提出一种基于多模态属性嵌入和图注意力网络的多模态知识图谱实体对齐方法。首先,根据多模态知识图谱中图像、文本和图谱结构信息,将多模态知识图谱划分成子图;其次,利用图注意力网络提取文本和图结构信息,利用视觉几何组(visual geometry group, VGG)网络提取图像特征信息;然后,将文本、图像和图结构特征生成嵌入表示到向量空间;最后,综合子图的多模态特征和图结构特征用于对齐。实验结果表明,在对齐任务中该模型相比于4种基线模型性能有明显提升(Hits@1、Hits@10和MRR提升了10.64%、5.60%和0.227)。

价值对齐是人类通往未来的“必经之路”吗?

探寻作为技术发展目标之一的人与机(技)联盟基准,是当代技术哲学研究无法回避的问题。在当下,由人工智能技术的拟人性与能动性所带来的技术与人类边界的模糊性使得价值对齐处于一种极为微妙的境遇之中。数智技术因其对人类社会的革命性影响而使得技术解决主义变得更为艰难,促逼人类必须对价值对齐进行事前审视。在此过程中,应避免因为先验的错误认识,而丧失利于制定未来有效人工智能治理和风险管理策略的基础即价值对齐。从人机(技)融合的视角来看,价值对齐虽然是人类通往未来的必经之路,但要警惕以技术为价值对齐的基准生命线落入技术灾难主义陷阱。因此,对人之为人的守护必须是价值对齐的基准生命线,也只有基于此的价值对齐才是人类通往未来必经之路。

四款主流语料对齐工具性能对比探析

利用实验研究的方法,以科技、旅游、文学、政治四种中英双语文本为样本,对四款语料对齐工具进行了对比研究。研究发现,从基础技术指标来看,Matecat Aligner、ABBYY Aligner 2.0、Tmxmall Aligner更有优势;从非基础技术指标来看,Matecat Aligner和DéjàVu X3 Alignment在断句准确率方面更为突出,ABBYY Aligner 2.0在对齐准确率方面要优于其他工具;ABBYY Aligner 2.0和Matecat Aligner具有纠错功能。通过具体分析发现,使用不同类型的文本,对齐质量也有所不同;不同的语料对齐工具适合不同文本的对齐。

基于多邻域感知的石油数据资产图谱实体对齐

实体对齐在自动融合多源异构的石油领域数据资产知识图谱过程中起着至关重要的作用。目前主流基于图神经网络的实体对齐模型多关注实体和图结构的信息,忽略了实体之间的关系、属性与属性值等多邻域的语义信息,在命名规则差异性大、行业特殊、语义实体多的石油领域数据资产知识图谱融合过程中性能一般。提出一种基于图注意力网络改进的多邻域感知网络(MNAN)模型,用于实体对齐。使用基于BERT的多语言预训练模型得到实体及多邻域的初始特征,通过带有Highway Networks的图卷积神经网络聚合邻域实体与图结构特征,利用多邻域感知和实体增强注意力网络聚合实体的多邻域特征,使用最小化基于边际的损失函数训练模型。在石油领域数据资产知识图谱数据集中的2个知识图谱上进行实体对齐实验,实验结果表明,MNAN模型优于所有对比的基于图神经网络实体对齐模型,Hits@1值达86.7%,优于表现最好的对比模型约2.3个百分点。

基于多级特征融合和强化学习的多模态实体对齐

针对传统实体对齐方法未充分利用多模态信息,且在特征融合时未考虑模态间潜在的交互影响等问题,该文提出了一种多模态实体对齐方法,旨在充分利用实体的不同模态特征,在不同多模态知识图谱中找到等价实体。首先通过不同的特征编码器获得属性、关系、图像和图结构的嵌入表示,同时引入数值模态以增强实体语义信息;其次在特征融合阶段,在对比学习的基础上同时进行跨模态互补性和相关性建模,并引入强化学习优化模型输出,减小获得的联合嵌入和真实模态嵌入之间的异构差异;最后计算两个实体之间的余弦相似度,筛选出候选对齐实体对,并将其迭代加入对齐种子,指导新的实体对齐。实验结果表明,该文所提方法在多模态实体对齐任务中是有效的。

基于通道组合-数据对齐-多尺度全局CNN的MI-EEG分类

由于运动想象脑机接口(MI-BCI)范式不需要视觉刺激,应用MI-BCI范式在提高人机交互系统舒适度方面具有重要意义。为实现辅助设备的异步控制,提高模型的鲁棒性,减少通道使用数量以降低BCI系统输入的复杂性,提出一种基于通道组合(channel combination,CC)-数据对齐(euclidean space data alignment,EA)-多尺度全局卷积神经网络(multiscale global convolutional neural network,MGCNN)的运动想象脑电分类方法。通过引入大脑静息状态下的脑电信号,扩展MI-BCI输出指令集;利用CC将22通道脑电数据重构为左右对称通道加中间通道的3通道形式,重构后的数据经过EA方法规范后作为网络输入;构建多尺度卷积模块与全局卷积模块,并行提取脑电信号的局部特征和ERS/ERD全局特征;利用迁移学习提升模型的解码能力。结果表明:该方法在BCI Competition IV 2a数据集上达到了99.28%的平均准确率和0.99的Kappa值,提高了运动想象脑电分类精度,为在线异步运动想象脑机接口的应用与发展作出了贡献。

基于跨模态引导和对齐的多模态预训练方法

现有的视觉语言多模态预训练方法仅在图像和文本的全局语义上进行特征对齐,对模态间细粒度特征交互的探索不足.针对这一问题,本文提出了一种基于跨模态引导和对齐的多模态预训练方法.该方法在模态特征提取阶段,采用基于视觉序列压缩的双流特征提取网络,在视觉编码器中联合图像和文本信息逐层引导视觉序列压缩,缓解与文本无关的冗余视觉信息对模态间细粒度交互的干扰;在模态特征对齐阶段,对图像和文本特征进行细粒度关系推理,实现视觉标记与文本标记的局部特征对齐,增强对模态间细粒度对齐关系的理解.实验结果表明,本文方法能够更好地对齐视觉文本的细粒度特征,在图文检索任务中,微调后的图像检索和文本检索的平均召回率分别达到了86.4%和94.88%,且零样本图文检索的整体指标相较于经典图文检索算法CLIP(Contrastive Language-Image Pre-training)提升了5.36%,在视觉问答等分类任务中,准确率也优于目前主流多模态预训练方法.

基于联合深度统计特征对齐的鱼类目标识别方法

水下鱼类目标识别技术是认识海洋、经略海洋、向海图强的重要技术之一.基于深度学习的水下目标识别技术已成为研究热点,但是针对水下鱼类数据小样本甚至零样本识别性能亟待提高.本文基于迁移学习,提出了联合深度统计特征对齐(Joint Deep Statistical Feature Alignment, JDSFA)方法,解决小样本下的鱼类目标识别问题.以ResNet-50作为骨干网络,将均方和协方差纳入权重选择算法用来构建自适应损失函数,对齐源域和目标域之间的特征分布,联合源域损失与领域间的自适应损失,设计全局损失函数,建立深度学习识别模型,实现鱼类目标识别任务.利用公开的水下鱼类数据集QUT进行实验验证,相比目前代表性的DADAN、PMTrans、DSAN方法,JDSFA方法的鱼类识别性能分别提升了3.59%、4.96%、5.91%,结果表明了本文JDSFA方法的有效性,并对鱼类目标识别具有良好的应用价值.

数据治理视角下AI大模型价值对齐的困境与应对

AI大模型正广泛应用于人类社会生活,存在违反人类价值标准的风险。如何实现AI大模型应用与人类价值判断相匹配,AI大模型价值对齐成为当前人工智能领域重要议题之一。文章依据先进信息技术融入人类社会的结构化过程,指出AI大模型价值对齐的内在困境,从数据治理视角分析形成原因和突围方法,为实现AI大模型价值对齐提供新思路。

人与大模型的共在与双重对齐:一种未来发生学的方法

大模型是一种未来历史。未来历史的关键在于其在某种程度上逆转了时间箭头。在伽达默尔的“效果历史”的概念基础上,笔者进一步提出“效果未来”的概念。效果未来的展开需要依赖一种新的方法论,即未来发生学。传统发生学的基本逻辑是用现在的知识还原历史。未来发生学的关键则是用现在的知识构造未来和推断未来。在未来发生学的展开过程中,猜想至关重要。当然,这种猜想不能成为天马行空的无约束想象,而应该是一种有约束想象。人与大模型的互动过程存在三重境界:工具、游戏和生存。这三重境界的关键是人与大模型的关系。人与机器的关系形式同样可以被分为三种:外在、内在与共在。有待的共在体现在人们对大模型的高度依赖,而真正的共在则要走向一种无待的共在,或者说是一种非依赖性的共在。人类与大模型的共在不仅要体现为大模型对人类的对齐,同时也要体现出人类向大模型的对齐。双重对齐还意味着人类需要与大模型形成伽达默尔所强调的视域融合。

一种联合指导嵌入的实体对齐方法

实体对齐是知识图谱完善过程中必不可少的环节,当前实体对齐工作中利用了许多实体属性的信息,忽略了实体和本体之间的联系.针对实体对齐问题中缺少本体概念知识信息的问题,提出一种由实体属性和本体自下而上共同指导及联合嵌入的实体对齐方法.该方法首先对本体信息、实体信息、实体属性信息进行嵌入,之后通过本体类别信息和种子词进行本体类冲突构建、再经过本体和实体属性进行嵌入指导,最终将得到的实体对加入到种子词中并通过全连接网络进行迭代的训练.在公共数据集上进行了大量实验,使用Hits@1,Hits@5,MRR值作为模型的评价指标,并通过对比实验和消融实验验证了该模型的有效性.

技术扩散基础上的整体性对齐:大模型的开源与闭源之争

大模型的开闭源是目前一个重要的争论点,这种争论主要集中在效率问题、安全问题以及平等化与民主化问题上。促使大模型开源的动力主要来源于两个方面:一是开源大模型在市场上的独特优势所带来的经济利益;二是带有一定理想主义色彩的开发者对技术平等和技术民主的追求。大模型开源亦面临一些挑战,包括经济效益挑战、社会加速挑战和社会安全挑战。后两种挑战需要人类社会进行应对,包括两种方式,一是通过适当的闭源来缓冲技术扩散的速度,二是通过对齐技术来对大模型进行人类社会规则约束。大模型对齐应当是整体性的,包括阶梯性的对齐、人与大模型的双重对齐和大模型生产全过程对齐三个基本方面,而其实现机制包括透明性机制和协商机制。