生成式人工智能内容可信度评估指标体系报告(演讲版)

2023-2024年间,生成式人工智能迅猛发展。从技术逻辑的角度来讲,大模型是中间件,前端是它的数据来源,后端是用户得到的内容。目前,研究的重点往往聚焦在大模型,也就是中间件上。但是,用中间件来代替前端内容可能出现的风险,对生成式人工智能未来的发展存在着一个巨大的隐患。对生成式人工智能生成出来的内容从可信度的角度进行评估,是我们这个项目的初衷。Trust worthy AI,这是世界上的一个共识,从欧盟到经合组织,到美国相关的技术部门,统统都认同世界AI的未来一定是基于可信的,而不是可用的。