数字社会建设中的算法安全风险及其化解策略

建设数字社会是我国社会建设的远景目标。数字社会的运行依托人工智能、区块链、云计算等数字技术。算法则是支撑这些技术运行的基础,是影响数字社会运行的底层逻辑。但受算法漏洞、其他算法的攻击以及算法固有逻辑等的影响,数字社会在运行过程中面临诸如公共权力去中心化危机、算法伦理入侵、算法监控隐忧以及意识形态极化风险等算法安全风险。这不仅会使算法招致逆向的算法攻击,导致算法运行不畅,甚至还会出现算法模型的崩溃,进而削弱政府治理权威,引发社会运行风险,造成国家安全危机。因此,有效克服数字社会的算法安全风险,不仅需要加强算法模型的研发,弥合算法模型漏洞,使算法模型适应不断变化的现实社会运行环境,还需要加强政府数字权威,提升算法的人文关怀,加强对算法的制度规制,以不断提升数字社会质量。

ChatGPT生成式AI的算法安全风险及治理路径研究

针对生成式AI发展要求,基于算法固有的“黑箱”问题,分析了当前生成式AI算法安全所面临的风险,并从健全算法透明体系、加强算法伦理建设、完善算法问责机制等三个方面提出了加强算法安全管理的对策建议。

基于大数据的电力调度运行安全风险预警算法研究

目前的电力调度运行安全风险预警算法的预警时间过长,导致预警结果准确率较低。为解决上述问题,研究了一种新的基于大数据的电力调度运行安全风险预警算法。根据电力系统的电压、有功和设备缺陷构建电力调度运行安全风险指标评估模型,确定评估指标。根据电力调度运行安全风险情况,对每个电力调度任务进行区域划分,以提高风险存在范围的查询速度,将每个具有关联性的指标进行初始化以及编码处理,结合处理结果对电力调度数据风险综合概率进行计算,计算结果若为正数,代表电力调度运行存在风险,立即将该计算结果传输到管理层,利用线性回归算法实现风险预警信息提醒。实验结果表明,基于大数据的电力调度运行安全风险预警算法能够有效缩短预警时间,提高预警准确率。