基于概率模型检查的树模型公平性验证方法

如今,越来越多的社会决策借助机器学习模型给出,包括法律决策、财政决策等等.对于这些决策,算法的公平性是极为重要的.事实上,在这些环境中引入机器学习的目的之一,就是为了规避或减少人类在决策过程中存在的偏见.然而,数据集常常包含敏感特征,或可能存在历史性偏差,会使得机器学习算法产生带有偏见的模型.由于特征选择对基于树的模型具有重要性,它们容易受到敏感属性的影响.提出一种基于概率模型检查的方法,以形式化验证决策树和树集成模型的公平性.将公平性问题转换为概率验证问题,为算法模型构建PCSP#模型,并使用PAT模型检查工具求解,以不同定义的公平性度量衡量模型公平性.基于该方法开发了FairVerify工具,并在多个基于不同数据集和复合敏感属性的分类器上验证了不同的公平性度量,展现了较好的性能.与现有的基于分布的验证器相比,该方法具有更高的可扩展性和鲁棒性.

基于手机客户端的可验证摇号系统

设计了基于手机-网络平台的具有短信收发功能的可验证电子摇号系统,保证了摇号结果的随机性、公平性、可验证性,并满足了客户参与的匿名性、高效性。只要参与者中有一个成员的选择是随机的,最终的结果就具有可验证随机性,可广泛应用于保障电子商务活动的公平公正。

基于网络的可验证电子摇号系统的开发及实现

本文基于可验证随机数构造理论,设计了基于网络平台的可验证电子摇号系统,使电子摇号系统的结果不仅公平公正,而且满足各方的可参与性、可验证性的要求,使公平公正性具有可验证性,对于保障电子商务活动的公平性具有重要作用。