Google文件系统的负载控制研究

Google文件系统是一个典型的、可扩展的集群文件系统,适用于大型的、分布式的、对大量数据进行访问的应用。指出了Google的一点不足之处,即缺乏负载控制。为实现对负载的控制,采用泊松过程对数据服务器的负载进行预测,再通过对本地CPU、内存等资源的监控对预测结果作修正。

文件系统可靠管理方法研究

针对系统突发掉电情况下文件系统的可靠性问题,研究一种文件系统可靠管理方法,采用元数据事务管理技术,在数据更新时采用写时拷贝技术实现异地更新,采用PING PONG日志管理技术,对文件系统的空间和节点分配情况采用两级日志进行维护,系统维护两份事务点日志记录;通过逻辑卷管理关键数据的冗余存储,防止掉电时超级块数据被破坏引起系统无法正常启动。测试表明方法能够解决突发掉电情况下文件系统状态的一致性问题,实现文件系统的可靠管理。

基于分区操作系统的文件系统设计

研究涉及一种基于分区操作系统的文件系统设计方法,解决分区操作系统下文件的安全访问问题。分区操作系统资源、空间彼此隔离,文件系统用于管理分区数据,不能违背数据资源的隔离需求。为此,通过将文件系统部署在分区操作系统的分区;分区内和分区外采用两层分区安全访问控制;采用快照管理实现文件系统自身对并行文件访问需求,实现文件系统设计。通过测试表明,该方法能够在满足分区操作系统设计约束下,实现文件的安全访问。

基于联盟区块链和星际文件系统的安全租房方案

近年来租房市场蓬勃发展,各种租房平台应运而生。但现有的租房平台中心化问题严重,一旦中心服务器遭到破坏,容易引起单点失败问题,同时泄露用户的隐私。联盟区块链以分布式方式存储数据和执行合约,不依赖单个节点的可用性,即使某个中心节点失效,其他节点仍然可以继续运行和验证交易,确保系统的持续稳定性和安全性。提出一个基于联盟区块链和星际文件系统(IPFS)的安全租房方案。在方案中,房东通过预设访问策略对房源数据进行属性基加密,以实现数据的机密性和安全的细粒度访问控制。采用多关键词排序搜索,只返回最符合用户需求的前k个文件,从而提高搜索精度,同时节省网络带宽资源。最后,在区块链节点上部署搜索智能合约和验证智能合约用于陷门与索引的匹配以及搜索结果正确性的检验,同时为用户引入信誉智能合约和支付智能合约,前者用于量化信誉度,后者用于实现自动化执行租赁合约。安全性证明和性能分析表明,该方案达到了选择明文安全性及较高的搜索效率。

基于Isabelle/HOL的文件系统形式化设计与验证

对于构建可信操作系统而言,文件系统设计和实现的正确性至关重要,即使是已经得到广泛运用的文件系统仍然有漏洞被检测出来。采用形式化方法对文件系统的设计和实现的正确性进行严格的验证是公认的可行方法。当前文件系统的形式化验证工作大多基于宏内核操作系统,而忽视了微内核操作系统架构下文件系统的验证。为此,提出一种微内核架构下采用内联数据机制的文件系统的形式化设计和验证方法。以高阶逻辑(HOL)和自动机模型为基础,将文件系统中的工作对象和系统资源抽象为系统对象来构建文件系统的工作状态,形式化地描述文件系统的相关系统调用的功能语义,将系统调用提供服务的过程抽象为系统工作状态发生跃迁的过程,并给出文件系统功能正确性和安全属性的断言。以实现的安全可信微内核操作系统(VSOS)中的安全可信文件系统(VSFS)为例,在设计阶段构建VSFS的有限状态机模型,并在Isabelle/HOL中抽象描述VSFS的可移植操作系统接口(POSIX)系统调用,分析和归纳出VSFS文件系统正确性断言,使用定理证明的方式来验证VSFS的正确性。实验结果表明,该方法在Isabella/HOL中完成VSFS有限状态机模型细粒度的形式化验证,满足预期的安全需求规范。

一种基于HDFS的分布式文件系统MPIFS

传统的MPI(Message Passing Interface)计算特点是数据向计算迁移,对于数据量庞大的计算任务具有先天的不足。文中提出一种支持MPI的分布式文件系统MPIFS的架构及实现。该文件系统基于HDFS(Hadoop Distributed File System),使得MPI在MPIFS上能同时支持计算密集型和数据密集型计算,设置两个类型的批处理词频统计实验,所需数据都分布式存储在MPIFS分布式文件系统中,通过调用系统提供的统一数据接口实现数据访问。1个计算节点在本地计算大小为m的文件,n个计算节点分布式并行计算大小为n×m的文件,两者计算时间相同,MPIFS中文件总量不变,计算节点数量减少,计算时间t变长,可得出MPIFS文件系统架构可行,能够支持MPI实现计算向数据迁移的并行计算。

内存高效的持久性分布式文件系统客户端缓存DFS-Cache

为了在数据密集型工作流下有效降低缓存碎片整理开销并提高缓存命中率,提出一种持久性分布式文件系统客户端缓存DFS-Cache(Distributed File System Cache)。DFS-Cache基于非易失性内存(NVM)设计实现,能够保证数据的持久性和崩溃一致性,并大幅减少冷启动时间。DFS-Cache包括基于虚拟内存重映射的缓存碎片整理机制和基于生存时间(TTL)的缓存空间管理策略。前者基于NVM可被内存控制器直接寻址的特性,动态修改虚拟地址和物理地址之间的映射关系,实现零拷贝的内存碎片整理;后者是一种冷热分离的分组管理策略,借助重映射的缓存碎片整理机制,提升缓存空间的管理效率。实验采用真实的Intel傲腾持久性内存设备,对比商用的分布式文件系统MooseFS和GlusterFS,采用Fio和Filebench等标准测试程序,DFS-Cache最高能提升5.73倍和1.89倍的系统吞吐量。

Linux虚拟文件系统层的路径检索加速

为解决Linux内核传统路径检索日益凸显的开销问题,提出Staged Lookup以加速路径检索,通过动态缓存热目录来减少文件访问的时延。Staged Lookup的核心在于缓存频繁使用的目录项,从而避免从根节点重复遍历路径。不同于从根结点开始的检索操作,Staged Lookup扩展了搜索策略,允许从最近缓存的目录项向后或向前进行路径检索。在Linux内核版本3.14和5.4上部署Staged Lookup的原型,并开展实际系统测试。实验数据显示,相比于传统的路径检索方式,Staged Lookup能实现高达46.9%的性能提升。

基于ExFAT的高速记录文件系统的设计与实现

文件系统作为数据记录系统的关键组件,对于高速记录设备的性能至关重要。在深入分析高速记录系统对文件需求的基础上,对ExFAT文件系统进行了创新型扩展,开发新型文件系统JFAT。JFAT集成了日志功能,提高了数据的可靠性,并具备掉电恢复能力,从而增强了记录系统的稳定性。此外,JFAT显示出良好的兼容性,支持Linux、VxWorks等多种主流操作系统,使其可以作为系统安装盘使用。通过结合快速读写通道、TRIM指令、文件预分配等软硬件优化方法,JFAT充分利用了硬件性能。在实际应用中,使用JFAT的数据记录模块实现了单模块数据记录速度达到7.6 GB/s,已被应用于某型数据记录设备。JFAT不仅提升了文件系统的效率和可靠性,也为高速数据记录设备的发展提供了新的技术支持。

基于自主平台文件系统高可用技术研究

为了解决传统高可用集群依赖共享存储的问题,通过在文件系统驱动中添加I/O过滤模型的方式,实现了双节点情况下主备机器上文件系统数据的双写技术,当主机上应用程序写入文件系统数据时,I/O数据能够在文件系统层被实时同步到备机上,当主机宕机后,备机上的应用程序重新挂载备机上的文件系统,原有文件系统数据不丢失。

面向车载场景的纠删码文件系统设计与实现

车载传感器与车联网的普及可将低成本且可靠的海量数据存储需求引入车载场景。针对该需求,文章综合考虑数据编码方式、存储结构以及错误恢复机制等车载环境对文件系统的特殊需求,设计并实现了基于纠删码的文件系统(ECFS),并基于开源Fuse文件系统实现了ECFS原型。应用结果表明,在ECFS中,存储空间不仅存放文件的原始数据,还可存放由原始数据生成的冗余数据,且当页面故障发生时,该系统可利用冗余数据修复原始数据,从而避免数据丢失。通过实际测试发现,ECFS具有较高的读写性能,并能够快速修复页面级错误数据。

大型风力发电机组中文件系统的设计与应用

在工业自动化控制系统中,运行参数的读取与运行数据的记录是其必备的功能,因此需要一套文件系统来对数据文件的创建、读取、写入等功能进行管理。在风力发电主控系统中,对文件系统提出了更为具体的要求。针对大型风力发电机组运行过程中对文件的应用需求,设计了一套功能丰富、使用方便、可移植性好的文件系统。该系统目前已应用到大型风力发电机组中,并在其他工控领域的控制系统中具有一定的普适性。

网络新媒体视阈下客家议题在日传播特征分析——基于日本Google News的考察

以日本Google News中的客家相关日文报道为语料,通过文本挖掘工具KH Coder进行文本数据挖掘,发现日本网络新闻媒体的客家议题日文报道具有分布零散性及以图片报道为主的特点。报道关注的客家区域主要涉及台湾地区、福建、香港地区、广东等地,其中,台湾地区的客家关注度最高。报道聚焦客家的观光旅游、产业振兴、客家书籍出版等相关内容,形成了客家传统建筑类、台湾地区客家文化交流类、客家文学作品推介类、客家观光旅游类等四大主要议题。本文提出要充分运用Google News等网络新媒体强大的技术功能和传播优势加大客家文化的传播力度。

跨语言用户态文件系统框架读写性能优化

以深度学习为代表的数据分析应用越来越多依赖分布式文件系统存储管理大规模数据集.为了增强数据访问的兼容性,现有分布式文件存储系统通常需提供标准POSIX接口,以支持深度学习等应用的无缝对接.然而,以内核模块形态开发提供POSIX接口的文件系统非常复杂耗时.近年来,用户态文件系统(Filesystem in Userspace,FUSE)框架大幅简化了文件系统的开发工作,已被Alluxio和Ceph等诸多知名分布式文件系统使用.目前常用的用户态FUSE库libfuse仅提供C语言编程接口,但现有大数据分布式文件系统基本都是基于Java语言开发的(例如HDFS和Alluxio等),为了使基于Java语言开发的分布式文件系统可以对接C语言开发的FUSE库,需采用跨语言FUSE框架作为中介.跨语言FUSE框架利用跨编程语言的函数回调机制,使操作系统FUSE库的C语言函数可以跨语言的调用分布式文件系统提供的Java语言编程接口,从而为大数据分布式文件系统提供标准POSIX接口的访问能力.但在数据密集型应用中,现有跨语言FUSE框架的执行效率低,导致数据密集型作业(深度学习、大数据分析等)中数据I/O耗时占据了显著的性能开销,成为新的潜在性能瓶颈.针对此问题,本文首先评估分析了重要且广为使用的跨语言FUSE框架JNR-FUSE的性能,发现并定位其在高并发和小文件场景下存在的性能瓶颈;接着从多方面剖析性能瓶颈根因,进而总结出高效跨语言FUSE框架的性能优化方向,并面向Java语言设计实现了跨语言FUSE框架JNI-FUSE.JNI-FUSE利用延迟分离和元信息缓存等优化技术降低跨语言函数回调开销,从而提升跨语言FUSE框架的性能.实验结果表明,对比当前性能最好的Java FUSE框架JNR-FUSE,本文提出的JNI-FUSE带来了1.15~6.04倍的FUSE框架性能提升和1.90~2.71倍的文件系统端到端性能提升,并为上层深度学习训练任务带来了1.06~1.73倍的训练加速.本文设计提出的JNI-FUSE(Java Native Interface-Filesystem in User SpacE)因性能优势,已被知名开源分布式文件系统Alluxio官方接受集成.

面向DNN的高并发NVM文件系统

DNN训练中需要反复频繁读写海量参数,NVM具有读写速度快的优势,是提高DNN训练效率的有效手段.但现有的NVM文件系统为了应对上层多种复杂的应用普遍使用基于文件的锁机制,难以利用多核并发读写提高DNN训练中对海量参数的I/O效率.本文针对DNN训练时的特性和NVM中存在的I/O软件栈的挑战,设计了基于并发线程的细粒度锁和基于两层日志的文件并发I/O机制,并实现了面向DNN高并发NVM文件系统的原型DNNFS,使用Filebench和Fio在多种不同类型负载下进行了测试,实验结果表明DNNFS相比NOVA最大能提高35.8%的IOPS值和21.6%的I/O带宽.

基于Google earth engine渭-库绿洲果园遥感提取

针对干旱区果园大面积遥感提取困难、识别精度低等问题,本研究基于GEE(Google earth engine)平台,综合应用Sentinel-1/Sentinel-2影像构建特征集。通过对比原始特征组合、Jeffries-Matusita(J-M)距离、属性重要度3种优化方式,结合随机森林(Random forest,RF)分类方法,对比得到最佳优化方式,探索果园最优分类特征集。结果表明:识别效果最好的方案为G17 JM,总体精度为91.25%,kappa系数为0.89,面积精度为82.55%。最优特征集为B8_asm、B8_ent、B8_idm、NDVI re3、B6、B7、a、e、b、EVI、B11、B8A、B8、VV。使用J-M距离进行特征集优化,有效降低数据量、提高计算效率,更有利于精确遥感识别果园种植面积。表明GEE快速、准确获取果园种植面积的可行性,为获取果园动态变化提供强有力的基础。

基于GoogleEarthEngine的黄土高原植被覆盖度时空变化特征分析

[目的]探究黄土高原植被覆盖度变化的时空特征,揭示植被对气候因子变化的时滞效应,进而为地区生态保护与高质量发展提供数据支撑。[方法]基于2001年至2020年的黄土高原地区NDVI数据、气温和降水数据,利用像元二分法、一元线性回归和时滞偏相关分析等方法,开展地区植被与气候因子变化关系的研究。[结果]过去20年间,黄土高原植被覆盖度以0.076/10 a的速率增加,在空间上主要呈现极显著增加,但占总面积38.29%的区域植被覆盖变化波动较大。黄土高原月植被覆盖度与气温和降水呈现显著正相关关系,其中降水是影响植被变化的主要因素。植被对降水的响应滞后时间主要集中在3个月,而气温的滞后时间在空间上存在较大差异,东南部植被主要滞后0至1个月,而西北部植被主要滞后2至3个月。[结论]黄土高原植被变化主要受降水影响,20年间植被恢复情况良好,但变化波动较大,未来应继续生态保护工作进行巩固。

分布式嵌入式文件系统的设计

针对当前航空电子分布式嵌入式计算机目前采用NFSV3协议网络文件系统,存在单点故障、服务器性能瓶颈,以及嵌入式环境各种资源受限等约束等问题,提出了基于集群架构的分布式嵌入式文件系统方案。总体架构定义了客户端-元数据服务器-数据服务器分布式文件管理集群架构,透明访问设计采用了精简三级统一路径名和文件服务接口子集;分布式通信设计采用了基于DDS的RPC服务框架,分块及布局管理设计采用表驱动的动态分配方式实现了文件的分块和多副本管理,元数据服务器容错设计采用HA高可用主从数据库方式实现主从元数据服务器状态的实时同步。最后通过搭建分布式嵌入式计算机测试环境,验证了原型系统的功能和性能。

文件系统通用技术框架设计

传统的文件系统产品多样,对操作系统服务依赖性强,跨平台应用能力差,针对此问题提出一种文件系统通用技术框架。该框架结构设计文件管理接口层用于提供通用标准接口的访问及多种类型文件系统的统一管理;设计平台抽象层用于屏蔽底层存储设备及操作系统的差异,实现异构平台支持。测试验证表明该框架设计能够实现异构平台下通用文件系统设计,能够实现操作系统、存储设备、不同文件系统的抽象,以较小的改动实现多平台支持,并逐渐实现代码复用减少研发成本。

GeoHash、Google S2和Uber H33种全球地理格网编码方法对比分析

地理格网编码是高效管理、分析和查询海量地理空间位置数据并提供信息服务中非常重要且基础的工作。GeoHash、Google S2和Uber H3是目前商业应用上3种较常用的地理格网编码方法,该文从地理编码的基本概念及其演变过程出发,介绍当前地理编码所涉及的地理格网剖分和编码运算方法,然后从算法概况、编码方式、编码层级及其对应空间范围等方面对3种方法进行阐释,最后从正多面体选择、剖分单元、填充曲线、编码层级、邻域查询与邻域距离类型和算法应用优缺点等方面进行对比分析,以深入挖掘3种方法的应用价值和前景,可为基于地理位置大数据的研究与应用提供借鉴。