文件系统可靠管理方法研究

针对系统突发掉电情况下文件系统的可靠性问题,研究一种文件系统可靠管理方法,采用元数据事务管理技术,在数据更新时采用写时拷贝技术实现异地更新,采用PING PONG日志管理技术,对文件系统的空间和节点分配情况采用两级日志进行维护,系统维护两份事务点日志记录;通过逻辑卷管理关键数据的冗余存储,防止掉电时超级块数据被破坏引起系统无法正常启动。测试表明方法能够解决突发掉电情况下文件系统状态的一致性问题,实现文件系统的可靠管理。

基于分区操作系统的文件系统设计

研究涉及一种基于分区操作系统的文件系统设计方法,解决分区操作系统下文件的安全访问问题。分区操作系统资源、空间彼此隔离,文件系统用于管理分区数据,不能违背数据资源的隔离需求。为此,通过将文件系统部署在分区操作系统的分区;分区内和分区外采用两层分区安全访问控制;采用快照管理实现文件系统自身对并行文件访问需求,实现文件系统设计。通过测试表明,该方法能够在满足分区操作系统设计约束下,实现文件的安全访问。

基于Isabelle/HOL的文件系统形式化设计与验证

对于构建可信操作系统而言,文件系统设计和实现的正确性至关重要,即使是已经得到广泛运用的文件系统仍然有漏洞被检测出来。采用形式化方法对文件系统的设计和实现的正确性进行严格的验证是公认的可行方法。当前文件系统的形式化验证工作大多基于宏内核操作系统,而忽视了微内核操作系统架构下文件系统的验证。为此,提出一种微内核架构下采用内联数据机制的文件系统的形式化设计和验证方法。以高阶逻辑(HOL)和自动机模型为基础,将文件系统中的工作对象和系统资源抽象为系统对象来构建文件系统的工作状态,形式化地描述文件系统的相关系统调用的功能语义,将系统调用提供服务的过程抽象为系统工作状态发生跃迁的过程,并给出文件系统功能正确性和安全属性的断言。以实现的安全可信微内核操作系统(VSOS)中的安全可信文件系统(VSFS)为例,在设计阶段构建VSFS的有限状态机模型,并在Isabelle/HOL中抽象描述VSFS的可移植操作系统接口(POSIX)系统调用,分析和归纳出VSFS文件系统正确性断言,使用定理证明的方式来验证VSFS的正确性。实验结果表明,该方法在Isabella/HOL中完成VSFS有限状态机模型细粒度的形式化验证,满足预期的安全需求规范。

内存高效的持久性分布式文件系统客户端缓存DFS-Cache

为了在数据密集型工作流下有效降低缓存碎片整理开销并提高缓存命中率,提出一种持久性分布式文件系统客户端缓存DFS-Cache(Distributed File System Cache)。DFS-Cache基于非易失性内存(NVM)设计实现,能够保证数据的持久性和崩溃一致性,并大幅减少冷启动时间。DFS-Cache包括基于虚拟内存重映射的缓存碎片整理机制和基于生存时间(TTL)的缓存空间管理策略。前者基于NVM可被内存控制器直接寻址的特性,动态修改虚拟地址和物理地址之间的映射关系,实现零拷贝的内存碎片整理;后者是一种冷热分离的分组管理策略,借助重映射的缓存碎片整理机制,提升缓存空间的管理效率。实验采用真实的Intel傲腾持久性内存设备,对比商用的分布式文件系统MooseFS和GlusterFS,采用Fio和Filebench等标准测试程序,DFS-Cache最高能提升5.73倍和1.89倍的系统吞吐量。

Linux虚拟文件系统层的路径检索加速

为解决Linux内核传统路径检索日益凸显的开销问题,提出Staged Lookup以加速路径检索,通过动态缓存热目录来减少文件访问的时延。Staged Lookup的核心在于缓存频繁使用的目录项,从而避免从根节点重复遍历路径。不同于从根结点开始的检索操作,Staged Lookup扩展了搜索策略,允许从最近缓存的目录项向后或向前进行路径检索。在Linux内核版本3.14和5.4上部署Staged Lookup的原型,并开展实际系统测试。实验数据显示,相比于传统的路径检索方式,Staged Lookup能实现高达46.9%的性能提升。

基于ExFAT的高速记录文件系统的设计与实现

文件系统作为数据记录系统的关键组件,对于高速记录设备的性能至关重要。在深入分析高速记录系统对文件需求的基础上,对ExFAT文件系统进行了创新型扩展,开发新型文件系统JFAT。JFAT集成了日志功能,提高了数据的可靠性,并具备掉电恢复能力,从而增强了记录系统的稳定性。此外,JFAT显示出良好的兼容性,支持Linux、VxWorks等多种主流操作系统,使其可以作为系统安装盘使用。通过结合快速读写通道、TRIM指令、文件预分配等软硬件优化方法,JFAT充分利用了硬件性能。在实际应用中,使用JFAT的数据记录模块实现了单模块数据记录速度达到7.6 GB/s,已被应用于某型数据记录设备。JFAT不仅提升了文件系统的效率和可靠性,也为高速数据记录设备的发展提供了新的技术支持。

一种基于HDFS的分布式文件系统MPIFS

传统的MPI(Message Passing Interface)计算特点是数据向计算迁移,对于数据量庞大的计算任务具有先天的不足。文中提出一种支持MPI的分布式文件系统MPIFS的架构及实现。该文件系统基于HDFS(Hadoop Distributed File System),使得MPI在MPIFS上能同时支持计算密集型和数据密集型计算,设置两个类型的批处理词频统计实验,所需数据都分布式存储在MPIFS分布式文件系统中,通过调用系统提供的统一数据接口实现数据访问。1个计算节点在本地计算大小为m的文件,n个计算节点分布式并行计算大小为n×m的文件,两者计算时间相同,MPIFS中文件总量不变,计算节点数量减少,计算时间t变长,可得出MPIFS文件系统架构可行,能够支持MPI实现计算向数据迁移的并行计算。

基于自主平台文件系统高可用技术研究

为了解决传统高可用集群依赖共享存储的问题,通过在文件系统驱动中添加I/O过滤模型的方式,实现了双节点情况下主备机器上文件系统数据的双写技术,当主机上应用程序写入文件系统数据时,I/O数据能够在文件系统层被实时同步到备机上,当主机宕机后,备机上的应用程序重新挂载备机上的文件系统,原有文件系统数据不丢失。

大型风力发电机组中文件系统的设计与应用

在工业自动化控制系统中,运行参数的读取与运行数据的记录是其必备的功能,因此需要一套文件系统来对数据文件的创建、读取、写入等功能进行管理。在风力发电主控系统中,对文件系统提出了更为具体的要求。针对大型风力发电机组运行过程中对文件的应用需求,设计了一套功能丰富、使用方便、可移植性好的文件系统。该系统目前已应用到大型风力发电机组中,并在其他工控领域的控制系统中具有一定的普适性。

跨语言用户态文件系统框架读写性能优化

以深度学习为代表的数据分析应用越来越多依赖分布式文件系统存储管理大规模数据集.为了增强数据访问的兼容性,现有分布式文件存储系统通常需提供标准POSIX接口,以支持深度学习等应用的无缝对接.然而,以内核模块形态开发提供POSIX接口的文件系统非常复杂耗时.近年来,用户态文件系统(Filesystem in Userspace,FUSE)框架大幅简化了文件系统的开发工作,已被Alluxio和Ceph等诸多知名分布式文件系统使用.目前常用的用户态FUSE库libfuse仅提供C语言编程接口,但现有大数据分布式文件系统基本都是基于Java语言开发的(例如HDFS和Alluxio等),为了使基于Java语言开发的分布式文件系统可以对接C语言开发的FUSE库,需采用跨语言FUSE框架作为中介.跨语言FUSE框架利用跨编程语言的函数回调机制,使操作系统FUSE库的C语言函数可以跨语言的调用分布式文件系统提供的Java语言编程接口,从而为大数据分布式文件系统提供标准POSIX接口的访问能力.但在数据密集型应用中,现有跨语言FUSE框架的执行效率低,导致数据密集型作业(深度学习、大数据分析等)中数据I/O耗时占据了显著的性能开销,成为新的潜在性能瓶颈.针对此问题,本文首先评估分析了重要且广为使用的跨语言FUSE框架JNR-FUSE的性能,发现并定位其在高并发和小文件场景下存在的性能瓶颈;接着从多方面剖析性能瓶颈根因,进而总结出高效跨语言FUSE框架的性能优化方向,并面向Java语言设计实现了跨语言FUSE框架JNI-FUSE.JNI-FUSE利用延迟分离和元信息缓存等优化技术降低跨语言函数回调开销,从而提升跨语言FUSE框架的性能.实验结果表明,对比当前性能最好的Java FUSE框架JNR-FUSE,本文提出的JNI-FUSE带来了1.15~6.04倍的FUSE框架性能提升和1.90~2.71倍的文件系统端到端性能提升,并为上层深度学习训练任务带来了1.06~1.73倍的训练加速.本文设计提出的JNI-FUSE(Java Native Interface-Filesystem in User SpacE)因性能优势,已被知名开源分布式文件系统Alluxio官方接受集成.

基于有限状态机的电口模块Flash初始化系统设计与实现

在10GBASE-T RJ45 SFP+模块生产过程中,常用的生产方式是在贴片前对Flash进行烧录,当出现固件更新、烧录出错的情况时,模块无法方便地实现反复烧录。分析并提出了一种基于有限状态机的初始化系统,并在自主设计的模块中进行了实验验证。在上位机之中存储固件数据,并对初始化流程进行整体控制;在MCU之中完成一个有限状态机,并通过MDIO控制PHY芯片,将数据写入到Flash之中,同时通过CRC完成固件数据的校验。测试结果表明,该系统能够实现模块在贴片后的重复烧录工作,减少88.55%的返工时间。

面向DNN的高并发NVM文件系统

DNN训练中需要反复频繁读写海量参数,NVM具有读写速度快的优势,是提高DNN训练效率的有效手段.但现有的NVM文件系统为了应对上层多种复杂的应用普遍使用基于文件的锁机制,难以利用多核并发读写提高DNN训练中对海量参数的I/O效率.本文针对DNN训练时的特性和NVM中存在的I/O软件栈的挑战,设计了基于并发线程的细粒度锁和基于两层日志的文件并发I/O机制,并实现了面向DNN高并发NVM文件系统的原型DNNFS,使用Filebench和Fio在多种不同类型负载下进行了测试,实验结果表明DNNFS相比NOVA最大能提高35.8%的IOPS值和21.6%的I/O带宽.

一种基于差分进化的Flash文件系统垃圾回收算法

垃圾回收算法对于Flash文件系统具有十分重要的意义.本文针对已有垃圾回收算法在存储容量剩余较小时垃圾回收性能急剧下降进而影响写入速率的问题,采用最优化方法,提出并实现了一种基于差分进化的垃圾回收算法.该算法能够使得垃圾回收的代价均匀化,在保证性能和损耗均衡的前提下,减少擦除次数,延长Flash寿命.实验结果验证了该算法的有效性.

分布式嵌入式文件系统的设计

针对当前航空电子分布式嵌入式计算机目前采用NFSV3协议网络文件系统,存在单点故障、服务器性能瓶颈,以及嵌入式环境各种资源受限等约束等问题,提出了基于集群架构的分布式嵌入式文件系统方案。总体架构定义了客户端-元数据服务器-数据服务器分布式文件管理集群架构,透明访问设计采用了精简三级统一路径名和文件服务接口子集;分布式通信设计采用了基于DDS的RPC服务框架,分块及布局管理设计采用表驱动的动态分配方式实现了文件的分块和多副本管理,元数据服务器容错设计采用HA高可用主从数据库方式实现主从元数据服务器状态的实时同步。最后通过搭建分布式嵌入式计算机测试环境,验证了原型系统的功能和性能。

基于FLASH存储器的嵌入式文件系统的设计与实现

基于FLAS存储器的嵌入式文件系统要求:实现数据可维护性;提高数据安全性;针对FLASH的特性进行合理的优化。我们以嵌入式操作系统ASIX OS中的文件系统为实例,从存储空间管理,文件实现,目录实现,多任务的实现四个方面描述文件系统基本功能的设计,接着提出了针对FLASH作为存储介质的嵌入式文件系统的优化设计。

大容量NAND Flash文件系统中的地址映射算法研究

随着Flash芯片容量的日益增长,如何设计低空间复杂度的Flash管理算法已经成为RAM空间受限的嵌入式存储系统的一个关键问题.本文根据文件在Flash介质上连续存放的特性,引入区段的概念,提出基于极大映射区段的地址映射算法,并使用简单的数据结构和高效的算法来维护映射中的区段,大大减小了Flash文件系统的RAM用量.最后,通过不同应用负载的实验验证了该算法的有效性.在部分应用负载下,可降低高达95%的RAM使用量.

文件系统通用技术框架设计

传统的文件系统产品多样,对操作系统服务依赖性强,跨平台应用能力差,针对此问题提出一种文件系统通用技术框架。该框架结构设计文件管理接口层用于提供通用标准接口的访问及多种类型文件系统的统一管理;设计平台抽象层用于屏蔽底层存储设备及操作系统的差异,实现异构平台支持。测试验证表明该框架设计能够实现异构平台下通用文件系统设计,能够实现操作系统、存储设备、不同文件系统的抽象,以较小的改动实现多平台支持,并逐渐实现代码复用减少研发成本。

基于TrueFFS的Flash文件系统在数据获取系统中的应用

Flash器件作为一种非易失存储器件,已经广泛应用在各种嵌入式系统中。但是Flash器件的可擦除寿命有限,需要块擦除等特性,使得在实际应用中,往往需要专用的软件模块,以简化器件的使用,延长寿命。TrueFFS是一种受到VxWorks操作系统支持的FLASH模块。在使用上,对于特定的硬件需要自己编写驱动,并对VxWorks内核做相应的配置。主要介绍了在VxWorks5.4和MotorolaMVME5100上TrueFFS文件系统的开发及配置,以及在BESIII数据获取系统中的应用。

大容量NAND Flash文件系统转换层优化设计

针对基于NAND Flash转换层(NFTL)架构的Flash文件系统在大容量NAND Flash设备上存在的性能不足,本文分析了NFTL的存储管理机制,基于vxworks嵌入式系统平台提出了对NFTL模块的优化设计方法并进行了具体实现。实验表明,优化后的NFTL模块有效提高了文件系统的读写性能,缩短了加载时间。

Flash文件系统的研究与设计

Flash文件系统(FFS)已经成为嵌入式系统中数据存储和数据管理的一个热点。对Flash文件系统结构和功能作了详细深入的研究分析,针对在无OS环境下的应用,提出了一个完整的设计方案。