CRAMFS文件系统在NAND存储器中的应用

针对传统的文件系统不能应用于存在坏块的NAND flash存储器的问题,提出了一种具备坏块管理的CRAMFS文件系统.该文件系统继承了传统CRAMFS文件系统的特性,并针对NAND flash存储器引入坏块管理.该文件系统在嵌入式Linux操作系统中予以实现,并进行了验证.

文件系统可靠管理方法研究

针对系统突发掉电情况下文件系统的可靠性问题,研究一种文件系统可靠管理方法,采用元数据事务管理技术,在数据更新时采用写时拷贝技术实现异地更新,采用PING PONG日志管理技术,对文件系统的空间和节点分配情况采用两级日志进行维护,系统维护两份事务点日志记录;通过逻辑卷管理关键数据的冗余存储,防止掉电时超级块数据被破坏引起系统无法正常启动。测试表明方法能够解决突发掉电情况下文件系统状态的一致性问题,实现文件系统的可靠管理。

基于Isabelle/HOL的文件系统形式化设计与验证

对于构建可信操作系统而言,文件系统设计和实现的正确性至关重要,即使是已经得到广泛运用的文件系统仍然有漏洞被检测出来。采用形式化方法对文件系统的设计和实现的正确性进行严格的验证是公认的可行方法。当前文件系统的形式化验证工作大多基于宏内核操作系统,而忽视了微内核操作系统架构下文件系统的验证。为此,提出一种微内核架构下采用内联数据机制的文件系统的形式化设计和验证方法。以高阶逻辑(HOL)和自动机模型为基础,将文件系统中的工作对象和系统资源抽象为系统对象来构建文件系统的工作状态,形式化地描述文件系统的相关系统调用的功能语义,将系统调用提供服务的过程抽象为系统工作状态发生跃迁的过程,并给出文件系统功能正确性和安全属性的断言。以实现的安全可信微内核操作系统(VSOS)中的安全可信文件系统(VSFS)为例,在设计阶段构建VSFS的有限状态机模型,并在Isabelle/HOL中抽象描述VSFS的可移植操作系统接口(POSIX)系统调用,分析和归纳出VSFS文件系统正确性断言,使用定理证明的方式来验证VSFS的正确性。实验结果表明,该方法在Isabella/HOL中完成VSFS有限状态机模型细粒度的形式化验证,满足预期的安全需求规范。

内存高效的持久性分布式文件系统客户端缓存DFS-Cache

为了在数据密集型工作流下有效降低缓存碎片整理开销并提高缓存命中率,提出一种持久性分布式文件系统客户端缓存DFS-Cache(Distributed File System Cache)。DFS-Cache基于非易失性内存(NVM)设计实现,能够保证数据的持久性和崩溃一致性,并大幅减少冷启动时间。DFS-Cache包括基于虚拟内存重映射的缓存碎片整理机制和基于生存时间(TTL)的缓存空间管理策略。前者基于NVM可被内存控制器直接寻址的特性,动态修改虚拟地址和物理地址之间的映射关系,实现零拷贝的内存碎片整理;后者是一种冷热分离的分组管理策略,借助重映射的缓存碎片整理机制,提升缓存空间的管理效率。实验采用真实的Intel傲腾持久性内存设备,对比商用的分布式文件系统MooseFS和GlusterFS,采用Fio和Filebench等标准测试程序,DFS-Cache最高能提升5.73倍和1.89倍的系统吞吐量。

Linux虚拟文件系统层的路径检索加速

为解决Linux内核传统路径检索日益凸显的开销问题,提出Staged Lookup以加速路径检索,通过动态缓存热目录来减少文件访问的时延。Staged Lookup的核心在于缓存频繁使用的目录项,从而避免从根节点重复遍历路径。不同于从根结点开始的检索操作,Staged Lookup扩展了搜索策略,允许从最近缓存的目录项向后或向前进行路径检索。在Linux内核版本3.14和5.4上部署Staged Lookup的原型,并开展实际系统测试。实验数据显示,相比于传统的路径检索方式,Staged Lookup能实现高达46.9%的性能提升。

基于s3c2410的CramFS根文件系统的移植

根文件系统是构建一个uCLinux嵌入式系统的重要组成部分。目前嵌入式系统可以选择的根文件系统有:Romfs、CramFS、Ramfs、Jffs2、Ext2等等,本系统采用CramFS作为uCLinux嵌入式系统的只读根文件系统。本文讨论了CramFS文件系统的特点,并详细的说明了NorFlash上建立一个uClinux的Cramfs根文件系统的一般步骤。

基于嵌入式Cramfs的根文件系统配置新方法

根文件系统是构建一个Linux嵌入式系统的重要组成部分,目前嵌入式系统可以选择的根文件系统有:Romfs、Cramfs、Ramfs、Jffs2、Ext2等,而目前广泛使用的Cramfs根文件系统是只读型文件系统,在实际应用中,应用程序往往需要对根文件系统进行读、写操作的,因此,如果针对Cramfs系统直接进行写操作就会造成系统错误。文中提出了配置Cramfs根文件系统的新方法,实验证明,该方法能够使Cramfs满足应用程序的读、写要求,并能够保障系统的正常稳定运行,同时也减小了根文件系统所占用的存储空间。

使用Busybox制作Cramfs根文件系统

根文件系统是构建嵌入式Linux系统的重要组成部分,在嵌入式应用中,硬件资源也相对有限,因此使用短小精悍的文件系统是必然的选择。讨论了Busybox及Cramfs的特点,并详细介绍用Busybox制作嵌入式根文件Cramfs的一般步骤。所制作的Cramfs文件系统能正常运行,为创建jfss2,yaffs等文件系统提供了参考。

一种基于HDFS的分布式文件系统MPIFS

传统的MPI(Message Passing Interface)计算特点是数据向计算迁移,对于数据量庞大的计算任务具有先天的不足。文中提出一种支持MPI的分布式文件系统MPIFS的架构及实现。该文件系统基于HDFS(Hadoop Distributed File System),使得MPI在MPIFS上能同时支持计算密集型和数据密集型计算,设置两个类型的批处理词频统计实验,所需数据都分布式存储在MPIFS分布式文件系统中,通过调用系统提供的统一数据接口实现数据访问。1个计算节点在本地计算大小为m的文件,n个计算节点分布式并行计算大小为n×m的文件,两者计算时间相同,MPIFS中文件总量不变,计算节点数量减少,计算时间t变长,可得出MPIFS文件系统架构可行,能够支持MPI实现计算向数据迁移的并行计算。

基于S3C2410的Cramfs根文件系统的设计

根文件系统是构建一个嵌入式Linux系统的重要组成部分。本文章采用Cramfs作为嵌入式Linux系统的根文件系统,讨论了Cramfs文件系统的特点,并详细地说明了在FS2410开发板上设计一个Cramfs根文件系统的一般步骤。

大型风力发电机组中文件系统的设计与应用

在工业自动化控制系统中,运行参数的读取与运行数据的记录是其必备的功能,因此需要一套文件系统来对数据文件的创建、读取、写入等功能进行管理。在风力发电主控系统中,对文件系统提出了更为具体的要求。针对大型风力发电机组运行过程中对文件的应用需求,设计了一套功能丰富、使用方便、可移植性好的文件系统。该系统目前已应用到大型风力发电机组中,并在其他工控领域的控制系统中具有一定的普适性。

基于S3C2410的Cramfs根文件系统构建

根文件系统是嵌入式Linux系统的重要组成部分。本文选用Cramfs作为嵌入式Linux系统的根文件系统,并介绍了Cramfs文件系统的特点,详细说明了在S3C2410上构建Cramfs根文件系统的方法。在开发板FS2410上进行了移植实验,系统工作良好,验证了构建Cramfs根文件系统方法的可行性。

MPC8349E平台的CRAMFS+JFFS2文件系统设计

首先论述了在MPC8349E平台引入CRAMFS+JFFS2两种文件系统的必要性,然后介绍了两种嵌入式文件系统开发工具LTIB和BusyBox,通过这两种工具的配合使用,提供了一种嵌入式Linux文件系统CRAMFS+JFFS2的设计方案,并基于此方案实现LED控制程序的自启动,最后验证了该嵌入式文件系统的运行状况。

嵌入式Linux中CramFS根文件系统的移植实现

首先研究了嵌入式Linux系统以及CramFS文件系统的移植,然后分析了嵌入式Linux系统及CramFS文件系统的特性,其次,详细说明了移植最小Linux系统的制作过程,最后,对制作出来的Linux系统镜像进行测试。最终的测试结果显示,系统移植成功且能够实现Linux系统的基本命令。

面向DNN的高并发NVM文件系统

DNN训练中需要反复频繁读写海量参数,NVM具有读写速度快的优势,是提高DNN训练效率的有效手段.但现有的NVM文件系统为了应对上层多种复杂的应用普遍使用基于文件的锁机制,难以利用多核并发读写提高DNN训练中对海量参数的I/O效率.本文针对DNN训练时的特性和NVM中存在的I/O软件栈的挑战,设计了基于并发线程的细粒度锁和基于两层日志的文件并发I/O机制,并实现了面向DNN高并发NVM文件系统的原型DNNFS,使用Filebench和Fio在多种不同类型负载下进行了测试,实验结果表明DNNFS相比NOVA最大能提高35.8%的IOPS值和21.6%的I/O带宽.

嵌入式Linux中Cramfs根文件系统的移植

Linux内核在系统启动期间的最后操作之一就是挂载根文件系统。根文件系统是嵌入式Linux系统不可或缺的重要组成部分,而Busybox是制作嵌入式linux根文件系统的有效工具。详细介绍使用busybox制作Cramfs根文件系统的一般方法。并将制作的Cramfs根文件系统下载到目标板运行正常,很好地实现了Cramfs根文件系统的移植。

跨语言用户态文件系统框架读写性能优化

以深度学习为代表的数据分析应用越来越多依赖分布式文件系统存储管理大规模数据集.为了增强数据访问的兼容性,现有分布式文件存储系统通常需提供标准POSIX接口,以支持深度学习等应用的无缝对接.然而,以内核模块形态开发提供POSIX接口的文件系统非常复杂耗时.近年来,用户态文件系统(Filesystem in Userspace,FUSE)框架大幅简化了文件系统的开发工作,已被Alluxio和Ceph等诸多知名分布式文件系统使用.目前常用的用户态FUSE库libfuse仅提供C语言编程接口,但现有大数据分布式文件系统基本都是基于Java语言开发的(例如HDFS和Alluxio等),为了使基于Java语言开发的分布式文件系统可以对接C语言开发的FUSE库,需采用跨语言FUSE框架作为中介.跨语言FUSE框架利用跨编程语言的函数回调机制,使操作系统FUSE库的C语言函数可以跨语言的调用分布式文件系统提供的Java语言编程接口,从而为大数据分布式文件系统提供标准POSIX接口的访问能力.但在数据密集型应用中,现有跨语言FUSE框架的执行效率低,导致数据密集型作业(深度学习、大数据分析等)中数据I/O耗时占据了显著的性能开销,成为新的潜在性能瓶颈.针对此问题,本文首先评估分析了重要且广为使用的跨语言FUSE框架JNR-FUSE的性能,发现并定位其在高并发和小文件场景下存在的性能瓶颈;接着从多方面剖析性能瓶颈根因,进而总结出高效跨语言FUSE框架的性能优化方向,并面向Java语言设计实现了跨语言FUSE框架JNI-FUSE.JNI-FUSE利用延迟分离和元信息缓存等优化技术降低跨语言函数回调开销,从而提升跨语言FUSE框架的性能.实验结果表明,对比当前性能最好的Java FUSE框架JNR-FUSE,本文提出的JNI-FUSE带来了1.15~6.04倍的FUSE框架性能提升和1.90~2.71倍的文件系统端到端性能提升,并为上层深度学习训练任务带来了1.06~1.73倍的训练加速.本文设计提出的JNI-FUSE(Java Native Interface-Filesystem in User SpacE)因性能优势,已被知名开源分布式文件系统Alluxio官方接受集成.

分布式嵌入式文件系统的设计

针对当前航空电子分布式嵌入式计算机目前采用NFSV3协议网络文件系统,存在单点故障、服务器性能瓶颈,以及嵌入式环境各种资源受限等约束等问题,提出了基于集群架构的分布式嵌入式文件系统方案。总体架构定义了客户端-元数据服务器-数据服务器分布式文件管理集群架构,透明访问设计采用了精简三级统一路径名和文件服务接口子集;分布式通信设计采用了基于DDS的RPC服务框架,分块及布局管理设计采用表驱动的动态分配方式实现了文件的分块和多副本管理,元数据服务器容错设计采用HA高可用主从数据库方式实现主从元数据服务器状态的实时同步。最后通过搭建分布式嵌入式计算机测试环境,验证了原型系统的功能和性能。

文件系统通用技术框架设计

传统的文件系统产品多样,对操作系统服务依赖性强,跨平台应用能力差,针对此问题提出一种文件系统通用技术框架。该框架结构设计文件管理接口层用于提供通用标准接口的访问及多种类型文件系统的统一管理;设计平台抽象层用于屏蔽底层存储设备及操作系统的差异,实现异构平台支持。测试验证表明该框架设计能够实现异构平台下通用文件系统设计,能够实现操作系统、存储设备、不同文件系统的抽象,以较小的改动实现多平台支持,并逐渐实现代码复用减少研发成本。

基于区块链与星际文件系统的电子证据存证研究

电子证据作为八大类证据之一,在司法活动中占据越来越重要的地位,而电子证据的易复制、易损坏和易篡改等特点,导致其公信力相对不高。在研究区块链和星际文件系统的基础上,提出一种基于区块链与星际文件系统的电子证据存证模型,加密技术实现对电子证据的加密,星际文件系统实现电子证据的分布式存储,区块链存储电子证据的哈希值、关键词和在星际文件系统中的分片位置索引,同时在区块链上实现电子证据的搜索与验证。该存证模型确保电子证据的机密性与完整性,并实现对电子证据的授权访问,因此对于提高电子证据的公信力有一定的现实意义。