FastBit在流量测量系统中的应用

通过对当前网络测量系统中数据存储方案的分析,引入一种新的基于位图索引的列式数据库FastBit的解决方案,通过对不同查询类型引入不同索引编码方法,可以提高查询的效率,使用WAH算法减少了索引占用的存储空间,位图索引可以在查询时快速生成,不需要时删除。通过在网络环境下的测试,证明了该解决方案比基于SQL数据库的方案有更高的效率,更适合高速网络的测量。

基于压缩-字对齐位图的天文海量数据实时索引

澄江一米新真空大型天文望远镜(NVST)当前每天最大能产生2 TB,约十多万条的观测数据。由于这些数据量巨大并具有非结构化特性,使用离线构建索引会带来巨大时间开销,传统的关系型数据库难以满足快速索引和检索需求。针对这些问题,结合数据采集流程,提出了使用基于压缩的字对齐位图索引算法来在线实时构建索引。这种方式不仅克服了离线构建索引方式时,文件访问、FITS头读取和解析FITS头等操作带来的大量额外时间消耗问题,而且有助于解决海量太阳观测数据的高效检索难题。通过实验证明了在线实时构建索引方式能够极大地降低时间开销,也表明了该方式在天文海量数据索引和检索应用中的有效性和可行性。