期刊文献+
共找到612篇文章
< 1 2 31 >
每页显示 20 50 100
Hadoop + Spark Platform Based on Big Data System Design of Agricultural Product Price Analysis and Prediction by HoltWinters
1
作者 Yun Deng Yan Zhu +1 位作者 Qingjun Zhang Xiaohui Cheng 《国际计算机前沿大会会议论文集》 2019年第1期121-123,共3页
In the market of agricultural products, the price of agricultural products is affected by production cost, market supply and other factors. In order to obtain the market information of agricultural products, the price... In the market of agricultural products, the price of agricultural products is affected by production cost, market supply and other factors. In order to obtain the market information of agricultural products, the price fluctuation can be analyzed and predicted. A distributed big data software platform based on Hadoop, Hive and Spark is proposed to analyze and forecast agricultural price data. Firstly, Hadoop, Hive and Spark big data frameworks were built to store the data information of agricultural products crawled into MYSQL. Secondly, the information of agricultural products crawled from MYSQL was exported to a text file, uploaded to HDFS, and mapped to spark SQL database. The data was cleaned and improved by Holt-Winters (three times exponential smoothing method) model to predict the price of agricultural products in the future. The data cleaned by spark SQL was imported and predicted by improved Holt-Winters into MYSQL database. The technologies of pringMVC, Ajax and Echarts were used to visualize the data. 展开更多
关键词 hadoop SPARK big data analysis and FORECAST of AGRICULTURAL product PRICES Holt-Winters
下载PDF
Preliminary build and application of a data analysis platform for coiled tubing steel strips
2
作者 ZHANG Haozhen ZHANG Chuanguo WANG Pengjian 《Baosteel Technical Research》 CAS 2022年第3期19-26,共8页
To solve the problems in the quality control and improvement of coiled tubing steel strips production, such as scattered and inefficient production data, difficult performance fluctuation factor analysis, complex mult... To solve the problems in the quality control and improvement of coiled tubing steel strips production, such as scattered and inefficient production data, difficult performance fluctuation factor analysis, complex multivariate statistical analysis, and low accuracy and difficulty in mechanical property prediction, an industrial data analysis platform for coiled tubing steel strips production has been preliminarily developed.As the premise and foundation of analysis, industrial data collection, storage, and utilization are realized by using multiple big data technologies.With Django as the agile development framework, data visualization and comprehensive analyses are achieved.The platform has functions including overview survey, stability analysis, comprehensive analysis(such as exploratory data analysis, correlation analysis, and multivariate statistics),precise steel strength prediction, and skin-passing process recommendation.The platform is helpful for production overviewing and prompt responding, laying a foundation for an in-depth understanding of product characteristics and improving product performance stability. 展开更多
关键词 coiled tubing steel strips industrial big data data analysis platform PREDICTIon
下载PDF
基于Hadoop平台的灾害大数据处理及可视化
3
作者 汤笛 吴长梦涛 +3 位作者 张欣悦 尹茂鹏 张子涵 陈新房 《电脑与电信》 2024年第4期80-84,共5页
随着监测技术的进步,地震数据量不断增加,增长速度日渐加快。数据处理过程中原始数据可能存在缺失、异常值和格式问题,需要进行细致处理。HBase是一个适合存储和处理大规模数据的分布式数据库,通过使用MapReduce的Bulk-Load方法,可以更... 随着监测技术的进步,地震数据量不断增加,增长速度日渐加快。数据处理过程中原始数据可能存在缺失、异常值和格式问题,需要进行细致处理。HBase是一个适合存储和处理大规模数据的分布式数据库,通过使用MapReduce的Bulk-Load方法,可以更高效地将海量数据导入到HBase中。这样结合Hadoop平台分布式的优势,可以提高运算分析的速度,便于对数据进行研究。通过可视化展示,可以更好地利用数据进行研究分析,为灾害应对提供有力支持。 展开更多
关键词 灾害大数据处理 hadoop平台 HBase数据库 可视化
下载PDF
基于Hadoop架构的设施农业智能监测系统大数据平台的设计与实现
4
作者 王丹 姚竟发 石彦芳 《计算机应用文摘》 2024年第5期25-27,共3页
文章设计并实现了一个基于Hadoop架构的设施农业智能监测系统大数据平台。首先,介绍了设施农业智能监测系统的需求和挑战;其次,阐述了基于Hadoop的大数据平台的架构设计,包括数据采集、数据存储、数据处理、数据分析等模块的设计思路和... 文章设计并实现了一个基于Hadoop架构的设施农业智能监测系统大数据平台。首先,介绍了设施农业智能监测系统的需求和挑战;其次,阐述了基于Hadoop的大数据平台的架构设计,包括数据采集、数据存储、数据处理、数据分析等模块的设计思路和实现方式。在数据采集方面,采用传感器网络和无线通信技术实时采集农业设施的环境数据。在数据存储方面,利用Hadoop分布式文件系统(HDFS)进行数据的存储和管理。在数据处理和分析方面,使用Hadoop的MapReduce计算模型进行数据的处理和分析。 展开更多
关键词 hadoop架构 设施农业 智能监测系统 大数据平台 数据存储
下载PDF
基于Hadoop的离线电商数据分析系统的设计与实现
5
作者 潘杰恒 蔡群英 《现代计算机》 2024年第3期112-116,共5页
随着互联网的普及和人们不断增长的消费需求,电子商务平台已成为人们生活不可或缺的一部分,由此产生大量数据。基于Hadoop,设计并实现一个离线电商数据分析系统,从系统架构、数据采集、传输、存储、分析处理和可视化等方面作了介绍,系... 随着互联网的普及和人们不断增长的消费需求,电子商务平台已成为人们生活不可或缺的一部分,由此产生大量数据。基于Hadoop,设计并实现一个离线电商数据分析系统,从系统架构、数据采集、传输、存储、分析处理和可视化等方面作了介绍,系统具有一定的数据分析能力,能将原本无用的数据进行整理利用,发挥数据本身的价值。 展开更多
关键词 电商 离线 分析系统 大数据 hadoop Hive FLUME Kafka
下载PDF
Big Data; Definition and Challenges
6
作者 Shirin Abbasi 《Journal of Energy and Power Engineering》 2016年第7期405-410,共6页
关键词 定义 关系型数据库 数据存储 调制解调器 分布式系统 信息包 社会网络 电子服务
下载PDF
一种基于MongoDB和Hadoop的海量非结构化物联网数据处理方案 被引量:13
7
作者 杨鹏 林俊晖 《微电子学与计算机》 CSCD 北大核心 2018年第4期68-72,78,共6页
随着物联网数据种类的增多和数据规模的增大,对物联网数据的存储和计算提出了新的挑战,为了应对海量非结构化物联网数据的存储和计算要求,提出了一种NoSQL数据库技术与MapReduce编程框架相结合的方案.使用典型的NoSQL数据库MongoDB作为... 随着物联网数据种类的增多和数据规模的增大,对物联网数据的存储和计算提出了新的挑战,为了应对海量非结构化物联网数据的存储和计算要求,提出了一种NoSQL数据库技术与MapReduce编程框架相结合的方案.使用典型的NoSQL数据库MongoDB作为主数据库来存储海量非结构化的物联网数据,使用Hadoop MapReduce作为对物联网数据分析处理的计算框架.通过对MongoDB集群和Hadoop集群的重叠部署,降低了计算时数据传输的开销,构建了一套高可用、高性能的物联网大数据处理平台.通过使用该方案对海量非结构化物联网数据的处理分析实验验证了该方案的高可用性及高效性. 展开更多
关键词 物联网 大数据 NOSQL hadoop平台 MongoDB数据库
下载PDF
基于Hadoop和Python的多角度电影数据可视化分析 被引量:2
8
作者 陈豪 吴健 《现代信息科技》 2017年第5期11-13,共3页
本文利用Hadoop大数据平台和Python语言工具,从网页中提取电影相关数据,对票房、导演和影片类型等入手进行分析,经过大数据的采集、存储、抽取、转换和装载(ETL)过程,简要论述清洗过程,着重从多重角度完成电影分析报告,同时进行分析结... 本文利用Hadoop大数据平台和Python语言工具,从网页中提取电影相关数据,对票房、导演和影片类型等入手进行分析,经过大数据的采集、存储、抽取、转换和装载(ETL)过程,简要论述清洗过程,着重从多重角度完成电影分析报告,同时进行分析结果的图表绘制。 展开更多
关键词 hadoop平台 PYTHon语言 数据清洗 电影分析报告 数据可视化
下载PDF
Hadoop平台下基于优化X-means算法的大数据聚类研究
9
作者 张鹏飞 江岸 熊念 《计算机测量与控制》 2023年第12期284-289,309,共7页
针对现有聚类方法对数据处理规模的局限性,解决数据聚类效果差的问题,在Hadoop平台的支持下提出基于优化X-means算法的大数据聚类方法;利用Hadoop平台架构与函数采集大数据样本,通过缺失补偿、噪声滤波、归一化等步骤,实现初始样本数据... 针对现有聚类方法对数据处理规模的局限性,解决数据聚类效果差的问题,在Hadoop平台的支持下提出基于优化X-means算法的大数据聚类方法;利用Hadoop平台架构与函数采集大数据样本,通过缺失补偿、噪声滤波、归一化等步骤,实现初始样本数据的预处理;选择大数据聚类中心,分别提取聚类中心数据与其他所有数据样本的特征,计算数据样本与聚类中心之间的特征相似度;以相似度度量结果为聚类判定条件,利用优化X-means算法确定数据所属类型,最终实现大数据的聚类处理工作;通过聚类效果测试实验得出结论:在有、无两种实验条件下,与传统聚类方法相比,优化设计方法的查全率和查准率分别提升了4.75%和4.5%,同时优化聚类方法得出数据具有更高利用率。 展开更多
关键词 hadoop平台 优化X-means算法 大数据聚类
下载PDF
基于Hadoop的课程诊改大数据可视化分析研究与应用
10
作者 陈俊生 彭莉芬 《天津中德应用技术大学学报》 2023年第3期53-58,共6页
针对职业院校课程诊改的时效性和准确性需求,基于Hadoop平台并综合运用Scrapy爬虫框架、Echarts可视化工具等设计大数据可视化分析系统,以实现异源异构课程诊改大数据的快速采集、预处理、存储、分析、挖掘和可视化展示。可视化分析结... 针对职业院校课程诊改的时效性和准确性需求,基于Hadoop平台并综合运用Scrapy爬虫框架、Echarts可视化工具等设计大数据可视化分析系统,以实现异源异构课程诊改大数据的快速采集、预处理、存储、分析、挖掘和可视化展示。可视化分析结果以图、表等方式向用户展示课程诊改大数据背后的关键信息和有用知识,为教学管理部门和教学团队改进课程教学提供支持。 展开更多
关键词 hadoop 课程诊改 大数据 可视化分析
下载PDF
基于SQL-on-Hadoop查询引擎的日志挖掘及其应用 被引量:6
11
作者 何明 常盟盟 +2 位作者 刘郭洋 顾程祥 彭继克 《智能系统学报》 CSCD 北大核心 2017年第5期717-728,共12页
随着计算机和网络技术的迅猛发展以及数据获取手段的不断丰富,海量数据的实时处理需求日益增多,传统的日志分析技术在处理海量数据时存在计算瓶颈。大数据时代下,随着开放式处理平台的发展,能够处理大规模且多样化数据的大数据处理系统... 随着计算机和网络技术的迅猛发展以及数据获取手段的不断丰富,海量数据的实时处理需求日益增多,传统的日志分析技术在处理海量数据时存在计算瓶颈。大数据时代下,随着开放式处理平台的发展,能够处理大规模且多样化数据的大数据处理系统应运而生。为了让原有的业务能够充分利用Hadoop的优势,本文首先研究了基于大数据技术的网络日志分析方法,构建了网络日志分析平台以实现万亿级日志采集、解析、存储和高效、灵活的查询与计算。对比分析了Hive、Impala和Spark SQL这3种具有代表性的SQL-on-Hadoop查询系统实例,并展示了这类系统的性能特点。采用TPC-H测试基准对它们的决策支持能力进行测试及评估,通过对实验数据的分析和解释得到了若干有益的结论。实现了海量日志数据计算与分析在证券领域的几种典型应用,为进一步的研究工作奠定了基础。 展开更多
关键词 大数据 日志分析 数据挖掘 hadoop 查询引擎 数据采集 索引存储 证券行业
下载PDF
Collective Background Extraction for Station Market Area by Using Location Based Social Network
12
作者 Kousuke Kikuchi Tatsuto Kihara +4 位作者 Atsushi Enta Hideaki Takayanagi Takeshi Kimura Kazuto Hayashida Hitoshi Watanabe 《Journal of Civil Engineering and Architecture》 2013年第3期282-289,共8页
关键词 背景提取 位置 网络 社交 集体 场区 城市规划 全球定位系统
下载PDF
大数据技术下煤矿设备状态Hadoop平台设计 被引量:1
13
作者 胡伟英 《山东煤炭科技》 2023年第6期209-211,215,共4页
为了解决店坪煤矿自动化监测平台目前出现的数据杂乱难集中、难处理、难维护、信息孤岛等的问题,在现有监测平台技术基础上,结合大数据技术,设计一款设备状态Hadoop平台,对平台先进行整体结构设计,对4大组成系统进行设计,包括数据采集... 为了解决店坪煤矿自动化监测平台目前出现的数据杂乱难集中、难处理、难维护、信息孤岛等的问题,在现有监测平台技术基础上,结合大数据技术,设计一款设备状态Hadoop平台,对平台先进行整体结构设计,对4大组成系统进行设计,包括数据采集、数据提取、数据传输以及数据存储,实现了海量数据的有序化存储。 展开更多
关键词 机电设备 大数据平台 hadoop
下载PDF
职业院校“Hadoop平台及运维”课程教学实践与思考——以兰州石化职业技术大学为例 被引量:1
14
作者 高龙 《现代信息科技》 2023年第14期194-198,共5页
“Hadoop平台及运维”是大数据专业的核心课程,课程具有对前置课程要求高、交叉性强、实践难度大等特点,传统“以教为中心”的大数据平台运维教学方式很难实现以应用为导向的目标。文章以兰州石化职业技术大学为例,基于高职院校学生的... “Hadoop平台及运维”是大数据专业的核心课程,课程具有对前置课程要求高、交叉性强、实践难度大等特点,传统“以教为中心”的大数据平台运维教学方式很难实现以应用为导向的目标。文章以兰州石化职业技术大学为例,基于高职院校学生的学习特点,结合近几年的教学实践经验,从课程教学模式优化、课程内容安排、实践教学平台运用及考评方式改进等方面,提出了以职业技能和职业素养培养为导向,符合学生实际状况的教育教学策略,为大数据专业其他课程的实践教学提供参考。 展开更多
关键词 大数据平台运维 hadoop 实践教学 教学思考
下载PDF
基于普开平台的“数据分析(Python)”课程实验教学方法研究
15
作者 陈园 周科 曹文丽 《现代信息科技》 2023年第24期189-192,198,共5页
为适应应用型人才培养需要,针对“数据分析(Python)”课程的实验教学中实验项目停留在算法验证、教学方法与实战应用脱节、学生解决现实问题能力差的现象,通过分析目前主流的大数据平台的特点,以武昌工学院已建普开大数据平台为基础,重... 为适应应用型人才培养需要,针对“数据分析(Python)”课程的实验教学中实验项目停留在算法验证、教学方法与实战应用脱节、学生解决现实问题能力差的现象,通过分析目前主流的大数据平台的特点,以武昌工学院已建普开大数据平台为基础,重建了“数据分析(Python)”课程的实验教学体系,提出了线上线下教学模式,并将理论算法与实际应用案例相结合,实践结果表明,该方法有效地激发了学生的学习热情,提高了学生理论与实践结合的能力,提高了教学质量。 展开更多
关键词 数据分析 普开大数据平台 实验教学改革
下载PDF
基于GIS与大数据分析的矿压监测预警平台 被引量:1
16
作者 马长青 杨清源 +5 位作者 种自强 尤天宸 马鹏飞 李先兴 宋晓杰 卢天壮 《煤炭技术》 CAS 2024年第1期124-128,共5页
为响应国家关于加快煤矿智能化发展的号召,针对煤矿GIS“一张图”中巷道路径不能实现精确计算,矿压数据不能实现高效甄别、有效提取的问题,以及矿压预警需要实现在线推演、可视化展示的需求,提出建立基于GIS与大数据分析的矿压监测预警... 为响应国家关于加快煤矿智能化发展的号召,针对煤矿GIS“一张图”中巷道路径不能实现精确计算,矿压数据不能实现高效甄别、有效提取的问题,以及矿压预警需要实现在线推演、可视化展示的需求,提出建立基于GIS与大数据分析的矿压监测预警平台。采用GIS“一张图”、巷道结点-路径拓扑算法、多源异构监测数据处理技术、矿压大数据分析技术,搭建成能够实现矿井下复杂情况切实反映、矿压监测数据有效提取、采掘风险在线预测、可视化程度高的矿压监测预警平台。通过在李雅庄矿的实际应用,表明该系统运行稳定可靠,可有效提升煤矿的矿压风险监测预警。 展开更多
关键词 GIS 大数据分析 监测预警平台 在线推演 可视化展示
下载PDF
基础教育资源配置大数据分析平台的整体架构与运行保障 被引量:1
17
作者 王正青 梁鹿儿 罗梓予 《教师教育学报》 2024年第1期90-99,共10页
教育大数据是反映基础教育资源配置现状、需求和问题的数据集合,也是重塑基础教育资源配置结构、构建良好教育生态的有效工具。教育大数据能够为资源精准配置提供客观依据、助力理性决策、拓展实践路径、提供监测反馈,可从数据资源层、... 教育大数据是反映基础教育资源配置现状、需求和问题的数据集合,也是重塑基础教育资源配置结构、构建良好教育生态的有效工具。教育大数据能够为资源精准配置提供客观依据、助力理性决策、拓展实践路径、提供监测反馈,可从数据资源层、处理层、分析层和可视化层,整体架构基础教育资源配置大数据分析平台,实现多学段基础教育数据精准采集、多模态基础教育数据分类储存、多因素基础教育数据指标计量、多维度基础教育数据结果呈现。基础教育资源配置大数据分析平台顺利运行的保障措施主要包括:政策跟进,赋予数据驱动合法地位;强化治理,保障平台教育数据质量;注重成效,发挥数据分析平台价值;多元联动,助力数据分析平台共建。通过这些措施,努力实现数据驱动基础教育资源优化配置,促进决策科学化、供给精准化、评估动态化。 展开更多
关键词 基础教育 资源配置 大数据分析 平台架构 数据驱动
下载PDF
基于Hadoop架构的医疗大数据平台的应用
18
作者 蒙德钦 《移动信息》 2023年第11期167-169,共3页
随着大数据技术在各行业中的应用和推广,建设医疗大数据平台成为加强医疗行业核心竞争力的重要手段。文中分析了医疗大数据特点、设计和研究了医疗大数据平台的应用实践,利用科学设置和布置集群、互联网和服务器等,最大程度地保证了医... 随着大数据技术在各行业中的应用和推广,建设医疗大数据平台成为加强医疗行业核心竞争力的重要手段。文中分析了医疗大数据特点、设计和研究了医疗大数据平台的应用实践,利用科学设置和布置集群、互联网和服务器等,最大程度地保证了医疗大数据平台环境的安全性和稳定性,希望能为相关工作人员提供一定的技术参考。 展开更多
关键词 大数据平台 医疗数据 hadoop架构 应用实践
下载PDF
基于Hadoop的电商大数据可视化设计与实现
19
作者 李威 邱永峰 《现代信息科技》 2023年第17期46-49,共4页
为满足众多电商对电商大数据可视化的迫切需求,基于Hadoop开源大数据处理平台,依托FineBi大数据分析工具设计一款大数据可视化分析系统,该系统可提供数据预处理、存储、分析、可视化等一整套流程。测试结果表明,该系统能够实现电商大数... 为满足众多电商对电商大数据可视化的迫切需求,基于Hadoop开源大数据处理平台,依托FineBi大数据分析工具设计一款大数据可视化分析系统,该系统可提供数据预处理、存储、分析、可视化等一整套流程。测试结果表明,该系统能够实现电商大数据的可视化分析,可为用户提供高效、实用的信息处理,为其未来的业务经营指明方向,提高店铺运营效率。 展开更多
关键词 hadoop Hive HDFS 可视化分析 电商大数据
下载PDF
基于大数据技术的企业信息资源管理系统
20
作者 温磊 《信息技术》 2024年第1期176-181,188,共7页
企业信息资源管理系统面对大规模和多类型数据涌入时,处理效率低,系统容易崩溃,设计基于大数据技术的企业信息资源管理系统。分析Hadoop平台体系结构,确定资源管理系统整体架构,设计每个子系统对应的功能,部署系统硬件环境;利用大数据... 企业信息资源管理系统面对大规模和多类型数据涌入时,处理效率低,系统容易崩溃,设计基于大数据技术的企业信息资源管理系统。分析Hadoop平台体系结构,确定资源管理系统整体架构,设计每个子系统对应的功能,部署系统硬件环境;利用大数据融合技术设置软件执行算法,通过模糊调度挖掘资源间关联规则,根据相似性函数,建立同类资源的融合模型,提高业务处理效率,完成系统整体设计。实验表明,该系统的CPU利用率仅在30%左右,处理时间在1.00s以内,大大缩短了处理时间,提高了处理效率。 展开更多
关键词 大数据技术 信息资源 管理系统 hadoop平台 大数据融合
下载PDF
上一页 1 2 31 下一页 到第
使用帮助 返回顶部