栏目分类:
子分类:
返回
答学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
答学网 > 百科 > 学习

大数据专业都需要学习哪些软件啊?

学习 更新时间: 发布时间: 百科归档 最新发布 模块sitemap

大数据专业都需要学习哪些软件啊?

一、Phoenix

简介:这是一个Java中间层,可以让开发者在Apache HBase上执行SQL查询。Phoenix完全使用Java编写,代码位于GitHub上,并且提供了一个客户端可嵌入的JDBC驱动。

Phoenix查询引擎会将SQL查询转换为一个或多个HBase scan,并编排执行以生成标准的JDBC结果集。直接使用HBase API、协同处理器与自定义过滤器,对于简单查询来说,其性能量级是毫秒,对于百万级别的行数来说,其性能量级是秒。

Phoenix最值得关注的一些特性有:

❶嵌入式的JDBC驱动,实现了大部分的java.sql接口,包括元数据API❷可以通过多部行键或是键/值单元对列进行建模❸完善的查询支持,可以使用多个谓词以及优化的扫描键❹DDL支持:通过CREATE TABLE、DROP TABLE及ALTER TABLE来添加/删除列❺版本化的模式仓库:当写入数据时,快照查询会使用恰当的模式❻DML支持:用于逐行插入的UPSERT VALUES、用于相同或不同表之间大量数据传输的UPSERT ❼SELECT、用于删除行的DELETE❽通过客户端的批处理实现的有限的事务支持❾单表——还没有连接,同时二级索引也在开发当中➓紧跟ANSI SQL标准

二、Stinger

简介:原叫Tez,下一代Hive,Hortonworks主导开发,运行在YARN上的DAG计算框架。

某些测试下,Stinger能提升10倍左右的性能,同时会让Hive支持更多的SQL,其主要优点包括:

❶让用户在Hadoop获得更多的查询匹配。其中包括类似OVER的字句分析功能,支持WHERe查询,让Hive的样式系统更符合SQL模型。

❷优化了Hive请求执行计划,优化后请求时间减少90%。改动了Hive执行引擎,增加单Hive任务的被秒处理记录数。

❸在Hive社区中引入了新的列式文件格式(如ORC文件),提供一种更现代、高效和高性能的方式来储存Hive数据。

❹引入了新的运行时框架——Tez,旨在消除Hive的延时和吞吐量限制。Tez通过消除不必要的task、障碍同步和对HDFS的读写作业来优化Hive job。这将优化Hadoop内部的执行链,彻底加速Hive负载处理。

三、Presto

简介:Facebook开源的数据查询引擎Presto ,可对250PB以上的数据进行快速地交互式分析。该项目始于 2012 年秋季开始开发,目前该项目已经在超过 1000 名 Facebook 雇员中使用,运行超过 30000 个查询,每日数据在 1PB 级别。Facebook 称 Presto 的性能比诸如 Hive 和 Map*Reduce 要好上 10 倍有多。

Presto 当前支持 ANSI SQL 的大多数特效,包括联合查询、左右联接、子查询以及一些聚合和计算函数;支持近似截然不同的计数(DISTINCT COUNT)等。

大数据专业学什么软件?

大数据技术专业以统计学、数学、计算机为三大支撑性学科;生物、医学、环境科学、经济学、社会学、管理学为应用拓展性学科。此外还需学习数据采集、分析、处理软件,学习数学建模软件及计算机编程语言等。

1、大数据技术专业学习的课程主要有:《程序设计基础》、《Python程序设计》、《数据分析基础》、《Linux操作系统》、《Python爬虫技术》、《Python数据分析》、《Java程序设计》、《Hadoop大数据框架》、《Spark技术与应用》、《HBASE分布式数据库》等。

2、大数据技术专业是结合国家大数据、人工智能产业发展战略而设置的新兴专业,该专业面向大数据应用领域,主要学习大数据运维、采集、存储、分析、可视化知识和技术技能。

3、大数据技术与应用研究方向是将大数据分析挖掘与处理、移动开发与架构、软件开发、云计算的前沿技术相结合的“互联网+"前沿科技专业。该专业毕业生可从事大数据项目实施工程师、大数据平台运维工程师、大数据平台开发工程师之类的工作。

4、本专业旨在培养学生系统掌握数据管理及数据挖掘方法,成为具备大数据分析处理、数据仓库管理、大数据平台综合部署、大数据平台应用软件开发和数据产品的可视化展现与分析能力的高级专业大数据技术人才。

大数据需要用到的软件有很多的,学习大数据的基础是java和linux,主流的大数据处理平台如hadoop,爬取数据如python,ETL常用sql,等等。. 另外,面向就业的大数据学习是有一定要求的,最低大专学历

以上就是关于大数据专业都需要学习哪些软件啊?全部的内容,如果了解更多相关内容,可以关注我们,你们的支持是我们更新的动力!

转载请注明:文章转载自 www.dxzl8.com
本文地址:http://www.dxzl8.com/ask/5132279.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 湖北籽麟网络科技有限公司

ICP备案号:鄂ICP备19019357号-23