Hive知识点

基本概念：

由Facebook开源，构建在Hadoop之上的数据仓库，数据计算是mapreduce，数据存储是HDFS

目的是构建面向分析的集成的数据环境，为企业提供决策支持

（面向分析的存储系统）

主要特征：

面向主题的，集成的，非易失的和时变的数据集合，用以支持管理决策

HIve与Hadoop的关系：

Hive需要构建在Hadoop基础上；

Hive中所有数据都存储在Hadoop分布式文件系统中；

对HQL查询语句的解释，优化，生成查询过程与由Hive合成，查询计划被转化的MapReduce任务的运行需要运行在Hadoop上

Hive的原理：

Hive是一种建立在Hadoop之上的数据仓库工具，可以使用HQL语句对数据进行分析与查询，而Hive的数据都存储在HDFS中，Hive在加载数据过程中不定时对数据进行任何修改

Hive特点：

支持索引，加快数据查询，不同的存储类型；

可以支持使用存储在Hadoop文件系统上的数据；

?HQL语句最终转化为Map Reduce任务运行在Hadoop集群之上；

内质网用户自定义函数，将元数据保存在数据库上

YARN：

优点：高容错，高可用，并行安装，使用方便，版本统一更好的稳定性，更好的安全性

由MR1演化而来的资源管理系统，为上层提供统一的资源管理和调度，

在利用率，资源统一，管理与数据共享带来好处

将资源管理与作业调度两个功能分开，分别由Resource Manage与ApplicationMaster实现