一.什么是Hadoop？
- Hadoop是Apache旗下的一套开源软件平台
- Hadoop提供的功能：利用服务器集群，根据用户的自定义业务逻辑，对海量数据进行分布式处理。
- Hadoop的核心组件有：
- HDFS（Hadoop Distributed File System）：分布式文件系统，用来存储与读取数据。集群中的角色主要有 NameNode 和 DataNode。
- YARN（Yet Another Resource Negotiator）：运算资源调度系统，负责为MapReduce程序分配运算资源。集群中的角色主要有 ResourceManager 和 NodeManager。
- MapReduce：分布式运算编程框架，即需要编程人员编写的运算程序。
- 广义上来说，Hadoop通常是指一个更广泛的概念——HADOOP生态圈。
二.Hadoop的产生背景
- Hadoop最早起源于Nutch。Nutch的设计目标是构建一个大型的全网搜索引擎，包括网页抓取、索引、查询等功能，但随着抓取网页数量的增加，遇到了严重的可扩展性问题——如何解决数十亿网页的存储和索引问题。
- 2003年、2004年谷歌发表的两篇论文为该问题提供了可行的解决方案。
- 分布式文件系统（GFS），可用于处理海量网页的存储
- 分布式计算框架MAPREDUCE，可用于处理海量网页的索引计算问题。
- Nutch的开发人员完成了相应的开源实现HDFS和MAPREDUCE，并从Nutch中剥离成为独立项目Hadoop，到2008年1月，Hadoop成为Apache顶级项目，迎来了它的快速发展期。
三.Hadoop可以用来做什么
Hadoop的实际应用非常多，比如用户画像，页面点击流日志数据挖掘等。如下是一个以Hadoop基础的推荐系统处理流程，可以让我们初步理解Hadoop等框架在其中的应用，暂时可不必关注过多细节问题。