大数据分析，Hadoop够用吗？Facebook数据专家说No
|
副标题[/!--empirenews.page--]
随着大数据的发展和应用，Hadoop框架受到越来越多的关注和应用。Facebook分析主管Ken Rudin表示，不要小看关系型数据库技术的价值。他认为，Hadoop可能是“大数据”运动的代名词，但它并不是企业从大规模存储的非结构化信息中得到价值的唯一工具。 Rudin说，Facebook的业务模式依赖于其对于超过10亿社交媒体用户的用户资料和活动数据的处理，从而提供有针对性的广告。然而，对于我们需要做的事情而言，Hadoop并不总是最好的工具。 他表示，还有另一个假设，认为大数据为单纯的行为分析提供了宝贵的价值：“问题是这分析给那些无人问津的问题得出了更加聪明的答案。要弄清楚什么是正确的问题依然是一门艺术”。Facebook一直专注于雇佣合适的员工来运行他们的分析操作，那些人不仅要在统计学专业获得博士学位，并且还要精通业务。 据Rudin透露，Facebook运营一个内部的“数据培训营”，一个教导员工如何分析的时长两周的项目。产品经理、设计师、工程师甚至财务部门工作人员都要参加。每个人都参与其中的意义就在于，每个人可以用一个共同的数据语言，来互相讨论数据的问题和麻烦。 Facebook还改变了统计人员和业务团队的组织方法。如果统计人员保持独立，他们往往会坐在那里等待来自业务领域的请求找上门来，再回应他们，而不是主动去做。但是如果统计人员被放置到业务部门，你会发现多个团体将会试图冗余地解决问题。 Facebook已经采用了“嵌入式”模式，其中分析师被放在业务团队中，但他们要向一些更高级别的分析师报告，这有助于避免重复的劳动。 对于Hadoop如何组合和处理大数据的技巧和方法，数据专家Anoop曾经在另一篇文章中提到过，一般情况下，为了得到最终的结果，数据需要加入多个数据集一起被处理和联合。 Hadoop中有很多方法可以加入多个数据集。MapReduce提供了Map端和Reduce端的数据连接。这些连接是非平凡的连接，并且可能会是非常昂贵的操作。Pig和Hive也具有同等的能力来申请连接到多个数据集。Pig提供了复制连接，合并连接和倾斜连接（skewed join），并且Hive提供了map端的连接和完整外部连接来分析数据。 一个重要的事实是，通过使用各种工具，比如MapReduce、Pig和Hive等，数据可以基于它们的内置功能和实际需求来使用它们。至于在Hadoop分析大量数据，Anoop指出，通常，在大数据/Hadoop的世界，一些问题可能并不复杂，并且解决方案也是直截了当的，但面临的挑战是数据量。在这种情况下需要不同的解决办法来解决问题。 （编辑：核心网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
