1 Star 0 Fork 1

lllong33/jike-task-04

forked from osky1993/jike-task-04 
加入 Gitee
与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
克隆/下载
贡献代码
同步代码
取消
提示: 由于 Git 不支持空文件夾,创建文件夹后会生成空的 .keep 文件
Loading...
README
MIT

jike-task-04

基础作业部分(SQL)

题目一:展示电影ID为2116这部电影各年龄段的平均分

题目二:找出男性评分最高且评分次数超过50次的10部电影,展示电影名,平均影评分和评分次数

题目三:找出影评次数最多的女士所给出最高分的10部电影的平均影评分,展示电影名和平均影评分

扩展作业部分

介绍

自定义Hive的FileFormat:GeekFileFormat 具体要求:

关于InputFileFormat和InputFileFormat的基本流程

  • 读:HDFS files –> InputFileFormat –> <key, value> –> Deserializer –> Row object
  • 写:Row object –> Serializer –> <key, value> –> OutputFileFormat –> HDFS files

实现效果

  1. 将工程打包后上传/opt/cloudera/parcels/CDH-6.3.2-1.cdh6.3.2.p0.1605554/jars,进去hive cli后,使用add jar添加扩展的包(session级别有效)
  2. 建库(geek)建表(geek01),仅一个字段 建表语句如下:
create table geek01 (
    a string
) STORED AS GeekFile;

3. 使用insert overwrite写入数据,此时使用OutputFileFormat 4. 以及使用select查询数据,此时使用InputFileFormat 5. 在HDFS中查询数据文件的内容

关于自定义FileFormat的处理

参考:https://cwiki.apache.org/confluence/display/Hive/DeveloperGuide#DeveloperGuide-RegistrationofNativeSerDes 缺陷:现在是修改了hive-exec的jar包中的StorageFormatDescriptor,增加了一行,不够优雅,存在侵入性

MIT License Copyright (c) 2021 osky1993 Permission is hereby granted, free of charge, to any person obtaining a copy of this software and associated documentation files (the "Software"), to deal in the Software without restriction, including without limitation the rights to use, copy, modify, merge, publish, distribute, sublicense, and/or sell copies of the Software, and to permit persons to whom the Software is furnished to do so, subject to the following conditions: The above copyright notice and this permission notice shall be included in all copies or substantial portions of the Software. THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE SOFTWARE.

简介

极客时间大数据训练营作业04(Hive) 1. 基础部分:根据要求的SQL查询; 2. 扩展部分:自定义Hive的FileFormat:GeekFileFormat 具体要求见readme 展开 收起
Java
MIT
取消

发行版

暂无发行版

贡献者

全部

近期动态

不能加载更多了
马建仓 AI 助手
尝试更多
代码解读
代码找茬
代码优化
Java
1
https://gitee.com/lllong33/jike-task-04.git
git@gitee.com:lllong33/jike-task-04.git
lllong33
jike-task-04
jike-task-04
master

搜索帮助