logo

小白学苑PBCP

PBCP, 让大数据竞赛更简单!

2023湖北省赛样题解析-模块B:数据采集-任务二:实时数据采集

环境说明

服务端登录地址详见各模块服务端说明。

补充说明:各节点可通过Asbru 工具或SSH 客户端进行SSH 访问;

主节点MySQL 数据库用户名/密码:root/123456(已配置远程连接);

Hive 的配置文件位于主节点/opt/module/hive-3.1.2/conf/

Spark 任务在Yarn 上用Client 运行,方便观察日志;

建议使用gson 解析json 数据。


本任务共有两个子任务组成:

子任务1

子任务1描述

1.在主节点使用Flume 采集实时数据生成器XXXXX 端口的socket数据,将数据存入到Kafka 的Topic 中,使用Kafka 自带的消费者消 费Topic 中的数据,查看Topic 中的前1 条数据的结果,将查看命令与结果完整的截图粘贴至客户端桌面【Release\模块B 提交结果.docx】中对应的任务序号下;

子任务1分析

赛方为了不在样卷中透露过多信息,故意对任务说明进行了模糊处理,例如,没有 ......

......

抱歉,只有登录会员才可浏览!会员登录