流程

自动化爬虫框架采集旅游数据约10万条存入mysql数据库、.csv文件作为数据集(旅游数据、用户数据、评论数据)；

2.使用pandas+numpy或MapReduce对数据进行数据清洗，生成最终的.csv文件并上传到hdfs(含nlp情感分析)；

(资料图片)

3.使用hive数仓技术建表建库，导入.csv数据集；

4.离线分析采用hive_sql完成，实时分析利用Spark之Scala完成;

5.统计指标使用sqoop导入mysql数据库；

6.使用flask+echarts进行可视化大屏幕炫酷展示；

创新点/特色

1.全新DrissionPage爬虫框架，性能强悍碾压selenium/requests等常见传统Python爬虫技术；

2.可视化炫酷大屏幕；

3.虚拟机显摆敲命令碾压答辩现场(市面上全是假算法假爬虫假大数据都不带用虚拟机的)；

深度学习文本分类情感分析；

实时计算+Hive、Hadoop离线计算双实现有效避免导师喷你；

注意

如果还被喷项目工作量简单或者课设级别等理由不让你过，直接1秒内无缝对接选装推荐系统、后台管理、前台系统、预测算法、知识图谱等。效果如下：

/video/BV1pm4y1d7S5/?spm_id_from=

关键词：