专栏更新 | Python网络爬虫&文本分析

概览

为何要学Python？

在科学研究中，数据的获取及分析是最重要的也是最棘手的两个环节！

在前大数据时代，一般使用实验法、调查问卷、访谈或者二手数据等方式，将数据整理为结构化的表格数据，之后再使用各种计量分析方法，对这些表格数据进行分析。但大数据时代，网络数据成为各方学者亟待挖掘的潜在宝藏，大量商业信息、社会信息以文本等非结构化、异构型数据格式存储于海量的网页中。那么对于经管为代表的人文社科类专业科研工作者而言，通过Python可以帮助学者解决使用Web数据进行科研面临的两个问题：

网络爬虫技术 解决 如何从网络世界中高效地 采集数据？

文本分析技术 解决 如何从杂乱的文本数据中 抽取文本指标(变量)？

一、准备工作

1. 课程介绍

2. Win中的Anaconda软件配置

3. Mac中的Anaconda软件配置

二、Python语法入门

1. Python跟英语一样是一门语言

2. 数据类型之字符串

3. 数据类型之列表元组集合

4. 数据类型之字典

5. 数据类型之布尔值、None

6. 逻辑语句(if&for&tryexcept)

7. 列表推导式

8. 理解函数

9. 常用的内置函数

10. 内置库文件路径pathlib库

11. 内置库csv文件库

12. 内置库正则表达式re库

13. 初学python常出错误汇总

三、数据采集

1. 网络爬虫原理

2. 网络访问requests库

3. 网页解析pyquery库

4. 案例 1 大众点评

5. 案例 2 豆瓣读书

6. 案例 3 Boss直聘

7. 如何解析json数据

8. 案例 4 豆瓣电影

9. 案例 5 京东商城

10. 案例 6 用爬虫下载文档及多媒体文件

11. 案例 7 上市公司定期报告pdf批量下载

12. 案例 8 上交所招股说明pdf批量下载

13. 案例 9 深交所招股说明pdf批量下载

14. 爬虫知识点总结

四、数据分析

1. Pandas基础知识

2. 数据去重与缺失值处理

3. 合并数据

4. 重塑数据

5. 选取表中指定记录(行)

6. 选取表中指定字段(列)

7. 描述性统计

8. 在表中创建新字段(列)

9. 批操作apply与agg

10. 透视表pivot_table

11. 数据分组groupby

12. 时间序列时间点创建

13. 日期数据的dt属性

14. 日期行索引操作(选取指定日期的数据)

15. 时间序列date_range

16. 时间序列重采样resample

17. 时间序列时间窗口rolling

18. 案例 10 Kaggle titanic数据集探索性分析

19. 案例 11 Boss直聘Python岗位分析

五、初识文本分析

1. 从编码/解码视角重新理解文本

2. 读取不同格式文件中的数据

3. 如何将多个整理到一个excel中

4. 案例 12 中文分词及数据清洗

5. 案例 13 词频统计&词云图

6. 案例 14 共现法扩展情感词典(领域词典)

7. 案例 15 词向量word2vec扩展领域词典

8. 案例 16 中文情感分析(词典法)

9. cntext库 情感分析代码操作

10. 案例 17 对excel中的文本进行情感分析  91

11. 案例 18:  语言具体性与心理距离 | 以JCR2021论文为例

 

六、机器学习与文本分析

1. 了解机器学习ML

2. 使用机器学习做文本分析的流程

3. scikit-learn机器学习库简介

4. 文本特征抽取(特征工程)

5. 案例 19 在线评论文本分类

6. 使用标注工具对数据进行标注

7. 案例 20 计算文本情感分析(有权重)

8. 案例 21  文本相似性计算

9. 案例 22 使用文本相似性识别变化(政策连续性)

10. 案例 23 Kmeans聚类算法

11. 案例 24 LDA话题模型

12. 使用机器学习从图片中提取文本信息

七、词嵌入与认知

1. 词嵌入原理及应用概述

2. 案例 25  豆瓣影评-训练词向量&使用词向量

3. 案例 26  使用词向量做话题建模

4. 案例 27  认知指标(态度、偏见等)的测量

5. 总结-文本分析在社科(经管)领域中的应用

社会科学文本挖掘资料汇总

公众号和博客积累了大量社会科学文本挖掘资料，涵盖文本分析概念、技术、代码、数据等。全部理清楚感兴趣的可以关注收藏。

https://hidadeng.github.io/blog/the_text_analysis_list_about_ms/

文献类

• 读完本文你就了解什么是文本分析

• Python文本分析与会计 | 含视频讲解

• 文本分析在市场营销研究中的应用

• 营销研究中文本分析应用概述(含案例及代码)

• 计算文本的语言具体性 | 以JCR2021论文为例

• 文本分析方法在2021管理世界中的应用

• 转载 | 大数据时代下社会科学研究方法的拓展——基于词嵌入技术的文本分析的应用

• 文本可读性研究及应用清单

• 词嵌入测量不同群体对某概念的态度(偏见)

• PNAS | 文本网络分析&文化桥梁Python代码实现

• PNAS | 历史语言记录揭示了近几十年来认知扭曲的激增

• PNAS | 情侣分手3个月前就有预兆！聊天记录还能反映分手后遗症

• PNAS|词汇熟悉度对线上参与和资金筹集的预测性效用

代码类

• Python语法入门 | 含视频代码

• 30天Python编程学习挑战

• 中文金融情感词典

• 在会计研究中使用Python进行文本分析

• Python与文化分析入门

• 免费社科类Python编程课程列表

• tomotopy库 | 速度最快的LDA主题模型

• cntext库 | 中文情感分析包

• 认知的测量  |  向量距离vs语义投影
  

• BERTopic主题建模库

• doccano|为机器学习建模做数据标注

• PyPlutchik库 | 可视化文本的情绪轮(情绪指纹)

• WordBias库 | 发现偏见(刻板印象)的交互式工具

• whatlies库 | 可视化词向量

• KeyBERT | 关键词发现库

• Top2Vec | 主题建模和语义搜索库

• tfidf有权重的情感分析

• Shifterator库 | 词移图分辨两文本用词风格差异

• 使用Pandas处理文本数据

• Label-Studio|多媒体数据标注工具

• 工具分享 | 正则表达式解析
  

数据集

• YelpDaset | 酒店管理类数据集10+G

• 70G上交所年报数据集

相关文献

[1]沈艳, 陈赟, & 黄卓. (2019). 文本大数据分析在经济学和金融学中的应用: 一个文献综述. 经济学 (季刊), 18(4), 1153-1186.
[2]王伟,陈伟,祝效国,王洪伟. 众筹融资成功率与语言风格的说服性-基于Kickstarter的实证研究.*管理世界*.2016;5:81-98.
[3]胡楠,薛付婧,王昊楠.管理者短视主义影响企业长期投资吗？——基于文本分析和机器学习[J].管理世界,2021,37(05):139-156+11+19-21.
[4]Kai Li, Feng Mai, Rui Shen, Xinyan Yan, Measuring Corporate Culture Using Machine Learning, *The Review of Financial Studies*,2020
[5]Loughran T, McDonald B. Textual analysis in accounting and finance: A survey[J]. *Journal of Accounting Research*, 2016, 54(4): 1187-1230. Author links open overlay panelComputational socioeconomics
[6]Berger, Jonah, Ashlee Humphreys, Stephan Ludwig, Wendy W. Moe, Oded Netzer, and David A. Schweidel. "Uniting the tribes: Using text for marketing insight." *Journal of Marketing* 84, no. 1 (2020): 1-25.
[7]Cohen, Lauren, Christopher Malloy, and Quoc Nguyen. "Lazy prices." *The Journal of Finance* 75, no. 3 (2020): 1371-1415.
[8]孟庆斌, 杨俊华, 鲁冰. 管理层讨论与分析披露的信息含量与股价崩盘风险——基于文本向量化方法的研究[J]. *中国工业经济*, 2017 (12): 132-150.
[9]Wang, Quan, Beibei Li, and Param Vir Singh. "Copycats vs. Original Mobile Apps: A Machine Learning Copycat-Detection Method and Empirical Analysis." *Information Systems Research* 29.2 (2018): 273-291.
[10]Packard, Grant, and Jonah Berger. “How concrete language shapes customer satisfaction.” _Journal of Consumer Research_ 47, no. 5 (2021): 787-806.
[11]冉雅璇,李志强,刘佳妮,张逸石.大数据时代下社会科学研究方法的拓展——基于词嵌入技术的文本分析的应用[J].南开管理评论:1-27.