数据为王,互联网时代如何快速获取数据?

  • A+

编者按:大数据时代,用数据做出理性分析显然更为有力。做数据分析前,能够找到合适的的数据源是一件非常重要的事情,获取数据的方式有很多种,不必局限。下面将从公开的数据集、爬虫、数据采集工具、付费API等介绍,给朋友们推荐一些数据获取方式。文章整理编辑于网络。

一、公开数据库

1.常用数据公开网站

UCI:经典的机器学习、数据挖掘数据集,包含分类、聚类、回归等问题下的多个数据集。很经典也比较古老,但依然活跃在科研学者的视线中。

数据为王,互联网时代如何快速获取数据?

国家数据:数据来源中华人民共和国国家统计局,包含了我国经济民生等多个方面的数据,并且在月度、季度、年度都有覆盖,全面又权威。

数据为王,互联网时代如何快速获取数据?

2.政府开放数据

北京市政务数据资源网:包含竞技、交通、医疗、天气等数据。

深圳市政府数据开放平台:交通、文娱、就业、基础设施等数据。

上海市政务数据服务网:覆盖经济建设、文化科技、信用服务、交通出行等12个重点领域数据。

贵州省政府数据开放平台:贵州省在政务数据开放方面做的确实不错。

数据为王,互联网时代如何快速获取数据?

Data.gov:美国政府开放数据,包含气候、教育、能源金融等各领域数据。

3.数据竞赛网站

竞赛的数据集通常干净且科研究性非常高。

DataCastle:专业的数据科学竞赛平台。

Kaggle:全球最大的数据竞赛平台。

天池:阿里旗下数据科学竞赛平台。

Datafountain:CCF制定大数据竞赛平台。

二、利用爬虫可以获得有价值数据

我们可以使用爬虫爬取网站上的数据,某些网站上也给出获取数据的API接口,但需付费。

1.财经数据

(1)新浪财经:免费提供接口,可在新浪财经上获取历史和实时股票数据。

(2)东方财富网:可以查看财务指标或者根据财务指标选股。

(3)中财网:提供各类财经数据。

(4)黄金头条:各种财经资讯。

(5)StockQ:国际股市指数行情。

(6)Quandl:金融数据界的维基百科。

(7)Investing:投资数据。

(8)整合的96个股票API合集。

(9)Market Data Feed and API:提供大量数据,付费,有试用期。

(10)Tushare:财经数据接口包。

数据为王,互联网时代如何快速获取数据?

2.网贷数据

(1)网贷之家:包含各大网贷平台不同时间段的放贷数据。

(2)零壹数据:各大平台的放贷数据。

(4)网贷天眼:网贷平台、行业数据。

(5)76676互联网金融门户:网贷、P2P、理财等互金数据。

3.公司年报

(1)巨潮资讯:各种股市咨询,公司股票、财务信息。

(2)SEC.gov:美国证券交易数据

(3)HKEx news披露易:年度业绩报告和年报。

4.创投数据

(1)36氪:最新的投资资讯。

(2)投资潮:投资资讯、上市公司信息。

(3)IT桔子:各种创投数据。

5.社交平台

(1)新浪微博:评论、舆情数据,社交关系数据。

(2)Twitter:舆情数据,社交关系数据。

(3)知乎:优质问答、用户数据。

(4)微信公众号:公众号运营数据。

(5)百度贴吧:舆情数据

(6)Tumblr:各种福利图片、视频。

6.就业招聘

(1)拉勾:互联网行业人才需求数据。

(2)中华英才网:招聘信息数据。

(3)智联招聘:招聘信息数据。

(4)猎聘网:高端职位招聘数据。

7.餐饮食品

(1)美团外卖:区域商家、销量、评论数据。

(2)百度外卖:区域商家、销量、评论数据。

(3)饿了么:区域商家、销量、评论数据。

(4)大众点评:点评、舆情数据。

8.交通旅游

(1)12306:铁路运行数据。

(2)携程:景点、路线、机票、酒店等数据。

(3)去哪儿:景点、路线、机票、酒店等数据。

(4)途牛:景点、路线、机票、酒店等数据。

(5)猫途鹰:世界各地旅游景点数据,来自全球旅行者的真实点评。

类似的还有APIX、聚合数据、91cha、同程、驴妈妈、途家等

9.电商平台

(1)亚马逊:商品、销量、折扣、点评等数据

(2)淘宝:商品、销量、折扣、点评等数据

(3)天猫:商品、销量、折扣、点评等数据

(4)京东:3C产品为主的商品信息、销量、折扣、点评等数据

(5)当当:图书信息、销量、点评数据。

类似的唯品会、聚美优品、1号店等。

10.影音数据

(1)豆瓣电影:国内最受欢迎的电影信息、评分、评论数据。

(2)时光网:最全的影视资料库,评分、影评数据。

(3)猫眼电影专业版:实时票房数据,电影票房排行。

(4)网易云音乐:音乐歌单、歌手信息、音乐评论数据。

11.房屋信息

(1)58同城房产:二手房数据。

(2)安居客:新房和二手房数据。

(3)Q房网:新房信息、销售数据。

(4)房天下:新房、二手房、租房数据。

(5)小猪短租:短租房源数据。

12.购车租车

(1)网易汽车:汽车资讯、汽车数据。

(2)人人车:二手车信息、交易数据。

(3)中国汽车工业协会:汽车制造商产量、销量数据。

13.新媒体数据

新榜:新媒体平台运营数据。

清博大数据:微信公众号运营榜单及舆情数据。

微问数据:一个针对微信的数据网站。

知微传播分析:微博传播数据。

14.分类信息

(1)58同城:丰富的同城分类信息。

(2)赶集网:丰富的同城分类信息。

如果你是小白,想通过爬虫获得有价值的数据,学校系列课程——Python爬虫入门+进阶。

数据为王,互联网时代如何快速获取数据?

三、数据交易平台

现在数据的需求非常大,也催生了很多做数据交易的平台,除了付费购买数据,在这些平台上,也有很多免费的数据可以获取。

优易数据:由国家信息中心发起,拥有国家级信息资源的数据平台,国内领先的数据交易平台。平台有B2B、B2C两种交易模式,包含政务、社会、社交、教育、消费、交通、能源、金融、健康等多个领域的数据资源。

四、网络指数

百度指数:指数查询平台,可以根据指数的变化查看某个主题在各个时间段受关注的情况,进行趋势分析、舆情预测有很好的指导作用。除关注趋势之外,还有需求分析、人群画像等精准分析的工具,对于市场调研来说具有很好的参考意义。好搜指数、微指数、Google趋势、淘宝指数等也可参考,搜狗、360也有类似的产品。

五、网络采集器

网络采集器是通过软件的形式实现简单快捷地采集网络上分散的内容,具有很好的内容收集作用,而且不需要技术成本,被很多用户作为初级的采集工具。八爪鱼网页数据采集器、后羿采集器、星图数据、CommEq、Sentient、Kensho、Web Scraping、Everstring、Octoparse、NetDAQ-Network Data Acquisition 等都是不错的选择。

weinxin
飞扬驿站公众号:fy-info
飞扬驿站,专注于互联网+技术与生活!这是我的微信,扫一扫收获更多精彩!

发表评论

您必须才能发表评论!