有啥样「神奇」的数码获得方式?

大数额时期,用多少做出理性分析明显更抓好劲。做多少解析前,能够找到适当的的数据源是一件万分首要的事情,获取数据的措施有诸各类,不必局限。下边将从公开的数据集、爬虫、数据搜集工具、付费API等等介绍。给大家推荐一些能够用得上的数量得到格局,后续也会不停补充、更新。

一 、公开数据库

1.常用数据掌握网站

UCI:经典的机械学习、数据挖掘数据集,包括分类、聚类、回归等题材下的五个数据集。很经典也正如古老,但依旧活跃在科学探究专家的视线中。

国家数据:数据出自中国国家总计局,包罗了本国经济惠农等三个方面包车型大巴数据,并且在月度、季度、年度都有覆盖,全面又高于。

CEIC:最完整的一套超过1二十八个国家的经济数据,能够精确查找GDP、CPI、进口、出口、外国资本向来入股、零售、销售以及国际利率等深度数据。当中的“中华夏族民共和国经济数据库”收编了300,000多条时间类别数据,数据内容包蕴宏观经济数据、行业经济数据和地面经济数据。

万得:简要介绍:被誉为中中原人民共和国的Bloomberg,在金融业持有全面的多少覆盖,金融数据的类目更新一点也非常的慢,听他们说很受国内的小买卖分析者和投资人的亲睐。

搜数网:已加载到搜数网站的总结资料达到7,874本,涵盖1,761,009张总括报表和364,580,475个计算数据,汇集了华夏消息行自92年来说收集的保有总括和考察数据,并提供八种化的搜索作用。

中国民党统治计消息网:国家总括局的官方网站,汇聚了海量的举国各级政坛各年度的国民经济和社会前进总结消息,建立了以总计公报为主,总结年鉴、阶段发展数量、计算分析、经济新闻、首要总括目的排行等。

亚马逊:来自亚马逊的跨科学云数据平台,包罗化学、生物、经济等多个世界的数码集。

figshare:琢磨成果共享平台,在那里能够找到来源世界的大咖们的商讨成果分享,获取其中的钻研数据。

github:一个10分健全的多少获得渠道,包涵各样细分领域的数据库财富,自然科学和社科的掩盖都很完美,适合做商量和多少解析的人口。

2.内阁开放数据

香岛市行政事务数据财富网:蕴涵竞赛、交通、医疗、天气等数码。

佛山市政坛数据开放平台:交通、文娱、就业、基础设备等数据。

新加坡市行政事务数据服务网:覆盖经建、文化科学和技术、信用服务、交通出游等10个首要领域数据。

湖南省府数量开放平台:广西省在政务数据开放地点做的的确不错。

Data.gov:U.S.A.政党开放数据,包涵天气、教育、财富金融等各领域数据。

3.数额比赛网站

竞赛的数据集经常干净且科学切磋究性卓殊高。

DataCastle:专业的多少正确竞赛平台。

Kaggle:满世界最大的数量比赛平台。

天池:Ali旗下多少正确竞赛平台。

Datafountain:CCF制定大数量竞技平台。

二 、利用爬虫能够博得有价值多少

此间给出了一部分网站平台,大家得以选择爬虫爬取网站上的多少,有个别网站上也提交获取数据的API接口,但需求付费。

1.财政和经济数据

(1)天涯论坛金融:免费提供接口,那篇博客教师了哪些在天涯论坛金融上取得获取历史和实时股票数量。

(2)东面能源网:能够查阅财务目标恐怕依据财务指标选股。

(3)中财网:提供种种经济数据。

(4)黄金头条:种种金融音信。

(5)StockQ:国际股票市集指数行情。

(6)Quandl:金融数据界的维基百科。

(7)Investing:投资数据。

(8)整合的96个股票API合集

(9)Market Data Feed and
API
:提供大量数据,付费,有试用期。

2.网贷数据

(1)网贷之家:包括各大网贷平台分歧时间段的放贷数据。

(2)零壹数据:各大平台的发放贷款数据。

(4)网贷天眼:网贷平台、行业数据。

(5)76676互连网金融门户:网贷、P2P、理财等互金数据。

3.集团年报

(1)巨潮资源信息:各个股票市集咨询,集团股票、财务新闻。

(2)SEC.gov:United States证券交易数据

(3)HKEx
news披露易
:年度业绩报告和年报。

4.创投数据

(1)36氪:最新的投资新闻。

(2)投资潮:投资源音信息、上市公司音讯。

(3)IT桔子:种种创投数据。

5.社交平台

(1)腾讯网天涯论坛:评论、舆情数据,社交关周密据。

(2)Twitter:舆情数据,社交关周到据。

(3)知乎:优质问答、用户数据。

(4)微信公众号:公众号营业数量。

(5)百度贴吧:舆情数据

(6)Tumblr:各个有益图片、录制。

6.就业招聘

(1)拉勾:网络行业人才须求数据。

(2)中原英才网:招聘消息数据。

(3)智联合招生聘:招聘消息数据。

(4)猎聘网:高端职位招聘数据。

7.餐饮食物

(1)美团外卖:区域公司、销量、评论数据。

(2)百度外卖:区域公司、销量、评论数据。

(3)饿了么:区域公司、销量、评论数据。

(4)民众点评:点评、舆情数据。

8.直通国旅

(1)12306:铁路运维数据。

(2)携程:景点、路线、机票、饭店等数据。

(3)去哪儿:景点、路线、机票、饭店等数码。

(4)途牛:景点、路线、机票、饭店等数码。

(5)猫途鹰:世界内地旅游景点数据,来自海内外旅游者的真人真事点评。

好像的还有同程、驴老母、途家等

9.电商平台

(1)亚马逊:商品、销量、折扣、点评等数码

(2)淘宝:商品、销量、折扣、点评等数码

(3)天猫:商品、销量、折扣、点评等数码

(4)京东:3C产品为主的商品新闻、销量、折扣、点评等数据

(5)当当:图书新闻、销量、点评数据。

类似的唯品会、聚美优质产品、1号店等。

10.影音多少

(1)豆类电影:国内最受欢迎的影片音信、评分、评论数据。

(2)时光网:最全的电影资料库,评分、影片评论数据。

(3)猫眼电影专业版:实时票房数据,电影票房名次。

(4)天涯论坛云音乐:音乐歌单、明星消息、音乐评论数据。

11.房屋音信

(1)拉勾网房产:二手房数据。

(2)安居客:新房和二手房数据。

(3)Q房网:新房消息、销售数量。

(4)房天下:新房、二手房、租房数据。

(5)小猪短租:短租住房来源数量。

12.购车租车

(1)搜狐小车:小车资源消息、汽车数量。

(2)人人车:二手车音讯、交易数额。

(3)中汽组织:小车创造商产量、销量数据。

13.新媒体数据

(1)新榜:新媒体平台运维数据。

(2)清博大数据:微信公众号营业榜单及舆论数据。

(3)微问数据:1个对准微信的数量网站。

(4)知微传播分析:微博不胫而走数据。

14.分类讯息

(1)58同城:丰盛的同城分类音讯。

(2)赶集网:丰裕的同城分类音讯。

只要您是小白,想经过爬虫获得有价值的多寡,推荐大家的系列课程——Python爬虫:入门+进阶

叁 、数据交易平台

由于今天数量的要求十分的大,也催生了许多做多少交易的阳台,当然,出去付费购买的数据,在这一个平台,也有广大免费的数量能够赢得。

优易数据:由国家音信中央倡导,拥有国家级消息能源的数量平台,国内抢先的数目交易平台。平台有B2B、B2C三种交易方式,包括行政事务、社会、社交、教育、消费、交通、财富、金融、健康等多少个领域的多少能源。

数据堂:专注于互连网综合数据交易,提供数据交易、处理和数目API服务,包括语音识别、医疗常规、交通地理、电子商务、社交互联网、图像识别等方面包车型大巴多寡。

肆 、互联网指数

百度指数:指数查询平台,能够依据指数的变通查看有个别核心在相继时间段受关心的场所,实行可行性分析、舆情预测有很好的点拨意义。除了关切大势之外,还有要求分析、人群画像等精准分析的工具,对于市镇调查切磋来说具有很好的参考意义。同样的此外四个搜索引擎搜狗、360也有像样的成品,都得以视作参考。

Ali指数:国内权威的商品交易分析工具,能够按地区、按行业查看商品搜索和交易数据,基于天猫商城、天猫和1688阳台的贸易数额宗旨能够看到国内商品交易的概貌,对于趋势分析、行业观察意义十分的大。

友盟指数:友盟在移动网络使用数据总计和剖析具有较为完善的总括和剖析,对于切磋活动端产品、做集镇调查钻探、用户作为分析很有帮衬。除了友盟指数,友盟的网络报告同样是探听互连网趋势的脍炙人口读物。

爱奇艺指数:爱奇艺指数是专门针对摄像的广播行为、趋势的分析平台,对于互连网录制的播音有着全面包车型地铁总计和分析,涉及到广播趋势、播放设备、用户画像、地域分布、等多个方面。由于爱奇艺庞大的用户基数,该指数中央得以作证实际情形。

微指数:微指数是搜狐今日头条的多寡解析工具,微指数通过重点词的热议度,以及行业/类其他平分影响力,来显示天涯论坛舆论或账号的向上行情。分为热词指数和影响力指数两大模块,其它,仍是能够查阅热议人群及各项账号的地面分布情状。

除此而外以上指数外,还有谷歌(Google)方向搜狗指数360趋势艾漫指数等等。

伍 、网络采集器

网络采集器是因此软件的方式达成简单急忙地搜集互连网上散落的始末,具有很好的始末收集功效,而且不供给技术资金,被许多用户作为初级的收集工具。

造数:新一代智能云爬虫。爬虫工具中最快的,比其余同类产品快9倍。拥有相对IP,能够轻松发起无数呼吁,数据保存在云端,安全便利、不难高效。

列车采集器:一款专业的网络数据抓取、处理、分析,挖掘软件,能够灵活飞速地抓取网页上杂乱分布的数据消息。

八爪鱼:简单实用的采集器,功用齐全,操作简捷,不用写规则。特有的云采集,关机也足以在云服务器上运转采集职务。

相关文章