华尔街如何玩转社交网络大数据_数据分析师考试
5月28日,当上证指数以重挫6.5%结束一天行情时,网络上到处弥漫着恐慌与迷茫的情绪。就在投资者在坚守和撤离之间难做抉择之时,有一种软件已在后台搜集这些情绪数据,并进行量化分析,形成具体的投资意见。这就是美国华尔街投行、对冲基金、甚至纽约证券交易所都在使用的社交网络股市情绪量化分析法。
我国的股市情绪量化分析,也随着股票雷达、投资脉搏以及百度股市通等应用的出现,进入了起步阶段。在大市走向震荡加剧的当下,将感性的情绪量化为理性数据,不失为投资者纵观全局的参考指标。
2015年4月,总部位于波士顿的对冲基金Tashtego宣布,将依靠数据算法,利用社交网络分析客户情绪和投资者行为进行交易。这则消息,向大众揭开了华尔街使用的情绪量化分析法的神秘面纱。
实际上,从2013年美国证监会(SEC)允许上市公司在社交网络披露公司信息起,美国股市情绪分析应用如雨后春笋般冒出,华尔街投行、对冲基金等纷纷加入到这股互联网金融浪潮中。
社交数据分析公司受追捧
2013年3月8日,纽约数据分析公司Dataminr(数据矿工)的客户收到一条紧急推送,称一艘皇家加勒比海游轮抵达佛罗里达的埃弗格莱兹港,船上的105名乘客和3名船员全部感染诺如病毒(常见伴随症状是食物中毒和腹泻)。这则经确认的新闻刚公布,皇家加勒比海游轮公司的股价旋即急跌2.9%。Dataminr的客户在新闻公布前48分钟即得知此事件。
引起Dataminr员工警觉的,是南佛罗里达新闻电台WSVN于当天下午1点发布的一条推文。“我们心中警铃一震”,Dataminr公司创始人彼得·贝利说,后台语义算法系统发现这条推文与曾经产生过类似价值的信息行文类同。当天下午1点02分,即该推文发布两分钟后,Dataminr公司的相关客户就收到一封警示邮件。
上述Dataminr提供的服务,不过是美国近几年社交网络股市情绪分析浪潮中的一例。
诸如Social Market Analytics(社交市场分析公司SMA)和Hedge chatter等公司都以Twitter、Facebook等社交网络大数据为基础,收集并分析网络上对上市公司或某一事件的看法评论,并作出与股价有关的预测分析。
全球最大社交数据提供商GNIP2014年发布白皮书指出,社交网络股市情绪分析最早始于2010年,用途还只限于企业分析客户感受。2013年,美国证监会(SEC)允许上市公司在社交网络披露公司信息后,包括汤森·路透、彭博社在内的全球著名数据提供商也开始提供社交网络数据分析服务。
面向机构和个人的相关应用如雨后春笋般冒出。Dataminr创始人彼得·贝利透露,他们的客户就包括华尔街前5大超级投资银行中的3家,和一家估值150亿美元的股权避险基金公司。
SMA与全球领先的数据分析商Markit合作,向超3000家机构投资者提供信息,里面就包括中央银行、华尔街投行、对冲基金、政府机构和保险公司等。值得注意的是,SMA甚至打入了交易所内部,向美国纽约交易所用户订阅栏目提供实时数据分析结果。
理论基础和数据池更成熟
对市场情绪的分析早有理论基础。2002年,心理学家丹尼尔·卡纳曼和经济学家弗农·史密斯因对结合了心理学和经济分析的行为经济学的研究,分享了这一年的诺贝尔经济学奖,让这一细分学科在沉寂了几十年后真正走进了公众视野。
2010年,美国印第安纳大学和英国曼彻斯特大学的三位学者合作发表了一篇题为《Twitter情绪预测股市》的论文,指出基于大量推文而分析出的公众情绪与道琼斯工业指数相关联,甚至具有预测性。
他们选取2008年2月28日至12月19日近1000万条推文作为样本,采用两种情绪追踪工具将其分类。一种是开源工具OpinionFinder,将推文二分为积极和消极情绪;另一种是以临床医学使用的情绪状态量表(POMS)基础而新开发的情绪测试工具GPOMS,能将公众的情绪分为冷静、警惕、确信、活力、友善和幸福这六个类别。
研究者发现,将“冷静”情绪指数后移3天,竟然与道琼斯工业平均指数惊人一致,也就是说,Twitter反映出的情绪能在一定程度上预测3~4天后的股市变化。另外,研究者还测试了一个称为SOFNN的股市预测模型。当仅输入股市数据时,模型已经有73.3%的准确率;加入“冷静”的情感信息后,准确率更升至86.7%。
分析软件如何在全球每天数百亿推文中筛选有效信息,成为量化市场情绪的关键,专业的算法成为筛选有效信息的利器。
对相对成熟的美国公司来说,其能利用的数据池非常广泛。《每日经济新闻》记者注意到,Dataminr、SMA和Hedge chatter三家业界主力的信息来源分为两种。
一种是依托全球最大专业数据提供公司英国DataSift(数据雨燕)和美国GNIP。DataSift数据池共有超过21家网站,拥有强大的信息过滤算法,每秒能挖掘12万条推文,数据池除了主要的Twitter、Facebook、Wordpress和Tumblr外,还有图片社交网站Instagram、视频分享网站Youtube和Dailymotion等,其中Datasift还取得了新浪微博、腾讯微博的资源授权。
二是公司用自己的语义分析法对数据进行细分。例如SMA锁定超过30万的专业投资者,这部分人密切关注资本市场动向,有规定地发布股市推文。因此成为SMA数据库的基础来源,并每月自动筛选替换。
国内篇
A股情绪量化分析刚起步 深度待提高
在国内,首款情绪分析软件股票雷达已面世三年多;基于印第安纳大学研究成立的投资脉搏网站推出心情指数,直观感受股市情绪与大盘变化走势;基于百度搜集大数据的百度股市通也公布了不俗的成绩,我国的股市情绪量化分析已在起步。
作为2012年就利用社交情绪预测股市的公司,股票雷达创始人冯月在接受《每日经济新闻》记者采访时表示,股票雷达中的雷达关注功能是一款针对A股的个股资讯聚合分析工具,它通过捕捉全网各类股票资讯,统计网络中所有人的看涨看跌观点,再利用自身大数据技术分析出目前市场整体看好的股票是哪些。
与美国此类软件数据来源不同的是,冯月向记者介绍,股票雷达后台数据来源于全网,只要与股票有关的网站,包括微博在内,都是股票雷达分析来源。这主要是因为A股客户相对分散。《每日经济新闻》记者注意到,投资脉搏网站的股市心情指数,数据来源于股吧、新浪财经、搜狐财经等,并利用自家的算法程序在社交数据中提取最核心关键内容,辨别“涨跌、买卖”等关键指标,得出大多数股民对大市的心理预测值,且用户也能在投资脉搏网站上对当天股票的整体行情评分,取值范围是从-100~100之间,代表看空或看多情绪的强烈程度。
相较于分析股市情绪的上述两款应用,除了分析全网股市情绪外,百度在今年2月推出的百度股市通APP还利用了百度的大数据引擎技术,智能分析股市行情热点,根据百度股市通5月13日公布的数据显示,百度股市通所有热点事件股票的上涨概率达78%,股票日均涨幅达1.7%。
冯月向对记者表示,从国内应用提供的服务看,我国的社交网络情绪分析还处于起步阶段,也暂时缺乏健全的市场监管和指导。记者注意到,相较于美国社交网络情绪分析已深入华尔街,我国的股市情绪分析还有很大提升空间。
美国软件公司对市场情绪的量化已进入可视化阶段,能将一只股票的实时情绪变化走势形象地表现出来,甚至能将这些数据通过Excel下载并自行统计,其所能达到的直观效果与分析深度不言而喻。
我国的相关软件多是一揽子聚合信息服务中的一项,且只涉及后台分析,向投资者提供市场情绪看涨或看跌的个股,目前还不能像东方财富、同花顺等交易软件一样,向投资者提供具象数据。
争议篇
情绪指数非万能 但有助于理性投资
情绪跟股市之间的联系似乎得到了理论的论证,那么在“真刀实枪”的投资行为里,情绪指数是只能做提供分析参考的“助攻者”,还是可以直接指导投资的“得分手”,其预测个股的可靠程度又有多少,国内外对此的争议从未间断。
判断大市优于个股预测
对于个股预测,美国印第安纳大学信息科学及计算技术副教授约翰·博伦认为情绪预测大市趋势比预测个股更有用。
约翰·博伦质疑道,仅仅监测Twitter上的一个子集(如金融板块),到底有多大价值:“从表面的角度来看,这是一个显而易见的事情。但你必须问问:为什么有人要针对一只股票发推文,为什么推文比其他指标更有价值?”他补充说,如果你了解一点市场内幕,肯定不会和别人分享。
但博伦也认为,整体的互联网情绪分析能产生重大收获。他建立了一家趋势分析企业,试图发现“金矿”。他说:“我们在寻找隐藏的社会潜流。”
同校的休伯曼教授呼应了这一观点:用社交媒体衡量公共情绪,只在整体意义上有用,“除非乔治·索罗斯和沃伦·巴菲特在发微博,否则Twitter用户并不是那些能够影响市场走向的人。”
但股票雷达创始人冯月并不认为情绪分析个股有失准确。他说,股票雷达从2012年1月13日开始,每天开盘前都会在新浪微博贴出策略帖,坚持了9个月,最终收益超过40%,而同期大盘大跌。当然,冯月也表示,股票雷达不是股神,也有跌的时候,比如2013年3月它的收益就是-11%。
专业判断仍不可或缺
美国圣母大学的研究者则质疑社交网络对突发事件的预测。他们在研究中发现,2008年10月13日,美国联邦储备委员会突然启动一项银行纾困计划,令道琼斯指数反弹,而3天前的Twitter冷静指数毫无征兆。而且,研究者自己也意识到,Twitter用户与股市投资者并不完全重合,这样的样本代表性有待商榷。
美国特许金融分析师(CFA)协会创新与新兴媒体主管莱恩·科斯塔也不赞成Twitter情绪指数的滥用:“对于严肃的专业投资者来说,在作出投资决定时,没有什么可以替代合理的审慎、独立的专业判断和由适当的研究与调查支持的基础。”
在A股市场震荡加剧的当下,冯月希望股民在做投资决定的时候能越来越理性。他说,股票是一个众人博弈的游戏,再“精准”的推荐也是有风险的。基于此,他们不是简单地给出推荐股票,而是会将该只股票的所有相关信息全部呈现给用户,包括所有看好和不看好这支股票的言论内容,以及这些言论发表者的身份、背景和历史言论。当用户了解完所有这些信息之后,他的决定则会趋于理性。
数据分析咨询请扫描二维码
《Python数据分析极简入门》 第2节 7 Pandas分组聚合 分组聚合(group by)顾名思义就是分2步: 先分组:根据某列数据的值进行 ...
2024-11-25数据分析需要学习的内容非常广泛,涵盖了从理论知识到实际技能的多个方面。以下是数据分析所需学习的主要内容: 数学和统计学 ...
2024-11-24数据分析师需要具备一系列多方面的技能和能力,以应对复杂的数据分析任务和业务需求。以下是数据分析师所需的主要能力: 统计 ...
2024-11-24数据分析师需要学习的课程内容非常广泛,涵盖了从基础理论到实际应用的多个方面。以下是根据我搜索到的资料整理出的数据分析师需 ...
2024-11-24《Python数据分析极简入门》 第2节 6 Pandas合并连接 在pandas中,有多种方法可以合并和拼接数据。常见的方法包括append()、conc ...
2024-11-24《Python数据分析极简入门》 第2节 5 Pandas数学计算 importpandasaspdd=np.array([[81,&n ...
2024-11-23数据分析涉及多个方面的学习,包括理论知识和实践技能。以下是数据分析需要学习的主要方面: 基础知识: 数据分析的基本概念 ...
2024-11-22数据分析适合在多个单位工作,包括但不限于以下领域: 金融行业:金融行业对数据分析人才的需求非常大,数据分析师可以从事经 ...
2024-11-22数据分析是一种涉及从大量数据中提取有用信息和洞察力的过程。其工作内容主要包括以下几个方面: 数据收集与整理:数据分析师 ...
2024-11-22数据分析师需要掌握多种技能,以确保能够有效地处理和分析数据,并为业务决策提供支持。以下是数据分析师需要掌握的主要技能: ...
2024-11-22数据开发和数据分析是两个密切相关但又有所区别的领域。以下是它们的主要区别: 定义和目标: 数据开发:数据开发涉及数据的 ...
2024-11-22数据架构师是负责设计和管理企业数据架构的关键角色,其职责涵盖了多个方面,包括数据治理、数据模型设计、数据仓库构建、数据安 ...
2024-11-22数据分析师需要具备一系列技能,以确保能够有效地处理、分析和解释数据,从而支持决策制定。以下是数据分析师所需的关键技能: ...
2024-11-22数据分析师需要具备一系列技能,以确保能够有效地处理、分析和解释数据,从而支持决策制定。以下是数据分析师所需的关键技能: ...
2024-11-22数据分析师需要具备一系列的技能和能力,以确保能够有效地处理、分析和解释数据,从而支持业务决策。以下是数据分析师所需的主要 ...
2024-11-22需求持续增长 - 未来数据分析师需求将持续上升,企业对数据驱动决策的依赖加深。 - 预测到2025年,中国将需要高达220万的数据人 ...
2024-11-22《Python数据分析极简入门》 第2节 4 Pandas条件查询 在pandas中,可以使用条件筛选来选择满足特定条件的数据 importpanda ...
2024-11-22数据分析师的工作内容涉及多个方面,主要包括数据的收集、整理、分析和可视化,以支持商业决策和问题解决。以下是数据分析师的一 ...
2024-11-21数据分析师必须掌握的技能可以从多个方面进行归纳和总结。以下是数据分析师需要具备的主要技能: 统计学基础:数据分析师需要 ...
2024-11-21数据分析入门的难易程度因人而异,总体来看,入门并不算特别困难,但需要一定的学习和实践积累。 入门难度:数据分析入门相对 ...
2024-11-21