爱AI工具库,国内AIGC产品探索者分享平台
注册
当前位置:首页

芝大论文证明 GPT-4 选股准确率高达 60%,人类股票分析师要下岗?AI 大牛质疑数据污染

爱AI工具库 2024-05-27
10

【新智元导读】GPT-4 在为人类选股时,表现竟然超越了大部分人类分析师,和针对金融训练的专业模型?在没有任何上下文的情况下,它们直接就成功分析了财务报表,这一发现让许多业内大咖震惊了。然而好景不长,有 AI 大牛指出研究中的 bug:之所以会这样,很可能是训练数据被污染了。最近,各位业内大咖都被芝大的一篇论文震惊了。研究者发现,由 GPT-4 帮忙选择的股票,直接击败了人类!同时也 pk 掉了许多其他针对金融训练的机器学习模型。最让他们震惊的是,LLM 可以在没有任何叙述上下文的情况下,就成功分析财务报表中的数字!论文地址:https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4835311具体来说,在预测收益的变化上,LLM 比经验丰富的金融分析师都更出色。尤其是在选股时,人类分析师会面临一些难以应对的场景,导致预测结果存在偏见、效率低下,这时 LLM 就表现出了巨大的优势。并且,LLM 做出的预测,不仅仅是回忆训练数据,比如 GPT-4 提供的有洞察力的分析,甚至能揭示一家公司未来潜在的表现。GPT-4 的表现一骑绝尘,直接比其他模型实现了更高的夏普比率(Sharpe ratio)和阿尔法(alpha)。沃顿商学院教授 Ethan Mollick 盛赞:这是一篇众人翘首以盼的论文。也有网友感慨道:以后在股市中操盘的,是人还是 AI 都不好说了……然而,就在大家激动之时,有细心的研究人员给这项研究泼了冷水:之所以能取得这个结果,很可能是由于训练数据的污染造成的。AI 大牛田渊栋也表示,GPT-4 的优异表现,不排除是训练数据集中包括了未来的股票价格,因此 GPT-4 直接开了挂,据此对 2021 年起的股票样本进行了选择。至于测试 GPT-4 是否开了挂,理论上并不复杂:只要获取股票的历史记录,将其重命名为某个新代码,将其输入来测试就可以了。研究内容怎样衡量 LLM 在未来决策中的作用?在这项研究中,研究者衡量的标准,就是让 LLM 进行财务报表分析(FSA)。之所以进行 FSA,主要是为了了解公司的财务健康状况,并确定其业绩是否可持续。FSA 并不简单,它是一个定量任务,需要大量分析趋势和比率,还涉及批判性思维、推理能力和复杂判断。通常,这个任务是由金融分析师和投资专业人士来完成的。在研究中,研究者会将两份标准的财务报表 —— 资产负债表和损益表扔给 GPT-4 Turbo,它的任务是:分析公司接下来的收益是会增长还是下降。注意,这项研究中有一个关键的设计,就是绝不向 LLM 提供任何文本信息,LLM 能参考的,只有纯粹的报表。研究者预测,LLM 的表现,大概率会比专业的人类分析师差。原因在于,分析财务报表这项任务,非常复杂,涉及许多模糊性的东西,需要很大常识、直觉和人类思维的灵活性。而且,LLM 目前的推理和判断能力还很不足,并且也缺乏对于行业和宏观经济的理解。另外,研究者还预测 LLM 的表现也会弱于专用的机器学习应用,比如为收益预测的人工神经网络(ANN)。因为,ANN 允许模型学习深层次的交互,这些交互中包含了重要线索,通用模型是很难获取这些线索的。除非,通用模型能基于不完整的信息,或从未见过的情景,进行直觉推理、形成假设。实验结果却令他们大吃一惊:LLM 竟然 pk 掉了许多人类分析师和专用的神经网络,表现出了更优异的成绩!实验步骤评测 LLM 的具体表现如何,需要从以下两个步骤展开。首先,研究人员对公司的财务报表进行匿名化和标准化处理,防止 LLM 记住公司的潜在可能。特别是,他们从资产负债表和损益表中,省去了公司的名称,并用标签(如 t 和 t-1)替换年份。此外,研究者还按照 Compustat 的平衡模型,标准化资产负债表和损益表的格式。这种方法,可以确保财务报表的格式,在所有公司年度统计中都是相同的,因此 LLM 也不知道其分析对应的是哪家公司或哪个时间段。在第二阶段中,研究人员设计了一个指令,指导 LLM 进行财务报表分析,并确定未来收益方向。除了简单的指令外,他们还开发了一个 CoT 指令,实际上是「教」LLM 以人类金融分析师的思维过程进行分析。具体来说,金融分析师在分析中会识别财务报表中显著的趋势,计算关键财务比率(如经营效率、流动性和杠杆比率),综合这些信息,并形成对未来收益的预期。研究人员创建的 CoT 指令,便是通过一系列步骤,来实现这个思维过程。在数据集选用上,研究人员使用 Compustat 数据库来测试模型的表现,并在必要时与 IBES 数据库交叉使用。样本涵盖了从 1968-2021 年之间,15401 家公司的 150678 个公司的年度数据。分析师的样本涵盖了 1983-2021 年期间,包含 3152 家公司的 39533 个观察数据。LLM 为何如此成功对于这个结果,研究者提出了两种假设。第一种假设是,GPT 的表现完全是由近乎完美的记忆驱动的。GPT 很可能是从数据中推断出了公司的身份和年份,然后将这些信息与新闻中学到的关于该公司的情感相匹配。为此,研究者试图排除这种可能。并且,也使用了 GPT-4 训练期以外的全新数据,复制了结果。第二种假设是,GPT 之所以能推断出未来收益的方向,是因为生成了有用的见解模型。比如,模型经常会计算金融分析师计算的标注比率,然后根据 CoT 提示生成分析这些比率的叙述。为此,研究者将模型为给定公司年度生成的所有叙述汇总,并使用 BERT 将它们编码成 768 维向量(嵌入),然后将这些向量输入到 ANN 中,并训练它预测未来收益的方向。结果,基于 GPT 叙述见解训练的 ANN 达到了 59% 的准确率,这几乎与 GPT 的预测准确率(60%)一样高。这一结果直接证明,模型生成的叙述见解对未来表现具有信息性。另外可以观察到,GPT 的预测与基于 GPT 叙述的 ANN 预测之间,有 94% 的相关性,这就表明,这些叙述编码的信息是 GPT 预测的基础。而在解释未来收益方向上,与比率分析相关的叙述最为重要。总之,模型之所以表现优越,原因就是基于 CoT 推理生成的叙述。实验结果最新研究中的实验评估结果,可以总结为以下三大亮点。GPT 胜过人类金融分析师为了评估分析师的预测准确性,研究者计算了「共识预测」(即财务报表发布后一个月内各个分析师预测的中位数),并将其作为下一年收益的预期。这确保了分析师预测和模型预测结果的可比性。此外,作者还使用了使用未来三个月和六个月的「共识预测」作为可替代的预期基准。这些基准对 LLM 不利,因为它们整合了一年中所获得的信息。不过,考虑到分析师可能在将新信息纳入预测时较为迟缓,研究者选择报告这些基准以供比较。研究人员首先对 GPT 在预测未来「收益方向」方面的表现进行了分析,并将其与证券分析师的表现进行了比较。他们注意到预测每股收益(EPS)变化是一项高度复杂的任务,因为 EPS 时间序列近似于「Random Walk」(随机游走)并且包含大量不可预测的成分。随机游走反映了,仅根据当前收益与之前收益相比的变化的预测。下图展示的是 GPT 和人类金融分析师的预测性能对比结果。结果显示,第一个月分析师的预测,在预测未来收益方向方面的准确率为 53%,这超过了简单模型(将前一年的变化外推)的 49% 准确率。而分析师三个月和六个月后的预测准确率,分别为 56% 和 57%,这是合理的,因其包含了更及时的信息。基于「简单」非 CoT 提示的 GPT 预测表现为 52%,低于人类分析师基准,这与研究者预期一致。然而,当使用 CoT 模拟人类推理时,他们发现 GPT 的准确率达到了 60%,显著高于分析师的表现。如果再去核查 F1-score(F1 评分),这是一种评估模型预测能力的替代指标(基于其精确度和召回率的组合),也会得出类似的结论。这表明,在分析财务报表以确定公司发展 方向方面,GPT 明显击败了中位数金融分析师的表现。坦白讲,人类分析师可能依赖于模型无法获得的软信息或更广泛的背景,从而增加了价值。确实,研究人员还发现分析师的预测包含了 GPT 未捕捉到的,关于未来表现的有用见解。此外,研究显示,当人类难以做出未来预测时,GPT 的见解更有价值。同样,在人类预测容易出现偏见或效率低(即未合理纳入信息)的情况下,GPT 的预测在预测未来收益方向方面更有用。GPT 与专用神经网络不相上下研究人员还比较了 GPT 和各种 ML 模型的预测精度。他们选用了三种预测模型。第一个模型「Stepwise Logistic」(逐步回归),遵循 Ou and Penman 框架,使用了 59 个财务指标预测变量。第二个模型是,使用相同 59 个预测变量的 ANN 但也利用了它们之间的非线性和交互。第三,为了确保 GPT 和 ANN 之间的一致性,研究人员还使用了,基于提供给 GPT 的相同信息集(损益表和资产负债表)训练的 ANN 模型。重要的是,研究者基于每五年的历史数据使用 Compustat 的观察数据来训练这些模型。所有预测都是样本外的(out of sample)。使用整个 Compustat 样本,研究发现「逐步回归」的准确率(F1 评分)为 52.94%(57.23%),这与人类分析师的表现相当,并且与之前的研究一致。相比之下,使用相同数据训练的 ANN 达到了更高的准确率 60.45%(F1 评分 61.62%),这处于最先进的收益预测模型的范围。当使用 GPT(with CoT)预测时,发现模型在整个样本上的准确率为 60.31%,这与 ANN 的准确率非常接近。事实上,GPT 的 F1 评分显著高于 ANN(63.45% vs. 61.6%)。此外,当研究人员仅使用两份财务报表的数据(输入到 GPT 中)训练 ANN 时,发现 ANN 的预测能力略低,准确率(F1 评分)为 59.02%(60.66%)。总体而言,这些结果表明 GPT 的准确率与最先进的专用机器学习模型的准确率相当(甚至略高)。ANN 和 GPT 预测互补研究人员进一步观察到,ANN 和 GPT 的预测具有互补性,因为它们都包含有用的增量信息。并且有迹象表明,当 ANN 表现不佳时,GPT 往往表现良好。特别是,ANN 基于其在过去数据中看到的训练示例来预测收益。并且,鉴于许多示例非常复杂且高度多维,其学习能力可能受到限制。相比之下,GPT 在预测小型或亏损公司的盈利时,犯的错误相对较少,可能得益于其类似人类的推理和广泛的知识。除此以外,研究者还进行了几项额外的实验,基于 GPT 对其答案的置信度对样本进行分区,并使用了不同的 LLM 家族。当 GPT 以更高的置信度回答时,预测往往比置信度较低的预测更准确。与此同时,研究证明了这一结果可以推广到其他大模型上。特别是,谷歌最近发布的 Gemini Pro,其准确率与 GPT-4 不相上下。预测来源:增长和营业利润率下图显示了,GPT 响应中,双词(bigram)和单词(monogram)的频率统计。这里,双词指的是由两个连续的单词组成,在文本中一起使用;单词指的是一个单词。图左展现的是「双词」的结果,GPT 关于财务比率分析的答案中发现的十个最常见的「双词」。图右列出的是,GPT 对二元盈利预测(binary earnings predictions)中,出现频率最高的十个单词。之所以做这项分析,是为了确定 GPT 在不同财务分析环境中,使用最常见的术语和短语。有趣的是,「营业利润率」(Operating Margin)和「增长」(Growth)这两个词的预测力最高。看来,GPT 似乎已经内化了「40 法则」。总之,所有结果表明,AI 加速发展,金融分析师的角色将会改变。不可否认,人类专业知识和判断力不太可能在短期内被完全取代。但像 GPT-4 这样强大的 AI 工具可能会极大地增强和简化分析师的工作,甚至可能在未来几年里,重塑财务报表分析这一领域。参考资料:https://www.newsletter.datadrivenvc.io/p/financial-statement-analysis-withhttps://x.com/tydsh/status/1794137012532081112https://x.com/emollick/status/1794056462349861273https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4835311本文来自微信公众号:新智元 (ID:AI_era)

来源:IT之家

相关推荐

暂无数据

评论 ( 0 )

aiaitool@163.com

扫一扫,备注来意

qrcode

回顶部