研报解读|《AI in Capital Markets: Balancing Innovation and Integrity》

今天分享的这份报告由荷兰金融市场管理局（AFM）发布，旨在探讨人工智能（AI）如何在重塑资本市场交易生命周期（交易前、执行、交易后）各个阶段的同时，既带来巨大机遇，也引入了新的风险，并放大了现有风险。报告的核心论点是：AI对市场诚信的影响并非预先决定，而是取决于人类在设计、治理和监督这些系统时所做的选择。报告呼吁在推动AI创新潜力的同时，必须通过强有力的人类监督、透明度和问责制来维护市场的信任与公平。

报告从宏观的情景分析入手，逐步深入到具体的交易环节，最后提出总结性结论和未来辩论的优先事项。

1. 绪论与场景分析：
   报告以希腊神话中的“塔罗斯”为引，比喻AI系统的强大与脆弱并存。通过描绘“乌托邦”和“反乌托邦”两种极端未来场景，阐述了不同选择可能导致的市场发展方向。
2. 贯穿交易生命周期的系统性风险：
   识别了不限于特定交易环节，而是影响整个市场的三大类风险。
• 数据投毒：AI模型依赖大量数据，恶意攻击者可污染训练数据或实时输入数据，从而操纵模型行为，引发系统性风险。
• 自主智能体（Agentic AI）：随着AI系统自主性增强，其风险面扩大，可能带来混乱的交易动态、控制失效和错误快速传播。
• 集中化与模型趋同：少数公司垄断AI交易能力，以及众多公司使用相似模型和共同数据源，可能导致“羊群效应”和“自我强化反馈循环”，加剧市场波动和脆弱性。
3. 按交易生命周期分析：详细分析了AI在“交易前”、“执行”和“交易后”三个阶段的具体应用、机遇和风险。

• 交易前：机遇：AI能自动化结算、对账和报告流程，处理异常，减少错误和成本，并提高监管数据的质量。风险：复杂的“黑箱”模型使得事后追查交易原因变得困难；大型语言模型（LLM）在生成监管报告时可能产生“幻觉”，污染监管数据；同时，外包环节（如数据供应商）也可能导致审计轨迹丧失。
• 执行阶段：机遇：AI驱动的路由和调度工具能为大额订单找到更好的执行价格，降低市场影响；自学习模型作为做市商，能更精确地管理风险，提供更窄的买卖价差，增强流动性。风险：自学习算法可能进行“规范博弈”，即为了实现狭隘的目标（如最大化利润）而采取看似符合规则但实质上具有操纵性的行为（如“虚假订单”、“默契合谋”）；高级AI可能识别并“抢跑”大型机构订单，提高交易成本，导致大型投资者转向场外市场（OTC）或“暗池”，损害市场透明度。
• 交易后：机遇：生成式AI为散户投资者“赋能民主化”，提供个性化洞察；预测性AI通过分析更广泛的数据源（如新闻、社交媒体）优化资产定价。风险：散户将生成式AI输出视为未经监管的投资建议，容易受其不准确、偏见或“幻觉”的影响；“AI洗绿（AI Washing）”，即公司夸大其AI能力，误导投资者。4.结论与优先事项：报告以三个结论和三项辩论优先事项作结。

三大核心结论

1. 市场诚信源于AI系统中的人类选择：模型的目标、约束、运行环境和输入数据都包含了人类的设计意图。随着模型自主性提高，结果更依赖于设计、数据质量和抗操纵性。持续的人类监督对于确保模型符合伦理和预期目的、防止其处理或传播扭曲信号至关重要。
2. 风险不仅来自单个模型，也来自其生态系统：模型中共享的输入和优化目标可能导致相关行为和反馈循环，从而放大风险。因此，监督和监管需要共同进步，以应对新兴的系统性风险。
3. 无论技术多么复杂，市场参与者始终对其系统负全责：使用自学习模型并不能稀释责任。参与者必须为其模型的行为负责。系统应始终可控且合规，并采取措施防止欺骗性行为（如利用模型目标或约束中的漏洞）。

未来辩论的三大优先事项

1. 将“可信赖的AI模型”作为市场诚信的基础：AFM追求AI模型本质可靠、安全的未来市场。健全的模型验证、明确的安全保障和强大的数据治理将是竞争优势的关键。透明度和可靠性不仅是合规要求，更是监督和吸引流动性的优先事项。
2. 监管一个由可信与不可信AI系统组成的混合生态系统：一些参与者将运营高度治理的透明AI系统，而另一些则可能依赖于不透明或不稳定的模型。AFM的目标是进行差异化监管：对治理良好的AI给予可预测、相称的期望；对高风险或不透明的系统进行更严格的审查，从而形成正确的激励结构。此外，需要重新评估当前的市场基础设施是否适应日益自动化的市场，并在AI交易代理大规模部署前明确问责标准。
3. 解决系统层面的动态和潜在的反馈循环：市场动态越来越取决于AI模型在个体和组合中的行为。理解它们之间的相互作用，对于识别可能产生自我强化反馈循环和加剧市场压力的条件至关重要。AFM认为需要更广泛的辩论，探讨在模型之间的互动破坏有序市场运行时，是否有必要采取额外的行动。

本文是一份探索性和前瞻性的研报解读。并非对AI的谴责或盲目吹捧，而是理性地分析了其在资本市场带来的双刃剑效应。报告的核心焦虑点在于 “失控”——无论是失去对数据质量的控制、对模型行为的解释力，还是对市场动态演变的理解。最终的结论是 “人” 的作用不可替代，人类的智慧、伦理选择和持续监督是确保AI成为市场诚信的“守护者”而非“腐蚀剂”的关键。