专为金融服务设计的加速器评测 机器学习博客

评估针对金融服务的专用加速器

作者：Hugh Christensen 发布于 2024年9月11日

关键要点

本文旨在为金融服务行业FSI的业务领导者提供有关专用加速器(PBAs)的基本概述。随着数据和分析的日益重要，企业在寻求通过利用持有的数据来获得竞争优势。加速计算，尤其是在金融领域，能显著提高运行时间，进而增强客户体验和业务决策的准确性。通过本文，读者将了解到加速计算的背景、核心技术、实际应用及其对未来的影响。

数据包含信息，而信息可以用来预测未来行为，从客户的购买习惯到证券收益。企业正在寻求通过利用他们掌握的数据、将其应用于独特的商业领域理解，进而生成可行的洞见来获得竞争优势。金融服务行业FSI并不例外，它是一个历史悠久的数据和分析的生产者与消费者。各个行业都有自己独特的商业细节和运作方式，金融服务行业尤为明显，监管考虑和零和竞争压力在其中尤为突出。本文旨在帮助金融服务行业的业务领导者，如首席数据官、首席分析师、首席投资官、量化负责人、研究主管和风险主管等，理解加速计算的优势，制定相应的商业策略。

加速计算是一个用于指代专用硬件即目的性加速器，PBAs的通用术语。在金融服务中，从量化研究到欺诈预防，再到实时交易，几乎每个活动都能从减少运行时间中获益。通过更快速地执行计算，用户可以更准确地解决方程式，改善客户体验，或在竞争中获得信息优势。这些活动涵盖了基本数据处理、分析和机器学习ML等多个领域。尤其是在人工智能AI的最新进展中，一些活动离不开硬件加速。机器学习通常与PBAs联系在一起，因此我们在本文开始时采用了一个插图。机器学习的过程包括学习和推理两个阶段。学习通常是在离线的环境中，处理大量的历史数据，而推理则是在在线环境下，对小规模的流数据进行处理。PBAs，如图形处理单元GPUs，在这两个阶段中都扮演着重要角色。

加速计算的背景

中央处理器CPUs旨在处理小规模的顺序数据，而PBAs则适合处理大规模的并行数据。PBAs在执行某些功能时，如浮点运算，通常比运行在CPUs上的软件要高效得多。这带来了如减少延迟、提高吞吐量和降低能耗等优势。PBAs的三种类型包括易于重新编程的芯片，如GPUs，以及两种固定功能加速器；即现场可编程门阵列 (FPGAs) 和应用特定集成电路 (ASICs)。当数据处理逻辑不需要更新时，固定或半固定功能的加速是可行的。FPGAs是可重新编程的，尽管不太容易，而ASICs则是为特定应用量身定制的完全固定且不可重新编程的。通常，用户友好程度越低的加速，其速度越快。

核心技术评估

并行计算

并行计算是指同时进行多个过程，并根据硬件支持并行性粒度的不同进行分类。这种计算模式通过将问题分解为独立部分，使每个处理单元能够同时完成其负载的部分。并行计算适合于重复性、固定任务的工作负载，这些任务涉及很少的条件分支，通常处理大量数据。并行计算的任务粒度通常分为细粒度与粗粒度。细粒度并行性指工作负载被拆分为大量的小任务，而粗粒度则是拆分为少量的大任务。关键区别在于处理单位之间所需的通信和同步程度。

目的性加速器

弗林分类法 是帮助理解PBAs的计算机架构分类。与PBAs相关的两个分类是单指令流多个数据流SIMD和单指令多线程SIMT 的子分类。SIMD指多处理单元同时对多个数据点执行相同操作。SIMT指的是能够操作数据向量和数组的处理器，因此能够有效地处理大规模数据工作负载。CPU通常具有相对较少的复杂核心，旨在尽可能快地运行操作序列，而GPU则特征较小的核心，旨在并行运行数千个线程。此设计使得GPU在常规、密集型数值、数据流主导的工作负载中具有明显的优势。

AWS加速器硬件

AWS目前提供一系列68种加速计算的亚马逊弹性计算云EC2实例类型，如F1 Xilinx FPGAs、P5 NVIDIA Hopper H100 GPUs等。AWS自有的芯片由我们的Annapurna Labs团队设计，Inferentia芯片在2019年12月正式发布，而Trainium芯片则在2022年10月面市。通过控制供应链，AWS能够确保其芯片的高可用性。随着更多芯片和新硬件平台的引入，AWS将持续为客户提供满足其需求的服务。

关键结论与未来展望

在总结中，可以强调出全球GPU的供应与需求比率较低，这意味着价格可能高昂且可获得性不足。这是制约最终用户企业在此领域创新的一个因素，而AWS通过强调自身在PBAs上的规模优势、研究与开发能力以及智能分配算法来缓解这一问题。此外，竞争压力的不断演变让金融服务尤其是资本市场的参与者们，必须重新审视如何在此快速变化的环境中找到差异化优势。

面向未来，随着AI与机器学习在金融服务中的影响力不断升高，对PBAs及其应用的深入理解将是推动创新与发展的关键之一。各企业应制定相应的战略，加强与AWS的联系，以便在长期竞争中胜出。

希望这篇文章能够为金融服务行业的领导者提供有价值的见解与策略，从而在加速计算这一快速发展的领域中抢得先机。