Altera Fpga AI套件

阿尔特拉fpga AI套件是一个全面的开发平台,设计用于简化在FPGA上创建AI推理解决方案。该平台与流行的AI框架(如TensorFlow和PyTorch)以及OpenVINO工具包无缝集成,可实现高效的模型优化和部署。该套件利用Intel® Quartus Prime软件将AI推理IP集成到FPGA设计中,确保高性能和低延迟。此外,它还支持开放模型的各种预训练模型,可快速轻松地转换和部署模型。因此,阿尔特拉fpga AI套件非常适用于在电信、数据中心和工业自动化等领域寻求利用FPGA功能的开发人员。

特性

  • 高性能 - Agilex™ 7 fpga M系列可在90% FPGA利用率下实现88.5 INT8 TOP或3679 Resnet-50帧每秒的最大理论性能。
  • 低总拥有成本,易于系统集成-将AI IP与其他系统级元件集成,以实现更小的占位面积、更低的功耗和延迟。
  • AI前端支持-使用TensorFlow、Caffe、Pytorch、MXNet、Keras和ONNX等AI前端。
  • 简单和标准流程-使用Quartus Prime软件或Platform Designer创建AI推理IP并将其添加到当前或新兴FPGA设计中。
  • 访问预训练的模型 - fpga AI套件支持开放模型的大多数模型。
  • 无缝预训练模型转换 - OpenVINO工具包将模型从大多数标准框架转换为中间表示。
  • 按钮优化的AI IP生成-从预先训练的AI模型无缝生成最佳AI推理IP,扫描设计空间,从而为性能目标提供最佳资源。
  • 无需硬件的早期模型验证-可通过OpenVINO插件接口对AI推理IP进行位精确软件仿真,从而在无需硬件的情况下快速评估模型的精度。

应用

  • 计算机视觉
  • 医疗成像和诊断
  • 工业
  • 数据中心
  • 工业自动化
  • 电信
  • 军用
  • 编织

推断开发流程

该开发流程将硬件和软件工作流无缝集成到通用的端到端AI工作流中。这些步骤如下:

1. OpenVINO模型优化器将您的预训练模型转换为中间代表网络文件(.xml)和权重、偏置文件(.bin)。

2. Fpga AI Suite编译器用于:

-为给定架构文件提供估计区域或性能指标,或生成经过优化的架构文件。(架构指推理IP参数,如PE阵列的大小、偏差、激活功能、接口宽度、窗口尺寸等)

-将网络文件编译为.bin文件,带FPGA和CPU(或两者)的网络分区以及权重和偏置。

3. 用户推理应用程序在运行时导入编译的.bin文件。运行时应用程序编程接口(API)包括推理引擎API(运行时分区CPU和FPGA、排程推理)和FPGA AI(DDR内存、FPGA硬件模块)。

4. 可提供参考设计,演示在FPGA上导入.bin和运行推理的基本操作,支持主机CPU(x86和Arm® 处理器)以及无主机推理操作。

5. 可通过OpenVINO插件接口访问FPGA AI Suite IP的软件仿真,从而快速评估FPGA AI IP的精度,无需访问硬件(仅可用于Agilex™ 5 fpga)。

视频

发布日期: 2025-03-31 | 更新日期: 2025-04-14