特性
- 高性能 - Agilex™ 7 fpga M系列可在90% FPGA利用率下实现88.5 INT8 TOP或3679 Resnet-50帧每秒的最大理论性能。
- 低总拥有成本,易于系统集成-将AI IP与其他系统级元件集成,以实现更小的占位面积、更低的功耗和延迟。
- AI前端支持-使用TensorFlow、Caffe、Pytorch、MXNet、Keras和ONNX等AI前端。
- 简单和标准流程-使用Quartus Prime软件或Platform Designer创建AI推理IP并将其添加到当前或新兴FPGA设计中。
- 访问预训练的模型 - fpga AI套件支持开放模型的大多数模型。
- 无缝预训练模型转换 - OpenVINO工具包将模型从大多数标准框架转换为中间表示。
- 按钮优化的AI IP生成-从预先训练的AI模型无缝生成最佳AI推理IP,扫描设计空间,从而为性能目标提供最佳资源。
- 无需硬件的早期模型验证-可通过OpenVINO插件接口对AI推理IP进行位精确软件仿真,从而在无需硬件的情况下快速评估模型的精度。
应用
- 计算机视觉
- 医疗成像和诊断
- 工业
- 数据中心
- 工业自动化
- 电信
- 军用
- 编织
推断开发流程
该开发流程将硬件和软件工作流无缝集成到通用的端到端AI工作流中。这些步骤如下:
1. OpenVINO模型优化器将您的预训练模型转换为中间代表网络文件(.xml)和权重、偏置文件(.bin)。
2. Fpga AI Suite编译器用于:
-为给定架构文件提供估计区域或性能指标,或生成经过优化的架构文件。(架构指推理IP参数,如PE阵列的大小、偏差、激活功能、接口宽度、窗口尺寸等)
-将网络文件编译为.bin文件,带FPGA和CPU(或两者)的网络分区以及权重和偏置。
3. 用户推理应用程序在运行时导入编译的.bin文件。运行时应用程序编程接口(API)包括推理引擎API(运行时分区CPU和FPGA、排程推理)和FPGA AI(DDR内存、FPGA硬件模块)。
4. 可提供参考设计,演示在FPGA上导入.bin和运行推理的基本操作,支持主机CPU(x86和Arm® 处理器)以及无主机推理操作。
5. 可通过OpenVINO插件接口访问FPGA AI Suite IP的软件仿真,从而快速评估FPGA AI IP的精度,无需访问硬件(仅可用于Agilex™ 5 fpga)。
视频
发布日期: 2025-03-31
| 更新日期: 2025-04-14

