环境 基础 Anaconda 简化 使用 给出些 ONNX 模型使用的示例方法。 提取子模型 修改输入输出名称 修改输入输出维度 此为修改模型的。如果要修改某节点的，见参考 onnx_cut.py 的 _onnx ...

1 ONNX ONNX是表示模型的一种格式, 它提供了对模型的一种中间表示。 1.1 ONNX's Design Principles: 既支持深度神经网络, 也支持传统的机器学习 可解释 后向兼容(backward compatible) compact ...

MLIR中间表示与编译 概述 目前深度模型的推理引擎按照实现方式大体分为两类： 解 解释型推理引擎： 一般包含模型解析器，模型解释器，模型优化器。 模型解析器负责读取和解析模型文件，转换为适用于解释器处理 ...

MLIR与Code GenerationMLIR多级中间表示MLIR 项目是一种构建可重用和可扩展编译器基础架构的新方法。MLIR 旨在解决软件碎片问题，改进异构硬件的编译，显着降低构建特定领域编译器的成本，帮助将现有编译器连接在一起。MLIR作用MLIR 旨在成为一种混合 IR，可以在统一的基础 ...

通常我们在训练模型时可以使用很多不同的框架，比如有的同学喜欢用 Pytorch，有的同学喜欢使用 TensorFLow，也有的喜欢 MXNet，以及深度学习最开始流行的 Caffe等等，这样不同的训练 ...

Pytorch模型定义和模型权重暂时不支持打包在一起，这在推理时候需要先用模型定义代码构建模型，再加载模型权重，比较麻烦。 借助于onnx格式转换可以把模型打包一起，在ONNX Runtime中运行推理，ONNX Runtime 是针对 ONNX 模型的以性能为中心的引擎，可大大提升模型的性能 ...

ONNX是一种针对机器学习所设计的开放式的文件格式，用于存储训练好的模型。它使得不同的人工智能框架（如Pytorch, MXNet）可以采用相同格式存储模型数据并交互。 ONNX的规范及代码主要由微软，亚马逊 ，Facebook 和 IBM 等公司共同开发，以开放源代码的方式托管在Github ...

MLIR多级中间表示概述 MLIR项目是构建可重用和可扩展的编译器基础设施的一种新方法。MLIR旨在解决软件碎片化问题，改进异构硬件的编译，显著降低构建特定领域编译器的成本，并帮助将现有编译器连接在一起。 More resources 有关 ...