从 ops-nn 出发：吃透 aclnn 接口两阶段调用核心逻辑
在当前 AI 框架与底层硬件加速日益紧密耦合的背景下，高效、灵活的算子调用机制成为提升模型执行性能的关键环节。CANN（Compute Architecture for Neural Networks）作为一套面向神经网络计算的异构架构，其提供的aclnn接口为开发者提供了统一、高效的算子调度能力。而ops-nn仓库正是这一能力的重要实现载体之一——它封装了大量神经网络常用算子，并通过aclnn接口对外暴露。
本文将聚焦于aclnn接口的“两阶段调用”机制，结合ops-nn中的实际代码结构，深入剖析其设计原理与使用逻辑，帮助开发者真正掌握这一关键调用范式。
什么是 aclnn 的两阶段调用？
aclnn（Ascend Compute Library for Neural Networks）是 CANN 提供的一套高性能神经网络算子接口。其核心设计理念之一，便是将算子调用过程拆分为两个阶段：
准备阶段（Prepare Phase）
在此阶段，系统根据输入张量的形状、数据类型、设备信息等元数据，完成算子内核的选择、内存分配策略的规划、执行流的绑定等准备工作。该阶段不涉及实际数据计算，仅做调度预判。执行阶段（Enqueue/Execute Phase）
在准备完成后，将实际的数据指针传入，触发真正的 GPU/NPU 计算。此阶段通常是非阻塞的，可与其他操作并行。
这种分离设计的好处显而易见：
- 支持动态 Shape 推理：准备阶段可缓存调度计划，执行阶段只需替换数据地址；
- 提升多流并发效率：多个执行阶段可复用同一份准备结果；
- 降低运行时开销：避免每次调用都重复解析元数据。
ops-nn 中的 aclnn 调用示例解析
以ops-nn仓库中的Add算子为例（路径如src/add/add.cpp），其典型调用流程如下：
// 第一阶段：准备aclnnStatus status=aclnnAddGetWorkspaceSize(inputA,inputB,output,&workspaceSize,&executor);if(status!=ACL_SUCCESS){// 错误处理}// 分配 workspace（如有需要）void*workspace=nullptr;if(workspaceSize>0){aclrtMalloc(&workspace,workspaceSize,ACL_MEM_MALLOC_NORMAL_ONLY);}// 第二阶段：执行status=aclnnAdd(workspace,workspaceSize,executor);if(status!=ACL_SUCCESS){// 错误处理}这里的关键在于aclnnAddGetWorkspaceSize和aclnnAdd这对函数：
- 前者完成调度分析，返回所需临时内存大小和一个“执行器”（
executor）对象； - 后者利用该
executor和已分配的workspace，真正启动计算。
值得注意的是，executor是一个 opaque handle，内部封装了图编译结果、内核选择、内存映射等上下文信息。这种抽象使得上层无需关心底层细节，同时保留了极致的调度灵活性。
为何要理解两阶段逻辑？
对于普通用户，直接调用封装好的 PyTorch 或 MindSpore 接口即可；但对于算子开发者、性能调优工程师或框架集成者而言，理解aclnn的两阶段机制至关重要：
- 自定义算子开发：需手动实现
GetWorkspaceSize与Launch逻辑； - 推理引擎优化：可在准备阶段预编译整图，执行阶段仅提交数据；
- 内存复用策略：通过分析多个算子的 workspace 需求，实现全局内存池管理。
ops-nn仓库中大量算子均遵循此模式，是学习该机制的最佳实践样本。
小结
aclnn的两阶段调用不仅是 CANN 架构高效性的基石，也是连接高级框架与底层硬件的关键桥梁。通过ops-nn仓库中的真实算子实现，我们可以清晰看到这一设计如何在工程层面落地：解耦调度与执行，兼顾灵活性与性能。
掌握这一逻辑，意味着你不再只是“调用算子”，而是真正“驾驭算子”。
cann组织链接：https://atomgit.com/cann
ops-nn仓库链接：https://atomgit.com/cann/ops-nn
