模型推理

模型推理是将训练完成的人工智能模型用于实际输入处理和生成输出的过程，通常涉及硬件后端、量化、算子与运行时适配。