FireRedASR-AED C++ 预编译产物(AX650N,aarch64)
包含:
firered_sdk:端到端 CLI(VAD + fbank + encoder + decoder)libfirered_sdk_lib.so:SDK 动态库(C API:firered_create/transcribe/destroy)firered_bench:NPU 推理基准工具firered_openai_server:OpenAI 兼容 API 服务firered_openai_client:OpenAI 兼容客户端(CLI)
依赖:AX650 BSP 运行时(libax_engine.so、libax_sys.so、
libax_interpreter.so,通常在 /soc/lib),以及模型目录下的
encoder.axmodel、decoder_loop.axmodel、fsmn_vad/fsmn_vad_10s_fp32.axmodel、
fsmn_vad/am.mvn、cmvn.ark、dict.txt、pe.bin
(由 pe.npy 按 float32 原样导出)。
CLI
LD_LIBRARY_PATH=/soc/lib:. ./firered_sdk \
encoder.axmodel decoder_loop.axmodel \
fsmn_vad/fsmn_vad_10s_fp32.axmodel fsmn_vad/am.mvn \
input.wav cmvn.ark dict.txt 10 128 pe.bin 1000
OpenAI API
LD_LIBRARY_PATH=/soc/lib:. ./firered_openai_server \
encoder.axmodel decoder_loop.axmodel \
fsmn_vad/fsmn_vad_10s_fp32.axmodel fsmn_vad/am.mvn \
cmvn.ark dict.txt pe.bin 10 128 8000 1000
curl -F file=@input.wav -F model=fireredasr-aed \
http://<board>:8000/v1/audio/transcriptions
curl http://<board>:8000/v1/models
./firered_openai_client http://<board>:8000 input.wav fireredasr-aed
源码、构建与 Python 版 server/client 见 GitHub。