File size: 1,469 Bytes
45340ff
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
# FireRedASR-AED C++ 预编译产物(AX650N,aarch64)

包含:
- `firered_sdk`:端到端 CLI(VAD + fbank + encoder + decoder)
- `libfirered_sdk_lib.so`:SDK 动态库(C API:`firered_create/transcribe/destroy`- `firered_bench`:NPU 推理基准工具
- `firered_openai_server`:OpenAI 兼容 API 服务
- `firered_openai_client`:OpenAI 兼容客户端(CLI)

依赖:AX650 BSP 运行时(`libax_engine.so``libax_sys.so``libax_interpreter.so`,通常在 `/soc/lib`),以及模型目录下的
`encoder.axmodel``decoder_loop.axmodel``fsmn_vad/fsmn_vad_10s_fp32.axmodel``fsmn_vad/am.mvn``cmvn.ark``dict.txt``pe.bin`
(由 `pe.npy` 按 float32 原样导出)。

## CLI

```bash
LD_LIBRARY_PATH=/soc/lib:. ./firered_sdk \
  encoder.axmodel decoder_loop.axmodel \
  fsmn_vad/fsmn_vad_10s_fp32.axmodel fsmn_vad/am.mvn \
  input.wav cmvn.ark dict.txt 10 128 pe.bin 1000
```

## OpenAI API

```bash
LD_LIBRARY_PATH=/soc/lib:. ./firered_openai_server \
  encoder.axmodel decoder_loop.axmodel \
  fsmn_vad/fsmn_vad_10s_fp32.axmodel fsmn_vad/am.mvn \
  cmvn.ark dict.txt pe.bin 10 128 8000 1000
```

```bash
curl -F file=@input.wav -F model=fireredasr-aed \
  http://<board>:8000/v1/audio/transcriptions
curl http://<board>:8000/v1/models
./firered_openai_client http://<board>:8000 input.wav fireredasr-aed
```

源码、构建与 Python 版 server/client 见
[GitHub](https://github.com/ml-inory/FireRedASR.axera)。