Hugging Face の AXERA-TECH で AX650N 用の Kokoro デモが公開されていたので LLM-8850 で試してみました。

環境作成

デモのダウンロード

git　lfs をインストールしていない場合は、ここの手順に従ってインストールしてください。

Hugging Face から kokoro.axera をダウンロードします。

git clone https://huggingface.co/AXERA-TECH/kokoro.axera

デモの実行に必要な axengine もダウンロードしておきます。

git clone https://huggingface.co/AXERA-TECH/PyAXEngine

uv 仮想環境の作成

READNE.md の説明では conda を使っていますが、uv を使ってみます。uv をインストールしていない場合は以下でインストールできます。

curl -LsSf https://astral.sh/uv/install.sh | sh

依存Pythonパッケージをインストールします。

cd kokoro.axera
uv init
uv add -r requirements.txt
uv add axengine@file://../PyAXEngine/axengine-0.1.3-py3-none-any.whl 
uv run python -m spacy download en_core_web_sm

デモの実行

uv run demo_kokoro_ax.py --text \
  "こんにちは、これはテキスト読み上げのテストです。" \
  --lang j --voice checkpoints/voices/jf_alpha.pt \
  --output output_jp.wav -d models

以下のようなメッセージが表示されます。

[INFO] Available providers:  ['AXCLRTExecutionProvider']
初始化模型...
[INFO] Using provider: AXCLRTExecutionProvider
[INFO] SOC Name: AX650N
[INFO] VNPU type: VNPUType.DISABLED
[INFO] Compiler version: 5.0-patch1-dirty d9477bd2-dirty
[INFO] Using provider: AXCLRTExecutionProvider
[INFO] SOC Name: AX650N
[INFO] VNPU type: VNPUType.DISABLED
[INFO] Compiler version: 5.0-patch1-dirty d9477bd2-dirty
[INFO] Using provider: AXCLRTExecutionProvider
[INFO] SOC Name: AX650N
[INFO] VNPU type: VNPUType.DISABLED
[INFO] Compiler version: 5.0-patch1-dirty d9477bd2-dirty
2025-12-10 23:27:51.282885442 [W:onnxruntime:Default, device_discovery.cc:164 DiscoverDevicesForPlatform] GPU device discovery failed: device_discovery.cc:89 ReadFileContents Failed to open file: "/sys/class/drm/card1/device/vendor"
初始化完成: 4.191s


============================================================
输出: output_jp.wav | 时长: 3.52s
============================================================
初始化: 4.191s
音频推理: 0.488s (共1次)
  ├─ Model1: 0.021s (平均21.0ms)
  ├─ Model2: 0.017s (平均17.3ms)
  ├─ Model3: 0.202s (平均202.2ms)
  └─ Model4 onnx: 0.086s (平均86.3ms)

 rtf:0.138
============================================================

途中、GPUが見つからない旨のメッセージが表示されていますが、これは onnxruntime モジュールのインポート時に出るもので、このメッセージが出ても ONNX モデルは CPU で処理されるので問題ありません。

生成された音声は output_jp.wav ファイルに出力されます。以下で再生できます。

aplay output_jp.wav

デモスクリプトのパラメータ

パラメータ	説明
--axmodel_dir, -d	モデルファイルのディレクトリ（デフォルト models）
--voice, -v	声紋ファイルのパス（必須）
--text, -t	合成するテキスト（多言語対応）
--lang, -l	言語コード（例: a, z, j, ...）。現状は中国語、英語、日>本語のみ検証済み
--config, -c	設定ファイルのパス
--output, -o	出力する wav ファイル名
--fade_out, -f	音声末尾のフェードアウト時間（秒）。音声末尾のノイズ軽>減のため
--max_len, -m	最大文分割長（デフォルト 96）

TTSサービス

Kokoro を利用した音声合成サービスのデモもあります。 kokoro_svr.py というものですが、中国語音声にしか対応していないので、とりあえず日本語に対応した kokoro_svr_jp.py にしてみました。差分は次のとおりです。

--- kokoro_svr.py	2025-12-08 21:52:48.734836469 +0900
+++ kokoro_svr_jp.py	2025-12-10 00:30:22.692752456 +0900
@@ -13,7 +13,7 @@
 _tts_cache = {}
 
 
-def get_tts(lang = "z"):
+def get_tts(lang = "j"):
     axmodel_dir = "models"
     config = "checkpoints/config.json"
     if lang not in _tts_cache:
@@ -67,7 +67,7 @@
         if not sentence:
             self._send_json({"error": "Field 'sentence' is required"}, 400)
             return
-        lang = params.get("language", "z")
+        lang = params.get("language", "j")
         try:
             sample_rate = int(params.get("sample_rate", 24000))
         except ValueError:
@@ -84,7 +84,7 @@
         # 生成音频
         try:
             tts = get_tts(lang)
-            audio = tts.run(sentence, speed=speed, sample_rate=sample_rate, voice = "checkpoints/voices/zf_xiaoyi.pt")
+            audio = tts.run(sentence, speed=speed, sample_rate=sample_rate, voice = "checkpoints/voices/jf_alpha.pt")
         except Exception as e:
             self._send_json({"error": f"TTS failed: {e}"}, 500)
             return

TTSサービスを起動します。

uv run kokoro_svr_jp.py --port 28000

別のターミナルから以下を実行してみます。

curl  -X POST "http://127.0.0.1:28000/tts" \
  -H 'Content-Type: application/json' \
  -d '{ "sentence": "こんにちは、これはテキスト読み上げのテストです。" }' \
  --output tts_jp.wav

生成された音声は tts_jp.wav ファイルに出力されます。以下で再生できます。

aplay tts_jp.wav

2025/12/27 追記

2025/12/26 に kokoro.axera が更新され、上記記事から以下が変更になりました。

ボイス用ファイルの形式が .pt (PyTorch モデル形式)から .npy (.npy 形式ファイル)に変更
gradio を用いた Web ブラウザ UI を追加

kooro_svr.py の変更

1 によって kokoro_svr.py も変更になったので、日本語用に書き換えていた kokoro_svr_jp.py も変更します。ついでにデフォルトのポートも変更してしまいます(8000 のままだと OpenAI API のポートとかぶってしまうので)。

--- kokoro_svr.py	2025-12-27 18:41:42.609301820 +0900
+++ kokoro_svr_jp.py	2025-12-27 18:50:35.220352964 +0900
@@ -74,7 +74,7 @@
         if not sentence:
             self._send_json({"error": "Field 'sentence' is required"}, 400)
             return
-        lang = params.get("language", "z")
+        lang = params.get("language", "j")
         try:
             sample_rate = int(params.get("sample_rate", 24000))
         except ValueError:
@@ -88,7 +88,7 @@
             return
         
         
-        voice = params.get("voice", "zf_xiaoyi")
+        voice = params.get("voice", "jf_alpha")
         if voice not in voice_list:
             self._send_json({"error": f"Voice {voice} not found"}, 400)
             return
@@ -124,7 +124,7 @@
 
 if __name__ == "__main__":
     parser = argparse.ArgumentParser(description="Whisper Server")
-    parser.add_argument("--port", type=int, default=8000, help="Port to run the server on")
+    parser.add_argument("--port", type=int, default=28000, help="Port to run the server on")
     args = parser.parse_args()
     host = "0.0.0.0"
     port = args.port

動かすには scipy のインストールが必要になりました。次のコマンドでインストールしておいてください。

uv add scipy

Gradio による Web UI デモ

Gradioを使った Web UI デモが追加になりました。使うには、ます Gradio をインストールします。

uv add gradio

デモスクリプトは gradio_demo.py というものですが、UI のラベルなどが中国語なので、日本語にしてみた gradio_demo_jp.py にしてみました。差分は次のとおりです。

--- gradio_demo.py	2025-12-26 20:33:37.447867328 +0900
+++ gradio_demo_ja.py	2025-12-27 18:52:50.559960867 +0900
@@ -10,10 +10,10 @@
     result = subprocess.run(['ip', 'a'], capture_output=True, text=True)
     output = result.stdout
 
-    # 匹配所有IPv4
+    # すべての IPv4 アドレスを得る
     ips = re.findall(r'inet (\d+\.\d+\.\d+\.\d+)', output)
 
-    # 过滤掉回环地址
+    # ループバックアドレスを除外
     real_ips = [ip for ip in ips if not ip.startswith('127.')]
 
     return real_ips
@@ -50,20 +50,20 @@
     lang_key = LANG_CODES_REV[language]  # 例：Mandarin Chinese -> z
     filtered_voices = [v for v in voice_list.keys() if v.startswith(lang_key)]
     
-    # 例句填充
+    # 例文を挿入
     example_text = EXAMPLE_SENTENCES.get(lang_key, "")
     
     if not filtered_voices:
         return gr.update(value=example_text), gr.update(value=None, choices=[])
 
     return (
-        gr.update(value=example_text),               # 更新输入文本
-        gr.update(value=filtered_voices[0], choices=filtered_voices) # 更新音色
+        gr.update(value=example_text),               # 入力テキストを更新
+        gr.update(value=filtered_voices[0], choices=filtered_voices) # 音色を更新
     )
 
 voice_list = {}
 
-# 加载checkpoints/voices下的所有pt文件的文件名作为key
+# checkpoints/voices_npy 配下にあるすべての .npy ファイルのファイル名をキーとして読み込む
 voice_list = glob.glob("checkpoints/voices_npy/*.npy")
 voice_list = {os.path.basename(v).replace(".npy", ""): v for v in voice_list}
 
@@ -90,20 +90,20 @@
     
     with gr.Row():
         with gr.Column():
-            sentence = gr.Textbox(label="输入文本",value="爱芯元智半导体股份有限公司，致力于打造世界领先的人工智能感知与边缘计算芯片.")
-            language = gr.Dropdown(label="选择语言", choices=list(LANG_CODES_REV.keys()), value="Japanese")
+            sentence = gr.Textbox(label="テキストを入力",value="こんにちは、これはテキスト読み上げのテストです。")
+            language = gr.Dropdown(label="言語を選択", choices=list(LANG_CODES_REV.keys()), value="Japanese")
             speed = gr.Slider(label="速度", minimum=0.5, maximum=2.0, value=1.0, step=0.1)
             voice = gr.Dropdown(
-                        label="选择音色",
+                        label="音色を選択",
                         choices=list(v for v in voice_list.keys() if v.startswith(LANG_CODES_REV["Japanese"])),
                         value=list(v for v in voice_list.keys() if v.startswith(LANG_CODES_REV["Japanese"]))[0] if voice_list else None,
                         allow_custom_value=True
                     )
-            generate = gr.Button("生成音频")
+            generate = gr.Button("音声を生成")
         with gr.Column():
-            audio = gr.Audio(label="输出音频")
+            audio = gr.Audio(label="音声を出力")
             
-        # 点击生成按钮时，调用服务器端的TTS API
+        # 生成ボタンをクリックすると、サーバー側の TTS API を呼び出す
         generate.click(
             fn=tts,
             inputs=[sentence, language, speed, voice],
@@ -115,10 +115,11 @@
             outputs=[sentence, voice],
         )
 
-# 启动
+# 起動
 ips = get_all_local_ips()
 port = 7861
 for ip in ips:
     print(f"* Running on local URL:  http://{ip}:{port}")
 ip = "0.0.0.0"
+os.makedirs("history", exist_ok=True)
 demo.launch(server_name=ip, server_port=port)

TTSサービスを起動します。

uv run kokoro_svr_jp.py

別のターミナルでデモスクリプトを起動します。

uv run gradio_demo_jp.py

Web ブラウザから次の URL にアクセスします。

http://127.0.0.1:7861

テキストを入力して「音声を生成」ボタンをクリックすると、hostory/ 配下に合成した音声ファイルが出力されます。生成した音声の再生も Web UI 上で可能です。