基本的にうろ覚えです。
ここに書いてある手順通りにやってもダメだったぞ！！てなったら教えてください

すごい今更感＆なぜ今（今日は元旦）感がありますが、前々からやりたかったことなのでメモとして残します。
今年のいかこうは技術記事書きまくるのでよろしくお願いします。

Hailo-8を使う

動作環境を以下に示します。Hailoはrock5bの背面m.2に刺して使いました。

機器	概要
PC	ROCK5 model B
OS	Ubuntu 5.10.0-1012-rockchip
Hailo	Hailo-8 M.2 AI Acceleration Module

Hailo-8を使うには主に3つのソフトをインストールする必要があります。

Hailo PCle ドライバとファームウェア
HailoRT
使いたい言語ごとのHailoライブラリ

1. Hailo PCle ドライバとファームウェアのインストール

前準備

sudo apt update
sudo apt upgrade -y
sudo apt install -y cmake dkms

Hailo系のソフトはそれぞれのバージョンが違うと使えないみたいなので気をつけて
今回はv4.19.0でやってみた

git clone -b v4.19.0 https://github.com/hailo-ai/hailort-drivers.git
cd hailort-drivers/linux/pcie
make all
sudo make insttall_dkms

cd ~/hailort-drivers
./download_firmware.sh
sudo mv hailo8_fw.4.19.0.bin /lib/firmware/hailo/hailo8_fw.bin
sudo cp linux/pcie/51-hailo-udev.rules /etc/udev/rules.d/

sudo cp linux/pcie/hailo_pci.conf /etc/modprobe.d/
sudo vim /etc/modprobe.d/hailo_pci.conf

hailo_pci.conf内の二つの行のコメントをはずします。

hailo_pci.conf

# Modprobe information used for Hailo PCIe driver, edit this file when needed.

# Disables automatic D0->D3 transition, should be set on platforms that
# does not support such transition.
options hailo_pci no_power_mode=N # この行のコメントを外す

# Determines the maximum DMA descriptor page size (must be a power of 2), needs to be
# set on platforms that does not support large pcie transactions.
options hailo_pci force_desc_page_size=4096 # この行のコメントも外す

2. HailoRTをインストール

Hailo Developer Zoneで以下の選択肢で
HailoRT-Ubuntu package(deb) for arm64と
HailoRT-Python package(whl) for Python 3.10, aarch64をダウンロードします。

項目	内容
Software Package	AI Software Suite
Software Sub-Package	HailoRT
Architecture	ARM64
OS	Linux
Python Version	3.10

hailort_4.19.0_arm64.debとhailort-4.19.0-cp310-cp310-linux_aarch64.whlがダウンロードされていることが確認できたら

HailoRTをapt install

$ sudo apt install ./hailort_4.19.0_arm64.deb
$ hailortcli fw-control identify　# このコマンドでHailo-8が認識されていることを確認

# 出力例
Executing on device: 0000:01:00.0
Identifying board
Control Protocol Version: 2
Firmware Version: 4.19.0 (release,app,extended context switch buffer)
Logger Version: 0
Board Name: Hailo-8
Device Architecture: HAILO8
Serial Number: HLLWM2B225102960
Part Number: HM218B1C2FAE
Product Name: HAILO-8 AI ACC M.2 M KEY MODULE EXT TEMP

3. PythonでHailoを使う

pythonのhailoライブラリをpip install

pip install hailort-4.19.0-cp310-cp310-linux_aarch64.whl

Hailoでyoloを使うには専用のモデルが必要です。ここからモデルを持ってきます。

とりあえず、一番強そうなのを動かします。

yolov10xモデルをwget

mkdir models
cd models
wget https://hailo-model-zoo.s3.eu-west-2.amazonaws.com/ModelZoo/Compiled/v2.13.0/hailo8/yolov10x.hef

あと、適当にテスト用の動画をとってきます

mkdir videos
cd videos
wget https://videos.pexels.com/video-files/854100/854100-hd_1920_1080_25fps.mp4

これでいごかす環境は整いました。githubにプログラムをpushしたので勝手に使ってください

うおおおおうごいた！！！
あとでHailoなしのyolov10xと比較してみたけど、かなり早くなってる！！！

参考