手順
Debian 12.5を基準に説明します．
ダウンロード
MLNX_VERSION="24.10-2.1.8.0" #LTS version
wget "https://content.mellanox.com/ofed/MLNX_OFED-$MLNX_VERSION/MLNX_OFED_LINUX-$MLNX_VERSION-debian12.5-x86_64.tgz"
展開
tar -xvzf MLNX_OFED_LINUX-$MLNX_VERSION-debian12.5-x86_64.tgz
インストール
cd MLNX_OFED_LINUX-$MLNX_VERSION-debian12.5-x86_64
./mlnxofedinstall --with-mst
ここで，Debian 12.5ぴったりじゃないとエラーがでます．
ProxmoxVEはアプデでバージョンがずれがちなので，バージョンを確認した上，Debian 12.5と近いなーと思ったら--skip-distro-checkオプションをつけて実行してください．
./mlnxofedinstall --with-mst --skip-distro-check
追加パッケージインストール
なぜかmstconfigがなかったので，apt getでapt install -y mstflintを実行してインストールしてあげました．
僕はこのやり方でインストールできましたが，Debianのバージョンが合わないと不安定になりそうなので，基本的にはDebianのバージョンが違う場合はインストールを推奨しません．