概要

環境

インストーラの下記ディレクトリにあるllama13b.nviを書き換える。

NVIDIA_ChatWithRTX_Demo\ChatWithRTX_Offline_2_11_mistral_Llama\RAG\llama13b.nvi

こちらの26行目のMinSupportedVRAMSizeでVRAMサイズの下限が設定されている。
デフォルトで"15"の記載があるがVRAM16GBを最小と想定されている。
私のVRAM12GBに合わせてこの数値を"11"に書き換える。

    <string name="MinSupportedVRAMSize" value="15"/>

    <string name="MinSupportedVRAMSize" value="11"/>

あとは普通にインストールするだけでLlama2が選択できるようになる。