VRAMが少ないGPUでLLMをする方法
初めに bnbやAccelerateを使用します。 VRAMとは何か、というお話ですが、コンピューター内でのビット表現などにおいて、それらのデータをどこにマップするかというお話です。 AIは、行...
0
0
Comment0
Qiita is a knowledge sharing service for engineers.
- You can follow users and tags
- You can stock useful information
- You can make edit suggestions for articles