vLLMの高速推論を実施した話【HLE】likers
shojiro@shojiro4150社会工学/生成AI/応用情報技術者/高度情報技術者(PM)/E資格/AWS-SAA

- Masahiro Sakae@hiro7_2kae
電機メーカーで品質管理×DXを推進|個人でLLM・生成AI・ロボット基盤モデルの実験・実装|AI×現場改善・自動化・評価設計に関心|趣味:ロードバイク🚴♂️・ハイキング🥾・天体観測🔭・競技かるた🪭
池 駄賃@ikedachinThe凡人。フォートランの単位を落とし、約25年近くたってからプログラミング、ディープラーニングを始める。理由はコロナ禍で暇すぎたこと。初心者向けの情報発信と、自分用のメモ。最近はLLMにはまってます。Djangoも好き。保有資格は、JDLA E資格(2022#1)、JDLA G検定(2021#2)、ものづくりマイスター(AI・機械学習)。