vLLMの高速推論を実施した話【HLE】likers
shojiro@shojiro4150社会工学/生成AI/応用情報技術者/高度情報技術者(PM)/E資格/AWS-SAA

- Masahiro Sakae@hiro7_2kae
電機メーカーで品質管理&DX推進|生成AI・ロボット基盤モデルに挑戦中|松尾研LLM開発コンペ2025参加中|趣味はロードバイク🚴♂️・ハイキング🥾・天体観測🔭 ・競技かるた🪭
池 駄賃@ikedachinThe凡人。フォートランの単位を落とし、約25年近くたってからプログラミング、ディープラーニングを始める。理由はコロナ禍で暇すぎたこと。初心者向けの情報発信と、自分用のメモ。最近はLLMにはまってます。Djangoも好き。保有資格は、JDLA E資格(2022#1)、JDLA G検定(2021#2)、ものづくりマイスター(AI・機械学習)。