llama-server でローカルLLMサーバーを構築(llama.cpp + GGUF)
はじめに この記事では、llama.cpp に含まれる llama-server を使い、 ローカル環境でLLMを立ち上げるサーバーを構築する手順を紹介します。 環境 Windows 11 WS...
29 search resultsShowing 1~20 results
You need to log-in
はじめに この記事では、llama.cpp に含まれる llama-server を使い、 ローカル環境でLLMを立ち上げるサーバーを構築する手順を紹介します。 環境 Windows 11 WS...
はじめに Bonsaiという超軽量LLMがあったので触ってみました。 カリフォルニア工科大学(Caltech)発のスタートアップ PrismMLが発表した1-bit大規模言語モデル 80億パラメ...
最小限の機能を持つバックエンドとフロントエンドのデプロイをしてみました。 フロントエンド 初期化 npm create vite@latest <your-frontend-folder-...
npm installをしていたらエラーが発生しました。 PS E:\workspace\Python\tmp\front-back-end\frontend> npm install r...
このマイコンについて現状、ウェブに出回ってる知見が古いので最新版を投稿します。 例として、この記事(Digispark製AtTiny85のセットアップ #Arduino - Qiita)ですが、...
ディレクトリ構成 parentdir +-upper.py +-subdir +-lower.py upper.py def upper_method(): print("Upper metho...
はじめに 備忘録がてらAWS Lambdaでseleniumを使う方法を記載していきます。 seleniumはサードパーティのライブラリなのでlambda layerでの利用が必須 また、hea...
はじめに Metaが開発した時系列データの統計予測モデルであるProphetですが、Windowsに関してはインストールに難があるという報告があります。 Prophetのインストール方法(Win...
はじめに もしAIが医師になったら・・・そんな未来を考えたことがありますか?医療の参入障壁は下がり、診療費も格安となり、誰もがいつでもどこでもスマホに症状を言うだけで治療が受けられるでしょう。本...
初めに いつもcsvファイルをpandasで読み書きして扱ってますが、もしかしたらsqliteで小規模なデータベースをサクッと作ってクエリを流す方が速いのではないか?とふと思いました。それの検証...
Fast Inverse Square Rootという、Quakeという昔のゲームで使われた超絶すごいアルゴリズムがありまして、計算コストが割りと高い$y = 1/\sqrt x$を超高速で計算...
はじめに とある事情で大量にウェブ上のデータが必要となって、スクレイピングを試みました。が、8年分のデータを取得するのに私のデスクトップでなんと24時間もかかるのです。別に待てばいい話なのですが...
何番煎じか分かりませんが、git revertを解説します。 gitでコミットを重ねていくうちに「前のコミットに戻したい」という場面はあると思います。そのとき、git revertというコマンド...
はじめに 両親の身長が子供の身長に影響を与えることは既知の事実ですが、ではある集団について身長が与えられたとき、次の世代、そのまた次の世代の身長はどう変遷していくかをシミュレートしてみました。 ...
はじめに git cloneをしようとしたとき、以下のようなエラーが起こったことはないでしょうか。 PS E:\workspace\Python\latin-descendant-predict...
はじめに 機械学習における不均衡二値分類において、undersampling + baggingがよい戦略だというのは様々なところで言われています。 [Python]不均衡データ分類問題に対する...
はじめに データサイエンティストの皆さん、ディープラーニングしてますか? ディープラーニングと言えばGPUでガリガリ高速計算ですが、今回はCUDAとcuDNNをインストールして、 tensorf...
計算機科学も機械学習も主に米国で発展した学問なので英語は避けて通れない道ですが、日本人がわりかし発音を誤りがちな英単語を以下に挙げておきます。 英単語 間違った発音 正しい発音 補足 azure...
TL;DR pythonのdictのkey,valueを逆にしたものを生成したい場合は、以下が最速。 d = dict(zip(list('abc'), range(3))) # 例として適当な...
はじめに 「宝くじは儲かるのか?」という問いですが、結論から言います。 儲かりません。 宝くじは、主催者側の利益が極めて大きい事業です。当選金額の還元率は50%を下回ります1。これは競馬、競輪、...
29 search resultsShowing 1~20 results
Qiita is a knowledge sharing service for engineers.