推論だけ。
pip install ai2-olmo
from hf_olmo import * # registers the Auto* classes
from transformers import AutoModelForCausalLM, AutoTokenizer
olmo = AutoModelForCausalLM.from_pretrained("allenai/OLMo-7B")
tokenizer = AutoTokenizer.from_pretrained("allenai/OLMo-7B")
message = ["The best way to make cat happy is"]
inputs = tokenizer(message, return_tensors='pt', return_token_type_ids=False)
response = olmo.generate(**inputs, max_new_tokens=100, do_sample=True, top_k=50, top_p=0.95)
print(tokenizer.batch_decode(response, skip_special_tokens=True)[0])
猫をハッピーにするベストな方法は？
猫を幸せにする一番の方法は、たくさんの愛情を注ぐことです。 猫は毎日の世話を必要とし、健康で幸せでいることが大好きです。 彼らは撫でられたり、抱きしめられたり、毛皮をブラッシングされたり手入れされたりすることさえ好きです。 猫があまり好きじゃないという方もご心配なく！ 猫は、十分な餌と水、清潔なトイレ、そして遊べるおもちゃがたくさんある限り、依然として優れたペットです。
猫の世話をする最善の方法は何ですか?
事前トレーニング済みモデルは微妙だったので、ちゃんとつかうにはトレーニングが必要なのかも。
🐣
フリーランスエンジニアです。
AIについて色々記事を書いていますのでよかったらプロフィールを見てみてください。
もし以下のようなご要望をお持ちでしたらお気軽にご相談ください。
AIサービスを開発したい、ビジネスにAIを組み込んで効率化したい、AIを使ったスマホアプリを開発したい、
ARを使ったアプリケーションを作りたい、スマホアプリを作りたいけどどこに相談したらいいかわからない…
いずれも中間コストを省いたリーズナブルな価格でお請けできます。
お仕事のご相談はこちらまで
rockyshikoku@gmail.com
機械学習やAR技術を使ったアプリケーションを作っています。
機械学習／AR関連の情報を発信しています。