Preferred Elementsがフルスクラッチで開発した大規模言語モデル「PLaMo β版」を試しました。
PLaMo
- 1000億パラメータのマルチモーダル基盤モデル「PLaMo-100B」。
- 合計2兆トークンの日本語と英語のテキストデータを事前学習し、既存のLLMモデルを使わずフルスクラッチで開発しています。日本語性能を評価するいくつかのベンチマークでGPT4よりも高い数値を出しています。
- 記事執筆時点ではトライアル版で秋から商用版も発売予定とのことです。
WEB上での対話
トップ画面はこんな感じです。「Try Demo」をおすとPLaMoと対話できるデモページに遷移します。
対話画面のUIはこんな感じ。
右上に”Configure Parameters”というボタンを押すとTempertureやTop Pなどパラメータを調整することができます。他の対話型LLMでは見られなかったので個人的に驚きでした。
質問してみます。日本語のモデルなので日本のお盆について聞いてみると丁寧に説明してくれました。間違いもなさそうです(多分)
最近，諸説あるらしい鎌倉幕府についても聞いてみると現時点で有力とされている内容を出力してくれました。
レスポンスの速度はGPT4と同程度くらいといった感じでした。
APIへのリクエスト
PLaMo β API は、langchain-openai やopenai ライブラリとおおよその互換性があります。Colabで試してみましたがlangchain-openaiでリクエストを送ることができました。APIへのキーはデモ画面から入手することができます。以下にサンプルコードを記載します。
import os
from openai import OpenAI
os.environ['API_HOST'] = "https://platform.preferredai.jp"
client = OpenAI(
api_key = API_KEY, # 取得したapiキーを設定
base_url=f"{os.environ['API_HOST']}/api/completion/v1",
)
completion = client.chat.completions.create(
model="plamo-beta",
messages=[
{"role": "system", "content": "あなたは旅行アドバイザーです"},
{"role": "user", "content": "東京で訪れるべき観光スポットを教えてください"},
],
stream=True,
)
for chunk in completion:
if chunk.choices[0].delta.content is not None:
print(chunk.choices[0].delta.content, end="", flush=True)
以下のような結果が返ってきました。
もちろんです！東京にはたくさんの観光スポットがありますが、特に人気のある場所をいくつかご紹介します。
1.浅草寺:東京最古の寺院で、美しい建築物と周辺の仲見世通りでのショッピングや食べ歩きが楽しめます。
2.明治神宮:緑豊かな広大な神社で、都会の喧騒を忘れさせてくれます。有名な清正の井戸も必見です。
3.東京スカイツリー:東京の街を一望できるタワーで、併設されたソラマチではショッピングやグルメが楽しめます。
4.上野恩寵公園:桜の名所として有名な公園で、動物園、美術館、博物館などの文化施設が充実しています。
5.お台場:ショッピング、グルメ、エンターテインメントが楽しめるエリアで、ガンダム像やチームラボのデジタルアートミュージアムが人気です。
6.皇居:かつての江戸城で、現在は美しい庭園や歴史的建造物が見学できます。
7.新宿御苑:都会のオアシスと呼ばれる公園で、四季折々の美しい自然を楽しむことができます。
8.渋谷スカイ展望デッキ:渋谷スクランブルスクエアの屋上にある展望デッキで、東京の街を一望できます。
これらのスポットは、東京の多様な魅力を体験するのに最適です。訪れる際には、営業時間や入場制限などの最新情報を確認してください。東京での滞在を楽しんでくださいね！
requestによってアクセスする方法については以下の記事をご参照ください。
まとめ
PLaMoのトライアルを触ってみました。無料トライアルは秋までとのことなので気になる方は今のうちに触ってみるとよいと思います。以下のリンクから申込ができます。
参考リンク