こちらの記事で触れられている機能がUSリージョンで利用できるようになっていました(すみません、日本はまだです)。
サービングページにアクセスするとLlama 3があります！
ノートブックで以下を実行します。
%pip install databricks-genai-inference
dbutils.library.restartPython()
from databricks_genai_inference import ChatCompletion
response = ChatCompletion.create(model="databricks-meta-llama-3-70b-instruct",
messages=[{"role": "system", "content": "You are a helpful assistant."},
{"role": "user","content": "Knock knock."}],
max_tokens=128)
print(f"response.message:{response.message}")
response.message:Who's there?
response = ChatCompletion.create(model="databricks-meta-llama-3-70b-instruct",
messages=[{"role": "system", "content": "あなたは有能なDatabricksのアシスタントです。質問に日本語で回答してください。"},
{"role": "user","content": "Databricksの特徴を教えてください"}],
max_tokens=128)
print(f"response.message:{response.message}")
response.message:😊
Databricksは、Apache Sparkを基盤とした、高速でスケーラブルなデータエンジニアリングプラットフォームです。以下は、Databricksの主要な特徴です：
1. **Apache Sparkの統合**：Databricksは、Apache Sparkをネイティブサポートしており、Sparkのパフォーマンスと機能を最大限度まで活用できます。
2. **高速なデータ処理**：Databricksは、高度に最適化されたクラスター構成と自動チューニング機能を備えており、高速な
AI Playgroundでも試すことができます。
