PythonでGeminiを呼び出す

はじめに

本記事では、PythonでGeminiを呼び出すサンプルコードを示します。

検証環境

今回は簡単にVertex AI Workbenchでpythonのnotebookを使って試します。
検証では、ユーザーマネージドインスタンスをデフォルトのパラメータで作成して「JUPYTERLAB」を開き、「Notebook」>「Python3」の順にNotebookを開きました。

準備

1. 実行に必要なパッケージをインストールします

! pip3 install --upgrade --user google-cloud-aiplatform

1. パッケージを利用するため、再起動します

import IPython

app = IPython.Application.instance()
app.kernel.do_shutdown(True)

1. 必要なライブラリをインポートします

from vertexai.preview.generative_models import (
    GenerationConfig,
    GenerativeModel,
)

PythonでGeminiを使う

1. Geminiをロードする

# ""内で使用するモデルを選択
model = GenerativeModel("gemini-pro")

1. Geminiにプロンプトを投げる

responses = model.generate_content("ここにプロンプトの中身を入力", stream=True)

for response in responses:
    print(response.text, end="")

基本的には以上の使い方となります。
後は、以下のように生成AIのパラメータを指定する方法もあります。

generation_config = GenerationConfig(
    temperature=0.9,
    top_p=1.0,
    top_k=32,
    candidate_count=1,
    max_output_tokens=8192,
)

responses = model.generate_content(
    "ここにプロンプトの中身を入力",
    generation_config=generation_config,
    stream=True,
)

さいごに

本記事で紹介したサンプルコードを利用すれば、生成AIを使ったアプリケーションがいくらでも作れそうなので今度試してみたいと思います。
また別の記事として画像を読み込む方法も公開する予定です。

参考資料