講演概要

生成 AI の波に乗り遅れている開発者向けに、Vertex AI Codey や Duet AI for Workstations といった開発者向けサービスはどのような特徴があって、どういう場面で活用すれば良いのかイチから解説します。

セッションレベル：初級
取り上げる主な Google Cloud 製品 / サービス
Vertex AI
Vertex AI Generative AI Studio

所感

一通りCordyを使っていくための情報を得られて、まずは使ってみようかなと思える内容でとても有意義でした。
また、プロンプトデザインについてはCordyだけでなく全ての生成AIで使える内容でした。

普段使っているCopilotと比較すると日本語対応がより良くできていそうという印象。
また、BiqQueryへの対応はGoogleならではでした。

状況に応じてコーディング支援のAIを使い分けられるようにまずは比較をしてみる必要ありそうです。

セッションメモ

開発を支援する生成AIサービス

Vertex and Duet AIはエンタープライズ向けのユースケースに対応している
Codeyはコーディング向けのモデルをAIで提供し、Deute AIはそのAPIを使ってAIによるアシストを提供する

生成AIの基礎知識

LLM（膨大なデータセットでトレーニングされた言語モデルのこと、自然言語を生成、理解することが目的）
PaLM2（Googleが開発したLLMの１つ。特長：多言語対応、推論、コーディング）
PaLMのモデル（ユースケースとモデルサイズによって分かれる。Gecko、Ottter、Bison、Unicornとモデルサイズが大きくなる）

Vertext AI Codey

PaLMをコーディング向けにカスタマイズしている
コード生成、会話型チャットbot、コード補完などを提供
BiqQueryの生成もできる

###　設定
温度（低いと確定的で自由度が低くなり、高いと多様で創造的な結果を生成する）
Max Output Token（生成するトークンの最大数）

モデルのファインチューニング（微調整）

自社の環境に合わせてコードを応答できるように調整する

Duet AI in Google Cloud

IDEに統合された形でAIアシストを利用可能
VSCodeで拡張機能（Google Cloud Code）あり
生成、補完、説明、テストコード生成、チャットでの質問、

プロンプトデザイン

曖昧な指示ではなく、より明確に指示をすることが大切（状況や役割をしっかり与える）
トークン数が少なくなるようなプロンプトをデザインするとコスト効率が良い
命令、コンテキスト、入力データ、出力形式といった要素を含めると良い

資料リンク