「DifyからPerplexity APIを使う」の記事の続編です。

Continueとは

2023年の暮れでしょうか。
VSCodeの拡張機能であるGitHub Copilotを無料で1ヶ月試したのですが、チャットでのコーディングがとても便利で驚いた記憶があります。

GitHub Copilotは個人利用であっても、有料プランしか無いです。
お金が掛かるので、代替えツールが無いか探していました。
そこで見つけた拡張機能がContinueです。

これは無料である上に、色々なモデルを登録して、用途に応じて切り替えながら使えます。
しかも完全なオンプレミスで使えます。

Continueの使い方

詳しくは割愛しますが、以下の流れです。

モデルの選定

メジャーなのはOpenAIのgpt-4oかと思います。
しかし、従量料金制なのでお金がやや心配です。

お金を掛けずにやりたい方は、Ollamaと、ローカルLLMの組み合わせになるかと思います。コーディングが得意なモデルを使うと良いと思います。
そして、外部にデータを漏らしたくないが、生成AIを使ってチャットしながらVSCodeでコーディングしたい、といった要件を満たしてくれます。

ここで紹介するPerplexity APIをContinueで使うメリットは、何といってもインターネットの情報を元にコーディングができる点でしょうか。
なので、たとえばリリースされたばかりの新機能を、いきなりチャットでコーディングしてもらう事が出来たりするのかなと想像します。

Perplexity APIの登録方法

モデルの登録方法は幾つかありますが、今回はconfig.jsonを直接編集する方法で進めます。

Continueの画面の下の方にある歯車ボタンを押します。

config.jsonの"models"へ、以下を追記します。


    {
      "title": "llama-3.1-sonar-small-128k-online",
      "model": "llama-3.1-sonar-small-128k-online",
      "systemMessage": "あなたはソフトウェア開発のエキスパートです。あなたは親切で簡潔な回答をします。",
      "contextLength": 127072,
      "apiBase": "https://api.perplexity.ai/",
      "apiKey": "pplx-f************9b",
      "completionOptions": {
        "temperature": 0
      },

systemMessageはシステムプロンプトになります。ここでは出力結果が良くなるような呪文を記述しておきます。

プログラムコードはかなり長いケースがあります。
そこでcontextLengthは、最大の127072としています。

apiKeyは適宜変更してください。

コーディングの場合はtemperatureをなるたけ低くすることで、硬いコードを生成してくれる傾向があります。
completionOptionsで、temperatureを0としています。

他にも色々なオプションがあり、下記に記されています。
自分好みにカスタマイズすると面白いかと思います。
https://docs.continue.dev/reference/config

動作確認

現在、2024年8月31日です。
先日2024年8月27日にStreamlitのバージョン1.38.0がリリースされました。
バージョン1.38.0で新たにPolarsデータフレームがサポートされました。
Polarsデータフレームを使ったStreamlitのサンプルコードをPerplexity APIのllama-3.1-sonar-small-128k-onlineを使って生成してみます。

streamlitのバージョン1.38.0でサポートされた
データフレームPolarsを使ったサンプルコードを生成する

無事生成されたましたので、実行してみます。

一発で動きました！

まあデータフレームなのでPandasさえ知っておけば、特にチャットでなくても良いのですが。

最後に

ContinueからPerplexity APIを使う最大の目的である、最近出たばかりの新機能をチャットでコーディングしてみました。

もっとどえらい新機能が出てきた時に、Perplexity APIの実力を試してみるのも良いかもしれません。