Spring AI フレームワーク その2
前回、Spring AI フレームワークを触ってみた - Qiita の続きです。他にもまだいくつかプロジェクトテンプレートが存在するので、試してみようと思います。
テンプレ
spring project list すると、前回追加されたプロジェクトテンプレートが表示されます。
├──────────────────────────┼──────────────────────────────────────────────────────────────────┼────────────────────────────────────────────────────────────────────┼────────┼───────────────────────────────────────────────────┤
│ai │Hello, World Open AI Application │https://github.com/rd-1-2022/ai-openai-helloworld │gs │[java-17, boot-3.1.x, ai, openai] │
├──────────────────────────┼──────────────────────────────────────────────────────────────────┼────────────────────────────────────────────────────────────────────┼────────┼───────────────────────────────────────────────────┤
│ai-azure │Hello, World Azure Open AI Application │https://github.com/rd-1-2022/ai-azure-openai-helloworld │gs │[java-17, boot-3.1.x, ai, openai, azure] │
├──────────────────────────┼──────────────────────────────────────────────────────────────────┼────────────────────────────────────────────────────────────────────┼────────┼───────────────────────────────────────────────────┤
│ai-azure-hello-world │AI - Hello, World │https://github.com/rd-1-2022/ai-azure-openai-helloworld │ai-azure│[java-17, boot-3.1.x, ai, azure, web] │
├──────────────────────────┼──────────────────────────────────────────────────────────────────┼────────────────────────────────────────────────────────────────────┼────────┼───────────────────────────────────────────────────┤
│ai-azure-prompt-templating│AI - Prompt Templating │https://github.com/rd-1-2022/ai-azure-prompt-template │ai-azure│[java-17, boot-3.1.x, ai, azure, prompt templating]│
├──────────────────────────┼──────────────────────────────────────────────────────────────────┼────────────────────────────────────────────────────────────────────┼────────┼───────────────────────────────────────────────────┤
│ai-azure-prompt-roles │AI - Prompt Templating │https://github.com/rd-1-2022/ai-azure-openai-prompt-roles │ai-azure│[java-17, boot-3.1.x, ai, azure, prompt roles] │
├──────────────────────────┼──────────────────────────────────────────────────────────────────┼────────────────────────────────────────────────────────────────────┼────────┼───────────────────────────────────────────────────┤
│ai-azure-output-parser │AI - Output Parser │https://github.com/rd-1-2022/ai-azure-openai-output-parser │ai-azure│[java-17, boot-3.1.x, ai, azure, output parser] │
├──────────────────────────┼──────────────────────────────────────────────────────────────────┼────────────────────────────────────────────────────────────────────┼────────┼───────────────────────────────────────────────────┤
│ai-azure-stuff-prompt │AI - Stuff the prompt │https://github.com/rd-1-2022/ai-azure-stuff-prompt │ai-azure│[java-17, boot-3.1.x, ai, azure, prompt stuff] │
├──────────────────────────┼──────────────────────────────────────────────────────────────────┼────────────────────────────────────────────────────────────────────┼────────┼───────────────────────────────────────────────────┤
│ai-azure-prompt-rag │AI - Retrieval Augmented Generation │https://github.com/rd-1-2022/ai-azure-retrieval-augmented-generation│ai-azure│[java-17, boot-3.1.x, ai, azure, retrieval] │
プロジェクトへの追加
spring boot ai-azure-prompt-templating で、テンプレート（さっきのテンプレとは違う意味）を使った処理コードの追加をします。
追加されるのは以下のクラスと、
@RestController
public class PromptTemplateController {
private final AiClient aiClient;
@Value("classpath:/prompts/joke-prompt.st")
private Resource jokeResource;
@Autowired
public PromptTemplateController(AiClient aiClient) {
this.aiClient = aiClient;
}
@GetMapping("/ai/prompt")
public Generation completion(@RequestParam(value = "adjective", defaultValue = "funny") String adjective,
@RequestParam(value = "topic", defaultValue = "cows") String topic) {
PromptTemplate promptTemplate = new PromptTemplate(jokeResource);
Prompt prompt = promptTemplate.create(Map.of("adjective", adjective, "topic", topic));
return aiClient.generate(prompt).getGeneration();
}
}
resources/prompts/joke-prompt.st のテンプレートファイルです。
Tell me a {adjective} joke about {topic}.
布団を使った面白いジョークを教えててきなものを、adjective と topic を渡して答えて貰うというものです。
プロンプトテンプレートは、 org.springframework.ai.prompt.PromptTemplate で定義されていてAIフレームワーク側に用意されている感じなので、簡単に使えて便利な気がします。Map で key-value を元に作成し、aiClient.generate(prompt) でAIに問い合わせるだけです。
テスト
適当にパラメータを私て呼び出します。英語に鳴ってしまいます。
curl "http://localhost:8080/ai/prompt?adjective=sad&topic=cat"
{"text":"Why did the cat sit on the computer?\nBecause it wanted to press Paws.","info":{}}
適当にテンプレを修正し、日本語で答えを要求してみます。
Tell me a {adjective} joke about {topic}. Please answer in Japanese.
curl "http://localhost:8080/ai/prompt?adjective=sad&topic=cat"
{"text":"猫がミルクをこぼしてしまった時の悲しいジョークです。「なんてことだ、猫のミルクはこぼしたら、もう一度はすっぽり入らないのさ」","info":{}}
最後に日本語でOKと入れたので、意味としてはよく分からないのですが、日本語で答えてくれます。
というわけで、今回は PromptTemplateを使ったサンプルでした。
以上