DeepLの衝撃から6年ほど。
自然な英語翻訳はローカルLLMで実現する時代が来た。色々なものが生成AIで淘汰される時代でもある。
大事なことはそのときに必要なスキルはどんなものか考えてみた。
gpt-4o-miniとLlama3.1(8B on Mac mini M2Pro)での翻訳速度と内容の比較
— 有馬三郎 CTO@セゾンテクノロジー iPaaS開発しています (@SaburoA) August 25, 2024
前半がLlama、後半がgpt-4o-mini
普段の翻訳ならセキュリティ諸々を考えるとオンプレミスで十分
DeepLも進化しているけど、ネット接続が不要な時代がくる
僕ら自身でもモデルをホストとしていろんなことが提供できそう pic.twitter.com/DeYvoiK1f8
上記の実行に必要なスタック
- 実行環境 Mac mini M2Pro 16GB
- OpenAIとのAPI利用契約
- 利用可能なクレジットカード
- Cursorのダウンロード（未契約でOK）
- ソースコード
- LM Studio
- Llama3.1 8B
- 知識
- プログラミング知識（普通レベル）
- Typescript（初学者の一歩上レベル）
- Electron（初学者レベル）
- 設計能力（普通レベル）
- Cursorに質問する言語構成力（普通レベル）
- Cursorの回答を読み解く言語理解力（普通レベル）
- Node関連のビルド、デバッグ知識（初学者レベル）
- IDE（VSS）の知識（初学者レベル）
- Github,Gitの操作（初学者レベル）
- OpenAIのAPI・サブスク利用（普通レベル）
- オンプレでの生成AIモデル実行知識（普通レベル）
- オンプレ生成AIモデルとの通信知識（普通レベル）
- 好奇心
大事なこと１
アーキテクチャとして、生成AIがDBのようなレベルでシステム開発の範囲に入ってくること。仕組みを知らないとミスる。パフォーマンス、代替ルート、冪等性など。
大事なこと2
AIを活用したプログラミングはこれまでの知識を代替するものではなく、ものすごくパワーアップさせるものであること。そして、これまでの要件定義、外部・内部設計、コーディング、テストの境界を上方に曖昧にしていく。設計とコーダーの分離は害しかなさなくなってくる。
大事なこと3
AIとの対話に必要なものはしっかりとした文章力であり、考える力が必要になる。これはすぐに身につきにくいので一番絶望的かもしれない。本や新聞を定期的に読んでる人が報われる時代かもしれない。IT知識もすぐには身につかない。なので必ずベースとして技術の勉強をやめないこと。
今から始めること
新版 考える技術・書く技術 問題解決力を伸ばすピラミッド原則を読んで文章力をつけよう。この本は30年以上前の出版であるが、有名コンサルは1年目の必須書籍らしい。私も3冊買って15年ぐらい読んでいる。
そして、オープンソースを落として、Cursorを使って概要の把握や小改修を毎日１個やってみよう。
個人的には以下がおすすめ。私の関連する分野でもあるし、新しい技術が入ってきている。
https://www.embulk.org/
https://github.com/apache/airflow
新時代のプログラミングを楽しもう。
そして、自分の作りたいものを作ってみよう。
セゾンテクノロジーはエンジニアを募集しております。