Qiita Night～企業における生成AI活用～ 開催レポート
2025年3月26日に、日本最大級（※）のエンジニアコミュニティ「Qiita」では、エンジニア向けオンラインLTイベント「Qiita Night～企業における生成AI活用～」を開催しました。
※「最大級」は、エンジニアが集うオンラインコミュニティを市場として、IT人材白書（2020年版）と当社登録会員数・UU数の比較をもとに表現しています
参加申込者数が500名を超えた本イベントでは、生成AIを利用して課題解決や業務改善に成功した様々なユースケースについて、各登壇者から語られました。
本記事は、複数あるセッションの中でも、「〈みずほ〉の生成AI活用を加速させる内製開発ラボ〜開発の現場から〜」と題されたLTと、最後に行われたパネルディスカッションの様子をお伝えします。
※本レポートでは、当日のセッショントーク内容の中からポイントとなる部分等を抽出して再編集しています
〈みずほ〉の生成AI活用を加速させる内製開発ラボ〜開発の現場から〜
プロフィール
デジタル企画部 AIX推進室 ヴァイスプレシデント
まずは、みずほフィナンシャルグループ（以下、〈みずほ〉）でデジタル企画部 AIX推進室 ヴァイスプレシデントを務める齋藤 悠士氏が担当したLT「〈みずほ〉の生成AI活用を加速させる内製開発ラボ〜開発の現場から〜」の様子です。
2012年より国内金融機関、2017年より国内ネット系銀行でのキャリアを経て2023年9月に現職となった齋藤氏は、現在、〈みずほ〉にて生成AIを利用したアプリケーション開発のリードおよび内製アジャイル開発の運営管理に従事しています。
●〈みずほ〉の生成AI推進体制
はじめに、〈みずほ〉が生成AIに対してどのような推進体制を敷いているか、簡単にご説明します。
〈みずほ〉では、「AI CoE（Center of Excellence）」を設置し、「攻め」と「守り」の両面で生成AI活用を進めています。「攻め」の面では、既存の銀行業務へのAI適用やイノベーションの創出、経営層向けの啓発活動、そしてこれら全てを支える最新技術のR&Dといった活動を行っています。「守り」の面は、「責任あるAI」の推進を行っています。関連する法令は順次変わっていくため、常に最新動向をウォッチし、適切に対応していく必要があります。それらの対応を責任あるAI推進チームが担っています。
本日は、このAI CoEで「攻め」の役割を担う「内製開発ラボ」について詳しくお話します。
●業務への生成AI適用
〈みずほ〉では、生成AIの活用を大きく3つのフェーズに分けて進めています。導入期（2023年6月〜）は、社内向けChatGPT「Wiz Chat」を導入し、まずは広く早く使ってもらうことをめざしました。
現在は、業務に特化したアプリケーションを自社で開発する段階に移行しています。この後、具体的な開発事例も紹介予定です。
また最終的にはお客さま向けのサービスにも生成AIを活用していきたいと考えています。その第一歩として、コールセンター業務におけるAI活用を一部開始しています。
●内製開発ラボの概要と体制
「内製開発ラボ」は、約４万人の社員が在籍する、〈みずほ〉全体のDX（デジタルトランスフォーメーション）を推進する「デジタル企画部」の中で、生成AIを用いて社内DXを進める「AIX推進室」に設置された専門組織です。
「内製開発ラボ」にはテックリードやエンジニアが所属し、アジャイル組織としてプロダクトオーナーとスクラムマスターを持つ複数のスクラムチームで構成されています。外部ベンダーと〈みずほ〉の社員が柔軟に役割を分担し、「ワンチーム」として開発を進めることをめざしています。
これまでに20以上のアプリケーションを開発し、様々な開発手法を駆使して迅速にユーザーに価値を提供してきました。内製開発ラボは、今後も継続的にユーザーのニーズに応えるべく、革新的な技術を活用しながら開発を進めていく予定です。
●開発事例
ここからは私たちが開発したアプリケーションの中から、代表的な事例を３つご紹介します。
〈みずほ〉では、AI関連のアプリケーション群には「Wiz」という冠称をつけており、「Wiz Chat」（チャットボット）、「Wiz Search」（検索系）、そして「Wiz Create」（個別特化型）といった名称で展開しています。
1．照会系AI「Wiz Search」:
膨大な量の社内手続を効率的に検索するためのシステムで、RAG（Retrieval-Augmented Generation）の仕組みを活用しています。（※精度向上のための様々な工夫は後述）
2．個別特化AI「Wiz Create」面談記録生成AI：
営業担当者がお客さまを訪問した後の記録作成を支援するアプリケーションです。対面やオンラインでの面談中に、スマートフォンアプリのボタン１つで録音を開始でき、録音終了後、音声データがAWS（Amazon Web Services）に送られます。話者分離やテキスト変換が行われ、最終的に整形された面談記録が出力されます。
3．個別特化AI「Wiz Create」想定QA生成AI：
こちらも営業担当者向けのツールです。お客さまへの提案資料をこのWebアプリケーションにアップロードすると、AIが想定される質問や指摘事項をリストアップします。これにより、営業担当者は事前準備を十分に行うことができます。
以上のように、「Wiz」シリーズのアプリケーションは業務効率化と負担軽減に貢献し、ユーザーから高い評価を得ています。
●生成AIならではの課題と対策
生成AIを活用したアプリケーション開発は順風満帆に進んだわけではありません。いくつかの課題に直面し、それを乗り越えてきました。ここでは代表的な課題とその対策を紹介します。
課題1：LLMのトークン制限による処理遅延とエラー
QA生成AIの開発では、PDFファイルのページごとに画像化し、LLM（大規模言語モデル）に読み込ませる処理を行っていましたが、ページ数の多い資料の場合、処理に非常に時間がかかっていました。対策として、Pythonの並列処理を導入したところ、今度はトークン制限によりエラーが多発するという問題が発生しました。そこで、LLMを複数のリージョンに配置のうえ均等にリクエストを送信するという並列処理を実装することにより、各LLMへのリクエストを分散させ、処理速度を大幅に向上させることができました。
課題2：RAGにおける検索精度と解釈精度の問題
RAGは多くの企業で活用されていますが、依然として検索精度と解釈精度の課題は存在しており、我々も継続的に改善に取り組んでいます。これまで最も効果があった対策は、「LLMのトークン上限まで、関連性の高いテキスト情報を可能な限り多く取得し、それを全てLLMに入力して正しい回答を生成させる」という方法です。これにより、正答率が6〜7割程度だったものが、8〜9割まで向上する例も見られました。現在は他にも様々な技術が開発されているため、適宜検証を行いながら有用な技術を取り入れています。
課題3：非定型帳票のOCR精度とデータ入力
銀行では、お客さまから定期的に書面で受け取る非定型帳票の内容をシステムに転記する作業がありますが、従来のAI-OCR技術だけでは十分な精度を出すことが困難だったため、生成AIの活用に挑戦しました。当初、単体利用ではなかなか精度が上がらず苦労しましたが、複数のAIサービスを連携させるアプローチを取ることでこれを解決することができました。具体的には、「Azure Document Intelligence」を利用し、帳票からOCRでテキスト情報を抽出します。次に抽出したテキストファイルと元帳票の画像ファイルの両方をLLMに入力し、正確なテキストと帳票の構造を同時にLLMに認識させます。これにより文字認識の精度が向上しました。最後にLLMで転記先のフォーマットに合わせてデータをマッピングすることで、実用的な精度を達成しました。
課題4：プロンプトエンジニアリングの試行錯誤
プロンプトエンジニアリングをご経験の方ならご理解いただけるかと思いますが、良いプロンプトを見つけるためのトライアンドエラーは、非常に時間と手間がかかります。
これに対する短期的な対策として、LLM自身にプロンプトを考えさせるアプローチを試しましたが、これが意外と有効でした。ユーザー入力例と期待する出力結果の例をLLMに提示し、「このような入出力が得られるような効果的なシステムプロンプトを作成してください」と指示すると良いプロンプトが生成されることがあります。これは日々の開発において役立っています。
●生成AI開発の現場で考えていること
これらの課題と対策を通じて見えてきた、私たちが開発を進める上で重視している考え方を3つ共有します。1点目は「ビジネスと技術の両輪を重視すること」です。「技術先行・プロダクトアウトになってはならず、ビジネスに寄り添うべき」という考え方は重要ですが、一方で、新しい技術の登場によって、既存業務の改善策やアイデアが生まれることもあります。もちろん、最終的にはビジネスにフィットさせる必要がありますが、ビジネスニーズに応えるだけでなく、最新技術の動向を常にキャッチアップし、技術起点のイノベーションを追求する姿勢を持ち続けるという、ビジネスと技術の両面が重要だと考えています。
2点目は「LLMの特性を理解し、最大限に活用すること」です。例えば、Geminiの持つロングコンテキストや、ネイティブマルチモーダル（画像音声動画）をどう活かすか。また、最近注目されている推論モデルをどのような場面で活用するかなど、LLMの特性を意識しながら開発を行っています。
3点目は「リリーススピードを最優先すること（UIよりもUX）」です。〈みずほ〉には多くの社員がおり、ITリテラシーや生成AIへの理解・関心度も様々です。新しい技術やツールに対して、社員に関心を持ってもらうためには、まずは早く触れてもらうことが重要だと考えています。多少のバグが含まれる可能性があったとしても、とにかく早く手元に届けてフィードバックを得ながら改善していくことを心掛けています。
●開発力向上に向けた取り組み
現在、そしてこれからの開発力向上に向けて、私たちは様々な取り組みを進めています。まず、開発支援ツールとして、Roo Codeを全エンジニアに展開し、効率的に開発を行える環境を整備しています。また、クラウド事業者と連携して定期的に勉強会を実施し、最新技術の習得を促進しています。
さらに、自律的にタスクを実行できるAIエージェントの開発・活用に向けたプラットフォームや、LLMの開発・運用を効率化するLLM Opsの導入の検討も進めています。
●今後の展望
最後に今後に向けた展望です。現在は個別に生成AIアプリケーションを開発していますが、2025年4月以降は、例えばAIエージェントの再利用やユースケースに応じた最適なモデルの選択、データの適切な管理・蓄積・活用を想定した共通的なアーキテクチャを作ろうとしています。また、プレスリリースでも発信していますが、〈みずほ〉独自のLLM開発にも取り組んでいます。より質が高く、日本の商習慣や〈みずほ〉の業務に精通し、社員の感覚に近い回答を生成できるモデルの実現をめざしています。こちらに関しては、ありがたいことに記事にもしていただいています。
以上のように、〈みずほ〉は生成AIの活用を通じて、業務効率化と新たな価値提供をめざし、未来に向けて着実に進化を続けています。
私が所属するAIX推進室では〈みずほ〉の生成AIを加速させるプロマネやエンジニア／テックリード等を大募集しておりますので、ぜひ気軽にお問い合わせください。
パネルディスカッション
続いては、ここまでご紹介してきた株式会社みずほフィナンシャルグループの齋藤氏と、KDDI株式会社で事業創造本部 Web3推進部 エキスパートを務める河路 慶一氏、それから株式会社LIFULLでグループ経営推進本部 経営戦略ユニット 日次採算性向上推進グループ長を務める廣瀬 智英氏によるパネルディスカッションの様子をお伝えします。モデレータは、Qiita株式会社のプロダクトマネージャーである清野 隼史氏です。
登壇者プロフィール
デジタル企画部 AIX推進室 ヴァイスプレシデント
事業創造本部 Web3推進部 エキスパート
グループ経営推進本部 経営戦略ユニット 日次採算性向上推進グループ長
プロダクト開発部 部長
入社後はQiita、Qiita Jobsのプロダクト開発や機能改善等を担当。
2020年1月から「Qiita」のプロダクトマネジメントとメンバーのマネジメントを行う。
2025年4月よりプロダクト開発部 部長として開発組織の統括を行う。
①各業界における生成AI導入事例、課題と克服方法
齋藤：先ほどお話しした内容以外でお伝えすると、2023年6月に導入した「Wiz Chat」という社内チャットボットがあります。当時はまだ世の中の生成AI熱も今ほど高くはなく、最初のうちは社内普及率があまり高くないことが課題で、それに対する施策をオンラインとオフラインの二軸で進めました。
オンラインの方は、社内SNSでチャンネルを作り、頻繁に投稿するなど、まずは使ってみようという意識を醸成するためにポジティブな発信を継続的に行っています。オフラインでは、〈みずほ〉本部ビルの食堂やカフェで「出張DXカフェ」をやっています。そこで「Wiz Chat お悩み相談所」を開き、誰でも気軽に相談に来られるような、草の根的な活動をしています。
ITリテラシーや生成AIへの理解は人によって異なるので、こういった草の根的な活動は積極的に行っていくべきだなと。おかげさまで、最初のうちは数パーセントだった利用率も、直近は数十パーセントまで伸びています。
清野：2023年6月というと、まだ世の中的にも「生成AIをどうやって使うか」と探っている感じだったと思いますが、〈みずほ〉のような金融機関で早い段階から導入できた理由は何だったのでしょうか？
齋藤：生成AIの盛り上がりや勢いを、上手く力に変えようとしたのが大きかったですね。もちろん、セキュリティ周りをしっかりと安全・安心にした上で利用しないといけませんので、その辺りは社内でディスカッションを重ねて、しっかりと確認した上でリリースしていきました。
清野：LIFULLさんとKDDIさんの取り組み内容についても教えてください。
廣瀬：LIFULLの生成AIプロジェクトは、本体の全従業員約800名が生成AIを活用し、自らの業務効率化を目的に始まりました。全社的に動き始めたのは2023年8月からです。プロジェクトチームは計6名で、そのうち4名は技術者、残りの2名は私を含めプロジェクトマネジメントや研修・教育に強い人事担当でした。環境の構築だけでなく、実際に従業員へと浸透させる部分までしっかりサポートする体制を整えました。
進め方としては、単に「このシーンで使ってください」というアナウンスではなく、各自の業務においてどこで生成AIが活用できるか、自ら考えて使ってもらうアプローチを採用しました。その際に発生した課題は大きく2つ。「使い方がわからない」という点と、機密情報が生成AIに学習されてしまうのではという懸念です。
前者に関しては徹底したレクチャーを通じて解決し、後者に関してはkeelaiという社内チャットボットのリリースを通じて、社内の情報を一定レベルで安全に管理・利用できる環境を整え、心理的な安全性を確保しました。その結果、初期は約35%の従業員が生成AIを使っていたのが、1年後には83%にまで増加し、全従業員の業務時間において約42,000時間分、つまり全体の約3%の業務効率化を実現することができました。
河路：弊社もみずほさまの事例と似た動きで、2023年度の春頃から「KDDI AI-Chat」という名称で生成AIの業務利用を始めました。トップからの明確な指示のもと、5G通信やデータドリブン経営を軸に、全社員約1万人に対して活用促進を図っています。ただ「使え」と言うだけではなく、教育やコンテストなどの施策を継続的に実施して、徐々に浸透させる努力をしています。
よく使われるプロンプトがテンプレートとして共有されるなど基盤は整いつつありますが、業務改善の成果を得るためには、業務に特化したアプリケーションやサービスの開発も不可欠だと認識しています。例えば私自身が経験した事例ですと、特殊な領域のアンケートデータの集計画面で、どのように言葉をグルーピングすれば良いか悩んだ際に、事業部門の担当者と一緒に生成AIを活用して最適なプロンプトを考え、傾向把握を目的とした分析結果を得ることができました。これにより、業務効率化やデータ活用の実感が得られるという成果に繋がっています。
②生成AI導入による組織・個人の変化
清野：3社とも現在に至るまで、取り組みが広がっていると感じますが、成功の要因は何だとお考えでしょうか？
齋藤：トップダウンとボトムアップの両面があると考えています。トップダウンでは、ムーブメントを持続させるために、定期的に経営層向けのレクチャーや活動報告、最新のデモアプリ（面談記録作成AIや推論モデルを活用したチャットボットなど）の紹介を実施し、経営層からの後押しを得ています。
一方、ボトムアップでは、先ほどもお伝えしたDXカフェや社内SNS、また2023年に実施した「生成AIアイデアソン」で2,000件以上のアイデアを集め、その中から優れたものをピックアップして実際に開発するなど、社員自らの意欲を引き出す施策を行っています。特に、自分の意見が形になるという手触り感を大切にしていることが、成功の大きな要因だと感じています。
河路：弊社では、特にエバンジェリストのような熱意を持った人たちが積極的に引っ張っていくことで、気づけば全社で当たり前に使われている状態になっていると感じます。そう考えると、最初のムーブメントを起こす段階は終わっていて、今はむしろ定着とさらなる高度な活用、例えば業務効率化がどの程度実現されているかを計測する段階に移っている印象です。
実際、異なる本部で既にAIが導入されているケースも多く、我々が想像していなかったようなアイデアが生まれるなど、非常に面白い状況になっています。今後はどれだけ業務効率化が進んでいるのか、具体的な数字で示すための計測をしていきたいと考えています。
廣瀬：「生成AIを使ってね」と発信した際に、現状は、自発的に情報をキャッチし利用する人とそうでない人とで明確に2分しています。そこで、半期ごとに全従業員を対象にアンケートを実施し、どの程度活用できているかを把握しています。活用できている人からは良い事例を収集し、「Generative AI Award」（通称：GAIA）という月次の表彰制度を通じて全社に紹介することで、モチベーションを高めています。全体の15〜20%ほどのメンバーは利用していないため、今後はその層への浸透もさらに重点的に取り組む必要があると考えています。
清野：また別の視点でお伺いします。生成AIを導入したことで、「考えなければならないこと」や「取り組むべきこと」が増えたという点について、もしあれば教えていただけますか？
齋藤：これまでは既存業務の単純な置き換えが主なテーマでしたが、今年からはAIエージェントの登場などのトピックもあり、従来とは異なる取り組みが求められています。特に、人口減少社会において労働力や社員数の減少が懸念される中、減少する社員数で業務を回すためには、AIを組み込んだ新しい業務体制を模索する必要があります。そのため、ビジネスユニットの業務プロセスを見直しながら、対話を通じて新たな働き方を探っていくことが、今後は求められるのではないかと考えています。
河路：生成AIを使うこと自体は悪くないと思っていて、これまでの業務知識や経験が豊富な社員が、AIを「相棒」や「コパイロット／副操縦士」として活用する、いわゆる壁打ちのパートナーとして使うというのは効果的だと思います。ただし、AIに頼りすぎるとアイデアを自ら考えなくなったり、生成された情報を鵜呑みにしてしまうリスクもあります。特に新しく入社する若手には、そこに至るまでの基礎的な業務知識をしっかりと身につけてもらい、その上でどのようにAIを活用すべきかを育成していく必要があると感じています。
廣瀬：全体的な視点で言うと、「使える人」と「使えない人」のスキル差が、今後広がっていくだろうなと感じています。生成AIはこれからポータブルスキルになり、パソコンの基本操作と同じくらい必須のスキルになると考えています。そのため、当社では今期から新入社員研修に生成AIの扱いを取り入れるなど、早期にインプットさせる取り組みを進めています。もちろん、業務のオペレーションの中に知らぬ間に組み込まれてるみたいな状況も当然発生してきているとは思いますが、もし個人や部門、または会社が変わったときに、このようなスキルが身についていなければ、業務遂行に大きな影響が出るというリスクもあるでしょう。これを埋めることが、私たちが取り組んでいるプロジェクトの重要な役割だと考えています。
③生成AIの未来展望～各社の視点から～
清野：最後に、生成AIに対してこれからどのように取り組んでいくのか、展望をお伺いできればと思います。
齋藤：AIエージェントがエンドツーエンドで業務を代替する仕組みが、ようやく実現に向かってきていますので、従来の「バディ」的なサポート役から、能動的に動くAIへと進化させ、業務全体に組み込むことをめざしています。その上で、最終的にはエンドユーザーのお客さまに対して価値提供ができるAIを構築したいと考えています。
金融業界でお客さまに対してAIを展開するには、高いハードルが存在していると思っています。例えばプロンプトインジェクションにより意図しない融資の約束ができてしまう、ハルシネーションにより誤った回答をしてしまい取り返しのつかないことになってしまうなどのリスクが考えられます。このようなリスクをしっかり管理して乗り越えた先に、利便性の高いサービスを提供できる未来を描いています。
河路：生成AIの活用が社内に浸透してきている状況ですが、まずは業務の中でどれだけ価値が創出されているかを「見える化」し、着実に実績を積み上げることが重要だと考えています。また、社外のお客さまに対しても、生成AIを活用したサービスやアプリケーションを提供する流れが進んでいます。技術力や実績に基づいて、リスク管理を徹底しながら、確実にお客さまへ価値を届けていくことが必要になるかなと思っております。
廣瀬：この1年半にわたる社内での浸透活動を通じて、業務効率化の成果を数値で捉えながら取り組んできたわけですが、効果を最大化するためにどのようなバランスで使うべきかというのは、引き続き追求が必要だと感じています。というのも、何でもかんでも生成AIに依存すると、場合によっては大きなミスを招いたり、成果がマイナスになったりするリスクもあります。
また生成AIは今後、企業内の共通スキル、いわゆるポータブルスキルとして、社員のキャリアアップやエンゲージメントの向上にも寄与すると考えています。そのため、社内研修などで早期に習得させ、どの職種や企業でも横断的に活用できるスキルとして定着させることが、持続的成長に繋がると信じています。
文：長岡武司