0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

査読可能性を考慮した生成AIを用いた査読割当アルゴリズム

0
Last updated at Posted at 2026-08-01

作成: Claude(Anthropic)

Abstract

国際会議の査読者割当は、査読者の 興味(interest) に合う論文を割り当てて満足度を確保することと、少なくとも方法論・統計・実験設計を評価できる 査読可能性(reviewability) を満たす論文を割り当てて査読の質を確保することの、2つの目的を両立させる必要がある。本レポートは、この2軸を生成AI(LLM)によるbidding代理採点で取得し、 安定結婚問題(Hospital/Residents一般化) として定式化して解く手法を提案する。人間による査読者候補プールが小規模(単一学科内程度)かつ担当上限が厳格な状況において、本手法は追加の人手調整(バッファ割当・個別先固定など)をほぼ必要とせず、査読可能性の下限を制約なしに自然に確保できることを、実データを用いた試行で確認した。


1. Introduction

査読者の割当は、国際会議等の運営において重要な手続きである。割当の質は、大きく2つの観点から評価できる。第一に、各査読者の興味に合う論文を割り当てることは、査読者の満足度のために重要である。第二に、少なくとも方法論・統計・実験設計・記述の妥当性を一定水準で評価できる範囲の論文——査読可能性を満たす論文——を割り当てることは、査読の質を確保するために重要である。

興味と査読可能性は必ずしも一致しない。専門ど真ん中でなくても方法論的な評価は可能な場合が多いが、逆(専門ど真ん中なのに一般的な評価能力が低い)はほぼ成り立たない。本レポートでは、この2つを独立した軸として扱う。

以下で提案する手法は、この2つの軸を満たす割当を、人間の作業コスト(査読者本人へのbiddingの依頼、割当後の手動調整)を最小化しながら実現するために設計されている。


2. Related Work

査読者割当の自動化は、Reviewer Assignment Problem (RAP) として1990年代から続く確立された研究分野であり、包括的なサーベイも存在する [1]。TPMSやSPECTER埋め込みなど、実運用されている自動割当システムも多い。付録B.1で不採用と判断した「汎用の単語埋め込みによる類似度計算」は、こうした既存手法の簡易版に近い。既存研究の多くは、類似度スコア(テキストマッチング・トピック一致・biddingの組み合わせ)を計算した上で、整数計画法やmax-flowなどで最適化するアプローチが主流であり、安定結婚問題として定式化する例は一般的ではない

なぜ安定結婚問題として定式化するか: 通常の国際会議では、査読者プール(プログラム委員)は投稿論文数に対して十分な規模で確保され、候補者あたりの担当上限も比較的緩やかに設定されることが多い。そのため、多くの既存研究では査読者側の容量制約はソフトな最適化目標の一部として扱われ、max-flowやILPで全体最適を探す設計が自然に噛み合う。

一方、査読者候補の大半を単一の学科内など小規模な母集団から確保し、専門分野の偏りが大きく、かつ候補者あたりの担当上限を厳密に守らなければならない(超過を許容する余地がない)状況では、単純な総和最大化(ILP的アプローチ)よりも、両側の容量制約を両立させながら「これ以上お互いに得する組み替えがない」状態を保証する安定結婚問題の定式化の方が、性質として素直に噛み合う。4.4節で示す通り、安定結婚問題として解いた場合、査読可能性の下限もハード制約なしに自然に確保されるという副次的な利点もある。

本手法が既存研究と異なる点は主に2つある。

(1) LLMをbidding代理として使う点。 従来のbiddingは人間の査読者本人が行うのが前提であり、LLMに候補者になりきらせて興味度・査読可能性をスコアリングさせるアプローチに直接対応する先行研究は見当たらなかった。近い研究として、LLMを使ってキーワード抽出や割当アルゴリズムの設計を支援する事例 [2, 3] はあるが、LLM自身に0〜1のbiddingスコアを生成させて割当の直接入力にする使い方は一般的ではない。

(2) 興味度と査読可能性を独立した2軸として扱う点。 従来のbiddingは「Not willing / In a pinch / Willing / Eager」のような一次元の離散尺度が標準であり、興味と専門性は言及されることはあっても [4]、2つの独立したスコアとして採点し、安定結婚の論文側・候補者側それぞれの選好に使い分ける定式化は見当たらなかった。

査読倫理との緊張関係。 査読倫理に関する文献の中には、「専門分野の知識がある場合にのみ査読を引き受けるべきであり、専門外の査読は誤った評価のリスクを伴う」という、より厳格な立場を取るものもある [5]。本手法の「専門外でも査読可能性の水準を満たせば割り当ててよい」という考え方は、この厳格な立場とは緊張関係にある。査読可能性の採点基準(3章)を「専門的に評価できるか」ではなく「方法論・統計・実験設計・記述の妥当性を一定水準で評価できるか」という、専門知識そのものではなく研究者としての一般的な評価能力に絞っているのは、この緊張を和らげるための設計上の工夫である。


3. Problem Formulation

本手法は以下の4つの入力から、査読割当を出力する。

入力 内容
論文リスト タイトル・キーワード・アブストラクト付き
査読者候補リスト キーワード(専門分野)付き
R 1論文あたりに必要な査読者数
C 1候補者あたりが担当できる論文数の上限

これら4つをどう用意するか(候補者リストの整形、キーワード収集など)は実装依存の下準備であり、付録Aで扱う。以降の節は、この4つが揃っている前提で進む。

割当の質は、2つの軸で評価する。

  • 軸1: 興味度(interest) — 候補者本人が専門的に読みたい/査読したいと感じる度合い(0〜1)
  • 軸2: 査読可能性(reviewability) — 専門ど真ん中でなくても、研究者として方法論・統計・実験設計・記述の妥当性を一定水準で評価できる度合い(0〜1)

軸2は原則として軸1以上の値になる(専門ど真ん中で興味が高い論文について、査読可能性だけが低いというのは通常あり得ない)。

目的は、この2軸のスコアを用いて、R・Cの容量制約を満たしつつ、査読者の満足度(軸1)と査読の質(軸2)をともに確保する割当を、人手の追加調整を最小化しながら求めることである。


4. Method

提案手法は、(A) LLMによる2軸bidding代理採点、(B) 安定結婚問題としての割当、の2段階を中核とし、これに加えて実装上必要となる (C) 重複プロファイルへの対処、(D) 事後検証を伴う。以下、4.1〜4.4節でそれぞれを説明する。

4.1 LLMによる2軸bidding代理採点

人間にbiddingを依頼する代わりに、LLM自身が各候補者になりきって論文への評価をスコアリングする。

手順:

  1. 各候補者について、キーワードプロファイルを役割として与える
  2. その役割のまま、全論文(タイトル・キーワード・アブストラクト)を1本ずつ読み、軸1・軸2をそれぞれ0〜1でスコアリングする
  3. 全候補者×全論文で、両軸とも省略せず個別に採点する(一部を軸1の代用値で済ませると、後段の結果が歪む。4.4節参照)

プロンプトの骨子(実際に使用した例):

あなたは、分野キーワードとして「{候補者のキーワード}」を専門とする研究者である。
その研究者の立場になりきって、以下の論文(タイトル/キーワード/アブストラクト)を読み、
次の2つを0〜1のスコアで評価せよ。

軸1(興味度): 自分の専門的な関心として、この論文を査読したいと感じるか
軸2(査読可能性): 仮に専門ど真ん中でなくても、研究者として方法論・統計・
  実験設計・記述の妥当性を一定水準で評価できるか

本当に専門外・無関心なら軸1は正直に低くつけてよい(0.05程度まで)。
一方、軸2は「専門的に面白いかどうか」ではなく「評価者として機能できるか」を
基準にすること。専門ど真ん中の論文であれば、軸2は軸1と同等かそれ以上になる
はず(軸1が軸2を上回ることは基本的にない)。

論文:
タイトル: {title}
キーワード: {keywords}
アブストラクト: {abstract}

事前パイロット検証。 全候補者に対して一度に実行する前に、3〜5名の異なる分野の候補者で軸1のパイロットテストを行い、(i) 候補者内でスコアの標準偏差が十分に大きいか、(ii) 専門にドンピシャな論文なら高スコア(0.8〜0.9)、無関係なら低スコア(0.05前後)とメリハリのある分布になっているか、(iii) 専門が合わない候補者が不自然に高い値に引っ張られていないか、を確認する。

論理的整合性チェック。 採点後、軸1 > 軸2 となっているペアを全件抽出し、見つかった場合は 軸2 = max(軸1, 軸2) として補正する。このチェックは、軸2を一部の候補者にしか個別採点せず残りを軸1のコピーで代用した場合は機能しない(代用部分は定義上矛盾が起きない)ため、全員分を独立に採点することが前提となる。

留意点。 LLMのスコアは実際の本人の意向の完全な代理にはならない。大量の判断を連続で行うため後半で基準がわずかに揺れる可能性があり(人間のbiddingの疲労効果に類似)、再現性もない(同じ入力でも多少スコアが変わりうる)。

4.2 安定結婚問題としての定式化

論文側を容量R、候補者側を容量Cの二部マッチングとして、Hospital/Residents問題(Gale-Shapleyの多対多拡張)を解く。

  • 論文側の選好(プロポーズする側)= 軸2(査読可能性)。論文にとっては、きちんと評価できる人を優先すべきだからである。
  • 候補者側の選好(受理/交代を判断する側)= 軸1(興味度)。候補者にとっては、容量が埋まったときに自分がより興味を持てる方を優先するのが自然だからである。

論文提案型 deferred acceptance:

  1. 各論文は、軸2の高い順に候補者へ「提案」する
  2. 候補者は、容量Cに空きがあれば仮受理。空きがなければ、現在保持している中で軸1が最も低い論文と比較し、新しい提案の軸1の方が高ければ入れ替え(弾き出された論文は再度キューへ)
  3. 全論文がR名確保、またはリスト消化まで繰り返す

collections.deque を用いたキューベースの実装で問題なく解ける。総容量(候補者数×C)が需要(論文数×R)をわずかに上回るのが通常であり、この場合誰かは担当0本〜C-1本になる(アルゴリズムの欠陥ではない)。事前に供給を需要よりやや多めに確保しておくと、この偏りが極端になりにくい。

4.3 重複プロファイルの扱い(統合スロット方式)

候補者間でキーワードプロファイルが完全一致するケースは、専門分野が不明な候補者について近い研究室のキーワードを暫定値として流用した場合などに発生しうる(付録A.2)。これをそのまま安定結婚アルゴリズムにかけると、決定論的な処理順により常に同じ人だけが選ばれ、他のメンバーが0本になる不公平が生じる。プロファイルが重複している以上、これは特殊なケースではなく毎回起こりうる通常の状況であり、対応を組み込む必要がある。

手順: 完全重複が検出された候補者グループ全員を「容量(人数×C)の仮想的な統合スロット」1つとして扱ってアルゴリズムを解き、解いた後で、そのスロットが獲得した論文をグループ内にランダムに(できるだけ均等になるよう)割り振る。重複が事前に見つかっていない場合はこの節は不要である。

重複チェックの手順: 4.1節の採点を始める前、候補者リストのKeywords列が揃った時点で行っておくのが望ましい(後工程での手戻りを防ぐため)。全候補者のKeywords文字列を総当たりで比較し、2名以上のペアで文字列が完全一致していれば、そのグループを「完全重複」としてこの時点で記録する。可能であれば、片方だけでも追加情報を集めてプロファイルを差別化できないか試みる(統合スロットは公平だが機械的なランダム分配になるため、差別化できるならその方が望ましい)。差別化できない場合は、そのグループを統合スロット対象として記録し、上記の手順に渡す。

4.4 事後検証

安定結婚を解いた後、確定した割当について以下を必ず確認する。

  1. 全ペアの軸1(興味度)の最低値、軸2(査読可能性)の最低値をそれぞれ確認する
  2. 軸1・軸2の両方が低いペアがないかを特に確認する。両方が低いということは、その論文について興味を持つ人もおらず一般的にも評価しづらい——査読者プールがその論文をカバーしきれていないことを意味する
  3. 該当ペアが見つかった場合は、付録B.2の個別対応(バッファ・先固定)や、査読者プールの拡充を検討する。片方の軸だけが低い場合は通常は許容範囲

この確認は、下限を安定結婚のアルゴリズムに制約として組み込むかどうかに関わらず、割当の質を保証するための事後検証として毎回必要な手順である。本レポートの試行(6.1節)では、4.1〜4.3の手順を正しく行った上で制約なしに解いたところ、全論文が自然に軸2の最低値0.2以上を満たした。論文側が軸2の高い順に提案するdeferred acceptanceの定式化そのものが軸2の質を高める方向に働くため、この結果は偶然ではないと考えられるが、単一の試行に基づく観察である点には留意されたい(6.3節)。今回の観察をもとに一般的な指針を述べるなら、下限制約が必要に見える場合は、まず採点データの手抜き(一部の候補者だけ個別採点し残りを軸1の代用値で済ませる等)がないかを疑い、制約で誤魔化す前にデータの穴を確認すべきである。


5. Implementation Notes

5.1 出力フォーマット

最低限、以下のシート構成のExcelファイルを出力する。

  1. Assignment: 論文番号・タイトル・査読者1・軸1スコア・軸2スコア・査読者2・軸1スコア・軸2スコア・平均興味度・最低査読可能性・注記。低スコア行は色付けする
  2. Load Summary: 候補者ごとの担当件数、担当論文との平均興味度・平均査読可能性(0件の候補者を目立たせる)
  3. Interest Matrix: 全候補者×全論文の軸1生データ
  4. Reviewability Matrix: 全候補者×全論文の軸2生データ

5.2 その他の設計判断

1論文あたりの査読者組み合わせは「同分野の2名」を基本方針とすると、査読の質の面でも納得感が出やすい。完璧な最適解を求めて個別ペアを反復調整し続けると振動して収束しないことがある(付録B.3)ため、反復回数の上限とフォールバック評価基準を最初に決めておくことを推奨する。


6. Discussion

6.1 実データでの確認

実際の候補者プール(36名、単一学科中心)と投稿論文(35件、R=2, C=2)に対して4章の手法を適用したところ、次の点が確認できた。

  • LLM bidding代理採点(4.1節)は、汎用の単語埋め込みによる自動計算(付録B.1)と比べて明確に解像度が高い。埋め込み方式は類似度が0.4〜0.9の狭い帯域に圧縮され本質的に無関係な論文を判別できなかったのに対し、bidding方式は無関係なら0.05まで正直に下がり、専門ど真ん中なら0.8〜0.9まで鋭く反応した
  • 4.2〜4.4節の手順を正しく実行した場合、軸2(査読可能性)の下限は、アルゴリズムへの制約なしに自然に0.2以上を満たした
  • 付録Bで記録した手動対応(関係者バッファ、個別先固定、反復適用)は、当初は必要に見えたが、いずれも軸2を一部の候補者にしか個別採点せず代用値で済ませていたデータ不備が原因であり、全候補者を正しく採点し直した後は不要になった

6.2 比較実験

安定結婚問題としての定式化(4.2節)が、2章で述べた既存研究の主流である単一目的関数を大域最適化するILP/max-flow [1, 6] と比べてどのような特性を持つかを、同じデータ(36名×35論文、R=2)を用いて比較した。ILPは scipy.optimize.milp(HiGHSソルバー)で実装し、目的関数を軸1(興味度)または軸2(査読可能性)の総和最大化とした2種類、候補者容量Cを本来のC=2とした場合・容量制約を実質的に外した場合(C=35)の2条件を組み合わせ、計4パターンを解いた。重複プロファイル(4.3節で扱った、キーワードが完全一致する候補者ペア)については、担当件数の差が1件以内に収まるよう明示的な均衡制約をILP側にも追加した。

結果:

手法 目的関数 C avg interest min interest avg reviewability min reviewability 0本の人数 最大担当件数
安定結婚(提案手法) 論文=軸2提案/候補者=軸1判断 2 0.364 0.05 0.569 0.20 1 2
ILP Σ軸2最大化 2 0.366 0.05 0.584 0.25 0 2
ILP Σ軸1最大化 2 0.386 0.05 0.559 0.20 0 2
ILP Σ軸2最大化 無制限 0.467 0.05 0.646 0.40 8 12
ILP Σ軸1最大化 無制限 0.526 0.10 0.620 0.25 12 16

単一目的関数では2軸を同時に扱えない。 ILPはΣ軸2最大化を目的とした場合、軸1(興味度)は目的関数にも制約にも一切含まれないにもかかわらず、avg interestが安定結婚をわずかに上回った(0.366 vs 0.364)。これは、4章の設計上「軸2 ≥ 軸1」が常に成り立ち、かつ同一ペアで両者が強く相関するため、軸2の総和最大化が副次的に軸1の総和もある程度押し上げるという、データの性質に起因する現象であり、一般に保証される関係ではない。実際、Σ軸1最大化を目的とした場合はavg reviewabilityが安定結婚を下回った(0.559 vs 0.569)。安定結婚は総和の最適化ではなく「どのペアも互いに得する組み替えを望まない」という安定性を保証する定式化であるため、単一の総和指標でILPとの優劣を比較すること自体、本質的な評価軸ではないことに注意が必要である。より重要な性質は、論文側の選好基準(軸2)と候補者側の選好基準(軸1)を独立に扱えるという、安定結婚の定式化に固有の非対称性であり、これは単一目的関数のILP/max-flowでは表現できない。

容量制約Cの役割。 Cを外すと、目的関数が何であれ顕著な偏りが生じた。ゼロ担当者数は8〜12名、最大担当件数は12〜16件(35論文中)に達し、特定の1名の候補者に負荷が集中した(両条件で同一人物)。これは、Cという容量制約が単なる技術的制約ではなく、査読者間の負荷公平性を担保する上で本質的な役割を果たしていることを示している。

計算量に関する考察。 今回のILP定式化(各論文が正確にR名、各候補者が高々C本)は、制約行列が完全単模(totally unimodular)な輸送問題であり、この基本形に限れば多項式時間(min-cost flow等)で厳密に解ける。安定結婚のdeferred acceptanceも多項式時間であり、基本形同士の比較では計算量上どちらかが明確に有利とは言えない。

側面制約(本レポートの重複プロファイル対策など)を追加すると、ILP側の制約行列は完全単模性を失い、一般には分岐限定法を要するMILPとなる(最悪計算量は指数時間)。ただし、2章で挙げたTPMSやPeerReview4All [6] のような実運用システムは、利益相反の除外や多様性確保など多数の側面制約を持つILPを、数千論文規模で日常的に解いている。最悪計算量が指数時間であっても、実務上は既存システムが十分な速度で機能しているため、計算量の理論的な悪化が実運用上のボトルネックになっているとは言えない。また、本レポートで用いた「統合スロット→事後にランダム分配」という後処理は、重複プロファイルという特定の問題に対する対処であり、他の種類の側面制約(例: 利益相反の除外、特定分野の査読者を最低1名含める等)に同様の後処理がそのまま使えるとは限らない。したがって、計算量は両手法を比較する上で決定的な論点ではない。

したがって、安定結婚問題として定式化することの本質的な利点は、計算量ではなく、本節で述べた「論文側と候補者側で異なる評価基準(軸2と軸1)を使い分けられる」という構造的な性質にある。単一目的関数のILP/max-flowでは、この非対称な選好構造を表現できない。これが、今回の運用条件(候補者あたりの担当上限が厳格な小規模プール)において安定結婚を選ぶ、より説得力のある理由である。

6.3 Limitations

  • LLMのスコアは実際の査読者本人の意向の完全な代理にはならず、再現性もない(4.1節)
  • 本手法は候補者あたりの担当上限が厳格な小規模プールでの運用を主眼に設計されており、査読者プールが投稿論文数に対して十分に大きい典型的な国際会議では、2章で述べた通り、既存のILP/max-flowベースの手法で十分な場合が多い
  • 査読可能性(軸2)の採点基準は、査読倫理上の厳格な立場(専門分野の知識がある場合にのみ査読を引き受けるべき)とは緊張関係にあり、運用する会議のポリシーに応じて閾値や採点基準を調整する必要がある
  • 不正対策(bidding操作やcollusion ring)は本手法のスコープ外であり、既存研究 [7] で扱われている観点は別途検討が必要
  • 6.2節のILP比較は側面制約1件(重複プロファイルの均衡)のみで行っており、安定結婚問題としての定式化の本質的な利点(論文側・候補者側で異なる評価基準を使い分けられる構造)が、より多様な運用制約(利益相反の除外、査読者の多様性確保など)の下でも成立するかは検証していない
  • 4.4節・6.1節で示した「軸2への明示的な下限制約は不要」という観察は、単一の候補者プール・論文セットによる1回の試行に基づくものであり、異なる規模・分野構成のデータでも同様に成り立つかは追加の検証が必要である

7. Conclusion

本レポートは、LLMによる2軸(興味度・査読可能性)bidding代理採点と、安定結婚問題としての割当定式化を組み合わせた査読者割当手法を提案した。候補者あたりの担当上限が厳格な小規模プールという条件下で、本手法は追加の人手調整をほぼ必要とせず、査読可能性の下限を自然に確保できることを確認した。今後の課題として、より大規模な査読者プールでの検証、不正対策の統合、LLMスコアの妥当性検証(人間のbiddingとの比較)が挙げられる。


References

[1] Reviewer assignment algorithms for peer review automation: A survey. Information Processing and Management, 2022. https://www.sciencedirect.com/science/article/pii/S0306457322001388

[2] Leveraging knowledge graphs and LLMs for content-based reviewer assignment. Journal of Intelligent Information Systems. https://link.springer.com/article/10.1007/s10844-025-01004-9

[3] Leveraging large language models for academic conference organization. npj Digital Medicine, 2025. https://www.nature.com/articles/s41746-025-01492-7

[4] Reviewer assignment problem: A scoping review. https://arxiv.org/pdf/2305.07887

[5] The Ethos of the PEERfect REVIEWer: Scientific Care and Collegial Welfare. https://arxiv.org/pdf/2602.22292

[6] PeerReview4All: Fair and Accurate Reviewer Assignment in Peer Review. Proceedings of the 30th International Conference on Algorithmic Learning Theory, PMLR 98:828-856, 2019. https://arxiv.org/abs/1806.06237

[7] Vulnerability of Text-Matching in ML/AI Conference Reviewer Assignments to Collusions. https://arxiv.org/pdf/2412.06606


付録A: 候補者リストの整形・専門分野キーワードの収集(実装依存の下準備)

本編は「査読者候補リスト(キーワード付き)」が入力として既に揃っている前提で進む。この付録は、その入力をゼロから作る場合の、今回のケースに特有な下準備の記録。所属機関や候補者の集め方が変われば、この部分のやり方は変わりうるが、次回も同種の作業が必要になる可能性が高い

A.1 候補者リストの整形

  1. 貼り付けテキストを氏名(Given/Surname)・メールアドレスに正規化する
    • フォーマットが混在している場合("Given Surname\tEmail" と "Given\tSurname\tEmail")は個別に判定
  2. 重複を検出・削除する(同一メールアドレスで判定。これはメールアドレスという実データ固有の重複チェックであり、4.3節の「キーワードプロファイルの重複チェック」とは別物)
  3. Excel化: Givenname, Surname, Mail Address, Keywords(Keywordsは後段で埋める)

A.2 候補者の専門分野(キーワード)の収集

準備: 所属機関の教員紹介ページのURLを確認する

  • 候補者の大半が特定の機関・学科に所属している場合、まず依頼者本人にその機関の教員紹介ページのURL(分かれば学科一覧ページのURL)を確認する。日本語版・英語版の両方があるか、URLの命名規則(数値IDかどうか等)も合わせて確認できると効率が良い
  • URLが分からない・提示がない場合は、機関名+「教員紹介」「faculty」等で検索して見つける

所属機関の教員紹介ページを使う場合

  • 日本語版と英語版でURLが同一の数値ID体系になっていることが多い(例: .../faculty/cs/633.html.../english/university/faculty/cs/633.html
  • 英語版はローマ字氏名と「Fields of Research」(大分類)が載っている一方、日本語版の方が末尾の「キーワード」欄で細かい専門語が拾えることが多いので、両方を併用する
  • 同じ学科・専攻に多数の候補者が固まっている場合、学科の教員一覧ページを1回取得するだけで多くのURLがまとめて特定できる

それ以外(学外候補者、教員一覧に載っていない学生・ポスドク等)

  • 氏名+所属機関名で直接検索し、researchmap/Google Scholar/研究室ページ等から専門分野・キーワードを収集する
  • 見つからない場合は、共著関係にある教員の研究室に所属している可能性がないか、依頼者本人に確認を求める。近い研究室が分かれば、そのキーワードを暫定値として使うことも検討する。ただし暫定値の流用は、別の候補者と完全に同一のプロファイルを生むので、4.3節の統合スロット方式の対象になることを覚えておく

出力

  • 候補者Excelの Keywords 列に、日本語または英語で簡潔な専門語リストを埋める(この時点で4.3節の重複チェックに進む)

付録B: 試行錯誤の過程で試した方式

本編に採用しなかった、または軸2導入前の過渡期に使っていた方式の記録。同じ轍を踏まない・必要になれば参照するための保存であり、通常は不要。

B.1 埋め込みベクトルによる自動計算

本編のLLM bidding方式にたどり着く前に試し、精度に構造的な限界があり不採用となった方法。

B.1.1 手順(試した内容)

  • 論文側: Title + Keywords + Abstract を結合し、自立語(名詞・固有名詞・動詞・形容詞)のみ抽出して平均プーリング
  • 候補者側: 英訳したキーワードフレーズを平均プーリング(spaCyの en_core_web_md 等、汎用GloVe系ベクトル使用)
  • コサイン類似度を候補者×論文で計算

B.1.2 失敗した具体的な組み合わせ

  • 両側とも最大値プーリング → プロファイルの単語数が多い候補者が、内容に関係なく全論文で1位になる異常が発生
  • 候補者側=平均・論文側=最大値のような、プーリング方式の混在 → コサイン類似度が0付近に潰れて意味をなさなくなる(絶対に避けること)
  • 両側とも平均プーリング(最も安定した組み合わせ)でも、類似度が0.4〜0.9の狭い帯域に圧縮され、「本質的に無関係な論文」を機械的に判別できるほどの解像度が出ない
  • 汎用語("machine learning", "deep learning" 等)をn-gram単位のDFで検出・除去する対策も試したが、効果は限定的だった(除去すると別の語に偏りが移るだけだった)

B.1.3 なぜダメだったか(考察)

  • 汎用の(ドメイン適応していない)単語埋め込みは、AI/CS分野内の細かい専門性の違いを捉える解像度がそもそも低い
  • 候補者プロファイルが数語程度のキーワード列に過ぎず、情報量として少なすぎる
  • 真剣にやるなら、候補者本人の実際の論文(アブストラクト等、最低数本ずつ)を集め、その分野のコーパスでドメイン適応した埋め込み空間を作る必要がある(例: Researcher2Vec的手法、PPMI行列のSVD分解で文書ベクトルと単語ベクトルを同時学習し、研究者ベクトル=本人論文の文書ベクトル平均とする)。これには相応のデータ収集・前処理コストがかかり、キーワード数語からの簡易ベクトル化とは前提が異なる

B.2 関係者バッファ方式・特定ペアの個別先固定

6.1節で述べた通り、正しい2軸データで安定結婚を解けば、これらの手動対応は基本的に不要になる。以下は、軸2導入前の試行錯誤の過程で実際に使っていた手法の記録であり、それでも埋まらない論文が残った場合の最終手段、または運用上どうしても特定の人に読んでほしい場合の参考として残す。

  • 関係者バッファ: 気心の知れた人数名を指定し、本当に無関心・評価不能な論文を優先的に割り当てる。バッファに使う人物の容量(cap)を通常フェーズから差し引くのを忘れないこと。対象論文の特定は主観ではなくスコア分布(下位側とのギャップ)で機械的に決める
  • 個別先固定: ニッチな専門性の候補者(統合スロット等)を、先に「本来最もマッチする論文」に固定してから残りを解くと、全体の最低スコアが底上げされることがある。固定した分の容量は必ず除外すること

B.3 反復バッファ適用方式(収束しないことがある試み)

B.2の関係者バッファを、1回で終わらせず反復的に適用するという拡張も試した。手順は以下の通り:

  1. バッファなしで安定結婚を解く(= assignment_0)
  2. assignment_0 の中で平均スコアが低い下位N件の論文を特定する
  3. その下位N件それぞれに、関係者バッファから1名を割り当てる(バッファの容量は通常フェーズから差し引く)
  4. 残り(バッファで埋まらなかった枠 + それ以外の全論文)を安定結婚で解き直す(= assignment_1)
  5. assignment_1 で再度、下位N件を特定する
  6. 手順2で特定した下位N件の集合と、手順5で特定した下位N件の集合が一致すれば収束、終了
  7. 一致しなければ、assignment_1 を入力として手順3〜6を繰り返す

この方式の問題点: 1箇所をバッファで助けると、それまでその枠を占めていた候補者が別の論文に流れ、別の論文が新たに下位N件に浮上するという「もぐら叩き」が起きやすい。実際に試したところ、下位N件の集合が2つの状態を行き来する周期2の振動に陥り、収束しなかった。

対応: 反復回数の上限(例: 5回)を決めておき、それでも収束しない場合は、各回の結果のうち「バッファを使っていない論文の中での最低スコア」が最も高いものを採用する、というフォールバック評価基準を事前に決めておく。

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?