More than 3 years have passed since last update.

Temporal-Contextual Recommendation in Real-Time

Last updated at 2021-03-10Posted at 2021-03-10

2020年の Knowledge Discovery and Data Mining conference (KDD) の Applied Data Science track (≠ Research track) でベストペーパー賞を取った論文。AWS AI Labsのメンバーらによる著作。Amazon Web Services (AWS) が提供しているAmazon Personalizeというサービスではコアアルゴリズムのひとつとして実装されている。

どんな論文か

商品や作品などのアイテムの推薦システムとして使うモデル Hierarchical Recurrent Network with meta data (HRNN-meta) を提案
- 1つのレイヤーでセッション内のdynamicsをモデルし、もう片方のレイヤーでセッション外のdynamicsを捉える
- ユーザーやアイテムのメタデータを利用
- エンコードしたフィードバック情報を特徴に含めることでimplicit negativeに対処
ネガティブサンプリングを用いた効率的なトレーニング

HRNN-metaはAWSにサービスとしてデプロイされており誰でも利用可能。

先行研究と比べてどこがすごいのか

HRNN自体は Personalizing Session-based Recommendations with Hierarchical Recurrent Neural Networks で提案されたもの。画期的なアイデアというよりも先行研究の組み合わせにオリジナルの改善を足すことでSOTAを実現したという印象。

技術や手法のキモはどこか

推薦システムの目的はユーザーにとってちょうどいいタイミングでほしいアイテムを提供すること。典型的には以下の二つの情報を利用。

user-item interaction histories (クリック・評価・視聴時間)
user / item features (年齢・性別・ジャンル・価格)
- メタデータという言葉が出てきたらこちらを指す

(出典: https://www.youtube.com/watch?v=M7FqgXySKYk )

工夫1. Hierarchical Recurrent Neural Network (HRNN)

古典的な 行列分解 の手法ではインタラクションイベントのタイミングや順序を考慮できず、ユーザーの嗜好の変化に対応できない。イベントの時間的順序や傾向をモデリングするために Recurrent Neural Network (RNN) を用いた。RNN にも vanilla RNN や LSTM など様々な種類があるが、ここでは特にメモリ効率の良い Gated Recurrent Unit (GRU) を採用している。インタラクションの履歴をもとに、あるユーザーがあるアイテムと "interact" する確率を予測する。

インタラクションの履歴は数百ステップを超えるような場合もあるため、勾配消失によって学習が効率的に進まない。そこで、単純に履歴をすべて concatenate するのではなく、ウェブページなどの閲覧セッションごとに入力データを区切る。GRU 自体も、セッション内のユーザーの行動をモデリングするための session-level GRU (GRU_ses) と、セッション外でユーザーの長期的な興味の変遷をモデリングするための user-level GRU (GRU_usr) の2つを組み合わせる。これを Hierarchical GRU (HGRU) と呼ぶ。（より一般には HRNN と呼ぶ。）

まず、最初のセッションの履歴情報で session-level GRU を計算。

(出典: https://www.youtube.com/watch?v=M7FqgXySKYk )

セッションの終わりの session-level GRU の隠れ状態 $s_m$ を入力して user-level GRU を更新。

(出典: https://www.youtube.com/watch?v=M7FqgXySKYk )

user-level GRU の隠れ状態を入力して session-level GRU を初期化。次のセッションのデータで計算。

(出典: https://www.youtube.com/watch?v=M7FqgXySKYk )

工夫2. Feedback Encoding

上記スライド (先行研究の解説動画より引用) ではアイテムIDを入力としていた。本論文ではユーザーのメタデータおよびフィードバック情報も concatenate している。

ユーザーのメタデータ
- user features (年齢など)
- user dynamic features (デバイス、言語など)
フィードバック情報
- ひとつ前のアイテムに対するインタラクション (評価、購入数、価格、閲覧時間など)

特にフィードバック情報により暗黙的なネガティブ (クリックせずにスルー、クリックしたけど短時間だけ見てやめる、など) への反応がよくなった。

工夫3. アイテム情報も利用

HRNN のデコーダーでは j 番目のアイテムのスコアを $$\phi_j(\mathbf{h_k})=(\mathbf{w}^\top_j\mathbf{h}_k+b_j)$$ のように計算する。これに加えて、アイテムの特徴ベクトル $\mathbf{f}_j$ の埋め込み表現を重みとみなした場合の計算 $$\phi^\prime_j(\mathbf{h_k},,\mathbf{f}_j)=(\mathbf{w}(\mathbf{f}_j)^\top\mathbf{h}_k+b(\mathbf{f}_j))$$ も並行して行う。これの重み付き和 $$\tilde{\phi_j}(\mathbf{h_k})=(1-\lambda)\phi_j(\mathbf{h_k})+\lambda\phi^\prime_j(\mathbf{h_k,,\mathbf{f}_j})$$ をアイテム j のスコアとする。ただし、$0\le\lambda\le 1$はミキシングパラメーターで、訓練時にはランダムの値とする。推論時に $\lambda=1$ とすればメタデータに基づいたコールドスタートの推論を行うことができる。

工夫4. Negative Sampling

アイテム数が10万を超えるような状況下ですべてのユーザーとアイテムのペアでスコアを計算してソフトマックスを取るのは非効率。Negative Samplingを利用して計算量を減らした。

どうやって有効だと検証したか

実験に利用したデータセットは以下のもの。

MovieLens (映画の評価)
Youchoose (ECサイト)
Reddit (掲示板)
Outbrain (広告)
Taobao (ECサイト)

Meta-Data Models

MovieLens (ml-20m) を用いてメタデータありなしの perplexity (PPL) の違いをチェック。ml-20m は 20 million interactions, 131 263 items, 138 493 unique users を含む。ここでのアイテムメタデータは映画のジャンル情報、フィードバックは映画の評価 (星の数) に対応。