脳が木を叩く方法、またはニューラルネットワークを使用して推奨システムを作成した方法

推薦システムをどのように作りますか？ 多くの人々はすぐに、どのようにインポートしてスタックするかを把握していました。 XGBoost CatBoost。 最初は同じ画像が頭に現れましたが、多くの時間があったので、誇大宣伝をきっかけにニューラルネットワークで行うことにしました。 それらの作成、テスト、結果、および私たちの考えの経験を以下に説明します。

問題の声明

私たちのタスクは、会社が提供するサービスを使用するためのオファーを送信する必要がある人を選択するモデルを作成することでした。 以前は、これは決定的な森でした。 「全能の」ニューラルネットワークでこれを行うことにし、同時にそれらがどのように機能し、本当に複雑かどうかを理解しました。 主題分野を研究した後、私たちの焦点はいくつかのアーキテクチャにありました。

興味のあるアーキテクチャ

さらに、何かの名前をクリックすると、記事にアクセスすることができます。

1. CNN
   主に画像処理に使用されるアーキテクチャ。
   それが何であり、どのように機能するかは、 こことここで読むことができます 。
   データを圧縮し、トランザクション（非常にまばらなテーブルの形式で提示された）の依存関係を強調するために、LSTMの前に別々に配置することにしました。
   それ自体、以下で説明するLSTMと組み合わせた場合よりもうまく機能しませんでしたが、トレーニングを大幅に加速し、品質を改善しました。

1次元のconv 1Dコアを持つ畳み込みネットワークを使用しました。

1. Lstm
   これは、リカレントニューラルネットワークの一般的なアーキテクチャであり、時系列、テキスト、分類のパターンを見つける、重要なパターンを記憶する、無関係なパターンを忘れるといった問題によく現れています。

彼女のデバイスについて非常に詳細で理解しやすいことをここに書いています 。
タスクでは2つのLSTMレイヤーを使用し、各レイヤーには128個のニューロンがありました。
上記のアーキテクチャに基づいて、3つのモデルの動作を評価しました。

• この記事では 3つのネットワークを比較し、最良の結果（FCN）を示したネットワークを取り上げました。 著者は、このアーキテクチャが時系列を分類するための優れたベースラインであると主張しています。 要するに、3つのブロックで構成され、それぞれが最初にCNN-> BN（ バッチ正規化 ）-> ReLUアクティベーションに進みます。 その後、グローバルな平均プーリングが行われます。
• この記事のアーキテクチャ。 NLPの典型的なアプローチは、単語をベクトル（埋め込み）として表現することですが、著者は（ワンホットエンコード方式を使用して）文字をエンコードしようとしましたが、かなりうまくいきました。 同様の方法で問題を解決しました。 すなわち 私たちにとって、言葉はカテゴリーであり、テキストはユーザーの購入履歴です。 アーキテクチャ自体の形式は次のとおりです：（CNN-> MaxPooling）x3-> Flatten->（Dense-> Dropout）x2-> Softmax。
• さまざまなブログ（ このようなもの ）を読んだ後、次のアーキテクチャを試すというアイデアが浮上しました。Conv1D-> Max Pooling-> LSTMx2->（Dense-> Dropout）x2-> Softmax。

1. 因数分解
   マトリックスを想像してください。各行はユーザーであり、各列はユーザ​​ーが評価できるアイテムです。 位置（i、j）の行列の値は、i番目のユーザーからj番目のサブジェクトの推定値です。 ここで、数学的装置を使用して、このマトリックスを2つのマトリックス（ユーザー、フィーチャー）（フィーチャー、オブジェクト）の積として表します。 ここで、機能は強調するいくつかの兆候です。 ここで、ユーザー行にオブジェクト列をスカラーで乗算すると、このユーザーがこのオブジェクトをどれだけ気に入っているかを示す数値が得られます。
   因数分解のためのライブラリ：
   lightfm
   libfm

   
   
2. ペアワイズ
   
   • 協調フィルタリングは、過去の行動や評価が類似している場合、将来的に類似するという仮定に基づいた予測方法です。

ユーザーの外部（明示的な）行動、ユーザー自身が何かを評価する（Netflix）、および行動が一致する暗黙の（暗黙の）法律（この場合は同様のトランザクションシーケンスを持つ）の両方に基づくことができます。

この記事のアプローチは、協調フィルタリングに基づいており、明示的パターンと暗黙的パターンの両方を考慮しています。 アーキテクチャはニューラルネットワークに基づいており、要素のペアごとにユーザーの好みを調査します。これらのオブジェクトの表現を考慮し、その前に構築され、行列の行Us（ユーザーx機能）、It（アイテムx機能）に格納されます
行列分解との類推によって。 ユーザー向けにネットワークをトレーニングする際に、2つの被験者が選択されます。2人の被験者に対して、彼が推定値を与え、マトリックスUsとItの対応する行を切り取り、接続し、ネットワークに送ります。 損失関数は2つの部分で構成されます。最初の部分は、ニューラルネットワーク自体の出力での損失を担当し、2番目は、トレーニングネットワークに供給されたベクトルのスカラー積も現実に対応するという事実を担当します。 たとえば、item_1はitem_2よりも優れていると言います。つまり、出力ニューラルネットワークはゼロより大きい数を与え、対応するベクトルのスカラー積は正でなければなりません。 したがって、因子分解はこのニューラルネットワークを使用して行われます。 さらに、ユーザーごとにアイテムの順序が線形であると仮定し、この仮定に基づいて特定のユーザーのすべてのアイテムをランク付けします。

私たちは何をしましたか？ ユーザーがより頻繁に支払いを行い、この前提に基づいてこのアーキテクチャを使用した場合、category_1はcategory_2よりも優れていると述べました。

データについて少し

QIWIは、ユーザーの購入履歴を含むデータセットと、ユーザーが何を購入するように推奨されているか、および15日間にわたって推奨事項に従ったかどうかに関する情報を提供しました。 購入履歴を調べて、彼が購入する可能性が高い製品を予測しました。 製品のごく一部のカテゴリにのみ興味がありました（合計で5つあります）。 したがって、関心のあるカテゴリについて、 それらに依存するすべておよびすべての習慣に該当する True True、False Positive、True Negative、False Negativeを測定することができました。

また、データのバランスが非常に悪く、ほとんどすべてのトランザクションが興味のないカテゴリに分類されていたため、この問題が発生しました。

作業進捗

ここでは、さまざまなテストにおけるモデルの動作と品質について説明します。
さまざまなモデルがさまざまなデータセットでどのように機能するかを一貫して説明します。

Lstm
最初は、少量のデータ、約1万2,000ユーザーのトランザクション履歴を取得し、次の購入のカテゴリを予測しようとしました。 そして、これが上記のアーキテクチャの仕組みです。

• 以下は、「裸の」LSTM（LSTM-> Softmax）のスケジュールです。 トレーニングでは、テストで約9,000人のユーザーがいました-3700 。

あなたが見ることができるように、彼女は非常に再訓練されています。 テストデータで次の品質指標が得られました。 精度：0.447。 MRR：0.576 しかし、彼らは速度がかなり良いことを見たとき、彼らは私たちのモデルが彼が基本的に購入したものをユーザーに予測する可能性が高いと考えました。 これを行うために、トランザクションの履歴に予測カテゴリが存在しない人々のアルゴリズムの品質をチェックしました（ 以下、特別なテスト ）。 テストにはそのような人はあまりいませんでした（約500人）。 彼らは次の結果を得ました： 精度：0.037; MRR：0.205 そのような人々では、速度が著しく悪化することが判明しました。

しかし、私たちは絶望せず、LSTMでさまざまなオプションを試した結果、このアーキテクチャに到達しました：Conv1D-> Max Pooling-> LSTM（rec dropout）x2->（Dense-> Dropout）x2-> Softmax。 仕組みは次のとおりです。

絵ははるかに良いです。 ネットワークはそれほど再訓練されていません。 テストの速度を見ます： 精度：0.391; MRR：0.534 結果は、以前のネットワークよりもわずかに悪いです。 しかし、結論に急がず、特別なテストを見てみましょう。 精度：0.150。 MRR：0.312 特別なテストのおかげで、このモデルはデータ内のパターンをより適切に見つけることがわかります。 このアーキテクチャを覚えておいてください、それはまだ私たちにとって有用です。

• 次に、CNNに基づいた次の2つのアーキテクチャのパフォーマンスを評価しました。
  前の段落と同じデータで、FCNとChar CNNが起動されました（デバイスについては上記で説明しました）。 学習成果：

グラフは再トレーニングを示していますが、単純なLSTMほど強くはありません。 テスト結果は次のとおりです。 精度：0.529 MRR：0.668 。 特別なテスト： 精度：0.014; MRR：0.217 Char CNNの仕事をすぐに見てください。ただし、時代は少ないです。

ここで、ネットワークははるかに高速に再トレーニングされ、テストでは良好な結果が得られますが、特別なテストによれば、複雑なパターンの学習が不十分であることがわかります。
テスト：精度：0.543; MRR：0.689 ;
特別なテスト：精度：0.0098; MRR：0.214

ペアワイズ
まず、記事に従ってモデルを作成しました。
Pytorchでやった。 これは、あまり一般的ではないニューラルネットワークを作成する場合に非常に便利なフレームワークです。 最近、メールからの彼の説明を含む記事がありました 。

まず、movielens データセットの著者とほぼ同じNDCG品質を達成しました。

その後、私たちはそれをデータに戻しました。 データを2つの「一時的な部分」に分割しました。
ニューラルネットワークの入力で、各カテゴリの各個人の合計のこのカテゴリに対する支払いの割合をベクトルとして適用しました。 したがって、データは非常に容量が多く、LSTMの数時間に比べて、ビデオカードで約30分間、LSTMよりも何倍も速く勉強しました。
品質を見てみましょう。
300,000人のユーザー向け。 メトリックは、興味のあるクラスだけでなく、すべてのクラスについて測定されます。
| NDCG @ 5：0.46 | 精度@ 3：0.62 |
これらの指標は、サンプル（使用するユーザー）とは異なり、7％以内に変化します。
現在、数百万人のユーザーを持つ大規模なデータセット。
すべてのクラスで勉強し、興味のあるクラスのみをランク付けします。
ユーザーが次に支払うクラスを予測した場合、答えは正しいと見なされます。
写真は次のようなものです。

因数分解（lightfm）。
500,000人のユーザーとPairwiseで使用し、各カテゴリーのユーザーごとにこのカテゴリーでの支払いの割合を表しました。
すべてがトレーニンググラフから表​​示されます（反復回数未満）。

前の段落から、2つの結論を出すことができます。

1. 私たちのタスクは、ランク付けよりも分類によって解決されます。
2. マルチクラスAUCは特定のものであり、どのように考慮されるかを常に監視する必要があります。

結果

さらにテストを行った結果、CNN + LSTMが他よりも優れていると判断しました。
大規模なデータセットを取得し、必要な5つのクラスがどの程度予測されるかを観察しました。
トレーニングには500万人のユーザーが、テストには140万人のユーザーがいました。 学習速度を上げるために（そして速度を上げる必要がありました）、分類の中間品質を測定しなかったため、トレーニングスケジュールは:(になりません。

変換（精度）に関心があります。 このメトリックは、このカテゴリの推奨が送信された人の総数のうち、このカテゴリの製品を購入した人の割合を示します。 このメトリックの良好なパフォーマンスは、ネットワークが正常に機能することを意味するものではないことは明らかです。推奨されることはほとんどなく、高い変換を達成できるからです。 全体像を見るために、True Positive、False Positive、True Negative、False Negativeを見てみましょう。

4つの要素がある表の下には、次の意味があります。

Num-このクラスに本当に属している人の数

グレード1 ：

グレード2 ：

グレード3 ：

グレード4 ：

グレード5 ：

5つのクラスのみを見ているため、「その他」クラスを追加する必要があります。当然、他のクラスよりも多くのクラスがあります。

クラス6（その他） ：

ネットワークは、ユーザーが今後15日間に支払うクラスを、他のクラスよりも数倍少ないクラス（クラス3と比較したクラス1など）でも非常によく予測します。

前のアルゴリズムとの比較。

同じデータの比較テストでは、このアルゴリズムが決定的な森林に基づく以前のアルゴリズムよりも数倍高い変換を提供することが示されました。

まとめ

私たちの記事からいくつかの結論を引き出すことができます。
1）CNNとLSTMは時系列の推奨に使用できます。
2）少数のクラスの場合、ランク付けよりも分類問題を解決する方が適切です。

ニューラルネットワークは興味深いトピックですが、時間がかかり、予期せぬ驚きをもたらす可能性があります。
たとえば、PyTorchでの最初のペアワイズモデルは、エラー関数のどこかでコードが豊富であるため、勾配の伝播を遮断したため、最初の1週間はうまく機能しませんでした。

最後に、自己紹介をしてください。

左から右：Akhmedkhan（ @Ahan ）、Nikolai、Ivan（ @VProv ）。 IvanとAkhmedkhanはモスクワ工科大学の学生であり、インターンシップを完了しています。一方、ニコライはQIWIで働いています。
ご清聴ありがとうございました！