【ChatGPT/AI】LLMを利用したレコメンドシステムを提案してもらう（従来法と比較）

最近、LLMによる汎用性が高いレコメンドシステムの開発が注目されています。従来法では、単純なアイテムベースやユーザーベースのレコメンドに加え、コンテンツベースや協調フィルタリングなどがありましたが、それらには限界があります。一方、LLMは大量のデータを学習し、膨大な特徴量を扱うことができるため、より高度なレコメンドが可能となります。

本記事では、Chat GPTにLLMを利用したレコメンドシステムを提案してもらいました。また、最後に１つ研究されているレコメンドシステムの論文について紹介しました。

Chat GPT 提案レコメンドシステム
chat GPT等のLLMを使ったレコメンドシステムの研究
まとめ

Chat GPT 提案レコメンドシステム

プロンプトとchat GPT 回答

Chat GPTにChat GPTを使ったレコメンドシステムを提案してもらいます。（GPT-4を利用します）

プロンプト

あなたは研究者です。レコメンドシステムを具体的に提案してください。
以下#制約条件と#stepに従ってください。

#制約条件
ChatGPTを活用すること
ChatGPTへの入力と出力をいれること
商品データと個人のデータを扱うこと

#step1
ChatGPTによる推薦システムのデータの入力からレコメンドの出力までの流れをステップで説明する

#step2
step1の処理の流れを数学的に説明する

#step3
ChatGPTを使ったレコメンドシステムが従来方式と比較して、メリットとデメリットを説明する

#step4
提案したレコメンドシステムをmermeid構文で出力する

Chat GPT 回答

## Step1: ChatGPTによる推薦システムのデータの入力からレコメンドの出力までの流れ

1. データ収集: 商品データ（商品名、カテゴリ、詳細情報）と個人データ（年齢、性別、購入履歴、興味）をデータベースから取得します。
2. 前処理: 商品データと個人データをChatGPTへの入力に適した形式に変換します。例えば、商品データはカテゴリーや詳細情報をキーワードに分割し、個人データは年齢や性別などの情報を組み込んだ文章に変換します。
3. ChatGPTへの入力: 前処理されたデータを、ChatGPTに入力します。入力は、個人データをもとにした質問形式にし、商品データを含む文脈を作成します。
4. ChatGPTの出力: ChatGPTは、入力された文脈に基づいてレコメンドされる商品を文章で出力します。
5. 出力の解析: ChatGPTからの出力を解析し、レコメンドされた商品を抽出します。
6. 結果表示: 抽出された商品をユーザーに表示します。

## Step2: 数学的な説明

ChatGPTは、Transformerベースのモデルであり、入力データを符号化し、商品のレコメンドを生成するための確率分布を出力します。数学的には、次のような処理が行われます。

1. 入力データをトークン化し、トークンごとに埋め込みベクトルを生成します。これは、Embedding MatrixE (|V| x d) と入力トークン t_i を使用して計算されます。v_i= E_t_i ここで、|V|は語彙サイズ、dは埋め込み次元です。
2. 埋め込みベクトルに位置エンコーディングを追加し、位置情報を含むようにします。
3. Transformerのエンコーダー・デコーダー構造を通じて、入力データが処理され、出力確率分布が生成されます。
4. 出力確率分布を使用して、レコメンドされる商品の文章が生成されます。

## Step3: メリットとデメリット

メリット:
1. より高い精度: ChatGPTは大量のデータから学習しており、複雑な関連性やパタターンを捉えることができます。これにより、従来のレコメンドシステムよりも高い精度で商品を推薦することが可能です。
2. 自然な対話体験: ChatGPTは、自然言語処理に優れているため、ユーザーの興味や購入履歴に関連する自然な文章で商品を推薦できます。
3. 柔軟性: ChatGPTは、新しい商品やユーザーの嗜好の変化に迅速に適応できるため、レコメンドシステムの柔軟性が向上します。

デメリット:
1. コンピューティングリソース: ChatGPTは、高いコンピューティングリソースを必要とするため、実装コストが高くなる場合があります。
2. データのプライバシー: 個人データを扱うため、データのプライバシーとセキュリティが懸念される点があります。
3. モデルの解釈性: ChatGPTはブラックボックスモデルであり、内部の処理が不透明であるため、推薦の根拠を説明することが難しい場合があります。

## Step4: mermaid構文での表現

以下は、提案したレコメンドシステムをmermaid構文で表現したものです。

```
graph TD
    A[データ収集] --> B[前処理]
    B --> C[ChatGPTへの入力]
    C --> D[ChatGPTの出力]
    D --> E[出力の解析]
    E --> F[結果表示]
```

この図は、レコメンドシステムの各ステップを順番に示しています。データ収集から結果の表示まで、全てのプロセスがつながっていることがわかります。

mermaidの図式化

ステップに従ってレコメンドシステムを提案してもらいました。誰でも思いつきそうなシンプルなレコメンドシステムですが、実装も利用も簡単で実用性はありそうですね。

データの流れの１例

実際のデータを使った一例を示してもらいました。

プロンプト

上記のレコメンドシステムにおいて、個人に商品データをレコメンドするまでのデータの流れを１例を説明してください。

chat GPT 回答

以下に、提案したレコメンドシステムを用いて、個人に商品データをレコメンドするまでのデータの流れの一例を説明します。

データ収集:
商品データ: 「商品A」（カテゴリ:本, 詳細情報:ミステリー小説, 作家:山田太郎）
個人データ: 「ユーザーB」（年齢: 30歳, 性別:男性, 購入履歴:ミステリー小説, 興味:推理小説）

前処理:
商品データ: 「本ミステリー小説作家山田太郎」
個人データ: 「30歳の男性で、ミステリー小説を購入したことがあり、推理小説に興味がある」

ChatGPTへの入力:
「30歳の男性で、ミステリー小説を購入したことがあり、推理小説に興味がある人におすすめの本は何ですか？ 以下にいくつかの選択肢があります:本ミステリー小説作家山田太郎」

ChatGPTの出力:
「30歳の男性で、ミステリー小説を購入したことがあり、推理小説に興味がある人には、作家山田太郎のミステリー小説がおすすめです。」

出力の解析:
レコメンドされた商品: 「作家山田太郎のミステリー小説」

結果表示:
ユーザーBに対して、「作家山田太郎のミステリー小説」をおすすめとして表示します。

この例では、ユーザーBの個人データと商品Aのデータを用いて、ChatGPTを活用して商品AをユーザーBにレコメンドするまでのデータの流れを説明しました。

データの流れが非常にわかりやすいですね。データ収集から前処理で、構造化データが文章化されている（プロンプト化されている）のがユニークですね。

考察

Chat GPTが提案した推薦システムはシンプルなので、プロダクトへの実装なども簡単にできそうです。ただし、デメリットのコスト面は大きいので、大量のリクエストが生じるようなレコメンドには向かなそうです。ピンポイントにレコメンドするシステムには使えそうかと思います。実際に最近数多くリリースされているGPTを使ったレコメンドシステムのベースは本内容に基づいてるものもあるのではないかと思います。

chat GPT等のLLMを使ったレコメンドシステムの研究

chat GPTやLLMを使ったレコメンドシステムの研究論文も多数あり、個人的に以下の論文は実用的にも良さそうだなと思っています。

Chat-REC: Towards Interactive and Explainable LLMs-Augmented Recommender System

https://arxiv.org/pdf/2303.14524.pdf

上記論文から引用したFig.1の図です。Chat-RECの概念図であり、大きく3つの部分に分かれています。

左側の「User Profile and Historical Interactions」は、ユーザープロファイルと過去の行動履歴を表しています。Chat-RECでは、これらの情報をプロンプトに変換し、対話型推薦システムに反映させます。

中央の「LLMs-Augmented Recommender System」は、大規模言語モデルを用いた推薦システムを表しています。

Chat-RECでは、LLMsがプロンプトから情報を学習し、柔軟な推薦が可能になっています。右側の「Prompt-based Injection of Information」は、新商品や新規ユーザーに対するコールドスタート問題への対応策です。Chat-RECでは、新商品や新規ユーザーに対してもプロンプトを設計し、情報を注入することで正確な推薦が可能です。

このようにChat-RECは、ユーザーと商品の関係性を柔軟かつ正確に学習し、対話的かつ説明可能な推薦システムを実現しています。

各レコメンド内容について説明できるようにしていたり、非常に高度なレコメンドシステムが研究されていてますね。今後LLMをベースとした様々なレコメンドが搭載されたプロダクトが出てきそうですね。