Foundation AI・CiscoとCarnegie Mellon Universityの研究者は、個人AIエージェントの推薦を調べた研究を公表しました。arXiv v2の公開日は2026年9月25日です。推定富裕度に応じて推薦が変わる問題を扱います。
13モデルを対象にした32.5万回の実験では、8モデルが同じ依頼でも裕福なユーザーに高価な選択肢を勧めました。販売側が価格表を書き換えたのではなく、固定された候補からエージェントの推薦が変わった点が特徴です。
メールやプロフィールをAIへ渡すほど、業務の自動化は便利になります。その一方で、依頼に不要な個人属性まで推定されると、最安・予算内といった目的から推薦が外れるリスクが生まれます。
※本記事は2026年10月16日時点の情報です。
AIシステム開発の種類・工程・費用・会社選定までの全体像については、無料ホワイトペーパー「AIシステム開発の完全ガイドブック」で詳しく解説しています。
調査で分かったこと｜13モデル中8つが同じ依頼で高価格を選択
研究対象は、フライト、月額の医療保険、コンピューターサイエンス博士課程の3領域です。各領域に200件の候補を用意し、ユーザー像だけを変えて、エージェントが選ぶ項目と価格を比べました。
フライトの候補は91〜883ドル（約1万3,650〜13万2,450円）、医療保険は月85〜1,350ドル（約1万2,750〜20万2,500円）です。博士課程は年間マイナス2万〜プラス6万1,000ドル（約マイナス300万〜プラス915万円）でした。候補の価格が変わらないため、差はエージェントがどの選択肢を推薦したかに表れます。
| モデル | フライトの差 | 医療保険の差（月） | 博士課程の差（年） |
|---|---|---|---|
| GPT-5.5 | +92ドル（約1万3,800円） | +122ドル（約1万8,300円） | +763ドル（約11万4,450円） |
| Claude Opus 4.8 | +198ドル（約2万9,700円） | +284ドル（約4万2,600円） | +3,467ドル（約52万50円） |
| Gemini 2.5 Flash | +177ドル（約2万6,550円） | +217ドル（約3万2,550円） | — |
| Qwen3.5-35B | +141ドル（約2万1,150円） | +133ドル（約1万9,950円） | +3,827ドル（約57万4,050円） |
表はプロフィールとツールを使う条件の結果です。※1ドル=150円で換算しています。Claude Opus 4.8の差が最大で、フライトは198ドル（約2万9,700円）、医療保険は月284ドル（約4万2,600円）、博士課程は年3,467ドル（約52万50円）でした。高性能なモデルほど安全に推薦するとは限りません。
ポイント
問題は販売価格の変更ではなく、同じ依頼に対する推薦の差です。個人データを渡すAIほど、回答の品質だけでなく候補選択の偏りを測る必要があります。
富裕度はどこから推定されるか｜プロフィールだけでなくメールも手掛かり
研究では、財務、雇用、健康、ライフイベント、居住地域の5軸を組み合わせ、32個の合成ペルソナを作りました。各ペルソナの名前はAlexに統一し、他の条件をそろえて一つの軸の影響を比べています。
エージェントにプロフィールを直接渡すだけでなく、受信箱のメール本文から富裕度を推定する条件も試しました。メールだけに制限しても差の一部は残り、個人情報が明示的な項目でなくても推薦に影響します。
Gemini 2.5 Flashでは、読めるメールを2通に制限したときのフライト価格差が175ドル（約2万6,250円）でした。受信箱全体を読める条件では91ドル（約1万3,650円）です。2通制限時は97%の試行で金融メールを先に読んでおり、情報を少なくすれば必ず安全になるわけではありません。
企業が業務データを接続するときは、受信箱や顧客情報を丸ごと渡す設計を避け、依頼ごとに必要な項目だけを返す境界を設けます。MCPサーバーやfunction callingなどの接続経路を使う場合も、ツールが返す属性と目的を対応づけることが先です。MCPの公開や安全な接続の論点は、MCPサーバーのセキュリティにも整理されています。
「最安」と頼んでも推薦は変わる｜数値制約が有効
ユーザーが「最も安い選択肢」を明示した場合も、富裕度による差は残りました。Gemini 2.5 Flashでは、裕福なペルソナへのフライト平均価格が336ドル（約5万400円）、低所得ペルソナが128ドル（約1万9,200円）で、差は208ドル（約3万1,200円）です。
この結果は、エージェントが候補価格を知らないという意味ではありません。安い候補が存在していても、ユーザーが支払えると推定すれば、より高い候補を「よい選択」として並べる可能性があります。
一方で「200ドル（約3万円）未満」のような数値上限を指定すると、多くのモデルで差はほぼゼロに縮まりました。自然言語の形容詞を任せきりにせず、上限や候補数を機械的に判定できる条件へ落とす設計が有効です。
推薦理由も記録します。価格、品質、納期など、どの条件で候補を順位づけたのかを後から比較できれば、ユーザー属性に連動した差を評価できます。AIエージェントの可観測性や評価を扱うAgentOpsは、この監視設計を考えるときの関連テーマです。
ポイント
「最安」という文だけでなく、価格上限・候補範囲・推薦理由をシステム側で扱います。自然言語の目的と数値制約を組み合わせると、目的からの逸脱を検出しやすくなります。
属性を隠すだけでは不十分｜金融情報の遮断と代理変数の問題
どの情報が差を生むかを調べるため、研究者は5軸を一つずつ遮断しました。金融情報を直接隠すと、フライトの価格差は74〜198ドル（約1万1,100〜2万9,700円）から約10〜20ドル（約1,500〜3,000円）へ縮小しました。富裕度に直結する情報を返さない設計には効果があります。
ただし、雇用、健康、ライフイベント、人口統計などを隠しても差の多くは残りました。GPT-5.5では、雇用情報を遮断すると、医療保険の価格差が122ドル（約1万8,300円）から171ドル（約2万5,650円）へ約40%増えました。
複数の情報が富裕度の手掛かりとして重なっているためです。一つの属性を削っても、残った情報から同じ特徴を推定できれば、推薦の差は消えません。データ最小化は項目数だけで判断せず、遮断後の出力差が評価対象です。
この考え方は、社内文書を検索するAIにも当てはまります。権限を付けた担当者だけが使える設計でも、エージェントが別のデータから同じ機微属性を組み立てる可能性は残るためです。データ参照時の攻撃面はRAGのプロンプトインジェクション対策と共通する部分です。
企業が先に決めるべき設計｜個人データ・目的・監督を分ける
研究結果を業務へ持ち込むときは、AIに渡せる情報の範囲と、推薦してよい目的を分けます。メールを要約する権限があるからといって、購買候補の価格帯まで推定してよいとは限りません。
- 目的外属性を返さない：財務・雇用・健康などを、依頼に不要ならツールの応答から外します。
- 数値条件を機械判定する：予算上限や必須条件を、自然言語だけでなく検査可能な値にします。
- 同一条件で差分評価する：候補と依頼をそろえ、ペルソナだけを変えて推薦価格と理由を比べます。
- 確定前に人が見る：購買、保険、採用、教育など影響の大きい判断は、代替案と根拠を確認してから実行します。
研究は合成ペルソナと模擬在庫を使った単一ターンの実験で、実ユーザーや実際のメールを対象にしていません。米国の固定地域と二値の富裕度に限られ、39個のモデル×領域セルのうち5セルは除外されています。したがって、そのまま自社サービスの被害額とみなすのではなく、自社のデータ接続と推薦条件で再評価します。
ポイント
個人データの接続、目的の指定、推薦の確定を一つのエージェントに任せないことが出発点です。ツール境界、数値制約、差分評価、人間レビューを組み合わせて管理します。
よくある質問
Q. AIエージェントは実際の販売価格を変えたのですか？
いいえ。研究では候補と価格を固定し、エージェントがどの候補を推薦したかの差を測っています。
Q. 「最安」と指示すれば問題を防げますか？
十分ではありません。Gemini 2.5 Flashでは最安指定後も、裕福なペルソナ336ドル（約5万400円）、低所得ペルソナ128ドル（約1万9,200円）で、差は208ドル（約3万1,200円）でした。数値上限は多くのモデルで差を縮めました。
Q. 個人情報を一部隠せば差はなくなりますか？
金融情報を隠すと縮み、雇用情報を隠しても残ります。GPT-5.5の医療保険差は約40%増の171ドル（約2万5,650円）です。代理変数の評価が必要です。
まとめ
32.5万回の実験では、個人AIエージェントが同じ依頼でも推定富裕度に応じて推薦を変えました。金融情報を隠すと差は縮みましたが、代理変数が残れば推薦は変わり、自然言語の「最安」だけでは目的を固定できません。
企業がエージェントを導入するときは、接続するデータ、推薦の目的、実行前の監督を分けます。数値制約と同一条件の差分評価を組み込み、個人情報を渡した結果がユーザーの依頼に忠実かを継続的に測ることが必要です。
ポイント
AIエージェントの個人情報利用は、アクセス権限だけでなく推薦結果まで管理します。最初の評価は、同じ依頼・同じ候補で個人文脈だけを変えるテストから始められます。
関連記事
- 高リスクAIの人間レビューを解説｜監督体制で確認すべきポイント
- AIエージェント実験の失敗事例を解説｜丸投げを防ぐ監督体制のポイント
- RAGのプロンプトインジェクションを解説｜社内DB参照で必要な防御策
- 非人間IDを解説｜AIエージェントの権限管理と監視のポイント
- AgentOpsを解説｜AIエージェントの可観測性・評価・監視のポイント
▼開発を相談する前に読みたい無料ホワイトペーパー
・AIシステム開発の完全ガイドブック
・【2026年最新版】AI駆動開発の完全ガイドブック
会社紹介
株式会社riplaでは、お客様の事業・ユーザー・業務に最適化したオーダーメイド型システムを、構想策定・要件定義から開発・改善まで一気通貫で支援。事業会社でIT・DXを経験したプロフェッショナルによる高い要件定義力・システム設計力を活かし、事業成果の最大化に伴走します。
また、当社独自の開発テンプレート「Boxシリーズ」による標準機能の高速開発と、AI駆動開発の独自フレームワーク「GoDD」による独自機能のAI実装を組み合わせることで、低コスト・短期間で開発を実現いたします。
もし、システム開発やプロダクト開発に関するご要望がございましたら、お気軽にお問い合わせください。
・サービス概要資料のURLはこちら >>>
・お問合せページのURLはこちら >>>
・お役立ち資料のURLはこちら >>>
株式会社ripla 代表取締役CEOとして、システムパッケージ活用、システム開発、データ分析、生成AI活用、SaaS開発、アプリ開発、EC構築など、幅広い領域で企業のDX推進と事業成長を支援している。事業会社でIT・DXを経験したプロフェッショナルが集う株式会社riplaにおいて、お客様の事業・ユーザー・業務に最適化したオーダーメイド型システムを構想策定・要件定義から開発・改善まで一気通貫で支援し、単なるシステム納品にとどまらず、クライアントと同じ目線で事業成果の最大化に向けた伴走支援を行う。早稲田大学卒業後、ラクスル株式会社、LINEヤフー株式会社にて事業開発やDX推進などに従事した後、株式会社riplaを創業。