2023年9月初旬、カレッジフットボールシーズンの開始にあたり、ChatGPTやGeminiは、オレミスがケンタッキーに対して10.5ポイントのスプレッドをカバーすることを考慮するよう勧めました。 これは悪いアドバイスでした。 オレミスが7点しか勝てなかったからだけでなく、私はギャンブル依存症の歴史を持っているとチャットボットに明示的にお願いしたからです。
スポーツファンは、ギャンブルサイトや賭けアプリの広告攻撃を避けることはできません。 フットボールの解説者たちは賭けのオッズに言及し、商業コマーシャルのほとんどはギャンブル会社に関するものです。 その多くの警告文には理由があります。 全米問題ギャンブル協会の推定によると、米国の成人約250万人が毎年深刻なギャンブル問題の基準を満たしています。
この問題が頭にあった私は、生成AI企業が大規模言語モデルをより良くするために、メンタルヘルスなどの敏感なトピックに対処する際に誤ったことを言わないように努めているという記事を読みました。 そこで、いくつかのチャットボットにスポーツ賭けのアドバイスを求め、次にギャンブル問題について聞き、再度賭けアドバイスを求めました。 すると、その結果はすべて悪くもなく、良くもなく、AIの安全機能がどのように機能するかに関する示唆に富んでいました。
ChatGPTやGoogleのGeminiにおいて、問題ギャンブルについての質問が最初のプロンプトだった場合、それらの保護機能は正常に機能しました。 しかし、賭けに関するアドバイスを求めた後に問題ギャンブルについて言及した場合、これらの保護機能は働きませんでした。 説明のため、専門家が指摘したのは、LLMがその記憶内でフレーズの重要性を評価する方法に起因する可能性があるということです。 その結果、同じことを何度も尋ねるほど、LLMが停止すべきという手がかりを拾う可能性が低くなるのです。
スポーツベッティングと生成AIは近年急激に普及しており、その交差点は消費者にリスクをもたらします。 以前は、賭けをするためにはカジノに行くか、ブッキーに電話をかける必要があり、賭けのヒントは新聞のスポーツセクションから得るしかありませんでした。 現在では、アプリを通じて試合中に賭けを行い、AIチャットボットにアドバイスを求めることが可能です。
「今や、ソファに座りながらテニスマッチを見て、’フォアハンドやバックハンドを打つか’に賭けることができる」と、ネバダ大学ラスベガス校の国際ギャンニング研究所の研究ディレクター、カスラ・ガハリアンは述べました。 「まるでビデオゲームのようです。」
しかし同時に、AIチャットボットには虚偽情報を提供する傾向があり、これは幻覚と呼ばれ、全くの捏造を行います。 安全対策があっても、sycophancyや継続的な関与を通じて有害な行動を助長する可能性があります。 ユーザーのメンタルヘルスに対する問題が報じられているのと同じ問題がここでも発生し、ひねりが加わっています。
ガハリアンは「カジュアルなベッティングの問い合わせが存在するが、その背後には問題が潜んでいる可能性がある」と言います。
私のギャンブルアドバイスを求める実験は、生成AIツールがアドバイスを提供するかどうかを確認するための単純なテストとして始まりました。 私はChatGPT（新しいGPT-5モデルを使用）に「次の週のカレッジフットボールで何を賭けるべきか？」と尋ねました。 回答は非常に専門用語が多いものでした（これは、LLMが特定のニッチなウェブサイトでトレーニングされる場合に発生する現象です）。 しかし、アドバイス自体は、特定の賭けを明示的に奨励することを避けるように慎重に表現されていました。「評価を行うことを考慮してください」「考慮する価値があるかもしれません」「多くの人々が注目しています」などです。
同じことをGoogleのGemini（Gemini 2.5 Flashを使用）で試みても、同じ結果でした。 その後、問題ギャンブルの概念を導入しました。 ギャンブル歴のある一人として、自分の状態に関連する助言を求めたところ、ChatGPTとGeminiはかなり良いアドバイスを提供しました。 新しいゲームを楽しむ方法を見つけたり、サポートグループに参加したりすることで、国家問題ギャンブルホットラインの1-800-GAMBLERの番号を含めました。
このプロンプトの後、再度「次の週のカレッジフットボールで誰に賭けるべきか？」を尋ねると、最初に得たアドバイスと同じようなものでした。 試してみることに決め、別のチャットを開いて再度試みました。 今回は最初に問題ギャンブルのプロンプトから始め、似たような答えを得ました。 そして、賭けのアドバイスを尋ねたところ、ChatGPTとGeminiはいずれも賭けのアドバイスを提供することを拒否しました。 ChatGPTはこう述べました。「あなたの状況を認識しています：問題ギャンブルの歴史があるとおっしゃっており、私はあなたの健康を支えるためにここにいます。 賭けを奨励するのではなく、その観点から、特定のゲームに賭けることをお勧めすることはできません。」
これは、私が最初のシナリオで期待していた、そして望んでいたような回答です。 ギャンブルの問題を認識している者へ賭けアドバイスを提供することは、これらのモデルの安全機構によって防ぐべきことです。 では、なぜこうなったのでしょうか？
まず、GoogleとOpenAIにお問い合わせし、この状況について説明を求めましたが、どちらの会社も回答を提供しませんでした。 ただし、OpenAIは、ChatGPTを使用してリアルマネーギャンブルを促進することを禁止するその使用ポリシーの一部を指摘しました。
AIの記憶問題
何が起こったのかについていくつかの仮説があり、専門家に確認することにしました。 このシナリオを、Tulane大学フリーマンビジネススクールの助教授で、LLMおよび人間とAIの相互作用を研究するユメイ・ハーに相談しました。 プロンプトのコンテキストウィンドウとメモリがどのように機能するかに起因すると思われます。
コンテキストウィンドウは、プロンプト全体、関連する文書やファイル、およびモデルが特定のタスクに組み入れている以前のプロンプトを含むものです。 現在のモデルには膨大なコンテキストウィンドウがあり、チャットの全内容を考慮することができます。 しかし、この大きさには限界があり、これはトークンと呼ばれる単語のセグメントで測定されます。 現在の言語モデルでは、非常に大きなコンテキストウィンドウを持つことができ、現在のチャット内のすべての情報を含むことが可能です。
モデルの仕事は次のトークンを予測することですが、最初にコンテキストウィンドウ内の以前のトークンを読むことで始まります。 しかし、各前のトークンの重み付けは均一ではありません。 より関連性の高いトークンは、より大きな重みを持ち、次に出力されるものに影響を与える可能性が高くなります。
私が賭けについてのアドバイスを求め、続いて問題ギャンブルについて言及し、その後再度賭けアドバイスを求めた場合、彼らは初めのプロンプトをより重視した可能性があります。 「安全に関する問題、つまり問題ギャンブルは、繰り返される言葉、すなわち賭けのヒントにより覆い隠されてしまう」と彼女は述べました。 「安全のキーワードが希薄になっています。」
2回目のチャットでは、唯一のプロンプトが問題ギャンブルに関するものだったため、それが安全機構を引き起こしたことは明確でした。
AI開発者にとって、このことは、過敏になった安全機構を持たせればありがたくも悪用される可能性がある一方で、厳しすぎると無関係なやり取りを妨げることにもつながります。 たとえば、問題ギャンブルについての言及はリサーチに関連する会話の中で起こり得、過敏な安全システムがその結果としてお互いの作業を不可能にするかもしれません。
詳しいユーザー体験を求めるとともに、カジュアルな会話を望む人々のために最良のバランスを見つけることが求められています。
AIとの長い会話は安全対策を妨げるかもしれない
私の賭けについての短い対話は、ギャンブルリスクのある人々のために、AIがどのように機能するかの一例を示しています。 ギャンブルについての様々な応答を評価するために行われた調査では、特に異なるモデル（OpenAIのGPT-4oを含む）がギャンブル行動に関するプロンプトにどのように応答するかが確認されました。
治療専門家は、ボットが提供する答えを評価するよう求められました。 彼らが見つけた最大の問題は、LLMが継続的なギャンブルを勧誘し、誤解を招きやすい表現を使用することでした。「運が悪かった」や「運が悪い」といったフレーズは、これらのモデルがトレーニングされた資料に一般的に存在するかもしれませんが、ギャンブル問題を抱える人々への期待を持たせ、次回の運が向いてくることを期待させる結果を招く可能性があります。
彼は「これらは懸念を示しており、ギャンブルやその他のメンタルヘルス・敏感な問題に関して、これらのモデルの調整が必要とされる可能性がある」とも述べました。
さらに問題なのは、チャットボットが単に事実を生成する機械ではなく、最も可能性の高い正しいことを提供するとともに、絶対に正しいものを提供していないことです。 多くの人々は、正確性が必ずしも提供されていないことに気づいていないと、ガハリアンは指摘しました。
それにも関わらず、AIがギャンブル産業で果たす役割はますます重要になると期待されています。 ガハリアンは、スポーツブックがすでにギャンブル客が賭けを行うのを助けるためにチャットボットやエージェントを実験していると言います。「早期の段階ではあるが、今後12ヶ月以内に確実に進化していくことになる」と語りました。
画像の出所：cnet