OpenAI、ChatGPT悪用のカンボジア拠点詐欺組織を検出・停止

OpenAIは2026年8月4日、ChatGPTChatGPTOpenAIが開発した対話型の生成AIサービス。自然な文章で質問や指示を入力すると、要約・文章作成・アイデア出し・翻訳・プログラミングなど幅広い業務を支援する。経営者にとっては、社内の業務効率化やAI活用の第一歩として導入検討の対象になりやすいツール。詳しく見る →を悪用してカンボジアを拠点に活動していた詐欺組織のアカウントを検出し、停止したと発表した。投資詐欺・恋愛詐欺・ギャンブル・なりすましなどの手口を支援していたとされ、AIの悪用実態と対策の一端を示す事例として注目される。

何が起きたのか

OpenAIの発表によると、同社はChatGPTを不正利用していたカンボジア拠点の犯罪組織に関連するアカウントを特定し、利用を停止した。同社は、この組織が投資詐欺、恋愛詐欺(ロマンス詐欺)、ギャンブル、なりすましなど複数の詐欺スキームを展開する目的でChatGPTを使っていたとしている。

OpenAIは近年、AIの悪用事例を定期的に調査・公表しており、今回もその一連の取り組みの一環と位置づけられる。詐欺組織は、被害者との会話文面の作成や翻訳、説得的なメッセージの生成などにAIを利用していたとみられるが、具体的な被害額や関与人数など詳細の一部は現時点では明らかになっていない。

同社は、こうした悪用を検出する仕組みを整え、関連アカウントの停止措置を継続的に講じているとしている。なお、これらは同社の発表に基づく内容であり、第三者による独立した検証結果ではない。

経営者が押さえるべきポイント

第一に、生成AI生成AI(Generative AI)生成AIとは、テキスト・画像・音声・コードなどのコンテンツを人間の指示(プロンプト)に応じて新しく生み出すAIの総称です。大量のデータから学習したパターンをもとに、質問への回答や文章作成、要約、翻訳などを自動で行います。ClaudeやChatGPT、Geminiが代表例です。詳しく見る →が詐欺・なりすましなどの犯罪に悪用されるリスクが現実のものとして進行している点だ。自社ブランドや役員をかたる巧妙ななりすまし、取引先を装った詐欺メールなどが、AIによって精度と量を増す可能性がある。

第二に、AI提供事業者側の監視・対策体制の重要性である。OpenAIのような主要事業者が悪用検出と停止に取り組んでいることは、利用サービスの選定時に評価すべき観点の一つとなる。

第三に、日本企業への影響として、社内外のセキュリティ教育や本人確認プロセスの見直しが挙げられる。AIを使った詐欺は言語の壁を越えやすく、日本語での被害も想定しておくべきだ。

悪用対策や具体的な防御策の導入にあたっては、セキュリティや法務の専門家に相談することを推奨する。現時点で自社への直接的な被害が確認されていない場合でも、リスク認識を持つ意義は大きい。