ChatGPTの開発元であるOpenAIは2月27日、監視や世論操作などの悪質な活動に同社の技術を使用している疑いのある北朝鮮ユーザーのアカウントを禁止し削除したと発表した。 OpenAIは報告書の中で、これらの活動は権威主義体制がAI技術を利用して米国とその国民を支配する手段であると指摘した。同社は、こうした悪意ある操作を検出するためにAIツールを使用していると付け加えた。 OpenAIは、禁止されたアカウントの正確な数や、その措置が行われた期間を明らかにしなかった。 あるケースでは、北朝鮮と関係があると思われる悪意のある人物が、AI を利用して偽の求職者の履歴書やオンライン プロフィールを作成し、欧米企業の職に不正に応募する目的で使用しました。さらに、カンボジアの金融詐欺に関連していると疑われる ChatGPT アカウントが多数存在し、これらは OpenAI の技術を使用して、ソーシャルメディアやコミュニケーション プラットフォーム (X や Facebook を含む) 上のコメントを翻訳および生成しています。