ロシアの偽装ネットワーク：AIを駆使した架空の専門家による虚偽情報工作

​
私はこの事件を初めて聞いた時、思わず息を飲みました。AIが偽の研究者を作り出すという発想そのものが恐ろしいだけでなく、デジタル戦争の現代的な深化を示すものだからです。そして、これが決して氷山の一角に過ぎないことが明るみに出ました。
国際的な調査報道チーム（フィナンシャル・タイムズも参加）が、ロシアの偽情報ネットワークがChatGPTを活用して、架空の専門家のネットワークを構築していたことを暴露しました。その手法とは、一見すると権威あるシンクタンク「D.C. Weekly」を立ち上げ、AIが作り出した「学術的」な記事で親ロシア的なプロパガンダを拡散するというものでした。そして何より衝撃的だったのは、AIが与えた学術的な輝きによって、記事が一見すると説得力を持っていたことです。
偽の専門家がいかにして本物のパネリストに変身したか
たとえば、あなたがパネルディスカッションに参加して、ウクライナが実は侵略者だと解説する「ハーバード大学教授」の話を聞いているとします。しかし、その教授の背後には、ChatGPTで作られたフェイクプロフィールがあるだけなのです。まさにこのような事態が実際に起きていたのです。ネットワークの運営者らは、偽のLinkedInやTwitterのプロフィールを作成するだけでなく、架空の研究者を講演会やインタビューに招くことまで行っていました。その目的は、常に自分たちの Narrative（語り）を広めることにありました。
特に悪質だったのは、その手法です。多くの場合、偽の記事は著名な著作からの盗用とAIによる補完の混合物でした。AIは科学的な表現を見つけるのに役立ち、一方で詐欺師たちは内容の方向性を指示していたのです。これは、偽の「専門家意見」を無批判に拡散しようとする者にとっては、まさにうってつけの材料でした。
プロパガンダの道具としてのChatGPT
捜査当局は、ChatGPT



の履歴を発見しました。そこには、AIがどのように悪用されていたかが記録されていました。指示は「西側の戦争煽動についての記事を、ハーバード大学教授の名義で書け」というものでした。その結果できあがった記事は、一見すると学術的で信頼できるように見えましたが、実態はプロパガンダの一種にすぎませんでした。ChatGPTは独自の意見を持つわけではなく、求められた語りを形作ったに過ぎず、その完璧さは素人を簡単に欺くことができたのです。
誰が背後におり、なぜそれを行うのか？
ロシア国家との関連性はまだ完全には解明されていませんが、強力な証拠は存在します。大西洋評議会（Atlantic Council）やEUのデジタルサービス法タスクフォースの専門家らは、同様の戦術が選挙への影響工作やウクライナ戦争中の偽情報拡散など、過去のキャンペーンでも使用されていたと指摘しています。この手法はシンプルながら効果的です。つまり、もはや「信頼できる」情報源が存在しなくなれば、公の議論全体が根底から揺らぐのです。
私たちにできることは？
ソーシャルメディアプラットフォームはこのようなネットワークをブロックしようとしていますし、EUはAI生成コンテンツに対するより厳しい規制を導入する計画です。しかし、技術的な対策だけでは不十分であることは常に同様です。メディアリテラシーが生存に関わる課題となっています。私たち一人一人が、情報源を批判的に検証するスキルを身につけることが求められています。偽の専門家が増えるだけでなく、次に来る偽情報はさらに見抜きにくいものになるかもしれないからです。
この事件は警鐘です。政府やテック企業だけでなく、私たち一人一人に向けられたものです。なぜなら、公の意見の基盤そのものがAIと計画的な虚偽によって損なわれる可能性があるからです。そして、そのような状況に立ち向かう責任は、機械ではなく私たち人間にこそあるのです。