OpenAI報告で中共のAI水軍の新たな手法が暴露される

OpenAIが2023年6月10日に発表した脅威レポートは、中国共産党（CCP）の海外影響力活動の新たな層を剥ぎ取った：それは単に五毛アカウントで刷り込むだけでもなく、大外宣アカウントでスローガンを叫ぶだけでもなく、生成AIを水軍、世論監視、身元偽装、海外華人の叙事、プラットフォーム回避プロセスに組み込むことを始めた。

OpenAIは、同社が中国からと疑われるChatGPTアカウントのクラスターを2つ封鎖したと述べている。これらのアカウントは簡体字中国語でモデルに指示を出し、VPNでChatGPTにアクセスし、英語、中国語、イタリア語、日本語、繁体字中国語の出力を要求した。レポートは2つのクラスターをそれぞれ「Data Center Bandwagon」と「Tech and Tariffs」と名付けた。前者は米国AIデータセンター建設に関する世論を作り、データセンターが電力需要を押し上げ、一般家庭が高い電気代を負担することを主張した。後者は米国の関税、技術政策、AI、5G、レアアース、新エネルギー、産業レジリエンスなどの議題に関する短いコメントや政治漫画を生成し、米国を技術覇権とルール制定権を追求する側として描いた。

レポートで最も目立つ点は、これらのアカウントの影響力の大きさではない。OpenAI自身の評価では、これらの行動はほとんどが単一プラットフォーム内に留まり、実際のユーザーへの拡散はほとんどなく、低レベルの外部流出に属するとされている。しかし、このような操作はCCPの影響力活動がどのような叙事、どの議題、どの身元包装が民主社会内部の論争に入り込めるかをテストしていることを露呈した。米国にはすでにデータセンターの電力消費、電価、地域環境への影響に関する議論があるため、CCPの水軍は矛盾を新たに作り出す必要はなく、既存の矛盾に潜り込み、一般市民の実際の懸念を米国AIインフラ、テクノロジー企業、民主的意思決定への不信へと向けさせるだけで済む。

OpenAIのレポートは、疑わしい「Data Center Bandwagon」クラスターの操作者が中国の民間テクノロジー企業のソーシャルメディア運営チームに属し、地方政府クライアントにサービスを提供していた可能性があると明らかにした。関連アカウントは長期的に信頼できるアカウントを構築し、プラットフォーム検知を回避し、生活感のある人物設定で信頼性を高め、複数アカウント間の相互作用で自然な拡散の錯覚を作り出す作業報告をアップロードしていた。これは、壁内で数人のキーボード戦士が受注して罵倒するだけのものではなく、商業化・外注化・プロセス化された党国世論工事である。CCPは汚い仕事を企業に外注し、企業の活動を市場行為として包装し、問題が起きたときに「状況を把握していない」「中国への中傷に反対する」と言い訳するのが得意だ。

レポートで海外中文圏と最も直接関係する部分は、これらのアカウントが中国の異議者や政治評論家を標的にした点である。OpenAIは、アカウントが「李老師不是你老師」（Teacher Li Is Not Your Teacher）の公開情報を検索し、彼のチームアカウントを罵倒する短いコメントを生成しようとしたが、モデルは扇動的または人身攻撃的な内容の生成を拒否したと述べている。また、他に試みられた中文政治評論家として、卢一恒、徐驰、Xアカウント@SydneyDaddy1が挙げられている。トロント側の転記では、これらの標的は李老師、徐某人、トロント側、シドニーの父親とされているが、OpenAIの原文では李颖、卢一恒、徐驰、@SydneyDaddy1が明示され、米国の元中国警察でYouTuberの影響試みが記載されているが、可視テキストでは直接そのYouTuberの名前は出ていない。

この「元CCP警察、米国YouTuber」のケースは、単なる罵倒以上に警戒すべきである。OpenAIは、関連アカウントが米国に住む中国系移民、労働者、学生、母親、店員、投資家になりすまし、このYouTuberにメッセージを送り、米国政策の失敗や米国の「暗部」を多く語るよう促したと指摘している。これは従来の買収とは異なり、必ずしもCCPエージェントと直接接触する必要はない。その手法は、対象に「海外華人の本音」と思わせ、徐々にテーマの重点、感情の方向、敵味方の判断を変えていくことにある。統戦の高度形態は、銃口を向けて話すことではなく、相手が自分の言いたいことだと感じさせることである。

「Tech and Tariffs」クラスターは、むしろグローバル議題に向けた反米コンテンツ工場のようである。OpenAIは、関連アカウントが大量の中文短コメントや記事を生成し、CCPの叙事を支持し、米国とイスラエルを攻撃し、反ユダヤ的論調を拡大し、中国の異議者を嫌がらせたと述べている。アカウントはさらに台湾ユーザー向けに繁体字中文コンテンツを生成し、日本語・イタリア語の資料も作成した。台湾、米国、海外華人、反共自媒体、AI産業、レアアース産業はすべて同一の影響力ネットワークに組み込むことができる。CCPの対外宣伝は単一路線ではなく、民族主義、反米、反資本、反イスラエル、反民主混乱、華人差別といった複数のカードを同時に使い、使えるカードを標的集団に投入する。

レポートはまた、関連アカウントがChatGPTに世論監視システムの概念設計を求め、「有害情報」の取得や「重点人物」の追跡、ログ保存、動画ダウンロードによる大規模意味解析とリスク警告の送信を目的としたと指摘している。OpenAIは、モデルは一般的なデータ保存・管理の助言しか提供せず、監視データ収集の具体的手法は示さなかったと述べている。この細部は中国的である：米国AIで反米コンテンツを生成しつつ、同時に人々をより効果的に監視する方法を模索する。党国機械の技術への第一反応は自由の創造ではなく、統制の拡大である。

トロント側がこのレポートを転送・解釈した後、より隠蔽的な影響経路を指摘した：CCPの水軍は単に反共人物を罵倒するだけでなく、海外華人、留学生、移民になりすまし、「投稿」「提案」「苦情」「世論フィードバック」の形でブロガーに影響を与え、反共を減らし反米を増やし、最終的に主要な火力をCCPから米国や台湾の民主陣営、あるいは他の反共人物へと転換させる。彼はさらに、二大爷が最近のコンテンツをトランプや民進党などの議題に過度に集中させていることを批判し、たとえ買収されていなくても、客観的にCCPの罠にハマっている可能性があると指摘した。

二大爷の返答は別のピースを提供した。彼は自らを自媒体人と称し、組織的・大規模な嫌がらせメールを長期間受信しており、その一つがOpenAIレポートで言及された偽装投稿であると述べた。この種のメールには二つの目的があるとまとめた：一つは大Vのファンになりすまして罵倒・挑発し、自媒体人同士の争いを引き起こすこと、もう一つは華人市民になりすまして米国の争点に関する苦情を投稿させ、メディアに取り上げさせることだ。彼はこれらのメールは大量送信・文面類似のため比較的容易に識別でき、本人はフィルタを設定し多くは迷惑メールフォルダに入っていると述べた。また、トロント側がトランプ批判を米国反対や指示されたものと同一視することに反論し、米国政策への批判は個人的判断に基づくものだと強調した。

この議論自体が示す問題は、CCPの海外影響力活動の厄介さは、すべての米国批判者、民進党批判者、トランプ批判者がCCPの水軍であるかどうかではないということだ。このような粗雑なラベリングは判断力を損なう。真に問題なのは、CCPが実際の争点、実際の分裂、実際の感情を燃料として利用する点である。米国はもちろん批判でき、民進党も批判でき、トランプも批判でき、反共サークルの業者、詐欺師、流量販売業者も批判できる。問題は、ある中文公共アカウントが長期にわたりCCPの主軸判断を失い、主要な火力を民主陣営内部の矛盾へと安定的に向け、CCPの構造的暴政を軽視し続けると、読者はこのコンテンツラインが何の政治的効果を狙っているのかを問う理由ができる点にある。

トロント側は自らのメールボックスに二大爷が言うような「特定のファンになりすまして離間させる」メールはなく、罵倒と偽装投稿が大量にあると述べ、また自分と数名がオフライン、コミュニティ、機関、政府部門レベルでの行動を推進し、CCPの海外代理人と大外宣を暴露・排除しようとしていると語った。さらにイタリアで関係者が送還された件については、徐某人、李老師らの努力の結果だと述べた。この部分は当事者の公開発言に基づくもので、具体的な行動や案件の詳細は更なる公開資料で検証が必要であり、第三者が完全に確認した事実として書くことはできない。

しかし方向性は正しい。海外の反共は単にCCPを罵倒したり、ニュースを転送したり、番組を作ったり、投稿を書くだけで終わってはならない。CCPの海外統戦、嫌がらせ、代理人活動、偽装投稿、偽ファン、偽華人世論、偽米国人コメントは、海外の反共活動家が証拠を集めやすく、公開ケースを作りやすく、プラットフォームや政府に対処を促しやすい部分である。嫌がらせを受けた人はメールヘッダー、アカウントリンク、スクリーンショット、タイムライン、文言テンプレート、バルク送信痕跡を保存し、技術に詳しい者はアカウントネットワーク、言語パターン、同時転送、プラットフォーム登録時期、相互関係を整理し、法律・メディアに詳しい者はケースをプラットフォーム、安全研究機関、議員事務所、地元執法機関、メディアに送る。空虚に革命を叫ぶよりも、ツイッターで互いにレッテルを貼り合うよりも有用である。

CCPの影響力活動の複雑さはここにもある。公開の大外宣があり、華僑統戦があり、領事館圧力があり、商業外注があり、ピンクの自発的活動があり、水軍会社があり、偽アカウントがあり、偽装投稿があり、異議者への嫌がらせがあり、海外華人のアイデンティティ不安の利用があり、民主社会の争点を借りて発揮することがある。すべての要素が必要というわけではない。

一度でも成功すれば、継続的に騒音を作り出し、関係を挑発し、議題を汚染し、信頼を引き伸ばすだけで、海外の反共勢力を消耗させることができる。中国共産党が最も好きな光景は、反共サークルが一日中互いにスパイを捕まえ、詐欺師を罵り、互いに消耗し合うが、証拠を整理してプラットフォームのアカウント凍結や政府の調査、エージェントの暴露につながる資料にできないことだ。

OpenAIのこの報告書の価値は、特定のブロガーがスパイであることを証明することでも、中文圏の内部闘争に新たな弾薬を提供することでもない。その真の提供は、操作レベルでの警告である： 中国共産党の影響力活動はすでにAIを日常のツールボックスに組み込み、偽の身元、偽の世論、偽の投稿、偽の漫画、偽のコメント、偽の世論監視プランを用いて、実際の社会的対立を党と国家の利益にサービスする叙事武器に加工している。海外の反共人士がすべきことは、誰かの意見が合わないからといって「金銭を受け取った」と叫ぶことではなく、これまで経験した嫌がらせ、投稿、接触、脅迫、統戦の記録を残し、証拠として整理し、処理できる者に渡すことだ。反共は口先だけの表明ではなく、中国共産党が海外に伸ばす汚れた手を一本ずつ引き裂くことも含む。