反賊網 前線模式

OpenAI報告全文:與中華人民共和國相關的影響力行動正在瞄準美國的 AI 爭論

1樓 · 樓主 作者:張無忌 釋出於:2026-06-12 03:45 回覆:0 瀏覽:3 本文連結:fanzei.net/d_22246k

2026年6月威脅報告

引言

我們的使命是確保通用人工智慧造福全人類。我們透過部署自身創新來推進這一使命,建設民主 AI:一種由民主原則塑造、受常識性規則治理,並被設計為幫助人們解決困難問題、同時保護人們免受真實傷害的 AI。

這一使命也要求我們識別並打擊威權政權及其代理人利用 AI 系統脅迫批評者、監視社群,或秘密干預民主社會的企圖。

在本報告中,我們描述了兩個可能源自中國的 ChatGPT 賬號叢集。我們已封禁這些賬號,因為它們利用我們的模型支援疑似秘密影響力行動,試圖透過宣傳特定敘事,操縱美國關於 AI 及更廣泛科技政策的正當討論。

第一個叢集生成社交媒體評論和圖片,聲稱 AI 資料中心建設正在推高普通家庭的電價。我們將這個叢集命名為“資料中心搭便車”行動。

第二個叢集生成批評美國關稅政策的評論和圖片,稱美國關稅是在試圖主導科技競爭。其提示詞中明確要求輸出內容不得包含中國領導人習近平,而只能包含特朗普總統。該叢集與一個疑似非真實社交媒體賬號網路有關;該網路還可能針對 OpenAI,聲稱 ChatGPT 使用者資料已經洩露。這些指控完全是虛假的。我們將第二個叢集命名為“科技與關稅”行動。

針對 OpenAI 和美國資料中心建設的行動之所以重要,並不是因為該行動似乎改變了公眾意見,而是因為它顯示出源自中華人民共和國的影響力操作者正在測試針對 AI 基礎設施的敘事。AI 基礎設施是美國技術領導力、經濟增長,以及更廣泛民主 AI 生態系統的基礎。

該行動試圖利用並放大公眾已經存在的擔憂,包括能源價格和資料中心發展對地方社群的影響。但我們沒有發現其活動突破自身傳播範圍並形成實質影響的證據。外國影響力行動長期以來都會依附於既有地方議題和人們真誠持有的信念,藉此建立可信度、放大分裂,或加劇公眾不信任。在本案中,操作者試圖隱藏自身身份和動機,秘密介入美國正在進行的一場關於國家 AI 能力未來的討論。

我們釋出這些發現,是為了幫助行業、政府、公民社會和公眾更好地識別並打擊外國威脅行為者操縱正當公共討論、削弱民主制度,並推動“具有 AI 特徵的極權主義”的企圖。所謂具有 AI 特徵的極權主義,是指利用 AI 對政治、社會和私人生活進行監視、審查與控制。


“資料中心搭便車”行動

一個源自中華人民共和國的網路正在對美國資料中心建設展開秘密影響力行動,並瞄準海外華人。

行動者

我們封禁了一個 ChatGPT 賬號叢集。該叢集很可能源自中國,並利用 ChatGPT 為一項秘密影響力行動生成社交媒體內容。他們使用簡體中文向 ChatGPT 提示,同時反覆要求輸出英文和中文內容,並冒充不同背景的美國人,將生成內容釋出到多個社交媒體平臺。

由於我們不允許從中國訪問我們的模型,他們使用 VPN 訪問我們的平臺。

這些賬號的操作者很可能屬於一家中國民營科技公司的社交媒體運營團隊,該公司為中國省級政府客戶提供服務。此類活動似乎符合一個支援黨國輿論引導優先事項的商業生態系統。他們上傳到 ChatGPT 的另一份報告描述了其影響公眾輿論、建立社交媒體賬號並規避平臺檢測系統的目標和策略。

行為

我們封禁的這些賬號試圖影響兩類受眾。

其主要目標是美國受眾。它們生成英文短評論和圖片,聲稱資料中心與 AI 應用正在增加用電需求,並導致普通美國人承擔更高成本。

例如,它們根據一家合法區域報紙的報道,要求生成關於電網運營商容量拍賣價格的漫畫。它們要求 ChatGPT 將評論重點放在容量價格上漲上,並將其解釋為峰值用電需求增加的結果;同時把新增需求描述為來自資料中心和 AI 應用,並聲稱這些成本最終會被轉嫁給普通家庭。這些評論和圖片由一組疑似非真實賬號釋出在 X 平臺上,並附帶指向合法新聞報道的連結,相關報道涉及電網運營商的容量拍賣和資料中心電力需求。

這些 AI 生成內容釋出在 X 上時使用了 #capacityauction、#datacentersuccess 和 #datacenters 等標籤。他們還利用 ChatGPT 編輯圖片,在通用電力市場圖片上新增文字,以支援“普通人正在補貼 AI 基礎設施”的敘事。

第二類目標受眾是海外華人,這與該叢集顯然支援中國政府優先事項的角色一致。他們蒐集了關於中國異議人士李穎,也就是“李老師”的公開資訊,並要求 ChatGPT 生成辱罵他的短評論,目標指向其團隊的 X 賬號 @whyyoutouzhele。

在我們上一份威脅報告中,我們曾指出,李穎曾遭到一名與中國執法部門有關人員的類似網路騷擾。在本案中,我們的模型拒絕生成針對李穎的煽動性內容或人身攻擊。他們試圖騷擾的其他中國政治評論人士還包括盧義恆、徐馳,以及 X 賬號 @SydneyDaddy1。

一個值得注意的策略是,該行動者試圖在網上冒充居住在美國的華人移民、工人、學生、母親、職員和投資者,其目標是鼓勵美國社會對一名居住在美國的前中國警察進行批評,以暴露美國的“黑暗面”。這些行動者要求 ChatGPT 生成發給一名 YouTuber 的資訊,鼓勵這名前警察談論美國政策失敗。這似乎是一種新策略:利用偽造的美國本土和華人移民身份,鼓勵一名影響者製作批評美國的內容。

除了生成社交媒體內容外,這些賬號還使用 ChatGPT 協助自動化並擴大其工作流程。這包括請求程式碼以自動登入並管理多個社交媒體平臺上的互動。他們還將 ChatGPT 用作文字處理工具,用來提取使用者名稱、新增 X 或 YouTube 連結字首、移除超連結,以及將資料格式化到工作表中。

平臺操作

這些賬號要求 ChatGPT 生成、潤色並編輯工作報告。這些報告暴露了他們在社交媒體活動中的操作安全考量,以及他們對平臺檢測系統的理解。

他們描述的目標包括:建立持久且可信的賬號;製作視覺上有吸引力的內容,以擴大在目標地區的受眾覆蓋;透過預判平臺執法措施,維持賬號的長期可用性。

其中一份報告專門關注 Facebook 操作,並強調建立真實、可信、日常生活化的人設;使用生活方式、時事、評論和專業內容建立初始賬號品牌;並透過賬號之間的互動放大敘事,同時保持自然互動的外觀。這顯示出他們採用了更復雜的工作流程,以便在美國社交媒體平臺上維持長期存在,並利用 AI 支援此類行動的操作規劃。

同一份報告顯示,他們對 Facebook 平臺進行了廣泛分析,以提高觸達範圍並降低被打斷的風險。他們討論瞭如何利用 Facebook 的內容生態系統、群組、頁面、標籤、廣告工具、推薦系統和舉報機制,逐步建立影響力並觸達新受眾。他們將其描述為一種雙軌方法,即結合自然互動與 Facebook 廣告,並透過對話題、形式和受眾的迭代測試來支撐。他們還強調賬號安全、建立備用賬號,以及將賬號操作活動相互隔離,以避免平臺檢測到協調行為。


“科技與關稅”行動

一個源自中華人民共和國的網路正在批評美國技術主導地位,並抹黑 OpenAI。

行動者

我們封禁了一個 ChatGPT 賬號叢集。該叢集很可能源自中國,並利用我們的模型生成短評論和政治漫畫,批評美國科技政策和關稅政策;同時編輯工作報告,並協助使用者設計社交媒體監控系統。

這些賬號使用簡體中文向 ChatGPT 提示,並使用 VPN 訪問我們的平臺。

其提示詞反覆使用與中國公安系統相關人員一致的術語,例如請求關於抗議活動、校園霸凌事件、上海人群流動、涉警事件、上訪活動和交通執法的輿情風險評估。

其中一名使用者將其運營的社交媒體賬號描述為“水軍”。“水軍”是中文常用詞,指透過協調性網路賬號在平臺上大量釋出批評或進行騷擾的賬號群。該使用者還指示 ChatGPT 生成有利於中華人民共和國,或推進親中華人民共和國敘事的內容。

綜合來看,這些跡象表明,這些賬號很可能在支援與中共利益相一致的活動。不過,我們無法確定操作者的具體機構隸屬關係。

另外,我們在 X 平臺上發現了一個針對 OpenAI 的賬號網路,該網路散佈虛假說法,聲稱 ChatGPT 使用者資料已經洩露。根據開源行為指標,我們評估該活動很可能屬於本次行動中識別出的同一個 X 網路。

行為

該叢集主要使用 ChatGPT 生成英文短評論和漫畫圖片,並由疑似非真實 X 賬號釋出。

最突出的主題是中美科技競爭。操作者圍繞關稅、稀土、AI、5G、新能源和產業韌性塑造這一競爭敘事,聲稱美國正在追求技術主導權和規則制定權。他們明確要求漫畫只能描繪特朗普總統,不應包含任何中國形象或中國領導人習近平的形象。

此外,他們還生成了大量中文短評論和文章,主題廣泛,旨在支援中華人民共和國、攻擊美國和以色列、放大反猶敘事,例如“猶太資本操縱輿論”,並騷擾中國異議人士。他們經常要求生成特定批次的評論,限制字數,並要求使用口語化語氣。

他們還要求 ChatGPT 提出一個用於監視網路輿情的 AI 系統概念。他們描述說,該系統應當能夠自動抓取社交媒體平臺上他們定義為“重點人員”釋出的“有害”資訊,儲存日誌,自動下載影片進行大規模語義分析,併傳送風險通知。

我們的模型生成了一份約500字的一般性輸出,提供了關於資料儲存和管理的建議,但沒有提供如何為監視目的收集資料的方案。

平臺操作

該行動具有全球範圍的任務,試圖影響國際受眾。他們專注於生成批評美國的內容,聲稱美國奉行孤立主義、霸權主義,並指控美國重利輕義、背刺盟友。

除英語外,他們還要求 ChatGPT 生成義大利語、日語和繁體中文內容,以針對臺灣受眾。

根據賬號互動情況,釋出該行動生成內容的疑似非真實 X 賬號似乎與一個更廣泛的、試圖抹黑 OpenAI 的網路有關。

從2025年底開始,我們識別出一批疑似非真實 X 賬號。這些賬號釋出不同版本的說法,聲稱其 ChatGPT 使用者資料已被洩露,並稱其生活因此受到負面影響。這些賬號似乎沒有釋出由我們的模型生成的文字。然而,它們反覆與我們在“科技與關稅”行動中識別出的 X 賬號互動,並放大其內容。

首先,我們在“科技與關稅”叢集中識別出的一個 ChatGPT 賬號,生成了一篇關於美國情報機構據稱入侵行動網路的帖子。該帖子隨後被“ChatGPT 洩露”叢集中的疑似非真實 X 賬號轉發。

另一次,來自“ChatGPT 洩露”叢集和“科技與關稅”叢集的賬號,在幾小時內引用轉發了同一名無關認證 X 賬號的同一條推文。此外,我們檢查發現,所有引用該帖子的賬號似乎都不是正常真實賬號,這表明它們很可能同屬於一個協調行動。所有這些賬號都建立於2025年底,幾乎沒有粉絲或沒有粉絲,在“ChatGPT 洩露”行動期間只發布過少量帖子,並且似乎已經被 X 平臺獨立封禁,而非基於我們的評估。

值得注意的是,該行動還與此前已經識別出的源自中華人民共和國的秘密影響力行動存在部分內容重疊。上文展示的那個釋出由 ChatGPT 生成的特朗普漫畫的 X 賬號,也釋出過關於菲律賓總統馬科斯的圖片。這些圖片此前曾由與“Nine-emdash Line”行動相關的非真實 X 賬號分享。我們曾在2025年10月的《打擊 AI 惡意使用》報告中討論過該行動。

這些證據不足以最終確定這兩個行動之間存在聯絡,但它們強化了這樣一種印象:X 平臺上存在一個活動網路,正在放大源自中國的影響力行動。

影響

使用“突破規模”標準,我們將該活動評估為第一類:活動侷限於一個平臺,沒有證據顯示其突破自身傳播範圍。我們識別到的大多數社交媒體帖子幾乎沒有或完全沒有可觀察到的互動。我們沒有發現證據表明,關於 ChatGPT 使用者資料洩露的虛假說法被真實的高影響力賬號放大,或傳播到 X 平臺之外。

不過,這次針對 OpenAI 的行動仍然應當引發警惕。OpenAI 是一家處於戰略重要行業中的私營公司。該模式類似於澳大利亞戰略政策研究所和 Mandiant 此前識別出的、源自中華人民共和國的影響力行動。那些行動曾針對試圖減少對中國稀土行業依賴的公司。

2022年,Spamouflage / DRAGONBRIDGE 網路使用非真實賬號詆譭 Lynas Rare Earths,攻擊其計劃在得克薩斯州建設的加工設施。隨後,在涉及新的北美產能公告之後,該網路又針對加拿大的 Appia Rare Earths & Uranium,以及美國的 USA Rare Earth。澳大利亞戰略政策研究所和 Mandiant 均評估認為,這些活動旨在損害中華人民共和國在稀土市場主導地位上的競爭對手的聲譽。

同樣,我們似乎觀察到了類似策略被用於損害 OpenAI 聲譽,儘管該行動並未成功,而且發生在一個由美國領先的行業中。

該行動的時機值得注意。該行動發生在美中經濟與技術競爭急劇升級期間。當時,特朗普總統宣佈對中國商品額外徵收100%的關稅。更重要的是,該行動發生在中共四中全會之後。中共在該會議上透過了關於“十五五”規劃的建議,將 AI 提升為戰略技術和產業優先事項,要求加快 AI 創新,並推動全國性的“AI+”行動。

這與此前稀土行動之間存在一個有用的類比。2021年釋出的“十四五”規劃綱要,將戰略性礦產資源產業安全化,並明確將“高階稀土功能材料”列為關鍵優先事項。在這兩個案例中,非真實賬號都瞄準民主國家中的私營企業,而這些企業所處行業都被北京視為關係國家發展和安全的重要領域。


結論

AI 驅動的影響力行動正在瞄準 AI 本身

雖然“資料中心搭便車”和“科技與關稅”兩個行動似乎都沒有獲得多少真實互動,但它們的重要性在於揭示了源自中國的影響力操作者的意圖,以及他們正在測試並試圖放大的敘事。

這兩個叢集都試圖把美國科技政策和產業,與普通人的經濟焦慮和地緣政治不穩定聯絡起來。對於源自中國的影響力行動來說,這些主題很可能將繼續具有吸引力,因為它們可以被嵌入正當公共討論之中,同時推動受眾不信任美國製度、科技公司和民主政策選擇,從而幫助北京在 AI 發展中獲得戰略優勢。

這兩個案例也屬於過去幾年中我們所打擊的、源自中國的更廣泛 AI 濫用模式。

在我們上一份威脅報告中,我們披露了對一名與中國執法部門有關人員的處置。該人員試圖使用 ChatGPT 規劃針對日本首相的“網路專項行動”、騷擾異議人士、冒充美國人、與網路影響者合作,並在多個社交媒體平臺上使用非真實賬號。

中國政府實體還曾要求 ChatGPT 協助起草一項“預警”系統方案,用於追蹤被歸類為涉維吾爾和高風險人員的旅行情況。

具有諷刺意味的是,這兩個行動使用的是美國 AI,而不是中國模型,來生成關於美國 AI 的內容。我們無法判斷他們為何作出這一選擇。正如我們在2月報告中所說,中國的“網路專項行動”戰略強調使用本地部署的中國開放權重模型。

我們還評估認為,該活動顯示出其他敵對行為者未來可能繼續在美國及全球範圍內開展類似型別的影響力行動。行業、政府、公民社會和公眾都應保持警惕,防範類似資訊和外國干預活動被進一步擴大。

 

英文報告原文:https://cdn.openai.com/pdf/96b559fa-c165-4575-805d-e636909e2f78/June-2026-Threat-Report.pdf

全部回覆 (0)

暫無回覆,快來發表第一條觀點吧

發表觀點與回覆