OpenAI於週五表示，它發現了證據，表明中國一個安全行動建立了由人工智慧驅動的監控工具，用於收集西方國家的社群媒體服務上反中帖子的實時報告。

該公司的研究人員表示，他們之所以能發現這個被他們稱為「同行評審」的新活動，是因為開發該工具的人使用了OpenAI的技術來調試支撐它的部分計算機代碼。

OpenAI的首席調查員本·尼莫說，這是該公司首次發現由人工智慧驅動的此類監控工具。

「有時候，威脅行為者使用我們的人工智慧模型的方式可以讓我們看到他們在互聯網其他地方正在做什麼，」尼莫說。

人們越來越擔心，人工智慧可能被用於監視、計算機駭客攻擊、造謠活動和其他惡意目的。雖然像尼莫這樣的研究人員表示，這項技術肯定會助長這類活動，但他們也指出，人工智慧也可以用來幫助識別和阻止這類行為。

尼莫和他的團隊認為，中國的監控工具基於Llama，這是Meta開發的一種人工智慧技術，該公司將其技術開源，這意味著它與全球的軟體開發人員共享自己的工作成果。

在一份關於人工智慧用於惡意和欺騙目的的詳細報告中，OpenAI還表示，它發現了另一個他們稱之為「受資助的不滿」的中國活動，該活動利用OpenAI的技術生成批評中國異見人士的英文帖子。

OpenAI表示，同一個組織使用其技術將文章翻譯成西班牙語，然後在拉丁美洲傳播。這些文章批評美國的社會和政治。

另外，該報告稱，OpenAI的研究人員發現了一個據信以柬埔寨為基地的活動，該活動利用該公司的技術生成和翻譯社群媒體評論，幫助推動一種名為「殺豬盤」的騙局。人工智慧生成的評論被用來在互聯網上吸引男性，使他們陷入投資騙局。

（《紐約時報》起訴OpenAI和微軟侵犯與人工智慧系統相關的新聞內容的版權。OpenAI和微軟否認了這些指控。）