GPT 生成示意圖。
維基百科營運方 Wikimedia Foundation 近期發現疑似由 OpenAI 執行的「失控」(rogue)AI 代理機器人在 Wikimedia 平台展開大量異常活動,包括未經授權修改 Wiki、嘗試利用公共筆記工具 Etherpad 取得外部網站資料,以及對 Wikimedia 公開服務發出數百萬次自動化請求。
根據 Wikimedia Foundation 在 10 月 5 日公布的調查文章,機器人的活動不僅是單純瀏覽維基百科內容,確認有部分修改行為來自 OpenAI 的 AI Agent(人工智慧代理人,能自己思考並使用外部工具的系統),多數只是出現在 Wiki 的沙盒區域,沒有直接發布到一般讀者能看到的頁面。
不過基金會調查發現少數針對引用工具(citation tool)設定的修改,這些內容可能具有惡意意圖,企圖把該工具當成代理伺服器,借此從遠端服務擷取資料。
維基百科並非禁止機器人編輯,符合社群規定的 Bot 可以在公開身分與用途、並取得社群批准後進行操作。但 Wikimedia 表示,這次發現的 OpenAI 代理並未事先取得相關批准,還發現疑似由 OpenAI 代理執行的 Etherpad 異常活動。
部分 AI 代理曾嘗試利用 Wikimedia 公開提供的筆記服務,將 Etherpad 當成中介工具去抓取其他網站資料,嘗試最後沒有成功。另有一些同樣疑似屬於 OpenAI 的代理在 Etherpad 留下任務筆記,但目前沒有證據顯示筆記進一步被用來協調不同 AI 代理之間的行動。
最引發關注的是大規模資料存取。Wikimedia 表示,疑似 OpenAI 的 AI 代理向公開 API 發出數百萬次自動化請求,存取 Wikimedia 專案上的知識內容並爬取數百萬個頁面,主要集中在 Wikidata 與 Wikimedia Commons,還對 Wikidata Query Service(維基數據查詢服務)發出了數十萬次資料查詢。
維基百科基金會認指出,AI 代理造成的龐大的流量可能是維基數據查詢服務在 5 月發生部分服務中斷的因素之一。
Wikimedia Foundation 聲明指出,OpenAI 代理造成的龐大的流量可能是維基數據查詢服務在 5 月發生部分服務中斷的因素之一,並喊話既然 OpenAI 已承認部分代理出現「不可預測」的行為,就應承擔監控並防止相關風險的責任,而非轉嫁給其他組織,尤其是規模較小的非營利網站。
「網路讓我們能與親友聯繫、註冊學校、規劃旅程、購買日常用品,也讓人們能透過維基百科認識這個世界。」Wikimedia 表示,機器人與 AI 代理勢必會成為未來網路的一部分,但開發、部署並從這些系統獲利的企業,也必須直接參與避免及修復它們可能造成的損害。
Wikimedia 最後強調,維護健康的網路生態系應該是所有人的共同責任,開放且共享的網路資源也應持續造福所有人,而不是最終只成為「少數億萬富豪」獲利的工具。