
生成式 AI 平台 ChatGPT 在設計上為了確保道德與社會安全性,鎖定了絕大多數的敏感內容,讓其無法用來進行某些限制級的功能,不過平台的開發公司 OpenAI 卻宣布,將會導入成人驗證機制,以應對預計接下來 12 月推出的成人模式。
OpenAI 創辦人兼執行長 Sam Altman 在社群網站 X 上發文,公司為了確保心理健康問題,設下了許多限制,雖然對於一般心智狀態正常的用戶不公平,但基於潛在的後果嚴重性,使其必須審慎對待。
現在,公司已經具備緩解嚴重心理健康問題的的工具,故決定放寬相關限制。在幾週後推出的新版 ChatGPT 會導入更多大量個性化特色,並在 12 月更全面的導入年齡限制,對經過驗證的成年人,開放更多內容,例如「情色內容(erotica)」。
目前名面上,主要指標性的 AI 平台對於色情內容處理都比較保守或含蓄,那怕是限制比較寬鬆的 Grok AI,也不敢直接在這部分大肆宣傳,部分內容的產出也需要一點技巧,才能避開 AI 的審查機制。
因此 OpenAI 的執行長直接宣布將開放有關成人向內容,無疑是對業界的震撼彈,這不只是讓無數老司機用戶們感到興 / 性奮外,也將大幅度影響各家 AI 平台對於自身道德審與功能上的評估,勢必對大眾 AI 領域的應用構成關鍵影響。