GPT- 4 到底有多強？

(相關(guān)資料圖)

問世以來，代碼編寫、數(shù)據(jù)分析、圖表生成、執(zhí)行數(shù)學(xué)運算、生成視頻、分析股票市場……都不在話下，讓無數(shù)網(wǎng)友感慨：這是要“逆天”了！

如今， GPT-4 的新功能直逼「內(nèi)容審核」，可以幫助企業(yè)一天完成 6 個月工作量。

與傳統(tǒng)方法相比，GPT-4 內(nèi)容審核的優(yōu)勢

眾所周知，傳統(tǒng)內(nèi)容審核在現(xiàn)階段面臨多種挑戰(zhàn)。

需要人工細(xì)致的審核、對上下文的深刻理解、快速對新用例的適應(yīng)，耗時且挑戰(zhàn)性較大。

傳統(tǒng)內(nèi)容審核的重?fù)?dān)落在「審核人員」身上，給人帶來巨大的精神壓力。

為此，OpenAI 表示， GPT-4 目前正在測試內(nèi)容審核功能，它被用于制定和完善內(nèi)容政策、標(biāo)記內(nèi)容和制定決策。

任何擁有 OpenAI API 訪問權(quán)限的人都可以創(chuàng)建自己的 AI 輔助審核系統(tǒng)。

一方面，可以執(zhí)行內(nèi)容審核任務(wù)， 加速處理內(nèi)容審核等繁重任務(wù)，提高社交媒體公司的工作效率。

另一方面，還能使在線平臺能夠 更快制定新內(nèi)容審核規(guī)則，并完善現(xiàn)有規(guī)則 。

OpenAI 官方稱：“內(nèi)容審核過程本身就很緩慢，GPT-4 的新功能可以幫助審核過程能從 6 個月縮短到幾個小時。”

目前，最新的 GPT-4 相較于傳統(tǒng)的內(nèi)容審核方法，存在以下優(yōu)勢：

提供一致的判斷。 由于內(nèi)容政策不斷發(fā)展并且十分詳細(xì)，GPT-4 的這項新功能能對措辭的細(xì)微差異很敏感，可以立即適應(yīng)政策更新，為用戶提供良好的內(nèi)容體驗。

提高審核的反饋效率。 政策更新的周期漫長，GPT-4 的這項新功能可以將這一過程縮短至幾個小時，從而能夠更快地響應(yīng)新的危害。

減輕審核人員精神負(fù)擔(dān)。 持續(xù)接觸有害、令人反感的內(nèi)容，容易導(dǎo)致審核人員情緒疲憊和心理壓力。為此，GPT-4 的這項新功能能為相關(guān)工作人員思想減負(fù)。

事實上，由 AI 驅(qū)動的審核工具并非什么新鮮事，Meta、YouTube 和 TikTok 等平臺已經(jīng)利用算法來控制有害和非法內(nèi)容。

據(jù) The Verge 往期報道，2020 年時，Meta（前 Facebook） 就明確表示希望 AI 在平臺上承擔(dān)更多的審核職責(zé)。

其審核原理為 ：被認(rèn)為違反公司規(guī)則的帖子（包括從垃圾郵件、含仇恨言的內(nèi)容）會被用戶或機器學(xué)習(xí)過濾器標(biāo)記。隨后，一些明確的案例會自動處理（刪除帖子、阻止帳戶），而其余案例則進入隊列供人工審核員審核。

由此可見， OpenAI 的這槍「內(nèi)容審核」并非首發(fā)。

據(jù)官方消息，這項由 GPT-4 領(lǐng)銜的內(nèi)容審核工作，目前涉及多個工作流程。

首先，公司必須創(chuàng)建一個包含 有害內(nèi)容示例的數(shù)據(jù)集 。

隨后，指示 GPT-4 用 標(biāo)簽標(biāo)記每條有害內(nèi)容 ，并描述其違反審核政策的原因。

最后，通過審查模型生成的標(biāo)簽，以此 發(fā)現(xiàn)問題 。

就目前的情況而言， GPT-4 對于某些缺乏開發(fā)自己的內(nèi)容審核系統(tǒng)資源的小公司，無疑是一個可行的選擇。

歷史里程碑 or 巨大的挑戰(zhàn) ？

當(dāng)然，GPT-4 也并非完美。 新功能雖然前景廣闊，但仍然存在局限性。

在內(nèi)部測試中，OpenAI 將 GPT-4 與人類內(nèi)容審核團隊進行了比較。

結(jié)果顯示， 現(xiàn)階段 GPT-4 表現(xiàn)優(yōu)于接受過“輕度訓(xùn)練”的審核人員，但準(zhǔn)確性不如“經(jīng)驗豐富、訓(xùn)練有素”的審核人員。

值得關(guān)注還有 —— 語言模型的判斷很容易受到訓(xùn)練期間引入模型的不良偏差的影響。特別是誤導(dǎo)性、錯誤性和攻擊性內(nèi)容（不一定是非法的）的灰色區(qū)域給自動化系統(tǒng)帶來了巨大的挑戰(zhàn)。

與 任何 AI 應(yīng)用程序一樣，結(jié)果和輸出需要審核人員參與其中來仔細(xì)監(jiān)控、驗證 和完善。

為此， OpenAI 也強調(diào)，審核的過程不應(yīng)該完全自動化。

事物發(fā)展總是利弊共存，在 OpenAI 曝光的 GPT-4 新功能內(nèi)容審核后，也引發(fā)了許多業(yè)界人士的積極討論。

OpenAI 的產(chǎn)品政策經(jīng)理 Andrea Vallone 認(rèn)為：“在這種情況下，審核人員可以更側(cè)重在對可能有內(nèi)容違規(guī)的極端案例如何做評判，以及怎樣完善內(nèi)容的政策?！贝送?，他也強調(diào)稱：“我始終認(rèn)為， 人類始終參與其中是很重要的。 ”

OpenAI 安全系統(tǒng)負(fù)責(zé)人 Lilian Weng 在接受 Semafor 時表示：“ 這為如何利用 AI 造福社會、解決現(xiàn)實世界的問題，向前邁出了非常好的一步 。”

外媒 Semafor 記者 Reed Albergotti 坦言：“人類實際上不太擅長內(nèi)容審核，因為即使人能夠記住每條規(guī)則，也會不斷有內(nèi)容陷入灰色區(qū)域，無法給出明確的答案。 GPT-4 雖然不是完美的，但避免了人們在工作中整天查看令人不安的內(nèi)容。 ”

對此，你怎么看？

參考鏈接：

/blog/using-gpt-4-for-content-moderation

/2023/8/15/23833406/openai-gpt-4-content-moderation-ai-meta

/article/08/15/2023/can-chatgpt-become-a-content-moderator#room-for-disagreement

關(guān)鍵詞：