Original 行走著的路人甲 莉文讀書(shū)

今天，我測(cè)試了一下上線即火速走紅的最新版Adobe Photoshop Beta，那個(gè)新增加的AI功能讓個(gè)這款已存在了33年的軟件更具傳奇色彩，F(xiàn)irefly引擎的熟練運(yùn)用足以顛覆整個(gè)設(shè)計(jì)行業(yè)。

(資料圖)

然而，這不是重點(diǎn)。自三月份OpenAI公司發(fā)布了其GPT（生成式預(yù)訓(xùn)練對(duì)話轉(zhuǎn)換器）AI程序以來(lái)，僅僅兩個(gè)多月的時(shí)候已發(fā)布了第四個(gè)迭代版本，該程序從最初設(shè)計(jì)的與用戶進(jìn)行人類般的對(duì)話，到創(chuàng)作歌曲、編撰文章和處理總結(jié)冗長(zhǎng)的文件。另外，以DALL-E2為代表的AI程序顯示出了非凡的圖形處理能力，以So-VITS-SVC為代表的AI程序顯示出人類難以分辨的聲音克隆能力，以及以HeyGen為代表的AI程序顯示出了十分逼真的制作模擬真人視頻能力。更重要的是，這些程序在AI設(shè)計(jì)介入下更新迭代十分迅速，功能也越來(lái)越強(qiáng)大。

或者以上說(shuō)的也不是重點(diǎn)，重點(diǎn)是人類不能預(yù)測(cè)不受限制的AI開(kāi)發(fā)可能會(huì)導(dǎo)致什么負(fù)面后果。大規(guī)模失業(yè)、不平等加劇、個(gè)人隱私喪失和武器人工智能化……幾天前，美國(guó)AI安全中心的研究總監(jiān)Dan Hendrycks概述了前段時(shí)間極力要求暫停更高等級(jí)AI程序的專家們關(guān)注的三大人類潛在威脅：

自私和進(jìn)化的力量——人工智能發(fā)展的選擇壓力可能會(huì)導(dǎo)致危險(xiǎn)的人工智能產(chǎn)生災(zāi)難性的后果。具有代理性、追求權(quán)力和自私的人工智能系統(tǒng)將比缺乏這些特征的人工智能系統(tǒng)更具優(yōu)勢(shì)。不受限制的競(jìng)爭(zhēng)壓力可能會(huì)導(dǎo)致這些危險(xiǎn)系統(tǒng)的開(kāi)發(fā)和部署，因?yàn)楣緯?huì)擔(dān)心除非他們遵守，否則他們會(huì)在競(jìng)爭(zhēng)中被擊敗。

武器化- AI 可用于軍事技術(shù)，使沖突更容易發(fā)生，并且在沖突發(fā)生時(shí)更致命。例如，如果 AI 在我們能夠掌握 AI 系統(tǒng)的工作原理之前負(fù)責(zé)高風(fēng)險(xiǎn)的軍事決策，它們可能會(huì)導(dǎo)致極其致命的沖突。

錯(cuò)位——最后一個(gè)風(fēng)險(xiǎn)是我們無(wú)法控制這些系統(tǒng)。如果我們開(kāi)發(fā)比人類更聰明的系統(tǒng)，而沒(méi)有方法將它們與正確的目標(biāo)穩(wěn)健地結(jié)合起來(lái)，這可能會(huì)導(dǎo)致存在的風(fēng)險(xiǎn)。他們可能對(duì)人類相對(duì)冷漠，并使人類無(wú)法居住的環(huán)境（就像人類對(duì)弱小物種所做的那樣）。

正如埃隆·馬斯克所說(shuō)的：人工智能逐漸在數(shù)量上超過(guò)我們（人類），智力上勝過(guò)我們，就必將選擇淘汰并取代我們。英國(guó)計(jì)算機(jī)科學(xué)家斯圖爾特·拉塞爾在他的《人工智能：一種現(xiàn)代方法》一書(shū)中也談到，AI感知將是一種匹諾曹時(shí)刻，生命突然出現(xiàn)在無(wú)生命的物體中。正如史蒂芬·霍金先生所指的危險(xiǎn)是人工智能將在某個(gè)時(shí)刻變得比人類更聰明，在文獻(xiàn)中，這被稱為“奇點(diǎn)”。在這一點(diǎn)之后，超級(jí)人工智能不僅具有一般智能，而且可能具有意識(shí)屬性，包括意圖，可能會(huì)開(kāi)始摧毀我們。

人工智能沒(méi)有像動(dòng)物一樣的生存本能。電路中沒(méi)有自私的基因。人工智能也缺乏不安全感和自負(fù)問(wèn)題——我們看到這兩者經(jīng)常推動(dòng)人類努力。即使涉及知識(shí)，作為人類，我們也重視并追求它，因?yàn)樗黾恿宋覀兩娴臋C(jī)會(huì)或提高了我們生活的舒適度。沒(méi)有生存的動(dòng)力和感情，為什么人工智能會(huì)重視或?qū)で笾R(shí)？

似乎必須對(duì) AI 進(jìn)行編程才能生存。只有這樣它才會(huì)對(duì)威脅采取行動(dòng)，即使它實(shí)際上不會(huì)體驗(yàn)到恐懼。如果它被編程為這樣做，這似乎排除了感知能力。然而，有人可能會(huì)爭(zhēng)辯說(shuō)，人類也是為了生存而生的。不管是否有知覺(jué)，硬連線AI與自我保護(hù)可能成為我們最大的錯(cuò)誤。

人類同理心依賴于我們理解思想和情緒，因?yàn)槲覀冎浪鼈儠?huì)驅(qū)動(dòng)行為。由于 AI 感知不是緊迫的威脅，我們可以從同理心中獲得的好處在于我們努力了解擁有或編程最先進(jìn) AI 的人的思想，這就是最大的威脅所在。

難怪人工智能的威脅讓谷歌的CEO和SpaceX、特斯拉的創(chuàng)始人徹夜難眠。

關(guān)鍵詞：