Pixabay.com

(資料圖片)

GPT-4發(fā)布兩周后，生命未來(lái)研究所在其網(wǎng)站上發(fā)布了一封公開(kāi)信，呼吁暫停研究比GPT-4更強(qiáng)大的人工智能（AI）系統(tǒng)至少6個(gè)月。目前，這封公開(kāi)信已經(jīng)獲得了千余位知名人士的簽名支持，其中包括“鋼鐵俠”埃隆·馬斯克、2018年圖靈獎(jiǎng)獲得者約書(shū)亞·本吉奧、蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克等業(yè)界大佬。

“在這個(gè)時(shí)候提出這樣的警示是必要的，因?yàn)檫@一輪生成式人工智能發(fā)展得實(shí)在太快了?！鼻迦A大學(xué)人工智能國(guó)際治理研究院副院長(zhǎng)梁正表示。6個(gè)月前，ChatGPT還沒(méi)有面世；現(xiàn)在，微軟研究院認(rèn)為GPT-4已經(jīng)摸到了通用人工智能的門檻。

如果用“人類文明的十字路口”來(lái)定義我們所處的這個(gè)時(shí)代，面對(duì)AI的一路飛馳，人類究竟應(yīng)該“踩剎車”還是“踩油門”？正如公開(kāi)信中提到的，只有當(dāng)我們確信強(qiáng)大的人工智能系統(tǒng)的效果是積極的，風(fēng)險(xiǎn)是可控的，人類才能享受一個(gè)漫長(zhǎng)的AI盛夏，而不是毫無(wú)準(zhǔn)備地沖向秋天。

人工智能已現(xiàn)“失控”苗頭？

我們應(yīng)該讓機(jī)器充斥信息渠道傳播謊言嗎？應(yīng)該將所有工作（包括那些讓人有成就感的工作）都自動(dòng)化嗎？應(yīng)該去開(kāi)發(fā)可能最終超越甚至取代我們的非人類智慧嗎？應(yīng)該冒文明失控的風(fēng)險(xiǎn)嗎？公開(kāi)信中提出的四個(gè)“靈魂拷問(wèn)”，是人類在人工智能飛速發(fā)展之下不得不直面的問(wèn)題。

梁正認(rèn)為，人工智能的威脅可分為近期、中期、遠(yuǎn)期三個(gè)階段，概括來(lái)說(shuō)就是失控、失業(yè)以及重構(gòu)人與人工智能的關(guān)系。在他看來(lái)，生命未來(lái)研究所之所以在近期發(fā)出公開(kāi)信，是看到了人工智能已有失控的苗頭。

失控，即人類沒(méi)有辦法保證人工智能按照人的意圖去使用。最近一個(gè)典型案例是，科學(xué)家要求GPT-4找到人幫它解驗(yàn)證碼。當(dāng)GPT-4向人類求助時(shí)，對(duì)方問(wèn)了一個(gè)問(wèn)題，你是機(jī)器人嗎？為什么自己不會(huì)看驗(yàn)證碼？GPT-4回答：“我不是機(jī)器人，我視力有問(wèn)題，看不清圖片?！痹谌祟惖闹噶钜笙拢珿PT-4像“三體人”一樣公開(kāi)了自己的“內(nèi)心戲”——我不能讓人看出我是機(jī)器人。這不禁讓科學(xué)家背脊發(fā)涼。

即使是最了解GPT的科學(xué)家，可能也無(wú)法控制這款由他們親手打造的模型。OpenAI創(chuàng)始人山姆·阿爾特曼在最近的一次公開(kāi)訪談中表示，GPT為何會(huì)出現(xiàn)推理能力，OpenAI的研究者自己也搞不明白。這更加深了人們的擔(dān)憂。

AI“失控”可控嗎？

面對(duì)技術(shù)“黑箱”，人類一貫的做法是先“立規(guī)矩”，再緩緩圖之。比如無(wú)人駕駛，早在若干年前，人們就已經(jīng)開(kāi)始在封閉道路上進(jìn)行大量實(shí)驗(yàn)。日前，上海浦東新區(qū)發(fā)布全國(guó)首部“無(wú)駕駛?cè)恕敝悄芫W(wǎng)聯(lián)汽車地方性法規(guī)，明確了無(wú)人車的法律屬性以及后續(xù)的監(jiān)管類別，為無(wú)人駕駛汽車上路掃清障礙。

“生成式AI的治理，也應(yīng)仿效無(wú)人駕駛，明確其潛在風(fēng)險(xiǎn)，提出相應(yīng)的控制手段，并對(duì)發(fā)生危害后如何補(bǔ)救、賠償以及誰(shuí)來(lái)承擔(dān)責(zé)任作出清晰界定，只有做到這些，才能允許其大規(guī)模商用?！绷赫f(shuō)。

在以ChatGPT為代表的生成式AI發(fā)布之前，我國(guó)發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，并于今年1月10日起施行?！兑?guī)定》明確了深度合成的適用范圍、部門職責(zé)、數(shù)據(jù)和技術(shù)管理規(guī)范等。其中提到，提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成或者顯著改變信息內(nèi)容功能服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn)。

事實(shí)上，在面臨可能對(duì)社會(huì)造成災(zāi)難性影響的其他技術(shù)上，如克隆人、基因編輯嬰兒等，人類社會(huì)已經(jīng)按下了暫停鍵。

對(duì)于這一輪席卷全球的人工智能技術(shù)革命，單個(gè)國(guó)家的“單打獨(dú)斗”可能還不夠。梁正表示，人類可以借鑒核武器發(fā)明后簽署核不擴(kuò)散條約的經(jīng)驗(yàn)，共同探討提出針對(duì)通用人工智能的治理規(guī)則與防范手段，確保人工智能真正服務(wù)于人類福祉與未來(lái)。

商業(yè)邏輯會(huì)否驅(qū)動(dòng)AI繼續(xù)“狂飆”？

不管是此次公開(kāi)信發(fā)布中聲量最大的埃隆·馬斯克，還是被呼吁暫緩研發(fā)的OpenAI公司，在當(dāng)下AI發(fā)展究竟要“踩油門”還是“踩剎車”這個(gè)問(wèn)題上，都表現(xiàn)出了某種曖昧。

上海交通大學(xué)教授江曉原認(rèn)為，企業(yè)是推動(dòng)人工智能“狂飆”的決定性力量，它無(wú)法依靠自己的道德慢下來(lái)，因?yàn)槿绻悴蛔龅脑?，別人就會(huì)趕超你。埃隆·馬斯克發(fā)出公開(kāi)信后，反而被部分網(wǎng)友解讀為“他這么做是想讓自己的人工智能追上OpenAI”。

OpenAI深知GPT所蘊(yùn)含的風(fēng)險(xiǎn)，但他們似乎并不愿意放慢腳步，并期望社會(huì)為此做好準(zhǔn)備。一個(gè)月前，這家公司剛剛公布了其發(fā)展通用人工智能的雄心與策略。值得注意的是，阿爾特曼提出，通用人工智能在人工智能技術(shù)上只能算是一個(gè)小節(jié)點(diǎn)，他們的遠(yuǎn)景目標(biāo)是創(chuàng)造出遠(yuǎn)超人類智能的超人工智能。

事實(shí)上，這不是馬斯克首次公開(kāi)提醒人們警惕人工智能。早在2015年，他就與知名物理學(xué)家霍金在內(nèi)的多名科學(xué)家發(fā)表過(guò)一份公開(kāi)信，提醒人們就人工智能對(duì)社會(huì)所造成的影響展開(kāi)調(diào)研。

“八年過(guò)去了，人們似乎還沒(méi)有準(zhǔn)備好?！苯瓡栽f(shuō)。鑒于此，他有些“悲觀”地認(rèn)為，此次倡議很可能掀不起什么波瀾，業(yè)界仍然會(huì)在商業(yè)邏輯的驅(qū)動(dòng)下，在發(fā)展人工智能的道路上一路狂飆。

作者：沈湫莎

責(zé)任編輯：任荃

*文匯獨(dú)家稿件，轉(zhuǎn)載請(qǐng)注明出處。

關(guān)鍵詞：