29日，特斯拉首席執(zhí)行官馬斯克同人工智能專家與行業(yè)高管發(fā)表聯(lián)名公開信，呼吁暫停開發(fā)比GPT-4更強(qiáng)大的人工智能系統(tǒng)至少6個(gè)月，稱其“對社會(huì)和人類構(gòu)成潛在風(fēng)險(xiǎn)”。信中寫道，近期各人工智能實(shí)驗(yàn)室陷入了失控的研發(fā)競爭，如果不能立即暫停，呼吁政府可以介入。只有在確認(rèn)現(xiàn)階段人工智能的效果積極，且風(fēng)險(xiǎn)可控的情況下，才應(yīng)繼續(xù)開發(fā)更強(qiáng)大的人工智能系統(tǒng)。
馬斯克等千人呼吁暫停人工智能訓(xùn)練，以應(yīng)對潛在風(fēng)險(xiǎn)
1000多名人工智能領(lǐng)域?qū)＜遗c行業(yè)高管在公開信中呼吁，暫停訓(xùn)練比現(xiàn)階段GPT-4更強(qiáng)大的人工智能系統(tǒng)。聯(lián)名簽署人還包括人工智能先驅(qū)本吉奧、美國前總統(tǒng)候選人楊安澤等。
信中寫道，具有與人類競爭智能的人工智能系統(tǒng)，可能對社會(huì)和人類構(gòu)成重大風(fēng)險(xiǎn)。人類必須問自己，是否應(yīng)該把所有工作都自動(dòng)化，包括那些讓人們有滿足感的工作，又是否應(yīng)該開發(fā)非人類大腦，而它可能比人類聰明、甚或最終會(huì)淘汰并取代人類。
公開信指，近期各人工智能實(shí)驗(yàn)室爭相研發(fā)更強(qiáng)大的數(shù)字思維，然而沒有人能準(zhǔn)確預(yù)測或控制進(jìn)一步研發(fā)的后果。他們主張暫停時(shí)長至少6個(gè)月，期間人工智能實(shí)驗(yàn)室與獨(dú)立專家可共同開發(fā)一套用于進(jìn)階人工智能研發(fā)的安全協(xié)議。
與此同時(shí)，希望研發(fā)者和政策制定者在治理和監(jiān)管機(jī)構(gòu)方面共同合作，推進(jìn)人工智能治理系統(tǒng)開發(fā)進(jìn)程。從而防止人工智能對人類社會(huì)的潛在風(fēng)險(xiǎn)，應(yīng)對人工智能可能對人類政治、經(jīng)濟(jì)，尤其是民主方面造成的巨大破壞。
同樣簽署聯(lián)名信的紐約大學(xué)教授馬庫斯則在一篇博客文章表示，他更擔(dān)心“普通的人工智能”廣泛被犯罪分子或恐怖分子利用。
歐洲刑警組織27日警告稱，人工智能聊天機(jī)器人可能會(huì)在網(wǎng)絡(luò)釣魚、虛假信息宣傳和網(wǎng)絡(luò)犯罪中濫用。相關(guān)研發(fā)團(tuán)隊(duì)尚未對公開信有所回應(yīng)。
鳳凰觀察：人工智能和人類的關(guān)系應(yīng)是互補(bǔ)和合作
馬斯克聯(lián)同千名人工智能專家與行業(yè)高管呼吁暫停人工智能訓(xùn)練，對此業(yè)內(nèi)有何觀察？若繼續(xù)訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)，究竟會(huì)對人類與社會(huì)帶來怎樣的危機(jī)與風(fēng)險(xiǎn)？如何看待人工智能與人類的競爭？兩者能夠做到平衡發(fā)展嗎？以下內(nèi)容摘自香港大學(xué)計(jì)算機(jī)系助理教授孔令鵬先生的分析和點(diǎn)評——
這樣的擔(dān)憂也側(cè)面反映出近期的人工智能，尤其是自然語言處理領(lǐng)域的快速發(fā)展，我們不太會(huì)去擔(dān)心一個(gè)人工智障系統(tǒng)。
從去年12月以來，ChatGPT發(fā)布到現(xiàn)在短短三四個(gè)月的時(shí)間，我們其實(shí)看到特別多讓人感到興奮的技術(shù)進(jìn)步以及運(yùn)用，馬斯克等人的呼吁本身是有積極意義的，它能夠提醒大家去更多地關(guān)注人工智能技術(shù)的發(fā)展。但是呼吁立即停止這件事情，可能是經(jīng)典的“囚徒困境”問題，最后或是不能成型。
人類發(fā)明的很多工具都是“雙刃劍”，比如AI可以用來做一個(gè)很好的客服，同時(shí)也就說明了它有可能會(huì)被用來進(jìn)行電信詐騙。
而從大的方面來講，AI的發(fā)展可能會(huì)對工作勞動(dòng)所做的內(nèi)容以及結(jié)構(gòu)產(chǎn)生很大影響，也會(huì)對人類的倫理價(jià)值觀念和看法產(chǎn)生潛在影響。
另外，還有老生常談的，即AI對于隱私以及個(gè)人數(shù)據(jù)安全的風(fēng)險(xiǎn)，這些是需要通過技術(shù)、通過立法、通過社會(huì)廣泛參與，來尋求一個(gè)更好更負(fù)責(zé)任的解決辦法。
我覺得人工智能與人類應(yīng)該是合作互補(bǔ)關(guān)系，而非競爭關(guān)系。現(xiàn)在的AI系統(tǒng)還是能夠幫我們節(jié)省時(shí)間，能夠幫我們在更短的時(shí)間去完成更多的事情，我們是能夠從這些東西當(dāng)中獲益的，但我們需要讓AI系統(tǒng)去學(xué)習(xí)更多人類的價(jià)值觀和道德觀念，從而讓它能夠更好地為人類服務(wù)，這也是我們現(xiàn)在研究的重點(diǎn)問題之一。只有這樣子才能夠使這些AI系統(tǒng)最后和人類形成合作互補(bǔ)的關(guān)系，從而能夠使整個(gè)社會(huì)最終受益。
來源：鳳凰衛(wèi)視資訊臺(tái)
編輯：木木
版權(quán)聲明：本文內(nèi)容由互聯(lián)網(wǎng)用戶自發(fā)貢獻(xiàn)，該文觀點(diǎn)僅代表作者本人。本站僅提供信息存儲(chǔ)空間服務(wù)，不擁有所有權(quán)，不承擔(dān)相關(guān)法律責(zé)任。如發(fā)現(xiàn)本站有涉嫌抄襲侵權(quán)/違法違規(guī)的內(nèi)容， 請發(fā)送郵件至 舉報(bào)，一經(jīng)查實(shí)，本站將立刻刪除。