劉興亮丨GPT-4火爆，遍地開花的人工智能會失控嗎

文丨劉興亮

編 輯丨柯 銳

校 對丨王 心

實習(xí)生 | 韓朝璐

OpenAI的GPT-4、微軟的Copilot、百度的文心一言、谷歌的Bard、Adobe的Firefly……近期，國內(nèi)外一系列生成式人工智能應(yīng)用發(fā)布，引發(fā)了廣泛的關(guān)注。

除了對技術(shù)進(jìn)步感到興奮，有風(fēng)險意識的人也會產(chǎn)生這樣的擔(dān)憂：人工智能會失控嗎？風(fēng)險如何防范管控？

美國人工智能研究實驗室OpenAI公司的首席執(zhí)行官山姆·阿爾特曼（Sam Altman）近日表示，他對人工智能（AI）技術(shù)的潛力感到興奮，但也對一些潛在的濫用行為「有點(diǎn)害怕」。

OpenAI是近期大火的AI聊天機(jī)器人ChatGPT的開發(fā)商，該公司由埃隆·馬斯克與阿爾特曼等人共同創(chuàng)立。

上月，OpenAI創(chuàng)始人之一的埃隆·馬斯克表示，「它有巨大的前景也有巨大的能力，但隨之而來的危險也是巨大的。」

01

人工智能還沒到「失控」水平

3月15日，OpenAI發(fā)布的GPT-4安全文件中提到， 「一些特別令人擔(dān)憂的是制定長期計劃并采取行動、積累權(quán)力和資源（‘尋求權(quán)力’）以及表現(xiàn)出越來越‘自主’的行為的能力。」

據(jù)媒體報道，近年來，有人工智能研究人員提出警告，足夠強(qiáng)大的AI模型如果沒有得到適當(dāng)控制，可能會對人類構(gòu)成生存威脅。尤其是「人工智能接管（AI takeover）」，這是人工智能超越人類智能成為地球主導(dǎo)力量的假想未來。在這種情況下，人工智能可能會導(dǎo)致災(zāi)難性后果。

隨著人工智能的高速發(fā)展，其可能帶來的風(fēng)險也引起了人們的高度關(guān)注。這就帶來了一個擔(dān)心，遍地開花的人工智能會失控嗎？

首先，這種失控現(xiàn)在來看還不致于發(fā)生，因為目前的人工智能還沒發(fā)展到這個水平。

失控的前提是AI要具有自主性，就是在很大程度上獨(dú)立完成任務(wù)。那么，在AI系統(tǒng)沒有足夠理解人類價值觀和道德準(zhǔn)則的情況下，這種自主性就可能導(dǎo)致失控的風(fēng)險。

但目前的生成式AI本質(zhì)上還是人類的工具，給它一個指令，它來生成相應(yīng)的文字、圖片等內(nèi)容，所以人們暫時還不需要有這方面的擔(dān)心。

當(dāng)然，隨著技術(shù)的不斷發(fā)展，未來這個潛在風(fēng)險會成為我們重點(diǎn)去關(guān)注的問題。

02

更有可能失控的是用技術(shù)來為非作歹的人

比起失控的技術(shù)，更有可能失控的是用技術(shù)來為非作歹的「人」。比如，惡意使用者可能會利用ChatGPT來制造虛假信息、實施欺詐活動或進(jìn)行其他不道德行為。

這很像人們擔(dān)心會被AI替代導(dǎo)致失業(yè)一樣，這其實是關(guān)注錯了重點(diǎn)。因為其實人不會被AI淘汰（至少目前不會），而是會被掌握AI工具的「人」淘汰。

因此，這個層面上的風(fēng)險，關(guān)鍵因素都在于人，而不是技術(shù)本身。因為即便沒有AI，壞人也會用其他手段做壞事，善于學(xué)習(xí)的人也會運(yùn)用其他工具提升自己的競爭力。

雖然AI目前不至于失控，但還是有一些風(fēng)險。

一方面是它們會一本正經(jīng)地胡說八道，如果用戶把它所說的都認(rèn)定為事實，那就會被誤導(dǎo)。在這方面需要媒體多做普及，讓更多人認(rèn)識到ChatGPT等AI大模型并非無所不知。

另一方面，有可能出現(xiàn)個人隱私或商業(yè)機(jī)密泄露的情況。比如，用戶在與ChatGPT等聊天機(jī)器人交流時，無意識地提供了敏感信息，如個人身份信息、聯(lián)系方式或公司內(nèi)部信息等。一旦這些信息被記錄或存儲，就可能導(dǎo)致隱私或商業(yè)機(jī)密的泄露。雖然AI服務(wù)提供商會采取措施保護(hù)用戶數(shù)據(jù)，但數(shù)據(jù)存儲和傳輸過程中仍然可能存在安全風(fēng)險。

此外，由于訓(xùn)練數(shù)據(jù)集可能存在偏見，聊天機(jī)器人的回答會反映這些偏見，從而導(dǎo)致歧視性或不公平的結(jié)果。也可能因無法準(zhǔn)確判斷道德和倫理問題，有時產(chǎn)生不道德或具爭議的建議。

03

從三個方向規(guī)避人工智能風(fēng)險

那人類該如何規(guī)避這些風(fēng)險呢？可以從三個方向進(jìn)行。

第一個方向就是提高公眾的認(rèn)知。一方面要提高對AI技術(shù)的了解，避免被不恰當(dāng)?shù)男畔⑺`導(dǎo)；另一方面，提高數(shù)據(jù)安全意識，避免泄露個人隱私或商業(yè)機(jī)密等敏感信息。新聞媒體在其中可發(fā)揮重要作用。

第二個方向是實施更全面的人工智能監(jiān)管。首先，需要制定明確的法規(guī)和指導(dǎo)方針，以規(guī)范AI的研發(fā)、部署和使用。其次，政府、企業(yè)、研究機(jī)構(gòu)和民間組織需要加強(qiáng)合作，共同制定和執(zhí)行AI監(jiān)管政策，這有助于確保政策的全面性和有效性。另外，由于 AI技術(shù)不受國界限制，應(yīng)積極參與全球性的AI治理倡議，以確保全球范圍內(nèi)的政策協(xié)調(diào)和一致性。

第三個方向就是加強(qiáng)對于AI安全的研究。政府、企業(yè)和研究機(jī)構(gòu)應(yīng)增加對AI安全研究的投資，為相關(guān)項目提供充足的資金和資源。此外要重視AI安全領(lǐng)域的人才培養(yǎng)，鼓勵學(xué)生和研究人員從事相關(guān)研究，可以通過提供獎學(xué)金、實習(xí)機(jī)會和專門的課程來實現(xiàn)。同時進(jìn)行跨學(xué)科合作，鼓勵計算機(jī)科學(xué)家、安全專家、倫理學(xué)家、法學(xué)家等領(lǐng)域的專家進(jìn)行跨學(xué)科合作，共同應(yīng)對AI安全所帶來的挑戰(zhàn)。

OpenAI在創(chuàng)立之初的核心宗旨就是——實現(xiàn)安全的通用人工智能，使其有益于人類。

「安全」這兩個字對人工智能來說至關(guān)重要。無論是作為開發(fā)者、用戶還是監(jiān)管者，人們都應(yīng)當(dāng)時刻關(guān)注AI技術(shù)的安全性，確保人工智能不會被濫用。只有這樣，我們才能充分發(fā)揮人工智能的潛力，為人類社會帶來更多便利和進(jìn)步。

生成海報

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個人觀點(diǎn)，與極客網(wǎng)無關(guān)。文章僅供讀者參考，并請自行核實相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。