鳳凰網(wǎng)科技訊 《AI前哨》北京時(shí)間7月26日消息，美國當(dāng)?shù)貢r(shí)間周二，三位人工智能(AI)行業(yè)領(lǐng)袖在美國國會參議院司法委員會舉行的聽證會上作證。他們警告稱，AI的瘋狂發(fā)展速度可能會在未來幾年內(nèi)造成嚴(yán)重危害，比如流氓國家或恐怖分子會利用這項(xiàng)技術(shù)制造生化武器。
此次聽證會很好地展示了人們對于AI會超過人類智慧的擔(dān)憂。多年來，人們的這種擔(dān)憂原本只存在于科幻小說中。然而，隨著ChatGPT橫空出世并引發(fā)AI競賽，這一擔(dān)憂迅速成為主流聲音。
兩年就可制造生化武器
美國AI創(chuàng)業(yè)公司Anthropic CEO達(dá)里奧·阿莫代伊(Dario Amodei)在聽證會上表示，他擔(dān)心尖端AI技術(shù)可能在短短兩年時(shí)間內(nèi)就會被用來制造危險(xiǎn)的病毒和其他生化武器。
蒙特利爾大學(xué)AI教授、“現(xiàn)代AI科學(xué)之父”約書亞·本吉奧(Yoshua Bengio)認(rèn)為，美國應(yīng)該推動國際合作來控制AI的發(fā)展，他還概述了一種類似于核技術(shù)國際監(jiān)管規(guī)則的管理制度。
“最近，我和其他許多人都對ChatGPT等AI系統(tǒng)實(shí)現(xiàn)的巨大飛躍感到驚訝。AI進(jìn)步的加快更令人擔(dān)憂?！北炯獖W表示。
現(xiàn)代AI科學(xué)之父本吉奧
加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)教授斯圖爾特·拉塞爾(Stuart Russell)指出，AI的工作方式意味著，與其他強(qiáng)大技術(shù)相比，它更加難以被完全理解和控制。
過去六個(gè)月里，包括本吉奧在內(nèi)的一些知名研究人員已經(jīng)將他們所認(rèn)為的“超級智能”AI可能出現(xiàn)的時(shí)間從幾十年后提前到了僅僅幾年后。目前，這些擔(dān)憂在硅谷、媒體界和華盛頓引發(fā)反響。政客們把這些威脅列為政府需要通過立法的原因之一。
參議院司法委員會小組委員會主席理查德·布盧門撒爾(Richard Blumenthal)主持了此次聽證會。他表示，人類已經(jīng)證明自己有能力發(fā)明當(dāng)時(shí)令人難以置信的新技術(shù)。他把AI比作美國研制核武器的“曼哈頓計(jì)劃”或美國宇航局的載人登月計(jì)劃。
“我們已經(jīng)做到了人們以前認(rèn)為不可思議的事情，”他在聽證會上說，“我們知道如何干大事?！?/p>
司法委員會小組委員會主席布盧門撒爾
不過，對于周二聽證會上概述的超級智能AI到來的激進(jìn)時(shí)間表，并不是所有研究人員都認(rèn)同。質(zhì)疑者指出，炒作AI的潛力可能有助于企業(yè)兜售這項(xiàng)技術(shù)。其他知名AI領(lǐng)袖表示，那些討論AI接管世界等生存威脅的人，是在夸大這項(xiàng)技術(shù)的能力，不必要地散播恐懼。
巨頭壟斷
在此次聽證會上，一些參議員還提出了未來可能會出現(xiàn)的反壟斷擔(dān)憂。密蘇里州共和黨參議員喬?！せ衾?Josh Hawley)表示，其中一個(gè)風(fēng)險(xiǎn)是微軟和谷歌等大型科技公司對AI的壟斷。多年來，霍利一直是大型科技公司的嚴(yán)厲批評者，他利用此次聽證會的機(jī)會辯稱，這些技術(shù)背后的公司本身就是一種風(fēng)險(xiǎn)。
“我相信壟斷會有利于企業(yè)，我對此毫不懷疑，”霍利表示，“但我不太確信的是，人們是否會因此受到傷害?！?/p>
新監(jiān)管機(jī)構(gòu)
加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)教授斯拉塞爾認(rèn)為，有必要成立一個(gè)專門聚焦AI的新監(jiān)管機(jī)構(gòu)。他預(yù)測，AI最終將徹底改變經(jīng)濟(jì)，為GDP的增長做出巨大貢獻(xiàn)，因此需要健全和專門的監(jiān)管。
Anthropic CEO阿莫代伊則表示，他對于是否成立一個(gè)新的機(jī)構(gòu)，或者是否利用美國聯(lián)邦貿(mào)易委員會(FTC)等現(xiàn)有監(jiān)管機(jī)構(gòu)來監(jiān)管AI持“不可知論”態(tài)度，但他表示，必須為AI公司建立標(biāo)準(zhǔn)測試，以檢驗(yàn)這些公司的技術(shù)來識別潛在危害。
“從監(jiān)管角度而言，在我們確定并制定相關(guān)程序之前，我們都是在瞎猜，”阿莫代伊表示，“如果我們沒有適當(dāng)?shù)臇|西來限制AI系統(tǒng)，我們的日子就不會好過。”
與本吉奧、拉塞爾不同的是，阿莫代伊經(jīng)營著一家正在推動AI技術(shù)向前發(fā)展的公司Anthropic。該公司的員工都是前谷歌和OpenAI的研究人員，試圖將自己定位為比大型科技公司的技術(shù)考慮更周到、更謹(jǐn)慎的替代品。而且，Anthropic從谷歌那里獲得了大約3億美元的投資，并依靠谷歌的數(shù)據(jù)中心來運(yùn)行其AI模型。
他還呼吁為AI研究提供更多聯(lián)邦資金，以學(xué)習(xí)如何降低AI帶來的一系列風(fēng)險(xiǎn)。阿莫代伊預(yù)測，在未來兩到三年內(nèi)，惡意分子可能會利用AI來幫助開發(fā)生化武器，繞過旨在阻止人們開發(fā)此類武器的嚴(yán)格行業(yè)控制。“我擔(dān)心我們能否及時(shí)做到這一點(diǎn)，但我們必須嘗試?！彼硎?。鳳凰網(wǎng)科技《AI前哨》對此將持續(xù)關(guān)注。