新華社北京4月15日電 新聞分析丨AI模型“克勞德神話”為何引發(fā)網(wǎng)絡(luò)安全擔(dān)憂
新華社記者林昊 馮玉婧
美國人工智能（AI）企業(yè)Anthropic日前披露，該公司研發(fā)的最新大模型“克勞德神話（Claude Mythos）”能夠自主識別主流軟件系統(tǒng)中大量此前未被發(fā)現(xiàn)的安全漏洞，并能開發(fā)出相應(yīng)攻擊手段。
這一情況在美英等國金融界和科技界引發(fā)高度關(guān)注與隱憂。國際貨幣基金組織總裁格奧爾基耶娃12日警告說，全球貨幣體系尚未做好應(yīng)對AI風(fēng)險(xiǎn)快速升級的準(zhǔn)備。美英監(jiān)管機(jī)構(gòu)緊急召集多家大型銀行代表提示相關(guān)風(fēng)險(xiǎn)。與此同時(shí)，美國多家主流科技企業(yè)正在聯(lián)合測試該模型，以應(yīng)對潛在風(fēng)險(xiǎn)。
識別和利用漏洞能力極強(qiáng)
據(jù)了解，“克勞德神話”號稱在發(fā)現(xiàn)軟件漏洞方面展現(xiàn)出極強(qiáng)能力，已識別出包括主流操作系統(tǒng)和網(wǎng)絡(luò)瀏覽器在內(nèi)的常用軟件程序中的“數(shù)千個(gè)”漏洞，其中一些漏洞相當(dāng)隱蔽，難以被常規(guī)手段檢測到，且這些漏洞絕大多數(shù)尚未修復(fù)。它發(fā)現(xiàn)的最早一個(gè)漏洞可追溯至27年前，另外一個(gè)在視頻處理工具中發(fā)現(xiàn)的漏洞，即便在自動(dòng)化測試工具運(yùn)行了500萬次后，仍未被檢測出來。
Anthropic自稱，“克勞德神話”是一款通用模型，并非專門針對網(wǎng)絡(luò)安全訓(xùn)練，但其強(qiáng)大的自主編碼和推理能力，使其具備發(fā)現(xiàn)網(wǎng)絡(luò)安全漏洞的突出能力。在沒有人工指導(dǎo)的情況下，它能夠“完全自主地識別漏洞，并開發(fā)出許多相關(guān)攻擊手段”。
但該公司也承認(rèn)，這種能強(qiáng)化網(wǎng)絡(luò)防御的能力，同樣可能被攻擊者利用。測試顯示，“克勞德神話”能夠構(gòu)建復(fù)雜的漏洞利用鏈，實(shí)施可繞過多層安全防護(hù)的多步攻擊，甚至自主實(shí)現(xiàn)了權(quán)限提升技術(shù)?！拌b于人工智能技術(shù)的發(fā)展速度，這種能力或?qū)⒀杆贁U(kuò)散，甚至可能落入并非致力于安全應(yīng)用的主體手中。這對經(jīng)濟(jì)、公共安全和國家安全都可能造成嚴(yán)重后果?！?/p>
據(jù)多家外媒報(bào)道，Anthropic在發(fā)布“克勞德神話”前，已主動(dòng)向美國政府及金融等關(guān)鍵行業(yè)利益相關(guān)方通報(bào)了該模型的相關(guān)能力。
潛在風(fēng)險(xiǎn)引發(fā)金融界擔(dān)憂
“克勞德神話”的潛在風(fēng)險(xiǎn)已經(jīng)至少在美國、英國和加拿大引發(fā)金融界高度關(guān)注。格奧爾基耶娃12日在接受美國哥倫比亞廣播公司一檔節(jié)目采訪時(shí)表示，目前全球尚不具備足夠能力保護(hù)國際貨幣體系免受大規(guī)模網(wǎng)絡(luò)風(fēng)險(xiǎn)沖擊，“我們迫切希望各方更加重視在AI時(shí)代維護(hù)金融穩(wěn)定所必需的監(jiān)管防線”。她呼吁就此展開全球合作。
據(jù)外媒報(bào)道，美國財(cái)政部長貝森特和美聯(lián)儲主席鮑威爾7日緊急召集花旗集團(tuán)、摩根士丹利、美國銀行、富國銀行和高盛等美國主要金融機(jī)構(gòu)負(fù)責(zé)人開會，通報(bào)了這款新模型可能帶來的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)，以確保銀行業(yè)充分認(rèn)識到“克勞德神話”及同類模型帶來的威脅，并采取措施保護(hù)自身系統(tǒng)。
英國央行、英國金融行為監(jiān)管局和英國財(cái)政部等也正在與英國國家網(wǎng)絡(luò)安全中心以及各大銀行、保險(xiǎn)公司和交易所的代表進(jìn)行緊急磋商，以評估“克勞德神話”所帶來的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。英國監(jiān)管機(jī)構(gòu)預(yù)計(jì)將在未來兩周內(nèi)向金融行業(yè)通報(bào)相關(guān)情況。
Anthropic表示，考慮到“克勞德神話”的潛在風(fēng)險(xiǎn)，暫時(shí)不會面向公眾發(fā)布這款大模型，并啟動(dòng)名為“Glasswing”的合作項(xiàng)目，向微軟、亞馬遜、谷歌、蘋果、思科等40多家科技企業(yè)、金融機(jī)構(gòu)以及基礎(chǔ)設(shè)施服務(wù)商開放了“克勞德神話”預(yù)覽版本的訪問權(quán)限，使它們能夠?qū)δＰ瓦M(jìn)行測試，實(shí)現(xiàn)“提前防御”。
“Glasswing”項(xiàng)目的參與方將共享各自利用“克勞德神話”發(fā)現(xiàn)的漏洞信息，分析自身系統(tǒng)、識別高風(fēng)險(xiǎn)漏洞并加快修復(fù)。同時(shí)，“克勞德神話”的訪問權(quán)限受到嚴(yán)格限制，以防有人利用這一模型尋找系統(tǒng)漏洞并發(fā)起攻擊。
AI正重塑網(wǎng)絡(luò)安全攻防格局
美國業(yè)內(nèi)人士及媒體普遍認(rèn)為，AI正在從根本上改變網(wǎng)絡(luò)安全攻防格局。
思科公司首席安全與信任官格里科認(rèn)為，AI能力已經(jīng)跨過一個(gè)門檻，從根本上改變了保護(hù)關(guān)鍵基礎(chǔ)設(shè)施免受網(wǎng)絡(luò)威脅所需的緊迫程度，必須通過多方合作加以應(yīng)對。美國“眾擊”網(wǎng)絡(luò)安全服務(wù)公司首席技術(shù)官扎伊采夫說，AI使漏洞從被發(fā)現(xiàn)到被對手利用之間的時(shí)間窗口大幅壓縮，過去可能需要數(shù)月的過程，如今可能幾分鐘內(nèi)就會發(fā)生。
美國阿克西奧斯新聞網(wǎng)站的報(bào)道指出，美國開放人工智能研究中心（OpenAI）也計(jì)劃向少數(shù)合作伙伴發(fā)布一款“具有先進(jìn)網(wǎng)絡(luò)安全功能的產(chǎn)品”。報(bào)道說，AI的網(wǎng)絡(luò)攻擊能力達(dá)到新的臨界點(diǎn)，模型開發(fā)者越來越擔(dān)心可能帶來的破壞性后果，因此不愿直接公開發(fā)布。
美國微軟公司前首席研究與戰(zhàn)略官克雷格·蒙迪指出，過去只有大國、大企業(yè)和大型犯罪組織才能掌握的復(fù)雜網(wǎng)絡(luò)攻擊能力，未來可能會“徹底普及”。美國作家托馬斯·弗里德曼認(rèn)為，世界上沒有一個(gè)國家能夠獨(dú)自解決這個(gè)問題。相關(guān)國家當(dāng)務(wù)之急是著手開展合作，以防不法分子獲得這種更高層次的網(wǎng)絡(luò)能力。