中國汽車報
黃蓓
2024-11-25 12:11
AI在掀起科技浪潮的同時，也帶來了網(wǎng)絡安全、數(shù)據(jù)安全的挑戰(zhàn)。
《中國經(jīng)營報》記者注意到，在2024年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會（以下簡稱“烏鎮(zhèn)峰會”）上，AI安全挑戰(zhàn)成為各方關注的焦點之一，比如會上設置了網(wǎng)絡安全技術發(fā)展與國際合作論壇、國內(nèi)首個AI大模型攻防賽等。
多位業(yè)內(nèi)人士向記者表示，隨著AI技術不斷深入場景，安全事件也愈演愈烈。大模型訓練數(shù)據(jù)泄露、訓練遭“投毒”、AI換臉詐騙等問題層出不窮。針對這些現(xiàn)象，不少企業(yè)選擇通過AI技術解決AI安全問題，通過安全大模型、AI自動化檢測、深度鑒偽技術等，提升風險檢測反應能力、確保安全防線的牢固。
安全攻防新形勢
隨著AI技術不斷深入場景，安全事件也愈演愈烈。
在烏鎮(zhèn)峰會的開幕式上，中共中央政治局常委、國務院副總理丁薛祥發(fā)表主旨講話強調(diào)，當前互聯(lián)網(wǎng)、大數(shù)據(jù)、云計算、人工智能、區(qū)塊鏈等技術不斷取得突破，正在全面賦能經(jīng)濟社會發(fā)展，但數(shù)字鴻溝仍在擴大，網(wǎng)絡安全形勢更加嚴峻。
那么，AI帶來的安全挑戰(zhàn)具體有哪些？全國政協(xié)委員、全國工商聯(lián)副主席、奇安信集團董事長齊向東向記者表示，AI正在黑客攻擊、社會操縱和戰(zhàn)略規(guī)劃等關鍵領域飛速取得進展，并帶來前所未有的挑戰(zhàn)，安全已經(jīng)來到臨界點。
在齊向東看來，AI帶來的安全危機可以總結為“三化”，即黑箱化、黑產(chǎn)化、武器化。具體而言，AI黑箱化將導致內(nèi)容生成良莠不齊。“在生成AI大模型的過程中，數(shù)據(jù)和模型在黑箱內(nèi)部，現(xiàn)實世界和數(shù)字世界之間有一道天然隔閡，這不僅使得我們難以洞悉具體使用了哪些數(shù)據(jù)集和算法，也模糊了攻擊者可能采取的具體破壞手段，從而導致有害內(nèi)容及錯誤信息的泛濫?！?/p>
齊向東談道：“在今年的實網(wǎng)攻防演練中，奇安信攻擊隊就成功攻破了某AI大模型，并總結出針對大模型的攻擊途徑。通過多種手法，篡改了大模型輸出內(nèi)容、讓模型出現(xiàn)預料之外或者有害結果，甚至直接癱瘓了大模型?！?/p>
AI黑產(chǎn)化則會導致深度偽造泛濫成災。齊向東表示，不法分子借助AI技術對圖像、音視頻等內(nèi)容進行深度偽造，以達到不可告人的目的。無論是公眾還是企業(yè)，都逃不脫深偽詐騙的陷阱。而AI武器化將導致黑客攻擊愈演愈烈。人工智能可以生成惡意軟件、釣魚郵件，也可以快速發(fā)現(xiàn)目標系統(tǒng)中的漏洞，大幅降低網(wǎng)絡攻擊門檻，讓不懂代碼、不懂技術的普通人也能成為黑客，攻擊數(shù)量大幅增加。目標處于無法應對的飽和狀態(tài)，網(wǎng)絡空間“易攻難守”成常態(tài)。
烏鎮(zhèn)峰會期間，由中國圖象圖形學學會、螞蟻集團、云安全聯(lián)盟（CSA）大中華區(qū)聯(lián)合主辦的國內(nèi)首個AI大模型攻防賽亦聚焦于深度偽造的安全問題。螞蟻集團相關負責人告訴記者：“只需10秒，大模型就能克隆聲音、復刻照片，甚至能生成‘你’的視頻，從而引發(fā)深偽欺詐、色情影像偽造、假新聞等社會事件；大模型‘越獄’問題頻發(fā)，誘騙AI聽從不懷好意的指令，生成血腥、暴力、歧視、仇恨的圖片、視頻，危害網(wǎng)絡空間安全?！?/p>
安恒信息相關負責人也告訴記者：“隨著AI技術不斷深入場景，安全事件也愈演愈烈。大模型訓練數(shù)據(jù)泄露、訓練遭‘投毒’、AI換臉詐騙等問題層出不窮。從訓練到應用，大模型的安全風險無處不在。比如數(shù)據(jù)隱私和安全問題，AI系統(tǒng)通常需要大量的數(shù)據(jù)來訓練模型，這可能涉及敏感的個人信息。如果這些數(shù)據(jù)被不當使用或泄露，將對個人隱私造成威脅。還有內(nèi)容安全問題，如何確保AI不生成錯誤內(nèi)容、違規(guī)內(nèi)容和惡意代碼？如何確保大模型生成的代碼或內(nèi)容不被用于執(zhí)行安全攻擊？這都是AI帶來的新的安全挑戰(zhàn)?！?/p>
以AI治理AI
“以AI治理AI”模式已經(jīng)成為解決安全風險的一大趨勢。
中國工程院院士、中國圖象圖形學學會理事長王耀南指出：“加強大模型安全保護，構建完善的安全防護體系，是確保人工智能技術持續(xù)、穩(wěn)定、健康發(fā)展的關鍵所在，也是我們在這個充滿機遇與挑戰(zhàn)的時代必須肩負起的重要使命?！?/p>
記者在烏鎮(zhèn)峰會會場了解到，針對AI技術帶來的深度偽造風險，螞蟻集團正通過蟻天鑒和ZOLOZ等安全技術產(chǎn)品加強對圖像、視頻的鑒真能力。據(jù)介紹，蟻天鑒不僅支持圖像、視頻等多模態(tài)內(nèi)容真實性及深度偽造的監(jiān)測，還支持大模型X光、大模型基礎設施測評、應用安全測評、圍欄防御等技術能力。記者現(xiàn)場從圖庫中選擇了數(shù)張照片，僅用幾秒，蟻天鑒就可以準確識別圖片或視頻片段的真?zhèn)巍?/p>
而ZOLOZ則更專注于攻克AI換臉難題，其人臉識別準確率達99.9%。在現(xiàn)場，觀眾可以上傳一張個人照片，由AI基于照片合成新的人臉圖像來試圖突破ZOLOZ防御系統(tǒng)。工作人員告訴記者，目前ZOLOZ已為中國、印度尼西亞、馬來西亞、菲律賓等24個國家和地區(qū)提供技術服務，涵蓋金融、保險、證券、信貸、電信、公共服務等多個領域，累計服務用戶超12億。
齊向東告訴記者，未來強化人工智能安全治理，需要重點采用三大技術策略。第一個策略是結合大模型基礎運行環(huán)境、訓練環(huán)境、API接口以及數(shù)據(jù)安全進行多維度、體系化防護。大模型生命周期的每個環(huán)節(jié)都存在大量不確定性，無論是數(shù)據(jù)安全、算法開發(fā)和模型安全、內(nèi)容還是應用安全等方面，都要做到合規(guī)。
第二個策略是用“鑒偽”“防偽”技術有效遏制深度偽造。針對正在野蠻生長的生成式偽造語音技術、生成式偽造視頻技術，應該盡快發(fā)展相關檢測技術。比如，奇安信自研的深度鑒偽模型能夠準確識別多種前沿AI偽造技術生成的虛假圖片視頻；洛基平臺可以通過內(nèi)網(wǎng)在線訪問，上傳圖片、視頻開展深度鑒偽。
第三個策略是用安全大模型反哺安全能力大提升。建立體系化的安全防護系統(tǒng)，是AI安全大模型驅動安全的重要前提。奇安信的內(nèi)生安全體系，把網(wǎng)絡安全設備和業(yè)務流轉、不同層次的信息系統(tǒng)有機結合起來，做到安全能力的無死角，確保多道網(wǎng)絡安全防線有效協(xié)同，實現(xiàn)從宏觀管控到微觀檢測的全面防護。記者了解到，奇安信在內(nèi)生安全體系之上，部署了自研的QAX-GPT安全大模型，這樣不僅讓大模型更懂客戶業(yè)務，同時也讓安全體系效率更高、能力更強。經(jīng)過反復訓練打磨，AI安全大模型的研判效率已經(jīng)提到了人工的60多倍。
事實上，類似的“以AI治理AI”模式已經(jīng)成為解決安全風險的一大趨勢。安恒信息相關負責人告訴記者，公司正從對抗性訓練、自動化檢測、大模型風險檢測、聯(lián)邦學習和隱私保護、AI輔助威脅情報等5大方向進行探索。其中，對抗性訓練通過在模型訓練過程中引入對抗性樣本，目前“恒腦”利用該技術來微調(diào)訓練模型，使“恒腦”能夠更好地抵御對抗性攻擊。這種方法提高了AI系統(tǒng)對惡意輸入的魯棒性。
大模型風險檢測方面，安恒則通過恒腦智鑒針對大模型風險評估采用精細化風險評估方法，覆蓋12大內(nèi)容安全風險領域，細分為40余種小類，確保無遺漏。同時，配備20余種檢測手段和超過25000個測試用例，提供詳盡的數(shù)據(jù)分析和安全報告，能夠幫助政企監(jiān)管機構快速、精準地發(fā)現(xiàn)潛在問題并采取相應措施。“這些探索和實踐表明，‘以AI治理AI’不僅是技術上的需要，也是在確保AI系統(tǒng)安全性和可靠性方面的重要戰(zhàn)略。隨著AI技術的不斷發(fā)展，這一領域將繼續(xù)演進和擴展?！痹撠撠熑吮硎?。
未來，AI攻防還有哪些深化的方向？安恒信息相關負責人告訴記者，過往業(yè)內(nèi)比較關注數(shù)據(jù)投毒，但安恒信息研究發(fā)現(xiàn)，相比數(shù)據(jù)投毒，大模型權重文件投毒后門的適用性更廣，危害性更大。通過模型權重文件投毒方式，模型可被控制會遵從惡意控制者行動，平時是一個常規(guī)大模型，當惡意控制者在任意時候發(fā)送指令，即可馬上讓它變成惡意大模型，如何在任何時候讓模型可控、不越界是安恒接下來要研究和探索的方向。
