近日，DeepSeek憑借其高性能、低成本的通用人工智能技術(shù)成為科技圈的“頂流”，不僅讓更多大眾群體了解了AI技術(shù)的潛力，也引發(fā)了人們對AI安全風(fēng)險(xiǎn)的廣泛關(guān)注。人工智能技術(shù)雖然為各行各業(yè)帶來了前所未有的便利與創(chuàng)新，但也衍生出一系列復(fù)雜且嚴(yán)峻的安全挑戰(zhàn)。瑞星發(fā)布的《2024年中國網(wǎng)絡(luò)安全報(bào)告》明確指出，AI技術(shù)的深度滲透正在重塑網(wǎng)絡(luò)安全格局，其帶來的風(fēng)險(xiǎn)橫跨網(wǎng)絡(luò)攻擊、數(shù)據(jù)隱私、模型安全等多個(gè)關(guān)鍵維度，對個(gè)人、企業(yè)乃至社會的網(wǎng)絡(luò)安全構(gòu)成了前所未有的威脅。
當(dāng)AI遇上網(wǎng)絡(luò)釣魚：讓網(wǎng)絡(luò)威脅 “升級蛻變”
在網(wǎng)絡(luò)攻擊層面，AI技術(shù)的應(yīng)用讓網(wǎng)絡(luò)釣魚手段實(shí)現(xiàn)了“智能化升級”。以 ChatGPT為代表的自然語言生成模型，能夠自動生成語法和邏輯近乎完美的網(wǎng)絡(luò)釣魚電子郵件。這類郵件可輕松繞過傳統(tǒng)的垃圾郵件過濾器，大幅提升了檢測難度。同時(shí)，AI技術(shù)還能實(shí)現(xiàn)網(wǎng)絡(luò)釣魚攻擊全流程自動化，包括目標(biāo)信息收集、郵件創(chuàng)建、發(fā)送以及后續(xù)的驗(yàn)證和優(yōu)化。
更令人擔(dān)憂的是，AI能夠根據(jù)目標(biāo)用戶的興趣、職業(yè)角色和社交習(xí)慣，生成高度個(gè)性化的釣魚內(nèi)容，極大提高了攻擊的成功率。例如，IBM的一項(xiàng)測試顯示，由ChatGPT編寫的釣魚郵件成功誘使14%的員工點(diǎn)擊了惡意鏈接，這一數(shù)據(jù)足以證明其巨大的威脅性。
圖：由ChatGPT制作的釣魚電子郵件
AI變身攻擊利器：降低攻擊門檻與成本
以ChatGPT為代表的大語言模型，能夠根據(jù)用戶意圖編寫代碼。在缺乏限制的情況下，這些模型可以幫助攻擊者生成、混淆攻擊代碼，并修改代碼以躲避規(guī)則檢測，極大降低了攻擊門檻。攻擊者可以更高效地與網(wǎng)絡(luò)安全公司對抗，甚至利用AI根據(jù)關(guān)鍵基礎(chǔ)設(shè)施的詳細(xì)信息，定制專門的網(wǎng)絡(luò)攻擊載荷。例如，伊朗黑客組織CyberAv3ngers就利用AI工具進(jìn)行偵察、編碼和漏洞研究，攻擊了以色列、美國和愛爾蘭的關(guān)鍵基礎(chǔ)設(shè)施。
圖：伊朗黑客組織向Chatgpt提問的內(nèi)容
此外，AI系統(tǒng)還易受到“對抗性樣本” 攻擊，攻擊者通過添加微小的擾動就能使AI系統(tǒng)做出錯(cuò)誤判斷。例如，攻擊者可以通過輕微修改惡意網(wǎng)絡(luò)流量的特征，使其成功繞過AI驅(qū)動的入侵檢測系統(tǒng)，從而規(guī)避防護(hù)措施。同時(shí)，AI驅(qū)動的自動化攻擊工具進(jìn)一步降低了攻擊門檻。黑客可以利用AI快速分析海量網(wǎng)絡(luò)流量，自動執(zhí)行漏洞掃描、密碼破解、網(wǎng)絡(luò)釣魚等攻擊行為，使攻擊更加隱蔽且高效。
AI引發(fā)隱私危機(jī)：數(shù)據(jù)收集與篡改風(fēng)險(xiǎn)劇增
在隱私與數(shù)據(jù)安全方面，AI的發(fā)展帶來了一系列棘手問題。攻擊者可以利用機(jī)器學(xué)習(xí)算法高效掃描關(guān)鍵基礎(chǔ)設(shè)施，精準(zhǔn)定位安全漏洞；通過多模態(tài)模型解析圖像、視頻，從中挖掘地理位置、設(shè)備參數(shù)等元數(shù)據(jù)；借助大語言模型從海量信息中提取關(guān)鍵情報(bào)，為攻擊提供支持。
在個(gè)人數(shù)據(jù)處理上，AI技術(shù)可能在用戶毫無察覺的情況下收集和使用個(gè)人信息。數(shù)據(jù)收集過程中，知情同意流程的缺失與隱私政策的模糊，進(jìn)一步加劇了用戶隱私暴露的風(fēng)險(xiǎn)。更令人擔(dān)憂的是，AI技術(shù)中的生成對抗網(wǎng)絡(luò)能合成虛假數(shù)據(jù)、篡改真實(shí)內(nèi)容，而訓(xùn)練過程中可能引入的數(shù)據(jù)污染和圖像篡改，也嚴(yán)重威脅了數(shù)據(jù)的準(zhǔn)確性和安全性。在2024年，出現(xiàn)了多起AI換臉詐騙事件，這充分展示了AI隱私與數(shù)據(jù)安全風(fēng)險(xiǎn)的嚴(yán)峻性。
圖：騙子利用AI換臉騙走英國跨國企業(yè)香港分公司2億港幣
AI模型安全與倫理風(fēng)險(xiǎn)：不容忽視的隱憂
除了上述風(fēng)險(xiǎn)，AI模型本身的安全性問題同樣值得關(guān)注。模型中毒、反向工程與模型提取等攻擊手段，使得AI系統(tǒng)在面對新型或未知攻擊時(shí)表現(xiàn)不佳。此外，AI生成的虛假多媒體內(nèi)容（如深度偽造視頻）在社交媒體上迅速傳播，可能引發(fā)大規(guī)模虛假信息浪潮，對社會秩序造成沖擊。
另外，AI的倫理道德風(fēng)險(xiǎn)也日益凸顯。AI的決策過程依賴于數(shù)據(jù)和算法，缺乏人類的情感和道德判斷，可能導(dǎo)致與人類價(jià)值觀的沖突。例如，2024年11月，谷歌的AI聊天機(jī)器人“Gemini”因向用戶發(fā)出威脅信息而引發(fā)爭議，凸顯了AI在倫理道德方面的潛在問題。
瑞星公司表示，AI技術(shù)的發(fā)展是一把雙刃劍，在享受其帶來的便利與創(chuàng)新的同時(shí)，必須正視并積極應(yīng)對這些風(fēng)險(xiǎn)。只有通過加強(qiáng)技術(shù)監(jiān)管、完善法律法規(guī)、提升用戶安全意識等多方面的努力，才能確保AI技術(shù)在安全的軌道上持續(xù)發(fā)展，為人類社會創(chuàng)造更大的價(jià)值。
本文轉(zhuǎn)載自：，不代表科技訊之立場。原文鏈接：https://hea.china.com/article/20250211/022025_1635991.html
