人工智能 (AI) 技術(shù)已有數(shù)十年的歷史，推動著從機器人到預(yù)測分析等方方面面的創(chuàng)新。兩年前，伴隨著 ChatGPT 的橫空出世，生成式人工智能 (GenAI) 成為了 AI 發(fā)展史上的一個里程碑式轉(zhuǎn)折點。ChatGPT 被設(shè)計用于以近乎人類的水平進行對話、創(chuàng)作和理解。得益于這一變革性功能，AI 走出技術(shù)領(lǐng)域，進入日常生活，以前所未有的方式推動著先進技術(shù)的廣泛普及。
ChatGPT 于 2022 年底推出，在短短 5 天內(nèi)迅速走紅，用戶數(shù)量達到了 100 萬。2024 年，ChatGPT 的活躍用戶數(shù)量驟增至 2 億，成為歷史上增長速度最快的應(yīng)用之一。 憑借實時生成上下文相關(guān)的連貫回答的能力，ChatGPT 讓 AI 成為了一個家喻戶曉的名詞。這兩年以來，人類仿佛又迎來了一次技術(shù)革命，全球各個行業(yè)都在AI應(yīng)用中看到了無限可能。
在十一月烏鎮(zhèn)舉辦的2024年世界互聯(lián)網(wǎng)大會上，人工智能成為展示重點，涵蓋低空經(jīng)濟、智能網(wǎng)聯(lián)汽車、人形機器人、數(shù)字文創(chuàng)等熱點，40余個大模型及垂直模型、10余個機器人集中亮相。今年十月，我國一位兒童用戶通過視頻展示了兩個AI就“愚公是否應(yīng)該移山”這一主題展開辯論，這兩個應(yīng)用占線的嚴密邏輯以及“類人化”的表達方式在短短幾天就收獲了數(shù)十萬觀看與數(shù)萬條評論。可以看出，在短短兩年時間內(nèi)，各個AI應(yīng)用已經(jīng)開始“飛入尋常百姓家”。
然而，在ChatGPT 及其他類似工具應(yīng)用于各行各業(yè)、為專業(yè)人士和個人的工作和生活賦能的同時，此類工具的“兩面性”也日益凸顯。
ChatGPT 的崛起：助力各行各業(yè)創(chuàng)新
從客戶服務(wù)到內(nèi)容創(chuàng)建，AI應(yīng)用已迅速成為個人和企業(yè)必不可少的生產(chǎn)工具。雖然想要達到人類頂級人才的水平仍有待時日，但大型語言模型 (LLM) 通常都能夠根據(jù)需求提供不錯的解決方案，可讓專業(yè)人士專注于創(chuàng)造性、分析性和戰(zhàn)略性任務(wù)。GenAI 的即時性和可擴展性促進了范式轉(zhuǎn)變，即“AI 無處不在”不再只是一種趨勢，而是實實在在的現(xiàn)實。
GenAI 工具為各行各業(yè)提供了支持，它可通過回答 StackOverflow 等平臺上的技術(shù)問題，幫助快速解決問題，并加快項目進度，將為期一周的任務(wù)縮短至數(shù)小時。ChatGPT 等 GenAI 工具還通過創(chuàng)新性地應(yīng)用語言模型來破譯功能和理解復(fù)雜代碼，將其功能擴展到了逆向工程。
在網(wǎng)絡(luò)安全領(lǐng)域， GenAI 已經(jīng)產(chǎn)生了深遠的影響。例如，ChatGPT 能夠分析龐大的數(shù)據(jù)集，以檢測異常和模式，從而幫助用戶發(fā)現(xiàn)以前可能無法察覺的威脅。這種增強的可視性是一項顛覆性特性，有助于高效打擊日益復(fù)雜的網(wǎng)絡(luò)攻擊。
從積極的方面看，GenAI 已成為加強安全運維不可或缺的工具：
加速工作流程：網(wǎng)絡(luò)安全專業(yè)人員現(xiàn)在使用 ChatGPT 等 GenAI 工具快速排除故障、破解復(fù)雜問題并從海量數(shù)據(jù)集中提取實用洞察——這些任務(wù)以前都需要數(shù)周或數(shù)天的時間才能完成。
威脅檢測：GenAI 能夠快速、深入地分析海量數(shù)據(jù)，從而幫助機構(gòu)檢測到可能被忽視的威脅。
事件響應(yīng)：GenAI 正被探索用于總結(jié)攻擊模式、縮短響應(yīng)時間并加強防御能力。
然而，GenAI 的興起也帶來了重大風(fēng)險。若無適當?shù)陌踩雷o措施，輸入到 ChatGPT 等工具中的敏感數(shù)據(jù)可能會在不經(jīng)意間被泄漏。一次數(shù)據(jù)處理不當就可能帶來毀滅性后果，如果這些數(shù)據(jù)被用于未來網(wǎng)絡(luò)攻擊的話。
從某些方面來看，這項變革性技術(shù)為網(wǎng)絡(luò)犯罪分子肆無忌憚的濫用提供了可乘之機：
惡意代碼開發(fā)：ChatGPT 和類似工具甚至支持新手攻擊者創(chuàng)建和調(diào)試惡意軟件，這大大降低了網(wǎng)絡(luò)犯罪發(fā)起攻擊的門檻。
復(fù)雜的網(wǎng)絡(luò)釣魚電子郵件：黑客可利用 GenAI 制作出更具迷惑性的逼真電子郵件。與傳統(tǒng)的網(wǎng)絡(luò)釣魚電子郵件相比，這些電子郵件更有可能騙到收件人，因為前者措辭不夠嚴謹并缺乏對相關(guān)情況的了解，所以可能會被明眼人識破。
深度偽造：GenAI 生成的視頻和音頻片段往往難辨真?zhèn)危饕糜谄墼p、造謠和勒索，致使社交工程威脅升級。
這些濫用案例凸顯了一個殘酷的現(xiàn)實：正如 GenAI 可以讓防御者如虎添翼一樣，它也可能為虎作倀，成為攻擊者的幫兇。
保障 GenAI 領(lǐng)域的安全
隨著 GenAI 的快速普及，用戶需要采取主動式安全防護來緩解風(fēng)險。Check Point 建議采取以下措施：
開展員工培訓(xùn)：讓員工了解 GenAI 特定的威脅和風(fēng)險，例如逼真的網(wǎng)絡(luò)釣魚電子郵件、深度偽造和幻覺，以便他們能夠發(fā)現(xiàn)和報告潛在事件。
實施數(shù)據(jù)保護：采用可靠工具防止在不經(jīng)意間與 AI 平臺共享敏感數(shù)據(jù)，從而降低數(shù)據(jù)泄漏或濫用風(fēng)險。
監(jiān)控和規(guī)范 AI 使用：制定明確的政策，確保在機構(gòu)內(nèi)以合乎道德的方式安全使用 GenAI，讓使用者和開發(fā)人員承擔(dān)起相應(yīng)的責(zé)任。
實施自動化數(shù)據(jù)控制：部署自動化解決方案來監(jiān)控和限制與第三方 AI 系統(tǒng)的數(shù)據(jù)共享，確保敏感信息始終安全無虞。
采用基于 AI 的防御：利用 AI 工具有效防范攻擊，增強威脅檢測和響應(yīng)能力。
未來愿景：負責(zé)任地使用 AI，維護網(wǎng)絡(luò)安全
毫無疑問，ChatGPT 等 GenAI 將在塑造網(wǎng)絡(luò)安全格局方面發(fā)揮日益重要的作用。我們所面臨的挑戰(zhàn)在于如何正確發(fā)揮其潛力，同時最大限度地降低濫用風(fēng)險。
使用 GenAI 的好處顯而易見：用戶可以使用其算法高效使用之前很難處理的海量數(shù)據(jù)。然而，GenAI 并不是人類的自動化替身，也不僅僅是一套先進的算法。雖然 GenAI 潛力巨大，但其風(fēng)險也不容小覷。
為了確保 GenAI 正面助力網(wǎng)絡(luò)安全，各機構(gòu)必須對其使用承擔(dān)起責(zé)任。無論是通過監(jiān)管敏感應(yīng)用、培養(yǎng) AI 文化素養(yǎng)，還是部署高級監(jiān)控工具，業(yè)界都必須與這項技術(shù)同步發(fā)展。通過保持警惕性和前瞻性，我們可確保 ChatGPT 等工具不斷推動創(chuàng)新，同時防止其被濫用。
本文轉(zhuǎn)載自：，不代表科技訊之立場。原文鏈接：http://articlef.yulepops.com/article/m-163/1/2122024120520573275926412.html
