ChatGPT的火爆已經(jīng)席卷全球各行各業(yè)，從準確修復編碼錯誤、生成烹飪食譜、創(chuàng )建3D動(dòng)畫(huà)，到制作完整的歌曲，ChatGPT似乎是無(wú)所不能。然而科技給人帶來(lái)便捷的同時(shí)，也帶來(lái)了安全隱患，作為企業(yè)應如何正確使用AI，防止AI作惡？

什么是ChatGPT？

ChatGPT是人工智能技術(shù)驅動(dòng)的自然語(yǔ)言處理工具，它能夠通過(guò)學(xué)習和理解人類(lèi)的語(yǔ)言來(lái)進(jìn)行對話(huà)，還能根據聊天的上下文進(jìn)行互動(dòng)，真正像人類(lèi)一樣來(lái)聊天交流，甚至能完成撰寫(xiě)郵件、視頻腳本、文案、翻譯、代碼，寫(xiě)論文等任務(wù)。

ChatGPT爆火引發(fā)哪些安全隱患？

ChatGPT可能被用于實(shí)施有害活動(dòng)

ChatGPT是把雙刃劍，既可以是提升效率的工具，甚至編寫(xiě)代碼，同時(shí)也可能被繞過(guò)安全機制，用于實(shí)施有害的活動(dòng)。對網(wǎng)絡(luò )安全行業(yè)來(lái)說(shuō)，以ChatGPT為代表的人工智能工具，既可以用來(lái)編寫(xiě)網(wǎng)絡(luò )釣魚(yú)、生成惡意軟件、開(kāi)展網(wǎng)絡(luò )攻擊，也能成為網(wǎng)絡(luò )防御者的有力工具。

ChatGPT被用來(lái)生成信息竊取器

據了解，美國在暗網(wǎng)中發(fā)現了1500多條惡意軟件和驗證代碼中有ChatGPT的身影，甚至還利用惡意代碼對ChatGPT進(jìn)行“培訓”，以生成可逃避病毒檢測的惡意代碼不同變體，研究人員已經(jīng)確定ChatGPT可以有效生成信息竊取器、遠程訪(fǎng)問(wèn)木馬和加密貨幣竊取器等。

ChatGPT降低了網(wǎng)絡(luò )犯罪的門(mén)檻

ChatGPT還降低了網(wǎng)絡(luò )犯罪的門(mén)檻，即便是沒(méi)有技術(shù)的“小白”，也能成為攻擊者。境外已有網(wǎng)絡(luò )釣魚(yú)即服務(wù)（即服務(wù)是一種軟件許可模式）和勒索軟件即服務(wù)開(kāi)始向攻擊者提供收費工具包，使其可以輕松實(shí)施攻擊，特別是ChatGPT面向公眾免費開(kāi)放，網(wǎng)絡(luò )攻擊的成本進(jìn)一步降低。

企業(yè)應該如何正確使用AI，防止AI作惡？

從ChatGPT現在的使用情況來(lái)看，ChatGPT類(lèi)的人工智能應用已經(jīng)帶來(lái)了諸多風(fēng)險挑戰，對此國家相關(guān)法律政策也在陸續出臺。隨著(zhù)社會(huì )持續關(guān)注，人工智能等新技術(shù)的發(fā)展和治理也越來(lái)越受到重視。

人工智能在網(wǎng)絡(luò )安全領(lǐng)域有著(zhù)廣闊的前景，但前提是得到合理的運用。同其他所有技術(shù)一樣，AI也絕對不是一顆銀彈，即使擁有最先進(jìn)的技術(shù)也不意味著(zhù)百分之百的保護。人工智能不會(huì )讓你免于因忽視基本網(wǎng)絡(luò )安全規則而引發(fā)的嚴重攻擊。

企業(yè)應建立一個(gè)能夠適應不斷變化的生態(tài)系統，在開(kāi)發(fā)和實(shí)施智能算法的同時(shí)不斷的進(jìn)行糾正或調整，以產(chǎn)生真正的效益。此外，企業(yè)在確保AI網(wǎng)絡(luò )安全的過(guò)程中會(huì )面臨著(zhù)諸多挑戰，尤其是需要高度重視機器、人類(lèi)和道德因素之間的平衡。因此，建立有效的治理和法律框架能夠增強人們對AI技術(shù)的信任，并促進(jìn)社會(huì )公平和可持續發(fā)展。