首個 AI 驅動的勒索軟件被發現

(圖片來源：Shutterstock)

ESET 今天宣布發現了“首個已知的人工智能勒索軟件”。該勒索軟件被命名為 PromptLock，大概是因為與生成式人工智能相關的一切似乎都要加上“prompt”前綴。

ESET 表示，這種惡意軟件使用由 OpenAI 開發的開源權重大型語言模型來生成可以在 Windows、macOS 和 Linux 系統上執行各種功能的腳本，并通過每次表現出略微不同的行為來混淆防御工具。

“PromptLock 利用從硬編碼提示生成的 Lua 腳本來枚舉本地文件系統、檢查目標文件、竊取選定數據并執行加密，” ESET 在一個關于該惡意軟件的 Mastodon 帖子中說。“根據檢測到的用戶文件，該惡意軟件可能會竊取數據、加密數據，或者可能銷毀數據。盡管銷毀功能似乎尚未實現。”

Lua 看起來可能是一個奇怪的編程語言選擇，用于勒索軟件；它主要以其在 Roblox 中開發游戲或在 NeoVim 文本編輯器中開發插件而聞名。但實際上，它是一種通用語言，為勒索軟件操作員提供了多種優勢——包括良好的性能、跨平臺支持，以及專注于簡單性，使其非常適合 "vibe 編碼 "。

需要記住的是，LLMs 是非確定性的；即使你使用相同的輸入、相同的提示在相同的設備上對相同的模型進行相同的操作，其輸出也會改變。如果你期望它們在一段時間內表現出完全相同的行為，這會讓人沮喪，但勒索軟件操作員并不一定需要這樣，因為這樣做使得防御工具更容易將行為模式與已知惡意軟件相關聯。

PromptLock "通過本地使用 OpenAI 的 gpt-oss:20b 模型，通過 Ollama API 動態生成惡意 Lua 腳本"，這有助于它逃避檢測。該模型在本地運行的事實也使得 OpenAI 無法告密——如果每次生成這些腳本時他們都必須調用其服務器上的 API，那么他們的把戲就會敗露。而且，由于腳本在別人的系統上運行，所以“氛圍編碼”的弊端也不適用。

也許這能為 AI 公司帶來一個不錯的安慰獎。是的，他們正 面臨巨額訴訟 。當然，基本上 沒有人看到 采納他們的服務的任何好處。好吧，所以 就連 Meta 也正在削減 其 AI 相關的支出狂潮。但沒有人可以說 AI 是無用的——它已經說服了一些勒索軟件運營商在他們的軟件中使用本地模型！

這算是有意義的事情，對吧？