ChatGPT 在公開發布的短短兩個月內就達到了 1 億多用戶，範圍擴及全球，雖然它提供許多便利性，但仍有大量的安全疑慮。OpenAI 最近啟動了漏洞賞金計劃，因為許多安全研究人員報告了 ChatGPT 上的幾個嚴重漏洞，為了檢查是否有更多漏洞，OpenAI 向白帽黑客提供高達 20,000 美元的獎勵金以尋找安全漏洞。

除了漏洞賞金計畫，Check Point Research (CPR)對 ChatGPT 警告，越來越多ChatGPT Premium 帳戶被盜，並流入地下市場交易，其中之一漏洞讓駭客們可以繞過 OpenAI 的國家限制並不受限制地訪問 ChatGPT。

 

主要手法

ChatGPT 對從某些國家（包括俄羅斯、中國和伊朗）訪問其平台施加了限制。利用 ChatGPT API 可以讓駭客繞過不同的限制，以及使用 ChatGPT 的高級帳戶。

這導致被盜的 ChatGPT 帳戶不斷增加，尤其是付費高級帳戶。在有需求的地下暗網中，聰明的網絡犯罪分子準確利用商機。

被盜的 ChatGPT 高級帳戶在暗網上最繁榮的市場之一 ATO (帳戶接管)頻繁交易，這個市場上流通各種被盜的金融服務（銀行、在線支付系統等）、社交媒體、在線約會網站、電子郵件等帳戶。在 ATO 上面， ChatGPT 高級帳戶有以下交易內容：

 

1. 向 ChatGPT 帳戶洩露和免費發布憑據

2. 交易被盜的高級 ChatGPT 帳戶

3. ChatGPT 的暴力破解和檢查器工具——允許駭客們通過運行大量電子郵件地址和密碼列表侵入 ChatGPT 帳戶的工具，試圖猜測訪問現有帳戶的正確組合。

4. ChatGPT 帳戶即服務——提供開設 ChatGPT 高級帳戶的專用服務，像是透過遭竊的金融卡開設付費帳號的服務（ChatGPT Accounts as a Service）

 

駭客們利用用戶在多個平台上重複使用相同密碼的習慣，將電子郵件和密碼的組合集加載到專用軟體 SilverBullet（也稱為帳戶檢查器）中，並對特定在線平台執行攻擊以識別與平台登錄相匹配的憑據集。

SilverBullet 是一個 Web 測試套件，允許用戶對目標 Web 應用程序執行請求。它提供了許多工具來處理結果。該軟體可用於抓取和解析數據、自動筆測試、通過 selenium 進行單元測試等等。該工具還經常被駭客用來對不同的網站進行帳戶檢查攻擊，從而竊取在線平台的帳戶。

在特定情況下，CPR 發現駭客們為 SilverBullet 提供了一個配置文件，該文件允許以自動方式檢查 OpenAI 平台的一組數據。這使他們能夠大規模竊取帳戶。該過程是完全自動化的，每分鐘 (CPM) 可以啟動 50 到 200 次比對。此外，它支持代理實施，在許多情況下允許它繞過網站上針對此類攻擊的不同保護措施。

下圖為駭客為 SilverBullet 提供 openAI 配置文件：

圖片來源：https://blog.checkpoint.com/security/new-chatgpt4-0-concerns-a-market-for-stolen-premium-accounts/

 

在暴力破解工具幫助下，駭客在未經帳戶持有人同意的情況下奪取了帳戶的控制權。研究人員表示，這些帳戶大多已被出售，甚至一些駭客還免費分發被盜的 ChatGPT 高級帳戶，以推廣他們的服務或工具。

由於 ChatGPT 高級帳戶交易對駭客們來說獲利頗大，還有一位駭客甚至將自己命名為 “ gpt4 ”。在他的文章中，他不僅出售 ChatGPT 帳戶，還出售一個驗證憑據的自動化工具設置。

另一位駭客也於 3 月 20 日開始宣傳 ChatGPT Plus 終身帳戶服務，聲稱保證 100% 滿意。他推出的服務分成兩種，常規 ChatGPT Plus 帳戶（通過買家提供的電子郵件打開）的終身升級費用為 59.99 美元（而 OpenAI 對該服務的原始合法定價為每月 20 美元）。另一種是可以以 24.99 美元的價格與另一名駭客共享對 ChatGPT 帳戶的訪問權限，終身使用。

圖片來源：https://blog.checkpoint.com/security/new-chatgpt4-0-concerns-a-market-for-stolen-premium-accounts/

 

在 ChatGPT 盛行後，人們一直在討論 ChatGPT 的隱私問題，因為 ChatGPT 帳戶存儲帳戶所有者最近的查詢，當駭客們竊取現有帳戶時，他們可以訪問帳戶原始所有者的查詢，這可以包括個人信息、有關公司產品和流程的詳細信息等。有些國家如意大利禁止 ChatGPT，而德國也考慮禁止它。

 

結語

雖然 OpenAI 的漏洞賞金計劃對於 ChatGPT 安全漏洞應對起到了一定的作用，但是這僅僅是一個開始。現實中的資安環境複雜多變，駭客利用各種可能的攻擊媒介，開展各種精心策劃的攻擊行動。因此，ChatGPT 的安全風險在未來可能進一步加劇。

根據 BlackBerry 的研究，將近五成資安專家預測 ChatGPT 將成為網絡攻擊的核心，這也警醒我們不能掉以輕心。在這個脆弱的數字世界中，保護 ChatGPT 等人工智能系統的安全不僅是 OpenAI 和相關公司的責任，更需要全球資安產業的協同合作，尤其是對駭客們的攻擊行為進行深入分析和預測，從而及早發現、預防和應對可能的安全威脅。

 

參考資料：

 

1. New ChatGPT4.0 Concerns: A Market for Stolen Premium Accounts
   ( 13 Apr. 2023 )
   -https://blog.checkpoint.com/security/new-chatgpt4-0-concerns-a-market-for-stolen-premium-accounts/

2. 大量ChatGPT付費服務的帳密資料流入暗網 ( 17 Apr. 2023 )
   -https://www.ithome.com.tw/news/156443

3. Ethical Hackers Could Earn up to $20,000 Uncovering ChatGPT Vulnerabilities ( 12 Apr. 2023 )
   -https://www.infosecurity-magazine.com/news/ethical-hackers-chatgpt/

4. Hackers Selling ChatGPT Premium Accounts On the Dark Web
   ( 20 Apr. 2023 )
   -https://gbhackers.com/hackers-selling-chatgpt-premium-accounts/amp/