- 人工智慧驅動的網路釣魚結合了合成文字、語音和視頻，製造出高度可信的騙局。
- 關鍵跡象：情緒急迫、不尋常的要求、可疑的連結以及細微的音訊/視訊故障。
- 有效保護：透過其他管道進行驗證、雙重認證、更新和人工智慧驅動的安全解決方案。
- 國防需要人工智慧、數據和持續的人工監督，以適應不斷演變的攻擊。
人工智慧不僅提高了生產力，也助長了極具迷惑性的詐騙。如今，一封看似完美的電子郵件、一個熟悉的電話聲音，或一段逼真的視頻，都可能是演算法生成的純粹仿製品。因此，學習如何識別人工智慧產生的釣魚郵件已不再是可選項，而是安全上網的必備技能。
過去那種發送拼字錯誤和連結失效郵件的伎倆已經升級了。現在，犯罪分子將語言模型、語音克隆和深度偽造技術結合起來，以欺騙任何人。更令人擔憂的是其規模：借助人工智慧，攻擊者可以在幾分鐘內個性化數千條訊息，隨時調整策略，並利用我們信任和緊迫感的固有偏見，讓我們在不經思考的情況下上當受騙。
詐騙分子利用人工智慧工具
惡意行為者已經掌握了多種攻擊手段。一方面，他們可以使用文字產生器產生流暢的訊息，使其聽起來像是來自記者、公司或大學的真實訊息。另一方面，他們還可以使用深度偽造軟體（例如換臉工具），以驚人的準確度匹配臉部和手勢。
第三個要素是語音克隆：只需幾分鐘的公開音頻，就能複製幾乎任何人的音色、口音和語氣詞。這種組合使得電子郵件、電話和視訊聽起來非常逼真，儘管它們完全是人為合成的。
最常見的由人工智慧驅動的詐騙手段
最常見的騙局之一是「親戚急需用錢2.0」騙局。以前，只需一條聳人聽聞的訊息就足以讓人上當；現在，來電者的聲音酷似你的孩子、母親或朋友，並會以緊急求助為由索要錢財。這種情感上的共鳴，加上聲音模仿技術，如果你不透過其他途徑核實情況，很容易就會放鬆警惕。
另一種經典騙局的升級版是虛假購物詐騙：誘人的廣告、捏造的評論以及與原網站一模一樣的克隆網站，所有這些都由人工智能精心策劃，讓你難以察覺其中的破綻。同時，人工智慧驅動的網路釣魚也變得更加複雜：冒充你的電子郵件或銀行客服的電話、包含你真實姓名和詳細資訊的短信，以及極具迷惑性的按鈕，誘使你點擊並洩露你的個人資訊。
人工智慧也會透過分析你在社群媒體上發布的內容來猜測密碼或找回密碼，它甚至被用作誘餌，植入一些看似免費的程式（作業系統、高級工具等）中，而這些程式實際上會安裝惡意軟體。此外，模仿客服人員竊取資料的假聊天機器人也越來越多。
還有一些自動語音電話，冒充銀行或公共服務機構：一個聽起來很逼真的機器人會告訴你你的帳戶已被盜用，並要求你完成「驗證」步驟。訊息很明確：掛斷電話，自己撥打機構的官方電話號碼，而不是他們提供的號碼。
您應該注意的主要風險
逼真程度已經大大提高。如今的深度偽造技術可以讓你看起來和親人一模一樣，誘使你做出衝動的行為。此外，他們還利用緊迫感來達到目的：設定幾分鐘的最後期限、威脅屏蔽以及施加情感壓力，阻止你進行驗證。
此外，還有大量虛假網站，它們幾乎完美地複製了網站的設計和網域；還有會安裝惡意軟體的附件或連結；以及旨在竊取身分資訊、清空帳戶或遠端控制設備的攻擊活動。所有這些都包裝得天衣無縫。
- 深度偽造的質量 乍看之下和聽覺上都具有欺騙性。
- 情緒緊迫性 這會降低你的批判性思考能力。
- 網站造假 以及幾乎無法區分的銀行表格。
- 惡意連結/文件 伴有惡意軟體和資料竊取。
- 帳戶存取和冒用 欺詐第三方。
如何辨識網路釣魚和深度偽造
人工智慧攻擊並非萬無一失。在電子郵件和簡訊中，要警惕恐嚇和緊迫感，以及不尋常的要求（例如索要錢財或憑證），還有那些雖然文筆流暢但內容空洞或脫離語境的文本。將滑鼠懸停在連結上：如果實際網域不匹配，則是危險信號。
在音訊和視訊製作中，敏銳的聽覺和視覺至關重要。有時，音色、呼吸聲或語音延遲方面會出現一些細微的瑕疵，或是出現不自然的微動作、眨眼和唇形不同步等問題。如果您不確定，可以要求對方做出一些難度較高的動作（例如轉頭、以特定方式移動手部），因為深度偽造技術往往難以準確捕捉這些動作。
當你收到來自熟人但使用新帳號或寫作風格明顯不同的訊息時，請考慮透過其他管道進行驗證。如果對話內容涉及加密貨幣、奇蹟投資或即時付款，則很可能是詐騙。
為了獲得更全面的支持，您可以使用人工智慧生成的文字偵測器或事實查核工具來驗證可疑的說法。它們並非萬無一失，但當某些事情看起來不太對勁時，它們可以提供有用的第二意見。
真實案例說明問題
在英國，一名詐騙犯利用人工智慧冒充首席執行官，誘騙一名員工轉帳243.000萬美元。在美國，有人向學生發送電子郵件，敦促他們購買禮品卡，聲稱是送給一位教授的；這些郵件是偽造的，但製作得非常精良。
在社群媒體上，一些使用人工智慧產生頭像的帳號冒充網紅，推廣虛假的加密貨幣贈送活動。在佛羅裡達州，一位母親在接到描述事故的電話後，聽到女兒的克隆聲音，於是匯出了15.000萬美元。恐慌與逼真的結合奏效了。
根據分析的清單顯示，深度偽造技術已經在暗網上以極低的價格即時提供：語音克隆僅需 30 美元起，視訊克隆僅需 50 美元起。要注意的是，這些廣告本身可能就是針對其他犯罪者的騙局，但傳遞的訊息很明確：進入門檻低，任何人都可以使用相關工具。
如何在實踐中保護自己
在你採取任何行動之前，先深呼吸。務必核實任何讓你感到壓力的資訊或電話的來源。如果對方自稱是家人，請透過其他已知管道聯繫他們；如果是公司，請撥打其網站上的官方電話號碼。提出只有對方才知道答案的具體問題，有助於識破冒名頂替者。
警惕社交媒體上那些誘人的優惠和可疑帳號。不要透過電話或聊天分享個人資訊或銀行資訊；避免從病毒影片、短連結或可疑網站下載檔案、應用程式或程式。務必手動輸入網址，並核實其是否為官方網址。
加強基礎安全：使用強密碼和唯一密碼，配備密碼管理器，啟用雙重認證，及時更新系統，並採用具備網路保護和反釣魚功能的可靠安全解決方案。在家和辦公室持續進行安全培訓至關重要。
如果您懷疑有人冒充銀行，請使用銀行的官方管道。例如，像桑坦德銀行這樣的銀行提供多種舉報方式：將可疑電子郵件轉發至[email protected]，發送簡訊至638 444 542，以及撥打客戶服務熱線915 123 123。在您的情況下，請務必諮詢您銀行的官方管道。
網路釣魚、愛情騙局和所謂的“豬屠宰”
詐騙分子利用人工智慧創造虛假身份，與受害者進行長時間的對話，建立情感連結。幾週後，他們會提供所謂的投資機會。他們利用建立起來的信任來消除受害者的疑慮，誘使其交出金錢。
如果你在網路上認識的人向你借錢或提出投資建議，請果斷採取行動：透過其他方式核實其身份，要求其線下提供證明，並拒絕任何緊急請求。與親近的家人共同設定密碼可以有效防止身分盜竊。
人工智慧代理與聊天機器人：新的中介風險
如果來源尚未被標記為惡意網站，人工智慧助理可能會犯錯並推薦釣魚網站。在一項實驗中，瀏覽器代理將一封虛假的投資郵件誤判為合法郵件，開啟了詐騙頁面，甚至還幫助使用者輸入了憑證。
在另一個案例中，一個人工智慧網站產生器在幾分鐘內建立了一個虛假的線上商店，一名代理人訪問該商店購買手錶，並在未經確認的情況下填寫了保存在瀏覽器中的信用卡資訊。這表明，如果權限不受限制，如今的代理人可以像網路新手一樣行事。
為避免這種情況，請認真評估聊天機器人的建議，限制存取權限（例如自動填充、購物、未經許可打開連結），並使用能夠阻止惡意網域的安全解決方案來保護您的瀏覽器。人工監督仍然至關重要。
人工智慧產生的釣魚網站：如何識別它們
忘掉過去那些笨拙的網站：現在你會看到HTTPS、Cookie通知和精美的設計。正因如此，仔細檢查一番才顯得格外重要。首先，檢查URL是否有拼字錯誤或特殊字符，並查看網域名稱註冊時間（WHOIS服務可以幫你做到這一點）。
第二，分析措詞：如果它讓你感到恐懼、被指責或被迫採取行動，那就是個不好的訊號。第三，啟用安全軟體中的連結檢查功能，並留意瀏覽器關於不安全連線的警告。最後，搜尋網站名稱，並將URL與官方網站進行比較；警惕贊助商提供的搜尋結果，它們可能是釣魚郵件。
- 類型或變體 網域、標題和內容。
- 年輕領域 或有著一段晦澀難懂的歷史。
- 操控性語言 （恐懼、緊迫感、指責）。
- 瀏覽器警報 以及可疑證書。
人工智慧如何加強對網路釣魚的防禦
人工智慧也具有諸多優勢。如今，能夠即時分析電子郵件、URL 和附件的系統可以檢測出虛假假髮件人、異常域名以及詐欺特有的語言模式。自然語言處理 (NLP) 可以識別操縱性的語氣和可疑的結構，而電腦視覺則可以將網頁設計與合法網站進行比較。
然而，現實情況是，這些模型需要持續的訓練、高品質的數據和人工回饋，才能避免過時。有些模型會變成難以審計的黑箱，因此透明度和監督仍然至關重要。
人工智慧如何助力網路釣魚攻擊
攻擊者大規模產生模仿真實郵件語氣和格式的電子郵件，包括同事姓名、職位和內部參考資訊。他們結合域名搶注和大量創建虛假域名，託管近乎完美的仿冒郵件，這些郵件擁有有效的證書和響應式設計。
除了電子郵件，他們還會使用簡訊詐騙和行動平台上的虛假訊息，這些訊息偽裝成來自你的銀行或常用應用程式。在社群媒體上，人工智慧產生的個人資料或盜用的帳號會先建立信任，然後再上當。有些故障的聊天機器人會進行自然對話，以此來竊取資訊。
用於檢測網路釣魚的AI模型：其底層原理為何？
一切都始於數據。我們收集並標記真實的釣魚郵件和合法通訊範本、惡意URL和網頁內容。然後提取訊號：連結結構、異常網域、典型的詐騙術語、電子郵件標頭和元資料。
這些模型結合了監督學習、深度神經網路和自然語言處理技術，以理解訊息的意圖、緊急程度或是否被操縱。有些模型還融入了電腦視覺技術，用於分析螢幕截圖或頁面的視覺外觀。
在生產環境中，分類是即時進行的：它能夠阻止可疑活動、記錄事件並從每次互動中學習。人工驗證誤報和確認威脅進一步改進了系統。它與 EDR、防火牆和入侵偵測系統集成，為使用者和組織建立了一個智慧層。
安全訓練和文化
單靠技術是不夠的。意識和習慣至關重要：透過其他管道進行驗證、不分享敏感資料、檢查連結、啟用雙重認證、更新設備，以及在家中和工作場所討論這些風險。對能夠設計和監控防禦性人工智慧模型的專業人員的需求正在迅速增長。
如果您有興趣了解更多，可以尋找專門針對網路安全的人工智慧應用課程，這些課程將培訓您深度學習偵測、自動回應和混合環境審計等方面的知識。面對同樣不斷學習的對手，採取實際有效的持續方法才是致勝之道。
人工智慧顯然提高了欺騙和防禦的門檻：從克隆語音和逼真的假商店，到能夠偵測人眼無法辨識的模式的系統。多通路驗證、數位衛生、人工智慧驅動的安全工具以及健康的懷疑精神相結合，才能讓你在遇到可疑、過於緊急或好得令人難以置信的事情時，依然能夠自信應對。
