- Lừa đảo bằng AI kết hợp văn bản, giọng nói và video tổng hợp để tạo ra những trò lừa đảo có độ tin cậy cao.
- Dấu hiệu chính: sự cấp bách về mặt cảm xúc, yêu cầu bất thường, liên kết đáng ngờ và lỗi âm thanh/video tinh vi.
- Bảo vệ hiệu quả: xác minh thông qua kênh khác, 2FA, cập nhật và giải pháp bảo mật hỗ trợ AI.
- Quốc phòng cần AI, dữ liệu và sự giám sát liên tục của con người để thích ứng với các cuộc tấn công đang phát triển.
Trí tuệ nhân tạo không chỉ thúc đẩy năng suất mà còn tạo điều kiện cho các vụ lừa đảo cực kỳ tinh vi. Ngày nay, một email hoàn hảo, một giọng nói quen thuộc qua điện thoại hoặc một video thuyết phục có thể chỉ là sự giả mạo được tạo ra bởi các thuật toán. Trong bối cảnh này, việc học cách phát hiện các email lừa đảo do AI tạo ra không còn là điều tùy chọn mà là một phần của cuộc sống hàng ngày để điều hướng trực tuyến an toàn.
Chiêu trò cũ là gửi email chứa lỗi chính tả và liên kết hỏng đã được nâng cấp. Giờ đây, tội phạm đang kết hợp các mô hình ngôn ngữ, sao chép giọng nói và deepfake để đánh lừa bất cứ ai. Điều đáng lo ngại là quy mô: với trí tuệ nhân tạo, kẻ tấn công có thể cá nhân hóa hàng nghìn tin nhắn trong vài phút, điều chỉnh chiến lược ngay lập tức và lợi dụng sự thiên vị của chúng ta về lòng tin và tính cấp bách để khiến chúng ta mắc bẫy mà không cần suy nghĩ.
Các công cụ AI bị kẻ lừa đảo lợi dụng
Các đối tượng xấu đã sử dụng một kho vũ khí đa dạng. Một mặt, có các công cụ tạo văn bản có khả năng tạo ra những tin nhắn trôi chảy, nghe giống như các thông tin liên lạc thực sự từ các nhà báo, công ty hoặc trường đại học. Mặt khác, có phần mềm tạo deepfake (ví dụ: các công cụ hoán đổi khuôn mặt) có thể khớp khuôn mặt và cử chỉ với độ chính xác đáng kinh ngạc.
Thành phần thứ ba là sao chép giọng nói : các giải pháp sao chép âm sắc, ngữ điệu và từ ngữ đệm của hầu hết mọi người chỉ bằng vài phút ghi âm công khai. Sự kết hợp này tạo ra các email, cuộc gọi và video nghe có vẻ chân thực , mặc dù chúng hoàn toàn là sản phẩm nhân tạo.
Những vụ lừa đảo phổ biến nhất được thực hiện bởi AI
Một trong những chiêu trò lừa đảo phổ biến nhất là " lừa đảo người thân cần giúp đỡ phiên bản 2.0". Trước đây, chỉ cần một tin nhắn gây hoang mang là đủ; giờ đây, cuộc gọi đến với giọng nói giống hệt con bạn, mẹ bạn hoặc một người bạn, và yêu cầu tiền gấp. Sức mạnh cảm xúc của sự kết nối, kết hợp với việc sao chép giọng nói, sẽ làm suy yếu cảnh giác của bạn nếu bạn không kiểm chứng câu chuyện bằng các phương tiện khác.
Một chiêu trò kinh điển được nâng cấp khác là lừa đảo mua sắm giả mạo : quảng cáo hấp dẫn, đánh giá bịa đặt và các trang web là bản sao của trang web gốc, tất cả đều được dàn dựng bằng trí tuệ nhân tạo (AI) để bạn không nhận ra sự khác biệt. Trong khi đó, lừa đảo qua mạng (phishing) sử dụng AI ngày càng tinh vi hơn: các cuộc gọi giả mạo email hoặc bộ phận hỗ trợ ngân hàng của bạn, tin nhắn sử dụng tên và thông tin thật của bạn, và các nút bấm rất thuyết phục được thiết kế để lừa bạn nhấp vào và cung cấp thông tin cá nhân.
Trí tuệ nhân tạo (AI) cũng giúp đoán mật khẩu hoặc câu trả lời khôi phục bằng cách phân tích những gì bạn đăng trên mạng xã hội, và nó được sử dụng như mồi nhử trong các chương trình được cho là miễn phí (hệ điều hành, công cụ cao cấp, v.v.) nhưng thực chất lại cài đặt phần mềm độc hại. Hơn nữa, các chatbot giả mạo bắt chước nhân viên hỗ trợ để lấy dữ liệu đang ngày càng lan rộng .
Ngoài ra còn có các cuộc gọi tự động với giọng nói tổng hợp giả danh là nhân viên ngân hàng hoặc dịch vụ công cộng: một giọng nói tự động rất thuyết phục sẽ thông báo tài khoản của bạn đã bị xâm phạm và yêu cầu bạn hoàn thành các bước “xác minh”. Thông điệp rất rõ ràng: hãy cúp máy và tự gọi đến số điện thoại chính thức của tổ chức đó , chứ không phải số điện thoại mà họ cung cấp.
Những rủi ro chính bạn nên ghi nhớ
Mức độ chân thực đã tăng lên. Deepfake ngày nay có thể trông giống hệt người thân yêu và khiến bạn hành động bốc đồng. Thêm vào đó là thủ đoạn bẩn thỉu của sự gấp gáp: thời hạn chỉ vài phút, đe dọa bị chặn và áp lực tâm lý ngăn cản bạn xác minh.
Hơn nữa, có rất nhiều trang web giả mạo sao chép thiết kế và tên miền gần như hoàn hảo, các tệp đính kèm hoặc liên kết cài đặt phần mềm độc hại, và các chiến dịch đánh cắp danh tính , chiếm đoạt tài khoản hoặc điều khiển thiết bị từ xa. Tất cả những điều này đều được trình bày với bao bì hoàn hảo.
- Chất lượng của deepfake đánh lừa ngay từ cái nhìn đầu tiên và thính giác đầu tiên.
- Sự cấp bách về mặt cảm xúc điều này làm giảm khả năng tư duy phản biện của bạn.
- Làm giả trang web và các hình thức ngân hàng gần như không thể phân biệt được.
- Liên kết/tệp độc hại với phần mềm độc hại và trộm cắp dữ liệu.
- Truy cập tài khoản và mạo danh để lừa đảo bên thứ ba.
Dấu hiệu phát hiện lừa đảo và deepfake
Các cuộc tấn công bằng trí tuệ nhân tạo không hoàn hảo. Trong email và tin nhắn, hãy tìm kiếm các chiến thuật hù dọa và sự khẩn cấp , các yêu cầu bất thường (tiền bạc, thông tin đăng nhập), và các văn bản, dù được viết tốt, nhưng có vẻ chung chung hoặc lạc đề . Di chuột qua các liên kết: nếu tên miền thực không khớp, đó là một dấu hiệu xấu.
Trong lĩnh vực âm thanh và video, khả năng nghe và nhìn tinh tế là vô cùng quan trọng. Đôi khi có những lỗi nhỏ về âm sắc, hơi thở, độ trễ giọng nói, hoặc những cử chỉ nhỏ không tự nhiên, như nháy mắt hay khớp môi. Nếu bạn không chắc chắn, hãy yêu cầu một cử chỉ khó (quay đầu, di chuyển tay theo một cách cụ thể) mà các video deepfake thường thực hiện kém.
Khi bạn nhận được tin nhắn từ người quen nhưng từ một tài khoản mới hoặc có những thay đổi đáng chú ý trong văn phong, hãy cân nhắc xác minh thông tin đó qua một kênh khác . Và nếu cuộc trò chuyện chuyển sang chủ đề tiền điện tử, đầu tư thần kỳ hoặc thanh toán tức thì, đó rất có thể là một trò lừa đảo.
Để được hỗ trợ thêm, bạn có thể sử dụng các công cụ phát hiện văn bản hoặc kiểm chứng thông tin do AI tạo ra để xác thực các tuyên bố đáng ngờ. Chúng không hoàn hảo, nhưng chúng cung cấp một ý kiến thứ hai hữu ích khi có điều gì đó không ổn.
Các trường hợp thực tế minh họa cho vấn đề
Tại Anh, một kẻ lừa đảo đã sử dụng trí tuệ nhân tạo để giả mạo một CEO và thuyết phục một nhân viên chuyển khoản 243.000 đô la. Tại Mỹ, các email được gửi đến sinh viên thúc giục họ mua thẻ quà tặng được cho là dành cho một giáo sư; chúng là giả mạo, nhưng được làm rất tinh vi.
Trên mạng xã hội, các tài khoản có hình đại diện do AI tạo ra đã quảng bá các chương trình tặng tiền điện tử lừa đảo bằng cách giả mạo người nổi tiếng. Và ở Florida, một người mẹ đã gửi 15.000 đô la sau khi nghe thấy giọng nói được nhân bản của con gái mình trong một cuộc gọi mô tả về một vụ tai nạn. Sự kết hợp giữa hoảng loạn và tính chân thực đã có hiệu quả.
Deepfake hiện đang được rao bán trên dark web với giá cực kỳ thấp: sao chép giọng nói từ 30 đô la và video từ 50 đô la, theo các quảng cáo được phân tích. Cần lưu ý rằng nhiều quảng cáo này có thể là những trò lừa đảo nhắm vào các tội phạm khác, nhưng thông điệp rất rõ ràng: rào cản gia nhập thấp và công cụ có sẵn cho bất kỳ ai.
Làm thế nào để bảo vệ bản thân trong thực tế
Trước khi hành động, hãy hít thở sâu. Luôn luôn xác minh nguồn gốc của bất kỳ tin nhắn hoặc cuộc gọi nào gây áp lực cho bạn. Nếu đó là người thân trong gia đình, hãy liên lạc với họ qua kênh liên lạc khác mà bạn biết; nếu đó là công ty, hãy gọi đến số điện thoại chính thức trên trang web của họ. Hãy đặt những câu hỏi cụ thể mà chỉ người đó mới biết câu trả lời để giúp vạch trần kẻ mạo danh.
Hãy cảnh giác với những lời chào mời hấp dẫn và các tài khoản đáng ngờ trên mạng xã hội. Không chia sẻ thông tin cá nhân hoặc thông tin ngân hàng qua điện thoại hoặc tin nhắn; tránh tải xuống các tệp, ứng dụng hoặc chương trình từ các video lan truyền, liên kết rút gọn hoặc các trang web đáng ngờ . Hãy tự gõ URL và xác minh rằng nó trùng khớp với URL chính thức.
Hãy củng cố những điều cơ bản: mật khẩu mạnh, độc đáo , trình quản lý mật khẩu, xác thực hai yếu tố, cập nhật thường xuyên và giải pháp bảo mật đáng tin cậy với bảo vệ web và chống lừa đảo trực tuyến. Việc đào tạo liên tục tại nhà và tại văn phòng sẽ tạo nên sự khác biệt.
Nếu bạn nghi ngờ ai đó đang mạo danh ngân hàng, hãy sử dụng các kênh chính thức của ngân hàng đó. Ví dụ, một ngân hàng như Banco Santander cung cấp các tùy chọn báo cáo: chuyển tiếp email đáng ngờ đến [email protected] , gửi tin nhắn SMS đến 638 444 542 và gọi cho dịch vụ khách hàng theo số 915 123 123. Trong trường hợp của bạn, hãy luôn tham khảo các kênh chính thức của ngân hàng bạn .
Câu cá lừa đảo, lừa đảo tình cảm và cái gọi là "giết lợn"
Những kẻ lừa đảo tạo ra các nhân vật giả mạo được hỗ trợ bởi trí tuệ nhân tạo để duy trì các cuộc trò chuyện kéo dài và xây dựng mối liên hệ tình cảm. Vài tuần sau, chúng đưa ra những cơ hội đầu tư giả mạo. Lòng tin mà chúng đã tạo dựng được giúp xoa dịu sự nghi ngờ và khiến nạn nhân giao tiền.
Nếu người quen trên mạng yêu cầu vay tiền hoặc đề nghị đầu tư, hãy hành động dứt khoát: xác minh danh tính của họ bằng phương tiện khác, yêu cầu bằng chứng trực tiếp và từ chối mọi yêu cầu khẩn cấp. Việc thống nhất mật khẩu với các thành viên thân thiết trong gia đình có thể giúp ngăn chặn các nỗ lực đánh cắp danh tính.
Các tác nhân AI và chatbot: rủi ro trung gian mới
Các trợ lý AI có thể mắc lỗi và đề xuất các trang web lừa đảo nếu nguồn gốc chưa được gắn cờ là độc hại. Trong một thí nghiệm, một tác nhân trình duyệt đã hiểu nhầm một email đầu tư giả mạo là hợp pháp, mở trang web lừa đảo và thậm chí còn tạo điều kiện cho việc nhập thông tin đăng nhập.
Trong một trường hợp khác, một công cụ tạo website dựa trên trí tuệ nhân tạo đã thiết lập một cửa hàng trực tuyến giả mạo chỉ trong vài phút , mà một nhân viên đã truy cập để mua đồng hồ, điền thông tin vào thẻ đã lưu trong trình duyệt mà không cần xác nhận. Điều này cho thấy rằng các nhân viên ngày nay có thể hành xử như những người dùng internet nghiệp dư nếu quyền hạn của họ không bị hạn chế.
Để tránh điều này, hãy đánh giá kỹ lưỡng các đề xuất của chatbot, hạn chế quyền truy cập (tự động điền, mua hàng, mở liên kết mà không được phép) và bảo vệ trình duyệt của bạn bằng giải pháp bảo mật chặn các tên miền độc hại. Sự giám sát của con người vẫn rất cần thiết.
Các trang web lừa đảo do AI tạo ra: cách nhận dạng chúng
Hãy quên đi những trang web cồng kềnh của quá khứ: giờ đây bạn sẽ thấy HTTPS, thông báo về cookie và thiết kế trau chuốt hơn . Đó là lý do tại sao bạn nên xem xét kỹ lưỡng. Trước tiên, hãy kiểm tra URL xem có lỗi chính tả hoặc ký tự lạ nào không và kiểm tra xem tên miền đã được đăng ký bao lâu (dịch vụ WHOIS có thể giúp bạn việc này).
Thứ hai, hãy phân tích ngôn ngữ: nếu nó khiến bạn sợ hãi, buộc tội bạn, hoặc gây áp lực buộc bạn phải hành động, đó là một dấu hiệu xấu. Thứ ba, hãy bật tính năng kiểm tra liên kết trong bộ phần mềm bảo mật của bạn và chú ý đến các cảnh báo của trình duyệt về các kết nối không an toàn. Cuối cùng, hãy tìm kiếm tên trang web và so sánh URL với URL chính thức; hãy cảnh giác với các kết quả được tài trợ , đó có thể là các nỗ lực lừa đảo.
- Các loại hoặc biến thể trong tên miền, tiêu đề và nội dung.
- Miền trẻ hoặc có tiền sử không rõ ràng.
- Ngôn ngữ thao túng (sợ hãi, cấp bách, buộc tội).
- Cảnh báo trình duyệt và các chứng chỉ đáng ngờ.
AI tăng cường khả năng phòng thủ chống lừa đảo như thế nào
Trí tuệ nhân tạo ( AI) cũng có những ưu điểm riêng. Ngày nay, các hệ thống có khả năng phân tích email, URL và tệp đính kèm trong thời gian thực có thể phát hiện người gửi giả mạo, tên miền bất thường và các mẫu ngôn ngữ đặc trưng của hành vi gian lận. Xử lý ngôn ngữ tự nhiên (NLP) nhận biết giọng điệu mang tính thao túng và cấu trúc đáng ngờ , trong khi thị giác máy tính so sánh thiết kế trang web với các thực thể hợp pháp.
Tuy nhiên, thực tế là các mô hình này cần được đào tạo liên tục , có dữ liệu chất lượng và phản hồi từ con người để tránh bị lỗi thời. Một số mô hình trở thành "hộp đen" khó kiểm toán, vì vậy tính minh bạch và giám sát vẫn là yếu tố then chốt.
AI hỗ trợ các cuộc tấn công lừa đảo như thế nào
Kẻ tấn công tạo ra hàng loạt email bắt chước giọng điệu và định dạng của các thông tin liên lạc thực tế, bao gồm tên đồng nghiệp, chức danh và thông tin tham chiếu nội bộ. Chúng kết hợp điều này với việc chiếm đoạt tên miền bằng lỗi chính tả và tạo ra hàng loạt tên miền giả để lưu trữ các bản sao gần như hoàn hảo với chứng chỉ hợp lệ và thiết kế đáp ứng.
Ngoài email, chúng còn sử dụng tin nhắn lừa đảo (smishing) và tin nhắn trên nền tảng di động có giọng điệu giống như tin nhắn từ ngân hàng hoặc ứng dụng yêu thích của bạn. Trên mạng xã hội, các hồ sơ do AI tạo ra hoặc tài khoản bị đánh cắp xây dựng lòng tin trước khi bạn mắc bẫy. Các chatbot hoạt động không đúng cách duy trì các cuộc hội thoại tự nhiên để lấy thông tin.
Mô hình AI phát hiện lừa đảo: những gì ẩn chứa bên trong
Mọi thứ bắt đầu từ dữ liệu. Các mẫu thực tế về các cuộc giao tiếp lừa đảo và hợp pháp, URL độc hại và nội dung web được thu thập và gắn thẻ . Sau đó, các tín hiệu được trích xuất: cấu trúc liên kết, tên miền bất thường, các thuật ngữ lừa đảo điển hình, tiêu đề email và siêu dữ liệu.
Các mô hình này kết hợp học có giám sát, mạng nơ-ron sâu và xử lý ngôn ngữ tự nhiên để hiểu ý định và mức độ khẩn cấp hoặc thao túng của thông điệp. Một số mô hình còn tích hợp thị giác máy tính để phân tích ảnh chụp màn hình hoặc hình thức trực quan của các trang.
Trong môi trường sản xuất, việc phân loại diễn ra theo thời gian thực : hệ thống chặn các hoạt động đáng ngờ, ghi nhật ký sự kiện và học hỏi từ mọi tương tác. Việc xác thực thủ công các trường hợp báo động sai và xác nhận mối đe dọa giúp cải thiện hệ thống hơn nữa . Được tích hợp với EDR, tường lửa và hệ thống phát hiện xâm nhập, nó tạo ra một lớp bảo mật thông minh cho người dùng và tổ chức.
Đào tạo và văn hóa an toàn
Công nghệ thôi chưa đủ. Nhận thức và thói quen là yếu tố thiết yếu : xác minh thông qua các kênh thay thế, không chia sẻ dữ liệu nhạy cảm, kiểm tra liên kết, sử dụng xác thực hai yếu tố (2FA), cập nhật thiết bị và thảo luận về những rủi ro này ở nhà và nơi làm việc. Nhu cầu về các chuyên gia có khả năng thiết kế và giám sát các mô hình AI phòng thủ đang tăng nhanh.
Nếu bạn muốn tìm hiểu thêm, hãy tìm các chương trình chuyên biệt về trí tuệ nhân tạo ứng dụng trong an ninh mạng , đào tạo bạn về phát hiện bằng học sâu, phản hồi tự động và kiểm toán môi trường lai. Một cách tiếp cận thực tiễn và liên tục là điều tạo nên sự khác biệt trước những kẻ thù cũng đang học hỏi.
Rõ ràng là trí tuệ nhân tạo (AI) đã nâng tầm cả việc đánh lừa và phòng vệ: từ giọng nói giả mạo và các cửa hàng giả trông như thật, đến các hệ thống có khả năng phát hiện các mô hình mà mắt người không thể nhìn thấy. Sự kết hợp giữa xác minh đa kênh , vệ sinh kỹ thuật số, các công cụ bảo mật dựa trên AI và văn hóa hoài nghi lành mạnh là điều cho phép bạn hành động tự tin khi điều gì đó nghe có vẻ đáng ngờ, có vẻ quá khẩn cấp hoặc có vẻ quá tốt để có thể là sự thật.
Index
- 1 Các công cụ AI bị kẻ lừa đảo lợi dụng
- 2 Những vụ lừa đảo phổ biến nhất được thực hiện bởi AI
- 3 Những rủi ro chính bạn nên ghi nhớ
- 4 Dấu hiệu phát hiện lừa đảo và deepfake
- 5 Các trường hợp thực tế minh họa cho vấn đề
- 6 Làm thế nào để bảo vệ bản thân trong thực tế
- 7 Câu cá lừa đảo, lừa đảo tình cảm và cái gọi là "giết lợn"
- 8 Các tác nhân AI và chatbot: rủi ro trung gian mới
- 9 Các trang web lừa đảo do AI tạo ra: cách nhận dạng chúng
- 10 AI tăng cường khả năng phòng thủ chống lừa đảo như thế nào
- 11 AI hỗ trợ các cuộc tấn công lừa đảo như thế nào
- 12 Mô hình AI phát hiện lừa đảo: những gì ẩn chứa bên trong
- 13 Đào tạo và văn hóa an toàn