Những kẻ lừa đảo ngày càng tận dụng trí tuệ nhân tạo để tạo ra các video tin tức giả mạo như một phương tiện tống tiền cá nhân. Những video deepfake này, được thiết kế để xuất hiện dưới dạng chương trình phát sóng tin tức hợp pháp, vu khống nạn nhân về nhiều tội ác khác nhau và yêu cầu thanh toán để ngăn chặn việc phát tán các clip phỉ báng này. Theo Wired, chiến thuật này thể hiện sự tiến hóa tinh vi của tội phạm mạng, kết hợp đổi mới công nghệ với thao túng tâm lý để ép buộc nạn nhân tuân thủ.

Sự xuất hiện của các video tin tức giả mạo do AI tạo ra:

Các báo cáo gần đây đã nêu bật sự gia tăng trong việc sử dụng nội dung do AI tạo ra bởi tội phạm mạng, đặc biệt là trong các nhóm được gọi là Yahoo Boys ở Tây Phi. Những kẻ lừa đảo này sử dụng AI để tạo ra các video có vẻ ngoài chân thực bắt chước các tổ chức tin tức có uy tín, chẳng hạn như CNN, hoàn chỉnh với logo và thương hiệu xác thực.

Trong các video này, người dẫn chương trình tin tức do AI tạo ra trình bày những câu chuyện bịa đặt cáo buộc nạn nhân phạm các tội nghiêm trọng, bao gồm cả tấn công tình dục. Việc đưa vào các thông tin cá nhân và hình ảnh của nạn nhân làm tăng độ tin cậy của các báo cáo gian lận này. Lừa đảo AI: Kết hợp giữa các lực lượng kỹ thuật và tâm lý

Hiệu quả của những vụ lừa đảo này phụ thuộc vào cả công nghệ tiên tiến và thao túng tâm lý.

Deep fake - tạo video tin tức giả mạo

Các khía cạnh kỹ thuật:

Nội dung do AI tạo ra: Kẻ lừa đảo sử dụng các công cụ AI để tạo video tổng hợp có sự góp mặt của người dẫn chương trình đưa tin có kịch bản, tường thuật sai sự thật. Các công cụ này có thể tạo ra hình ảnh và âm thanh cực kỳ chân thực, khiến nạn nhân khó có thể phân biệt được bản chất không chân thực của nội dung.

Bắt chước thương hiệu: Bằng cách kết hợp logo, bố cục và phong cách trình bày của các hãng tin đã thành danh, các video có được vẻ hợp pháp, làm tăng khả năng lừa dối nạn nhân.

Thao túng tâm lý

Gây ra sự hoảng loạn và cấp bách: Việc trình chiếu đột ngột một video cáo buộc nạn nhân về một hành vi tàn ác sẽ gây ra nỗi sợ hãi và lo lắng ngay lập tức.

Lợi dụng nỗi sợ về danh tiếng: Mối đe dọa chia sẻ video bịa đặt với nhóm xã hội của nạn nhân hoặc công chúng lợi dụng nỗi sợ bị kỳ thị và tổn hại danh tiếng của cá nhân.

Áp lực phải tuân thủ: Sự kết hợp giữa tính cấp bách và mối đe dọa cá nhân buộc nạn nhân phải tuân thủ các yêu cầu của kẻ lừa đảo, thường dẫn đến tổn thất tài chính.

Các biện pháp bảo vệ và nhận thức

Để bảo vệ chống lại các vụ lừa đảo tinh vi như vậy, mọi người được khuyên nên thận trọng khi tham gia vào các tương tác trực tuyến. Điều quan trọng là phải xác minh tính xác thực của các thông tin liên lạc bất ngờ, đặc biệt là những thông tin gây ra nỗi sợ hãi hoặc tính cấp bách. Sử dụng cài đặt quyền riêng tư trên các nền tảng truyền thông xã hội có thể hạn chế lượng thông tin cá nhân mà những kẻ lừa đảo tiềm năng có thể truy cập. Ngoài ra, việc luôn cập nhật thông tin về các kỹ thuật lừa đảo mới nhất có thể nâng cao khả năng nhận biết và tránh trở thành nạn nhân của các chiến thuật độc hại như vậy.

Khi công nghệ AI tiếp tục phát triển, các phương pháp mà tội phạm mạng sử dụng cũng vậy. Luôn cảnh giác và cập nhật thông tin là điều cần thiết để điều hướng bối cảnh kỹ thuật số ngày càng phức tạp này.

(Nguồn: https://hoinhabao.vn/Nhan-dien-tin-gia-tao-boi-AI-_bv-76745)