'20 phút kinh hoàng' và những cuộc gọi giả mạo giọng nói

Đầu năm nay, Benz, 56 tuổi, sống ở Buffalo, New York, giật mình tỉnh giấc trong đêm bởi một cuộc gọi từ số lạ. Đầu dây bên kia là giọng nói giống Fred, con trai bà, đang cầu cứu.

Ngay sau đó, bà nhận thông báo rằng bạn của Fred đã bị bắn chết, còn Fred bị bắt làm con tin. Người này yêu cầu mang tiền mặt đến một cửa hàng Walmart gần đó để chuộc người. Cuộc gọi dài khoảng 20 phút, và Benz đã nghĩ đến "tình huống xấu nhất".

Tuy nhiên, bà thở phào sau đó khi thấy Fred đăng lên mạng xã hội ảnh selfie đang xem bóng đá với bạn bè tại một quán cà phê địa phương và nhận ra mình vừa bị cuốn vào một trò lừa đảo tinh vi.

"Tôi không thể ngờ mình lại được nghe giọng của Fred, và cũng không thể tin đây là trò lừa cho đến khi tận mắt nhìn thấy con trai", bà nói với AFP, giọng run run. "Đó là 20 phút kinh hoàng".

Không may mắn như Benz, bà Deborah Del Mastro, 60 tuổi, sống ở khu vực Vịnh San Francisco, đã mất hàng nghìn USD vì lừa đảo. Kể với ABC7 News, bà cho biết đã nhận cuộc gọi từ số lạ vào một buổi sáng tháng 5.

"Một giọng nam hỏi tên tôi, sau đó nói con gái Sarah đã bị một băng đảng ma túy Mexico bắt cóc do 'nhìn thấy thứ không nên thấy'. Để thêm phần tin tưởng, hắn ta cho tôi nghe giọng Sarah đang la hét, hoảng loạn", Mastro kể lại.

Vì lo sợ tính mạng con gái bị ảnh hưởng, bà Mastro làm theo những gì được yêu cầu trong suốt 5 tiếng, như chuyển 5.400 USD đến Mexico để Sarah "được thả tại một tiệm tạp hóa gần nhà". Sau khi chuyển tiền và đến nơi hẹn, bà không thấy ai. Gọi cho Sarah, bà mới biết con gái vẫn đang ở chỗ làm.

"Toàn bộ những gì đã diễn ra là một chuỗi lừa đảo, nhưng tâm trí hoảng loạn khiến tôi quên việc xác minh với chính con gái mình. Không thể tin nổi", bà chia sẻ.

Theo Erin West, chuyên gia của tổ chức chống lừa đảo trực tuyến toàn cầu Operation Shamrock, với sự bùng nổ của công cụ bắt chước âm thanh và video AI, kẻ gian giờ đây dễ dàng tái tạo giọng nói của một người chỉ bằng cách thu thập dữ liệu từ video trên mạng xã hội hoặc qua các cuộc gọi điện thoại.

"AI đang tạo nên đại dịch lừa đảo", West nói với ABC7 News. "Tình hình chỉ ngày càng tồi tệ hơn, và sẽ tiếp tục xấu đi khi AI và deepfake hoàn thiện đến mức không thể nhận biết".

Thống kê từ Cục điều tra Liên bang Mỹ (FBI) công bố hồi tháng 4 cho thấy, người Mỹ mất hơn 893 triệu USD năm ngoái do lừa đảo liên quan đến AI, chủ yếu thông qua gọi điện giả dạng, gửi email và trò lừa tình cảm. Con số này được dự đoán tăng mạnh thời gian tới khi ứng dụng sao chép giọng nói AI ngày càng dễ tiếp cận.

Theo TechCrunch, chỉ cần một lệnh tìm kiếm trên Internet, người dùng lập tức nhận về hàng loạt đề xuất ứng dụng sao chép giọng nói, nhiều trong số đó miễn phí. Những app này có thể sử dụng đoạn mẫu âm thanh ngắn từ giọng nói thật của một người và tái tạo y hệt.

"Trước đây, việc thực hiện rất khó khăn, nhưng giờ ai cũng làm được trong vài giây", Brian Long, CEO Adaptive Security, công ty chuyên cung cấp khóa đào tạo về bảo vệ và chống gian lận bằng AI, cho biết.

Theo ông, công cụ AI hiện có thể xây dựng toàn bộ kịch bản lừa đảo một cách bài bản thông qua những đoạn âm thanh thu thập trên mạng xã hội, bản ghi âm thư thoại, video, thậm chí phân tích tính cách nạn nhân qua bài viết chia sẻ công khai, sau đó đưa ra đề xuất cho kẻ gian. Người lớn tuổi thường bị nhắm đến đầu tiên, bởi họ không am hiểu công nghệ như nhóm tuổi trẻ hơn.

Khi đã có kịch bản, chúng triển khai cách thức quen thuộc: một cuộc gọi đầy cảm xúc, gấp gáp như có người thân bị tai nạn, bị bắt cóc hoặc vướng vào vụ phạm tội, sau đó đề xuất chuyển tiền. Để khiến nạn nhân không đủ thời gian kiểm tra sự thật, chúng sẽ gây áp lực bằng cách để đồng bọn đóng giả luật sư, thư ký tòa án hoặc nhân viên ngân hàng.

"Một giọng nói cầu cứu kiểu 'mẹ ơi, giúp con với' hay 'bố ơi, con bị tai nạn' nghe có vẻ đáng tin trong vài giây là đủ. Mục tiêu không phải sao chép giọng sao cho thật nhất, mà là tạo ra đủ sự bất an và cấp bách về mặt cảm xúc để nạn nhân hành động trước khi xác minh", Amit Gupta, Phó chủ tịch phụ trách quản lý sản phẩm tại công ty an ninh mạng Pindrop, giải thích.

"Không có thời gian để suy nghĩ", Gary Schildhorn, một luật sư ở Philadelphia từng là nạn nhân của lừa đảo bằng giọng nói, kể với CNN. "Tất cả chỉ là: Tôi phải phản ứng để giúp con trai mình. Nó đang gặp nguy hiểm".

GS Hany Farid, giảng dạy tại UC Berkeley và Giám đốc khoa học của công ty bảo mật GetReal Security, cho rằng những năm trước, các yếu tố như ngữ điệu, khoảng lặng "kỳ lạ" hoặc sự biến đổi giọng nói bất thường là cách nhận biết âm thanh do AI tạo ra. Nhưng với sự tiến bộ của hiện nay, dấu hiệu này gần như biến mất.

Do đó, theo Farid, thay vì cố gắng xác định xem giọng nói đó có thật hay không, mọi người nên chuyển sang những dấu hiệu khác. "Người ở đầu dây kia có đang đưa ra thời hạn hoặc tạo cảm giác khẩn cấp không? Họ có đang yêu cầu bạn không được tiết lộ cho ai khác biết chuyện không? Họ có nói bạn chuyển một khoản tiền lớn bất thường không? Đó là những loại câu hỏi bạn cần ghi nhớ trong mọi cuộc gọi nếu muốn nhận biết lừa đảo", Farid khuyến cáo.

Henry Ajder, một chuyên gia truyền thông và từng làm cố vấn trong chính phủ Mỹ, khuyên mỗi người nên cố gắng phát triển "hệ thống mật mã" trong các mối quan hệ của mình. Chẳng hạn, nên sử dụng một từ hoặc cụm từ chỉ hai hoặc nhóm nhỏ biết với nhau, không tìm thấy bất cứ nơi nào khác.

Với Mastro, sau những gì đã diễn ra, bà cho rằng bước xác thực quan trọng nhất là gọi ngay cho con gái bằng số liên lạc thường dùng, hạn chế nghe số điện thoại lạ, đồng thời các thành viên khác trong gia đình cũng cài ứng dụng chia sẻ vị trí cho nhau. Bà không mong nhận lại số tiền bị lừa, nhưng muốn cảnh báo mọi người nên bình tĩnh trước mọi tình huống.

"Hãy để trải nghiệm kinh hoàng của tôi trở thành lời cảnh tỉnh cho tất cả. Hãy đặt câu hỏi thay vì làm theo", Mastro nói thêm.

Nguồn: vnexpress.net