Sử dụng giọng nói giả do AI dựng nên, kẻ gian giả vờ làm chủ tịch lừa mất 5,5 tỷ đồng

Sử dụng giọng nói giả do AI dựng nên, kẻ gian giả vờ làm chủ tịch lừa mất 5,5 tỷ đồng - Ảnh 1.

Tháng Ba năm nay, nước Anh chứng kiến một vụ lừa đảo nghiêm trọng: CEO của một công ty năng lượng lớn tưởng như mình đang làm theo lệnh của cấp trên, chuyển hàng ngàn bảng Anh cho một bên thứ ba khác. Hóa ra giọng nói ra lệnh ấy khởi đầu từ một cỗ máy, một hệ thống trí tuệ nhân tạo giả giọng nói do kẻ lừa đảo tạo nên.

Theo báo cáo từ Wall Street Journal (WSJ), giám đốc chi nhánh đã tưởng mình nhận cuộc gọi từ chủ tịch của doanh nghiệp mẹ đặt tại Đức. Giọng nói Đức ấy đã yêu cầu chuyển 220.000 bảng Anh (tương đương 243.000 USD) cho một đầu mối hàng hóa tại Hungary. Euler Hermes Group SA, đơn vị bảo hiểm cho doanh nghiệp bị hại cung cấp tin vụ việc nhưng từ chối chỉ đích danh ai đã mắc lừa.

Chuyên gia phát hiện lừa đảo Rüdiger Kirsch nói với WSJ rằng nạn nhân tưởng người gọi chính là người chủ của mình do người ở đầu dây bên kia có giọng Đức và có những “âm điệu” rất giống với CEO của doanh nghiệp mẹ. Đây là lần đầu tiên Euler Hermes phải đối diện với một vụ lừa đảo sử dụng công nghệ tiên tiến theo mô hình giả giọng nói.

Nạn nhân nhận được tổng cộng 3 cuộc gọi. Một khi giao dịch diễn ra sau cuộc gọi đầu tiên, nạn nhân nhận thêm một cuộc gọi nữa để báo tin (sai sự thật) rằng tiền đã bị hoàn trả. Rồi tên hacker gọi cuộc điện thoại thứ ba, yêu cầu chuyển đi một số tiền nữa. Giọng nói vẫn vậy, nhưng khi nhận thấy số điện thoại có nguồn gốc từ Áo, rồi kiểm tra thấy không có thông báo hoàn tiền nào, nạn nhân đã đặt dấu hỏi và không thực hiện yêu cầu chuyển tiền lần hai.

Những tháng gần đây, công nghệ giả giọng nói đã hoàn thiện hơn trước nhiều. Một số ví dụ được tung ra gần đây khiến người ta không khỏi hoài nghi tương lai của Internet sẽ ra sao; công ty nghiên cứu AI Dessa mới công bố giọng giả của Joe Rogan , một nghệ sĩ hài độc thoại và một người làm podcast nổi tiếng trên YouTube, nghe giống Joe Rogan thật một cách đáng kinh ngạc.

Những người thường xuyên xem chương trình của Joe Rogan cũng khó lòng phân biệt đâu là phiên bản thật.

Sử dụng giọng nói giả do AI dựng nên, kẻ gian giả vờ làm chủ tịch lừa mất 5,5 tỷ đồng - Ảnh 2.

Joe Rogan.

Lại nói về doanh nghiệp bị lừa tiền. Họ lần dấu được tiền tới một tài khoản Hungary, rồi phát hiện thấy nó đã được chuyển tới Mexico rồi chia tới một loạt các ngân hàng nhỏ khác nằm rải rác khắp nơi. Chưa xác nhận được ai là kẻ đứng sau màn lừa đảo công nghệ tiên tiến này.

Dessa cũng đưa lời cảnh báo:

Một vài năm tới (thậm chí có thể sớm hơn), chúng ta sẽ thấy công nghệ cao tới mức sẽ cần vài giây giọng nói để tái dựng một giọng giả y như thật của trên hành tinh này”.

Đáng tiếc là cảnh báo trên có mặt trên thị trường hai tháng sau khoản thời gian vụ lừa đảo bằng giọng nói giả diễn ra.

Công nghệ, hay cụ thể là khả năng của trí tuệ nhân tạo, quả là con dao hai lưỡi. Hẳn đây là một phần những lo ngại của Elon Musk.

‘Người nguy hiểm nhất hành tinh Mark Zuckerberg nên bị bỏ tù’

Nguồn: GameK