Trí tuệ nhân tạo (AI) đang tiềm ẩn nguy cơ bị lợi dụng để thực hiện hành vi phạm pháp. Ảnh: BA

Nắm bắt được tâm lý người dùng mạng xã hội hiện nay đã cảnh giác với thủ đoạn lừa đảo bằng tin nhắn nhờ chuyển tiền, các đối tượng tội phạm công nghệ cao chuyển sang sử dụng thủ đoạn tinh vi hơn. Đó là, lợi dụng công nghệ Deepfake làm giả cuộc gọi video nhằm chiếm đoạt tài sản.

Deepfake là công nghệ ứng dụng AI tạo ra các sản phẩm công nghệ âm thanh, hình ảnh và video làm giả đối tượng ngoài đời thực với độ chính xác rất cao. Dựa trên tệp tin hình ảnh khuôn mặt, giọng nói của một người ngoài đời thực, Deepfake sẽ sử dụng thuật toán để tái tạo lại khuôn mặt và giọng nói phù hợp với nét mặt, biểu cảm của một người khác. Sau đó, tạo ra video giả mạo hoàn toàn đối tượng ngoài đời thực.

Thông qua mạng Internet, các đối tượng thu thập hình ảnh, giọng nói của người dùng trên mạng xã hội, sử dụng công nghệ Deepfake tạo ảnh động, video giả mạo người dùng đang nói chuyện trực tuyến với cùng khuôn mặt, âm điệu giọng nói và cách xưng hô. Hoặc tạo lập tài khoản giả mạo trên mạng xã hội trùng thông tin và ảnh đại diện với người dùng, sau đó kết bạn với mọi người trong danh sách bạn bè và nhắn tin vay mượn tiền theo kịch bản sẵn có. Để tạo lòng tin với nạn nhân, đối tượng truyền tải Deepfake video sẵn có lên kênh video call, khiến nạn nhân nhận ra hình ảnh và giọng nói của người quen và nhanh chóng chuyển tiền theo yêu cầu của đối tượng.

Theo Công an TP Hà Nội, ứng dụng Deepfake dựa trên các thuật toán AI để làm ra các video giả mạo có độ chính xác cao, rất khó phân biệt thật giả. Tuy nhiên, video do đối tượng tạo sẵn thường có nội dung chung chung, không phù hợp hoàn toàn với ngữ cảnh thực tế giao tiếp với nạn nhân, có thể khiến nạn nhân nghi ngờ, phát hiện. Để che lấp khuyết điểm trên, các đối tượng thường tạo ra video với âm thanh khó nghe, hình ảnh không rõ nét giống cuộc gọi video có tín hiệu chập chờn được thực hiện trong khu vực sóng di động, wifi yếu.

Kết hợp với việc lợi dụng công nghệ AI, tội phạm công nghệ cao còn mở tài khoản tại ngân hàng trùng tên với người bị giả mạo nhằm tăng sự tin tưởng cho nạn nhân khi chuyển khoản.

Theo Ngân hàng TMCP Bưu điện Liên Việt (Lienvietpostbank), đối tượng lừa đảo thu thập thông tin của khách hàng, sau đó lập tài khoản mạng xã hội (Facebook, Zalo…) có ảnh đại diện, tên tài khoản, hình nền giống với người bị mạo danh, rồi nhờ một người có tên tương tự để mở tài khoản ngân hàng trùng với người bị giả mạo.

Sau khi kết bạn với mọi người trong danh bạ, đối tượng giả mạo sẽ nhắn tin, sử dụng công nghệ AI để làm giả cuộc gọi video hình ảnh với nội dung hỏi vay tiền gấp, cần tiền chữa bệnh… Đồng thời, các đối tượng sẽ gửi số tài khoản có tên chủ tài khoản trùng với tên người bị mạo danh, khiến nhiều người tin tưởng và chuyển tiền đến tài khoản đó.

Thủ đoạn lừa đảo mới này khiến nhiều người mất tiền oan vì cuộc gọi video hiện lên đúng ảnh đại diện, chủ tài khoản mở tại ngân hàng thì đúng tên với bạn bè, người thân của mình.

Bên cạnh việc lợi dụng tính ưu việt của AI cho mục đích lừa đảo, các đối tượng còn sử dụng sản phẩm công nghệ cao này vào các mục đích tuyên truyền, chống phá Đảng và Nhà nước. Như phần mềm Chat GPT (tên gọi đầy đủ là Chat Generative Pre-training Transformer) là một công cụ Chatbot AI do Công ty Nghiên cứu AI OpenAI tạo ra, phát hành ngày 30/11/2022, được xem như một công cụ có thể trò chuyện, trả lời các câu hỏi đưa ra.

Theo Công an tỉnh Vĩnh Phúc, ngoài những tác động tích cực mà ChatGPT mang lại, thì đây cũng chính là “mảnh đất” màu mỡ để các tổ chức, đối tượng phản động lợi dụng ứng dụng để cắt ghép, xuyên tạc, bôi nhọ Đảng, Nhà nước và các vấn đề chính trị của đất nước.

ChatGPT được xem là ứng dụng mới, chưa hoàn thiện, thường “người máy” thì trả lời mang tính số hóa, toán học nên nhiều vấn đề về chính trị, văn hóa, nghệ thuật, đạo đức, nhất là vấn đề liên quan văn hóa từng dân tộc thì không thể dựa theo ChatGPT. Chưa kể, câu trả lời sẽ khác nhau khi cùng nội dung hỏi nhưng cách hỏi, đặt câu khác nhau, thủ thuật hỏi nhằm “đánh lừa” ChatGPT. Do đó, cơ quan chức năng khuyến cáo người sử dụng ChatGPT phải tự trang bị cho mình vốn kiến thức cần thiết để có thể sàng lọc được những thông tin chưa chính xác.

Trong bối cảnh ChatGPT chưa được chính thức cung cấp tại Việt Nam thì những thông tin mà các thế lực phản động lấy dẫn chứng đưa lên chỉ là thông tin xấu độc, sai sự thật, cố tình làm ảnh hưởng đến an ninh, trật tự và văn hóa trên không gian mạng.