Ngày nay, với sự hỗ trợ của AI tạo sinh (GenAI), tin giả và truyền thông bẩn đã trở nên tinh vi, đa chiều và trông rất “thật”. Bài viết này sẽ phân tích 5 cách thức mà những kẻ xấu đang lợi dụng GenAI để lan truyền thông tin sai lệch một cách nhanh chóng và hiệu quả hơn bao giờ hết.

1. GenAI tạo ra các tài khoản Mạng xã hội ảo (bot) – “trông như người thật”

Ngay cả trước khi GenAI xuất hiện, việc xây dựng mạng lưới các tài khoản xã hội ảo (mạng bot) phức tạp đã có thể thực hiện trên quy mô lớn bằng cách sử dụng phương pháp machine learning (học máy). Tuy nhiên, chúng ta có thể dễ dàng nhận ra những bot này bởi những dấu hiệu sau: 

• Ảnh đại diện chung chung (hoặc không có) 

• Tất cả bài đăng được tạo cùng một ngày 

• Không có bạn bè hoặc chỉ kết bạn với những tài khoản tương tự (thậm chí giống hệt) 

• Chỉ đăng tải nội dung về một chủ đề duy nhất. 

Tuy nhiên, khi công nghệ GenAI được ứng dụng vào mạng lưới bot, mọi thứ đã hoàn toàn thay đổi. 

Thông số cơ bản nhất, ảnh đại diện, nay đã trở nên vô cùng dễ dàng để làm giả: những kẻ xấu không còn phải tốn công tìm kiếm ảnh stock hoặc đánh cắp ảnh từ người thật, vốn tiềm ẩn nhiều rủi ro bị phát hiện. Các công cụ tạo ảnh GenAI như “This Person Does Not Exist” có thể tạo ra ảnh chân dung của những người khác nhau với những đặc điểm và “khuyết điểm” độc đáo, khiến chúng trông như thật. Bằng cách này, kẻ xấu có thể tạo ra cả một cộng đồng ảo với đầy đủ giới tính, độ tuổi, màu da và quốc tịch. Thậm chí, chúng còn sử dụng “trình tạo người” GenAI để tạo ra những cái tên nghe rất thật, cùng với các thông tin cá nhân khác như ngày sinh, địa chỉ, số điện thoại, và thậm chí cả nhóm máu. 

2. GenAI có thể bịa đặt sở thích và lịch sử hoạt động

Thách thức khi tạo ra một hồ sơ giả mạo “hoàn hảo” không chỉ nằm ở tên và ảnh đại diện. Người dùng mạng xã hội ngày nay đã tinh ý hơn rất nhiều. Họ sẽ kiểm tra những dấu hiệu đáng ngờ như ngày tạo tài khoản, số lượng bạn bè và đặc biệt là lịch sử hoạt động. Một tài khoản được tạo từ 2 năm trước nhưng “nằm im” cho đến khi bất ngờ đăng bài về một vấn đề nóng hổi tuần trước chắc chắn là đáng nghi ngờ. Ngược lại, một tài khoản thường xuyên hoạt động và chia sẻ những nội dung đời thường – chẳng hạn chương trình TV yêu thích, đội bóng yêu thích, than phiền về trường lớp hay công việc – sẽ dễ dàng được tin là thật. 

Tất cả những nội dung cá nhân hóa này đều có thể được tạo ra bởi các công cụ GenAI như ChatGPT và Bard. Hơn nữa, GenAI còn có thể tạo ra cả một album ảnh với cùng một nhân vật thay vì chỉ một tấm ảnh đại diện. Chính những phương thức tinh vi này cho phép những kẻ xấu tạo ra một hồ sơ “đẹp” với đầy đủ lịch sử hoạt động cho bất kỳ tài khoản ảo nào.

3. GenAI vượt qua rào cản ngôn ngữ

Phần lớn hoạt động giả mạo online bắt nguồn từ các quốc gia mà tiếng Anh không phải là ngôn ngữ mẹ đẻ. Trước đây, để tạo ra những tài khoản mạo danh người Mỹ, kẻ xấu cần phải có trình độ tiếng Anh khá tốt và phải tìm hiểu kỹ về văn hóa và tiếng lóng của người bản địa (hãy thử tưởng tượng một người Mỹ “giả” sử dụng văn phong và tiếng lóng của người Anh). 

Tuy nhiên, ngay từ những ngày đầu, các mô hình văn bản GenAI đã dễ dàng vượt qua rào cản ngôn ngữ này. Giờ đây, những kẻ xấu chỉ cần sử dụng tiếng Anh ở mức trung bình, thậm chí cơ bản, là đã có thể viết, chỉnh sửa và biến hóa văn bản sao cho tự nhiên và giống với người bản xứ. Các mô hình GenAI thậm chí còn am hiểu tiếng lóng và những sắc thái ngôn ngữ khác, và có thể linh hoạt lồng ghép chúng vào trong văn bản. 

Ví dụ, hãy cùng xem đoạn văn bạn vừa đọc được ChatGPT “chuyển ngữ” sang văn phong Anh-Anh: 

Và đây là phiên bản Anh-Mỹ với những khác biệt vô cùng tinh tế: 

GenAI có thể phá bỏ rào cản của bất kỳ ngôn ngữ nào. Hơn thế nữa, kho dữ liệu khổng lồ của nó cho phép kiểm tra và điều chỉnh thông điệp theo mọi văn phong và giọng điệu, từ đó cá nhân hóa thông điệp và tạo dựng lòng tin nơi người đọc.

4. GenAI có thể xây dựng một cộng đồng ảo

Một chiến dịch tin giả hiệu quả không chỉ dựa vào số lượng lớn các tài khoản ảo được đầu tư kỹ lưỡng. Đó còn là về mối liên kết giữa chúng. Ở giai đoạn đầu của chiến dịch, các tài khoản giả mạo sẽ tương tác với nhau và với cả những tài khoản thật, lợi dụng thuật toán để khuếch đại và lan truyền thông điệp. 

Việc triển khai GenAI đã tạo ra bước ngoặt lớn trong khả năng này của các mạng lưới bot: nơi mà trước đây một tài khoản giả sẽ nhảy vào cuộc trò chuyện với những bình luận không liên quan đến chủ đề hoặc những đường link không rõ ngữ cảnh. Giờ đây, chúng có thể sử dụng chính mô hình GenAI để phân tích câu hỏi của người dùng và đưa ra câu trả lời phù hợp, khiến cho các cuộc trò chuyện trở nên logic và mạch lạc hơn. Kết quả là người dùng thật không muốn lãng phí thời gian tranh luận với bot, trong khi các bot tiếp tục tương tác với nhau không ngừng nghỉ, tạo ra một luồng thông tin sai lệch khép kín và ngày càng được khuếch đại.

5. GenAI tạo ra nhiều tầng nội dung

Bất kỳ kẻ xấu nào cũng hiểu rằng một chiến dịch thông tin sai lệch không bao giờ đơn độc. Nó chỉ là một phần của một chiến lược bài bản hơn, nhằm hạ bệ uy tín của một công ty, tác động đến kết quả bầu cử, hoặc thay đổi dư luận về một vấn đề nào đó. Để làm được điều này, chiến dịch cần phải được tạo thêm rất nhiều nội dung, ví dụ như trang blog giả, tạp chí, website tin tức,… nhằm củng cố cho thông tin sai lệch mà chúng muốn lan truyền. Và GenAI chính là công cụ đắc lực để làm điều đó. Chỉ trong tích tắc, các công cụ tạo văn bản GenAI có thể cho ra đời hàng trăm bài báo, câu chuyện, mẩu tin sai sự thật mà không cần đến bất kỳ “nhà văn” nào. 

Tài khoản giả mạo có thể lan truyền tin giả, gieo rắc hoang mang, nghi ngờ và gây chia rẽ trong xã hội. Tuy nhiên, khi kết hợp với một trang web được tạo bởi GenAI nhưng trông hợp pháp và đầy tính xác thực, chúng sẽ trở thành một vũ khí đáng gờm của các loại thông tin sai lệch. 

Loạt bài viết này của Cyabra đi sâu vào những nguy cơ tiềm ẩn của GenAI, đồng thời nhấn mạnh tầm quan trọng của việc sử dụng các công cụ SOCMINT và OSINT tiên tiến để giám sát mạng xã hội, phát hiện nội dung GenAI và xác định tài khoản giả mạo. Đây là phần 2 trong chuỗi bài viết, phân tích lý do tại sao loại công nghệ mới này lại trở thành công cụ đắc lực cho những mục đích xấu. Trong phần trước, chúng ta đã cùng tìm hiểu sức hấp dẫn của GenAI đối với những kẻ xấu, cũng như mối liên hệ giữa GenAI và 3 yếu tố cốt lõi (ABC) của thông tin sai lệch (Actors – tác nhân, Behaviour – hành vi, Content – nội dung). Hãy liên hệ với Cyabra để tìm hiểu thêm. 

Như mọi khi, chúng tôi khuyến khích bạn sử dụng công cụ miễn phí botbusters.ai của Cyabra để phát hiện văn bản và hình ảnh được tạo bởi GenAI, đồng thời xác định các tài khoản giả mạo.