Mạng xã hội sắp trải qua các cuộc tấn công hàng loạt của các tác nhân AI, cảnh báo các nhà khoa học

Tấn công hàng loạt của các bot AI: mối đe dọa mới cho mạng xã hội

Trong tương lai gần, trên các mạng xã hội có thể xuất hiện những chiến dịch quy mô lớn do các bot trí tuệ nhân tạo (AI) tổ chức. Những bot này sẽ mô phỏng hành vi của con người thực và sử dụng xu hướng tâm lý “độ khôn ngoan của đa số” để thao túng dư luận. Kết quả là họ có thể:

* Phổ biến thông tin sai lệch
* Áp lực lên cá nhân dùng mạng
* Ảnh hưởng đến quá trình chính trị

Do đó, các bot AI có thể trở thành một loại vũ khí mới trong các cuộc chiến tranh thông tin.

Cách hoạt động của các bot tương lai
Giáo sư người Na Uy Jonas Kunnest cảnh báo rằng các bot AI sẽ:

1. Học theo con người – hoạt động của họ trông tự nhiên, vì vậy khó phát hiện được.
2. Tạo ảo giác đám đông – mọi người sẽ theo “độ khôn ngoan”, nhưng thực tế điều đó do một nhà điều khiển vô danh (cá nhân, nhóm, đảng chính trị, công ty hoặc quan chức nhà nước) kiểm soát.
3. Theo dõi những người từ chối tham gia – bot có thể áp đảo lập luận phản biện và tăng cường câu chuyện của riêng mình.

Mặc dù chưa có thời gian cụ thể cho sự xuất hiện của “robot” như vậy, nhưng các chuyên gia cho rằng chúng đã được triển khai ở một số nơi. Mối đe dọa càng lớn khi hệ sinh thái kỹ thuật số yếu đi do mất đi cuộc tranh luận hợp lý và sự bất định chung về thực tại trong cộng đồng người dân.

Từ bot đơn giản đến phức tạp
* Các bot cơ bản đã chiếm hơn một nửa lưu lượng web. Chúng chỉ thực hiện các nhiệm vụ cơ bản: đăng tin nhạt, nhưng dễ bị phát hiện nếu có nhà điều khiển.
* Bot AI dựa trên mô hình ngôn ngữ lớn sẽ phức tạp hơn nhiều.
* Thích nghi với cộng đồng cụ thể.
* Tạo ra nhiều “đặc tính” với bộ nhớ và bản sắc.
* Tự tổ chức, học hỏi và chuyên môn hóa trong việc khai thác điểm yếu con người.

Kunnest so sánh chúng như một “sinh vật tự cung tự cấp”, có khả năng phối hợp hành động mà không cần can thiệp liên tục của con người.

Những dấu hiệu đầu tiên đã xuất hiện
Năm ngoái, ban quản trị Reddit công bố kiện tụng chống lại các nhà nghiên cứu sử dụng chatbot để thao túng dư luận 4 triệu người dùng. Kết quả cho thấy câu trả lời AI thuyết phục gấp ba đến sáu lần so với bài đăng của con người thực.

* Quy mô tấn công phụ thuộc vào sức mạnh tính toán của kẻ xấu và khả năng nền tảng chống lại họ.
* Ngay cả một số lượng nhỏ các tác nhân cũng có thể gây ảnh hưởng đáng kể trong cộng đồng địa phương, vì những thành viên mới sẽ bị nghi ngờ.

Những gì quản trị mạng xã hội có thể làm
1. Tăng cường xác thực – yêu cầu chứng minh người dùng là con người (không phải giải pháp hoàn hảo nhưng sẽ làm khó kẻ xấu).
2. Quét lưu lượng thời gian thực – phát hiện bất thường thống kê và sai lệch so với hành vi bình thường.
3. Thành lập cộng đồng chuyên gia – kết hợp các chuyên gia và tổ chức để giám sát tấn công, phản ứng và nâng cao nhận thức công chúng.

Bỏ qua những biện pháp này có thể dẫn đến sự cố nghiêm trọng trong cuộc bầu cử và các sự kiện quan trọng khác.

Kết luận
Tấn công hàng loạt của bot AI không còn là vấn đề lý thuyết thuần túy. Chúng đại diện cho một mối đe dọa thực sự đối với trao đổi thông tin minh bạch, nền dân chủ và ổn định xã hội. Để bảo vệ mình, các nền tảng và người dùng cần tích cực triển khai công nghệ phát hiện mới, cũng như nâng cao mức độ tư duy phản biện trong cộng đồng.