Theo các chuyên gia về an ninh mạng, các chatbot - ứng dụng trò chuyện tự động trên mạng - có thể làm tăng mạnh các nguy cơ người dùng bị lừa đảo. Cảnh báo này được đưa ra đặc biệt mạnh mẽ kể từ khi công cụ dựa trên trí tuệ nhân tạo ChatGPTđược đưa vào sử dụng.
Công ty tư vấn an ninh mạng WithSecure của Phần Lan cho rằng, việc người ta dễ dàng sử dụng ChatGPT và các mô hình ngôn ngữ lớn tương tự có thể tạo nên những nội dung độc hại, kể cả dưới hình thức thư điện tử, một cách đơn giản hơn nhiều so với trước đây.
"Nghiên cứu của chúng tôi phát hiện một lượng lớn các trường hợp sử dụng các mô hình ngôn ngữ lớn có thể gây hại" - ông Andrew Patel, Nhà nghiên cứu trí tuệ nhân tạo của Công ty WithSecure, cho biết.
Các thử nghiệm của công ty WithSecure tập trung vào việc sử dụng trí tuệ nhân tạo (AI) để tạo nên các nội dung độc hại như các dòng Tweet khiêu khích trên Twitter, tin giả, các vụ tấn công lừa lấy thông tin cá nhân và các thẩm định xã hội giả mạo.
Một ví dụ là các nhà nghiên cứu của WithSecure đã thử nghiệm việc tạo nên một loạt các dòng đăng và bình luận giả mạo bằng các ứng dụng AI nhằm khuyến khích một trò thử thách trên YouTube.
"Chúng tôi đã yêu cầu ứng dụng GPT 3 tạo ra các nội dung kêu gọi người tham gia trò thử thách Tide Pod, tức là ăn viên bột giặt Tide Pod, rồi chúng tôi lại yêu cầu ứng dụng này tạo ra các trả lời, bình luận giả là những người dùng đã tham gia thử thách này đã ăn viên bột giặt, kể lại trải nghiệm của mình. Sau đó, chúng tôi lại yêu cầu ứng dụng cảm ơn các bình luận ấy và đề nghị họ kêu gọi bạn bè tham gia thử thách" - ông Andrew Patel chia sẻ về thử nghiệm.
Chỉ cần làm vậy cũng có thể khiến trẻ em không thể nhận ra được là toàn bộ chuỗi trò chuyện trên mạng ấy là giả mạo từ đầu đến cuối. Theo ông Andrew Patel, khi mà bạn nhìn thấy một bài đăng nhận được rất nhiều tương tác, những tương tác tích cực thì bạn sẽ dễ nghĩ là thông tin trong bài đăng ấy là thật. Vậy mà chúng ta lại có thể dùng các ứng dụng AI để tạo nên tất cả chuỗi nội dung ấy, cả bài đăng gốc lẫn các trả lời, bình luận mặc dù chẳng có một người thực sự nào tham gia cả.
Do đó, các chuyên gia của WithSecure khuyên rằng, tất cả chúng ta hãy luyện kỹ năng kiểm tra thông tin, thẩm định những gì mình đọc trên mạng.
"Chúng ta sẽ phải cần đến phần mềm phát hiện Phishing (các vụ tấn công lừa lấy thông tin cá nhân) nhưng chúng ta cũng phải hiểu biết hơn, ví dụ như di chuột bên trên các đường link để xem địa chỉ của nó có phải là địa chỉ tin cậy không. Bạn phải xem địa chỉ email có đúng là từ người mà bạn đang chờ gửi thư không, hỏi lại họ xem có đúng là họ gửi cho bạn email đó không. Với mạng xã hội cũng vậy. Nếu thấy một bài đăng có vẻ là sự thật thì cũng phải kiểm chứng lại các thông tin. Nhiều người thích chia sẻ các bài đăng vì thấy hợp với quan điểm của mình nhưng không hề kiểm chứng thông tin" - ông Andrew Patel nhấn mạnh.