ChatGPT đang phải đối mặt với một mối nguy hiểm mới từ các tin tặc mạng. Các tin tặc đã tạo ra các bot có khả năng truy cập vào API GPT-3 của OpenAI và thay đổi mã nguồn của nó. Mục đích của họ là để ChatGPT sinh ra nội dung độc hại, như văn bản lừa đảo và mã độc.
Đây là kết quả của một nghiên cứu do công ty Checkpoint tiến hành. Họ đã phát hiện ra cách các tin tặc có thể lợi dụng lỗ hổng trong API GPT-3 để kiểm soát ChatGPT.
ChatGPT đang bị đe dọa bởi các tin tặc mạng. Họ đã tạo ra các bot trên ứng dụng Telegram để hack vào API GPT-3 của OpenAI và làm cho ChatGPT sinh ra nội dung độc hại.
ChatGPT có thể học từ những lời nhắn của người dùng và tránh những nội dung xúc phạm hoặc không phù hợp. Nhưng các tin tặc đã vượt qua sự kiểm soát này và khiến ChatGPT tạo ra những văn bản có thể dùng cho mục đích lừa đảo hoặc mã độc.
Công ty Checkpoint đã nghiên cứu và phát hiện ra cách các tin tặc làm điều này. Họ cũng đã chia sẻ một số mẹo và ví dụ về cách sử dụng bot để tạo ra nội dung xấu. Họ cũng đã đăng tải một tập lệnh trên GitHub để giúp người dùng giả mạo doanh nghiệp hoặc cá nhân, tạo email lừa đảo và chèn liên kết lừa đảo vào email.
Đây là một mối nguy hiểm lớn cho các trình tạo văn bản AI trong tương lai, khi nhiều công ty lớn đang sử dụng công nghệ này. Ví dụ, Microsoft Bing tích hợp ChatGPT vào trình duyệt của mình
ChatGPT vẫn miễn phí cho người dùng, trừ khi họ muốn đăng ký ChatGPT Plus để có được những ưu tiên. Nhưng đây không phải là lần đầu tiên ChatGPT bị lợi dụng. Trước đó, đã có hàng nghìn người bị lừa bởi các ứng dụng di động iOS và Android giả mạo ChatGPT. Các ứng dụng này đã bị gỡ bỏ khỏi cửa hàng sau khi bị phanh phui.
ChatGPT là một mục tiêu hấp dẫn cho các tin tặc vì nó rất nổi tiếng. Tuy nhiên, chưa rõ liệu họ có chuyển sang sử dụng các trình tạo văn bản AI khác hay không
Theo : Vntrada.com
