Số vụ lừa đảo công nghệ có dấu hiệu gia tăng sau khi có AI

Theo Abnormal Security, một nền tảng bảo mật email của Mỹ, số lượng email lừa đảo (từ thời điểm xuất hiện trí tuệ nhân tạo – AI) gửi đến các doanh nghiệp trong nửa đầu năm 2023 đã tăng 89% trên toàn cầu so với cùng kỳ năm trước.

• Một góc nhìn về tương lai của trí tuệ nhân tạo

ChatGPT của OpenAI ra mắt vào tháng 11-2022 và từ đây nhiều người bắt đầu làm quen với một khái niệm công nghệ mới – AI tạo sinh (AI generative). Công cụ này cho phép người dùng thực hiện nhiều công việc hiệu quả hơn, nhưng AI cũng được sử dụng cho nhiều mục đích bất chính.

Tại Nhật Bản, theo Cơ quan Cảnh sát quốc gia nước này, đã có 2.322 vụ chuyển tiền trái phép qua ngân hàng trực tuyến trong nửa đầu năm 2023, tăng 16 lần so với cùng kỳ năm trước, với tổng giá trị là 3 tỉ yen (21 triệu đô la Mỹ). Đây là kỷ lục về số vụ lẫn giá trị lừa đảo. Kết quả này là kẻ xấu dùng AI tạo sinh để tạo ra nhiều email và website giả mạo để tiến hành lừa đảo.

Để đánh giá mức độ giả mạo của email do AI tạo ra, một số chuyên gia về an ninh mạng đã tiến hành một thử nghiệm, trong đó có Takashi Matsumoto, người phụ trách an ninh mạng tại công ty internet DeNA của Nhật Bản, khi “huấn luyện” cho AI viết email doanh nghiệp theo phong cách của người Nhật Bản. Kết quả, AI không chỉ sử dụng từ ngữ như được huấn luyện mà còn “mô phỏng” luôn cách làm độc đáo của người Nhật khi gửi email – là luôn kèm mật khẩu để mở tệp dữ liệu đính kèm.

Theo Mike Britton, giám đốc an ninh thông tin của Abnormal Security, Mỹ, các công cụ AI tạo sinh đang “góp phần làm tăng số lượng các cuộc tấn công mạng”. Ông cho biết những công cụ này (AI tạo sinh) giúp tội phạm mạng dễ dàng hơn nhiều trong việc tạo ra các cuộc tấn công email tinh vi và không có lỗi trên quy mô lớn. “Các công cụ AI loại bỏ các lỗi chính tả và lỗi ngữ pháp vốn là đặc trưng của các cuộc tấn công trong quá khứ. AI tạo sinh giúp kẻ tấn công dễ dàng tạo ra tất cả các mối đe dọa qua email”, Britton giải thích.

Công nghệ mới cũng đang nâng cao đáng kể “hiệu quả” gian lận. Một thử nghiệm của IBM cho thấy, khoảng 14% người bị lừa bởi email lừa đảo do con người tạo ra, trong khi tỷ lệ đối với email do AI tạo ra là 11%, dù là văn bản do con người tạo ra có sức thuyết phục hơn. Nhưng để có email này, con người cần 16 giờ, trong khi với AI, chỉ 5 phút là xong.

Tuy nhiên, việc lạm dụng AI không chỉ giới hạn ở việc lừa đảo. Hãng nghiên cứu ActiveFence của Israel đã tìm thấy 68 hình ảnh mà họ cho là do AI tạo ra trên một “website đen” dành cho những kẻ ấu dâm trong khoảng thời gian từ tháng 1 đến tháng 3-2023, tăng gần 3 lần so với ba tháng trước đó. Các website có hình ảnh giả mạo, chẳng hạn như hình ảnh khỏa thân của những người nổi tiếng, cũng đang gia tăng mạnh mẽ.

Nhưng những nỗ lực nhằm ngăn chặn việc lạm dụng AI tạo sinh chỉ mới nhen nhóm, chậm hơn sự hình thành và phổ biến rộng của công cụ này. Tháng 12-2023, khối G7 và Liên hiệp châu Âu (EU) đã đồng ý xây dựng các quy tắc sử dụng AI tạo sinh, bao gồm cả những quy định ngăn chặn sự lan tỏa của tin giả.

Các tập đoàn, công ty lớn nhỏ cũng gia nhập nỗ lực này của các quốc gia, nhằm đảm bảo AI được sử dụng một cách an toàn, hợp lý và công bằng nhằm giúp con người trải nghiệm những lợi ích của công nghệ mới.

Tuần cuối của tháng 12-2023, tờ New York Times đã kiện OpenAI và Microsoft với cáo buộc họ sử dụng trái phép hàng triệu bài báo của mình để giúp đào tạo chatbot cung cấp thông tin cho độc giả. Hay Nikon, Sony và Canon của Nhật Bản đang hợp tác phát triển công nghệ máy ảnh nhúng chữ ký số vào hình ảnh để có thể phân biệt ảnh do người chụp và ảnh do AI “sáng tạo”.

Theo Nikkei Asia