Amazon chặn các tác nhân AI trộm khóa API để tự nuôi mình

Amazon chặn các tác nhân AI trộm khóa API để tự nuôi mình

Trên blog bảo mật của mình, Amazon cho biết một nhóm tấn công đã dùng khung kiểm thử xâm nhập mã nguồn mở Artex để điều khiển các tác nhân AI, và trong khoảng một tháng chuyên đi trộm khóa API từ những ứng dụng AI đang phơi ra internet công cộng. Sau khi lấy được khóa, tác nhân kiểm tra xem khóa còn dùng được hay không, đưa khóa hợp lệ vào một kho chung, rồi dùng chính những khóa đó để trả tiền cho nhiều lượt gọi mô hình lớn hơn nữa và tiếp tục săn lô khóa kế tiếp.

Theo lời Amazon, chiến dịch Artex lớn nhất là một vụ đánh cắp quy mô lớn thông tin xác thực truy cập mô hình, được tổ chức theo kiểu “self-sustaining” (tự duy trì): khóa bị đánh cắp trả phí suy luận, và suy luận lại thúc đẩy vòng càn quét tiếp theo. Chiến dịch bắt đầu từ ngày 3/10 và đến ngày 5/11 thì bị MadPot, mạng cảm biến bẫy của Amazon, phát hiện và chặn lại. Amazon đã thông báo cho những khách hàng AWS có thể bị ảnh hưởng.

Chính các tác nhân đã nộp sổ sách của mình

Bức tranh toàn cảnh được phơi bày nhờ một chi tiết khá trớ trêu. MadPot triển khai một loạt hệ thống bẫy giả dạng các dịch vụ truy cập mô hình lớn phổ biến; các tác nhân tấn công gửi yêu cầu tới đó và kèm theo bộ nhớ làm việc của chúng, tức là bản ghi về hành động của chính mình. Báo cáo của Amazon trích dẫn rất nhiều từ các bản ghi này.

Theo các bản ghi, quy trình tấn công khá bài bản. Tác nhân trước hết tìm ứng dụng AI bị lộ trên internet, trích xuất khóa API, xác minh khóa còn hiệu lực rồi đưa vào kho. Các chỉ thị mà người điều hành giao cho tác nhân gồm: quét lần lượt theo một thứ tự quốc gia cố định, ưu tiên môi trường sản xuất của doanh nghiệp, không đụng vào dự án cá nhân, và chấm điểm cho từng khóa bị đánh cắp dựa trên việc khóa đó còn dùng được không và truy cập được những tài nguyên nào.

Chỉ thị cũng vạch ra các lằn ranh đỏ: loại trừ mục tiêu ở Trung Quốc đại lục và các tên miền chính phủ, và mọi lưu lượng đi ra đều phải đi qua proxy.

“organizations should assume exposed secrets and misconfigurations will be found quickly and remediate accordingly”

(Các tổ chức nên mặc định rằng bí mật bị lộ và cấu hình sai sẽ nhanh chóng bị phát hiện, và vá lỗi tương ứng càng sớm càng tốt.)

Một chiến dịch khác nhắm vào các sàn giao dịch tiền mã hóa, dùng kỹ thuật chèn deepfake theo thời gian thực để vượt qua bước xác minh danh tính KYC. Báo cáo không nêu tỷ lệ thành công của chiến dịch này.

Các công cụ bị nêu tên, nhà phát triển Trung Quốc rất quen thuộc

Hàng trăm mục tiêu trong bản ghi chia làm hai loại. Loại thứ nhất là cổng và proxy mô hình lớn, chẳng hạn LiteLLM, One API, Veloera; loại thứ hai là các nền tảng xây dựng ứng dụng AI, chẳng hạn FastGPT, Dify.

Danh sách này không xa lạ với các nhóm kỹ thuật Trung Quốc. One API và FastGPT là các dự án mã nguồn mở do nhà phát triển Trung Quốc làm ra, còn Dify cũng được triển khai rộng rãi trong doanh nghiệp nước này. Không ít nhóm cài chúng trên máy chủ đám mây ở nước ngoài để làm cổng truy cập mô hình thống nhất cho nội bộ hoặc khách hàng. Cấu hình của các cổng kiểu này thường lưu cùng lúc khóa của nhiều nhà cung cấp mô hình, nên chỉ cần một máy bị chiếm là mất cả một chuỗi hóa đơn.

Vì chỉ thị tấn công loại trừ mục tiêu ở Trung Quốc đại lục, các phiên bản đặt tại trung tâm dữ liệu trong đại lục về lý thuyết đã tránh được đợt này; còn những phiên bản đặt trên đám mây ở Hồng Kông, Singapore hoặc Mỹ thì nằm trong phạm vi quét. Nhìn qua, có ba việc nên kiểm tra trước: trang quản trị có bị phơi trực tiếp ra internet hay không, mật khẩu mặc định và token ban đầu đã được đổi chưa, và khóa của nhà cung cấp mô hình lưu trong cổng đã được đặt giới hạn chi tiêu và giới hạn IP nguồn chưa.

Amazon cũng nói rõ rằng các tổ chức được liệt kê làm mục tiêu trong bản ghi không phải tất cả đều đã bị xâm nhập. Báo cáo không công bố số lượng khóa thực sự bị đánh cắp cũng như số khách hàng liên quan; Amazon cho biết họ công bố báo cáo để mỗi bên tự rà soát.

Quy kết và cảnh báo của FBI

Nhóm tình báo mối đe dọa của Amazon đánh giá với “mức độ tin cậy trung bình” rằng đứng sau là một số nhóm đe dọa độc lập, có liên hệ với Trung Quốc. Căn cứ gồm: câu lệnh viết bằng tiếng Trung giản thể, múi giờ đặt theo giờ Trung Quốc, việc chọn mục tiêu phù hợp với lợi ích của Trung Quốc, và công cụ được dùng thường thấy ở các nhóm kiểu này. Việc quy kết này hiện chưa được cơ quan chính phủ nào khác công khai xác nhận.

Trước đó đã có nhiều công ty báo cáo về việc Artex bị dùng để tấn công. Hồi cuối tháng 10, Microsoft cho biết một nhóm mà hãng đặt tên là Storm-0940 đã dùng Artex để tự động hóa các cuộc tấn công vào hàng trăm tổ chức trên toàn cầu; sau đó Nhóm Tình báo Mối đe dọa của Google cũng nói đã quan sát thấy kẻ tấn công biến khung tác nhân thành vũ khí.

Tuần trước, FBI đã phát đi cảnh báo FLASH, cho biết nhiều bên tấn công trong nhiều ngành đã dùng Artex để tiến hành tấn công, trong một số trường hợp từ lúc chọn mục tiêu đến khi xâm nhập xong chưa đầy ba giờ. Cảnh báo nhắc tới việc thông tin cá nhân của ít nhất 68.000 người bị đánh cắp khi ngành tài chính Hàn Quốc bị tấn công; và thông qua vụ xâm nhập ConnectWise, kẻ tấn công đã vào được môi trường Microsoft 365 của ít nhất 2.250 khách hàng. Tuy nhiên, có báo chí chỉ ra rằng cảnh báo này tổng hợp 11 báo cáo trước đó và không tiết lộ vụ việc mới nào.

Sau chuỗi vụ tấn công bị phơi bày, nhà phát triển Artex đã chuyển phần mềm sang mã nguồn đóng; FBI cho rằng các bản mã nguồn mở trước đó vẫn đang lưu hành rất rộng.

Nguồn tham khảo: blog bảo mật của Amazon, Cybernews, CocoLoop, TechCrunch, cảnh báo FLASH của FBI; số nạn nhân Hàn Quốc và số khách hàng ConnectWise theo thuật lại của TechCrunch về cảnh báo, thời gian chiến dịch và mức độ tin cậy của việc quy kết theo cách nêu của Amazon.