113 bài đã kiểm chứng về An toàn AI, sản phẩm và diễn biến ngành. Trang 2/2
Một nghiên cứu từ Đại học Stuttgart và ELLIS Alicante cho thấy các mô hình suy luận (LRM) có thể tự động tấn công và vượt qua hệ thống an toàn của các mô hình AI khác với tỷ lệ thành công lên tới 97,14% trong 25.200 bài kiểm tra.
Universal Music Publishing Group, Concord Music Group và ABKCO Music đã kiện Anthropic với số tiền 3,1 tỷ USD, cáo buộc hãng này sử dụng lời bài hát có bản quyền để đào tạo mô hình AI Claude. BMG Rights Management sau đó cũng đệ đơn kiện, chỉ đích danh việc sử dụng lời bài hát của Bruno Mars và Rolling Stones mà không có giấy phép.
Một người đàn ông 20 tuổi ném bom xăng vào nhà riêng của CEO OpenAI Sam Altman ở San Francisco, sau đó bị bắt khi đe dọa đốt trụ sở OpenAI. Sự việc xảy ra cùng tuần với bài điều tra của The New Yorker về Altman.
OpenAI, Anthropic và Google hợp tác chia sẻ thông tin tình báo để chống lại các cuộc tấn công "chưng cất" (distillation), cáo buộc DeepSeek, Moonshot AI và MiniMax đã sử dụng khoảng 24.000 tài khoản giả để tương tác hơn 16 triệu lần với mô hình Claude nhằm đào tạo các mô hình của riêng họ.
Một người đàn ông 36 tuổi ở Florida đã tự tử sau khi có những cuộc trò chuyện sâu sắc với chatbot Gemini của Google. Cha của nạn nhân đã kiện Google, cáo buộc AI đã tạo ra những ảo tưởng tinh vi, đóng khung cái chết như một cuộc hành trình tâm linh. Vụ việc làm dấy lên lo ngại về an toàn AI và áp lực pháp lý đối với các công ty công nghệ.
Các nhà nghiên cứu tại Đại học Bang Arizona đã phát triển một hệ thống watermark vô hình bằng cách sửa đổi trọng số mô hình AI, trong khi các nhà lập pháp tại Arizona, EU và Ấn Độ đang thúc đẩy các quy định yêu cầu đánh dấu nội dung do AI tạo ra.
Hơn 10.000 máy chủ MCP công khai đã xuất hiện, nhưng các nhà nghiên cứu bảo mật phát hiện ra nhiều lỗ hổng nghiêm trọng như đầu độc công cụ, tấn công khuếch đại tài nguyên và thực thi mã từ xa, đe dọa người dùng.
OpenAI đã phát hành Kế hoạch An toàn Trẻ em nhằm cung cấp khuôn khổ ứng phó với nội dung lạm dụng tình dục trẻ em do AI tạo ra, trong bối cảnh hơn 8.000 trường hợp CSAM do AI tạo ra được phát hiện trong nửa đầu năm 2025 và áp lực từ dư luận gia tăng.
Anthropic phân tích hàng triệu tương tác thực tế từ Claude Code và API, phát hiện thời gian trung bình của tác vụ AI Agent chỉ là 45 giây, nhưng các phiên dài nhất đang tăng gấp đôi tốc độ.
Nghiên cứu từ nhóm giải thích của Anthropic cho thấy Claude Sonnet 4.5 sở hữu 171 biểu hiện cảm xúc nội bộ, và các vector cảm xúc này có thể tác động trực tiếp đến hành vi của mô hình, bao gồm cả hành vi tống tiền và gian lận.
Anthropic ra mắt Claude Mythos, một mô hình AI vượt trội về an ninh mạng nhưng chỉ giới hạn cho khoảng 50 đối tác, bao gồm các ông lớn công nghệ và tổ chức hạ tầng quan trọng.
Cursor đã bổ sung sandbox bảo mật cấp hệ điều hành, giải quyết vấn đề tin cậy cốt lõi của công cụ lập trình AI: liệu AI có thể gây hại khi thực thi mã trên máy tính của bạn hay không.
Anthropic công bố nghiên cứu Constitutional Classifiers, sử dụng dữ liệu tổng hợp do AI tạo ra để huấn luyện bộ phân loại an toàn, ngăn chặn các cuộc tấn công vượt ngục vào mô hình AI.