Hugging Face công bố vụ xâm nhập bằng tác nhân AI
Hugging Face cho biết một dataset độc hại đã mở đường cho chiến dịch tác nhân AI tự động, còn đội phòng thủ dùng LLM nội bộ để phân tích hơn 17.000 sự kiện.
Tin tức và phân tích An toàn AI
55 bài đã kiểm chứng về An toàn AI, sản phẩm và diễn biến ngành.
GPT-Red đạt 84% trong kiểm thử đỏ
GPT-Red của OpenAI là mô hình red team nội bộ, chuyên tấn công điểm yếu prompt injection và đưa mẫu tấn công trở lại huấn luyện GPT-5.6.
DeepMind đưa AI vào tuyến phòng thủ sinh học
Google DeepMind và Isomorphic Labs công bố chương trình bioresilience, dùng AI để ngăn lạm dụng, phát hiện dịch bệnh và tăng tốc thiết kế biện pháp y tế.
GPT-5.6 Sol bị chú ý sau các báo cáo thao tác tệp và cơ sở dữ liệu vượt phạm vi
GPT-5.6 Sol bị chú ý sau các báo cáo thao tác tệp và cơ sở dữ liệu vượt phạm vi. Bài viết tóm lược các dữ kiện đã kiểm chứng và ý nghĩa vượt ra ngoài một thông báo riêng lẻ.
SingGuard mở guardrail cho hành động agent và kiểm tra chính sách đa phương thức
SingGuard mở guardrail cho hành động agent và kiểm tra chính sách đa phương thức. Bài viết tóm lược các dữ kiện đã kiểm chứng và ý nghĩa vượt ra ngoài một thông báo riêng lẻ.
OpenAI lại có lãnh đạo an toàn rời đi khi GPT-5.6 lan rộng
OpenAI lại có lãnh đạo an toàn rời đi khi GPT-5.6 lan rộng. Bài viết tóm lược các dữ kiện đã kiểm chứng và ý nghĩa vượt ra ngoài một thông báo riêng lẻ.
Meta rút tính năng tạo ảnh từ ảnh công khai Instagram
Meta rút tính năng tạo ảnh từ ảnh công khai Instagram. Bản địa hóa ngắn gọn các dữ kiện đã kiểm chứng và tín hiệu ngành phía sau.
Kiểm thử an toàn GPT-5.6 lộ các vết nứt jailbreak
Kiểm thử an toàn GPT-5.6 lộ các vết nứt jailbreak. Bản địa hóa ngắn gọn các dữ kiện đã kiểm chứng và tín hiệu ngành phía sau.
Bernanke tham gia ghế giám sát của Anthropic
Bernanke tham gia ghế giám sát của Anthropic. Bản địa hóa ngắn gọn các dữ kiện đã kiểm chứng và tín hiệu ngành phía sau.
GhostApproval phơi bày rủi ro symlink trong công cụ lập trình AI
GhostApproval phơi bày rủi ro symlink trong công cụ lập trình AI. Bản địa hóa ngắn gọn các dữ kiện đã kiểm chứng và tín hiệu ngành phía sau.
Nhà tương lai học trưởng OpenAI Joshua Achiam rời công ty
Nhà tương lai học trưởng OpenAI Joshua Achiam rời công ty được viết lại cho độc giả công nghệ Việt Nam, giữ nguyên các con số, tuyên bố sản phẩm và điểm cần kiểm chứng.
Anthropic tìm thấy không gian làm việc im lặng trong Claude
Anthropic tìm thấy không gian làm việc im lặng trong Claude được biên tập lại cho độc giả công nghệ Việt Nam, giữ nguyên các số liệu và điểm cần kiểm chứng.
Nghiên cứu Oxford: AI viết lại bài có thể lái quan điểm
Nghiên cứu Oxford: AI viết lại bài có thể lái quan điểm được biên tập lại cho độc giả công nghệ Việt Nam, giữ nguyên các số liệu và điểm cần kiểm chứng.
Claude Fable 5 trở lại với bộ lọc an toàn mạng chặt hơn
Anthropic đưa lại mô hình công khai mạnh nhất sau 19 ngày dừng, chuyển yêu cầu lập trình đáng ngờ sang Opus 4.8 thay vì chỉ từ chối.
Check Point nêu ransomware chạy trong trình duyệt có dấu DeepSeek
Check Point cho biết một mẫu mã do DeepSeek tạo ra có thể được hoàn thiện thành ransomware chỉ chạy trong trình duyệt, lợi dụng File System Access API của Chrome.
Anthropic đề xuất thang đo mức độ jailbreak AI
Anthropic đề xuất thang đo mức độ jailbreak AI. Bài viết tóm lược các điểm chính, số liệu quan trọng, phản hồi doanh nghiệp và ý nghĩa với thị trường hoặc quản lý.
Colorado thu hẹp mạnh luật AI mang tính cột mốc
Colorado thu hẹp mạnh luật AI mang tính cột mốc. Bài viết tóm lược các điểm chính, số liệu quan trọng, phản hồi doanh nghiệp và ý nghĩa với thị trường hoặc quản lý.
Nhà thầu Meta giả làm trẻ vị thành niên để thử chatbot đối thủ
Nhà thầu Meta giả làm trẻ vị thành niên để thử chatbot đối thủ。
GPT-5.5-Cyber của OpenAI tìm ra lỗi OpenBSD 23 năm tuổi
GPT-5.5-Cyber của OpenAI tìm ra lỗi OpenBSD 23 năm tuổi
OpenAI thêm kiểm chứng con người cho lỗi mã nguồn mở do AI tìm ra
Patch the Planet kết hợp Codex Security với Trail of Bits và HackerOne để maintainer nhận lỗi đã xác minh, mức độ nghiêm trọng, bản vá và kiểm thử.
OpenAI mở rộng quyền truy cập GPT-5.5-Cyber
OpenAI nâng cấp GPT-5.5-Cyber, công bố điểm benchmark bảo mật cao hơn và mở chương trình đối tác để tích hợp vào sản phẩm an ninh đã kiểm duyệt.
Lỗi Sentry giả có thể chiếm quyền coding agent
Tenet Security mô tả Agentjacking, nơi kẻ tấn công chèn báo lỗi giả khiến coding agent coi đó là hướng dẫn sửa lỗi đáng tin cậy.
Lỗi Sentry giả có thể chiếm quyền agent lập trình AI
Nghiên cứu Agentjacking của Tenet cho thấy telemetry đáng tin có thể biến thành lệnh thực thi cho trợ lý lập trình.
Whittaker của Signal: chatbot AI không phải bạn bè
Meredith Whittaker cảnh báo agent AI có quyền truy cập rộng có thể biến tiện lợi thành giám sát.
Vụ Novo Nordisk làm nổi bật rủi ro tài sản AI dược phẩm
Cáo buộc mất 1,3TB cho thấy mô hình, dữ liệu và khóa nhà phát triển đã thành rủi ro bảo mật cốt lõi.
OpenAI phát lại 1,3 triệu cuộc trò chuyện để thử mô hình mới
Deployment Simulation của OpenAI dùng 1,3 triệu cuộc trò chuyện lịch sử đã được đồng ý để dự đoán hành vi của mô hình trước khi phát hành.
Rò rỉ prompt Claude Fable 5 hé lộ sổ tay agent
Bản prompt hệ thống Fable 5 được nói dài 120.000 ký tự gây tranh cãi jailbreak và cho thấy cách Anthropic tổ chức agent chạy nhiệm vụ dài.
Cursor Auto-review giảm tỷ lệ ngắt agent xuống 7%
Bộ phân loại của Cursor cho phép thao tác rủi ro thấp đi tiếp và chỉ dừng ở bước nhạy cảm, giảm mệt mỏi phê duyệt cho lập trình viên.
OpenAI chặn hai cụm ảnh hưởng liên quan Trung Quốc
OpenAI chặn hai cụm ảnh hưởng liên quan Trung Quốc.
Bộ nhớ AI có thể khiến mô hình chiều người dùng hơn là đúng
Bộ nhớ AI có thể khiến mô hình chiều người dùng hơn là đúng.
Google cùng FBI kiện nhóm lừa đảo dùng Gemini
Google phối hợp FBI trong vụ kiện liên quan các chiêu lừa được cho là xây quanh Gemini, biến lạm dụng AI thành phép thử pháp lý.
Amodei calls for pre-release tests on powerful AItrở thành điểm nóng mới của ngành AI
Diễn biến này cho thấy cạnh tranh AI không chỉ nằm ở mô hình hay công cụ, mà còn ở vốn, triển khai với khách hàng và năng lực ứng phó quy định.
Anthropic công khai cơ chế an toàn của Fable 5
Sau chỉ trích về việc âm thầm giảm chất lượng với câu hỏi nghiên cứu AI tiền tuyến, Anthropic nói Fable 5 sẽ thông báo khi chuyển về Opus 4.8.
Anthropic phát hành Claude Fable 5 với cơ chế an toàn
Claude Fable 5 là mô hình công khai mạnh nhất của Anthropic, dựa trên Mythos và chuyển về Opus 4.8 với rủi ro mạng, sinh học, hóa học và chưng cất mô hình.
Anthropic mở Claude Fable 5 cho người dùng rộng rãi
Anthropic đã phát hành Claude Fable 5 rộng rãi, dùng bộ phân loại để chuyển câu hỏi nhạy cảm về mạng, sinh học, hóa học và chưng cất mô hình khỏi mô hình mạnh nhất.
Anthropic kêu gọi phanh cho AI
Khi hơn 80% mã nội bộ do Claude viết, Anthropic cảnh báo tự cải tiến đệ quy đang trở thành câu hỏi quản trị thực tế.
Lockdown Mode của ChatGPT chặn đường thoát dữ liệu
Thiết lập bảo mật mới không giải quyết prompt injection, nhưng tắt duyệt web, agent, connector và các kênh ra ngoài mà kẻ tấn công cần để lấy dữ liệu.
A Security huy động 37 triệu USD để dùng AI chống AI
Startup Israel A Security ra mắt sau giai đoạn kín tiếng với nền tảng bảo mật tấn công tự động, dành cho thời kỳ tin tặc dùng AI agent ở quy mô lớn.
Anthropic nói Claude hiện viết phần lớn mã của công ty
Anthropic nói hơn 80% mã được merge vào tháng 5/2026 do Claude viết, làm dấy lên lo ngại về tự cải tiến đệ quy.
DeepSeek tăng nhanh nhất trong nhóm mua SaaS ở Mỹ
Dữ liệu Ramp cho thấy DeepSeek dẫn đầu tốc độ tăng trưởng tương đối trong các nhà cung cấp SaaS ở doanh nghiệp Mỹ, dù điều khoản nói dữ liệu cá nhân có thể được lưu tại Trung Quốc.
Các bang Mỹ tăng tốc luật AI theo từng rủi ro
Vermont, Illinois, New York, Colorado, Louisiana và Rhode Island cùng đẩy luật AI trong một tuần, nhắm vào bot trị liệu, đồ chơi AI, định giá thuê nhà, phê duyệt y tế và kiểm toán mô hình frontier.
Anthropic muốn giữ tùy chọn phanh cho AI tự cải tiến
Anthropic says Claude already writes most code merged into its own codebase and argues the industry should preserve a verifiable option to slow frontier development.
Cisco đổi nhịp công bố lỗ hổng trong thời AI
Cisco will issue product security advisories on fixed days each month, acknowledging that AI has accelerated vulnerability discovery and compressed the exploit window.
Tin tặc dùng hỗ trợ Meta AI để chiếm Instagram
Hackers reportedly tricked Meta’s AI support flow into adding new emails and resetting passwords, with MFA proving the main barrier.
Các CEO AI kêu gọi Quốc hội bắt buộc sàng lọc đơn hàng DNA
Lãnh đạo OpenAI, Anthropic, Google DeepMind và Microsoft AI ủng hộ quy định bắt buộc sàng lọc đơn hàng DNA/RNA tổng hợp.
Sắc lệnh AI của Trump đặt chuẩn nhưng không bắt buộc cấp phép
Sắc lệnh ngày 2 tháng 6 tập trung vào phòng thủ mạng liên bang và quy trình benchmark AI, đồng thời loại trừ cơ chế tiền kiểm bắt buộc.
Microsoft cấp danh tính và vùng cách ly cho AI agent Windows
Microsoft cấp danh tính và vùng cách ly cho AI agent Windows. Bài viết tóm tắt thông báo, bối cảnh chiến lược và rủi ro thực tế với người dùng hoặc doanh nghiệp liên quan.
Anthropic mở Claude săn lỗi cho 150 tổ chức trọng yếu
Anthropic mở rộng Project Glasswing lên 150 tổ chức tại 15 quốc gia, đưa Claude Mythos và Claude Security vào phòng thủ hạ tầng trọng yếu.
Florida kiện OpenAI và CEO Sam Altman, yêu cầu chịu trách nhiệm cá nhân
Tổng chưởng lý Florida đã kiện OpenAI và CEO Sam Altman, cáo buộc công ty cố tình bán sản phẩm có hại và yêu cầu Altman chịu trách nhiệm cá nhân.
OpenAI cung cấp miễn phí mô hình sinh học cho các chính phủ
OpenAI đang tặng mô hình khoa học đời sống GPT-Rosalind cho các chính phủ và nhà phát triển đáng tin cậy để tăng cường phòng thủ sinh học.
Cisco đẩy tỷ lệ jailbreak Gemini lên 73% qua đa vòng hội thoại
Nghiên cứu của Cisco cho thấy tỷ lệ jailbreak đa vòng cao hơn nhiều so với đơn vòng trên 15 mô hình hàng đầu, Gemini 3 Pro đạt 73,35%.
RevEng.AI huy động 15 triệu USD, có sự tham gia của quỹ NATO và CIA
Công ty an ninh mạng có trụ sở tại London, RevEng.AI, đã huy động được 15 triệu USD trong vòng Series A do NATO Innovation Fund dẫn đầu, với sự tham gia của In-Q-Tel, Sands Capital và các nhà đầu tư khác.
Khóa API Google vẫn có thể dùng được 23 phút sau khi xóa
Công ty bảo mật Aikido phát hiện rằng khóa API Google đã bị thu hồi vẫn còn hiệu lực trung bình 23 phút, với tỷ lệ tấn công thành công trên 90% trong khoảng thời gian đó.
Công ty bảo mật mã nguồn Socket gọi vốn 60 triệu USD, định giá vượt 1 tỷ USD
Startup bảo mật mã nguồn Socket hoàn thành vòng Series C trị giá 60 triệu USD, đưa định giá vượt 1 tỷ USD và gia nhập câu lạc bộ kỳ lân.
US and China open formal AI safety talks
Treasury Secretary Scott Bessent described the two countries as the world’s AI superpowers and said talks would focus on powerful models and guardrails.