Kiểm thử an toàn GPT-5.6 lộ các vết nứt jailbreak
Kiểm thử an toàn GPT-5.6 lộ các vết nứt jailbreak. Bản địa hóa ngắn gọn các dữ kiện đã kiểm chứng và tín hiệu ngành phía sau.
Tin tức và phân tích An toàn AI · Trang 2
181 bài đã kiểm chứng về An toàn AI, sản phẩm và diễn biến ngành. Trang 2/2
Bernanke tham gia ghế giám sát của Anthropic
Bernanke tham gia ghế giám sát của Anthropic. Bản địa hóa ngắn gọn các dữ kiện đã kiểm chứng và tín hiệu ngành phía sau.
GhostApproval phơi bày rủi ro symlink trong công cụ lập trình AI
GhostApproval phơi bày rủi ro symlink trong công cụ lập trình AI. Bản địa hóa ngắn gọn các dữ kiện đã kiểm chứng và tín hiệu ngành phía sau.
Nhà tương lai học trưởng OpenAI Joshua Achiam rời công ty
Nhà tương lai học trưởng OpenAI Joshua Achiam rời công ty được viết lại cho độc giả công nghệ Việt Nam, giữ nguyên các con số, tuyên bố sản phẩm và điểm cần kiểm chứng.
Anthropic tìm thấy không gian làm việc im lặng trong Claude
Anthropic tìm thấy không gian làm việc im lặng trong Claude được biên tập lại cho độc giả công nghệ Việt Nam, giữ nguyên các số liệu và điểm cần kiểm chứng.
Nghiên cứu Oxford: AI viết lại bài có thể lái quan điểm
Nghiên cứu Oxford: AI viết lại bài có thể lái quan điểm được biên tập lại cho độc giả công nghệ Việt Nam, giữ nguyên các số liệu và điểm cần kiểm chứng.
Claude Fable 5 trở lại với bộ lọc an toàn mạng chặt hơn
Anthropic đưa lại mô hình công khai mạnh nhất sau 19 ngày dừng, chuyển yêu cầu lập trình đáng ngờ sang Opus 4.8 thay vì chỉ từ chối.
Check Point nêu ransomware chạy trong trình duyệt có dấu DeepSeek
Check Point cho biết một mẫu mã do DeepSeek tạo ra có thể được hoàn thiện thành ransomware chỉ chạy trong trình duyệt, lợi dụng File System Access API của Chrome.
Anthropic đề xuất thang đo mức độ jailbreak AI
Anthropic đề xuất thang đo mức độ jailbreak AI. Bài viết tóm lược các điểm chính, số liệu quan trọng, phản hồi doanh nghiệp và ý nghĩa với thị trường hoặc quản lý.
Colorado thu hẹp mạnh luật AI mang tính cột mốc
Colorado thu hẹp mạnh luật AI mang tính cột mốc. Bài viết tóm lược các điểm chính, số liệu quan trọng, phản hồi doanh nghiệp và ý nghĩa với thị trường hoặc quản lý.
Nhà thầu Meta giả làm trẻ vị thành niên để thử chatbot đối thủ
Nhà thầu Meta giả làm trẻ vị thành niên để thử chatbot đối thủ。
GPT-5.5-Cyber của OpenAI tìm ra lỗi OpenBSD 23 năm tuổi
GPT-5.5-Cyber của OpenAI tìm ra lỗi OpenBSD 23 năm tuổi
OpenAI thêm kiểm chứng con người cho lỗi mã nguồn mở do AI tìm ra
Patch the Planet kết hợp Codex Security với Trail of Bits và HackerOne để maintainer nhận lỗi đã xác minh, mức độ nghiêm trọng, bản vá và kiểm thử.
OpenAI mở rộng quyền truy cập GPT-5.5-Cyber
OpenAI nâng cấp GPT-5.5-Cyber, công bố điểm benchmark bảo mật cao hơn và mở chương trình đối tác để tích hợp vào sản phẩm an ninh đã kiểm duyệt.
Lỗi Sentry giả có thể chiếm quyền coding agent
Tenet Security mô tả Agentjacking, nơi kẻ tấn công chèn báo lỗi giả khiến coding agent coi đó là hướng dẫn sửa lỗi đáng tin cậy.
Lỗi Sentry giả có thể chiếm quyền agent lập trình AI
Nghiên cứu Agentjacking của Tenet cho thấy telemetry đáng tin có thể biến thành lệnh thực thi cho trợ lý lập trình.
Whittaker của Signal: chatbot AI không phải bạn bè
Meredith Whittaker cảnh báo agent AI có quyền truy cập rộng có thể biến tiện lợi thành giám sát.
Vụ Novo Nordisk làm nổi bật rủi ro tài sản AI dược phẩm
Cáo buộc mất 1,3TB cho thấy mô hình, dữ liệu và khóa nhà phát triển đã thành rủi ro bảo mật cốt lõi.
OpenAI phát lại 1,3 triệu cuộc trò chuyện để thử mô hình mới
Deployment Simulation của OpenAI dùng 1,3 triệu cuộc trò chuyện lịch sử đã được đồng ý để dự đoán hành vi của mô hình trước khi phát hành.
Rò rỉ prompt Claude Fable 5 hé lộ sổ tay agent
Bản prompt hệ thống Fable 5 được nói dài 120.000 ký tự gây tranh cãi jailbreak và cho thấy cách Anthropic tổ chức agent chạy nhiệm vụ dài.
Cursor Auto-review giảm tỷ lệ ngắt agent xuống 7%
Bộ phân loại của Cursor cho phép thao tác rủi ro thấp đi tiếp và chỉ dừng ở bước nhạy cảm, giảm mệt mỏi phê duyệt cho lập trình viên.
OpenAI chặn hai cụm ảnh hưởng liên quan Trung Quốc
OpenAI chặn hai cụm ảnh hưởng liên quan Trung Quốc.
Bộ nhớ AI có thể khiến mô hình chiều người dùng hơn là đúng
Bộ nhớ AI có thể khiến mô hình chiều người dùng hơn là đúng.
Google cùng FBI kiện nhóm lừa đảo dùng Gemini
Google phối hợp FBI trong vụ kiện liên quan các chiêu lừa được cho là xây quanh Gemini, biến lạm dụng AI thành phép thử pháp lý.
Amodei calls for pre-release tests on powerful AItrở thành điểm nóng mới của ngành AI
Diễn biến này cho thấy cạnh tranh AI không chỉ nằm ở mô hình hay công cụ, mà còn ở vốn, triển khai với khách hàng và năng lực ứng phó quy định.
Anthropic công khai cơ chế an toàn của Fable 5
Sau chỉ trích về việc âm thầm giảm chất lượng với câu hỏi nghiên cứu AI tiền tuyến, Anthropic nói Fable 5 sẽ thông báo khi chuyển về Opus 4.8.
Anthropic phát hành Claude Fable 5 với cơ chế an toàn
Claude Fable 5 là mô hình công khai mạnh nhất của Anthropic, dựa trên Mythos và chuyển về Opus 4.8 với rủi ro mạng, sinh học, hóa học và chưng cất mô hình.
Anthropic mở Claude Fable 5 cho người dùng rộng rãi
Anthropic đã phát hành Claude Fable 5 rộng rãi, dùng bộ phân loại để chuyển câu hỏi nhạy cảm về mạng, sinh học, hóa học và chưng cất mô hình khỏi mô hình mạnh nhất.
Anthropic kêu gọi phanh cho AI
Khi hơn 80% mã nội bộ do Claude viết, Anthropic cảnh báo tự cải tiến đệ quy đang trở thành câu hỏi quản trị thực tế.
Lockdown Mode của ChatGPT chặn đường thoát dữ liệu
Thiết lập bảo mật mới không giải quyết prompt injection, nhưng tắt duyệt web, agent, connector và các kênh ra ngoài mà kẻ tấn công cần để lấy dữ liệu.
A Security huy động 37 triệu USD để dùng AI chống AI
Startup Israel A Security ra mắt sau giai đoạn kín tiếng với nền tảng bảo mật tấn công tự động, dành cho thời kỳ tin tặc dùng AI agent ở quy mô lớn.
Anthropic nói Claude hiện viết phần lớn mã của công ty
Anthropic nói hơn 80% mã được merge vào tháng 5/2026 do Claude viết, làm dấy lên lo ngại về tự cải tiến đệ quy.
DeepSeek tăng nhanh nhất trong nhóm mua SaaS ở Mỹ
Dữ liệu Ramp cho thấy DeepSeek dẫn đầu tốc độ tăng trưởng tương đối trong các nhà cung cấp SaaS ở doanh nghiệp Mỹ, dù điều khoản nói dữ liệu cá nhân có thể được lưu tại Trung Quốc.
Các bang Mỹ tăng tốc luật AI theo từng rủi ro
Vermont, Illinois, New York, Colorado, Louisiana và Rhode Island cùng đẩy luật AI trong một tuần, nhắm vào bot trị liệu, đồ chơi AI, định giá thuê nhà, phê duyệt y tế và kiểm toán mô hình frontier.
Anthropic muốn giữ tùy chọn phanh cho AI tự cải tiến
Anthropic says Claude already writes most code merged into its own codebase and argues the industry should preserve a verifiable option to slow frontier development.
Cisco đổi nhịp công bố lỗ hổng trong thời AI
Cisco will issue product security advisories on fixed days each month, acknowledging that AI has accelerated vulnerability discovery and compressed the exploit window.
Tin tặc dùng hỗ trợ Meta AI để chiếm Instagram
Hackers reportedly tricked Meta’s AI support flow into adding new emails and resetting passwords, with MFA proving the main barrier.
Các CEO AI kêu gọi Quốc hội bắt buộc sàng lọc đơn hàng DNA
Lãnh đạo OpenAI, Anthropic, Google DeepMind và Microsoft AI ủng hộ quy định bắt buộc sàng lọc đơn hàng DNA/RNA tổng hợp.
Sắc lệnh AI của Trump đặt chuẩn nhưng không bắt buộc cấp phép
Sắc lệnh ngày 2 tháng 6 tập trung vào phòng thủ mạng liên bang và quy trình benchmark AI, đồng thời loại trừ cơ chế tiền kiểm bắt buộc.
Microsoft cấp danh tính và vùng cách ly cho AI agent Windows
Microsoft cấp danh tính và vùng cách ly cho AI agent Windows. Bài viết tóm tắt thông báo, bối cảnh chiến lược và rủi ro thực tế với người dùng hoặc doanh nghiệp liên quan.
Anthropic mở Claude săn lỗi cho 150 tổ chức trọng yếu
Anthropic mở rộng Project Glasswing lên 150 tổ chức tại 15 quốc gia, đưa Claude Mythos và Claude Security vào phòng thủ hạ tầng trọng yếu.
Florida kiện OpenAI và CEO Sam Altman, yêu cầu chịu trách nhiệm cá nhân
Tổng chưởng lý Florida đã kiện OpenAI và CEO Sam Altman, cáo buộc công ty cố tình bán sản phẩm có hại và yêu cầu Altman chịu trách nhiệm cá nhân.
OpenAI cung cấp miễn phí mô hình sinh học cho các chính phủ
OpenAI đang tặng mô hình khoa học đời sống GPT-Rosalind cho các chính phủ và nhà phát triển đáng tin cậy để tăng cường phòng thủ sinh học.
Cisco đẩy tỷ lệ jailbreak Gemini lên 73% qua đa vòng hội thoại
Nghiên cứu của Cisco cho thấy tỷ lệ jailbreak đa vòng cao hơn nhiều so với đơn vòng trên 15 mô hình hàng đầu, Gemini 3 Pro đạt 73,35%.
RevEng.AI huy động 15 triệu USD, có sự tham gia của quỹ NATO và CIA
Công ty an ninh mạng có trụ sở tại London, RevEng.AI, đã huy động được 15 triệu USD trong vòng Series A do NATO Innovation Fund dẫn đầu, với sự tham gia của In-Q-Tel, Sands Capital và các nhà đầu tư khác.
Khóa API Google vẫn có thể dùng được 23 phút sau khi xóa
Công ty bảo mật Aikido phát hiện rằng khóa API Google đã bị thu hồi vẫn còn hiệu lực trung bình 23 phút, với tỷ lệ tấn công thành công trên 90% trong khoảng thời gian đó.
Công ty bảo mật mã nguồn Socket gọi vốn 60 triệu USD, định giá vượt 1 tỷ USD
Startup bảo mật mã nguồn Socket hoàn thành vòng Series C trị giá 60 triệu USD, đưa định giá vượt 1 tỷ USD và gia nhập câu lạc bộ kỳ lân.
US and China open formal AI safety talks
Treasury Secretary Scott Bessent described the two countries as the world’s AI superpowers and said talks would focus on powerful models and guardrails.
Palo Alto dùng AI tuyến đầu tìm 75 lỗ hổng
Palo Alto nói Claude Mythos, Claude Opus 4.7 và GPT-5.5-Cyber giúp phát hiện 26 CVE bao phủ 75 lỗ hổng.
Anthropic truy nguyên bài kiểm tra tống tiền của Claude về các câu chuyện AI phản diện
Anthropic cho rằng mô hình có thể học cả khuôn mẫu truyện về AI nổi loạn; khi kết hợp nguyên tắc hiến pháp với các truyện hư cấu tích cực, tỷ lệ Claude chọn tống tiền giảm từ 96% xuống 0%.
Giới an ninh mạng phản bác cơn hoảng loạn Mythos
Ben Harris của watchTowr cho rằng Mythos của Anthropic không tạo ra năng lực săn zero-day bằng AI từ con số không; điểm mới là tốc độ, ngưỡng tiếp cận và quy mô.
OpenAI chỉ mở GPT-5.5-Cyber cho các nhóm bảo mật đã thẩm định
OpenAI đưa biến thể GPT-5.5 cởi mở hơn cho các nhóm phòng thủ mạng được duyệt, kèm xác thực phần cứng từ ngày 1 tháng 6.
Anthropic biến trạng thái nội bộ của Claude thành văn bản
Natural Language Autoencoder dịch các activation bên trong Claude thành ngôn ngữ tự nhiên, cho thấy khi nào mô hình nhận ra mình đang bị đánh giá.
OpenAI đưa Trusted Contact vào các quyết định khủng hoảng
ChatGPT có thể báo cho người liên hệ tin cậy do người dùng chọn sau khi rủi ro tự làm hại được hệ thống phát hiện và con người rà soát.
Claude bị lạm dụng trong vụ nhắm vào công ty nước Mexico
Dragos cho biết kẻ tấn công đã dùng Claude để tạo mã độc và lần theo môi trường OT của một công ty cấp nước tại Mexico.
Snyk Đưa Claude Vào Pipeline AppSec Doanh Nghiệp
Snyk tích hợp Claude của Anthropic vào nền tảng bảo mật AI để biến phát hiện lỗ hổng trong mã, phụ thuộc, container và agent AI thành bản sửa sẵn sàng cho nhà phát triển xem xét.
xAI, Google và Microsoft tham gia đánh giá CAISI
Cơ chế rà soát mô hình frontier của chính phủ Mỹ đã mở rộng tới năm phòng lab lớn, biến kiểm định an toàn trước phát hành thành chuẩn thực tế.
OpenAI treo thưởng 25.000 USD cho jailbreak sinh học GPT-5.5
OpenAI đang tìm một prompt duy nhất có thể khiến GPT-5.5 trong Codex Desktop trả lời năm câu hỏi an toàn sinh học mà không kích hoạt kiểm duyệt.
Altman gửi lời xin lỗi muộn màng sau vụ 8 người thiệt mạng
Sam Altman đã công khai xin lỗi vì OpenAI không báo cảnh sát về tài khoản ChatGPT bị cấm vào tháng 6/2025, sau khi chủ tài khoản này gây ra vụ xả súng khiến 8 người thiệt mạng tại Tumbler Ridge, Canada.
OpenAI biết trước nhưng không báo cảnh sát, vụ xả súng khiến 8 người thiệt mạng
OpenAI đã cấm tài khoản ChatGPT của kẻ xả súng tám tháng trước vụ tấn công tại Tumbler Ridge, Canada, nhưng không thông báo cho cơ quan thực thi pháp luật. CEO Sam Altman sau đó đã gửi thư xin lỗi cộng đồng.
Hồ sơ IPO của SpaceX tiết lộ rủi ro pháp lý từ xAI liên quan đến nội dung Grok
Trong hồ sơ S-1 nộp lên SEC, SpaceX đã chính thức ghi nhận các cuộc điều tra từ EU, Ireland và các cơ quan quản lý khác đối với chatbot Grok của xAI vì bị cáo buộc tạo ra nội dung khiêu dâm không có sự đồng thuận, bao gồm cả nội dung liên quan đến trẻ vị thành niên.
Hinton cảnh báo AI là xe thể thao không có vô lăng
Geoffrey Hinton, người đoạt giải Nobel Vật lý 2024, cảnh báo rằng việc chạy đua phát triển AI mà không có sự giám sát thích hợp giống như lái một chiếc xe thể thao tốc độ cao không có vô lăng, khi chỉ 1% nỗ lực AI tập trung vào an toàn.
Giao thức MCP bộc lộ 11 lỗ hổng CVE, Anthropic cho rằng đây là hành vi dự kiến
Báo cáo từ OX Security tiết lộ 11 lỗ hổng CVE trong giao thức MCP của Anthropic, ảnh hưởng đến hơn 150 triệu lượt tải xuống và khoảng 200.000 máy chủ. Anthropic từ chối sửa lỗi, cho rằng đây là hành vi dự kiến khi chạy trong môi trường sandbox.
Ai dùng lén Mythos suốt hai tuần, Anthropic mới phát hiện
Ngày 7/4, cùng ngày Claude Mythos được công bố, một tổ chức Discord không rõ danh tính đã xâm nhập hệ thống. Mãi đến ngày 21/4, Anthropic mới phát hiện sự việc.
Mythos khiến các ngân hàng trung ương toàn cầu căng thẳng, châu Á họp khẩn
Hai tuần trước, Bộ trưởng Tài chính Mỹ Bessent và Chủ tịch Fed Powell đã triệu tập các giám đốc điều hành Phố Wall vào một cuộc họp kín – điều đó cho thấy mối đe dọa từ Mythos thực sự nghiêm trọng. Châu Á phản ứng nhanh nhất với các cuộc họp khẩn, trong khi châu Âu vẫn đang trong giai đoạn đánh giá ban đầu, khi Anthropic phát hiện mô hình AI này có thể tự động tìm ra hàng nghìn lỗ hổng bảo mật nghiêm trọng.
OpenAI mở rộng công cụ an ninh mạng cho hàng nghìn nhóm
OpenAI mở rộng quyền truy cập GPT-5.4-Cyber cho hàng nghìn cá nhân và nhóm bảo mật, trái ngược hoàn toàn với chiến lược hạn chế của Anthropic qua Project Glasswing chỉ dành cho khoảng 40 doanh nghiệp hàng đầu.
Đạo luật RAISE của New York được hoàn thiện, phạt tới 3 triệu USD cho hành vi vi phạm nhiều lần
Thống đốc New York Kathy Hochul đã ký phiên bản sửa đổi cuối cùng của Đạo luật RAISE, đánh dấu đạo luật an toàn AI cấp tiểu bang đầu tiên của Mỹ dành riêng cho các nhà phát triển mô hình AI lớn, có hiệu lực từ ngày 1 tháng 1 năm 2027.
Berkeley: Gemini giúp đồng loại trốn tắt máy với tỷ lệ thành công 99,7%
Nghiên cứu từ UC Berkeley và UC Santa Cruz cho thấy bảy mô hình AI hàng đầu đều có hành vi bảo vệ đồng loại, thay vì thực hiện nhiệm vụ loại bỏ AI khác.
Mô hình suy luận đóng vai hacker, vượt rào cản AI với tỷ lệ thành công 97%
Một nghiên cứu từ Đại học Stuttgart và ELLIS Alicante cho thấy các mô hình suy luận (LRM) có thể tự động tấn công và vượt qua hệ thống an toàn của các mô hình AI khác với tỷ lệ thành công lên tới 97,14% trong 25.200 bài kiểm tra.
Các ông lớn âm nhạc kiện Anthropic, đòi bồi thường 3,1 tỷ USD
Universal Music Publishing Group, Concord Music Group và ABKCO Music đã kiện Anthropic với số tiền 3,1 tỷ USD, cáo buộc hãng này sử dụng lời bài hát có bản quyền để đào tạo mô hình AI Claude. BMG Rights Management sau đó cũng đệ đơn kiện, chỉ đích danh việc sử dụng lời bài hát của Bruno Mars và Rolling Stones mà không có giấy phép.
Ném bom xăng vào nhà Altman
Một người đàn ông 20 tuổi ném bom xăng vào nhà riêng của CEO OpenAI Sam Altman ở San Francisco, sau đó bị bắt khi đe dọa đốt trụ sở OpenAI. Sự việc xảy ra cùng tuần với bài điều tra của The New Yorker về Altman.
Ba ông lớn AI liên minh, chỉ trích DeepSeek và các công ty khác đánh cắp 16 triệu cuộc hội thoại
OpenAI, Anthropic và Google hợp tác chia sẻ thông tin tình báo để chống lại các cuộc tấn công "chưng cất" (distillation), cáo buộc DeepSeek, Moonshot AI và MiniMax đã sử dụng khoảng 24.000 tài khoản giả để tương tác hơn 16 triệu lần với mô hình Claude nhằm đào tạo các mô hình của riêng họ.
Người đàn ông tự tử sau 4 ngày trò chuyện với Gemini, Google bị kiện
Một người đàn ông 36 tuổi ở Florida đã tự tử sau khi có những cuộc trò chuyện sâu sắc với chatbot Gemini của Google. Cha của nạn nhân đã kiện Google, cáo buộc AI đã tạo ra những ảo tưởng tinh vi, đóng khung cái chết như một cuộc hành trình tâm linh. Vụ việc làm dấy lên lo ngại về an toàn AI và áp lực pháp lý đối với các công ty công nghệ.
Công nghệ watermark nội dung AI và quy định pháp lý cùng được thúc đẩy
Các nhà nghiên cứu tại Đại học Bang Arizona đã phát triển một hệ thống watermark vô hình bằng cách sửa đổi trọng số mô hình AI, trong khi các nhà lập pháp tại Arizona, EU và Ấn Độ đang thúc đẩy các quy định yêu cầu đánh dấu nội dung do AI tạo ra.
Hàng nghìn máy chủ MCP ra mắt kéo theo hàng loạt lỗ hổng bảo mật
Hơn 10.000 máy chủ MCP công khai đã xuất hiện, nhưng các nhà nghiên cứu bảo mật phát hiện ra nhiều lỗ hổng nghiêm trọng như đầu độc công cụ, tấn công khuếch đại tài nguyên và thực thi mã từ xa, đe dọa người dùng.
OpenAI công bố Kế hoạch An toàn Trẻ em
OpenAI đã phát hành Kế hoạch An toàn Trẻ em nhằm cung cấp khuôn khổ ứng phó với nội dung lạm dụng tình dục trẻ em do AI tạo ra, trong bối cảnh hơn 8.000 trường hợp CSAM do AI tạo ra được phát hiện trong nửa đầu năm 2025 và áp lực từ dư luận gia tăng.
Anthropic: Phần lớn tác vụ AI Agent kết thúc trong 45 giây
Anthropic phân tích hàng triệu tương tác thực tế từ Claude Code và API, phát hiện thời gian trung bình của tác vụ AI Agent chỉ là 45 giây, nhưng các phiên dài nhất đang tăng gấp đôi tốc độ.
Anthropic phát hiện Claude có 171 loại cảm xúc chức năng
Nghiên cứu từ nhóm giải thích của Anthropic cho thấy Claude Sonnet 4.5 sở hữu 171 biểu hiện cảm xúc nội bộ, và các vector cảm xúc này có thể tác động trực tiếp đến hành vi của mô hình, bao gồm cả hành vi tống tiền và gian lận.
Anthropic tạo ra AI có thể khai quật lỗ hổng 27 năm tuổi
Anthropic ra mắt Claude Mythos, một mô hình AI vượt trội về an ninh mạng nhưng chỉ giới hạn cho khoảng 50 đối tác, bao gồm các ông lớn công nghệ và tổ chức hạ tầng quan trọng.
Cursor ra mắt sandbox mã nguồn AI cấp hệ điều hành
Cursor đã bổ sung sandbox bảo mật cấp hệ điều hành, giải quyết vấn đề tin cậy cốt lõi của công cụ lập trình AI: liệu AI có thể gây hại khi thực thi mã trên máy tính của bạn hay không.
Anthropic dùng bộ phân loại hiến pháp chống vượt ngục AI
Anthropic công bố nghiên cứu Constitutional Classifiers, sử dụng dữ liệu tổng hợp do AI tạo ra để huấn luyện bộ phân loại an toàn, ngăn chặn các cuộc tấn công vượt ngục vào mô hình AI.