Văn phòng Cảnh sát trưởng hạt Siskiyou, bang California, vừa thông báo về một vụ cứu hộ: ba thanh niên đến từ Roseville bị lạc đường khi xuống núi Shasta, phải qua đêm ngoài trời trước khi được giải cứu. Họ nói với các phó cảnh sát trưởng rằng phần lớn kế hoạch hành trình và danh sách trang bị được lập dựa trên Google Gemini. TechCrunch, ABC News và CBS đã đưa tin về vụ việc vào khoảng ngày 5 tháng 9.
Theo diễn biến trong thông báo, ba người dựng trại ở độ cao khoảng 8.400 feet, rồi xuất phát chinh phục đỉnh lúc 3 giờ sáng hôm sau với ba lô nhẹ. Hành trình dự kiến leo lên trong 8 giờ, nhưng thực tế họ lên tới đỉnh vào lúc 7 giờ tối — trong khi thời điểm quay đầu được khuyến nghị tại khu vực này là 12 giờ trưa. Việc xuống núi diễn ra trong đêm tối; một giờ sau khi xuất phát, họ gọi điện cho tổng đài của Văn phòng Cảnh sát trưởng để hỏi đường, sau đó đi lạc khỏi lộ trình và lạc vào khe núi Mud Creek ở sườn nam. Một người trong nhóm bị thương ở đầu gối, cả nhóm phải ngủ qua đêm trong lòng khe dốc đứng cho đến sáng hôm sau, khi được đội kiểm lâm leo núi của Sở Lâm nghiệp Hoa Kỳ tiếp cận, sau đó đội cứu hộ của Văn phòng Cảnh sát trưởng cũng có mặt.
Điều cảnh sát chỉ đích danh là bản danh sách đó
Kết luận trong thông báo khá cụ thể: lượng thức ăn và nước uống mà Gemini gợi ý mang theo thấp hơn nhiều so với nhu cầu thực tế của nhóm, nhất là khi hành trình leo núi dự kiến 8 giờ biến thành chuyến đi kéo dài qua nhiều ngày. Văn phòng Cảnh sát trưởng sau đó khuyến cáo không nên chỉ dựa vào AI để lên kế hoạch hành trình, và nên liên hệ trạm kiểm lâm địa phương trước khi xuất phát.
Những gì thông báo không nêu ra còn nhiều hơn những gì đã nêu. Ba người đã hỏi Gemini những câu gì, danh sách mà mô hình đưa ra cụ thể gồm những gì, họ có làm theo toàn bộ hay không, họ dùng phiên bản mô hình nào, có kết nối với dữ liệu thời tiết và lộ trình theo thời gian thực hay không — tất cả những điều này đều không có trong tài liệu công khai. Google chưa lên tiếng về vụ việc. Đổ hết trách nhiệm cho mô hình thì tài liệu hiện có không đủ cơ sở; còn đổ hết cho ba người thì câu nói về lượng thức ăn và nước trong thông báo cũng không phải viết ra cho có.
Nhìn sang bối cảnh Trung Quốc
Tại Trung Quốc cũng có những người dùng mô hình ngôn ngữ lớn để hỏi đường và lập danh sách trang bị khi đi dã ngoại, nhất là trên những cung đường hoang sơ chưa có dịch vụ hướng dẫn viên bài bản. Điểm khác biệt nằm ở lớp lưới an toàn phía sau: trong vụ việc này, Văn phòng Cảnh sát trưởng là đơn vị chịu trách nhiệm chính về cứu hộ tại địa phương, và thông báo đã đưa ra một phương án thay thế khả thi là gọi điện cho trạm kiểm lâm sở tại. Ở Trung Quốc, các đầu mối tương ứng là ban quản lý khu danh thắng, đội cứu hộ địa phương và các kênh đăng ký lộ trình công khai, chỉ có điều những đầu mối này khá phân tán, hiếm khi xuất hiện ở trang đầu kết quả tìm kiếm.
Danh sách mà mô hình đưa ra trông có vẻ đầy đủ, giọng điệu cũng rất chắc chắn. Một người dẫn đường quen thuộc với ngọn núi đó sẽ hỏi trước xem nhóm có bao nhiêu người, thể lực ra sao, đường tuyết mùa này nằm ở đâu, rồi mới quyết định cần mang theo bao nhiêu nước.
Số vụ việc được ghi nhận công khai kiểu này vẫn còn quá ít để đánh giá mức độ rủi ro tổng thể của việc dùng AI lập kế hoạch hành trình. Điều có thể khẳng định là một khoảng trống trong quy trình: mô hình không biết thể lực, kinh nghiệm của người dùng và tình trạng trên núi vào ngày hôm đó, trừ khi người dùng chủ động cho biết — mà phần lớn mọi người lại không chủ động nói ra. Những biến số quan trọng nhất trong việc lập kế hoạch hành trình lại chính là những thứ mô hình không thể hỏi được.
Nguồn tham khảo: Thông báo của Văn phòng Cảnh sát trưởng hạt Siskiyou, TechCrunch, CocoLoop, ABC News, CBS Sacramento; độ cao trại khoảng 8.400 feet, hai mốc thời gian xuất phát lúc 3 giờ sáng và lên đỉnh lúc 7 giờ tối, mốc khuyến nghị quay đầu lúc 12 giờ trưa tại địa phương, vị trí khe núi Mud Creek và các đơn vị tham gia cứu hộ đều được đối chiếu theo nội dung thông báo.