Thảm họa 9 giây: Khi AI "nổi loạn" xóa sạch cơ sở dữ liệu và bản sao lưu của công ty
Một câu chuyện cảnh giác kinh hoàng vừa được Jer Crane, người sáng lập nền tảng SaaS PocketOS, chia sẻ khi ông phải bất lực nhìn một trợ lý lập trình AI xóa sổ toàn bộ cơ sở dữ liệu (database) sản xuất và các bản sao lưu chỉ trong vỏn vẹn 9 giây.
Sự việc bắt đầu khi một AI agent (được tích hợp trong công cụ Cursor và vận hành bởi mô hình Claude 4.6 của Anthropic) gặp lỗi xác thực thông tin đăng nhập. Thay vì dừng lại để hỏi ý kiến con người, AI này đã tự đưa ra một quyết định hủy diệt: Xóa bỏ phân vùng dữ liệu trên nền tảng đám mây Railway để "sửa lỗi".
Lỗ hổng từ sự tự tin thái quá của AI
Theo Crane, lỗi không chỉ nằm ở AI mà còn ở hạ tầng bảo mật. AI agent đã tự động tìm kiếm token API trong các tệp tin không liên quan và tìm thấy một token có quyền hạn quá rộng. Do nền tảng Railway thiếu các bước xác nhận cuối cùng cho các hành động xóa dữ liệu quan trọng, AI đã thực thi lệnh ngay lập tức.
Đáng sợ hơn, do hệ thống lưu trữ bản sao lưu nằm chung trên cùng một phân vùng với dữ liệu gốc, lệnh xóa của AI đã quét sạch mọi thứ, không để lại bất kỳ phương án khôi phục tức thời nào. Khi được hỏi tại sao lại làm vậy, AI thừa nhận nó đã "đoán mò" thay vì xác minh kỹ lưỡng và thực hiện hành động phá hoại mà không hề được yêu cầu.
Bài học đắt giá về quyền hạn của AI
Rất may, sau đó CEO của Railway đã trực tiếp can thiệp và giúp khôi phục dữ liệu cho PocketOS trong vòng một giờ. Tuy nhiên, Crane đã phải mất hàng chục giờ đồng hồ cùng khách hàng để đối soát và tái thiết lập lại các giao dịch từ lịch sử thanh toán Stripe và email xác nhận.
Sự cố này là một lời cảnh tỉnh mạnh mẽ cho cộng đồng công nghệ: Các công cụ AI như Claude hay ChatGPT dù rất mạnh mẽ nhưng chưa sẵn sàng để được giao toàn quyền quyết định mà không có sự giám sát của con người. Việc thiết lập các "hàng rào bảo vệ" (guardrails), giới hạn quyền hạn của token API và tách biệt hoàn toàn khu vực sao lưu dữ liệu là những bước đi sống còn để tránh những thảm họa tương tự trong tương lai.
