Các cán bộ Công an tham gia xử lý tình huống giả định về an ninh mạng tại cuộc diễn tập. Ảnh: HN

Cuộc diễn tập có sự tham gia của hơn 70 cán bộ, chuyên viên thuộc 10 đội thi, được tổ chức theo hình thức giải quyết thử thách an ninh mạng (Capture The Flag - CTF) trực tiếp tại hội trường.

Với chủ đề “Tấn công, phòng thủ và bảo đảm an ninh mạng, an ninh dữ liệu, bảo mật thông tin đối với hệ thống Trí tuệ nhân tạo (LLM) nội bộ”, các đội thi xử lý chuỗi tình huống giả định liên quan đến nguy cơ mất an toàn thông tin trong quá trình xây dựng, triển khai và vận hành hệ thống AI. Đây là nội dung mới, hướng đến mô hình AI nội bộ mà TP Huế đang định hướng đầu tư, phát triển trong thời gian tới.

Các tình huống diễn tập tập trung vào những nguy cơ an ninh mạng như mã độc trong chuỗi cung ứng mô hình nguồn mở, đầu độc dữ liệu huấn luyện, đánh cắp và đảo ngược mô hình, thao túng câu lệnh, rò rỉ dữ liệu nhạy cảm, chiếm đoạt danh tính, sử dụng tài khoản AI trái phép và tấn công từ chối dịch vụ (DDoS).

Cán bộ thuộc Bộ Chỉ huy Quân sự TP Huế tham gia thực hành các thử thách tại cuộc diễn tập. Ảnh: HN

Trước các tình huống này, các đội thi phải phân tích nguy cơ, nhận diện điểm yếu bảo mật ở từng giai đoạn xây dựng hệ thống; triển khai biện pháp kỹ thuật bảo vệ dữ liệu, bảo mật thông tin, đồng thời thực hiện quy trình báo cáo và đề xuất phương án khắc phục sự cố.

Việc đưa các tình huống tấn công vào hệ thống LLM nội bộ cho thấy yêu cầu bảo đảm an ninh mạng không chỉ đặt ra ở khâu vận hành mà phải được tính đến ngay từ thiết kế, xây dựng hệ thống, lựa chọn mô hình, kiểm soát dữ liệu huấn luyện đến quản lý tài khoản và quyền truy cập.

Thông qua diễn tập, các lực lượng chuyên trách được nâng cao năng lực phát hiện lỗ hổng, phân tích chuỗi rủi ro và tổ chức ứng cứu sự cố. Qua đó, góp phần chủ động phòng ngừa nguy cơ mất an toàn thông tin, bảo vệ dữ liệu và bảo đảm an ninh mạng khi TP Huế đẩy mạnh ứng dụng trí tuệ nhân tạo trong hoạt động của các cơ quan, đơn vị.