Danh mục hệ thống trí tuệ nhân tạo có rủi ro cao

Tiêu chí và danh mục các hệ thống AI rủi ro cao

Theo Quyết định mới ban hành, các hệ thống AI khi vận hành phải đáp ứng đầy đủ các nguyên tắc hoạt động cơ bản của pháp luật về trí tuệ nhân tạo. Việc ứng dụng AI không làm thay đổi, chuyển giao hoặc loại trừ thẩm quyền, trách nhiệm của cơ quan, tổ chức, cá nhân có thẩm quyền.

Đồng thời, hệ thống phải bảo đảm sự giám sát, kiểm soát và khả năng can thiệp trực tiếp của con người trong quá trình vận hành, tuyệt đối không thực hiện các hành vi bị pháp luật nghiêm cấm.

Quyết định quy định rõ, một hệ thống AI bị xác định là có rủi ro cao nếu đáp ứng các tiêu chí bao gồm:

Có khả năng gây thiệt hại đáng kể đến tính mạng, sức khỏe, quyền và lợi ích hợp pháp của tổ chức, cá nhân, lợi ích quốc gia, lợi ích công cộng, an ninh quốc gia (theo quy định tại Điều 9 Luật Trí tuệ nhân tạo và khoản 1 Điều 8 Nghị định số 142/2026/NĐ-CP); đồng thời không thuộc trường hợp bị loại trừ quy định tại khoản 2 Điều 8 Nghị định số 142/2026/NĐ-CP.

Danh mục các hệ thống AI có rủi ro cao được phân định cụ thể theo 6 lĩnh vực.

Lĩnh vực giáo dục: Gồm các hệ thống cung cấp nội dung tự học sử dụng nguồn dữ liệu không kiểm soát; hệ thống sử dụng AI để tự động kiểm tra, đánh giá kết quả, xếp hạng người học hoặc giám sát, phân tích hành vi của người học.

Lĩnh vực dân tộc và tôn giáo: Gồm hệ thống tự động chấm điểm, phân loại, xếp hạng hồ sơ thụ hưởng chính sách dân tộc; tự động xác thực, quyết định tính hợp lệ của thông tin hoặc tự động quyết định chấp thuận/từ chối hồ sơ đăng ký, gia hạn, hủy bỏ các quyết định quản lý nhà nước trong lĩnh vực này.

Lĩnh vực y tế: Gồm hệ thống máy móc, thiết bị rô-bốt sử dụng AI điều khiển tự động hoặc hỗ trợ phẫu thuật.

Lĩnh vực ngân hàng: Gồm hệ thống AI tự động thực hiện các giao dịch điện tử trong hoạt động ngân hàng và hệ thống tự động quyết định cấp tín dụng.

Lĩnh vực tố tụng: Hệ thống AI nhận dạng sinh trắc học trên diện rộng nhằm phục vụ giải quyết các vụ án dân sự công ích.

Lĩnh vực giao thông vận tải: Gồm 31 hệ thống, điển hình như hệ thống AI điều khiển tự hành cấp độ cao trên phương tiện giao thông; hệ thống điều khiển/tự động vận hành tín hiệu, điều độ giao thông đường bộ, đường sắt; hệ thống điều hành, kiểm soát vận hành công trình giao thông và hạ tầng kỹ thuật trọng yếu.

Lộ trình tuân thủ nghiêm ngặt cho doanh nghiệp

Đối với các hệ thống AI thuộc danh mục nêu trên đã đưa vào vận hành trước ngày 15/8/2026, nhà cung cấp và bên triển khai bắt buộc phải hoàn thành các nghĩa vụ tuân thủ pháp luật theo lộ trình sau:

Trước ngày 1/3/2027: Áp dụng đối với các hệ thống AI thuộc các lĩnh vực giao thông vận tải, tố tụng, dân tộc và tôn giáo.

Trước ngày 1/12/2027 (hoặc theo quy định trước ngày 1/9/2027): Áp dụng đối với các hệ thống AI trong lĩnh vực y tế, giáo dục và tài chính.

Trong thời gian chuyển tiếp, các hệ thống này tạm thời được phép tiếp tục hoạt động.

Tuy nhiên, nếu cơ quan nhà nước có thẩm quyền phát hiện hệ thống có nguy cơ gây thiệt hại nghiêm trọng, đơn vị vận hành sẽ bị yêu cầu tạm dừng hoặc chấm dứt hoạt động ngay lập tức theo quy định tại khoản 2 Điều 35 Luật Trí tuệ nhân tạo.