Điều 15 Nghị định số 142/2026/NĐ-CP: Quản lý hệ thống trí tuệ nhân tạo có rủi ro cao

Điều 15. Quản lý hệ thống trí tuệ nhân tạo có rủi ro cao

1. Nhà cung cấp hệ thống trí tuệ nhân tạo có rủi ro cao phải thiết lập và duy trì hệ thống quản lý rủi ro đối với hệ thống do mình cung cấp phù hợp với mục đích sử dụng, phạm vi triển khai và mức độ rủi ro của hệ thống.

2. Hệ thống quản lý rủi ro quy định tại khoản 1 Điều này bao gồm tối thiểu các nội dung sau đây:

a) Xác định và đánh giá các rủi ro có thể phát sinh đối với quyền con người, an toàn, an ninh hoặc lợi ích công cộng trong quá trình thiết kế, phát triển và cung cấp hệ thống;

b) Bảo đảm chất lượng, tính phù hợp và tính đại diện của dữ liệu huấn luyện, dữ liệu kiểm thử và dữ liệu đánh giá trong phạm vi cần thiết để hạn chế rủi ro phát sinh từ dữ liệu;

c) Thiết kế và duy trì cơ chế giám sát và can thiệp của con người phù hợp với mức độ rủi ro của hệ thống;

d) Áp dụng biện pháp kỹ thuật hoặc biện pháp quản lý nhằm phòng ngừa, hạn chế hoặc kiểm soát các rủi ro đã được xác định;

đ) Rà soát và cập nhật biện pháp quản lý rủi ro khi hệ thống có thay đổi đáng kể về mô hình, dữ liệu, phương thức vận hành hoặc mục đích sử dụng.

3. Nhà cung cấp có trách nhiệm cung cấp cho bên triển khai các thông tin cần thiết về mục đích sử dụng của hệ thống, điều kiện vận hành an toàn, các rủi ro đã được xác định và biện pháp quản lý rủi ro tương ứng để bảo đảm việc triển khai và sử dụng hệ thống đúng mục đích.

4. Bên triển khai hệ thống trí tuệ nhân tạo có rủi ro cao phải tổ chức quản lý rủi ro trong quá trình triển khai và vận hành hệ thống phù hợp với mục đích sử dụng, phạm vi triển khai, mức độ rủi ro của hệ thống và hướng dẫn kỹ thuật của nhà cung cấp.

5. Trong quá trình triển khai và vận hành, bên triển khai thực hiện các biện pháp quản lý rủi ro sau đây:

a) Vận hành hệ thống đúng mục đích sử dụng, điều kiện sử dụng và giới hạn sử dụng do nhà cung cấp xác định;

b) Tổ chức giám sát hoạt động của hệ thống nhằm phát hiện sai lệch, rủi ro hoặc sự cố có thể phát sinh;

c) Thiết lập và duy trì cơ chế giám sát và can thiệp của con người trong quá trình sử dụng hệ thống theo quy định của pháp luật;

d) Áp dụng biện pháp hạn chế hoặc kiểm soát rủi ro trong phạm vi quyền kiểm soát của mình khi phát hiện hệ thống hoạt động không đúng mục đích sử dụng hoặc phát sinh rủi ro mới;

đ) Phối hợp với nhà cung cấp trong việc rà soát, cập nhật biện pháp quản lý rủi ro khi hệ thống có thay đổi đáng kể hoặc khi phát sinh sự cố.

6. Trường hợp phát hiện hệ thống có nguy cơ gây thiệt hại nghiêm trọng đến tính mạng, sức khỏe con người, quyền con người, tài sản, an ninh mạng, trật tự, an toàn xã hội hoặc lợi ích công cộng, bên triển khai phải kịp thời áp dụng biện pháp hạn chế rủi ro trong phạm vi quyền kiểm soát của mình và thông báo cho nhà cung cấp và cơ quan nhà nước có thẩm quyền theo quy định của pháp luật.