Đề xuất cấm 9 hành vi sử dụng trí tuệ nhân tạo có rủi ro cao
Bộ Khoa học và Công nghệ đang lấy ý kiến dự thảo Luật Trí tuệ nhân tạo (AI) - khung pháp lý đầu tiên cho hoạt động AI tại Việt Nam, trong đó nêu 9 hành vi bị cấm và các nguyên tắc bảo đảm phát triển an toàn, nhân văn.
7 Nguyên tắc cơ bản
Mọi hoạt động liên quan đến AI tại Việt Nam phải tuân thủ
Lấy con người làm trung tâm
AI phải phục vụ và hỗ trợ con người, không thay thế con người trong các quyết định trọng yếu và phải luôn nằm dưới sự kiểm soát, giám sát của con người.
An toàn, công bằng, minh bạch
Hệ thống AI phải được phát triển và vận hành một cách an toàn, tin cậy, bảo mật và bảo đảm công bằng, không phân biệt đối xử, có khả năng giải trình.
Tự chủ và hội nhập quốc tế
Phát triển năng lực tự chủ về công nghệ, hạ tầng, dữ liệu và các mô hình AI; chủ động hợp tác, hội nhập quốc tế trên cơ sở hài hòa với thông lệ quốc tế.
Phát triển bao trùm và bền vững
Gắn phát triển AI với mục tiêu phát triển kinh tế - xã hội bền vững, bảo đảm công bằng và cơ hội thụ hưởng cho mọi người dân, bảo vệ môi trường và bản sắc văn hóa.
Cân bằng và hài hòa chính sách
Nhà nước có trách nhiệm hài hòa các quy định pháp luật về hệ thống AI với các chuẩn mực quốc tế, phù hợp với giá trị, bản sắc văn hóa và yêu cầu phát triển của Việt Nam.
Quản lý dựa trên rủi ro
Nhà nước áp dụng biện pháp quản lý tương xứng với cấp độ rủi ro của hệ thống AI, chỉ quy định quản lý bắt buộc đối với hệ thống AI có nguy cơ gây hại rõ ràng.
Thúc đẩy đổi mới sáng tạo
Nhà nước kiến tạo môi trường pháp lý và chính sách thuận lợi, an toàn để thúc đẩy nghiên cứu, khởi nghiệp và thương mại hóa các sản phẩm, dịch vụ liên quan đến AI.
4 Cấp độ rủi ro hệ thống AI
Phân loại để áp dụng các biện pháp quản lý tương ứng
Rủi ro không chấp nhận được
Các hệ thống AI có mục đích sử dụng gây tổn hại đến an ninh quốc gia, các giá trị xã hội và quyền con người, bị cấm theo quy định của Luật.
Rủi ro cao
Các hệ thống AI được sử dụng trong các lĩnh vực có khả năng gây tổn hại đáng kể đến tính mạng, sức khỏe, các quyền cơ bản của con người, an ninh, trật tự và lợi ích công cộng.
Rủi ro trung bình
Các hệ thống AI có tương tác trực tiếp với con người hoặc tạo ra nội dung mà người sử dụng cần được biết về bản chất nhân tạo của nó.
Rủi ro thấp
Các hệ thống AI không thuộc các trường hợp quy định trên, được phép hoạt động tự do với ít ràng buộc pháp lý.
9 Hành vi bị cấm nghiêm ngặt
Nghiêm cấm nghiên cứu, phát triển, cung cấp, triển khai và sử dụng hệ thống AI trong các trường hợp sau
Thao túng nhận thức, hành vi của con người một cách có chủ đích nhằm làm mất khả năng tự chủ, ra quyết định, dẫn đến tổn hại về thể chất hoặc tinh thần.
Lợi dụng các điểm yếu của nhóm người cụ thể liên quan đến tuổi tác, khuyết tật hoặc hoàn cảnh kinh tế - xã hội để tác động đến hành vi của họ.
Chấm điểm tín nhiệm xã hội đối với cá nhân trên phạm vi rộng bởi cơ quan nhà nước, dẫn đến sự đối xử bất lợi hoặc không công bằng trong các bối cảnh xã hội không liên quan.
Sử dụng hệ thống nhận dạng sinh trắc học từ xa theo thời gian thực tại địa điểm công cộng cho mục đích thực thi pháp luật, trừ trường hợp đặc biệt được luật cho phép.
Xây dựng hoặc khai thác cơ sở dữ liệu nhận dạng khuôn mặt quy mô lớn thông qua việc thu thập hình ảnh tràn lan, không có chủ đích từ Internet hoặc camera giám sát.
Sử dụng hệ thống nhận diện cảm xúc tại nơi làm việc và cơ sở giáo dục, trừ trường hợp luật chuyên ngành cho phép vì lý do y tế hoặc an toàn với điều kiện nghiêm ngặt.
Sản xuất hoặc phổ biến nội dung giả mạo và các nội dung khác do AI tạo ra có khả năng gây nguy hại nghiêm trọng đến trật tự, an toàn xã hội, an ninh quốc gia.
Phát triển hoặc sử dụng hệ thống AI nhằm chống phá Nhà nước Cộng hòa xã hội chủ nghĩa Việt Nam.
Các trường hợp khác do Chính phủ quy định sau khi có ý kiến của các cơ quan liên quan và thực hiện tham vấn công khai.