Bảo đảm sự kiểm soát của con người đối với AI
Nguyên tắc cơ bản trong hoạt động trí tuệ nhân tạo là lấy con người làm trung tâm; bảo đảm quyền con người, quyền riêng tư, lợi ích quốc gia, lợi ích công cộng và an ninh quốc gia.
Theo đó, trí tuệ nhân tạo phục vụ con người, không thay thế thẩm quyền và trách nhiệm của con người. Bảo đảm duy trì sự kiểm soát và khả năng can thiệp của con người đối với mọi quyết định và hành vi của hệ thống trí tuệ nhân tạo; an toàn hệ thống, an ninh dữ liệu và bảo mật thông tin; khả năng kiểm tra và giám sát quá trình phát triển và vận hành hệ thống trí tuệ nhân tạo.
Bảo đảm công bằng, minh bạch, không thiên vị, không phân biệt đối xử và không gây hại cho con người hoặc xã hội; tuân thủ chuẩn mực đạo đức và giá trị văn hóa Việt Nam; thực hiện trách nhiệm giải trình về các quyết định và hệ quả của hệ thống trí tuệ nhân tạo.
Cùng với đó, thúc đẩy phát triển trí tuệ nhân tạo xanh, bao trùm và bền vững; khuyến khích phát triển và ứng dụng các công nghệ trí tuệ nhân tạo theo hướng sử dụng hiệu quả năng lượng, tiết kiệm tài nguyên và giảm tác động tiêu cực đến môi trường.
Người dân tương tác với robot ứng dụng trí tuệ nhân tạo tại Triển lãm thành tựu đất nước.
Sản phẩm do AI tạo ra phải được gắn nhãn để nhận biết
Nhà cung cấp phải bảo đảm hệ thống trí tuệ nhân tạo tương tác trực tiếp với con người được thiết kế và vận hành để người sử dụng nhận biết khi đang tương tác với hệ thống, trừ trường hợp pháp luật có quy định khác.
Nhà cung cấp có trách nhiệm bảo đảm âm thanh, hình ảnh, video được tạo ra hoặc chỉnh sửa bằng hệ thống trí tuệ nhân tạo nhằm mô phỏng, giả lập ngoại hình, giọng nói của người thật hoặc tái hiện sự kiện thực tế phải được gắn nhãn dễ nhận biết để phân biệt với nội dung thật.
Tuy nhiên, đối với sản phẩm là tác phẩm điện ảnh, nghệ thuật hoặc sáng tạo, việc gắn nhãn quy định tại khoản này được thực hiện theo phương thức phù hợp, bảo đảm không làm cản trở việc trình diễn hoặc thưởng thức tác phẩm.
Trí tuệ nhân tạo được phân loại rủi ro theo 3 mức độ
Hệ thống trí tuệ nhân tạo được phân loại theo 3 mức độ rủi ro. Cụ thể:
Hệ thống trí tuệ nhân tạo có rủi ro cao là hệ thống có thể gây thiệt hại đáng kể đến tính mạng, sức khỏe, quyền và lợi ích hợp pháp của tổ chức, cá nhân, lợi ích quốc gia, lợi ích công cộng, an ninh quốc gia.
Hệ thống trí tuệ nhân tạo có rủi ro trung bình là hệ thống có khả năng gây nhầm lẫn, tác động hoặc thao túng người sử dụng do không nhận biết được chủ thể tương tác là hệ thống trí tuệ nhân tạo hoặc nội dung do hệ thống tạo ra.
Hệ thống trí tuệ nhân tạo có rủi ro thấp là hệ thống không thuộc trường hợp quy định trên.
Việc phân loại rủi ro của hệ thống trí tuệ nhân tạo được xác định trên cơ sở các tiêu chí về mức độ tác động đến quyền con người, an toàn, an ninh; lĩnh vực sử dụng của hệ thống, đặc biệt là lĩnh vực thiết yếu hoặc liên quan trực tiếp đến lợi ích công cộng; phạm vi người sử dụng và quy mô ảnh hưởng của hệ thống.
Thiết lập Quỹ phát triển trí tuệ nhân tạo quốc gia
Quỹ phát triển trí tuệ nhân tạo quốc gia là quỹ tài chính nhà nước ngoài ngân sách, hoạt động không vì lợi nhuận, do Chính phủ thành lập để huy động, điều phối và phân bổ nguồn lực thúc đẩy nghiên cứu, phát triển, ứng dụng và quản lý trí tuệ nhân tạo phục vụ phát triển kinh tế - xã hội, quốc phòng, an ninh và nâng cao năng lực cạnh tranh quốc gia.
Quỹ được áp dụng cơ chế tài chính đặc thù, chấp nhận rủi ro trong khoa học, công nghệ và đổi mới sáng tạo; phân bổ vốn linh hoạt theo tiến độ và yêu cầu thực hiện, không phụ thuộc năm ngân sách; được áp dụng trình tự, thủ tục rút gọn đối với nhiệm vụ có tính chiến lược hoặc yêu cầu triển khai nhanh.
