Đề xuất phạt tiền tối đa 1 tỷ đồng với cá nhân vi phạm hành chính về trí tuệ nhân tạo

Tạo hành lang pháp lý đột phá cho trí tuệ nhân tạo

Tiếp tục chương trình Kỳ họp thứ 10, sáng nay, 21/11, Quốc hội nghe Tờ trình và Báo cáo thẩm tra dự án Luật Trí tuệ nhân tạo.

Trình bày Tờ trình dự án Luật tại phiên họp, Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng cho biết, việc xây dựng, ban hành dự án Luật nhằm thể chế hóa chủ trương của Đảng và Nhà nước, tạo hành lang pháp lý đột phá cho trí tuệ nhân tạo.

Kiến tạo môi trường pháp lý thuận lợi để thúc đẩy đổi mới sáng tạo, nâng cao năng lực cạnh tranh quốc gia; quản lý rủi ro, bảo vệ lợi ích quốc gia, quyền con người và chủ quyền số.

Dự thảo Luật gồm 8 Chương, 36 Điều, quy định về thúc đẩy hoạt động nghiên cứu, phát triển, cung cấp, triển khai và sử dụng hệ thống trí tuệ nhân tạo; quyền và nghĩa vụ của tổ chức, cá nhân liên quan; và quản lý nhà nước đối với các hoạt động trí tuệ nhân tạo tại Việt Nam.

Dự thảo Luật không áp dụng cho hệ thống trí tuệ nhân tạo phát triển, cung cấp, triển khai, sử dụng riêng cho mục đích quốc phòng, an ninh, tình báo, cơ yếu. Hệ thống trí tuệ nhân tạo hoặc mô hình trí tuệ nhân tạo được phát triển, cung cấp, triển khai, sử dụng chỉ trong phạm vi nội bộ cơ sở nghiên cứu, đào tạo, phát triển khoa học và chưa được đưa vào khai thác, cung cấp cho bên thứ ba…

Dự thảo Luật cũng quy định về mức độ rủi ro của hệ thống trí tuệ nhân tạo; phân loại và thông báo hệ thống trí tuệ nhân tạo; trách nhiệm minh bạch, gắn nhãn và giải trình; trách nhiệm quản lý và xử lý sự cố trí tuệ nhân tạo; hệ thống trí tuệ nhân tạo có rủi ro không chấp nhận được.

Đánh giá sự phù hợp đối với hệ thống trí tuệ nhân tạo có rủi ro cao; nghĩa vụ của nhà cung cấp và bên triển khai hệ thống trí tuệ nhân tạo có rủi ro cao; quản lý hệ thống trí tuệ nhân tạo rủi ro trung bình và thấp; trách nhiệm của nhà phát triển và người sử dụng mô hình trí tuệ nhân tạo đa dụng; quản lý mô hình trí tuệ nhân tạo đa dụng có rủi ro hệ thống…

Đáng chú ý của dự thảo Luật, về xử lý vi phạm và bồi thường thiệt hại, dự thảo Luật quy định tổ chức, cá nhân vi phạm quy định của Luật này sẽ bị xử lý kỷ luật, xử phạt vi phạm hành chính hoặc truy cứu trách nhiệm hình sự; nếu gây thiệt hại thì phải bồi thường theo pháp luật dân sự.

Nội dung then chốt là thiệt hại do hệ thống trí tuệ nhân tạo có rủi ro cao gây được xác định là thiệt hại do nguồn nguy hiểm cao độ gây ra. Theo đó, nhà cung cấp và bên triển khai hệ thống phải chịu trách nhiệm bồi thường kể cả khi không có lỗi, trừ các trường hợp được miễn trừ theo Bộ luật Dân sự.

Trường hợp nhiều chủ thể cùng tham gia (phát triển, cung cấp, triển khai) thì phải liên đới bồi thường; trách nhiệm bồi thường được xác định dựa trên mức độ kiểm soát thực tế, khả năng dự báo và các biện pháp quản lý rủi ro mà mỗi bên đã áp dụng.

Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng trình bày tờ trình tại phiên họp.

Về mức phạt hành chính, theo dự thảo Luật, mức phạt tiền tối đa đối với vi phạm hành chính là 2 tỷ đồng đối với tổ chức và 1 tỷ đồng đối với cá nhân. Đối với các hành vi vi phạm nghiêm trọng, mức phạt tiền tối đa có thể lên đến 2% doanh thu của năm trước liền kề của tổ chức đó.

Bảo đảm quản lý toàn diện chuỗi giá trị và ngăn ngừa rủi ro phát sinh

Báo cáo thẩm tra dự án Luật, Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường Nguyễn Thanh Hải cho biết, Ủy ban nhất trí với sự cần thiết ban hành Luật Trí tuệ nhân tạo với các cơ sở trình bày trong Tờ trình của Chính phủ.

Cơ quan thẩm tra đề nghị Cơ quan chủ trì soạn thảo tiếp tục rà soát, đánh giá kỹ hơn mức độ thể chế hóa các chủ trương, định hướng của Đảng, đặc biệt là về phát triển trí tuệ nhân tạo vì con người, vì phát triển bền vững; nâng cao năng suất lao động thông qua ứng dụng trí tuệ nhân tạo và cơ chế huy động nguồn lực xã hội, hợp tác công - tư trong phát triển hạ tầng dữ liệu, tính toán hiệu năng cao và đào tạo nhân lực trí tuệ nhân tạo…

Mục tiêu là Việt Nam thuộc nhóm 3 nước dẫn đầu khu vực Đông Nam Á về nghiên cứu và phát triển trí tuệ nhân tạo đến năm 2030; thuộc nhóm 10 nước dẫn đầu thế giới về phát triển và triển khai các giải pháp trí tuệ nhân tạo mang lợi ích cao cho xã hội, người dân và quản trị hiện đại.

Ủy ban Khoa học, Công nghệ và môi trường thấy rằng, phạm vi điều chỉnh tại dự thảo Luật được quy định tương đối toàn diện, thể hiện cách tiếp cận tổng thể, nhưng chưa làm rõ ranh giới giữa các lĩnh vực chịu sự điều chỉnh của Luật này với các luật có liên quan như Luật Khoa học, công nghệ và đổi mới sáng tạo; Luật Dữ liệu; Luật Công nghiệp công nghệ số…; mới tập trung vào hoạt động nghiên cứu, phát triển và ứng dụng hệ thống trí tuệ nhân tạo nhưng chưa bao quát đầy đủ các thực thể và yếu tố trung gian khác (như nền tảng cung cấp mô hình trí tuệ nhân tạo, hạ tầng tính toán, hoặc dịch vụ API phục vụ huấn luyện và triển khai trí tuệ nhân tạo …); không điều chỉnh hoạt động đào tạo, nghiên cứu, phát triển và thử nghiệm trí tuệ nhân tạo nội bộ.

Chủ nhiệm Uỷ ban Khoa học, Công nghệ và Môi trường Nguyễn Thanh Hải trình bày báo cáo thẩm tra.

Đề nghị Cơ quan chủ trì soạn thảo nghiên cứu, hoàn thiện quy định về phạm vi điều chỉnh để tránh chồng lấn với các luật hiện hành; nghiên cứu, mở rộng phạm vi điều chỉnh và bổ sung quy định liên quan đến các chủ thể trung gian nêu trên nhằm bảo đảm quản lý toàn diện chuỗi giá trị trí tuệ nhân tạo và ngăn ngừa rủi ro phát sinh từ hoạt động cung cấp nền tảng, mô hình gốc; cân nhắc bổ sung hoạt động đào tạo, nghiên cứu, phát triển và thử nghiệm nội bộ vì các hệ thống trí tuệ nhân tạo rủi ro cao dù trong môi trường nội bộ vẫn có thể gây sự cố kỹ thuật hoặc an ninh mạng nghiêm trọng nếu không được kiểm soát.

Ngoài ra, có ý kiến đề nghị chỉnh lý phạm vi điều chỉnh theo hướng quy định đầy đủ các giai đoạn trong vòng đời của hệ thống trí tuệ nhân tạo, tham khảo khung của UNESCO (2022), bao gồm từ nghiên cứu, thiết kế, phát triển, triển khai, sử dụng, bảo trì, vận hành, thương mại, giám sát, xác thực, đến ngừng sử dụng, tháo dỡ và chấm dứt hệ thống, bảo đảm bao quát toàn bộ chuỗi hoạt động.

Về chính sách của Nhà nước về trí tuệ nhân tạo, Cơ quan thẩm tra cơ bản nhất trí với các chính sách quy định tại Điều 5 dự thảo Luật, đồng thời đề nghị Cơ quan chủ trì soạn thảo cân nhắc bổ sung một số nội dung chính sách.

Cụ thể, bổ sung vào khoản 2 nội dung: đẩy mạnh thử nghiệm có kiểm soát đối với các công nghệ trí tuệ nhân tạo tiên tiến nhưng rủi ro tiềm ẩn; bổ sung vào khoản 3 các nội dung: Nhà nước đảm bảo quyền tiếp cận dữ liệu lớn có chất lượng cao để phục vụ huấn luyện mô hình trí tuệ nhân tạo; Nhà nước có cơ chế thu hút và đãi ngộ chuyên gia, định hướng đào tạo nhân lực gắn với nhu cầu doanh nghiệp; Nhà nước có chính sách đào tạo chuyên sâu và phổ cập kiến thức, kỹ năng số cơ bản, đạo đức trí tuệ nhân tạo cho cán bộ công chức, người dân, nhất là trẻ em để sử dụng trí tuệ nhân tạo an toàn.

Ngoài ra, có ý kiến đề nghị cân nhắc tham khảo thêm kinh nghiệm quốc tế để xây dựng chính sách ứng phó với những thay đổi trong mọi lĩnh vực, bao gồm kinh tế, xã hội, văn hóa và đời sống thường nhật của người dân do trí tuệ nhân tạo mang lại, tạo ra, đồng thời giúp mọi công dân có thể thích ứng ổn định với sự thay đổi…