Trung Quốc tăng cường quản lý "con người ảo" và cấm các dịch vụ gây nghiện đối với trẻ em

Cục Quản lý Không gian mạng Trung Quốc (Cyberspace Administration of China – CAC) đã đề xuất các quy định yêu cầu "con người ảo" như MC ảo, trợ lý ảo, người sáng tạo nội dung ảo,... phải được dán nhãn rõ ràng. Đồng thời CAC cũng nghiêm cấm việc cung cấp các dịch vụ có nguy cơ gây tác động tiêu cực thông qua AI cho trẻ em dưới 18 tuổi. Theo đó, các nhà cung cấp dịch vụ được yêu cầu ngăn chặn và loại bỏ các nội dung không phù hợp, gây nghiện, kinh dị, bạo lực hoặc có yếu tố phân biệt đối xử dựa trên sắc tộc, vùng miền. Bên cạnh đó, các chủ thể này cũng được khuyến khích áp dụng các biện pháp cần thiết để hỗ trợ người dùng trong trường hợp phát sinh các hậu quả không mong muốn.

Quy định mới cũng nghiêm cấm việc sử dụng thông tin cá nhân để tạo ra các con người ảo khi chưa được chấp thuận, hoặc việc sử dụng con người ảo để vượt qua các hệ thống nhận dạng. Các hành vi sử dụng con người ảo để phát tán nội dung độc hại, đe doạ an ninh quốc gia, làm phương hại đến khối đoàn kết dân tộc, cổ xuý bạo lực và các hành vi tương tự cũng bị nghiêm cấm.

Những quy định này phản ánh nỗ lực của Trung Quốc trong việc quản lý AI, một lĩnh vực đang phát triển nhanh chóng và có tác động sâu rộng, mang lại nhiều lợi ích cho xã hội nhưng cũng đặt ra không ít thách thức đối với hệ thống pháp luật hiện hành cả ở cấp độ quốc gia và quốc tế. Động thái này diễn ra trong bối cảnh Trung Quốc đang đẩy mạnh ứng dụng trí tuệ nhân tạo trên phạm vi toàn nền kinh tế, theo định hướng được xác lập trong kế hoạch phát triển 5 năm mới ban hành. Song song với đó, quốc gia này cũng tăng cường các biện pháp quản lý đối với ngành công nghiệp này nhằm bảo đảm an toàn và phù hợp với các định hướng giá trị xã hội.

Trước đó, Trung Quốc đã ban hành các quy định về thuật toán năm 2022, yêu cầu các nền tảng đăng ký và kiểm soát hệ thống đề xuất nội dung, đồng thời hạn chế các tác động tiêu cực đến người dùng. Tiếp đó, các quy định về công nghệ tổng hợp sâu (deepfake), có hiệu lực từ năm 2023, cũng đặt ra yêu cầu đối với việc gắn nhãn nội dung do AI tạo ra nhằm tránh gây nhầm lẫn với thông tin thật. Các quy định về trí tuệ nhân tạo tạo sinh được ban hành năm 2023 cũng nhấn mạnh trách nhiệm của doanh nghiệp trong việc kiểm soát nội dung và bảo đảm các sản phẩm AI phù hợp với các chuẩn mực xã hội. Trong lĩnh vực bảo vệ trẻ em, Trung Quốc trước đây cũng đã áp dụng nhiều biện pháp kiểm soát như giới hạn thời gian sử dụng trò chơi điện tử đối với người chưa thành niên. So với các quy định trước đó, chính sách mới cho thấy xu hướng mở rộng phạm vi điều chỉnh sang các ứng dụng AI, trong đó có “con người ảo”, đồng thời tăng cường yêu cầu về trách nhiệm của các chủ thể cung cấp dịch vụ.

Các quy định nêu trên được kỳ vọng sẽ góp phần tăng cường kiểm soát đối với các ứng dụng trí tuệ nhân tạo, trong bối cảnh các công nghệ như “con người ảo” đang phát triển nhanh và ngày càng được sử dụng rộng rãi. Việc yêu cầu dán nhãn và làm rõ trách nhiệm của các chủ thể cung cấp dịch vụ có thể giúp hạn chế nguy cơ lan truyền thông tin sai lệch, đồng thời nâng cao tính minh bạch trong môi trường số.

Bên cạnh đó, việc siết chặt nội dung và tăng cường bảo vệ người chưa thành niên được xem là một bước đi nhằm giảm thiểu những tác động tiêu cực của công nghệ đối với các nhóm đối tượng dễ bị tổn thương. Tuy nhiên, các yêu cầu quản lý mới cũng có thể làm gia tăng chi phí tuân thủ đối với doanh nghiệp, đặc biệt trong việc kiểm soát nội dung và vận hành các hệ thống AI.