Chính phủ đã triển khai hệ thống có khả năng tự động phát hiện nội dung xâm hại tình dục và đưa ra yêu cầu xóa bỏ một cách nhanh chóng. (Ảnh: iClickArt - Hình ảnh trên được bảo vệ theo luật bản quyền, nghiêm cấm sao chép và tái phân phối trái phép.)

Bài viết từ Koh Hyunjeong

Chính phủ sẽ triển khai hệ thống trí tuệ nhân tạo (AI) có khả năng tự động phát hiện nội dung xâm hại tình dục trên môi trường số và gửi yêu cầu gỡ bỏ.

Hệ thống này được kỳ vọng sẽ giúp chuyển từ cách ứng phó thụ động, mang tính xử lý sau khi đã xảy ra sự việc sang cơ chế chủ động ứng phó tội phạm tình dục trên môi trường số một cách tự động hóa và thông minh hóa, qua đó nâng cao tốc độ và độ chính xác trong xử lý.

Ngày 1/4, Bộ Bình đẳng Giới và Gia đình cho biết sẽ chính thức triển khai ba hệ thống công nghệ cốt lõi gồm: tự động hóa việc yêu cầu gỡ bỏ, chủ động ứng phó với nội dung xâm hại tình dục trẻ em và thanh thiếu niên trên môi trường mạng, và công nghệ phát hiện deepfake dựa trên AI.

Khi phát hiện video vi phạm, hệ thống AI sẽ tự động xử lý toàn bộ quy trình theo thời gian thực, từ gửi yêu cầu gỡ bỏ trên khoảng 20.000 trang web đến quản lý lịch sử xử lý. Thời gian xử lý cho mỗi trường hợp được rút ngắn xuống còn dưới 1 phút.

Đối với nội dung xâm hại tình dục trẻ em và thanh thiếu niên hoặc các thông tin dụ dỗ, AI có thể chủ động phát hiện và chặn trước ngay cả khi chưa có ai trình báo. Kết quả thử nghiệm trước đó cho thấy số lượng thông tin được thu thập tăng hơn 80 lần so với khi con người thực hiện trực tiếp.

Bộ trưởng Bộ Bình đẳng Giới và Gia đình, Won Minkyong, cho biết: “Chúng tôi sẽ đẩy mạnh đưa công nghệ AI vào thực tiễn nhằm nâng cao tốc độ và độ chính xác trong ứng phó, đồng thời xây dựng hệ thống hỗ trợ chặt chẽ để giúp các nạn nhân nhanh chóng trở lại cuộc sống bình thường.”

hjkoh@korea.kr