최근 몇년 동안 AI기술이 빠르게 발전함에 따라 점점 많은 사람들이 업무생활에서 그 혜택을 향수하고 있다. 그런데 이와 더불어 AI기술을 리용하거나 람용한 위법범죄 활동(이하 AI범죄)도 속출하고 있다.

례를 들면 ‘원클릭 탈의’란 사진을 토대로 AI자주연산(自行运算)을 통해 관련 음란영상 소재를 사용하여 사진을 다시 가공하는데 ‘AI로 얼굴 바꾸기’, ‘AI 변성’과 마찬가지로 AI 심층학습, 가상현실 등 생성합성류 알고리즘을 리용하여 문건, 사진, 음성, 영상, 가상장면 등 정보를 제작하는 기술에 속한다. ‘얼굴 바꾸기’, ‘변성’ 심지어 ‘활동성 얼굴 바꾸기’ 등 AI기술을 통한 범죄활동은 위해성을 일층 증가시켰고 ‘AI 회화’기술로 생성된 회화작품은 타인의 저작권을 침해했다. 현재 AI기술은 이미 불법분자들이 인터넷낚시, 심층위조, 신분검사 회피, ‘탈옥’식 봉사, 인육 검색과 감시 등 5개 면에 사용되고 있다.

이 같은 준엄한 도전에 직면하여 정법기관에서는 일련의 조치를 취하여 AI범죄를 타격하고 AI기술의 량호한 발전환경을 수호함으로써 AI기술이 응용과정에 문제가 생기는 것을 피면하고 있다.

2023년 9월 최고인민법원, 최고인민검찰원, 공안부는 련합으로 ‘인터넷폭력 위법범죄를 법에 의해 징벌할 데 관한 지도의견’을 발표하여 ‘심층합성’ 등 생성식 인공지능기술을 리용하여 정보를 위법으로 발포할 경우 엄중히 처벌한다고 명확히 했다. 최고인민검찰원이 ‘검찰기관의 전신 인터넷사기 및 그 관련 범죄단속 사업 상황(2023년)’을 발포한 후 각지 검찰기관은 관련 요구에 따라 공민의 개인정보 특히 얼굴, 음성 등 민감한 정보를 불법으로 획득하고 AI 등 선진기술을 리용하여 실시한 얼굴, 음성 위조 범죄활동에 대한 타격 강도를 높였다. 지난해 전국 공안기관은 ‘인터넷 정화’ 전문행동을 전개해 신분증사진 등 사진정보를 루설한 범죄 원천을 엄하게 단속했으며 ‘AI로 얼굴 바꾸기’ 사기범죄사건 79건을 수사하고 범죄혐의자 515명을 나포했다.

‘AI로 얼굴 바꾸기’ 범죄를 방지하고 타격하기 위해 전국공안기관은 국가중점실험실 등 단위와 련합하여 안면인식과 생체검측기술 안전평가를 전개하고 즉석 통신, 인터넷 생방송, 인터넷 사교, 전자상거래플랫폼, 금융지불 등 중점 APP를 망라하여 안면인식검사 시스템에 존재하는 위험우환을 제때에 발견하고 운영주체에게 안전보호 조치와 안면인식 알고리즘을 업그레이드하라고 통보했다. 이와 동시에 각지에서는 여러가지 형식의 선전교양을 통해 대중들의 AI기술 리용이나 람용으로 인한 법률위험인식, AI범죄에 대한 방지의식을 제고시켰다.  

　　법치일보