카카오톡 실시간으로 검열 되고 있는 이유!

"불법 촬영물 필터링 시스템, 과연 효과적인가? 현재 상황과 미래 전망"

#불법촬영물 #방송통신위원회 #AI필터링 #디지털성범죄 #n번방사건 #오탐지 #무죄추정 #개인정보보호

안녕하세요.

최근 방송통신위원회가 불법 촬영물의 유통을 방지하기 위해 도입한 표준 DNA 모듈 필터링 시스템에 대한 논란이 뜨겁습니다. 2021년 12월 10일부터 시행된 "디지털 성범죄물 유통방지를 위한 기술적‧관리적 조치 시행" 법에 따라, 매출액 10억 이상 또는 일평균 이용자 10만 명 이상의 SNS, 커뮤니티, 인터넷 개인방송, 검색포털 등의 기업에 이 시스템이 적용되었습니다. 그러나 이 시스템의 효과성에 대한 의문과 더불어, 불필요한 오탐지로 인한 피해 사례들이 속출하고 있습니다.

현재까지의 필터링 시스템 성과와 문제점

방송통신위원회의 표준 DNA 모듈을 사용한 불법 촬영물 필터링 시스템이 도입된 후, 실제 불법 촬영물로 탐지된 비율은 0.00002351%로 매우 낮은 수준입니다. 반면 정상 자료가 불법 촬영물로 잘못 탐지된 확률은 0.00035273%로, 오탐지 비중이 93.75%에 달해 정확도가 매우 낮습니다.

실제로 이 시스템이 적용된 후 검출된 불법 촬영물 글은 단 1건에 불과했으며, 그마저도 필터링 시스템 없이도 단속이 가능한 경우였습니다. 2023년에는 불법 촬영물 탐지 사례가 전무한 반면, 정상 자료가 불법 촬영물로 잘못 탐지되는 사례는 계속 발생하고 있습니다. 예를 들어, 하얀 배경의 클래식 음악 동영상을 카카오톡 오픈채팅에 올리면 불법 촬영물로 잘못 감지되는 경우가 있습니다. 이러한 상황은 2023년 4월 11일 기준으로도 확인되었습니다.

미래의 확대 계획과 우려

방송통신위원회는 현재 움짤과 동영상에 대해 필터링 기술을 적용하고 있으며, 향후 정부의 기술 개발이 완료되면 이미지에 대해서도 확장할 계획을 가지고 있다고 밝혔습니다. 그러나 이러한 확장 계획에도 불구하고, 오탐지 문제는 여전히 심각하게 남아 있습니다.

2024년 2월 16일, 관련 기관에 예외 처리를 요청했으나, 불법 촬영물로 인한 피해자가 발생할 수 있다는 이유로 예외 처리는 아직까지 이루어지지 않았습니다. 이로 인해 무고한 사용자들이 죄가 있는 것으로 간주되고 있으며, 특정 BJ나 기타 음원 영상 등의 사례에서 계속해서 오탐지가 발생하고 있습니다.

결론과 제언

현재 필터링 시스템의 성능을 고려할 때, 사용자들의 무죄 추정 원칙이 우선되어야 한다는 목소리가 커지고 있습니다. 여러 차례 관련 기관에 AI 기술의 오탐지 문제를 해결하기 위해 의견서를 제출했으나, 답변은 늘 불법 촬영물로 인한 피해자가 발생할 수 있다는 이유로 예외 처리는 불가하다는 입장입니다. 이러한 상황에서 시스템의 개선이 시급해 보입니다.

요약:

• 방송통신위원회 표준 DNA 모듈을 이용한 불법 촬영물 필터링 시스템은 매우 낮은 탐지율과 높은 오탐지율을 보이고 있습니다.
• 2023년 기준, 불법 촬영물로 잘못 탐지된 정상 자료가 많으며, 카카오톡 오픈채팅 등에서 오탐지가 계속 발생 중입니다.
• 향후 시스템이 움짤과 동영상뿐만 아니라 이미지에도 적용될 예정이지만, 오탐지 문제 해결과 무고한 피해자 보호를 위한 개선이 필요합니다.