AI 이미지 필터링 의무화는 불법촬영물 방지를 위한 필수 조치인가, 사생활 침해인가?
사실관계와 책임 범위를 둘러싼 쟁점입니다.
정부는 불법촬영물·디지털 성범죄를 근절하기 위해 전기통신사업법 시행령을 개정하고, 기존 동영상에만 적용되던 ‘기술적·관리적 조치’를 이미지(정지영상)까지 확대한다. 이 조치는 이미 불법으로 판정된 영상물의 특징값(이미지 DNA)만을 자동 대조해 원본을 사람의 눈으로 들여다보지 않으며, 전년도 매출 10억원 이상 또는 일평균 이용자 10만명 이상인 대형 플랫폼(네이버·카카오·구글·메타 등 약 80개 사업자)만을 대상으로 한다. 따라서 사적인 1:1 대화와 같은 개인 통신은 의무 적용 대상이 아니며, 피해자 보호라는 공익 목적을 달성하기 위한 최소한의 범위에서 시행되는 조치이다. 이런 점에서 규제는 불법촬영물의 사전 유포를 차단해 2차 피해를 방지하는 필수적인 조치라고 볼 수 있다.
정부는 불법촬영물·디지털 성범죄를 근절하기 위해 전기통신사업법 시행령을 개정하고, 기존 동영상에만 적용되던 ‘기술적·관리적 조치’를 이미지(정지영상)까지 확대한다. 이 조치는 이미 불법으로 판정된 영상물의 특징값(이미지 DNA)만을 자동 대조해 원본을 사람의 눈으로 들여다보지 않으며, 전년도 매출 10억원 이상 또는 일평균 이용자 10만명 이상인 대형 플랫폼(네이버·카카오·구글·메타 등 약 80개 사업자)만을 대상으로 한다. 따라서 사적인 1:1 대화와 같은 개인 통신은 의무 적용 대상이 아니며, 피해자 보호라는 공익 목적을 달성하기 위한 최소한의 범위에서 시행되는 조치이다. 이런 점에서 규제는 불법촬영물의 사전 유포를 차단해 2차 피해를 방지하는 필수적인 조치라고 볼 수 있다.
AI 이미지 필터링은 이미지가 업로드되는 순간 자동으로 검열하는 사전 차단 방식으로, 불법 여부가 확정되지 않은 콘텐츠까지 차단될 위험이 있다. 실제로 정상 이미지가 불법촬영물로 오인돼 차단되는 ‘오탐’ 사례가 보고되었으며, 이는 표현의 자유와 사생활 침해를 초래한다. 또한 플랫폼은 특징값 대조를 위해 고성능 GPU 서버를 직접 구축·운영해야 하는데, 이는 사업자에게 큰 비용 부담을 주고, 서버에 이미지 메타데이터가 저장·처리되는 과정에서 개인 정보가 수집·분석될 가능성을 내포한다. 이러한 기술적·경제적 부담과 오탐 위험은 사전 검열이 확대될 경우 다른 불법 정보까지 감시 대상으로 확대될 우려가 있어 사생활 침해라는 비판을 정당화한다.
AI 이미지 필터링은 이미지가 업로드되는 순간 자동으로 검열하는 사전 차단 방식으로, 불법 여부가 확정되지 않은 콘텐츠까지 차단될 위험이 있다. 실제로 정상 이미지가 불법촬영물로 오인돼 차단되는 ‘오탐’ 사례가 보고되었으며, 이는 표현의 자유와 사생활 침해를 초래한다. 또한 플랫폼은 특징값 대조를 위해 고성능 GPU 서버를 직접 구축·운영해야 하는데, 이는 사업자에게 큰 비용 부담을 주고, 서버에 이미지 메타데이터가 저장·처리되는 과정에서 개인 정보가 수집·분석될 가능성을 내포한다. 이러한 기술적·경제적 부담과 오탐 위험은 사전 검열이 확대될 경우 다른 불법 정보까지 감시 대상으로 확대될 우려가 있어 사생활 침해라는 비판을 정당화한다.