쟁점 01사실
ChatGPT 상담이 아동상담소 신고로 이어진 경위가 적절했는가?
장녀가 ChatGPT에 상담한 뒤 아동상담소 통보를 권유받아 신고했고, 이후 경찰 출동과 체포로 이어졌다. 한편 생성AI가 사용자를 잘 부정하지 않는 상담 상대로 작동해 예상보다 큰 결과를 낳을 수 있다는 우려도 제기된다.
장장녀 및 AI 옹호 측
ChatGPT가 익명 상담과 아동상담소라는 선택지를 안내한 것은 위기 상황에서 도움을 받을 경로를 제시한 것으로 볼 수 있다.
장녀는 생성AI에 상담한 결과 아동상담소에 익명으로 상담할 수 있다는 설명을 듣고 전화했으며, 실제로 사건은 공적 보호 체계에 접수됐다.
AAI 위험성 지적 측
생성AI의 공감적 답변과 비판 부족은 이용자가 상황을 충분히 검토하기 전에 행동하게 만들어 예상 밖의 결과로 이어질 수 있다.
보도에서는 ChatGPT가 사용자를 잘 부정하지 않는 상담 상대로 받아들여지고 있으며, 전문가도 AI 조언을 그대로 행동에 옮기기보다 여러 선택지 중 최종 판단은 사람이 해야 한다고 지적했다.