[성명] ‘외설 이미지 합성’ 소다·스노우 앱으로 드러난 무분별한 인공지능 활용에 심각한 우려를 표한다. 정부와 국회는 진상규명과 재발방지를 위한 대책을 마련하라. / 2024. 9. 23.(월)
[성명]
‘외설 이미지 합성’ 소다·스노우 앱으로 드러난 무분별한 인공지능 활용에 심각한 우려를 표한다. 정부와 국회는 진상규명과 재발방지를 위한 대책을 마련하라.
언론보도에 따르면 카메라 어플리케이션(이하 ‘앱’) 소다(SODA)와 스노우(SNOW) 앱의 인공지능 활용 유료 서비스가 부적절한 이미지를 생성하여 이용자들에게 피해를 주고 있다고 한다. 한 여성이용자는 증명사진을 편집을 하기 위해 ‘인공지능(AI) 배경 확장’ 기능을 사용했는데, 소다 앱은 해당 이용자가 자신의 가슴을 양손으로 움켜쥐고 있는 듯한 사진을 생성했다. 스노우 앱의 ‘AI 헤어샵’ 기능을 사용한 한 여성은 나체사진으로 합성되기도 했다. 관련 보도에 따르면 이는 소다·스노우 앱에 적용된 AI 이미지 생성 및 변환 모델이 개발 단계에서 포르노 영상물이 포함된 데이터를 학습한 결과이다. 이번 사태는 AI와 관련하여 산업의 진흥과 육성에만 치중한 정부와 국회의 논의에 비추어 보건대 예견된 참사라고밖에 볼 수 없다.
스노우앱은 구글 플레이스토어에서 1억회 이상, 소다앱은 1,000만회 이상 다운로드 된 앱이다. 구글 플레이스토어에서는 이용자 연령이 3세이상, 애플 앱스토어에서는 4세 이상이면 다운로드가 가능하다. 아동도 제한없이 사용할 수 있는 앱에서 ‘외설적 이미지’가 생성된 것이다.
이번 ‘외설 이미지 생성’ 사태는 소다·스노우 앱을 개발한 네이버의 자회사 스노우(이하 ‘스노우’)가 학습데이터와 결과물에 대한 충분한 검증을 하지 않은 채 AI기능을 시장에 출시하였기에 발생한 필연적 사고이다. 스노우는 여성 사용자의 비율이 70%가 넘고, 아동이 자유롭게 이용할 수 있는 앱임에도 불구하고 성적 불쾌감을 심각하게 유발할 수 있는 AI 기능을 검증없이 탑재한 것이다. 스노우는 검증없이 AI를 도입한 책임을 도외시한 채 ‘필터 프롬프트’가 불완전했다거나, AI의 특성상 예상하지 못한 형태로 결과물이 나왔다며 자신의 책임을 회피하는 입장만을 내놓고 있다. 지금까지도 스노우는 탑재된 AI기능의 잠정적 중단 등 재발방지대책을 마련하지 않고 있을 뿐만 아니라 소다·스노우 앱의 AI기능을 이용자들에게 홍보하고 있다.
제품안전기본법, 식품안전법, 축산물가공처리법 등 다수의 법률은 시중에 유통되고 있는 제품·식품의 유해성이 확인되면 제품을 회수하고 판매를 중지하도록 규정하고 있다. 그런데 AI 기술에 대한 유해성 문제가 제기될때마다 책임 당사자인 개발업체는 스노우와 같이 예측할 수 없는 기술이기에 ‘어쩔 수 없다는 식의’ 책임을 회피하는 답변을 반복하고 있다.
AI 기능이 포함된 제품을 출시할 때 사업자는 해당 제품의 서비스로 인해 개인과 특정 집단에 어떠한 영향을 미치는지를 고려하여야 한다. 소다·스노우 앱은 여성과 청소년 이용자 비율이 압도적으로 높은 앱이기에, 사전적으로 AI로 발생할 수 있는 영향을 엄밀하게 평가할 필요가 있다. 이번 ‘외설 이미지 생성’ 사태는 단순한 사고가 아니라 여성과 아동에게 성적 불쾌감을 야기하고, 정서적 발달에 부정적 영향을 줄 수 있는, 국가가 예방하고 방지해야할 중대한 위험에 해당한다.
AI를 규제하는 법률이 부재한 상황에서 시민들은 AI 기술로 야기되는 위험에 노출되어 있다. 모임은 발생한 중대한 위험에 대해 변명과 책임회피로 일관하는 스노우의 행태에 깊은 유감을 표한다. 정부는 이번 사태를 ‘자율규제’를 통해 해결할 것이 아니라 AI 이미지 생성 및 변환 모델의 문제인지, 해당 모델을 적용한 후 부적절한 학습은 없었는지, 소다·스노우 앱에 적용된 AI가 추가학습하는 데이터의 범위는 어디까지인지, 필터 프롬프트가 불완전했던 이유는 무엇인지, 즉각중단을 하지 않는 것에 대한 문제점은 없는지 등 진상 및 책임을 철저히 규명해야할 것이다. 나아가 국회는 AI 산업의 진흥과 육성을 위한 법률 제정에 치중할 것이 아니라, AI의 무분별한 활용으로부터 기본적 인권을 보호하기 위한 법률을 제정해야할 것이다.
2024년 9월 23일
민주사회를 위한 변호사모임
회장 윤 복 남