[민변 디지털정보위원회 김하나 위원장 인터뷰]
Q : 김하나 위원장님과 디지털정보위원회 활동에 대한 간단한 소개 말씀 부탁드립니다.
A : 디지털 세상에서 진정한 자유와 평등을 이루기 위해 열심히 활동하는 디지털정보위원회입니다. 디지털정보위원회는 2016년에 만들어진 신생위원회입니다. 디지털정보위원회 초기 활동은 형사소송법상 디지털증거의 증거능력 인정에 관한 활동이 중심이었고, 이후 위원회 활동이 정보주체의 권리 보장 및 인공지능 기술과 인권에 관한 활동까지 확장하고 있습니다. 올해에는 인공지능 기술이 인간에게 미칠 영향력에 관하여 연구하고 관련 인공지능 관련 제정법 입법운동에 주력하였습니다.
Q : 2024년한국인권보고대회에서 진행될 [집중조명 2 : 인공지능 시대, 인권은 안전한가 : 인권의 관점에서 살펴보는 AI]에서는 어떤 이야기가 다루어질 예정인가요?
A : ‘인공지능’ 기술이 우리들의 삶에 어떤 영향을 미칠지 예측되시나요? 세상은 ‘혁명’이 일어날 것이라 호언장담 하지만 이를 체감하는 개인은 많지 않습니다. 특히 인권의 영역에서 인공지능 기술이 미칠 영향력에 대하여 깊이 있게 토론할 수 있는 기회가 마련되지 않았습니다. 이번 한국인권보고대회에서는 인공지능 기술의 발전 수준을 확인하고, 인공지능 기술로 인하여 노동, 여성, 정보인권 및 환경의 각 분야에서 어떤 인권적 문제를 야기하고 있는지 함께 이야기해 보고자 합니다.
Q : 인공지능과 인권의 연결고리가 쉽게 연상되기 어려울 수도 있는데요. 인공지능이 실생활에 적용되면서 인권침해가 발생한 대표적인 사례가 있다면 어떤 것이 있을까요?
A : ‘이루다’ 사건 기억하시는지요. 인공지능 챗봇 ‘이루다’는 캐릭터가 스무살 여성으로 설정된 대화 서비스입니다. 그런데, 챗봇 ‘이루다’가 이용자와 대화하는 과정에서 ‘흑인’, ‘성소수자’에 대한 차별적 발언을 생성하고, ‘미투운동’과 ‘여성전용헬스장’에 대한 혐오 발언을 하여 문제가 되었습니다. 이뿐만 아니라 실존하는 아파트 주소와 특정 은행의 계좌번호와 예금주를 대화 속에서 언급하는 등 가명처리 되지 않은 데이터가 그대로 노출되어 큰 문제가 되었습니다.
가장 최근에 크게 문제가 된 사안은, 미성년자들이 딥페이크 기술을 이용하여 타인의 얼굴을 합성한 음란물을 생성･유포･소지･시청한 것입니다. 딥페이크 기술로 같은 학교에 동급생 얼굴을 합성하여 음란물을 생성한다는 것은 사실 과거에는 상상도 할 수 없었던 일인데, 이처럼 인공지능 기술을 활용한 불법행위가 계속 발생할 수 있습니다.
Q : 인공지능과 관련된 산업과 기술들은 더욱 빠르게 발전되고 사람들의 일상으로 확장될 것 같은데요, 우리가 가장 경계하고 주의깊게 살펴보아야 할 지점들은 어떤 것이 있을까요?
A : 인공지능 기술이나 시스템이 만들어낸 결과물을 무조건 신뢰하여서는 안 됩니다. 인공지능 사회에서 편견은 강화될 것이고 선입견은 상식처럼 여겨질 수 있습니다. 인공지능 기술은 인간이 만들어낸 데이터를 학습하여 이에 기초하여 결과값을 도출합니다. 따라서 인간이 가지고 있는 편견과 선입견을 자연스럽게 학습하여 이와 같은 결과를 생산할 수밖에 없습니다. 아마존이 인력 채용을 위해 도입한 인공지능 시스템이 여성보다 남성 지원자를 선호하는 패턴을 생성하고,미국에서 ‘콤파스(COMPAS)’라는 재범 가능성 예측 프로그램이 흑인의 재범률을 백인에 대하여 더 높게 계산한 것과 같은 일들이 한국에서도 일어날 것입니다. 이는 인공지능의 ‘편향성’에 관한 것입니다. 우리는 인공지능이 내린 결론에 지속적으로 의문을 제기하여야 합니다.
Q : 마지막으로 회원분들께 2024한국인권보고대회에 대한 관심과 참여를 요청하는 한 말씀 부탁드립니다.
A : 80분을 투자하시면, 인공지능 시대가 어떻게 펼쳐질지에 대한 안목과 혜안을 얻어가실 수 있습니다! 많은 참여 부탁드려요.
바로가기 > [2024년 한국인권보고대회 참가 신청]
