[디지털정보위][공동 논평]
국가인권위의 인공지능 인권영향평가 도구 발표를 환영한다
– 국회는 인공지능법에 인권영향평가 수행을 의무화하라
지난 7월 8일 국가인권위원회(이하 인권위)의 보도자료에 따르면, 인권위는 2024년 5월 23일 과학기술정보통신부장관에게, 인공지능의 개발과 활용으로 인한 인권침해 및 차별이 발생하지 않도록 관련 정책·사업계획의 수립·이행 시에 「인공지능 인권영향평가 도구」를 활용하고, 인권영향평가가 법제화되기 전까지 공공기관이 직접 개발하거나 활용하는 모든 인공지능과 민간 부문의 고위험 인공지능에 대한 자율적 인권영향평가가 수행될 수 있도록 위 평가 도구를 보급할 필요가 있다는 의견을 표명하였다. 우리는 인공지능에 의한 인권 침해 위험성을 평가할 수 있는 실효적인 도구가 만들어진 것을 환영한다.
인권영향평가는 오래 전부터 공공기관 및 기업의 인권실사 의무 이행을 위한 중요한 수단으로 인식되어 왔다. 또한 인공지능 기술의 급속한 발전과 함께, 차별과 편향 등 그 위험성에 대한 우려가 높아지면서 인공지능 시스템에 대한 인권영향평가를 수행할 필요성도 몇 년 전부터 여러 국제기구들이 제기해왔다. 유엔 인권최고대표는 2021년 <디지털 시대 프라이버시권> 보고서에서 “인공지능 시스템의 설계, 개발, 배치, 판매, 구입, 운영의 수명 주기 전반에 걸쳐 체계적으로 인권실사를 수행”할 것을 권고하면서, 인권실사의 핵심 요소로 인권영향평가를 강조하였다. 한국 인권위 역시 ‘인공지능 인권 가이드라인 권고’(2022년), ‘인공지능 법률안에 대한 의견표명’(2023년) 등을 통해 정부와 국회에 인공지능 인권영향평가의 도입을 촉구한 바 있다.
2024년 5월 통과된 유럽연합 인공지능법(AI Act)에서도 고위험 인공지능을 사용하는 공공기관, 공적 서비스를 제공하는 민간기업, 신용 및 보험평가 기관 등에 대해 기본권 영향평가를 수행하도록 하였다. 미국은 2023년 10월 30일 발표된 행정명령과 그 이행을 위한 관리예산실(OMB) 가이드에서 안전 및 인권에 영향을 미치는 인공지능을 운영하는 공공기관에 대해 인공지능 인권영향평가를 완수하고 도입 후에도 지속적인 모니터링을 하도록 하였다. 또한, 인공지능에 대해 독립적인 평가를 하도록 하고 영향을 받는 집단의 의견을 수렴하도록 하였는데, 이러한 규정들은 이번에 인권위가 발표한 인권영향평가 도구에도 포함되어 있는 것들이다.
아무리 인공지능 인권영향평가의 필요성이 강조된다고 한들, 이를 이행할 수 있는 구체적인 수단이 없다면 현실적으로 이행되기 힘들 것이다. 그런 의미에서 인권위가 인권영향평가를 실질적으로 수행할 수 있는 도구를 개발한 것은 큰 의미가 있다. 이미 국내에 ‘인공지능 윤리기준 실천을 위한 자율점검표(안)’이나 ‘신뢰할 수 있는 인공지능 개발 안내서’ 등이 있기는 하지만, 이번 인권영향평가 도구는 △해당 조직으로부터 독립된 평가기관이 객관적으로 평가를 수행하도록 했다는 점, △관련 이해관계자와의 지속적인 소통을 강조하고 있다는 점, △사후 모니터링을 포함한 지속적인 평가를 요구하고 있다는 점에서 차이가 있다. 전 세계적으로 인공지능 인권영향평가에 대한 관심이 높아지는 만큼, 인권위의 인권영향평가 도구는 해외의 인권기구와 인공지능 관할당국에게도 참고할 수 있는 자료가 될 것이다.
중요한 것은 인공지능 인권영향평가 도구가 실제로 활용되는 것이다. 활용 과정을 통해 도구 자체도 지속적으로 업그레이드 되어야 한다. 그러나 이를 규율할 수 있는 법이 없기 때문에 아직은 자율적으로 시행할 수밖에 없다. 우리는 고위험 인공지능을 개발하거나 도입하고자 하는 기업 및 공공기관에 인권영향평가를 수행할 것을 촉구한다. 또한, 국회는 조만간 논의될 인공지능 법 제정 과정에서 고위험 인공지능에 대해 인권영향평가 수행을 의무화하는 조항을 반드시 포함해야 할 것이다. 끝.
2024년 7월 12일
민변 디지털정보위원회, 사단법인 정보인권연구소, 진보네트워크센터, 참여연대