[22대 총선 즈음하여 인공지능 위험 규제 정책에 대한 시민사회 공동논평]
22대 국회는 인공지능이 국민 안전과 인권에 미치는 위험을 방지할
제대로 된 규제법을 마련해야 한다
-21대 국회에서 정부와 국회가 추진해온 규제완화 인공지능법은
국민의 안전과 인권에 미치는 위험 매우 커
인공지능의 위험성에 대응하는 세계의 규제 행보가 갈수록 뚜렷해지고 그 내용도 구체적이다. 특히 3월 28일(현지시각) 미국 백악관 예산관리국(OMB)은 업무에 인공지능을 활용하는 정부 기관들에 대하여 인공지능 위험 방지장치를 의무화하여 세계적인 주목을 받았다. 반면 우리나라 21대 국회와 정부는 오히려 토종AI 기업을 위해 규제를 완화하는 내용의 인공지능법을 추진해 왔다. 22대 국회는 반드시 인공지능이 국민의 안전과 인권에 미치는 위험을 방지하고, 나아가 용납할 수 없는 인공지능을 금지하는 법률을 마련해야 할 것이다.
미국의 OMB 규칙은 지난해 10월 31일 바이든 대통령이 발표한 AI 행정명령의 후속 정책으로, 앞으로 민간에서 조달되는 연방AI에 적용될 예정이다. OMB 규칙은 인간의 생명과 안녕, 환경, 인프라 등 안전에 위험을 미치는 AI(Safety-Impacting AI)와 교육, 주택, 보험, 신용, 고용 등 인권에 위험을 미치는 AI(Rights-Impacting AI)에 대하여 각각 최소 위험관리 관행(minimum risk management practices)을 의무화하였다. 이 최소 관행은 AI 영향평가를 의무화한 것은 물론이고, 테스트와 모니터링 의무를 강하게 부여하였으며, 공무원의 인적 감독과 책무성에 더해 투명성 보장까지 요구하였다. 특히 차별 등 인권에 미치는 인공지능의 영향을 사전에 식별하고 평가하여 완화조치까지 마치도록 하였으며 영향을 받는 당사자 집단의 의견을 수렴하고 피해를 구제하도록 명시하였다는 점에서 유럽연합의 위험기반 접근과 유사한 내용을 담고 있다.
한국의 공공기관 인공지능의 경우 위험방지는 커녕, “챗GPT를 활용하라”는 대통령 지시 이후로 이렇다 할 문제 진단이나 사회적 숙의 없이 앞만 보고 달려가느라 매우 위태한 형국이다. 대통령이 미국의 특정 회사 생성형 AI 제품을 명시하여 활용을 지시한 정책의 적절성 여부는 차치하고, 활용에 부합하는 공공기관의 책임성을 어떻게 보장할 것인지, 공공AI의 영향을 받게 될 국민의 안전이나 차별 등 인권에 미치는 피해를 어떻게 방지할 것인지 등을 고려하는 정책은 발표된 바가 없다. 더구나 챗GPT는 데이터의 무단 학습으로 세계 각국 규제기관에서 여러 조사와 시정조치를 요구받아 왔으며, 우리나라 개인정보보호위원회 조사에서도 챗GPT가 학습한 데이터에 주민등록번호와 여권번호 등 민감한 개인정보가 포함되었을 수 있다는 사실이 드러나기도 하였다.
인공지능 위험 규제를 위한 세계의 노력은 미국의 공공 부문에서만 일어나는 일이 아니다. 유럽은 3월 16일 의회에서 인공지능법을 최종 승인했다. 유럽연합 인공지능법은 세계 최초의 포괄적 인공지능법으로, 우선 공공장소 실시간 얼굴인식과 예측 치안 등 용납할 수 없는 인공지능을 금지하였다. 나아가 기계로봇AI, 장난감AI, 의료기기AI 등 안전에 미치는 고위험과 채용AI, 학교AI, 경찰AI 등 인권에 미치는 고위험을 규제하기 위하여, 적정성 평가, 인증, 인권영향평가 등을 의무화하였다. 지난해 12월 유럽 집행위원회, 이사회, 의회가 합의하면서 2021년 초안에 없었던 범용AI에 대한 규제 조항과 영향을 받는 사람들의 피해에 대한 구제 조항을 추가하여 주목을 받았다.
3월 21일에는 유엔총회에서 인공지능의 안전한 사용에 관한 국제적인 합의를 결의하였다. 이 결의안은 유엔 회원국이 신뢰할 수 있는 인공지능 시스템에 관한 세계적 합의의 중요성과 시급성을 만장일치로 확인하였다는 점에서 시사적이다.
인공지능 규제 정책 마련에 분주한 국제 흐름에 비하여 우리의 상황은 어떠한가? 지난해부터 과학기술정보통신부와 여야 국회가 추진해온 인공지능법은 인공지능 위험 규제를 오히려 완화하는 “우선 허용, 사후 규제” 규정으로 시민사회의 질타를 받아왔다. 용납할 수 없는 인공지능의 위험을 전혀 금지하는 바가 없고, 고위험 규제는 기업 자율에 맡겨두었을 뿐 아니라 처벌 규정도 두지 않았다. 인공지능에 의해 안전과 인권이 침해되는 사람들의 권리를 구제하기 위한 방안도 포함되어 있지 않다. 챗GPT 등장 이후로 미국과 유럽이 서둘러 법률과 행정명령에 반영한 범용 AI에 대한 규제도 전혀 찾아볼 수 없다. 지난 8월 국가인권위원회가 국회에 인권영향평가 등 보다 실효적인 규제를 위하여 인공지능법안을 수정해야 한다는 의견을 표명하였으나, 이에 대한 수용 또한 이루어지지 않았다. 시민사회 등 인공지능의 영향을 받을 수 있는 당사자들을 포함한 사회 전반의 의견 수렴도 충분하지 않았다. 이런 가운데 최근 AI 안전 정상회의 개최를 앞두고 정부가 인공지능법안의 조급한 처리를 요구해온 상황이 더욱 우려스럽다.
세계 각국에서 인공지능 규제 정책이 구체화되자 일각에서 이와 모순되는 내용의 규제완화 인공지능법안의 국내 통과를 요구하는 촌극도 발생하고 있다. 그러나 이번 총선으로 새로 탄생할 22대 국회는 AI 기업 육성을 이유로 규제를 완화하고 국민의 안전과 인권에 위험을 초래해온 21대 국회의 오류를 답습하지 말아야 할 것이다. 특히 인공지능이 신기술이라는 이유로 과학기술 산업 육성을 소관하는 과기부와 국회 과방위의 일방적 추진에만 맡겨두어서는 안 될 것이다. 미국 정부가 강조하였듯이 인공지능의 위험 관리에는 시민의 안전과 인권에 미치는 영향에 대한 사회기술적(socio-technical) 관점이 필요하다. 따라서 인공지능법의 소관과 거버넌스 또한, 소비자보호기구, 개인정보감독기구, 인권기구가 함께 관여하여 규제 정책을 수립해 가는 세계 각국 사례를 참고하고 새로이 검토할 필요가 있다. 22대 국회가 인공지능 위험을 규제하는 세계적 흐름에 동참하여, 국민의 안전과 인권을 보장하는 방식으로 인공지능이 활용되는 미래를 열어가기를 바란다.
2024년 4월 3일
건강권실현을위한보건의료단체연합(건강권실현을위한행동하는간호사회,건강사회를위한약사회, 건강사회를위한치과의사회, 노동건강연대, 인도주의실천의사협의회, 참의료실현청년한의사회), 광주인권지기 활짝, 무상의료운동본부, 문화연대 기술미디어문화위원회, 민주사회를위한변호사모임 디지털정보위원회, 사단법인 정보인권연구소, 서울YMCA 시민중계실, 언론개혁시민연대, 전북평화와인권연대, 진보네트워크센터, 참여연대, 천주교인권위원회, 홈리스행동