[디지털정보위][사후 보도자료]
국회 과방위의 ‘AI 기본법’ 졸속 처리 규탄 기자회견 개최
시민의 안전과 인권 보장 방안 마련하라
- 지난 11월 21일 국회 과학기술정보방송통신위원회(이하 과방위) 법안심사소위에서 19개 인공지능법안(이하 ‘AI 기본법안’)을 병합심사하여 통과시켰습니다. 소위를 통과한 대안법안은 아직 공개조차 되어 있지 않습니다. 그리고 일주일도 지나지 않은 오늘 11/26(화) 과방위 전체회의에서 이 법안을 처리하였고, 곧 본회의에 회부할 것으로 전망됩니다. 겨우 한 두번의 심사로 제대로 된 제정법을 마련하는 절차를 거쳤다고 말할 수 있을지 의문입니다.
- 이번에 전체회의를 통과한 AI 기본법은 AI 산업 육성에 치우쳐 있고, 시민의 안전과 인권을 보호하는데 미흡한 것으로 알려져 있습니다. 한국사회가 용인해서는 안되는 비윤리적인 AI를 금지하는 내용도 포함되지 않았고, 고위험(고영향) AI에 대한 실효성 있는 규제 조항도 빠졌다고 합니다. 시민사회는 인공지능이 국민의 생명과 안전 및 민주주의에 끼칠 위험을 완화하고 방지하기 위해서 기업에 실효성 있는 책임과 의무를 부과해야 한다고 주장해 왔지만 이러한 내용은 빠진 것입니다. 또한 AI 전문가들조차 인공지능의 위험에 대해 경고하고 있는 상황에도 불구하고 이번 법안 심사 논의 과정에서 이같은 우려가 제대로 반영되지 않았습니다. 최민희 위원장마저 이번 통과시킨 AI법안이 AI진흥법 맞다고 자인하며 추후 보완을 약속하기까지 하였습니다. 그러나 기본법이 한번 제정되면 개정하기가 어렵다는 사실을 최민희 위원장 자신이 누구보다도 잘 알고 있을 것입니다.
- 이에 AI 기본법을 졸속 처리한 국회 과방위를 규탄하며, 남은 입법 절차에서나마 AI가 국민의 생명과 안전 및 민주주의에 끼칠 위험을 완화할 수 있는 방안을 마련할 것을 촉구하는 기자회견을 개최하였습니다.
▣ 참고자료1. 기자회견 개요
- 제목 : 국회 과방위의 AI 기본법 졸속 처리 규탄 기자회견 : 시민의 안전과 인권 보장 방안 마련하라
- 일시 장소 : 2024.11.26.(화). 오전 11시, 국회 앞
- 주최 : 민주사회를 위한 변호사 모임 디지털정보위원회· 정보인권연구소· 진보네트워크센터· 참여연대
- 참가자
- 사회 : 이지은 참여연대 공익법센터 선임간사
- 발언 : AI 기본법 논의 경과 및 졸속 처리에 대한 비판 / 이재근 참여연대 협동사무처장
- 발언 : AI 기본법 병합안의 문제점 / 김병욱 민변 디지털정보위원회 위원(변호사)
- 발언 : 시민사회 AI 기본법 입법청원 및 향후 대응 계획 / 오병일 진보네트워크센터 대표
▣ 참고자료2. 국회 과방위 접수·상정된 인공지능 법안에 대한 시민단체 의견서
▣ 참고자료3. 참석자 주요 발언
발언1. 시민사회의 우려 의견을 듣고 사회적으로 토론하는 시간을 조금이라도 더 가져야 / 이재근 참여연대 협동사무처장
안녕하지 못하다는 말씀으로 인사드릴 수밖에 없겠습니다. 참여연대 협동사무처장 이재근입니다.
요즘 국회를 보고 있노라면 도저히 이해가 되지 않는 일들이 많습니다. 시민사회가 강력하게 요청하는 사안, 여야가 합의하고 속도를 내야 할 채상병 특검법이나 방송법, 각종 의혹의 진상규명을 위한 국정조사는 합의를 못하면서, 시민사회가 반대하는 법안에는 거대야당과 집권여당이 짝짜꿍이 되어 졸속으로 입법을 추진하는 경우가 있습니다. 시민사회의 반대에도 금융투자소득세가 시행도 전에 폐지될 위기이며, 고위험 AI에 대한 우려가 큰 상황에서도 산업진흥이라는 미명아래 사람의 생명과 인권을 침해할 수 있는 AI기본법 제정에 여야가 짬짜미로 졸속으로 입법이 추진되고 있습니다. 도대체 왜 이렇게 서두르는 것입니까?
지난 11월 21일 국회 과학기술정보방송통신위원회 법안심사소위에서 19개 인공지능법안(이하 ‘AI 기본법안’)을 병합심사하여 통과시켰습니다. 소위를 통과한 대안법안은 아직 공개조차 되어 있지 않습니다. 그리고 일주일도 지나지 않았는데, 오늘 11/26(화) 과방위 전체회의에서 이 법안을 처리했습니다. 곧 본회의에 회부할 것이라고 합니다. 왜 이렇게 서두르는지 이해가 되지 않습니다.
겨우 한 두번의 심사로 제대로 된 제정법을 마련하는 절차를 거쳤다고 말할 수 있을까요? 제정법임에도 소위에서 어떤 내용으로 합의 처리가 되었는지 공개도 되어 있지 않습니다. 내용이 공개되어야 비판이라도 제대로 하고 우려를 표할텐데 소위에서 합의한 대안은 전체회의 전에 공개하지 않는다는 관례를 들며 공개하지 않고 있습니다. 국회는 최소한 합의된 법안을 조속히 공개해야 할 것입니다.
AI기본법처럼 국민의 생명과 안전에 막대한 영향을 미칠 것으로 예상되는 제정법안을 소위에서 통과한지 일주일도 되지 않아 전체회의에서 처리하고 본회의에 회부하는 것이 말이 됩니까? 시민사회의 우려 의견을 듣고 사회적으로 토론하는 시간을 조금이라도 더 가져야 합니다.
과방위가 멈추지 않았으니 법사위에서라도 제동을 걸어 주십시오. 최소한 어떤 법안이 제정될 것인지 국민들이 알아야 할 시간이 필요합니다. 더불어민주당, 국민의힘 두 거대정당과 국회에 요청합니다. 시민사회도 AI기본법 제정 자체에 반대하는 것이 아닙니다. 하지만 산업 진흥을 위한 내용이 들어가면 그에 상응해 고위험 AI규제에 대한 내용이 충분하게 들어가야 합니다. 과방위 전체에서 통과시킨 AI법안은 진흥에만 초점을 맞춘 법안임을 최민희 과방위원장도 자인했습니다. 남은 입법절차에서라도 국민의 생명과 안전을 담보할 수 있는 장치들을 마련할 것을 다시 한 번 강력히 촉구합니다.
발언2. 산업의 육성과 진흥에 방점, 국민의 기본권과 안전은 등한시한 법안 / 김병욱 민주사회를 위한 변호사모임 디지털정보위원회 변호사
지난 21일 법안소위를 통과하고, 현재 과방위 전체회의를 통과한 인공지능 기본법안의 병합안의 내용을 구체적으로 파악할 수는 없는 상황이지만, 언론보도를 통해 일부 확인된 법안의 내용에 의하면, 그 내용은 산업의 육성과 진흥에 방점을 두고 있고, 국민의 기본권과 안전은 등한시한 법안으로 보입니다.
우선 법안은 금지되는 인공지능에 대한 규정을 누락시켰습니다. 살상무기에 탑재되거나, 인간의 잠재의식을 왜곡, 조종하거나, 특정 집단의 취약성을 활용하는 인공지능과 같이 그 자체로 비윤리적인 인공지능은 개발이나 활용 자체를 금지시켜야 합니다.
실제로 유럽연합 인공지능법은 금지되는 인공지능의 범주를 규정하고, 그 개발과 활용 자체를 금지시키고 있습니다. 그러나 국회는 이를 통째로 제외하였습니다. 그렇다면 비윤리적인 인공지능도 개발하고, 활용해도 된다는 것인지 알 수 없습니다.
두 번째로 법안은 고위험 인공지능에 대해서도 미흡한 규제에 그치고 있습니다. 고위험 인공지능에 의해서 인간의 기본권, 신체의 안전이 침해되거나 차별이 발생하지 않도록 사업자에 대해 기술문서 작성, 로그기록 보관과 같은 의무를 엄격히 부과하고, 이를 강제할 수 있도록 위반시의 실효성 있는 제재규정을 두어야 합니다. 그러나 법안은 과징금, 형사처벌이 아니라 과태료라는 약한 규제에 그치고 있습니다. 이러한 미약한 제재만으로 의무의 이행을 확보할 수는 없습니다.
세 번째로 법안은 설명요구권, 거부권과 같이 인공지능 기술에 의해 영향을 받거나, 피해를 입은 사람들에게 보장되어야 할 권리에 대해 정하지 않고 있습니다. 인간이 인공지능에 의한 인사평가나 채용과 같은 중요한 의사결정의 대상이 되었을 때 그 결정이 부당하다고 생각한다면 이에 대해 설명을 요구하거나 의사결정을 거부할 수 있어야 합니다. 그러나 법안은 이러한 권리에 대해서 함구하고, 뿐만 아니라 피해가 발생했을 때의 피해 구제를 위한 수단, 절차에 대해서도 전혀 정하지 않고 있습니다.
이처럼 금지되는 인공지능을 통째로 누락시키고, 고위험 인공지능에 대해서 미흡한 규제에 그친 인공지능법안은 안전과 인권을 방치하고, 국민을 실험대상으로 삼는 것입니다. 일부 언론에서는 법안에 대해 산업 진흥과 책무의 균형을 맞춘 법안이라고 평가하고 있지만, 이는 적절한 평가가 아닙니다. 현재 법안은 산업계의 요구만을 반영하고, 국민의 안전과 인권은 외면한 반쪽자리 법안이라고 할 것입니다.
그리고 이러한 결과는 이미 예견되었습니다. 국회가 산업계의 의견은 경청하지만, 시민사회나 일반 시민들의 의견은 들으려하지도 않고, 전혀 존중하지 않고 있기 때문입니다.
국회는 깜깜이 졸속으로, 국민의 삶과 안전에 매우 중요한 영향을 미칠 인공지능 기본법을 논의할 것이 아니라, 여러 첨예한 쟁점에 대해서 지금이라도 충분한 의견 수렴과 논의를 하기를 바랍니다.
그러지 않고, 이대로 졸속으로 법안을 통과시킨다면, 국회는 국민의 안전과 인권을 외면하였다는, 국민에 대한 최소한의 보호의무를 소홀히 하고 방기하였다는 비판을 면할 수 없을 것입니다.
발언3. 안전과 인권을 보호할 수 있는 내용들을 AI 기본법에 담아야 / 오병일 진보네트워크센터 대표
국회 과방위는 KBS 사장 청문회를 무려 3일을 할애하여 진행했으면서도, AI 기본법은 고작 2시간 심사해서 통과시켰습니다. 과방위 국회의원 분들이 엄청난 AI 전문가여서 그런 것일까요, 아니면 2시간 이상 논의할 정도의 관심조차 없었던 것일까요. 분명한 것은 AI가 시민들의 안전과 인권에 미칠 부정적 영향에 대한 인식은 거의 없었던 것 같습니다. 병합안을 보면 거의 AI 산업 진흥을 위한 내용만을 포함하고 있으니까요.
시민사회가 인공지능에 대해 우려했던 것은 터미네이터와 같이 인간이 통제할 수 없는 AI가 인류를 말살할 것이라는 두려움이 아니었습니다. 단지 이미 우리 생활 속에 도입되고 있는 AI가 오작동을 해서 안전 사고를 일으키지 않도록, 편향되고 차별적인 결정을 내리지 않도록, 시민을 감시하거나 통제하는데 악용되지 않도록 통제할 수 있어야 한다는 것이었습니다.
과방위 국회의원 분들께 묻고 싶습니다. 지금 여러분이 만든 AI 기본법이 통과되면, 이미 많은 기업과 공공기관이 도입하고 있는 채용 AI 시스템이 공정한 판단을 하도록 보장할 수 있습니까? 자율주행 자동차 AI 시스템의 오류로 사고가 났을 때, 사고 원인을 추적할 수 있도록 개발 및 운영 과정의 모든 관련 기록을 남기도록 하고 있습니까? AI 디지털 교과서가 학생들에게 잘못된 지침을 내리지 않도록 하기 위한 원칙과 절차를 제시하고 있습니까? 자율적으로 작동하는 AI 무기가 개발되지 않도록 통제할 수 있습니까? 기업들이 의무를 회피하지 않고 안전과 인권을 위한 조치를 이행할 수 있도록 보장할 수 있습니까?
그동안 우리 시민사회단체들은 AI 기본법이 담아야 할 내용들을 법안으로 만들어 제안해 왔습니다. 최민희 의원안, 이해민 의원안에 일부 내용이 반영되기는 했지만, 그나마 법안 심사 과정에서 대부분 배제되었습니다. 그래서 저희는 김남근 의원(더불어민주당)의 소개로 시민사회 AI 법안에 대한 청원을 진행하고 있습니다. 비록 이번에 병합되어 논의되지 못했지만 22대 국회 과방위가 얼마나 시민의 안전과 인권을 무책임하게 방기했는지 기록으로 남기기 위해서입니다.
시민사회가 제안하는 AI 기본법은 다음과 같은 내용을 포함하고 있습니다.
첫째, 실시간 원격 생체인식 감시, AI 자율 살상무기 등 윤리적으로 도저히 용납할 수 없는 AI 시스템의 개발과 활용을 금지합니다.
둘째, 안전과 인권에 중대한 영향을 미칠 수 있는 고위험 AI를 폭넓게 규정하고, 고위험 AI 개발, 제공자의 의무를 구체적으로 규정합니다. AI 시스템 개발, 제공자는 출시 전에 위험을 평가, 완화해야 하고, 문제가 생겼을 경우 적절한 책임을 확인하기 위해 관련 사항들을 기록해야 하며, 훈련 데이터의 관리 체제를 갖춰야 하고 운영자에게 시스템에 대한 충분한 정보를 제공해야 합니다. AI 시스템을 사람이 관리ㆍ감독하도록 하고 인권영향평가를 수행하는 등 운영자가 부담해야 할 의무도 규정하고 있습니다.
셋째, 고위험 AI 제공자, 공공기관인 운영자는 AI 시스템을 등록하도록 의무화합니다.
넷째, 고위험 AI 사업자로 하여금 법에서 정한 의무를 준수하고 있음을 인증하도록 합니다.
다섯째, 범용 AI 모델 등 최첨단 AI의 경우 훈련 데이터를 공개하고, 위험성 테스트를 수행하며, 관련 정보를 당국에 보고하는 등의 의무를 부담해야 합니다.
여섯째, AI 사업자의 의무 이행을 보장하기 위해 의무 위반에 대한 실효성 있는 처벌을 규정하고 있습니다.
일곱째, AI로 인해 부정적인 영향을 받는 사람들의 권리와 구제 절차를 포함하고 있습니다.
마지막으로, AI 시스템을 규율할 독립적인 감독기구로서 ‘인공지능위원회’의 설립을 제안하고 있습니다. 이는 과기정통부의 AI 감독 업무를 대체할 행정기구로서, 단지 심의의결 역할만 하는 국가인공지능위원회와는 다릅니다.
아직도 늦은 것은 아닙니다. 우리는 정부와 국회가 시민사회의 요구를 수용하여 안전과 인권을 보호할 수 있는 내용들을 AI 기본법에 반영할 것을 촉구합니다. 끝.