|
원문 출처 : https://www.ohmynews.com/NWS_Web/View/at_pg.aspx?CNTN_CD=A0003092112
AI 기본법, 첫걸음의 의의와 한계
최근 제정된 AI 기본법은 기술 발전과 국민 기본권 보호를 위한 법적 기반을 마련하고, 국가 차원의 AI 거버넌스를 확립하며 산업 육성을 지원하는 점에서 긍정적으로 평가된다. 이 법안은 선언적 차원에서도 중요하며, 기술 발전과 윤리적 책임의 조화를 추구하려는 입법자의 의도가 담겨 있다. 특히 고위험 AI에 대한 사전 고지, 생성형 AI의 안전성, 인공지능위원회의 신뢰 기반 조성 등을 구체적으로 포함한 점은 주목할 만하다. 그러나 본 법안에는 정보 및 수사기관의 AI 활용에 대한 구체적 규제와 통제 장치가 부족한 한계가 있다. 이는 권력 남용의 가능성을 높이고, 민주주의와 국민 기본권을 위협할 수 있는 잠재적 위험을 내포한다. 따라서 AI 기술이 권력의 도구로 악용되지 않도록 정보기관의 AI 활용을 견제하고 투명성을 확보할 수 있는 제도적 방안을 마련하는 것이 시급하다.
AI 기술과 권력 남용의 위험
기술이 권력 남용의 도구로 변질된 사례는 국내외에서 이미 여러 차례 확인되었다. 2013년 에드워드 스노든의 폭로는 미국 CIA와 NSA가 XKeyscore와 PRISM 프로그램을 통해 구글, 메타(페이스북), 애플 등 주요 IT 기업 서버에 무단 접근해 이메일, 영상, 채팅 기록 등 방대한 데이터를 수집한 사실을 드러냈다. NSA의 MUSCULAR 프로그램은 이를 확장하여 기업 간 데이터센터를 해킹하고, 인터넷 트래픽을 광범위하게 가로채는 행위까지 포함했다. 국가 안보라는 명분 아래 정보기관이 데이터 남용을 통해 국민의 사생활과 기본권을 침해할 위험성을 구체적으로 보여준다. 국내에서도 12.3 계엄사태는 정보와 권력이 결합될 경우 민주주의와 기본권이 억압될 가능성을 보여준 대표적인 사례다. AI 기술이 정보를 정교하게 처리할 수 있다는 점에서 이러한 위험은 더욱 심화될 수 있다.
견제를 위한 구체적 대안
정보 및 수사기관의 AI 활용 투명성을 확보하고 권력 남용을 방지하기 위해 독립적 감시 기구, 시민 옴부즈맨 프로그램, 윤리적 기준 및 독립 인증 기구 같은 제도적 장치가 필요하다.
첫째, 독립적 감시 기구는 AI 활용 정책과 데이터 사용의 적법성, 투명성을 감사하는 역할을 맡아야 한다. 이 기구는 정부로부터 완전히 독립된 조직으로 구성되어야 하며, 인권, 기술, 법률 등 다양한 분야의 전문가가 참여해야 한다. 정기적인 점검과 감사를 수행하고, 위법 사항 발견 시 시정 명령과 법적 제재를 요청할 수 있는 권한이 필요하다. 스노든 폭로 이후 독립적 감시 기구가 도입되어 정보기관의 활동이 투명하게 개선된 사례처럼, 국내에서도 정보기관의 AI 활용에 대한 독립적 통제가 필수적이다.
둘째, 옴부즈맨 프로그램은 국민이 정부기관의 AI 활용 내역을 열람하고, 문제를 제기하며, 신고 사항의 처리 과정을 실시간으로 추적할 수 있는 디지털 플랫폼으로 설계되어야 한다. 이러한 시스템은 정부기관의 AI 활용에 대한 시민 감시와 통제를 가능하게 하며, 행정 권한 남용을 방지하는 효과적인 수단이 된다. 스웨덴 의회 옴부즈맨 제도는 시민 감시를 통한 권력 남용 억제의 성공 사례로, 이를 참고해 한국에서도 신고 절차를 간소화하고 시민 참여를 확대하는 방안을 도입해야 한다. 다만, 한국의 중앙집권적 행정 체계를 고려해 지방정부와의 협력을 강화하는 방식으로 현지화할 필요가 있다.
셋째, 독립 인증 기구는 AI 시스템의 알고리즘 공정성, 데이터 처리 투명성, 윤리적 설계를 평가하고 인증하는 역할을 맡아야 한다. 기술적·윤리적 위험 요소를 정기적으로 점검하며, 문제 발생 시 시정 조치를 요구할 수 있어야 한다. 독일의 AlgorithmWatch 사례처럼, 한국도 AI 시스템의 공정성과 투명성을 평가하는 체계를 구축하고 개인정보보호법과의 연계를 강화해야 한다.
이처럼 독립적 감시 기구, 시민 옴부즈맨 프로그램, 독립 인증 기구는 각각의 역할을 통해 국민 기본권을 보호하고, AI 기본법의 실효성을 높이는 데 필수적이다. 이들은 상호 보완적으로 작동하며, 정보기관의 AI 활용을 민주적으로 견제할 기반을 제공한다. 이러한 대안을 시민사회와 정부가 협력해 구체화하고 법제화 한다면, 국민의 신뢰를 회복하고 AI 기술 발전과 민주주의가 조화를 이루는 사회를 실현할 수 있을 것으로 기대된다. |
