월간전기

인공지능 시대의 새로운 서막을 열 『인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 ‘AI 기본법’)』 제정안이 ’24년 12월 26일(목) 국회 본회의에서 의결되었다. 『AI 기본법』은 ’20년 7월 법안이 처음 발의된 이후 4년이 넘는 기간 동안 다양한 의견을 수렴하며 논의되어 왔다. 22대 국회는 여야 합의를 거쳐 19개 법안을 병합하고 과학기술정보방송통신위원회(과방위), 법제사법위원회(법사위)를 거쳐 본회의에서 의결했다.

AI 산업의 건전한 발전을 지원할 기준을 명시하고 관련 규제 근거도 마련한 법안이 ’24년 12월 26일 국회 본회의를 통과했다. (출처: YTN 사이언스 투데이)

인공지능(AI)이 기술을 넘어 국가의 경제 및 안보를 좌우할 정도로 그 중요성이 점점 높아짐에 따라, 전 세계 주요국은 AI 혁신과 국제 AI 지도력 구축에 사활을 걸고 자국에 유리한 규범을 마련하고 있다. 미국의 경우 ’23년 10월에 『인공지능 행정명령』을 발효했고, 유럽연합(EU)은 ’24년 3월 『인공지능법(AI법)』을 제정한 바 있다.

우리나라에서도 “국가 AI 경쟁력을 높이고 신뢰할 수 있는 인공지능 활용 기반 조성을 위한 기본법이 필요하다”는 공감대가 형성되어, 국내의 경제·사회적 여건을 고려해 2020년에 세계에서 두 번째로 『AI 기본법』 제정을 추진했다. ’20년 7월 법안이 처음 발의된 이후 4년이 넘게 논의되어 왔고, 22대 국회는 여야 합의를 거쳐 19개 법안을 병합하고 과학기술정보방송통신위원회(’24.11.26), 법제사법위원회(’24.12.17)를 거쳐 본회의(’24.12.26)에서 의결했다.

이 법안은 인공지능에 관한 국가 차원의 거버넌스 체계를 정립하고, 인공지능 산업을 체계적으로 육성하며, 인공지능으로 인하여 발생할 수 있는 위험을 사전 예방하기 위한 내용으로 구성되어 있다.

『AI 기본법』에는 ▶인공지능 기본계획 수립·시행 ▶대통령 소속의 국가인공지능위원회 설치 ▶과기정통부 장관의 인공지능정책센터 지정 ▶인공지능안전연구소 운영 ▶인공지능기술 관련 표준 제정 사업 추진 ▶전문인력 양성 인공지능 윤리원칙 제정·공포·실천 방안 수립 및 홍보·교육 ▶인공지능 제품·서비스 제공 시 이용자에게 사전 고지 ▶인공지능 사업자의 안전성·신뢰성 확보 조치 시행 등에 대한 법적 근거도 담았다. 주요 내용은 다음과 같다.

과학기술정보통신부(과기정통부) 장관은 관계부처 및 지자체의 의견을 수렴하여 국가 인공지능 경쟁력 강화를 위한 「인공지능 기본 계획」을 3년마다 수립·시행할 수 있다.(제6조) 또한 국가인공지능위원회 운영의 법적 근거를 마련(제7조)하고, 인공지능과 관련하여 발생할 수 있는 위험으로부터 국민의 생명·신체·재산 등을 보호하기 위한 전문기관으로 <인공지능안전연구소>의 운영 근거(제12조)를 두었다.

인공지능 산업 육성을 위해 연구개발 지원(제13조), 표준화(제14조), 학습용 데이터 시책 수립(제15조), 인공지능 도입·활용 지원(제16조) 등에 대한 정부 지원의 근거도 마련했다. 또 인공지능 집적단지 지정(제23조), 인공지능 데이터센터 시책 추진(제25조), 인공지능 융합의 촉진(제19조) 등을 통해 국내 인공지능 생태계의 혁신적인 발전을 지원하고자 했다.

아울러 인공지능 전문인력의 확보(제21조), 중소기업을 위한 특별지원(제18조), 창업 활성화(제18조) 등 인공지능 시대를 선도할 인재 양성과 중소·신생 기업의 성장을 촉진하기 위한 사항들도 함께 규정하고 있다.

『AI 기본법』에서는 인공지능의 기술적 한계, 오·남용 등으로 인해 발생할 수 있는 문제를 사전에 예방하기 위해 고영향 AI와 생성형 AI를 ‘규제 대상’으로 정의했다. 이에 투명성 확보 의무(제31조), 안전성 확보 의무(제32조), 사업자 책무(제34조)를 규정했다. 이와 함께 민간이 자율적으로 추진하는 인공지능의 안전성 및 신뢰성 검·인증(제34조), 인공지능 영향평가(제35조)에 대한 정부의 지원 근거도 함께 마련했다.

『AI 기본법』은 향후 국무회의 의결 및 공포를 거친 후 1년의 경과 기간을 둔 뒤 ’26년 1월부터 시행될 예정이다. 정부는 이 법이 신속하게 시장에 안착할 수 있도록 올해 상반기 중에 하위법령 및 가이드라인을 마련하는 등 후속 조치를 추진할 계획이다.

그러나 AI 산업 진흥 로드맵을 제시할 국가인공지능위원회나 국가인공지능컴퓨팅센터의 예산이 충분히 확보가 되지 않은 점은 풀어야 할 숙제로 꼽힌다. 국가인공지능위원회는 예산안 제출 이후에 출범하면서 예산이 반영되지 않았고, 컴퓨팅센터 관련 예산의 경우 약 3217억원의 예산 증액이 무산됐다.

유상임 과기정통부 장관은 “AI 기본법 제정을 통해 우리나라가 인공지능 세계 강국으로 도약할 수 있는 중요한 이정표가 마련된 것을 매우 뜻깊게 생각한다”며 “현장과의 긴밀한 소통을 통해 하위법령 제정과 각종 산업 지원 시책 수립을 속도감 있게 추진해나가도록 노력을 기울이겠다”고 말했다. 유 장관은 AI 예산을 올해 추경의 최우선 순위로 추진키로 하고, 『AI 기본법』 시행령 제정 과정에서 규제를 최소화하며 산업 진흥에 무게를 두겠다고 입장을 밝혔다.

2024년 3월 13일(현지시간) 프랑스 스트라스부르에서 열린 EU 본회의 표결에서 찬성 523표, 반대 46표, 기권 49표로 『AI법』이 가결되었다. 『AI법』의 제정 목적은 고위험 AI로부터 인간의 기본권과 민주주의, 법치, 환경적 지속가능성을 보호하는 동시에, 혁신을 촉진하고 유럽이 AI 분야의 선구자로 자리매김하도록 하는 것이다.

『AI법』 제5조에 따르면 생체 인식 분류 시스템, 얼굴 인식 데이터베이스를 생성하기 위한 인터넷 또는 CCTV 영상에서의 얼굴 이미지 무작위 수집 등 시민의 권리를 위협하는 AI 애플리케이션 사용이 금지된다. 그리고 직장과 학교에서 AI를 감정 분석 또는 사회적 점수 평가에 사용하거나, 오로지 개인의 특성 평가에 기반한 예측적 치안 유지 활동에 활용하는 것이 금지되며, 인간 행동을 조작하거나 인간의 취약성을 이용하는 AI도 금지된다.

한편, 실종자를 수색하거나 테러 범죄를 예방하기 위한 목적으로 사용하는 등 특정 조건에서는 실시간 원격 생체인식 시스템을 예외적으로 사용할 수 있다.

건강·안전·기본권·환경·민주주의·법치에 대하여 잠재적으로 높은 위험을 내포하는 고위험 AI 시스템에 대해서도 명확한 의무가 규정되었다. 이 법 부속서 III에 따르면 고위험 AI 시스템은 핵심 인프라·교육·필수 민간 및 공공 서비스(의료 및 은행 서비스 등) 및 사법 및 민주적 절차(선거 등)와 관련하여 사용되는 AI 시스템을 말한다. 이러한 AI 시스템은 위험을 평가하고 완화해야 하며, 사용자 기록을 관리해야 하고, 사람의 감독을 받아야 한다.

『AI법』 제99조에 따르면, EU 회원국은 처벌 규정을 도입하고 경고, 비금전적 조치와 같은 집행 수단을 마련해야 한다. 제5조의 AI 사용 금지 규정을 위반하는 경우 위반자에게 최대 3,500만 유로(약 512억원) 또는 해당 기업의 직전 회계연도 총매출액 7% 중 더 큰 금액이 벌금으로 부과된다. AI 시스템이 제조업자, 수입업자와 같은 경제행위자이거나 인증기관과 관련한 규정을 위반하는 경우, 위반자에게 최대 1,500만 유로(약 219억원) 또는 해당 기업의 직전 회계연도 총매출액 3% 중 더 큰 금액이 벌금으로 부과된다.

『AI법』 은 2024년 8월 1일(현지시간) 발효되었으며, 이날 발효를 기점으로 원천 기술 금지 규정은 6개월 뒤부터, 범용 AI에 대한 의무 규정은 12개월 뒤부터 적용된다. 전면 시행은 2년 뒤인 ’26년 8월부터다.

바이든 정부 출범 후인 ’21년 1월 『AI 이니셔티브법(The National AI Initiative Act of 2020)』을 제정하여 AI 기술의 다차원적 영향에 대응했다. ’22년 10월에는 AI 기술의 개발과 사용 과정에서 발생할 수 있는 부작용을 최소화하기 위해 「AI 권리장전에 대한 청사진」을 발표하여 AI 윤리 지침을 정립했다.

’23년 10월에는 AI 기술의 투명성 향상과 새로운 기준 마련을 주요 목표로 하는 「AI 행정명령」을 발표하고, 이에 기반한 후속 이니셔티브를 발표했다. 행정명령에 따라 국가 안보, 경제 안보, 공공 안전 등에 영향을 미치는 AI 모델은 훈련 단계부터 정부에 고지해야 하며, 정부 검증 전문가팀(AI 레드팀)의 안전성 평가를 거쳐 결과를 보고해야 한다.

’24년 2월에는 특정 민감한 개인 데이터 및 정부 관련 데이터를 중국을 포함한 관련 국가로 전송하는 것을 제한하는 「행정명령」을 발표했다. AI 기능과 알고리즘의 개발이 ‘관심 대상 국가’에 의한 대량의 민감한 데이터 수집과 관련된 위험을 악화시킨다는 점에 주목하여, AI와 관련된 위험을 관리하고 완화하려는 조치였다.

입법적인 측면에서 미국은 아직 포괄적인 AI 규제 법안이 제정되지 않았으나, 현재는 연방 정부 및 주(州) 정부, 업계 자체, 법원이 혼합하여 관리 중이다.

2023년 6월, 중국 최고 통치기구인 국무원은 『AI법』을 입법 의제로 삼겠다고 발표했다. 이전의 중국은 새로운 AI 제품이 등장할 때마다 「인터넷보안법」, 「데이터보안법」, 「개인정보보호법」, 「인터넷 정보 서비스 알고리즘 추천 관리 규정」, 「인터넷 정보 서비스 딥페이크 관리 규정」 등 산발적인 법률 제정을 통해 AI에 따른 리스크에 대응해왔다.

같은 해 8월에는 AI에 대한 감독을 강화하기 위해 생성형 AI에 대한 최초 규제인 「생성형 AI 서비스 관리 잠정방법」을 시행했다. 이 법률은 중국이 중시하는 가치에 반(反)하거나, 사생활, 개인정보 등 개인의 권리를 침해하는 콘텐츠를 규제하는 등 생성형 AI로 생산되는 콘텐츠를 규제하는 것을 주된 내용으로 한다.

’23년 10월에 「글로벌 AI 거버넌스 이니셔티브」를 발표한 후로 중국은 글로벌 규칙과 표준에 대한 리더십 구축을 시도하고 있다. 기술 독점·AI 공급망 파괴 반대와 더불어 글로벌 발전·안보·문명 이니셔티브 제안을 통해 AI 부문의 서방 주도 리더십의 대안으로 중국의 리더십을 강조한다. 중국 외교부는 이에 대해 “운명 공동체의 비전을 발전시키려는 중국 노력의 일환”이라고 입장을 밝혔다.

영국은 AI에 대한 고정 규칙이나 법안 도입은 최소화하고, 새로운 단일 규제기관을 신설하여 전권을 부여했다. 그 대신 기존 관련 기관이 부문별·상황별 지침을 채택하는 유연한 규제 방향을 채택했다. 개별 규제기관들은 ▶안전·보안·견고성 ▶투명성·설명 가능성 ▶공정성 ▶책임·거버넌스 ▶이의제기·시정 등 5개 원칙에 따라 우선순위를 정해 규제를 적용하고, 성장과 혁신을 모두 지원할 수 있는 비례적 접근을 취할 것을 제안했다.

’23년 3월 과학혁신기술부(DSIT)는 「AI 규제에 대한 혁신적 접근」이라는 AI 백서를 발표하고, EU의 강력한 규제와는 차별화되는 유연한 규제 프레임워크를 제시했다. 정부는 규제기관의 프레임워크 이행 지원을 위해 관찰·평가·의견, 일관성 있는 원칙 이행 지원, 위험 평가, AI 혁신기업 지원, 교육 및 인식 제고, 국제 규제와의 상호운용성 보장 방안 마련 등의 기능을 수행한다.

’23년 11월 영국은 AI에 대한 최초의 글로벌 정상회담인 <AI 안전성 정상회의(AI Safety Summit)>를 개최하여 주요국 사이에서 중개자로서 AI 규제논의를 주도하기도 했다. 이 회의에서 각국 정상은 정부와 주요 기업이 고급 AI 모델을 출시하기 전에 테스트를 선행하고, 최첨단 AI 모델이 가져올 수 있는 위험에 대응하기 위한 모델 개발을 수행하기로 합의했다.

’24년 3월 AI에 대한 규제 원칙을 법으로 제정하는 것을 목표로 법안이 제안되었으나, 큰 진전 없이 폐기되었다.

2023년 11월 1일(현지시간) 영국 버킹엄셔 블레츨리 파크에서 열린 <AI 안전성 정상회의(AI Safety Summit)>에 참가한 각국 주요 참석자들 (출처: EPA연합뉴스)

현재 AI 규제를 위한 특정 법률은 없으며, 전문가 및 정부 관계자들이 참여하는 <AI 전략 회의>를 통해 정책 방향을 논의하고 있다. ’22년 5월 AI 정책 컨트롤타워 역할을 하는 <AI 전략 회의>를 설치한 뒤, 이를 통해 민간·교육·공공 분야에서의 이용 촉진, 허위 정보 및 개인정보 침해 등 리스크 대응, 국제 규제 검토, 자국 내 AI 개발지원 등을 논의한다.

’24년 2월에는 경제산업성 산하 정보처리추진기구(IPA)에 AI 안정성 확보 전담 조직인 <AI 안전연구소>를 설립했고, 4월에 경제산업성과 총무성이 AI에 관한 잠정적 논점정리를 바탕으로 기존 가이드라인을 통합·업데이트한 「AI 사업자 가이드라인」을 발표했다.

이어 5월에 <AI 전략 회의>에서 AI의 안전성 확보를 위한 규제법 마련을 검토하기 시작했다고 발표했다. 법안은 올해 정기 국회 제출을 목표로 하고 있다.

캐나다 의회는 ’22년 6월 AI 시스템 개발과 활용에 대한 적정한 규제 체계 마련을 위해 제안된 『AI 및 데이터법(AIDA)』의 입법화를 추진하고 있다. 『AIDA』는 고영향 AI 시스템 사용에 대한 규칙을 마련하여, EU의 『AI법』과 같이 고위험 영역에 집중한 위험 기반 접근방식을 채택한 것으로 알려졌다. 의회는 ’23년 4월 『AIDA』의 두 번째 검토 회의를 완료하였으며, 해당 법률은 새로운 법이 발효되기까지 최소 2년의 기간이 소요되어 올해 하반기 즈음 발효될 것으로 예상된다.

이처럼 포괄적인 AI 규제 법안 도입에 대한 태도와 접근방식에 대한 차이는 있지만, 세계 주요 국가들은 AI 기술 발전에 따른 위험과 부작용을 인식하고, 이를 최소화하기 위한 규제 도입의 필요성에 깊이 공감하고 있다.