보도자료 :: 사)한국인공지능기술산업협회(KAITIA)

협회소개협회소개
사업안내사업안내
회원안내회원안내
AI인증AI인증
알림마당알림마당
참여마당참여마당

행사안내행사안내
행사등록행사등록
과제제안과제제안
기술동향기술동향
보도자료보도자료
회원자료회원자료
공개자료공개자료

행사안내
행사안내
행사등록
행사등록
과제제안
과제제안
기술동향
기술동향
보도자료
보도자료
회원자료
회원자료
공개자료
공개자료

home > 참여마당 > 보도자료

AI기본법 제정안의 주요 내용과 인공지능(AI) 기본법제정을 촉구건의

작성자: 보도담당

조회: 2820 등록일: 2024-12-11

<font face="돋움, dotum"><span style="font-size: 14pt;"></span></font><font face="돋움, dotum"><span style="font-size: 14pt;"><b>AI 기본법 제정안의 주요 내용 </b></span></font><br><br><font face="돋움, dotum"><span style="font-size: 14pt;"><b>I. 배경</b></span></font><div style="line-height: 1.8;"><span style="font-size: 14.6667px; font-family: 돋움, dotum;">국회 과학기술정보방송통신위원회는 2024. 11. 26. ‘AI 발전과 신뢰기반 조성 등에 관한 법률안(이하 “AI 기본법 제정안”)’을 본회의에 부의하기로 의결하였습니다. AI 기본법 제정안은 올해 중에 국회 법제사법위원회를 거쳐 본회의에서 통과될 것으로 전망됩니다.</span></div><div style="line-height: 1.8;"><span style="font-size: 14.6667px; font-family: 돋움, dotum;">최근 인공지능의 성능이 비약적으로 발전함에 따라 인공지능의 활용이 급속히 확대되고 있습니다. 특히, 생성형 인공지능의 등장에 따라 인공지능이 다양한 잠재적 혜택을 가져올 것으로 예상되는 한편, 동시에 인공지능의 위험성에 대한 우려도 제기되어 왔습니다.</span></div><div style="line-height: 1.8;"><span style="font-size: 14.6667px; font-family: 돋움, dotum;">이와 같은 배경 하에서 AI 기본법 제정안은 인공지능의 건전한 발전을 지원하고 인공지능사회의 신뢰 기반 조성에 필요한 기본적인 사항을 규정함으로써 대한민국 인공지능의 새로운 기준을 마련하기 위한 목적에서 제안되었습니다.</span></div><div style="line-height: 1.8;"><span style="font-size: 14.6667px; font-family: 돋움, dotum;">이하에서는 국회 과학기술정보방송통신위원회에서 통과된 AI 기본법 제정안의 주요 내용 및 위 법률의 제정과 관련하여 주목해야 할 내용 및 시사점에 대해 살펴보겠습니다.</span></div><div><br></div><div><font face="돋움, dotum"><span style="font-size: 14pt;"><b>II. 주요 내용<br><br></b></span></font></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 12pt;"><b>1. 고영향 인공지능, 생성형 인공지능, 인공지능사업자 등 정의</b></span></font></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 14.6667px;">AI 기본법 제정안은 고영향 인공지능, 생성형 인공지능, 인공지능사업자 등의 용어에 대한 정의 조항을 마련하고 있습니다.</span></font></div><div style="line-height: 1.8;"><span style="font-size: 14.6667px; font-family: 돋움, dotum;">· 고영향 인공지능: 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로서 아래 중 어느 하나의 영역에서 활용되는 인공지능시스템(제2조 제4호)</span></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 14.6667px;"> </span></font><span style="font-size: 14.6667px; font-family: 돋움, dotum;">· 생성형 인공지능: 입력한 데이터(「데이터 산업진흥 및 이용촉진에 관한 기본법」 제2조 제1호에 따른 데이터)의 구조와 특성을 모방하여 글, 소리, 그림, 영상, 그 밖의 다양한 결과물을 생성하는 인공지능시스템(제2조 제5호)</span></div><div><span style="font-size: 14.6667px; font-family: 돋움, dotum;">· 인공지능산업: 인공지능 또는 인공지능기술을 활용한 제품(“인공지능제품”)을 개발ㆍ제조ㆍ생산 또는 유통하거나 이와 관련한 서비스(“인공지능서비스”)를 제공하는 산업(제2조 제6호)</span></div><div><span style="font-size: 14.6667px; font-family: 돋움, dotum;">· 인공지능사업자: 인공지능산업과 관련된 사업을 하는 자로서 다음의 어느 하나에 해당하는 법인, 단체, 개인 및 국가기관등(제2조 제7호)</span></div><div><span style="font-size: 14.6667px; font-family: 돋움, dotum;">- 인공지능개발사업자: 인공지능을 개발하여 제공하는 자</span></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 14.6667px;">- 인공지능이용사업자: 인공지능개발사업자가 제공한 인공지능을 이용하여 인공지능제품 또는 인공지능서비스를 제공하는 자</span></font></div><div><span style="font-size: 14.6667px; font-family: 돋움, dotum;">· 이용자: 인공지능제품 또는 인공지능서비스를 제공받는 자</span></div><div><span style="font-size: 14.6667px; font-family: 돋움, dotum;">· 영향받는 자: 인공지능제품 또는 인공지능서비스에 의하여 자신의 생명, 신체의 안전 및 기본권에 중대한 영향을 받는 자</span></div><div><font face="돋움, dotum"><span style="font-size: 14.6667px;"><br></span></font></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 12pt;"><b>2. 인공지능 기본계획의 수립(제6조) 및 국가인공지능위원회의 설치(제7조 및 제8조)<br></b></span></font><span style="font-family: 돋움, dotum; font-size: 14.6667px;">과학기술정보통신부장관은 관계 중앙행정기관의 장 및 지방자치단체의 장의 의견을 들어 3년마다 인공지능기술 및 인공지능산업의 진흥과 국가경쟁력 강화를 위하여 인공지능 기본계획(인공지능에 관한 정책의 기본 방향, 전문인력의 양성 및 인공지능 개발ㆍ활용 촉진 기반 조성 등에 관한 사항 등 제6조 제2항 각호에서 정한 사항을 포함)을 국가인공지능위원회의 심의ㆍ의결을 거쳐 수립ㆍ시행하여야 합니다(제6조).</span><font face="돋움, dotum"><span style="font-size: 12pt;"><b></b></span></font></div><div style="line-height: 1.8;"><span style="font-size: 14.6667px; font-family: 돋움, dotum;">또한 인공지능산업의 진흥 및 인공지능 신뢰 기반 조성을 위한 주요 정책 등에 관한 사항을 심의·의결하기 위하여 대통령 소속으로 국가인공지능위원회를 두고, 국가인공지능위원회는 인공지능 기본계획의 수립, 인공지능 활용 촉진, 인공지능 관련 데이터센터 등 인프라 확충 방안에 관한 사항, 고영향 인공지능 규율 등에 관한 사항을 심의·의결합니다(제7조, 제8조).</span></div><div><font face="돋움, dotum"><span style="font-size: 14.6667px;"><br></span></font></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 12pt;"><b>3. 고영향/생성형 인공지능 관련 의무</b></span></font></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 14.6667px;">1) 투명성 확보 의무(제31조)</span></font></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 14.6667px;">고영향 인공지능 또는 생성형 인공지능을 이용한 제품 또는 서비스를 제공하는 인공지능사업자는 다음과 같은 투명성 확보 의무가 있습니다.</span></font></div><div style="line-height: 1.8;"><span style="font-size: 14.6667px; font-family: 돋움, dotum;">· 고영향 인공지능 또는 생성형 인공지능을 이용한 제품 또는 서비스라는 사실을 이용자에게 사전에 고지하여야 함(제1항)</span></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 14.6667px;">· 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하여야 함(제2항)</span></font></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 14.6667px;">· 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 결과물을 제공하는 경우 그 사실을 이용자가 명확하게 알 수 있도록 고지 또는 표시하여야 함(제3항)</span></font></div><div><span style="font-size: 14.6667px; font-family: 돋움, dotum;">제31조 제1항을 위반하여 고영향 인공지능 또는 생성형 인공지능을 이용한 제품 또는 서비스라는 사실에 대해 이용자에게 사전 고지를 이행하지 아니할 경우 3천만 원 이하의 과태료가 부과됩니다(제43조 제1항 제1호).</span></div><div style="line-height: 1.8;"><span style="font-size: 14.6667px; font-family: 돋움, dotum;">2) 안전성 확보 의무(제32조)</span></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 14.6667px;">인공지능사업자는 학습에 사용된 누적 연산량이 대통령령으로 정하는 기준 이상인 인공지능시스템의 안전성을 확보하기 위하여 다음 각 사항을 이행하여야 하며(제1항), 이러한 사항의 의무 이행 결과를 과학기술정보통신부장관에게 제출하여야 합니다(제2항).</span></font></div><div><span style="font-size: 14.6667px; font-family: 돋움, dotum;">· 인공지능 수명주기 전반에 걸친 위험 식별, 평가 및 완화</span></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 14.6667px;">· 인공지능 관련 안전사고를 모니터링하고 대응하는 위험관리체계 구축</span></font></div><div><span style="font-size: 14.6667px; font-family: 돋움, dotum;">아직까지 누적 연산량에 관하여 정해지지 아니하였고, 인공지능이용사업자가 이용하는 인공지능개발사업자의 시스템 기준으로 위 규정이 적용될지 여부 등에 관하여 아직 정해진 바가 없으므로, 이에 대한 규제기관의 동향을 주목할 필요가 있습니다.</span></div><div><span style="font-size: 14.6667px; font-family: 돋움, dotum;">3) 고영향 인공지능 해당 여부 확인 의무(제33조)</span></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 14.6667px;">인공지능사업자는 인공지능 또는 이를 이용한 제품ㆍ서비스를 제공하는 경우 그 인공지능이 고영향 인공지능에 해당하는지에 대하여 사전에 검토하여야 하며, 필요한 경우 인공지능사업자는 과학기술정보통신부장관에게 고영향 인공지능에 해당하는지 여부의 확인을 요청할 수 있습니다(제1항).</span></font></div><div><span style="font-size: 14.6667px; font-family: 돋움, dotum;">4) 고영향 인공지능과 관련한 사업자의 책무(제34조)</span></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 14.6667px;">고영향 인공지능 또는 이를 이용한 제품ㆍ서비스를 제공하는 인공지능사업자는 고영향 인공지능의 안전성ㆍ신뢰성을 확보하기 위한 조치를 이행하여야 합니다(제1항).</span></font></div><div><span style="font-size: 14.6667px; font-family: 돋움, dotum;">· 1. 위험관리방안의 수립ㆍ운영</span></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 14.6667px;">· 2. 기술적으로 가능한 범위 내에서의 인공지능이 도출한 최종결과, 인공지능의 최종결과 도출에 활용된 주요 기준, 인공지능의 개발ㆍ활용에 사용된 학습용데이터의 개요 등에 대한 설명 방안의 수립ㆍ시행</span></font></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 14.6667px;">· 3. 이용자 보호 방안의 수립ㆍ운영</span></font></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 14.6667px;">· 4. 고영향 인공지능에 대한 사람의 관리ㆍ감독</span></font></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 14.6667px;">· 5. 안전성ㆍ신뢰성 확보를 위한 조치의 내용을 확인할 수 있는 문서의 작성과 보관</span></font></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 14.6667px;">· 6. 그 밖에 고영향 인공지능의 안전성ㆍ신뢰성 확보를 위하여 위원회에서 심의ㆍ의결된 사항</span></font></div><div><span style="font-size: 14.6667px; font-family: 돋움, dotum;">5) 인공지능 영향평가(제35조)</span></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 14.6667px;">인공지능사업자가 고영향 인공지능을 이용한 제품 또는 서비스를 제공하는 경우 사전에 사람의 기본권에 미치는 영향을 평가하기 위하여 노력하여야 하고(제1항), 국가기관등이 고영향 인공지능을 이용한 제품 또는 서비스를 이용하려는 경우에는 영향평가를 실시한 제품 또는 서비스를 우선적으로 고려하여야 합니다(제2항).<br><br></span></font></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 12pt;"><b>4. 국내대리인 지정제도(제36조)</b></span></font></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 14.6667px;">국내에 주소 또는 영업소가 없는 인공지능사업자 중 이용자 수, 매출액 등 대통령령으로 정하는 기준에 해당하는 자는 안전성 확보 이행 결과 제출(제32조 제2항), 고영향 인공지능 해당 여부 확인의 신청(제33조 제1항), 안전성ㆍ신뢰성 확보 조치의 이행에 필요한 지원(제34조 제1항) 등을 대리하는 자를 국내대리인으로 서면 지정하고, 이를 과학기술정보통신부장관에게 신고하여야 합니다(제36조 제1항). 국내대리인이 위 대리업무와 관련하여 법을 위반한 경우, 해당 국내대리인을 지정한 인공지능사업자가 그 행위를 한 것으로 간주됩니다(제36조 제3항). 국내대리인을 지정하지 않을 경우 3천만 원 이하의 과태료가 부과됩니다(제43조 제1항 제2호).<br><br></span></font></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 12pt;"><b>5. 사실조사 및 중지ㆍ시정명령</b></span></font></div><div style="line-height: 1.8;"><font face="돋움, dotum"><span style="font-size: 14.6667px;">과학기술정보통신부장관은 소속 공무원으로 하여금 인공지능사업자에 대하여 자료 제출 요구 및 사무소ㆍ사업장에 출입하여 장부ㆍ서류, 그 밖의 자료나 물건을 조사할 수 있도록 하고, 조사 결과 법 위반이 인정될 경우 위반행위 중지 및 시정명령을 내릴 수 있습니다(제40조 제3항). 해당 중지명령이나 시정명령을 이행하지 아니한 경우 3천만 원 이하의 과태료가 부과됩니다(제43조 제1항 제3호).</span></font></div><div><br></div><div><font face="돋움, dotum"><span style="font-size: 14.6667px;"><table id="news_image" border="0" cellpaddin="0" cellspacing="0" align="center" style="border:1px solid #d2d2d2;margin-top:15px;margin-bottom:15px;"><tbody><tr><td><div style="margin:8px"><img src="/rankup_module/rankup_board/attach/news1/17339174398982.jpg" width="600" align="absmiddle"></div></td></tr></tbody></table><p> </p><p><b><span style="font-size: 12pt;">이하 참고뉴스</span></b></p><br></span></font></div><div style="line-height: 1.8;"><span style="font-size: 12pt; font-family: 돋움, dotum;">[충청뉴스 권상재 기자] 충남도의회는 지난 5일 제356회 정례회 제1차 본회의에서 인공지능 시대 산업발전과 국민의 안전 사이에서 균형을 유지하기 위한 ‘인공지능(AI) 기본법’ 제정을 촉구하는 내용의 건의안을 채택했다.</span></div><div><font face="돋움, dotum"><span style="font-size: 14.6667px;"><div style="line-height: 1.8;"><span style="font-size: 12pt;">방한일 의원(예산1·국민의힘)이 대표 발의한 ‘인공지능 기본법 제정 촉구 건의안’은 인공지능 기술 발전에 따른 사회적 부작용을 최소화하고, 모든 국민이 안전하고 공정하게 인공지능 기술을 활용할 수 있는 환경 조성을 위해 조속한 입법 조치를 요구하는 내용을 담고 있다.</span></div><div style="line-height: 1.8;"><span style="font-size: 12pt;">도의회는 건의안을 통해 인공지능 기술이 산업 전반에 혁신을 가져오며 국가 경쟁력의 핵심 요소로 부상하고 있지만, 개인정보 침해, 알고리즘 편향, 디지털 격차 심화 등의 다양한 사회적 문제도 발생하고 있다고 지적했다. 이에 따라 인공지능 산업 발전과 국민 안전 및 신뢰성 확보를 위한 법적 기반 마련이 시급하며, 이를 통해 사회적 부작용을 최소화하기 위한 구체적인 방안을 마련해야 한다고 강조했다.</span></div><div style="line-height: 1.8;"><span style="font-size: 12pt;">또한 국회에 계류 중인 인공지능 기본법의 조속한 제정을 촉구하며, 인간 중심의 인공지능 구현을 위한 법적 기반 마련의 필요성을 재차 강조했다.</span></div><div style="line-height: 1.8;"><span style="font-size: 12pt;">방한일 의원은 “인공지능 기술은 우리 삶에 혁신적 변화를 가져올 것이지만, 그 과정에서 발생할 수 있는 윤리적·사회적 문제에 선제적으로 대응하지 않으면 오히려 사회적 혼란과 갈등을 초래할 수 있다”고 우려하며 “기술 발전과 국민의 안전, 공정성 사이의 균형을 이루는 것이 시급하다”고 말했다. </span><span style="font-size: 12pt;">이번 건의안은 정부와 국회, 관련 부처에 전달할 예정이다.</span></div><div><table id="news_image" border="0" cellpaddin="0" cellspacing="0" align="center" style="border:1px solid #d2d2d2;margin-top:15px;margin-bottom:15px;"><tbody><tr><td><div style="margin:8px"><img src="/rankup_module/rankup_board/attach/news1/17339174026830.jpg" width="600" align="absmiddle"></div></td></tr></tbody></table></div><div style="line-height: 1.8;"><span style="font-size: 12pt;">출처 : 충청뉴스(</span><a href="http://www.ccnnews.co.kr)" style="font-size: 12pt;"><span style="font-size: 12pt;">http://www.ccnnews.co.kr)</span></a></div></span></font><span style="font-family: 굴림, gulim; font-size: 11pt;"><span style="font-size: 11pt; font-family: 돋움, dotum;"></span></span></div>