Republic of Korea Law on the Basics of Artificial Intelligence and Citizen Rights

인공지능 기본사회 및 국민권리 보장에 관한 법률안

(차지호의원 대표발의)

의 안

번 호

21011

발의연월일 : 2026. 9. 2.

발 의 자 : 차지호ㆍ박희승ㆍ신정훈

김현정ㆍ박 정ㆍ김영호

황명선ㆍ안호영ㆍ조정식

김영진ㆍ채현일ㆍ최혁진

의원(12인)

제안이유

인공지능 기술은 의료ㆍ교육ㆍ금융ㆍ노동ㆍ복지ㆍ재난안전 등 국민 생활 전 영역에 빠르게 확산되며, 이제는 단순한 산업ㆍ기술 정책을 넘어 국민의 생명ㆍ안전ㆍ기본생활을 좌우하는 공공 인프라가 되고 있음.

이에 대응하여 우리나라는 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」을 제정하여 인공지능의 발전과 신뢰ㆍ안전 확보에 관한 기본 틀을 마련하였으나, 인공지능을 활용한 필수 공공서비스 제공, 인공지능으로 인한 위험의 체계적 관리, 국민의 AI기본권 보장, 이에 필요한 공공 거버넌스와 재정지원 원칙 등은 여전히 개별 법령과 정책에 분산되어 있어 종합적ㆍ체계적 대응에 한계가 있는 실정임.

한편, 유럽연합(EU)의 AI Act는 위험 기반 규제를 중심으로, 일본의 AI 관련 입법은 혁신 촉진을 중심으로 설계되는 등 각국이 서로 다른 AI 거버넌스 모델을 구축하고 있는 가운데, 우리나라는 “국민의 보편적 권리 보장과 공공성 강화”를 핵심 가치로 하는 독자적인 AI 기본사회 모델을 구축할 필요가 있음.

이에 인공지능 기본사회의 비전과 원칙을 정하고, 국가와 지방자치단체의 책무, AI기본서비스의 범위와 기준, AI기본권 보장, 위험평가 및 고위험 인공지능 시스템 관리, AI기본사회위원회 설치, 계획ㆍ재정ㆍ국제협력 등 추진체계를 종합적으로 규정함으로써, 산업ㆍ기술 중심의 AI 정책을 넘어 국민의 삶과 권리를 중심에 둔 “AI기본사회”를 체계적으로 구현하고자 이 법안을 제정하려는 것임.

주요내용

가. 이 법의 목적을 인공지능 기본사회(AI기본사회) 구현에 두고, 인공지능을 통해 국민 생활 전반의 위험을 예측ㆍ관리하고 공공서비스의 품질과 보편적 접근성을 강화하는 데 필요한 사항을 규정함(안 제1조).

나. AI기본사회, AI기본서비스, AI기본권, AI리스크 등의 개념을 정의함(안 제2조).

다. 이 법과 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」의 관계를, 기본법은 인공지능 일반(산업ㆍ기술ㆍ안전)을 다루고, 이 법은 공공서비스ㆍ기본사회ㆍAI기본권에 관한 특별법으로 정리하여 법체계의 정합성을 확보함(안 제4조).

라. 국가와 지방자치단체의 책무, 국민의 권리 및 정책 참여 원칙을 규정하고, 보편성ㆍ형평성, 예측ㆍ예방, 투명성ㆍ책임성, 인간 존엄 우선, 사회적 협력 등의 AI기본사회 원칙을 명시함(안 제3조ㆍ제5조부터 제7조까지).

마. 대통령 소속으로 AI기본사회위원회를 설치하여 AI기본사회 정책을 심의ㆍ조정하도록 함(안 제8조).

바. 국가인공지능위원회와 정책 연계ㆍ분담을 위해 상시 협의체를 두고, 공공서비스 중심 정책과 중복되지 않도록 조정 기능을 수행함(안 제8조제2항).

사. 의료ㆍ금융ㆍ교육ㆍ노동ㆍ복지ㆍ사회안전 등 분야별 분과위원회를 둘 수 있도록 하며, 소관 분야별 AI기본서비스의 구체 기준 및 시행방안을 심의함(안 제10조).

아. AI기본권 침해 사건을 전담하여 조사ㆍ시정명령을 수행하는 AI권익보호소위원회를 설치함(안 제11조).

자. 지역 단위 정책 집행을 위하여 시ㆍ도지사가 설치ㆍ운영할 수 있는 지역AI기본사회센터의 설치 근거를 마련함(안 제15조).

차. 인공지능 기본사회 실현을 위해 3년마다 AI기본사회 종합계획을 수립하도록 하며, 국가인공지능 기본계획의 부속계획으로 정함(안 제17조).

카. 관계 중앙행정기관은 연도별 시행계획을, 시ㆍ도지사는 지역계획을 수립ㆍ시행하도록 하고, 지방의회 보고 절차 등을 규정함(안 제18조ㆍ제19조).

타. 국제협력ㆍ국제표준과의 조화 및 정보시스템 구축ㆍ운영에 관한 사항을 규정함(안 제24조ㆍ제25조).

파. 고위험으로 분류된 AI 시스템은 제공 전 적합성 평가를 받을 수 있도록 계획ㆍ평가 체계를 연계함(안 제36조).

하. 모든 국민은 차별 없이 AI기본서비스에 접근할 권리, 설명 요구권, 이의제기ㆍ재검토 요구권, 피해 구제 요청권, 개인정보 보호권 등을 가짐(안 제37조).

법률 제 호

인공지능 기본사회 및 국민권리 보장에 관한 법률안

제1장 총칙

제1조(목적) 이 법은 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」의 신뢰ㆍ안전 원칙을 바탕으로, 인공지능을 활용하여 국민의 삶의 질을 향상시키고 사회적 위험을 예측ㆍ관리하며, 모든 국민이 기본적 삶의 질과 안전을 보장받는 인공지능 기본사회를 조성함을 목적으로 한다.

제2조(정의) ① 이 법에서 사용하는 용어는 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제2조에서 정한 바를 준용한다.

② 이 법에서 사용하는 용어의 정의는 다음과 같다.

1. “인공지능 기본사회(이하 “AI기본사회”라 한다)”란 인공지능을 통하여 국민 삶의 질 향상, 사회적 불평등 완화, 위험 예상 및 공공서비스 혁신을 달성하는 지속가능한 사회를 말한다.

2. “AI기본서비스”란 AI기반사회 실현을 위하여 국가 또는 지방자치단체가 제공하거나 지원하는 인공지능 기반 서비스를 말한다.

3. “AI기본권”이란 모든 국민이 차별 없이 AI기본서비스에 접근하고, 인공지능 의사결정에 관한 설명을 요구하며, 이의제기와 피해구제를 요청할 수 있는 권리를 말한다.

4. “AI리스크”란 인공지능의 설계ㆍ개발ㆍ운용 또는 활용 과정에서 발생할 수 있는 기본권 침해, 안전 및 보안 위협, 편향 및 차별, 설명 불가능성, 개인정보 및 프라이버시 침해 등 대통령령으로 정하는 위험 요소를 말한다.

제3조(기본원칙) AI기본사회 정책은 다음 각 호의 원칙에 따라 수립ㆍ시행되어야 한다.

1. 모든 국민이 AI기본서비스의 혜택을 보편적ㆍ형평적으로 누릴 수 있도록 할 것

2. AI리스크를 사전에 예측하고 예방하는 것을 우선할 것

3. 정책 수립 및 집행 과정의 투명성과 책임성을 확보할 것

4. 인간의 존엄과 가치를 최우선으로 하고 디지털 권익을 보호할 것

5. 지속가능한 발전과 사회적 포용을 지향할 것

6. 정부ㆍ지방자치단체ㆍ민간부문ㆍ시민사회가 협력하고 국민이 참여할 수 있도록 할 것

7. 국제협력과 규범 조화를 통해 국제사회의 인공지능 관리체계에 기여할 것

제4조(다른 법률과의 관계) ① 인공지능의 발전ㆍ신뢰ㆍ안전 및 영향평가 등 인공지능 일반에 관한 사항은 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」을 기본으로 한다.

② 이 법은 AI기본서비스, AI기본사회 구현 및 AI기본권 보장에 관한 사항에 대하여는 특별법으로서 다른 법률에 우선하여 적용한다.

③ 다른 법률의 규정이 이 법과 어긋나는 경우에는 이 법의 목적을 달성하기 위하여 특별한 사정이 없는 한 이 법을 우선 적용한다.

제5조(국가의 책무) ① 국가는 AI기본사회 실현을 위하여 종합적인 정책을 수립ㆍ시행하여야 한다.

② 국가는 AI기본서비스 제공에 필요한 데이터ㆍ인프라를 구축하고, 필요한 재정을 확보ㆍ투자하여야 한다.

③ 국가는 AI기본권이 침해되지 아니하도록 필요한 제도적ㆍ행정적 조치를 마련하여야 한다.

제6조(지방자치단체의 책무) ① 지방자치단체는 국가의 AI기본사회 정책에 따라 지역 실정에 맞는 시책을 수립ㆍ시행하여야 한다.

② 지방자치단체는 주민이 AI기본서비스를 원활하게 이용할 수 있도록 상담ㆍ교육ㆍ홍보 등 필요한 지원을 하여야 한다.

제7조(국민의 권리와 참여) ① 모든 국민은 이 법에서 정하는 바에 따라 AI기본서비스를 차별 없이 이용할 권리를 가진다.

② 국민은 법령이 정하는 바에 따라 AI기본사회 정책의 수립ㆍ시행 과정에 참여할 수 있다.

제2장 AI기본사회위원회

제8조(AI기본사회위원회의 설치) ① AI기본사회 정책을 심의ㆍ조정하기 위하여 대통령 소속으로 AI기본사회위원회(이하 “위원회”라 한다)를 둔다.

② 위원회는 AI기본서비스 및 AI기본사회 관련 공공정책을 전담하며, 인공지능 기술ㆍ산업 및 인공지능 전반의 발전ㆍ안전에 관한 사항은 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」에 따른 국가인공지능위원회(이하 “국가AI위원회”라 한다)의 권한을 침해하지 아니한다.

③ 위원회는 위원장 1명과 부위원장 1명을 포함한 25명 이내의 위원으로 구성한다.

④ 위원장은 대통령이 되고, 부위원장은 과학기술정보통신부장관이 된다.

⑤ 위원은 다음 각 호의 사람이 된다.

1. 과학기술정보통신부장관, 교육부장관, 행정안전부장관, 보건복지부장관, 고용노동부장관, 기획예산처장관, 금융위원회 위원장

2. 대통령령으로 정하는 관계 중앙행정기관의 장 3명 이내

3. 인공지능, 데이터, 법률 윤리, 경제, 사회 분야의 전문지식과 경험이 풍부한 사람 중에서 위원장이 위촉하는 사람 8명 이상

⑥ 위원회의 위원장은 위원회를 대표하고 위원회의 사무를 총괄한다.

⑦ 위원회의 위원장은 필요한 경우 부위원장으로 하여금 그 직무를 대행하게 할 수 있다.

⑧ 제5항3호에 따른 위원의 임기는 2년으로 하되, 한 차례에 한정하여 연임할 수 있다.

⑨ 위원회는 국가AI위원회와의 상시 협의체를 두어 다음 각 호의 사항을 협의ㆍ조정한다.

1. 인공지능 기술 발전과 AI기본서비스 제공의 연계 방안

2. 인공지능 안전ㆍ신뢰 기준의 공공서비스 적용 방안

3. 각 위원회 소관 정책의 중복 방지 및 시너지 창출

4. 그 밖에 각 위원회가 협의가 필요하다고 인정하는 사항

⑩ 그 밖에 위원회의 구성에 필요한 사항은 대통령령으로 정한다.

제9조(위원회의 기능) 위원회는 다음 각 호의 사항을 심의ㆍ조정한다.

1. AI기본사회 종합계획의 수립ㆍ변경에 관한 사항

2. AI기본사회 관련 재정지원의 기본 방향에 관한 사항

3. AI기본서비스의 범위 및 기준 설정에 관한 사항

4. AI기본권 보호 및 침해 구제에 관한 주요 정책에 관한 사항

5. 중앙행정기관 및 지방자치단체 간 AI기본사회 관련 정책의 조정에 관한 사항

6. AI리스크 평가 및 고위험 AI 시스템에 관한 사항

7. 국가AI위원회와의 정책 연계ㆍ협력에 관한 사항

8. 그 밖에 AI기본사회 실현을 위하여 필요한 사항

제10조(분과위원회) ① 위원회의 효율적 운영을 위하여 위원회에 분야별 분과위원회를 둘 수 있다.

② 분과위원회는 다음 각 호의 분야를 포함하여 설치하되, 세부 분야는 대통령령으로 정한다.

1. 의료ㆍ보건 분과

2. 금융 분과

3. 교육ㆍ노동 분과

4. 복지ㆍ사회안전 분과

5. 그 밖에 위원회가 필요하다고 인정하는 분야

③ 각 분과위원회는 위원장 1명을 포함한 9명 이내의 위원으로 구성하되, 위원회 위원 중에서 호선한다.

④ 분과위원회는 소관 분야의 AI기본서비스 기준과 시행방안을 심의하고, 그 결과를 위원회에 보고한다.

⑤ 제1항부터 제4항까지에 따른 분과위원회의 구성과 운영에 필요한 사항은 대통령령으로 정한다.

제11조(AI권익보호소위원회) ① AI기본권 침해에 대한 조사ㆍ구제를 위하여 AI권익보호소위원회를 둔다.

② AI권익보호소위원회는 이 법에 따른 AI기본서비스 및 AI기본권과 관련된 사항을 맡아 처리한다.

③ AI권익보호소위원회는 위원장 1명을 포함한 9명 이내의 위원으로 구성한다.

④ 제1항부터 제3항까지에 따른 AI권익보호소위원회의 구성과 운영에 필요한 사항은 대통령령으로 정한다.

제12조(전문위원회) ① 위원회의 심의사항에 대한 전문적인 검토를 위하여 위원회에 전문위원회를 둘 수 있다.

② 제1항에 따른 전문위원회의 구성과 운영에 필요한 사항은 대통령령으로 정한다.

제13조(사무국) ① 위원회의 사무를 처리하기 위하여 위원회에 사무국을 둔다.

② 사무국에는 사무국장 1명을 두며, 사무국장은 위원장의 명을 받아 사무국의 사무를 총괄한다.

③ 제1항 및 제2항에 따른 사무국의 조직과 운영에 필요한 사항은 대통령령으로 정한다.

제14조(민관협력협의회) ① AI기본사회 정책에 대한 민관 협력을 강화하기 위하여 위원회에 민관협력협의회를 둘 수 있다.

② 민관협력협의회는 정부, 지방자치단체, 산업계, 학계, 시민단체 등의 대표로 구성한다.

③ 제1항 및 제2항에 따른 민관협력협의회의 구성과 운영에 필요한 사항은 대통령령으로 정한다.

제15조(지역AI기본사회센터) ① 특별시장ㆍ광역시장ㆍ특별자치시장ㆍ도지사ㆍ특별자치도지사(이하 “시ㆍ도지사”라 한다) 지역의 AI기본사회 정책을 효과적으로 추진하기 위하여 지역AI기본사회센터를 설치ㆍ운영할 수 있다.

② 지역AI기본사회센터는 다음 각 호의 업무를 수행한다.

1. 지역 AI리스크 데이터의 수집ㆍ분석

2. 지역 AI기본서비스 수요 조사 및 기획

3. 지역 주민의 AI기본서비스 이용 지원

4. 그 밖에 지역 AI기본사회 실현에 필요한 사항

③ 국가는 예산의 범위에서 제1항에 따른 지역AI기본사회센터의 설치ㆍ운영 비용의 일부를 지원할 수 있다.

제16조(위원회 운영 세칙) 이 법에서 규정한 사항 외에 위원회의 운영에 필요한 사항은 위원회의 의결을 거쳐 위원장이 정한다.

제3장 AI기본사회 종합계획 등

제17조(종합계획의 수립) ① 정부는 AI기본사회 실현을 위하여 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제6조에 따른 인공지능 기본계획의 부속계획으로 3년마다 AI기본사회 종합계획(이하 “종합계획”이라 한다)을 수립하여야 한다.

② 종합계획에는 다음 각 호의 사항이 포함되어야 한다.

1. AI기본사회의 비전과 정책목표

2. AI기본서비스의 제공 범위와 수준

3. AI리스크 관리 및 고위험 AI 시스템 관리 방안

4. 재원조달 및 투자계획

5. 관계 중앙행정기관 및 지방자치단체의 역할과 협력방안

6. 성과목표 및 평가지표

7. 그 밖에 AI기본사회 실현에 필요한 사항

③ 과학기술정보통신부장관은 관계 중앙행정기관의 장과 협의하여 종합계획안을 작성하고, 위원회의 심의를 거쳐 확정한다.

④ 종합계획의 수립 절차 등에 필요한 사항은 대통령령으로 정한다.

제18조(연도별 시행계획) ① 관계 중앙행정기관의 장은 종합계획에 따라 소관 분야의 연도별 시행계획(이하 “시행계획”이라 한다)을 수립ㆍ시행하여야 한다.

② 관계 중앙행정기관의 장은 다음 연도의 시행계획 및 전년도의 시행계획에 따른 추진실적을 매년 위원회에 제출하여야 한다.

③ 시행계획의 수립ㆍ시행 등에 필요한 사항은 대통령령으로 정한다.

제19조(지역계획의 수립) ① 시ㆍ도지사는 종합계획에 따라 관할 지역의 특성을 고려한 지역 AI기본사회계획(이하 “지역계획”이라 한다)을 수립ㆍ시행하여야 한다.

② 시ㆍ도지사는 지역계획을 수립하거나 변경한 때에는 지방의회에 보고하여야 한다.

③ 지역계획의 수립ㆍ시행 등에 필요한 사항은 대통령령으로 정한다.

제20조(계획 수립의 협조) ① 과학기술정보통신부장관, 관계 중앙행정기관의 장 및 시ㆍ도지사는 종합계획, 시행계획 및 지역계획의 수립ㆍ시행을 위하여 필요한 경우 관계 기관ㆍ단체 등에 자료 제출 등의 협조를 요청할 수 있다.

② 제1항에 따른 협조를 요청받은 기관ㆍ단체 등은 특별한 사유가 없으면 이에 따라야 한다.

제21조(실태조사) ① 과학기술정보통신부장관은 AI기본사회 정책 수립에 필요한 기초자료를 확보하기 위하여 AI기본서비스 제공 현황, AI리스크 발생 현황 등에 대한 실태조사를 실시할 수 있다.

② 제1항에 따른 실태조사의 범위ㆍ방법 등에 필요한 사항은 대통령령으로 정한다.

제22조(AI리스크 평가 및 관리) ① 관계 중앙행정기관의 장은 소관 분야 AI기본서비스에 대하여 정기적으로 위험평가를 실시하여야 한다.

② 제1항의 위험평가에는 다음 각 호의 사항이 포함되어야 한다.

1. 기본권 침해 위험

2. 편향과 차별 발생 위험

3. 시스템 오작동 및 보안 취약성

4. 데이터 프라이버시 침해 위험

5. 설명 불가능성으로 인한 투명성 저해

6. 그 밖에 대통령령으로 정하는 위험 요소

③ 관계 중앙행정기관의 장은 제1항에 따른 위험평가를 매년 위원회에 제출하여야 한다.

④ 위원회는 제3항에 따라 제출된 위험평가 결과를 종합하여 매년 AI리스크 보고서를 작성하고 국회에 제출하여야 한다.

⑤ 고위험으로 분류된 AI 시스템에 대한 적합성 평가는 제36조에 따른다.

⑥ 제1항에 따른 위험평가의 기준, 방법 및 절차 등에 필요한 사항은 대통령령으로 정한다.

제23조(성과평가) ① 위원회는 종합계획 및 시행계획의 추진실적을 매년 평가하여야 한다.

② 위원회는 제1항에 따른 평가를 위하여 핵심성과지표를 설정하고, 이를 위원회의 심의를 거쳐 확정한다.

③ 위원회는 제1항에 따른 평가 결과를 국회에 보고하고, 관계 중앙행정기관 및 지방자치단체에 통보하여야 한다.

④ 제1항에 따른 성과평가의 기준ㆍ방법 및 절차 등에 필요한 사항은 대통령령으로 정한다.

제24조(국제협력 및 표준화) ① 정부는 AI기본사회 정책과 관련하여 외국정부 및 국제기구와의 협력을 적극 추진하여야 한다.

② 정부는 AI 윤리, 안전, 거버넌스에 관한 국제 규범 및 국제표준의 형성에 참여하고, 국내 정책과의 조화를 도모하여야 한다.

③ 위원회는 다음 각 호의 국제협력 활동을 추진할 수 있다.

1. UN, APEC 등 국제기구와의 협력

2. 주요국과의 AI 거버넌스 정책 대화 및 정보 교환

3. 국제 AI 안전 평가 프레임워크 개발 참여

4. AI 기술과 윤리에 관한 국제 공동연구

5. 개도국에 대한 AI 역량 강화 지원

④ 정부는 국제적으로 통용되는 인공지능 관련 국제표준 및 가이드라인과의 상호운용성을 확보할 수 있도록 노력하여야 한다.

⑤ 관계 중앙행정기관의 장은 AI기본서비스 관련 국제표준을 국내 정책에 적극 반영하여야 한다.

제25조(정보시스템의 구축ㆍ운영) ① 정부는 AI기본사회 정책의 효율적 추진을 위하여 필요한 정보시스템을 구축ㆍ운영할 수 있다.

② 제1항에 따른 정보시스템의 구축ㆍ운영에 필요한 사항은 대통령령으로 정한다.

제4장 AI기본사회 재정지원 및 운용

제26조(재정지원의 원칙) ① 국가는 AI기본사회 실현에 필요한 재원을 안정적으로 확보하고, 이를 중기재정계획 및 국가재정운용계획에 반영하도록 노력하여야 한다.

② 국가는 AI기본사회의 제공 및 품질 향상을 위하여 다양한 재정수단을 활용할 수 있다.

③ 국가는 디지털 전환 및 사회구조 변화로부터 발생하는 재정 여력을 AI기본사회 정책에 우선적으로 배분하기 위한 방안을 강구하여야 한다.

④ AI기본사회 관련 재정지원의 구체적 기준ㆍ절차는 관계 법률 또는 예산의 범위에서 정한다.

제27조(우선지원 대상) 정부는 다음 각 호의 사업에 대하여 예산 편성과 집행에 있어 우선적으로 고려하여야 한다.

1. AI기본서비스의 개발ㆍ고도화 및 보편적 제공을 위한 사업

2. AI 인프라 및 데이터 구축 등 AI기본사회 실행 기반 마련 사업

3. 디지털 격차 해소 및 취약계층 AI기본서비스 접근성 제고 사업

4. AI 안전성ㆍ신뢰성 확보를 위한 연구ㆍ검증ㆍ평가 사업

5. 지방자치단체의 AI기본사회 정책 추진을 지원하는 사업

6. AI기반사회와 관련된 국제협력 및 글로벌 거버넌스 참여 사업

제28조(중앙행정기관 간 재정협력) ① 관계 중앙행정기관의 장은 AI기본사회 관련 사업의 기획ㆍ편성ㆍ집행에 있어 상호 협력하여야 하며, 유사ㆍ중복 사업이 발생하지 않도록 노력하여야 한다.

② 위원회는 제1항의 취지에 따라 관계 중앙행정기관의 재정 수요 및 집행 현황을 종합적으로 점검하고, 필요한 경우 조정을 권고할 수 있다.

③ 관계 중앙행정기관의 장은 제2항에 따른 위원회의 권고를 존중하여야 한다.

제29조(지방자치단체에 대한 재정적 지원) ① 국가는 지방자치단체가 지역 특성에 맞는 AI기본사회 정책을 추진할 수 있도록 예산의 범위에서 필요한 재정지원을 할 수 있다.

② 제1항에 따른 재정지원의 기준ㆍ절차 및 방법은 대통령령으로 정한다.

제30조(민간부문에 대한 재정적 지원) ① 정부는 AI기본사회 실현에 기여하는 민간부문의 연구개발, 서비스 고도화, 디지털 격차 해소 활동 등에 대하여 예산의 범위에서 재정적 지원을 할 수 있다.

② 제1항에 따른 지원의 대상, 기준 및 절차는 대통령령으로 정한다.

제31조(재정집행의 성과 연계) ① 정부는 AI기본사회 관련 재정사업의 효율성을 높이기 위하여 제23조에 따른 성과평가 결과를 예산 편성 및 조정에 반영할 수 있다.

② 관계 중앙행정기관의 장은 위원회의 성과평가 결과를 다음 연도 재정사업에 반영하도록 노력하여야 한다.

③ 제1항 및 제2항에 따른 성과 기반 재정운용의 기준ㆍ방법 및 절차는 대통령령으로 정한다.

제5장 AI기본서비스

제32조(AI기본서비스의 범위와 기준) ① AI기본서비스는 다음 각 호와 같다.

1. AI 기반 의료서비스: 질병 예측, 진단 지원, 맞춤형 건강관리, 원격의료 등 국민 건강 증진을 위한 서비스

2. AI 기반 교육서비스: 맞춤형 학습, 진로상담, 교육격차 해소, 평생교육 지원 등 교육 기회 확대를 위한 서비스

3. AI 기반 복지서비스: 복지 수급자 발굴, 서비스 연계, 돌봄 지원, 사회적 고립 예방 등 복지 사각지대 해소를 위한 서비스

4. AI 기반 노동서비스: 일자리 매칭, 재교육, 고용안전망, 근로환경 개선 등 노동권 보호를 위한 서비스

5. AI 기반 금융서비스: 신용평가, 재무설계, 금융사기 탐지, 소액금융 접근성 제고 등 금융포용을 위한 서비스

6. AI 기반 재난안전서비스: 재난 예측, 조기경보, 대응 지원, 안전관리 등 국민 생명 보호를 위한 서비스

7. AI 기반 민주주의지원서비스: 정보접근성 제고, 숙의민주주의 지원, 정책참여 활성화 등 민주적 의사결정을 위한 서비스

② 제1항 각 호의 서비스는 다음 각 호의 기준을 충족하여야 한다.

1. 정확성: 서비스별로 대통령령으로 정하는 정확도 기준 충족

2. 접근성: 디지털 취약계층을 위한 대체 수단 또는 지원체계 마련

3. 설명가능성: 인공지능 의사결정 과정을 이용자가 이해할 수 있는 수준으로 설명

4. 안전성: 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 및 관계 법령상 안전기준 준수

5. 공정성 : 특정 집단에 대한 편향이나 차별 없이 제공

6. 프라이버시 보호: 「개인정보 보호법」 등 관련 법령 준수

③ 제1항 각 호의 서비스에 대한 구체적 제공 방법 및 절차는 관계 중앙행정기관의 장이 위원회와 협의하여 고시로 정하되, 개별 법률에서 정하는 서비스 제공 기준ㆍ절차를 저해하지 아니하는 범위에서 정하여야 한다.

④ 제1항 각 호의 서비스 중 고위험 AI 시스템에 해당하는 경우에는 제36조에 따른 특례 규정을 적용한다.

제33조(AI기본서비스 제공자의 의무) ① AI기본서비스 제공자는 제32조제2항의 기준을 준수하여야 한다.

② AI기본서비스 제공자는 AI기본서비스 제공과정에서 발생하는 위험을 지속적으로 모니터링하고, 위험이 발견된 경우 지체 없이 필요한 조치를 하여야 한다.

③ AI기본서비스 제공자는 AI기본서비스 이용자에게 다음 각 호의 사항을 명확히 고지하여야 한다.

1. 인공지능 시스템의 주요 기능 및 한계

2. 인공지능 의사결정의 주요 근거 및 논리

3. 이용자의 권리 및 구제 방법

4. 개인정보 처리방침

④ AI기본서비스 제공자는 관계 중앙행정기관의 장이 요청하는 경우 AI기본서비스 제공 현황 및 위험관리 결과를 제출하여야 한다.

제34조(AI기본서비스 제공 현황의 공개) ① 관계 중앙행정기관의 장은 AI기본서비스 제공 현황을 매년 공개하여야 한다.

② 제1항에 따른 공개 내용에는 다음 각 호의 사항이 포함되어야 한다.

1. AI기본서비스 제공 범위 및 대상

2. AI기본서비스 이용 현황

3. AI기본서비스 품질 평가 결과

4. 위험관리 현황

5. 이용자 만족도 조사 결과

③ 제1항에 따른 공개 방법 및 절차 등에 필요한 사항은 대통령령으로 정한다.

제35조(AI기본서비스의 개선) ① 관계 중앙행정기관의 장은 AI기본서비스의 품질 향상을 위하여 지속적으로 개선하여야 한다.

② 관계 중앙행정기관의 장은 제34조에 따른 공개 결과 및 제23조에 따른 성과평가 결과를 AI기본서비스 개선에 반영하여야 한다.

제36조(고위험 AI 시스템에 대한 특례) ① 고위험 AI 시스템을 AI기본서비스로 제공하려는 자는 해당 시스템이 제32조제2항의 기준을 충족함을 입증하는 적합성 평가를 받아야 한다.

② 제1항의 적합성 평가에는 다음 각 호의 사항이 포함된다.

1. 위험관리 체계의 적정성

2. 학습 데이터의 품질 및 대표성

3. 기술 문서의 완비성

4. 투명성 및 설명가능성 확보 여부

5. 인간의 감독 및 개입 가능성

6. 정확성, 견고성, 사이버보안

③ 제1항의 적합성 평가는 대통령령으로 정하는 평가기관이 실시한다.

④ 평가기관은 적합성 평가 결과 기준을 충족한 경우 적합성 인증서를 발급한다.

⑤ 제1항부터 제4항까지에 따른 적합성 평가의 기준, 절차, 평가기관의 지정 등에 필요한 사항은 대통령령으로 정한다.

제6장 AI기본권의 보장

제37조(AI기본권) ① 모든 국민은 제32조제1항 각 호의 AI기본서비스를 차별 없이 이용할 권리를 가진다.

② 제1항의 권리에는 다음 각 호의 사항이 포함된다

1. AI기본서비스에 평등하게 접근할 권리

2. 인공지능 의사결정 과정에 대한 설명을 요구할 권리

3. 인공지능 의사결정에 대하여 이의를 제기하고 재검토를 요구할 권리

4. 부당한 인공지능 의사결정으로 인한 피해에 대하여 구제받을 권리

5. AI기본서비스 제공 과정에서 개인정보가 보호받을 권리

③ 이 법에 따른 AI기본권은 다른 법률에서 정하는 권리구제 절차를 침해하지 아니하며, 그 절차와 조화롭게 운영되도록 하여야 한다.

제38조(취약계층에 대한 특별 지원) ① 국가 및 지방자치단체는 다음 각 호의 취약계층이 AI기본서비스를 원활하게 이용할 수 있도록 특별히 지원하여야 한다.

1. 고령자

2. 장애인

3. 저소득층

4. 농어촌 지역 주민

5. 그 밖에 디지털 격차로 인하여 AI기본서비스 이용에 어려움을 겪는 사람

② 제1항에 따른 지원의 내용 및 방법 등에 필요한 사항은 대통령령으로 정한다.

제39조(권리 구제 절차) ① 누구든지 AI기본서비스 제공과정에서 자신의 권리가 침해되었다고 판단하는 경우 제11조에 따른 AI권익보호소위원회에 구제를 신청할 수 있다.

② AI권익보호소위원회는 신청을 받은 날부터 60일 이내에 조사를 완료하고 결정하여야 한다. 다만, 부득이한 경우 30일의 범위에서 연장할 수 있다.

③ AI권익보호소위원회는 조사를 위하여 필요한 경우 관계인에게 출석ㆍ진술 또는 자료 제출을 요구할 수 있다.

④ AI권익보호소위원회는 권리 침해가 인정되는 경우 다음 각 호의 조치를 권고하거나 명할 수 있다.

1. 시정조치

2. 손해배상 권고

3. 인공지능 시스템의 일시 중지 또는 개선

4. 관계 기관에 대한 고발 또는 징계 요구

⑤ 제4항의 명령을 받은 자는 정당한 사유가 없는 한 이를 이행하여야 하며, 이행 결과를 AI권익보호소위원회에 통보하여야 한다.

⑥ AI권익보호소위원회의 결정에 불복하는 자는 결정서를 받은 날부터 30일 이내에 행정소송을 제기할 수 있다.

⑦ AI권익보호소위원회는 직무를 독립적으로 수행하며, 직무수행과 관련하여 어떠한 지시나 간섭도 받지 아니한다.

⑧ 제1항부터 제6항까지에 따른 구제신청의 방법 및 절차 등에 필요한 사항은 대통령령으로 정한다.

제40조(집단 구체) ① 같은 원인으로 피해를 입은 50명 이상의 사람은 AI권익보호소위원회에 공동으로 구제를 신청할 수 있다.

② 제1항의 경우 대표자를 선정하여야 한다.

③ 제1항에 따른 집단 구제의 신청 및 처리에 필요한 사항은 대통령령으로 정한다.

제41조(손해배상) ① AI기본서비스 제공자가 AI기본서비스 제공과정에서 고의 또는 과실로 이용자에게 손해를 발생하게 한 경우에는 그 손해를 배상하여야 한다.

② 제1항의 경우 AI기본서비스 제공자가 고의 또는 과실이 없음을 입증하지 못하면 손해배상 책임을 면할 수 없다.

③ 제1항 및 제2항에도 불구하고 천재지변이나 그 밖에 불가항력으로 인한 경우에는 손해배상 책임을 면할 수 있다.

제7장 보칙

제42조(비밀유지 의무) ① 위원회 및 그 소속 기관의 임직원이거나 임직원이었던 사람은 직무상 알게 된 비밀을 누설하거나 도용하여서는 아니 된다.

② 제1항을 위반한 자는 「형법」 제127조(공무상 비밀의 누설) 또는 관련 법령에 따라 처벌한다.

제43조(전문인력 양성) ① 국가 및 지방자치단체는 AI기본사회 실현을 위하여 필요한 전문인력을 양성하여야 한다.

② 제1항에 따른 전문인력 양성의 내용 및 방법 등에 필요한 사항은 대통령령으로 정한다.

제44조(포상) 정부는 AI기본사회 실현에 현저한 공로가 있는 자에게 포상할 수 있다.

제45조(권한의 위임ㆍ위탁) ① 이 법에 따른 과학기술정보통신부장관 또는 관계 중앙행정기관의 장은 권한의 그 일부를 대통령령으로 정하는 바에 따라 소속 기관의 장에게 위임하거나 다른 행정기관의 장 또는 공공기관에 위탁할 수 있다.

② 이 법에 따른 위원회의 업무는 그 일부를 대통령령으로 정하는 바에 따라 공공기관 또는 민간 단체에 위탁할 수 있다.

제8장 벌칙

제46조(벌칙) 다음 각 호의 어느 하나에 해당하는 자는 2년 이하의 징역 또는 2천만원 이하의 벌금에 처한다.

1. 제36조제1항을 위반하여 적합성 평가를 받지 아니한고 고위험 AI 시스템을 AI기본서비스로 제공한 자

2. 제42조를 위반하여 직무상 알게 된 비밀을 누설하거나 도용한 자

제47조(양벌규정) 법인의 대표자나 법인 또는 개인의 대리인, 사용인, 그 밖의 종업원이 그 법인 또는 개인의 업무에 관하여 제45조에 따른 위반행위를 하면 그 행위자를 벌하는 외에 법인 또는 개인에게도 해당 조문의 벌금형을 과(科)한다. 다만, 법인 또는 개인이 그 위반행위를 방지하기 위하여 해당 업무에 관하여 상당한 주의와 감독을 게을리하지 아니한 경우에는 그러하지 아니하다.

제48조(과징금) ① 관계 중앙행정기관의 장은 AI기본서비스 제공자가 다음 각 호의 어느 하나에 해당하는 경우 5천만원 이하의 과징금을 부과할 수 있다.

1. 제32조제2항의 기준을 위반하여 AI기본서비스를 제공한 경우

2. 제33조제2항을 위반하여 위험 모니터링 및 조치를 하지 아니한 경우

3. 제33조제3항을 위반하여 고지의무를 이행하지 아니한 경우

4. 제39조제4항에 따른 AI권익보호소위원회의 명령을 이행하지 아니한 경우

② 제1항에 따라 부과되는 과징금과 관련하여 위반행위의 종류 및 정도별 금액과 그 부과ㆍ징수 절차 등 필요한 사항은 대통령령으로 정한다.

③ 관계 중앙행정기관의 장은 제1항에 따른 과징금을 기한까지 내지 아니하면 「국세징수법」에 따라 징수한다.

제49조(과태료) ① 다음 각 호의 어느 하나에 해당하는 자에게는 1천만원 이하의 과태료를 부과한다.

1. 제20조제2항을 위반하여 정당한 사유 없이 협조 요청에 따르지 아니한 자

2. 제33조제4항을 위반하여 자료 제출을 거부하거나 거짓 자료를 제출한 자

3. 제39조제3항을 위반하여 정당한 사유 없이 출석ㆍ진술 또는 자료 제출 요구에 따르지 아니한 자

② 제1항에 따른 과태료는 대통령령으로 정하는 바에 따라 관계 중앙행정기관의 장이 부과ㆍ징수한다.

③ 제2항에 따른 과태료 처분에 불복하는 자는 그 처분을 고지받은 날부터 30일 이내에 관계 중앙행정기관의 장에게 이의를 제기할 수 있다.

④ 제2항에 따른 과태료 처분을 받은 자가 제3항에 따라 이의를 제기한 경우에는 관계 중앙행정기관의 장은 지체 없이 관할 법원에 그 사실을 통보하여야 하며, 그 통보를 받은 관할 법원은 「비송사건절차법」에 따른 과태료 재판을 한다.

⑤ 제3항에 따른 기간에 이의를 제기하지 아니하고 과태료를 내지 아니하면 「국세징수법」에 따라 징수한다.

제50조(시정명령) ① 관계 중앙행정기관의 장은 AI기본서비스 제공자가 제32조제2항의 기준을 위반한 경우 시정을 명할 수 있다.

② 관계 중앙행정기관의 장은 AI기본서비스 제공자가 제1항에 따른 시정명령을 이행하지 아니하는 경우 해당 AI기본서비스의 제공을 일시 중지하거나 개선할 때까지 제한할 수 있다.

부 칙

제1조(시행일) 이 법은 공포 후 6개월이 경과한 날부터 시행한다.

제2조(AI기본사회위원회 구성에 관한 경과조치) ① 정부는 이 법 시행일부터 3개월 이내에 제8조에 따른 위원회를 구성하여야 한다.

② 위원회가 구성될 때까지 이 법에 따른 위원회의 권한은 과학기술정보통신부장관이 대행한다.

제3조(종합계획 수립에 관한 경과조치) 정부는 이 법 시행일부터 1년 이내에 제17조에 따른 제1차 AI기본사회 종합계획을 수립하여야 한다.

제4조(AI기본서비스에 관한 경과조치) 이 법 시행 당시 국가 또는 지방자치단체가 인공지능을 활용하여 제공하는 공공서비스는 제32조제3항에 따른 고시가 제정될 때까지 이 법에 따른 AI기본서비스로 본다.

제5조(고위험 AI 시스템에 관한 경과조치) ① 이 법 시행 당시 이미 제공 중인 고위험 AI 시스템에 대하여는 제36조제1항에도 불구하고 이 법 시행일부터 2년 이내에 적합성 평가를 받아야 한다.

② 제1항에 따라 적합성 평가를 받을 때까지는 제45조제2항을 적용하지 아니한다.

제6조(다른 법령과의 관계) 이 법 시행 당시 법령에서 종전의 규정을 인용한 경우 이 법 가운데 그에 해당하는 규정이 있으면 종전의 규정을 갈음하고 이 법의 해당 규정을 인용한 것으로 본다.