대한민국 AI 기본법 요약
핵심 요약
- 제목: "인공지능 발전 및 신뢰 구축을 위한 기본법"
- 채택: 2024년 12월 26일, 국회에서 ‘AI 기본법’ 통과
- 주요 목적: 혁신 촉진, 수출 증대, AI 위험 완화, 신뢰할 수 있는 AI 구현을 목표로 한 통합 국가 AI 프레임워크 구축
- AI 정의: “학습, 추론, 인식, 판단, 언어 이해 등 인간 지적 능력의 전자적 구현”
- 요구사항: 고위험 AI 시스템 또는 생성형 AI를 제공하거나 사용하는 사업자는 광범위한 준수 요건 적용
고위험 AI 시스템
- 인간의 생명, 신체 안전 및 기본권에 해로운 영향을 미칠 수 있는 AI.
다음과 같은 영역 포함:
- 에너지 공급
- 식량 생산
- 의료 서비스 제공
- 의료 기기
- 핵 물질 관리
- 법 집행을 위한 생체 인식 및 분석
- 권리 결정에 영향을 주는 주요 판단(예: 채용, 신용 평가, 대출 등)
- 주요 교통 시스템
- 교육 및 학생 평가
- 정부 의사결정
기본 원칙
AI 기본법에 따른 법적 주체
- AI 개발 사업자
- AI 활용 사업자
- AI 사용자
- 영향받는 사람
기본 원칙 및 국가 역할
- AI는 안전성과 신뢰성을 강화하여 삶의 질을 향상해야 함.
- 영향을 받는 사람은 AI 결과 및 의사결정에 대한 명확하고 의미 있는 설명을 제공받아야 함.
- 국가 및 지방 정부는 안전한 AI 사용 환경 조성을 위해 노력하고, 사업을 지원해야 함.
- 국가 및 지방 정부는 AI가 가져올 변화에 모두가 적응할 수 있도록 지원해야 함.
준수 요건
- 역외적용: 해외에서 발생한 행위라도 국내 시장 또는 사용자에 영향을 미치면 적용됨.
- AI 윤리: 안전성, 책임, 투명성, 인간 가치에 관한 원칙, 가이드라인 및 기준 설정.
고위험 AI의 핵심 요구사항:
- 사전 점검, 테스트 및 인증 획득
- 위험 관리: 위험 식별, 평가, 완화 및 모니터링
- 투명성 및 정보 공개 의무
- 생성형 AI 이미지, 음성 및 영상이 AI 생성물임을 사용자에게 고지
- 인간 감독 및 관리 체계 구축
- 설명 가능성 및 소통 제공
혁신 촉진
정부의 AI 촉진 이니셔티브
- 과학기술정보통신부 장관은 경쟁력 및 혁신 강화를 위한 ‘AI 기본 계획’ 수립 및 시행 의무
- 대통령이 주재하는 국가 AI 위원회 설립: AI 기본 계획, 정책, R&D 및 투자 전략 관리
- ‘AI 학습 데이터’의 생산, 관리 및 활용 촉진
- AI 연구개발, 기술 혁신 및 상업화 프로젝트 지원
- AI 안전성, 표준화 및 책임 있는 사용 연구 지원
- 중소기업을 위한 AI 자금 프로그램 운영
- AI 클러스터 지정 및 자금 지원
처벌 및 집행
- 과학기술정보통신부는 AI 기본법의 집행 권한 보유
- 조사 수행, 사업장 출입, 자료 검토 및 시정 명령 권한 부여
- 위반 사항 인지 시 사업자는 정보 제출 의무
- 법 위반 시 최대 3,000만 원(약 2,030만 원)의 벌금 부과；특정 위반 시 최대 3년의 징역 가능
- AI 안전 연구소 신설: AI 안전 정책 연구, 위험 관리, 표준화, 국제 협력 및 보안 초점
(면책조항: 본 내용은 법률 자문이 아닙니다。 개인 연구 목적으로 정보를 정리한 것입니다）
