챗GPT의 출현을 계기로 인공지능과 관련한 논의가 더욱 활발히 이루어지고 있습니다. 미국과 EU에서 AI에 대한 규제 논의가 이어지고 있는 만큼 한국에서도 역시 인공지능 윤리, 신뢰성 강화, 고위험 인공지능에 대한 규제 필요성 등에 대한 논의가 이어지고 있으며 관련 법률들도 발의되고 있습니다.
아래에서는 인공지능과 관련한 각 주요 부처들의 동향과 현재 발의되어 있는 인공지능 관련 주요 법안을 살펴보도록 하겠습니다.
1. 주요부처 동향
(1) 개인정보보호위원회
- 개인정보보호위원회는 6.23. ‘인공지능과 데이터 프라이버시 국제 컨퍼런스’에서 주요국(한, 영, 독, 일) 개인정보 감독기관과 국제기구(EU, OECD), 국내외 인공지능 관련 전문가 등과 함께 인공지능 규율 방향에 대해 논의하였습니다.
- 위 컨퍼런스에서 고학수 개인정보보호위원회 위원장은 인공지능 관련 이슈에 대응하기 위해 ①인공지능(AI) 서비스 제공자에 대한 안전장치 제공과 ②규정 중심(rule-based)에서 원칙 중심(principle-based)으로 규제 패러다임 전환 및 ③인공지능(AI)의 리스크 기준으로 차등적인 규제 도입을 담은 세 가지 주요 정책 방향을 제시하였습니다.
| ① 인공지능(AI) 서비스 제공자에 대한 안전장치 제공 - 사업자의 책임성 확보가 중요, 사업자는 인공지능(AI) 모델 개발, 서비스 과정에서 정보주체의 권익이 부당하게 침해되지 않도록 사전·사후적 조치 등 최선의 노력을 기울여야 함 ② 규정 중심(rule-based)에서 원칙 중심(principle-based)으로 규제 패러다임 전환 - 인공지능(AI)은 다양한 형태로 다양한 산업에 적용되어 구현되기 때문에, 핵심 원칙을 제시하고 상황별로 원칙을 현실에 맞게 적용할 필요 ③ 인공지능(AI)의 리스크를 기준으로 차등적인 규제 도입 - 정부와 민간이 함께 유형별·사안별 민감성과 리스크를 평가할 수 있는 기준과 모델 구축 필요 |
(2) 과학기술정보통신부
- 그간 과학기술정보통신부는 인공지능 윤리·신뢰성 확보를 위해 OECD, EU 등의 인공지능 권고안을 반영한 인공지능 윤리기준*(’20.12)을 수립하고, 윤리기준을 자율적으로 준수·점검할 수 있는 가이드라인**(자율점검표·개발안내서)을 마련(’22.2)한 바 있습니다.
* (10대요건) ①인권 보장, ②프라이버시 보호, ③다양성 존중, ④침해금지, ⑤공공성, ⑥연대성, ⑦데이터 관리, ⑧책임성, ⑨안전성, ⑩투명성
** (자율점검표) 윤리기준 10대 핵심요건 기반 / (개발안내서) 기술적 구현 가능한 4개 핵심요건 기반 - 최근에는 ‘디지털 신질서 정립방안(23.5)’을 발표하면서 산업전반에 인공지능이 활용되는 디지털 심화시대에서 추구해야 할 보편적 가치, 주체(시민, 기업, 정부 등) 별 권리와 책임, 디지털 심화 쟁점 해소를 위한 원칙을 규정하는 디지털 권리장전을 9월 중 마련할 계획이라고 밝혔습니다.
- 그 외에도 과학기술정보통신부는 ‘인공지능 윤리·신뢰성 강화를 위한 간담회(23.5)’ 개최, AI 분야별 대표기업에 대한 현장방문을 실시(23.6), 챗GPT 등 생성형 인공지능의 보안 위협 대응방향 모색을 위한 토론회(23.6) 개최 등 인공지능과 관련한 활발한 논의를 지속하고 있습니다.
(3) 방송통신위원회
- 방송통신위원회는 ‘인공지능 기반 미디어 추천 서비스 이용자 보호 기본원칙(21.6)’을 마련한 바 있으며, 이에 대한 해설서를 발간하기도 하였습니다(22.4).
- 또한 방송통신위원회는 매년 ‘지능정보사회 이용자보호 국제컨퍼런스’를 개최하여 인공지능 기술 확산에 따른 사회, 문화적 파급효과를 논의하고 있습니다. 위 컨퍼런스는 인공지능기술 확산에 따른 새로운 유형의 이용자보호 이슈를 논의하고 관련 정책에 대한 국제사회의 공감대 형성을 목적으로 2019년 처음으로 개최된 이후 매년 개최되고 있습니다.
(4) 중소기업벤처부
- 중소기업벤처부는 샘 알트만 오픈AI 대표와 주요 임원진들을 한국으로 초청해 6.9 국내 스타트업과 간담회를 가졌습니다. 이영 장관은 “오늘 간담회를 시작으로 인공지능 관련 우리 창업기업(스타트업)이 세계적으로 성장할 수 있도록 OpenAI와 지속적으로 교류하고 협력하겠다”고 밝혔습니다.
2. 주요 법안 발의 현황
| 법안명 | 발의일 | 주요내용 |
| 인공지능 산업 육성 및 신뢰 기반 조성 등에 관한 법률안 (18726) |
2022.12.7 | 인공지능 산업 발전을 위한 진흥법으로 인공지능 기술 연구개발, 인공지능 서비스 출시를 우선 허용하고 문제가 생기는 경우에 한해 규제하겠다는 우선 허용, 사후규제 원칙을 명문화함. 다만 고위험영역 인공지능에 대하여 사전고지의무와 신뢰성확보 조치 의무를 부과 |
| 정보통신망법 개정안 (20001) |
2023.2.14. | 인공지능 기반 추천서비스 제공 시 방통위에 신고하도록 함 |
| 인공지능책임법 (20353) |
2023.2.28. | 인공지능사업자의 의무, 고위험 인공지능 이용사업자의 책무를 규정 |
| 개인정보보호법 개정안 (20130) |
2023.2.20. | 인공지능 회사의 알고리즘으로 개인정보가 유출된 경우 개인정보보호위원회가 알고리즘제출을 요구할 수 있도록 함 |
| 채용절차공정화법 개정안 (20898, 21075, 20799) |
2023.3.27 등 | 기업이 채용에 인공지능 활용 시 피채용인에게 사전고지의무를 부여함 |
| 콘텐츠산업 진흥법 개정안 (22180) |
2023.5.22. | 인공지능 기술을 이용하여 콘텐츠를 제작한 경우에는 해당 콘텐츠가 인공지능 기술을 이용하여 제작된 콘텐츠라는 사실을 표시하도록 함 |
| 저작권법 개정안 (22537) |
2023.6.8. | 컴퓨터를 이용한 자동화된 정보분석을 위한 저작물 이용에 대하여 명시적 기준을 마련하여 추후 인공지능 기술의 저작물 활용 시 허용되는 범위와 저작권 침해의 경계를 명확히 함 |
| 공직선거법 개정안 (22569) |
2023.6.12. | 인공지능을 이용하여 허위정보나 명령을 입력하여 여론조사를 조작하여 얻은 결과를 선거운동을 위하여 전송하는 행위를 금지하고 이에 대한 논평 또는 보도하는 행위를 제한 |
| 정보통신망법 개정안 (22730) |
2023.6.19. | 정보통신망법에 따른 정보통신서비스 제공자의 정의에 인공지능 기술을 이용하여 정보를 제공하거나 정보제공을 매개하는 자를 명시 |
3. 시사점
- 기본적으로 정부는 AI 산업 육성과 관련 생태계 진흥에 초점을 맞춰 제도 정비에 나선다는 것으로, 미국·중국 등이 AI 기술로 앞서 나가고 있는 상황에서 자칫 규제 중심으로 법·제도를 정비하면 'AI 주권'이 위협받을 수 있을 것이란 인식이 존재합니다.
- 그러나 미국과 EU에서 AI에 대한 규제 논의가 이어지고 있는 만큼 한국 역시 인공지능 윤리·신뢰성 강화, 고위험 인공지능에 대한 규제 필요성 등에 대한 논의가 이어지고 있으며 정부부처의 관심도 높은 상황입니다.
- 앞으로 인공지능을 활용한 서비스가 확대될 것으로 보이는 만큼 인공지능과 관련한 규제동향을 면밀히 모니터링할 필요가 있겠습니다.
About Shin & Kim’s ICT Group
법무법인(유) 세종 ICT그룹은 ICT 분야의 독보적인 전문성과 인적 네트워크를 보유하고 있으며, 고객들로부터 최근 수년간 가장 높은 평가를 받고 있습니다. 방송과 통신, 개인정보, 인터넷 IT 분야에서 축적된 역량을 바탕으로 방송·통신·ICT 규제 동향 파악 및 대관, 법제개선·입법컨설팅, 규제영향력 분석과 기업의 전략 수립 등에 대한 종합적인 법률자문을 제공하고 있습니다. 침해사고 대응 등과 관련하여서도 다양한 업무경험과 전문성을 보유하고 있으므로, 보다 전문적인 내용이나 궁금하신 사항이 있으면 언제든지 연락 주시기 바랍니다.
