유럽연합 집행위원회는 2021년 4월 21일 인공지능법안(이하 “위원회 안”)을 발표하였으며, 유럽연합 의회는 2023년 6월 14일 이에 대한 수정안(이하 “의회 수정안”)을 채택하였습니다. 수정안은 유럽의회, 유럽연합 집행위원회, 유럽연합 이사회의 최종 협의를 거쳐 EU 법률로 확정되며 그 과정에서 내용이 수정될 수도 있습니다. 의회 수정안은 인공지능 기술에 관한 포괄적인 규제를 담은 최초의 법안으로서 우리나라를 비롯한 여러 나라의 인공지능 규제에 영향을 미칠 것으로 예상되며 그 주요 내용은 아래와 같습니다.
1. 위험수준에 따른 차등적 규제
의회 수정안은 인공지능의 위험을 그 정도에 따라 i) 허용될 수 없는 위험(an unacceptable risk), ii) 고위험(a high risk), iii) 저위험 또는 최소한의 위험(low or minimal risk)으로 구분하여 차등적으로 규제하며, 허용될 수 없는 위험을 가진 인공지능은 엄격히 금지하고, 고위험 인공지능에 대해서는 엄격한 요구사항을 부과합니다.
2. 금지되는 인공지능 활동(prohibited AI practices)
의회 수정안 제5조는 아래와 같은 인공지능 활동을 금지하고 있습니다.
구체적으로, (a) 사람의 의식 이면에서 잠재의식 기술을 이용하거나 의도적으로 교묘하게 또는 기만적 기술을 이용하여 사람의 의사결정 능력을 손상시키는 인공지능 시스템을 시장에 출시, 그 서비스를 제공 또는 사용하는 것, (b) 사람이나 특정 단체의 취약성을 활용하는 AI 시스템을 시장에 출시, 그 서비스를 제공 또는 사용하는 것, (c) 본래 그 데이터가 생성 또는 수집된 맥락과 무관하게 특정 사람 또는 단체에 해롭거나 불리하거나 불균형적인 처우를 하거나, 사람 또는 그 단체의 사회적 점수를 평가 또는 분류할 목적으로 AI 시스템을 시장에 출시, 그 서비스를 제공 또는 사용하는 것 (d) 공중이 접근할 수 있는 공간에서의 ‘실시간’ 원격 생체인식 식별시스템을 이용하는 인공지능 활동은 금지됩니다.
(d)항과 관련하여, 위원회 안에서는 실종아동 등 범죄 피해자 수색 및 테러 공격 방지에 대해서 예외를 두고 있었으나, 의회 수정안에서는 이러한 예외를 두지 않지 않습니다. 또한 의회 수정안에서는, 실제 또는 잠재적 범죄나 그 재발을 예측하기 위하여 사람이나 단체의 과거 범죄행위 등 인격적 특성을 평가하는 AI 시스템, 인터넷 또는 CCTV 영상에서 안면인식 데이터를 비표적(untargeted) 스크랩하여 데이터 베이스를 생성하는 AI 시스템도 금지하고 있고, 사후에 생체인식 식별시스템을 통하여 분석하는 것도 중대 범죄 수색을 위해 필요한 경우 등을 제외하고는 원칙적으로 금지하고 있습니다.
제5조 위반에 대해서는, 최대 40,000,000유로 또는 직전 회계연도의 전 세계 연간 매출의 7% 이하 중 더 높은 금액의 과태료에 처하도록 하여 상당히 높은 수준의 과태료를 부과할 수 있습니다.
3. 고위험 인공지능(high-risk AI systems)
고위험 인공지능 시스템이란
(a) 부속서 II에 열거된 유럽연합조정법(the Union Harmonisation Law)이 적용되는 제품(기계장비, 장난감, 오락용 선박과 개인용 선박, 선박기관 등)으로서 제품의 출시 또는 시판을 위하여 보건 및 안전에 관한 제3자 적합성 평가를 받아야 하는 제품에 안전요소로 사용되는 인공지능 시스템 또는 그러한 제품 자체인 인공지능 시스템(의회 수정안 제6조 제1항), 및 부속서 III에 열거된 사람의 건강, 안전, 기본권에 중대한 위해를 끼칠 위험이 있는 인공지능 시스템(의회 수정안 제6조 제2항)을 의미합니다.
위원회 안의 부속서 III에서는 사람에 대한 생체인식 식별과 분류, 도로, 철도, 항공과 같은 교통 인프라, 교육과 직업 훈련, 고용, 근로자 관리 및 자영업에 대한 접근, 필수적인 민간 및 공적 서비스에 대한 접근(건강보험, 전기, 냉난방, 인터넷, 신용 점수 등), 법 집행, 이주, 망명 및 국경 통제 관리, 사법 절차 및 민주절차의 관리에 적용되는 시스템을 고위험 인공지능 시스템으로 분류하였으나,의회 수정안에서는 거대 온라인 플랫폼이해당 플랫폼의 유저 생산 콘텐츠를 서비스 이용자에게 추천하기 위하여 사용하는 인공지능 시스템도 포함시켰습니다. 여기서 거대 온라인 플랫폼이란 유럽연합 내 월 평균 활성 서비스 이용자 수가 4500만 이상인 소셜 미디어 플랫폼으로서 ‘거대 온라인 플랫폼’으로 지정된 것을 말합니다(Regulation EU 2022/2065 제33조).
의회 수정안은 고위험 인공지능에 대해서, 위험관리시스템의 구축, 실행, 유지(제9조), 데이터 품질 기준 충족 및 관리(제10조), 기술문서의 작성 및 최신상태 유지(제11조), 자동기록 기능 탑재 및 기능수행 이력 추적(제12조), 사용자에 대한 투명성 확보 및 정보 제공(제13조), 인적감독 보장(제14조), 정확성과 견고성, 사이버 보안의 확보(제15조) 등 매우 높은 수준의 요구사항을 부과하고 있습니다.
4. 투명성 의무
의회 수정안에서는 인공지능 시스템의 투명성에 관하여 규정하고 있습니다(제52조 제1항 내지 제3항). 먼저 사람과 교류하는 인공지능 시스템(to interact with natural person)은 그 제공자, 사용자, 해당 인공지능 시스템으로 하여금 사람이 AI 시스템과 교류하고 있다는 점을 적시에, 명확하게 고지하도록 해야 합니다. 또한 감정인식 시스템이나 생체인식 분류시스템의 사용자는 그 시스템의 작동 사실을 시스템에 노출되는 사람에게 적시에 명확하게 고지하고 사전에 동의를 얻어야 합니다.
또한 의회 수정안에서는 ‘딥페이크’를 ‘진정하거나 진실한 것이라고 잘못 보여지는 텍스트, 오디오 또는 시각적 콘텐츠와, 그 사람의 동의 없이 그 사람이 실제로 하지 않은 말 또는 행동을 묘사하는 것’이라고 정의하면서, ‘딥페이크’를 생성하거나 조작하는 AI 시스템의 사용자는, 적시에 명확하게 해당 콘텐츠가 인공적으로 생성 또는 조작되었다는 점을 공개하여야 하고, 가능한 경우 그것을 생성 또는 조작한 사람이나 법인의 성명을 ‘공개’해야 합니다. 여기에서 말하는 ‘공개’란, 해당 콘텐츠 이용자에게 콘텐츠가 진정한 것이 아님을 분명하게 시각적으로 알리는 방법으로 콘텐츠에 표시하는 것을 말합니다.
5. 생성형 인공지능에 대한 규제
의회 수정안에서는 ChatGPT와 같은 생성형 인공지능에 대한 규제사항을 명확히 하고 있습니다(제28조 (b)항 신설). 생성형 인공지능이 준수하여야 하는 의무는 다음과 같습니다.
a) 사람과 교류하는 인공지능 시스템(to interact with natural person)이라는 사실을 고지할 의무(제52조 제1항의 의무)
b) 기초 모델의 훈련 및 가능한 경우 그 설계 및 개발에 있어서도, 생성되는 콘텐츠가 유럽연합 법률에 위반되지 않고, 표현의 자유를 포함한 기본권을 침해하지 않을 것
c) 유럽연합 또는 회원국의 저작권법을 위반하지 않고, 저작권법의 보호 대상인 훈련 데이터를 사용하는 경우 그 주요 내용을 충분하고 구체적으로 공개할 것
이와 관련하여, 유럽연합 디지털 싱글마켓 저작권지침(EU Directive on Copyright in the Digital Single Market)은 회원국으로 하여금 권리자가 그에 관한 권리를 유보한 경우를 제외하고는 적법하게 접근 가능한 저작물에 대해 텍스트 및 데이터 마이닝(text and data mining)의 목적으로 이를 복제 및 추출하는 것을 허용하도록 하고 있습니다. 의회 수정안은 생성형 인공지능이 학습한 원데이터의 주요 내용을 공개하도록 하고 있으므로, 저작권자는 생성형 인공지능의 학습 및 그 결과물의 생성에 대하여 자신의 의사를 반영할 수 있고, 생성형 인공지능이 생성한 결과물에 저작권자의 권리를 침해하는 것일 경우 그에 대한 권리 행사가 용이하게 될 것으로 예상됩니다.
6. 기타 AI에 대한 규제 방향
의회 수정안은 저위험 또는 최소한의 위험(low or minimal risk)을 생성하는 인공지능에 대해서는 별도의 정의규정을 두고 있지는 않습니다. 그러나 저위험 또는 최소한의 위험을 가진 AI 시스템이라고 하더라도 제52조의 투명성 의무를 준수하여야 하고, 제69조 제1항은 당사국에 대해 고위험 인공지능 시스템 이외의 인공지능 시스템에 대해서도, AI 시스템의 투명성과 신뢰성을 확보하기 위한 행동강령의 작성을 촉구하고 있습니다.
2023년 6월 14일 유럽의회가 EU 인공지능 법안 수정안을 채택한 후, 현재 유럽의회, 유럽연합 집행위원회 및 유럽연합 이사회가 최종 법률안을 협의 중이며, 최종 법률안은 빠르면 2023년 말, 또는 2024년 초에 발효될 것으로 예상되고 있습니다. 발효일 이후 시행일까지는 통상 2년의 유예기간이 부과되므로 관련 업계에서는 2025년말 또는 2026년 초까지 EU 인공지능법 시행에 따른 준비 작업을 완료하여야 할 것입니다. EU 인공지능법안은 인공지능을 통일적으로 규율하는 단일화된 법안이며, EU의 위상을 고려할 때 향후 인공지능 규율과 관련한 국제적 표준으로 작동할 가능성이 있으므로 우리 나라에서도 이와 유사한 수준의 인공지능 시스템에 관한 규범을 정립함으로써 국내 인공지능 규제에 관한 국제적인 신뢰성을 확보할 필요가 있으며 이를 위해서도 국제적인 AI 규제 동향을 면밀히 살필 필요가 있겠습니다.
