科学技術情報通信部および情報通信政策研究院は、人工知能（以下「AI」といいます。）時代における望ましいAI開発および活用方向を提示するため、「国家人工知能倫理基準（以下「AI倫理基準」といいます。）」を発表しました。

昨年の経済協力開発機構（OECD）によるAI勧告案、欧州連合（EU）によるAI倫理原則等、様々なAI倫理原則が発表され、このような世界の流れに合わせて韓国政府も上記の基準を設けることになりました。AI倫理基準では、倫理的なAIを実現するため、社会構成員が共に遵守しなければならない主な原則と核心要件を提示しています。

昨年１１月、放送通信委員会および情報通信政策研究院が発表した「AI倫理原則」に続き、１年ぶりに設けられた今回のAI倫理基準は、社会構成員の自律的な遵守を前提としていますが、今後、国家全般のAI開発における目標と志向すべき事項を定めて基本原則を提示している点から、AI開発および活用に携わる事業者の注意が必要になるものと思われます。
 

1. AI倫理基準の基本３原則：人間の尊厳性、社会公共善、技術の合目的性

• AIの開発から活用までの全過程において以下の基本３原則が考慮されなければならない

(人間の尊厳性) 人間は、生命体としてAIおよび機械製品とは代替し得ない価値があり、AIは、人間の生命・精神的健康・身体的健康に害を及ぼさない範囲で開発および活用されなければならず、AIの開発および活用は、人間に害を及ぼさないよう安全性と堅固性を備えなければならない。

(社会公共善) 社会は、できる限り多くの人々の安寧と幸福を追求しなければならず、AIは、知能情報社会において社会的弱者と脆弱階層の接近性を保障するため開発および活用されなければならない。また、AIの開発および活用を通じて社会的・国家的・世界的観点で人類の普遍的な福祉を向上させなければならない。

(技術の合目的性) AI技術は、使用者の目的と意図による固有の目的と手段的価値を持ち、AIは、究極的に人間にとって有益なものになるよう開発および活用されなければならず、人類の生活と繁栄のためのAI開発および活用は、奨励・振興されなければならない。

2. AI基本原則を実現するための核心１０要件

• AI倫理基準の基本３原則を実践および履行できるよう、AIの全体生命周期にわたって満たされるべき核心１０要件を提示している

(人権保障) AI開発および活用は、人権と自由を侵害してはならず、全ての人に与えられた権利および民主的価値と国際人権法上の権利等を保障しなければならない。

(プライバシー保護)AI開発および活用の全過程において、個人のプライバシーを保護しなければならず、個人情報の誤用を最小化しなければならない。

(多様性の尊重) AI開発および活用の全段階において、利用者の多様性と代表性を反映しなければならず、偏向と差別を最小化しなければならない。常用化されたAIは、全ての人間に対して公正に適用されなければならず、社会的弱者および脆弱階層のAIへの接近性を保障しなければならない。

(侵害禁止) AIは、人間に害を与える目的で活用してはならず、AIによって発生し得るリスクおよび否定的な結果に備えた対応策が必要である。

(公共性) AIは、社会的公共性の増進および人類の共同利益のため活用しなければならず、肯定的な社会変化を導く方向へと活用しなければならない。また、純機能を極大化するため多方面における教育施行が必要である。

(連帯性) AIは、様々な集団の間における連帯性を維持し、未来世代を考慮して活用しなければならず、多様な主体の公正な参加機会が保障されなければならず、AIの開発および活用に国際社会が協力しなければならない。

(データ管理) 個人情報等のデータは、目的に合わせて使用しなければならず、目的外の用途で活用してはならない。また、データの偏向性が最小化されるよう品質およびリスクの管理を行わなければならない。

(責任性) AIの開発および活用過程において責任の主体を設定し、被害を最小化するため努力しなければならず、AI設計者、開発者、サービス提供者、利用者の間において責任所在を明確にしなければならない。

(安全性) AIの開発および活用過程においてリスクを防止し、安全を保障しなければならず、明白な誤謬または侵害が発生する場合、利用者がその作動を制御できる機能を備えるものとする必要がある。

(透明性) AIを活用するときに適切な水準の透明性および説明可能性を高めなければならず、AI基盤の製品やサービスの提供時において発生し得るリスクなどの留意点を事前告知しなければならない。

3. 関連企業に対する示唆点

• 今回のAI倫理基準は、全ての社会構成員を対象に適用されますが、ここに政府、公共機関、企業、利用者等がいずれも含まれるため、AI倫理基準によりAI関連事業において必ず遵守しなければならない基本原則と核心要件が設定されたものと思われます。
   
• 特に、AIを活用する事業者は、上記のAI倫理基準の基本原則および核心要件の具体的な内容を参考し、AI開発の過程においてチェックリスト開発等、AI倫理基準の実現方法を積極的に講じる必要があるものと思われます。

About Shin & Kim’s TMT Team

法務法人(有)世宗は、IT産業全般および放送情報通信分野における独歩的な専門性と人的ネットワークを擁しており、企業らのための国内外のAIを含む新技術についての専門的アドバイスをご提供しております。他にもIT産業全般に対する規制動向の把握および官公庁向けの業務、立法コンサルティング、規制の影響力の分析と企業の戦略づくり等に対するリーガル・アドバイスをご提供しております。より専門的な内容やご質問等がございましたら、下記の連絡先までご連絡ください。より詳細な内容について対応させて頂きます。