AI等テクノロジーがもたらす様々な社会課題
Chat GPTなどの生成系AIをはじめとして，AIによる機械学習に関する技術の進展より，認識・意思決定・応答のプロセスを通じた自動化の精度が飛躍的に向上し，様々な場面でAIが利活用されるようになっています。AI技術は，ブロックチェーン・IoTなどの他のテクノロジーと相まって，様々な分野の事業のデジタル化を急速に推進させてきました。AI技術を活用してビッグデータを処理しマッチングを行う，オンラインモール・検索エンジン・SNSを含む様々な種類のデジタルプラットフォーム（DPF）も台頭しています。
このようなAI等の技術革新を通じたデジタル化は，経済発展や社会課題の解決に資するものである一方，以下の通り，社会に様々な不安・懸念を生じさせています。これらの課題は，人々の人権に負の影響をもたらす危険性があるという点で共通しており，「テクノロジーと人権」の問題としても位置づけられるものです。
① AIのアルゴリズム・バイアス
AIのアルゴリズム（手順）のバイアスが，女性，障がい者，マイノリティ，外国人など社会的に脆弱な立場の人々を排除し差別を助長しているという問題が提起されています。
② AI監視技術の濫用
顔認証などの生体認証情報や端末の位置情報に基づくAI監視技術の精度が飛躍的に向上しているところ，このような技術が市民の行動を監視する手段として使用される懸念が高まっています。
③ DPF等におけるプライバシー侵害
デジタル社会において，DPF等には，ユーザーの閲覧履歴・行動履歴を含む多数の個人データがビッグデータとして蓄積されているところ，DPF事業者等が，個人データを不透明な形でAI技術等を用いて処理し，ターゲティング広告などに使用したり，第三者に提供したりすることで，プライバシーを侵害しているという懸念も高まっています。
④ AIによる自動化やDPFの台頭による労働者への影響
AI・ロボットによる自動化に伴う雇用の喪失，「デジタル労働プラットフォーム」を通じた「ギグワーカー」という新しい働き方の出現を通じて，労働者の権利に負の影響が生じる危険性も指摘されています。
⑤ デジタル化に伴う消費者の脆弱性の拡大
消費者がオンラインモールのような取引DPFを通じて商品を購入したり，SNSプラットフォームを通じて商品の広告・勧誘を受ける機会が増大した結果，消費者の被害・誤認のリスクも高まっています。
⑥ SNSでのフェイクニュース・ヘイトスピーチの拡散
SNSのプラットフォームでは，AI等の技術も寄与する形で，フェイクニュースやヘイトスピーチが容易に生成・拡散される危険性があります。その結果，人々を誤認させその知る権利を侵害すると共に，フェイクニュースやヘイトスピーチの対象となる人々のプライバシーや人格権に脅威を生じさせることが懸念されています。
⑦ デジタル環境の子どもに対する脅威
デジタル環境において，子どもが様々な形で暴力・ハラスメントやプライバシー侵害に巻き込まれたり，オンラインゲームなどのサービスを通じて暴力性や中毒性の高いコンテンツから悪影響を受けたりするなど重大な脅威が生じています。
広がる法の空白域と不確実性
以上のような「テクノロジーと人権」の各課題に関しては，国内外で法規制の導入・強化も進みつつあるほか，取引先・投資家を含むステークホルダーからの課題対応の期待・要請も高まっています。
しかしながら，AI等テクノロジーの進展は極めて急速であり，課題対応のための社会における法整備や企業における法令遵守・内部統制がこれに追い付くことが困難であり，法の空白域が生じていることも問題となっています。
法の空白域が存在する中で，ステークホルダーからの懸念・反発が高まり問題が顕在化した場合には，企業に予期せぬレピュテーションリスクや経済的損害が生じ，事業の発展やイノベーションにも支障が生じさせかねません。
戦略法務の実践のための３つのステップ
企業が直面するこのような不確実性に適切に対処しつつ，AI等の先端技術を活用した事業展開に積極的に挑戦していくためには，企業経営において「戦略法務」がより一層重要な役割を果たすことが期待されています。
商事法務NBL1239号に掲載された拙稿「デジタル時代の経営課題「テクノロジーと人権」に対処する戦略法務のあり方」では，「テクノロジーと人権」課題の概要やこれに関連する様々なルールを外国法令やソフトローを含めてマッピングした上で，その課題対応のための戦略法務のあり方を議論しています。是非，ご参照いただければ幸いです。
この論稿では，戦略法務のステップとして，３つの取組を提案しておりますので，概要を報告します。
(1) 国際的に交錯・多様化・流動化するダイナミックなルールを分析・活用する「ダイナミック・コンプライアンス」
テクノロジーと人権日本国内の法規制は現時点では限定されているものの，国内法令を従前どおりに遵守するだけで課題の対応として十分とはいえません。外国法令やソフトローを含めると様々なルールが導入・強化されており，日本企業に対して影響を与え得ると共に，今後もルールが急速に変化していくことが予想されます。このようにダイナミックに形成されているルール形成プロセスを分析した上で，これを対応・活用していくことが，企業のリスク管理及び収益機会の実現双方の観点から重要です。私は，このような実務を「ダイナミック・コンプライアンス」と位置づけ，推奨しています 。
(2) 「ビジネスと人権」の観点からの人権ディー・ディリジェンス（DD）と苦情処理の実践と進化
AIやDPF等のテクノロジーが引き起こす社会問題への対応に関しては，倫理，公正競争，個別法令に基づく対応など様々な観点からの検討があり得ます。その中でも，私は，「ビジネスと人権」の観点からの対応を検討することが，グローバルな行動規範に基づく一貫性のある対応やリスクベース・アプローチに基づく効果的・効率的な対応を実現する観点から有益と考えています。
ただし，日本企業における従前と同様の人権DDを継続することでは十分といえず，①より広いステークホルダー・人権への影響を評価・対処すること，②自社の事業やバリューチェーンの下流も対象とした人権DDを実施すること，③PIA・AIAなど個別分野における影響評価の手法と連携するなど取組を進化させることが不可欠です。
AIは人間の指示を待つことなく自動的に機械学習を行い進化していく技術であることやDPFも不特定多数の様々なユーザーが参加することをふまえると，全てのトラブルを事前に防止することは困難です。そのため，事前の予防措置に加えて，事後的にステークホルダーからの問題提起・苦情申立に対し対応し，早期の是正を図っていく苦情処理メカニズムを整備することが特に重要です。
(3) 設計・開発段階に法務視点を組み込む「リーガル・バイ・デザイン」
技術・製品・サービスの設計・開発の段階から法務の視点を組みこみ，リスクを抑え込む「リーガル・バイ・デザイン」を実践することが有益です。ただし，ここでいう法務（リーガル）の視点とは，単に国内法令の遵守にとどまらず，上述のとおり，ダイナミックに形成されるルールへの対応や人権への影響の対処を含む広い意味でとらえる必要があります。
この取組にあたっては，①法務と技術の担当者間の対話・協働や②技術の改善・活用のための創意工夫が特に重要です。
AI・テクノロジーの進展はめまぐるくしく，本課題は法の空白域が大きく不確実性の高い分野ではありますが，企業のリスク管理を高度化すると共に，企業の事業展開や技術革新を積極的に推進する観点から，弊職も，常に学び続けながら，皆様のサポートに尽力してまいりたいと思います。
＜関連著作・活動＞
サイバーセキュリティ法務（商事法務 共編著 2021年）
デジタル・プラットフォーマーを巡る法的課題とその対応（会社法務A2Z 2020年8月号）
AI等のテクノロジーが及ぼす人権への影響と法務対応（Business Law Journal 2020年8月号）
第一東京弁護士会 民事介入暴力対策委員会 マネロン・サイバー研究小部会 副部会長
アセントロボティックス株式会社 社外監査役
リクルートホールディングス株式会社 サステナビリティ委員会 社外委員
ソフトバンク株式会社 ステークホルダーダイアローグ社外有識者
日本電気株式会社（NEC） ステークホルダーダイアローグ社外有識者
Comments