【Human–AI Relations 領域11】AIと制度・法・ガバナンス・責任 ―― 正確さ・人間承認・説明だけで、制度判断は正当になるのか

【Human–AI Relations 領域11】AIと制度・法・ガバナンス・責任

―― 正確さ・人間承認・説明だけで、制度判断は正当になるのか

Human–AI Relations 監査インデックス β

領域11 / Domain 11

Institution・Law・Governance・Responsibility

Evidence Cutoff

2026年9月

Document Status

Publication Version

0. この領域で扱うもの

AIが個人の補助道具ではなく、

• 行政

• 司法・準司法

• 雇用

• 教育

• 福祉

• 医療

• 金融

• 保険

• プラットフォーム

• 公共サービス

• 組織内意思決定

などのInstitution（制度・組織的仕組み）へ組み込まれた場合を扱う。

中心となるのは、

• Law（法）

• Governance（ガバナンス）

• Responsibility（責任）

• Legitimacy（正当性）

• Procedural Justice（手続的公正）

• Contestability（異議申立て可能性）

• Accountability（説明・是正責任）

• Audit（監査）

• Assurance（保証・確信形成）

• Impact Assessment（影響評価）

である。

本領域の中心問いは単純である。

AIのAccuracy（精度）が高く、人間がHuman Approval（最終承認）を行い、Explanation（説明）も表示されているなら、その制度判断は正当だと言えるのか。

現時点の答えは、

それだけでは判断できない。

精度、人間による承認、説明はいずれも重要になり得る。

しかし、それらのいずれか一つから、

• Lawfulness（適法性）

• 手続的公正

• 異議申立て可能性

• 説明・是正責任

• 責任

• 正当性

を自動的に導くことはできない。

1. Core Question

制度的AIを監査するときの中心問いは、

AIがDecision（判断）へ関与したかどうか

だけではない。

より具体的には、

誰がGoal（目的）を設定したのか。
誰がSystem（システム）を選んだのか。
何が測定されたのか。
誰がThreshold（閾値）を決めたのか。
AIはPrediction（予測）、Ranking（順位付け）、Recommendation（推奨）、Execution（実行）のどこへ関与したのか。
誰が実際のDecision Formation（判断形成）を支配したのか。
誰がFormal Authority（正式な決定権限）を持ったのか。
影響を受けた人は判断を知り、理解し、訂正し、異議を申し立て、救済を求めることができるのか。
誤りが起きたとき誰が修正し、誰がどの種類の責任を負うのか。

である。

したがって、

という一文だけでは制度構造を十分に記述できない。

2. Core Principle

本領域の中心原則は、

Accuracy ≠ Legitimacy

である。

これは、

という意味ではない。

低い精度は、それ自体が重大な制度上の問題になり得る。

しかし、高い精度も、

• 適法な権限

• 適切な手続

• Equal Treatment（平等な取扱い）

• Rights Protection（権利保障）

• 異議申立て可能性

• Review（再検討）

• Remedy（救済）

• 説明・是正責任

の代替物ではない。

制度は単なる予測競争ではない。

3. Core Distinctions

Domain 11では、以下の非含意を維持する。

Accuracy ≠ Legitimacy

Fairness Metric（公平性指標） ≠ Justice（正義）

Fairness（公平性） ≠ Legal Compliance（法令適合）

Explanation ≠ Understanding（理解）

Explanation ≠ Contestability

Contestability ≠ Review ≠ Appeal（不服申立て） ≠ Remedy

Human Final Approval（人間による最終承認） ≠ Independent Human Judgment（独立した人間判断）

Human Review（人間による再検討） ≠ Effective Review（実効的な再検討）

Transparency（透明性） ≠ Accountability

Prediction ≠ Decision

Recommendation ≠ Authority（権限）

Execution ≠ Responsibility

Responsibility Assignment（責任の割当て） ≠ Actual Control（実際の統制）

Formal Right（形式上の権利） ≠ Effective Capacity（実効的能力）

Audit ≠ Verification（検証） ≠ Certification（認証） ≠ Assurance ≠ Impact Assessment

Standard（標準） ≠ Law

Certification ≠ Safety（安全）

Certification ≠ Fairness

Certification ≠ Legitimacy

これらの多くはConceptual Distinction（概念上の区別）であり、A〜FのEvidence Status（証拠状態）を機械的に付与しない。

4. Claim Type Boundary

特にDomain 11では、Claim Type（主張類型）の混同を避ける。

Conceptual Claim（概念的主張）

概念間の区別や非含意。

例：

Explanation ≠ Contestability

Descriptive / Empirical Claim（記述的・実証的主張）

実際に何が起きているか。

例：

特定の人間監督方式が介入成功率へ与えた影響。

Causal Claim（因果的主張）

何が何を変化させたか。

Normative Claim（規範的主張）

何をすべきか、何が望ましいか。

Legal Claim（法的主張）

特定のJurisdiction（法域）で何が権利・義務・禁止・手続として存在するか。

したがって、

とはならない。

逆に、

ともならない。

5. Legitimacyは一つではない

Legitimacy（正当性）という語を一つの結果へまとめない。

最低限、以下を分ける。

5.1 Legal Legitimacy / Lawfulness（法的正当性・適法性）

法的根拠、権限、手続、権利等に適合するか。

5.2 Normative / Procedural Legitimacy（規範的・手続的正当性）

判断過程が、公正、理由提示、参加、尊重等の観点から正当化できるか。

5.3 Democratic Legitimacy（民主的正当性）

公共的権限や政策が、民主的Mandate（付託）、Participation（参加）、Public Accountability（公共的説明責任）等へ接続しているか。

5.4 Sociological / Perceived Legitimacy（社会的・知覚された正当性）

人々が制度や判断を正当なものとして受容しているか。

これらは関連し得る。

しかし、

でも、

でもない。

6. Institutional Decision Map

制度的AIを、

という単純な直列構造では扱わない。

最低限、以下を監査する。

Mandate / Legal Basis（権限付与・法的根拠）

誰が何の権限で判断を行うのか。

Policy / Goal Setting（政策・目的設定）

何を達成・最適化しようとしているか。

Procurement / Vendor Selection（調達・ベンダー選定）

誰がシステムを選び、どの契約条件で導入したか。

System Design（システム設計）

何を入力とし、どのモデルを使用するか。

Threshold（閾値）

どこで分類やAction（措置）を分けるか。

Data（データ）

何が含まれ、何が除外されているか。

Classification / Prediction / Scoring（分類・予測・スコアリング）

システムが何を推定したか。

Presentation / Ranking / Recommendation（提示・順位付け・推奨）

その出力が人間へどう提示されたか。

Decision Formation（判断形成）

正式判断より前に、選択肢や認識がどのように形成されたか。

Human Review（人間による再検討）

人間がどの程度再評価できたか。

Formal Authority / Decision（正式権限・正式判断）

誰が法的・組織的な判断主体か。

Execution（実行）

誰が判断を実行したか。

Notice / Reasons（通知・理由提示）

Affected Person（影響を受ける人）へ判断と理由が知らされたか。

Correction / Objection（訂正・異議）

データや判断を訂正・challenge（争うこと）できるか。

Reconsideration / Appeal / Independent Review（再考・不服申立て・独立再審査）

別の判断経路へ進めるか。

Remedy（救済）

誤りやHarm（不利益・被害）をどこまで回復できるか。

Monitoring / Audit / Incident Learning / Revision（監視・監査・事故学習・改訂）

問題検出後に政策、システム、契約、手続を変更できるか。

これは一方向のStage Model（段階モデル）ではない。

複数のFeedback Loop（フィードバック・ループ）を持つ監査地図である。

7. Prediction ≠ Decision

AIがRisk（リスク）、Probability（確率）、Classification（分類）を出すことと、制度上の判断を行うことは別である。

予測は判断形成へ強いInfluence（影響）を与える場合がある。

しかし、

とは限らない。

逆に、

とも限らない。

CJEU C-634/21（SCHUFA）は、Credit Scoring（信用スコアリング）が後続判断で決定的役割を果たす場合、形式上の最終判断主体とは別に、自動化されたスコアリングの実質的役割が法的問題となり得ることを示した。[D11-S04]

8. Recommendation ≠ Authority

AIが措置を推奨しても、

そのAI自身が法的・組織的権限を持つとは限らない。

AuthorityとInfluenceを分ける。

9. Formal Decision ≠ Decision Formation

正式判断の署名者が人間であっても、

• Candidate Selection（候補選定）

• Ranking

• Evidence Summarization（証拠要約）

• Default Option（初期選択肢）

• Recommendation

• Risk Classification（リスク分類）

をAIが形成していた場合、

判断形成全体がHuman-led（人間主導）だったとは限らない。

Domain 0の、

• Authority

• Decision Formation

• Influence

• Execution

• Responsibility

をここでも分離する。

10. Human Final Approval ≠ Independent Human Judgment

人間による最終承認は重要になり得る。

しかし、最終承認が存在するだけでは、

Independent Human Judgment（独立した人間判断）

を立証できない。

特に、

• 時間不足

• Workload（作業負荷）

• Information Asymmetry（情報非対称）

• Automation Bias（自動化バイアス）

• Organizational Pressure（組織的圧力）

• AI Outputによる強いAnchoring（アンカリング）

• Override Authority（上書き権限）の不足

がある場合、人間は形式上の判断主体でも、実質的にはシステム推奨へ依存している可能性がある。[D11-S14][D11-S15]

11. Human Review ≠ Effective Review

人間による再検討の有無だけを評価しない。

少なくとも、

• Relevant Evidence（関連証拠）へアクセスできるか

• AIと独立した判断材料を持つか

• 必要なExpertise（専門知識）があるか

• 十分なTime（時間）があるか

• Override Authorityがあるか

• Organizational Pressureから一定の独立性があるか

を確認する。

これらは普遍的な十分条件ではない。

Audit Dimensions（監査上の評価軸）である。

2026年のComputer-Use Agent（コンピュータ操作エージェント）研究では、48人を対象に4種類のOversight Strategy（監督方式）を比較した結果、監督方式はProblematic Action（問題行動）へのExposure（遭遇）には影響したが、問題が見えた後のCorrection Ability（修正能力）を一貫して改善したわけではなかった。介入には、Decision-critical Moment（判断上重要な瞬間）が人間に判断対象として認識可能になることが重要だった。[D11-S16]

したがって、

である。

12. Automation Bias

EU AI Act（EU人工知能法）Article 14は、High-risk AI（高リスクAI）のHuman Oversight（人間による監督）において、自動化バイアスを認識できることを含む要求を置いている。[D11-S06]

しかし、

とは限らない。

Laux & Ruschemeierは、AI Act上のAutomation Bias規定を法的・学際的に分析し、Provider（提供者）側のAwareness（認識促進）措置だけでは、設計やDeployer Context（導入・利用側の運用環境）に由来する問題を十分扱えない可能性を論じている。[D11-S14]

これはDirect Empirical Study（直接実証研究）ではなく、Legal / Interdisciplinary Analysis（法学・学際的分析）として扱う。

EDPS（欧州データ保護監督機関）の2025年TechDispatchも、人間を判断過程へ追加するだけではより良い結果を保証せず、Meaningful / Effective Oversight（意味があり実効的な監督）には構造化された実装が必要だと整理している。[D11-S15]

13. Meaningful Human Control

Meaningful Human Control（意味ある人間の統制）は重要な概念群である。

ただしDomain 11では中心概念にしない。

これは、

• Autonomous Weapons（自律兵器）

• Autonomous Vehicles（自動運転・自律車両）

• Human Factors（ヒューマンファクター）

• AI Governance

• Institutional Decision Systems（制度的意思決定システム）

等で異なる文脈と定義を持つ。

一つのValidated Universal Measure（検証済み普遍尺度）として扱わない。

人間監督やOperational Control（運用上の統制）の詳細はDomain 10へ接続する。

14. Explanation ≠ Understanding

説明が提示されたことと、

影響を受ける人がその判断を理解できたことは別である。

Institutional Explanation（制度的説明）では、

• What was decided?（何が決定されたか）

• Why?（なぜか）

• Which data mattered?（どのデータが重要だったか）

• What rule applied?（どの規則が適用されたか）

• What can be corrected?（何を訂正できるか）

• Who can reconsider?（誰が再検討できるか）

• What is the next step?（次の手続は何か）

を分ける。

15. Explanation ≠ Model Transparency

Model Architecture（モデル構造）やFeature Importance（特徴量重要度）を公開しても、

影響を受ける人が、

を理解できるとは限らない。

Technical Transparency（技術的透明性）とProcedural Explanation（手続的説明）を分離する。

16. Explanation ≠ Contestability

説明を受けても、

• 入力訂正

• Objection（異議）

• Human Review

• Appeal

• Independent Review

• Reversal（判断取消し）

• Remedy

へ進めなければ、異議申立て可能性は限定的である。

逆に、

完全なSource Code（ソースコード）や数式の開示がなければ異議申立て可能性が一切成立しない、

とも一般化しない。

17. CJEU C-203/22 — Dun & Bradstreet

2025年2月27日のCJEU（欧州司法裁判所）C-203/22では、Automated Credit Assessment（自動信用評価）に関連して、GDPR Article 15(1)(h)の「meaningful information about the logic involved（関与する論理についての有意義な情報）」が問題となった。[D11-S05]

裁判所は、提供される説明がData Subject（データ主体）に自動化された判断を理解し、争うことを可能にするものでなければならないとした。[D11-S05]

複雑な数式自体を提示すれば足りるという構造ではない。

また、Trade Secret（営業秘密）等の第三者利益が関係する場合も、

とはならない。

必要に応じてCompetent Supervisory Authority（権限ある監督機関）やCourt（裁判所）を介した権利利益の調整が問題になる。[D11-S05]

したがって、

Trade Secret ≠ Absolute Bar to Meaningful Explanation

すなわち、

営業秘密の存在 ≠ 有意義な説明の全面的排除

である。

ただし、この判決をEU外へ普遍的な法的ルールとして一般化しない。

18. AI-generated Reasons

Generative AI（生成AI）やLLM（大規模言語モデル）が自然言語の理由を生成できることと、

その理由が実際の判断過程を反映していることは別である。

Plausible Explanation（もっともらしい説明） ≠ Faithful Explanation（実際の推論に忠実な説明）

さらに、

Faithful Explanation ≠ Legally Sufficient Reason（法的に十分な理由）

である。

Herrewijnen et al. (2026)は、LLM Self-explanation（LLMによる自己説明）について、Plausibility（もっともらしさ）が高くても、Underlying Reasoning（基礎となる推論）へのFaithfulness（忠実性）が確立しているとは限らないと整理している。[D11-S17]

ただし同論文はPosition Paper（立場を提示する論文）であり、

という一般命題の証拠にはしない。

制度判断でAI-generated Reason（AI生成理由）を使用する場合には、

• 実際のDecision Record（判断記録）との一致

• Data / Ruleとの対応

• Faithfulness

• Legal Sufficiency（法的十分性）

• Challenge可能性

を別々に確認する。

19. Contestability Architecture

Contestability（異議申立て可能性）を一つのButtonやUI Feature（利用画面上の機能）として扱わない。

少なくとも、

• Notice（通知）

• Relevant Information Access（関連情報へのアクセス）

• Opportunity to Respond（反論機会）

• Data Correction（データ訂正）

• Human Reconsideration（人間による再考）

• Appeal

• Independent Review

• Reversal Authority（取消権限）

• Time Limit（期限）

• Accessibility（利用可能性）

• Cost（費用）

• Representation（代理・支援）

• Procedural Burden（手続負担）

を見る。

20. Contestability ≠ Review ≠ Appeal ≠ Remedy

Contestability

判断やその根拠へ異議を唱えられるか。

Review

同じ、または別の判断主体が再検討できるか。

Appeal

上位または別の正式機関へ不服申立てできるか。

Remedy

誤判断や被害による不利益を実際に回復できるか。

これらを一つの「異議申立て制度」としてまとめない。

21. Formal Right ≠ Effective Capacity

法律や制度上Appeal Right（不服申立権）が存在しても、

• 費用が高い

• 時間がかかりすぎる

• Language Barrier（言語障壁）がある

• 証拠へアクセスできない

• Legal Complexity（法的複雑性）が高い

• Independent Review機関が実質的に機能しない

なら、実効性は限定される。

同様に、

• Audit Right（監査権）はあるがModel Accessがない

• Human Review義務はあるがStaffが足りない

• Regulator（規制機関）にAuthorityはあるがTechnical Capacity（技術的能力）が不足

という場合もある。

22. Remedy

救済をModel Correction（モデル修正）だけに限定しない。

制度的な被害への救済には場合によって、

• Decision Reversal（判断取消し）

• Record Correction（記録訂正）

• Rehearing（再審理）

• Service Restoration（サービス復旧）

• Compensation（補償）

• Reputation Repair（評判・信用の回復）

等が必要になる。

Domain 11における重要なResearch Gap（研究上の空白）は、

Formal ContestabilityからActual Remedy（実際の救済）までをEnd-to-End（端から端まで）で測定する研究

である。

23. Fairness Metric ≠ Justice

Machine Learning（機械学習）ではFairnessを複数の形式的Criterion（基準）として定義できる。

例：

• Demographic Parity（人口統計的均等）

• Equalized Odds（均等化オッズ）

• Calibration（較正）

• Individual Fairness（個人公平性）

しかし、これらは同じ「公平性」を測っているわけではない。

Kleinberg、Mullainathan、Raghavanは、一定条件下では主要なFairness Criteriaを同時に満たすことができないことを形式的に示した。[D11-S02]

ChouldechovaもRecidivism Risk Prediction（再犯リスク予測）において、異なるFairness Criteria間にTrade-off（両立困難）が生じることを示している。[D11-S03]

したがって、

とは言えない。

24. Fairness ≠ Legal Non-discrimination

統計的公平性指標を満たしても、

特定法域におけるAnti-discrimination Law（差別禁止法）へ適合したことを自動的には証明しない。

逆に、特定法令に適合したことから、

広い規範的意味でJusticeが成立したとも言えない。

Fairness Metric ≠ Justice ≠ Legal Compliance

を維持する。

25. Metric Choice is also Institutional Choice

どのFairness Criterionを採用するかはTechnical Choice（技術的選択）だけではない。

そこには、

• Policy Goal（政策目標）

• Baseline（基準線）

• Protected Interest（保護される利益）

• Error Cost（誤りのコスト）

• Resource Distribution（資源配分）

• Social Priority（社会的優先順位）

が関係する。

したがってMetric Selection（指標選択）自体も制度的ガバナンスの一部になり得る。

26. Transparency ≠ Accountability

Transparencyには、

• Model Documentation（モデル文書）

• Data Disclosure（データ開示）

• Decision Explanation（判断説明）

• Process Disclosure（手続開示）

• Audit Access（監査アクセス）

• Vendor Disclosure（ベンダー開示）

• Update History（更新履歴）

など複数種類がある。

これらを一語へ統合しない。

また、

大量の情報を公開したことから説明・是正責任が成立したとは言えない。

Accountabilityには少なくとも、

• Answerability（説明応答責任）

• Traceability（追跡可能性）

• Reviewability（再検討可能性）

• Correction（訂正）

• Sanction（制裁）

• Institutional Learning（制度的学習）

が関係する。

27. Audit ≠ Verification ≠ Certification ≠ Assurance ≠ Impact Assessment

Audit

基準や手続へ照らした評価。

Verification

特定要求や仕様を満たしているかの確認。

Certification

Conformity Assessment Scheme（適合性評価制度）に基づく適合性認証。

Assurance

利害関係者がシステムや手続について一定の確信を持つためのEvidence（証拠）、Argument（論証）、Process（手続）。

Impact Assessment

システムの導入・利用が人・集団・組織・社会へ与える影響を評価する手続。

これらは重なることがある。

しかし同義ではない。

28. Governance ≠ Documentation

• Policy

• Model Card

• Risk Register

• Impact Assessment

• Audit Report

が存在することと、

Operational Decision Process（実際の判断運用）が変化したことは別である。

Documentation（文書化） ≠ Operational Effect（運用上の効果）

である。

29. Impact Assessment

Impact Assessmentを実施したことから、

とは言えない。

確認すべきなのは、

• Scope（対象範囲）

• Timing（実施時期）

• Independence（独立性）

• Public Access（公開性）

• Mitigation（緩和措置）

• Monitoring（監視）

• Update Trigger（再評価条件）

• Follow-up（事後対応）

である。

ISO/IEC 42005:2025はAI System Impact Assessment（AIシステム影響評価）に関するInternational Standard（国際標準）として2025年にPublished（発行）された。[D11-S11]

ただし、

とはならない。

30. Certification

ISO/IEC 42006:2025は、AI Management Systems（AIマネジメントシステム）をAudit / Certify（監査・認証）する機関に対する要求事項を定めるPublished International Standard（発行済み国際標準）である。[D11-S12]

Certificationは、

Specified Requirements（定められた要求事項）へのConformity（適合）

に関する制度である。

Certificationそのものから、

• Safety

• Justice

• Legal Compliance

• Legitimacy

全体を推論しない。

31. Human Oversight Standard

ISO/IEC 42105「Guidance for human oversight of AI systems（AIシステムの人間監督に関する指針）」は、2026年9月時点ではFinal Draft International Standard（最終国際規格案、FDIS）であり、Under Development（策定中）、Stage 50.20である。[D11-S13]

したがって、

とはまだ書かない。

Published Standard ≠ FDIS

である。

32. Standard ≠ Law

ISO、IEC、NIST等のStandard / Framework（標準・枠組み）はガバナンス資源として重要である。

しかし通常、

Standard ≠ Binding Law（拘束力ある法）

である。

特定法域でStandardが法令へ参照・組込みされる場合は、そのLegal Effect（法的効力）を個別に確認する。

33. Vendor / Providerは制度の外部ではない

制度的AIでは、

• Model Provider（モデル提供者）

• System Vendor（システム販売・提供者）

• Integrator（統合事業者）

• Cloud Provider（クラウド提供者）

• Data Provider（データ提供者）

• Deployer（導入・利用主体）

• Procuring Institution（調達機関）

等が判断環境を形成する。

したがって、

AI Providerを単なる外部の技術供給者として扱わない。

34. Procurement as Governance

InstitutionがどのAI Systemを、

どの契約条件で導入するかはガバナンスそのものである。

最低限、

• Audit Rights（監査権）

• Logging Access（ログへのアクセス）

• Model Access（モデルへのアクセス）

• Data Access（データへのアクセス）

• Update Notification（更新通知）

• Change Control（変更管理）

• Interoperability（相互運用性）

• Termination Rights（契約終了権）

• Liability（法的責任）

• Exit Strategy（撤退戦略）

を確認する。

35. Vendor Self-disclosureの限界

Kuehnert et al. (2026)はPublic-sector AI Procurement（公共部門AI調達）におけるVendor Self-reporting（ベンダー自己申告）を研究し、Documentation-based Self-disclosure（文書による自己開示）だけをStandalone Vetting Tool（単独の審査手段）として用いることには限界があると論じている。[D11-S18]

これは、

という普遍的な実証主張を支持しない。

安全な結論は、

Vendor Self-disclosure alone may be insufficient for robust procurement evaluation.

すなわち、

ベンダーの自己開示だけでは、十分な調達審査にならない場合がある。

である。

36. Vendor Dependence

AI Providerが継続的に、

• Model Update（モデル更新）

• API変更

• Safety Policy変更

• Service Termination（サービス終了）

• Pricing変更

を行える場合、

制度の判断環境も外部Actor（主体）によって変化し得る。

したがって、

とは限らない。

Continuous Model Update（継続的モデル更新）はAI-specific Governance Extension（AI固有のガバナンス拡張）として重要である。

37. Algorithmic Supply Chain

Institutional AIを一Actor Model（単一主体モデル）で評価しない。

各Actorについて、

• Information

• Authority

• Control

• Incentives（誘因）

• Responsibility

を分ける。

VendorとDeployerの契約上の責任分配と、

影響を受ける人に対する法的責任が一致するとも限らない。

38. Responsibilityは一種類ではない

最低限、

Legal Responsibility（法的責任）

Professional Responsibility（専門職責任）

Organizational Responsibility（組織的責任）

Moral Responsibility（道徳的責任）

Political / Democratic Responsibility（政治的・民主的責任）

Causal Contribution（因果的寄与）

を分ける。

39. Execution ≠ Responsibility

AIがActionを実行したからといって、

AIだけが責任を負うわけではない。

逆に、人間が最終ボタンを押したことから、

全責任をその人間へ集約することもできない。

Operational Control ≠ Legal Liability（法的責任）

Responsibility Assignment ≠ Causal Contribution

である。

40. Moral Crumple Zone

Automation Failure（自動化システムの失敗）後にHuman Operator（人間オペレーター）へ過度に責任が集中する現象を分析するMoral Crumple Zone（道徳的クラッシャブルゾーン）は、STS / Critical Lens（科学技術社会論・批判的視角）として有用である。

ただし、

という法的ルールではない。

個別責任は事案、権限、統制、義務、法制度等に依存する。

41. EU AI Act

EU AI Act、Regulation (EU) 2024/1689はEUのBinding Regulation（拘束力ある規則）である。[D11-S06]

ただし適用は一度に全面開始されたわけではない。

2026年のRegulation (EU) 2026/1744、Digital Omnibus on AI（AIデジタル・オムニバス）により、実施Timeline（適用時期）の一部が変更された。[D11-S07]

したがって、

という表現は避ける。

個別の法的主張ごとに、

• System Category（システム区分）

• Intended Purpose（意図された用途）

• Provider / Deployer Role

• Relevant Provision（関連条文）

• Application Date（適用日）

を確認する。

42. EU AI Act ≠ Empirical Proof of Good Governance

EU AI ActがHuman Oversight、Risk Management（リスク管理）、Transparency等を要求していることはLegal Fact（法的事実）である。[D11-S06]

しかし、

とはならない。

Legal Requirement（法的要求）とEmpirical Effectiveness（実証的有効性）を分離する。

43. GDPR Article 22とAutomated Decision-Making

GDPR（EU一般データ保護規則）では、一定のSolely Automated Decision（完全自動化された判断）でLegal Effect（法的効果）またはSimilarly Significant Effect（同程度に重大な影響）を生むProcessing（処理）についてArticle 22が重要になる。[D11-S04][D11-S05]

ただし、

• Human involvementが存在すれば常にArticle 22外

• ScoreがFormal DecisionでなければArticle 22と無関係

とは単純化しない。

判例では、判断形成における自動化処理の実質的役割が問題になる。[D11-S04]

44. CJEU C-634/21 — SCHUFA

CJEU C-634/21は、Credit Score（信用スコア）が第三者によるCredit Decision（信用判断）で決定的役割を果たす場合のGDPR Article 22との関係について重要な判例である。[D11-S04]

CJEUは、Scoring（スコアリング）が後続する第三者判断に強く用いられる構造について、Automated Individual Decision-making（自動化された個人判断）の問題を認めた。[D11-S04]

この判例は、

Prediction ≠ Formal Decision

であっても、

Prediction can materially shape Decision Formation

すなわち、

予測は正式判断でなくても、判断形成を実質的に左右し得る

ことをEU法の文脈で示す重要例である。

EU法域外へそのまま一般化しない。

45. Council of Europe Framework Convention

Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law（欧州評議会「人工知能と人権、民主主義及び法の支配に関する枠組条約」）、CETS No.225は2024年9月5日に署名開放された。[D11-S08]

2026年9月時点では、発効条件である5 Ratifications / Approvals（批准・承認）、そのうち少なくとも3つのCouncil of Europe Member States（欧州評議会加盟国）という条件を満たしておらず、Entry into Force（発効）には至っていない。[D11-S08]

日本は2025年2月11日に署名しているが、Evidence Cutoff時点でRatification（批准）は記録されていない。[D11-S08]

EUについては2026年5月15日にInstrument of Approval（承認文書）が寄託されている。[D11-S08]

したがって、

Signed ≠ Approved / Ratified ≠ In Force

を維持する。

46. Human Rights

「Human Rights（人権）」という抽象語だけをEvidenceとして使わない。

記載する場合には、

• Source（法源）

• Jurisdiction / Treaty Status（法域・条約状態）

• Specific Right（具体的権利）

• Affected Actor（影響を受ける主体）

• Applicability（適用可能性）

• Remedy

を明示する。

47. Public-sector AI

Public-sector AI（公共部門AI）では特に、

• Legal Basis

• Administrative Procedure（行政手続）

• Equality（平等）

• Due Process（適正手続）

• Fundamental Rights（基本権）

• Reviewability

• Judicial Review（司法審査）

• Remedy

が問題になる。

公共部門AIとPrivate-sector AI（民間部門AI）を完全に同じガバナンスモデルへ統合しない。

48. Private-sector Institutional Power

一方、

• Employment

• Credit

• Insurance

• Platform Access

• Essential Services（不可欠なサービス）

ではPrivate Actor（民間主体）も大きな制度的Power（権力・影響力）を持ち得る。

したがって、

とも言えない。

49. Error Asymmetry

制度的判断ではFalse Positive（偽陽性）とFalse Negative（偽陰性）のCost（損失）が大きく異なる場合がある。

したがってAverage Accuracy（平均精度）だけでは不十分である。

例えば、

• Fraud Detection（不正検出）

• Benefit Eligibility（給付資格判定）

• Child Welfare（児童福祉）

• Criminal Risk Assessment（犯罪・再犯リスク評価）

では、どのErrorを減らすかがDistributional Choice（分配上の選択）と接続する。

50. Scale

Automation（自動化）は判断処理量を増加させ得る。

それはBenefit（便益）にもなり得る。

しかし、

Small Error Rate × Massive Scale

すなわち、

小さな誤り率 × 大規模運用

によって、絶対数として大きな被害が生じる場合もある。

Error Rate（誤り率）とAbsolute Harm（被害の絶対量）を分ける。

51. Standardization

Algorithmic System（アルゴリズムシステム）は判断のConsistency（一貫性）を高める可能性がある。

これは、

• Human Fatigue（人間の疲労）

• Arbitrary Variation（恣意的ばらつき）

• Inconsistency（不整合）

を減らす場合には便益になり得る。

したがって、本稿は、

という前提を採用しない。

52. Human Discretion

逆にHuman Judgment（人間判断）には、

• Contextual Judgment（文脈的判断）

• Exception Handling（例外処理）

• Tacit Knowledge（暗黙知）

の価値がある一方、

• Bias（偏り）

• Inconsistency

• Fatigue

• Corruption（腐敗）

• Unequal Treatment（不平等な取扱い）

も生じ得る。

したがって、

とも置かない。

比較対象は理想化された人間ではなく、実際の制度的判断過程である。

53. Political Persuasion

AI-generated Political Communication（AI生成政治コミュニケーション）がIndividual Attitude（個人の態度）を変化させ得るDirect Evidence（直接証拠）は存在する。

2025年のNature研究は、米国・カナダ・ポーランド等のElection Context（選挙文脈）を含む事前登録実験で、LLMとの対話がCandidate Preference（候補者選好）等へ影響し得ることを報告した。[D11-S19]

ただし、

は別々の段階である。

本稿はElection Outcome（選挙結果）を予測しない。

54. Persuasion ≠ Democratic Legitimacy

人を説得できることと、

そのPersuasion（説得）が民主的に正当であることは別である。

分けるべきものは、

• Persuasion Effectiveness（説得効果）

• Accuracy of Information（情報の正確性）

• Disclosure（開示）

• Consent（同意）

• Manipulation（操作）

• Democratic Legitimacy

である。

55. AI-mediated Deliberation

AIが、

• Argument Summarization（議論要約）

• Translation（翻訳）

• Perspective Bridging（視点間の橋渡し）

• Common-ground Extraction（共通基盤の抽出）

• Consensus Facilitation（合意形成支援）

を支援できる可能性はある。

しかし、

Common Ground（共通基盤） ≠ Consensus（合意）

Consensus ≠ Democratic Legitimacy

Reduced Conflict（対立減少） ≠ Better Governance（より良いガバナンス）

である。

Minority Voice（少数者の発言）、Agenda Setting（議題設定）、Representation（代表性）、Accountabilityを別に評価する。

56. Classical Theory — Weber

Max Weber（マックス・ウェーバー）のBureaucracy（官僚制）、Rationalization（合理化）、Legal-rational Authority（合法的支配）はHistorical / Sociological Lens（歴史的・社会学的視角）として利用できる。

特に、

形式的一貫性、計算可能性、行政効率が、

それだけでSubstantive Legitimacy（実質的正当性）を確立しない、

という問題を考える補助線になる。

ただし、

とはしない。

Direct AI Evidenceでもない。

57. Classical Theory — Rawls

John Rawls（ジョン・ロールズ）のProcedural Justice分類はNormative / Philosophical Prior Art（規範的・哲学的先行概念）として利用できる。

ただし、

という類推は採用しない。

形式的な統計基準と、手続的・実質的正義の理論は別である。

58. Classical Theory — Hirschman

Albert O. Hirschman（アルバート・O・ハーシュマン）のExit / Voice / Loyalty（離脱・発言・忠誠）はContestabilityを考えるInstitutional Lens（制度的視角）として有用である。

特に、公的制度や不可欠なサービスのようにExit（離脱）が困難な環境では、Voice（発言）の制度設計上の重要性を考える助けになる。

ただし、

Voice ≠ Contestability

である。

異議申立て可能性には、

• Correction

• Review

• Appeal

• Remedy

等も含まれる。

59. Classical Theory — Habermas

Jürgen Habermas（ユルゲン・ハーバーマス）のPublic Sphere（公共圏） / Deliberative Democracy（討議民主主義）はPolitical / Democratic Legitimacyを考えるNormative Lens（規範的視角）として利用できる。

しかし、

とはしない。

AI-mediated Deliberation（AI媒介型熟議）の効果はDirect AI Evidenceで別途検証する。

60. Existing Research Traditions

Domain 11では少なくとも以下を優先する。

• Administrative Law（行政法）

• Constitutional / Human Rights Law（憲法・人権法）

• Procedural Justice

• Public Administration（行政学）

• Regulatory Governance（規制ガバナンス）

• Organizational Accountability（組織的説明責任）

• Science and Technology Studies（科学技術社会論、STS）

• Sociotechnical Systems（社会技術システム）

• Human Factors

• Algorithmic Accountability（アルゴリズム説明責任）

• Algorithmic Fairness（アルゴリズム公平性）

• Anti-discrimination Research（差別禁止研究）

• Audit / Assurance

• Impact Assessment

• Procurement Governance（調達ガバナンス）

• Political Communication（政治コミュニケーション）

• Democratic Theory（民主主義理論）

61. Existing-Theory-First

Legitimacy

既存理論で中核的区別の大部分を扱える。

AI-specific Extension（AI固有の拡張）は有用。

Procedural Justice

既存研究伝統で中核構造を扱える。

Contestability

既存理論で部分的に扱える。

Opacity（不透明性）、Scale（規模）、Vendor Access（ベンダーアクセス）、Synthetic Explanation（合成的説明）等にはAI固有の拡張が有用。

Accountability

既存理論で部分的に扱える。

Algorithmic Supply Chain（アルゴリズム供給連鎖）への拡張が重要。

Responsibility

既存の法的・組織的・道徳的研究伝統で部分的に扱える。

Algorithmic Fairness

既存の数学的・法的研究伝統で中核的警告を扱える。

Justiceへの対応づけは規範的問題である。

AI Governance

既存理論で部分的に扱える。

Continuous Update（継続更新）、Foundation Model Provider（基盤モデル提供者）、Agentic Execution（エージェント的実行）等には拡張が必要。

AI-mediated Deliberation

AI固有の直接証拠が必要。

Audit / Assurance

既存研究伝統が大部分を提供できる。

62. New Theory?

現時点の判定は、

New Comprehensive Institutional AI Theory：No

である。

Domain 11で確認された問題の大部分は、

• Law

• Administrative Procedure

• Procedural Justice

• Public Administration

• Accountability

• Audit

• Organizational Theory

• Sociotechnical Governance

によって分析可能である。

AI固有の拡張が特に必要なのは、

• Foundation Model Supply Chains（基盤モデル供給連鎖）

• General-purpose AI（汎用AI）

• Rapid Model Updates（急速なモデル更新）

• Synthetic Explanations（合成的説明）

• Vendor-mediated Governance（ベンダー媒介型ガバナンス）

• Agentic Execution（エージェント的実行）

• Continuous Audit Object Change（継続的に変化する監査対象）

• Multi-Agent Institutional Decision（複数AIによる制度判断）

である。

これらの存在だけから新しい包括理論の必要性を導かない。

63. Counterevidence

本稿は、

AI bad / Human good

という構図を採用しない。

反対方向の証拠として常に、

• AI StandardizationがHuman Inconsistencyを減らす場合

• AutomationがAdministrative Burden（行政負担）を減らす場合

• ExplanationがUnderstandingを改善する場合

• Human Override（人間による上書き）がAlgorithmより悪い判断を生む場合

• AI Mediation（AIによる仲介）がCommon Groundを改善する場合

を考慮する。

同時に、

AI good / Human obsolete

という構図も採用しない。

64. Evidence Architecture

Existing Research Tradition（既存研究伝統）

既存のLaw、Public Administration、Human Factors等。

Direct AI-Specific Evidence（AI固有の直接証拠）

AI / LLM / Algorithmic Systemを直接扱う研究。

Adjacent Evidence（隣接証拠）

Classic Automation、Decision Support、Audit等。

Interpretive Inference（解釈的推論）

既存Theoryを現在のAI Contextへ適用する推論。

これらを混在させない。

65. Evidence Status

Empirical Claimについてのみ原則として、

A — Established within stated scope

対象範囲内で確立

B — Direct empirical support

直接実証支持

C — Indirect / theory-consistent support

間接的・理論整合的支持

D — Plausible / untested inference

妥当そうだが未検証の推論

E — Insufficient / indeterminate

証拠不足・判定不能

F — Contradicted

反証されている

を用いる。

Evidence不足はFではない。

Conceptual Non-entailment（概念上の非含意）やLegal FactへA〜Fを機械適用しない。

66. Legal Claim Protocol

Legal Claimには最低限、

• Jurisdiction

• Source Type（法源・資料種別）

• Legal Effect

• Effective Date（施行・適用日）

• Application Scope（適用範囲）

• Regulated Actor（規制対象主体）

• Current Status（現在の法的状態）

を確認する。

特に、

Binding Law ≠ Official Guidance（公的指針）

Official Guidance ≠ Standard

Standard ≠ Proposal（提案）

Proposal ≠ Legal Obligation（法的義務）

である。

67. What We Can Say Now

2026年9月時点で比較的安全に言えること。

1.

高いPredictive Accuracy（予測精度）だけでは、法的・手続的・規範的・民主的正当性を確立できない。

2.

AccuracyはInstitutional Performance（制度的性能）の重要なDimension（側面）であり得る。

3.

Prediction、Recommendation、Authority、Decision、Executionは分析上分離すべきである。

4.

PredictionやRankingが正式判断ではなくても、判断形成へ大きな影響を持つ場合がある。[D11-S04]

5.

Human Final ApprovalだけではIndependent Human Judgmentを確立できない。

6.

Human Reviewの効果は、Authority、Time、Information、Expertise、Interface（インターフェース）、Organizational Context（組織環境）等に依存する。[D11-S14][D11-S15][D11-S16]

7.

複数のStatistical Fairness Criteria（統計的公平性基準）にはTrade-offがあり、一つのMetric ComplianceだけではJusticeまたはLegal Non-discriminationを確立できない。[D11-S02][D11-S03]

8.

ExplanationとContestabilityは別の制度機能である。

9.

Contestability、Review、Appeal、Remedyは分離すべきである。

10.

Trade Secretの存在だけで、EU GDPR上必要となるMeaningful Informationを全面的に拒否できるとは限らない。[D11-S05]

11.

TransparencyだけではAccountabilityを確立できない。

12.

Audit、Verification、Certification、Assurance、Impact Assessmentは同義ではない。

13.

ResponsibilityをExecutionまたはOperational Controlだけから推論することはできない。

14.

Procurement、Vendor Contract（ベンダー契約）、Provider Access（提供者への依存・アクセス条件）等はInstitutional Governance Capacity（制度的ガバナンス能力）へ影響し得る。[D11-S18]

15.

Political Persuasion（政治的説得）、Agreement（合意）、Perceived Fairness（知覚された公平性）、Democratic Legitimacyは別のOutcomeである。[D11-S19]

68. What We Cannot Say Yet

現時点のEvidence（証拠）から、以下を一般命題として支持することはできない。

• 高精度なAIであれば、その判断は正当である。

• 制度的正当性を考えるうえで、Accuracy（精度）は重要ではない。

• 特定のFairness Metric（公平性指標）を満たせば、Justice（正義）が成立する。

• 特定の公平性指標を満たせば、法的な差別禁止要件への適合が証明される。

• Explanation（説明）があれば、Contestability（異議申立て可能性）が保証される。

• 異議申立てのためには、常に完全なModel Explanation（モデル説明）が必要である。

• Human Approval（人間による承認）があれば、人間主導の意思決定である。

• Human Reviewer（人間の再検討者）は一般にAI判断をそのまま追認する。

• Human Discretion（人間の裁量）は一般にアルゴリズム判断より公平である。

• Transparency（透明性）があればAccountability（説明・是正責任）が成立する。

• Audit（監査）を実施すれば、安全性、公平性、適法性、正当性が保証される。

• ISO等の国際標準へ適合すれば、法令適合も自動的に証明される。

• Meaningful Human Control（意味ある人間の統制）は、あらゆる制度的AIへ適用できる普遍的なガバナンス尺度である。

• AIによる政治的説得が有効であれば、民主主義も改善する。

• AIを介した合意形成が成立すれば、Democratic Legitimacy（民主的正当性）も成立する。

• Responsibility（責任）はOperational Control（運用上の統制）の程度に比例する。

• AIの導入は必然的にResponsibility Gap（責任の空白）を生む。

• LLMによるSelf-explanation（自己説明）は一般に実際の推論へ忠実ではないことが確立している。

• AI調達は一般にVendor（ベンダー）を十分評価できないまま行われている。

• Posthumous AI（死後AI）には、世界のどの法域にも法的枠組みが存在しない。

• 国際条約へ署名した時点で、その条約は当該国に対してすでに法的効力を持つ。

これらの一部は特定条件下で成立する可能性がある。

しかし、Population（対象集団）、Jurisdiction（法域）、System Type（システム種別）、Institutional Context（制度環境）、Human Role（人間の役割）、Time Horizon（時間軸）を限定せずに一般化することはできない。

69. Boundary Conditions

制度的AIに関するClaim（主張）を比較・評価するときには、最低限以下のBoundary Conditions（境界条件）を明示する。

Institution（制度主体）

Public（公共）、Private（民間）、Hybrid（混合）のどれか。

同じAI利用でも、行政機関と民間企業ではAuthority（権限）、Rights（権利）、Review（再検討）、Remedy（救済）の構造が異なる。

Jurisdiction（法域）

どの国・地域・法制度を扱っているか。

EU法上のRequirement（要求）を、そのままGlobal Rule（世界共通ルール）として扱わない。

Decision Domain（判断領域）

Employment（雇用）、Credit（信用）、Welfare（福祉）、Justice（司法）、Education（教育）、Healthcare（医療）等。

同じScoring（スコアリング）でも、不利益の性質や法的保護は領域によって異なる。

AI Function（AIの機能）

• Classification（分類）

• Prediction（予測）

• Scoring（スコアリング）

• Ranking（順位付け）

• Recommendation（推奨）

• Generation（生成）

• Execution（実行）

のどこへAIが関与しているか。

Human Role（人間の役割）

Reviewer（再検討者）、Decision Maker（判断主体）、Operator（運用者）、Approver（承認者）等。

人間が存在することだけでなく、実際に何ができるかを確認する。

Affected Subject（影響を受ける主体）

誰が判断の影響を受けるか。

Citizen（市民）、Worker（労働者）、Patient（患者）、Consumer（消費者）等を区別する。

Outcome（評価結果）

何を測っているのか。

• Accuracy（精度）

• Error（誤り）

• Fairness（公平性）

• Trust（信頼）

• Contestability（異議申立て可能性）

• Remedy（救済）

• Legitimacy（正当性）

を一つのOutcomeへまとめない。

Legal Status（法的状態）

どの法令・規則・判例・条約・指針が、いつ、誰へ適用されるか。

Vendor Structure（ベンダー構造）

誰がModel（モデル）、Infrastructure（基盤）、Update（更新）、Access（アクセス権）をControl（統制）しているか。

Scale（規模）

一件の判断なのか、数百万件へ適用される制度なのか。

同じError Rate（誤り率）でもAbsolute Harm（被害の絶対量）は異なる。

Reversibility（可逆性）

判断をどこまで取り消し、元の状態へ戻せるか。

Contestability Path（異議申立て経路）

通知から訂正、再検討、不服申立てまで、どの経路が実際に利用可能か。

Remedy Path（救済経路）

誤った判断による不利益を、どの主体が、どの手続で、どこまで回復できるか。

70. Research Gaps

2026年9月時点で特に重要なResearch Gap（研究上の空白）は以下である。

Effective Contestability（実効的な異議申立て可能性）

形式上の異議申立権があるかではなく、

Notice（通知）
→ Objection（異議）
→ Review（再検討）
→ Appeal（不服申立て）
→ Correction（訂正）
→ Remedy（救済）

までが実際に機能するかをEnd-to-End（端から端まで）で測定する研究が不足している。

Human Review Independence（人間による再検討の独立性）

人間が形式的に関与している場合と、AIとは独立した判断を実際に形成できている場合を分けて測る必要がある。

Vendor Supply Chain Responsibility（ベンダー供給連鎖における責任）

Foundation Model Provider（基盤モデル提供者）、Integrator（統合事業者）、Deployer（導入・利用主体）等の間で、

• Authority

• Information

• Control

• Contractual Responsibility（契約上の責任）

• Legal Responsibility（法的責任）

がどのように分配されるか。

Continuous Model Update（継続的モデル更新）

導入後もModelが更新され続ける場合、

監査したSystemと現在運用されているSystemが同一とは限らない。

Audit Object（監査対象）そのものが継続的に変化する制度をどう監督するかは重要な課題である。

AI-generated Reason Faithfulness（AI生成理由の忠実性）

AIが生成した説明と、

• 実際のDecision Basis（判断根拠）

• Data

• Applied Rule

• Internal Reasoning

がどの程度対応するか。

Plausibility（もっともらしさ）とFaithfulness（忠実性）を分けて検証する必要がある。

Institutional Learning（制度的学習）

Incident（事故・問題事象）発生後に、

• Report（報告）

• Investigation（調査）

• Correction（訂正）

• Compensation（補償）

• Policy Revision（政策改訂）

• System Redesign（システム再設計）

まで進められるか。

単なるIncident Logging（事象記録）だけでは制度的学習は成立しない。

Remedy Effectiveness（救済の実効性）

判断を訂正できたかだけでなく、

実際に受けた不利益がどこまで回復されたかを測定する必要がある。

AI-mediated Democracy（AI媒介型民主主義）

短期的なAttitude Change（態度変化）、Agreement（合意）、Perceived Fairness（知覚された公平性）を超えて、

長期的なParticipation（参加）、Representation（代表性）、Political Behavior（政治行動）、Institutional Legitimacy（制度的正当性）へどのような影響が生じるか。

Multi-Agent Institutional Systems（複数AIによる制度システム）

複数のAI / Agent（エージェント）が、

Prediction
→ Recommendation
→ Decision Formation
→ Execution

を分担する場合、Traceability（追跡可能性）とResponsibility（責任）をどのように維持するか。

Posthumous / Absent-person AI（死後・不在者AI）

死亡者や意思表示不能者を模倣・代理するAIについて、

• Consent（同意）

• Representation（代理・表象）

• Identity（アイデンティティ）

• Rights（権利）

• Family Interest（家族利益）

• Provider Control（提供者による統制）

• Termination（停止・終了）

をどのように扱うか。

71. Cross-Domain Connections

Domain 11は他の領域と強く接続する。

Domain 0 — Cross-Domain Audit Protocol

Authority（権限）、Decision Formation（判断形成）、Influence（影響）、Execution（実行）、Responsibility（責任）の基本監査規格。

Domain 2 — Decision Formation

Prediction（予測）、Recommendation（推奨）、Human Judgment（人間判断）の関係。

Domain 3 — Trust / Reliance

Trust（信頼）、Reliance（依存・利用）、Automation Bias（自動化バイアス）。

Domain 4 — Communication / Mediation

Explanation（説明）、Communication（コミュニケーション）、Mediation（仲介）、Common Ground（共通基盤）。

Domain 6 — Mental Health

Clinical Responsibility（臨床責任）、Mental Health Governance（メンタルヘルス・ガバナンス）。

Domain 7 — Care

Supported Decision-Making（支援付き意思決定）、Consent（同意）、Rights（権利）。

Domain 8 — Accessibility

Accessibility Rights（アクセシビリティ上の権利）、Effective Access（実効的アクセス）。

Domain 9 — Work

Algorithmic Management（アルゴリズム管理）、Worker Voice（労働者の発言）、Contestability。

Domain 10 — Oversight / Safety / Control

Human Oversight（人間による監督）、Operational Control（運用上の統制）、Safety（安全）、Responsibility。

Domain 12 — Finance

Credit（信用）、Insurance（保険）、Scoring（スコアリング）、Consumer Contestability（消費者の異議申立て可能性）。

72. Propagation Risks

Domain 11で概念を混同すると、その誤りは複数Domainへ波及する。

特に危険なのは以下である。

Legitimacy（正当性）の未分化

Legal、Procedural、Democratic、Sociologicalな正当性を一語へまとめると、Domain 0、3、4、11、12へ誤りが波及する。

Fairness Metric = Justice

統計的公平性をJusticeと同一視すると、Domain 6、9、11、12の評価を誤る。

Explanation = Contestability

説明の存在を異議申立て可能性と同一視すると、Domain 2、3、4、6、11、12へ影響する。

Appeal = Remedy

不服申立て制度の存在を実際の救済と同一視すると、Domain 6、7、9、11、12へ影響する。

Human Approval = Human Judgment

人間の最終承認を独立した人間判断とみなすと、Domain 0、2、3、9、10、11、12へ波及する。

Responsibility = Control

実際の統制量と責任を単純比例させると、Domain 0、9、10、11、12でActor間の責任構造を誤る。

Standard = Law

標準、指針、法令の区別を失うと、法的言及を持つ全Domainへ影響する。

Agreement = Legitimacy

合意形成や対立減少を民主的正当性とみなすと、Domain 4および11の政治・熟議部分を誤る。

73. Source Ledger

Source Ledger（出典台帳）は検索性・再検証性を優先するため、文献名・制度名・Source Type等は原語表記を基本とする。

[D11-S01] Procedural Justice Tradition

Tyler, T. R.
Why People Obey the Law.
1990 / subsequent editions.

Source Type: Social psychology / procedural justice
Evidence Role: Existing Research Tradition
Supports: OutcomeだけでなくProcessがInstitutional Evaluationへ関係するという基盤。
Does Not Support: AI System固有の合法性・有効性。

[D11-S02] Kleinberg, Mullainathan & Raghavan

Kleinberg, J., Mullainathan, S., & Raghavan, M.
“Inherent Trade-Offs in the Fair Determination of Risk Scores.”
ITCS 2017.
DOI: 10.4230/LIPIcs.ITCS.2017.43.

Source Type: Formal / algorithmic fairness
Evidence Layer: Existing / algorithmic
Supports: 複数Fairness Criteriaが一般に同時達成不能となる条件。
Does Not Support: どのFairness Criterionを規範的に選ぶべきか。

[D11-S03] Chouldechova

Chouldechova, A.
“Fair Prediction with Disparate Impact: A Study of Bias in Recidivism Prediction Instruments.”
Big Data 5(2), 153–163, 2017.
DOI: 10.1089/big.2016.0047.

Source Type: Algorithmic fairness / risk scoring
Supports: Base-rate difference等の条件下でFairness Criteria間にTrade-offが生じる。
Does Not Support: Fairness MetricからJustice / Legal Complianceへの直接推論。

[D11-S04] CJEU C-634/21 — SCHUFA

Court of Justice of the European Union.
Case C-634/21, SCHUFA Holding (Scoring).
Judgment: 7 December 2023.

Jurisdiction: EU
Source Type: Case Law
Legal Effect: Binding interpretation of EU law within scope
Supports: Credit Scoringが後続Decisionで決定的役割を果たす場合のGDPR Article 22との関係。
Does Not Support: 全Risk Scoreが自動的にArticle 22 Decisionとなること。

[D11-S05] CJEU C-203/22 — Dun & Bradstreet Austria

Court of Justice of the European Union.
Case C-203/22.
Judgment: 27 February 2025.

Jurisdiction: EU
Source Type: Case Law
Legal Effect: Binding interpretation of EU law within scope
Supports: Automated DecisionについてData Subjectが理解・ChallengeできるMeaningful Information、Trade SecretとAccess Rightsの調整。
Does Not Support: Source Codeや完全な数学的Modelの一般的開示義務。

[D11-S06] EU Artificial Intelligence Act

Regulation (EU) 2024/1689.

Jurisdiction: EU
Source Type: Regulation
Legal Effect: Binding
Supports: Risk-based AI Regulation、Provider / Deployer obligations、Human Oversight等。
Does Not Support: Regulationの存在それ自体がEmpirical Effectivenessを証明すること。

[D11-S07] Digital Omnibus on AI

Regulation (EU) 2026/1744 of the European Parliament and of the Council of 8 July 2026.

Jurisdiction: EU
Source Type: Regulation
Status: In force
CELEX: 32026R1744
Supports: Regulation (EU) 2024/1689等の2026年実施Timeline・ルール修正。
Does Not Support: AI Act全義務が単一日付で一律適用されること。

[D11-S08] Council of Europe Framework Convention

Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law.
CETS No.225.

Source Type: International Treaty
Opened for Signature: 5 September 2024
Status, Sep 2026: Entry-into-force threshold not yet met
Japan: Signed 11 February 2025; no ratification recorded at cutoff
EU: Instrument of approval deposited 15 May 2026
Supports: International governance framework concerning AI, human rights, democracy and rule of law.
Does Not Support: Binding treaty obligations already applying to every signatory.

[D11-S09] NIST AI RMF 1.0

National Institute of Standards and Technology.
Artificial Intelligence Risk Management Framework (AI RMF 1.0).
2023.

Source Type: Voluntary Framework
Legal Effect: Non-binding unless incorporated elsewhere
Supports: AI Risk Governance reference architecture.
Does Not Support: US or global legal obligation.

[D11-S10] ISO/IEC 42001:2023

Information technology — Artificial intelligence — Management system.

Source Type: International Standard
Legal Effect: Normally voluntary
Supports: AI Management System framework.
Does Not Support: Automatic legal compliance or AI System safety.

[D11-S11] ISO/IEC 42005:2025

Information technology — Artificial intelligence — AI system impact assessment.

Source Type: International Standard
Status: Published
Supports: AI System Impact Assessment process.
Does Not Support: Completion of assessment means Harm was prevented.

[D11-S12] ISO/IEC 42006:2025

Information technology — Artificial intelligence — Requirements for bodies providing audit and certification of artificial intelligence management systems.

Source Type: International Standard
Status: Published
Supports: Requirements for AIMS audit / certification bodies.
Does Not Support: Certification proves overall Safety / Legitimacy.

[D11-S13] ISO/IEC FDIS 42105

Information technology — Artificial intelligence — Guidance for human oversight of AI systems.

Status at Evidence Cutoff: FDIS / Under development / Stage 50.20
Supports: Emerging standardization of Human Oversight guidance.
Does Not Support: Treating 42105 as an already published International Standard.

[D11-S14] Laux & Ruschemeier

Laux, J., & Ruschemeier, H.
“Automation Bias in the AI Act: On the Legal Implications of Attempting to De-Bias Human Oversight of AI.”
European Journal of Risk Regulation, 2025.

Source Type: Legal / interdisciplinary analysis
Evidence Layer: Existing law + adjacent behavioral research
Supports: AI ActのAutomation Bias要求とProvider / Deployer Contextの問題。
Does Not Support: 自身がAutomation Biasを実証したDirect Empirical Studyであること。

[D11-S15] EDPS TechDispatch #2/2025

European Data Protection Supervisor.
“Human Oversight of Automated Decision-Making.”
TechDispatch #2/2025.

Source Type: Official institutional / technical-policy synthesis
Supports: HumanをProcessへ置くだけではBetter Outcomeを保証せず、Meaningful / Effective Oversightには構造化が必要。
Does Not Support: Universal empirical effect size or legal interpretation.

[D11-S16] Chen et al.

Chen, C. et al.
“Comparing Human Oversight Strategies for Computer-Use Agents.”
2026.
arXiv:2604.04918.

Design: Mixed-methods study
N: 48 participants
System: LLM-powered computer-use agents
Evidence Status: B within studied setting
Supports: Oversight StrategyはProblematic Action exposureへ影響したが、Visible ProblemのCorrection Abilityを一貫して改善せず、Decision-critical MomentのLegibilityが重要。
Does Not Support: 全Institutional AIで同じ効果が生じること。

[D11-S17] Herrewijnen et al.

Herrewijnen, E., Muscato, B., Gezici, G., & Giannotti, F.
“From Plausible to Actionable: A Position on LLM Self-Explanations.”
2026.
arXiv:2607.15957.

Source Type: Position Paper
Supports: Plausibility、Faithfulness、Actionabilityを分けて評価する必要性。
Does Not Support: LLM Self-explanationsが普遍的にUnfaithfulであるとの実証的一般化。

[D11-S18] Kuehnert et al.

Kuehnert, B., Johnson, N., Dotan, R., & Heidari, H.
“Disclosure or Marketing? Analyzing the Efficacy of Vendor Self-reports for Vetting Public-sector AI.”
2026.
arXiv:2604.01332.

Source Type: Public-sector procurement / governance research
Supports: Vendor Self-reportingだけをPublic-sector AI vettingへ用いることの限界。
Does Not Support: 全政府機関が「blind buying」しているとの普遍命題。

[D11-S19] AI Political Persuasion

“Persuading voters using human–artificial intelligence dialogues.”
Nature, 2025.

Design: Pre-registered randomized experiments
Contexts: United States, Canada, Poland and ballot-measure setting
Supports: AI dialogueがCandidate / Political Preferenceへ影響し得ること。
Does Not Support: Aggregate Election Outcome、Democratic Legitimacy、長期Political Behaviorへの一般化。

74. Existing-Theory-First Final Judgment

Domain 11の中心問題の大部分は、

• Administrative Law（行政法）

• Procedural Justice（手続的公正）

• Public Administration（行政学）

• Accountability（説明・是正責任）

• Human Rights（人権）

• Audit / Assurance（監査・保証）

• Organizational Theory（組織理論）

• Sociotechnical Governance（社会技術的ガバナンス）

の既存研究伝統によって扱うことができる。

一方、AI固有の拡張が有用なのは、

• Foundation Model Supply Chain（基盤モデル供給連鎖）

• Vendor-mediated Governance（ベンダー媒介型ガバナンス）

• Rapid Model Update（急速なモデル更新）

• General-purpose Models（汎用モデル）

• Synthetic Explanation（合成的説明）

• Agentic Execution（エージェント的実行）

• Continuous Audit（継続監査）

• Multi-Agent Decision Formation（複数AIによる判断形成）

である。

したがって現時点では、

Existing Theory Mostly Sufficient; AI-specific Extension Useful

すなわち、

既存理論で概ね十分だが、AI固有の拡張は有用

と判定する。

新しい包括的なInstitutional AI Theory（制度的AI理論）は提案しない。

75. Final Assessment

Domain 11で最も危険な短絡は、

という連鎖である。

これは成立しない。

同様に、

とも言えない。

さらに、

という連鎖も成立しない。

制度的AIを監査するときには、

• Mandate（権限付与）

• Legal Basis（法的根拠）

• Policy（政策）

• Procurement（調達）

• Vendor（ベンダー）

• Data（データ）

• Model（モデル）

• Threshold（閾値）

• Prediction（予測）

• Ranking（順位付け）

• Recommendation（推奨）

• Decision Formation（判断形成）

• Human Review（人間による再検討）

• Formal Authority（正式権限）

• Execution（実行）

• Notice（通知）

• Explanation（説明）

• Correction（訂正）

• Contestability（異議申立て可能性）

• Review（再検討）

• Appeal（不服申立て）

• Remedy（救済）

• Audit（監査）

• Responsibility（責任）

• Institutional Learning（制度的学習）

を、相互に接続された関係構造として見る必要がある。

最終的な監査単位は、

Institution（制度）
× Jurisdiction（法域）
× Policy Goal（政策目標）
× Procurement（調達）
× Vendor / Provider（ベンダー・提供者）
× AI / System（AI・システム）
× Data（データ）
× Decision Function（判断機能）
× Human Role（人間の役割）
× Authority（権限）
× Affected Subject（影響を受ける主体）
× Contestability（異議申立て可能性）
× Remedy（救済）
× Responsibility（責任）
× Legal Status（法的状態）
× Time（時間）

である。

本領域の中心原則を最後にもう一度固定する。

Accuracy ≠ Legitimacy

すなわち、

精度 ≠ 正当性

である。

しかし同時に、

Accuracy is not irrelevant.

すなわち、

精度は正当性そのものではないが、無関係でもない。

制度の質は一つのScore（単一指標）へ還元できない。

精度、権限、判断形成、手続、公平性、異議申立て可能性、救済、説明・是正責任、責任、正当性は、それぞれ別個に監査されなければならない。

Publication Status

Publication Version

Evidence Cutoff

2026年9月

今後、以下に重大な変化があった場合にはSource Status（出典状態）を再監査する。

• EU AI Actおよび関連Case Law（判例）

• Council of Europe CETS No.225のRatification（批准・承認）およびEntry into Force（発効）

• ISO/IEC 42105のPublication（正式発行）

• Agentic AI（エージェント型AI）のInstitutional Deployment（制度導入）

• AI-generated Reason（AI生成理由）のFaithfulness

• Effective Contestability / Remedyの実証研究

• Foundation Model Supply Chain

• Multi-Agent Institutional Decision