AIと刑法：アルゴリズムが責任の一部を負う可能性はあるか？

まず最初に明確にしておきたいのは、現在のオランダ法およびEU法の下では、アルゴリズムが犯罪の刑事責任を問われることはないということです。それは論外です。犯罪意思（メンス・レア）や法人格といった基本的な法的概念は、人間、そして特定の状況下では企業にのみ認められています。

しかし、このシンプルな答えは、はるかに複雑な議論の始まりに過ぎません。アルゴリズムの行動は、それを作成、展開、そして監督する人々の有罪、あるいは無罪を証明する上で、極めて重要な役割を果たしつつあります。

アルゴリズムは犯罪を犯す可能性があるか?

刑事法の文脈でAIについて語る場合、真の問題は、アルゴリズムが被告人の立場に立つことができるかどうかである。法律的に言えば、今日の答えは断固としてノーだ。どれほど高度なアルゴリズムであっても、裁判を受けるために必要な基本的な特性を欠いている。意識もなければ、差し押さえられるべき個人資産もなく、奪うべき自由もないのだ。

この法的現実により、焦点はツールからユーザーへと移らざるを得なくなります。高度なAIシステムを、高度に複雑でありながら、究極的には無生物である機器と考えると分かりやすいでしょう。自動運転車や自動化された工場の機械と似ています。機械が危害を加えた場合、法律は機械を訴追するのではなく、その背後にいる人間を捜査します。

法的人格と意図のハードル

刑法は、AIが満たすことのできない二つの柱、すなわち法的人格と犯罪意図の上に成り立っています。いかなる主体も訴追を受けるためには、法律によって「人」として認められなければなりません。「人」とは、自然人（人間）または法人（会社など）のいずれかを意味します。AIシステムはどちらのカテゴリーにも当てはまりません。

さらに重要な点として、ほとんどの重大犯罪では、犯罪意思（メンス・レア）の立証が必要です。これは、被告人が意図、認識、あるいは無謀といった特定の精神状態をもって行動したことを証明することです。アルゴリズムはコードとデータに基づいて動作するため、意図を形成したり、自身の行動の道徳的な不正を理解したりすることはありません。

根本的な困難は、システムが独立して選択し行動する能力から生じ、それによって人間の意図と結果として生じる危害の間に非人間的な主体が介入することになる。これは、刑法における責任帰属の従来のモデルを揺るがすものである。

端的に言うと、何世紀も前からある法的原則を自律技術に適用する上で、法律はいくつかの大きな障害に直面しています。以下の表は、その核心的な問題をまとめたものです。

アルゴリズムの刑事責任の現状

ご覧の通り、根本的な不一致があります。刑法の構造全体は人間の主体性に基づいて構築されていますが、AIにはそれが欠けているのです。

法的枠組みとしての帰属責任

つまり、アルゴリズム自体に責任を問うことはできないため、オランダ法は帰属責任の概念に頼る。これは、AIの行動に対する責任が人間または企業に割り当てられる、つまり帰属されることを意味する。この場合、AIの出力は、AIを制御する人間の行為または過失を示す重要な証拠となる。

このアプローチは革命的なものではありません。他の複雑な手段を用いて犯された犯罪に対する法の扱いをそのまま反映しています。例えば、企業が危険な欠陥製品を故意に販売し、それが傷害を引き起こした場合、製品自体ではなく、企業とその経営陣が責任を負うことになります。

この原則は、確立された法理と整合しています。この分野に携わる法律専門家にとって、既存の枠組みをしっかりと理解することが不可欠な出発点となります。オランダの刑事訴訟手続きに関する詳細なガイドは、これらの事件が捜査から判決に至るまでの過程を理解するための優れた入門書です。今求められているのは、新たな法律をゼロから作り出すことではなく、これらの実績ある原則を自律システムの特有の複雑さに適合させることです。

オランダ法はAIを利用した犯罪の責任をどのように割り当てているのか

アルゴリズム自体は裁判にかけられないため、オランダの法制度は、責任の所在を明確にするために、既存の人間中心の法理に頼っている。この目的のための主要な法的手段は、機能的責任の法理（functioneel daderschap）である。

この強力な原則により、裁判所は、状況を効果的に制御している限り、個人または会社が物理的に実行していない行為に対しても刑事責任を問うことができます。

こう考えてみてください。建設会社の社長は、現場にあるすべてのクレーンを自ら操作するわけではありません。しかし、社長が故意に故障したクレーンを使用するようオペレーターに指示し、事故が発生した場合、社長が責任を負うことになります。「クレーン」が高度なAIシステムである場合にも、同じ論理が当てはまります。焦点は、アルゴリズムが何をしたかではなく、それを引き起こした人間の判断に移ります。

これはAIを扱うすべての人にとって極めて重要な概念です。検察官がAIの有害な出力を個人または企業に直接結び付ける道筋を提供するからです。これは、アルゴリズムの「意図」を証明するという不可能な課題を巧みに回避し、代わりにそれを操作した人間の意図と過失に焦点を当てています。

機能的犯罪行為の2つのテスト

検察官が法廷で機能的犯罪実行を主張するには、2つの重要な基準を満たす必要があります。これらの基準は、個人または企業がAIを通じて行われた犯罪の「機能的」実行者としてみなされるかどうかを判断する柱となります。

1. 制御力（Beschikkingsmacht）：個人または企業は、AIの犯罪行為が行われるかどうかを決定する実際の権限を持っていたか？これは権限と監督に関するものであり、AIの動作ルールを設定したり、AIを停止させる能力を持ったり、AIの意思決定を導くパラメーターを定義したりする能力などが含まれます。

2. 受容（Aanvaarding）：個人または企業は、犯罪行為が発生するリスクを受容したか？重要なのは、これには直接的な意図は必要ないということである。有害な結果が生じる可能性があることを知っていながら、十分な安全対策を講じないことを意図的に選択した場合、受容とみなされる可能性がある。

制御と受容というこの二つの柱は、オランダ法が「アルゴリズムに部分的な責任はあるのか？」という問いに答える際の基盤となっている。答えは明確に「否」だが、アルゴリズムを制御する人間には全面的に責任が問われる可能性がある。

実際のシナリオ：自律型ドローンによる負傷

これを現実世界のシナリオに当てはめてみましょう。ある物流会社が自律型配送ドローン群を配備したと想像してみてください。AIナビゲーションシステムによって誘導されたドローンのうち1機が、混雑した広場の上空で故障し、重傷者を出したとします。

同社に対する訴訟を起こす検察官は、機能的犯罪行為の枠組みに大きく依存するだろう。

• 制御の証明：同社はドローン群を完全に制御できることを実証した。配送ルートの設定、ソフトウェアのアップデート管理、そしていつでもドローンを地上に停止させる「キルスイッチ」の保持など、すべて同社が担っていた。

• 受容の証明：同社が自社のAIの誤作動率が人口密度の高い都市部で5％であることを認識していたにもかかわらず、コスト削減のために導入を決定したことを示す証拠が明らかになる可能性がある。この既知のリスクにもかかわらずシステムを運用することで、同社は有害な結果が生じる可能性を事実上受け入れたことになる。

この原則によれば、企業が犯罪（例：過失による重傷害）の加害者となります。AIは単なる道具に過ぎず、企業がAIを導入し、適切な監督を行わなかったことが犯罪行為を構成します。

企業責任と重過失

この機能的犯罪行為の概念は、企業の刑事責任に直接適用されます。犯罪行為が合理的に組織に帰属する場合、組織は責任を問われる可能性があります。これは、企業のポリシー（あるいはその欠如）によって、AIを活用した犯罪が単に可能であるだけでなく、予見可能な環境が作り出されていた、重過失の場合によく当てはまります。

法的な原則は確立されているものの、AIへの適用はまだ発展途上にある。オランダでは、2025年現在、 AIシステムの自律的な意思決定のみによって引き起こされた損害に対する刑事責任を具体的に規定した判例は公表されていない。これは、法曹界が依然として技術の進歩に追いついていないことを示している。

今のところ、検察官はこれらの一般的な原則を適用し、AIを制御し、AIの不正行為の可能性を容認していた個人を責任追及しています。例えば、AIの無謀な操作による過失致死事件などがこれに該当します。オランダ法におけるAIの現状とその影響については、こちらをご覧ください。

弁護士にとって、この現実は、責任ある人間による監視とリスク管理への積極的なアプローチを示すこと、という一つの点に焦点を絞らせます。管理の欠如を証明すること、あるいは有害な結果が真に予見不可能であったと主張することが、こうした告発に対する弁護の中心となるでしょう。

EU AI法の刑事責任への影響

オランダの国内法である「機能的父親責任」は責任の所在を定める枠組みを提供しているが、より広範な取り組みである欧州連合の人工知能法によって状況は劇的に変化しつつある。これは単なる新たな規制ではなく、単一市場全体でAIシステムがどのように開発・展開されるかを統制するために設計された、包括的なリスクベースの枠組みである。

法律専門家や企業にとって、AI法の理解は極めて重要です。なぜなら、この法律は刑事責任に直接関わる新たなコンプライアンス義務を規定するからです。厳格な要件を遵守しなかった場合、検察官は過失または無謀さの強力な証拠としてこれを利用することができ、AIシステムが損害を引き起こした場合の刑事訴追の根拠となります。この法律は、損害への対応から、損害を事前に予防することへと議論を転換させます。

AI法は、AIシステムを安全性や基本的人権を侵害する可能性に基づいて分類し、明確な階層構造を定めています。この構造は、AI法と刑法の関連性を理解する鍵となります。

リスクカテゴリーを理解する

この法律の最も重大な影響は、その階層的なアプローチにあります。すべてのAIを同じように扱うのではなく、システムをカテゴリーに分類し、それぞれに異なる法的義務を課しています。

• 容認できないリスク：これらは、基本的人権を脅かす恐れが極めて高いとみなされ、全面的に禁止されているシステムです。例えば、政府が運営するソーシャルスコアリングシステムや、法執行機関による公共空間でのリアルタイム生体認証（ごく一部の例外を除く）などが挙げられます。

• 高リスク：これは刑事法において最も重要なカテゴリーです。重要インフラ、医療機器、そして特に法執行機関や司法行政といった機密性の高い分野で使用されるAIを対象としています。予測型警察ツールやAIを活用した量刑ソフトウェアは、まさにこのカテゴリーに分類されます。

• リスク限定：チャットボットなどのシステムは、透明性に関する義務が比較的緩やかです。ユーザーは、自分がAIとやり取りしていることを認識するだけで済みます。

• リスクが最小限：このカテゴリーには、スパムフィルターやビデオゲームのAIなど、規制がほとんどないほとんどのAIアプリケーションが含まれます。

「許容できないリスク」カテゴリーのシステムを導入することは、直接的な違反行為であり、それが損害につながった場合、過失致死罪で容易に立証される可能性があります。しかしながら、法廷闘争の焦点は、高リスクシステムにあります。

高リスクシステムと刑事過失

高リスクAIについては、この法律は法的注意基準として機能する厳格な要件を課しています。これらの義務は単なる提案ではなく、開発者と導入者にとっての必須の義務です。

高リスクシステムの主な要件には、偏りを防ぐための堅牢なデータ ガバナンス、完全な技術ドキュメント、ユーザーに対する完全な透明性、常に人間による監視が可能であることの保証、高いレベルの精度とサイバー セキュリティの維持などがあります。

ある企業が、訓練データに人種的偏見が含まれていないか適切に精査することなく、予測型警察アルゴリズムを導入したと想像してみてください。これは、AI法のデータガバナンス規則に明確に違反する行為です。もしこの偏向したシステムが不当逮捕につながり、それが実害を及ぼした場合、検察官は既に用意された論拠を持つことになります。検察官はAI法への不遵守を、企業が合理的な注意を払わなかった直接的な証拠として挙げることができるため、企業過失の立証がはるかに容易になります。

EU全域に適用される人工知能法は、2025年2月にオランダでも施行され、この法制度を根本的に変革しました。違反した場合、最大3,500万ユーロ、または年間売上高の7%に相当する巨額の行政罰金が科せられる可能性があります。オランダ政府は、顔認識エラーによる不当逮捕に見られる欠陥のあるAIに対する深刻な懸念を反映し、禁止されているシステムを特定し、段階的に廃止するよう組織に義務付けています。法学者が被告人がAI証拠に異議を申し立てる権利の拡大を提唱する中、この法律はより厳格な司法審査への道を開いています。これらの新しい規則の詳細については、施行されたAI法の禁止事項をご覧ください。

オランダの育児手当スキャンダルから学ぶ教訓

法理論は枠組みを与えてくれるものの、アルゴリズムの失敗が現実世界に及ぼす影響をこれほど如実に示す事例は、オランダの育児手当スキャンダル、通称「トスラーゲン事件」以外にない。この国家的危機は、単一の悪意ある人物によって引き起こされたのではなく、完全に制御不能に陥った不透明な自動化システムによって引き起こされた、組織的な不正義の痛ましい事例研究である。

このスキャンダルは、説明責任が「ブラックボックス」アルゴリズムの中に埋もれてしまうことで、どれほど甚大な人的被害が生じるかを明らかにしています。法務専門家にとって、これは、たとえ刑事訴追を受けなくても、自動化システムがいかに深刻な害をもたらし、私たちの制度に対する国民の信頼を揺るがす可能性があるかを示す、重要な教訓です。

アルゴリズムが何千人もの人々を誤って告発した方法

このスキャンダルの根底には、オランダ税関・関税庁が使用していた自己学習型アルゴリズムがありました。その任務は、育児手当の請求における潜在的な不正行為を検知することでした。目的は正当でしたが、システムの内部ロジックには深刻な欠陥があり、最終的には差別的なものでした。

このアルゴリズムは、本来無害なはずの基準に基づいて、何千もの家族を詐欺師として誤って判定し始めた。署名漏れといった些細な事務的なミスが、本格的な詐欺捜査の引き金となったのだ。その結果、2万6000世帯以上が数万ユーロの返済を命じられ、多くが経済的に破綻するという壊滅的な被害を受けた。

この事例は、AIがいかに不正義を増幅させる力を持っているかを明確に示しています。税務当局のアルゴリズムにおける差別的なパターンは、特定のグループを不当に標的にし、深刻な経済的・社会的損害をもたらしました。国民の強い抗議を受け、オランダ政府は2021年に「設計による非差別に関するハンドブック」を公表し、将来のAIシステムにおけるこうした偏見を未然に防ぐための対策を講じました。オランダの法律がAIにどのように適応しているかについての詳しい情報は、globallegalinsights.comをご覧ください。

透明性と説明責任における重大なギャップ

トーズラゲン事件は、自動意思決定の法的・倫理的監督におけるいくつかの重大な欠陥を露呈させた。これらの欠陥は、アルゴリズムの出力が、それを操作した人間の刑事責任を問われる可能性のある状況を理解する上で極めて重要である。

3 つの重要な失敗が目立ちました。

• 透明性の欠如：影響を受けた家族は、なぜ自分たちが問題視されたのか明確な理由を一切知らされなかった。システムはブラックボックスであり、家族がその結論に異議を唱えることは不可能だった。

• 人間の監視の欠如：アルゴリズムの決定はしばしば絶対的なものとして扱われた。自動化された不正判定に疑問を呈したり、覆したりする人間の職員が組織的に欠如していた。

• 有罪推定：システムが家族を特定した時点で、その家族は有罪と推定された。これにより立証責任が逆転し、目に見えない告発者に対して無罪を証明するという、不可能な闘いを強いられることになった。

このスキャンダルは、自動化システムが人生を変えるような決定を下す際に、「説明を受ける権利」は贅沢ではなく、正義の根幹を成す要素であることを、鮮やかに思い知らせるものでした。説明を受けなければ、意味のある控訴は不可能です。

For anyone facing such accusations, understanding the legal framework is paramount. The Dutch approach to fraud is complex, and the scandal underscores the need for expert guidance. Learn more about the Dutch legal approach to fraud and financial crime in our article.

余波：規制の推進

アルゴリズムが実際に裁判にかけられたわけではないものの、人的・政治的な影響は甚大だった。 2021年にはオランダ政府全体が辞任に追い込まれた。このスキャンダルは変革の強力な触媒となり、公共行政におけるAI利用に関するより厳格なガイドラインの策定に直接的な影響を与えた。

この事例は、たとえコード自体が刑事告発されなくても、欠陥のある偏向したシステムを無謀に導入すれば、組織全体の過失が蔓延した場合と同等の重大な結果を招く可能性があることを証明しました。この教訓的な事例は、EU AI法を含む欧州全域の規制に関する議論に影響を与え、将来のAI導入において透明性、公平性、そして人間による監視が最優先事項となることを目指しています。

AIが関与する場合の防御戦略

AIシステムの行為によって依頼人が刑事告訴に直面した場合、弁護士は困難な新たな世界に足を踏み入れることになります。従来の法的対応は根本的に見直す必要があります。堅実な弁護は、検察側の主張を人間の故意または過失で論破することに焦点を当てる必要があります。そして、それは多くの場合、アルゴリズム自身の自律性、そして時には予測不可能な性質に焦点を当てることを意味します。

検察官にとって最大の難関は、損害の直接の原因が複雑なアルゴリズムであった場合、人間が明確な犯罪意図（故意）を持っていたことを証明することである。まさにこの点が、弁護側にとって最大の突破口となる。弁護側の狙いは、人間にはAIの独立した意思決定に対する刑事責任を問われるだけの制御力や先見性があったわけではないことを示すことで、合理的な疑いを生じさせることにある。

ブラックボックス防御による意図への挑戦

最も有力な論拠の一つは、「ブラックボックス」弁護である。この戦略は、多くの高度なAIシステム、特に深層学習やニューラルネットワークに基づいて構築されたシステムは、本質的に不透明であるという事実に基づいている。その論拠は単純明快だ。システムを作成した人々が、システムが特定の結論に至った経緯を完全に説明できないのであれば、ユーザーが犯罪的な結果を予見し、意図していたとどうして期待できるだろうか？

この抗弁は、意図要件の核心に迫るものです。弁護士は、AIの有害な行為は予見不可能な突発的な行動、つまり一種のデジタル上の偶然の産物であり、計画された犯罪行為ではないと主張することができます。AIが複雑で自律的であればあるほど、この主張はより説得力を持つようになります。

この防御を機能させるには、適切な専門家の協力が絶対に必要です。

• デジタルフォレンジックの専門家：彼らはAIのコード、データログ、意思決定の過程を詳細に分析し、AIが想定される動作から逸脱した正確な箇所を特定することができます。

• AI倫理学者とコンピュータ科学者：これらの専門家は、特定のAIモデルに内在する予測不可能性について証言することができます。彼らは、なぜ「異常な」結果が被告の意思によるものではなく、技術的な不具合によるものだったのかを裁判所に説明することができます。

事件を予見不可能な故障と位置づけることで、弁護側は、有罪判決に必要な「罪の意識」が存在しないと効果的に主張できる。

制御の欠如または過失を証明する

もう一つの有効な戦略は、有効な支配権の欠如を主張することです。オランダの法的原則である機能的行為責任（ functioneel daderschap）の下では、責任を問われるには、被告が行為を制御する権限を有していたことが必要です。弁護側は、AIが稼働を開始した後は、被告の直接的な影響が及ばないほどの自律性をもって動作していたことを示すことで、この原則に反論することができます。

これには、システムがリアルタイムで学習・適応するように設計されており、その動作が流動的で完全に予測可能ではないことを示すことが含まれる可能性があります。弁護側の立場は、被告が直接指示することも合理的に阻止することもできない行動について、被告が責任を問われることはないということになります。

この弁護の核心は、人間の責任という物語から、テクノロジーの自律性という物語へと転換することである。被告人を加害者ではなく、システムの予測不可能な論理の犠牲者として捉え直すのだ。

AIの行動が刑事責任につながる可能性がある場合、堅牢なAIエージェントの安全対策を講じることは、重要な予防措置であるだけでなく、強力な弁護の重要な要素にもなります。こうした最先端の安全対策が実施されていたことを証明できれば、被告が有害な結果のリスクを無謀に受け入れたわけではないという主張を強力に裏付けることができます。

最終的に、たとえ技術的に複雑な事件であっても、公正な弁護を受ける権利は最優先されるべきです。被告人は、あらゆる人間中心の犯罪と同様に、基本的な保護を受ける権利を有しています。これらの基本原則をより広い文脈で理解するために、刑事事件における黙秘権と、それがオランダ法においてどのように適用されるかについて、さらに詳しく学ぶことができます。

AIを活用した企業のための実践的なコンプライアンスロードマップ

法理論を理解することは重要ですが、実際に強固なコンプライアンス体制を構築することは全く別の課題です。オランダおよびEU全体でAIを活用する企業にとって、刑事責任のリスクを管理する最善の方法は、積極的なガバナンスと、十分な準備を行ったことを示すことです。明確なロードマップが不可欠です。

これはイノベーションを阻害することではありません。企業、顧客、そして評判を守るための賢明な安全策を講じることです。強固な社内体制を構築することで、AIシステムが予期せぬ損害を引き起こした場合に、過失や無謀さを理由とする申し立てに対して強力な防御体制を構築することもできます。

AIガバナンス基盤の構築

まず最初に、明確な監督体制と説明責任体制を構築する必要があります。これは単なるITの問題ではなく、法務、コンプライアンス、経営陣からの全面的な支援を必要とする、事業の中核的な責任です。堅牢なAIガバナンスのベストプラクティスを採用することは、リスクを管理し、AIが合法かつ倫理的に展開されることを保証するための重要なステップです。

ガバナンス モデルは、いくつかの重要な柱に基づいて構築する必要があります。

• 人間による監視：重大な決定においては、最終決定権は人間が持つ必要があります。この人物またはチームは、介入したり、修正を加えたり、AIの提案を完全に覆したりするための権限と技術的なノウハウを備えている必要があります。

• 明確な責任分担：AIシステムの開発、データ収集、導入、継続的な監視に至るまで、あらゆる段階において誰が責任を負うのかを明確に定義する必要があります。曖昧な部分があると、重大な法的リスクが生じます。

• 定期的なアルゴリズム監査：企業の財務状況を監査するのと同じように、AIシステムも定期的に監査する必要があります。これらの監査は、パフォーマンス、公平性、およびEU AI法などの規則への準拠を確認するために、独立した第三者によって実施されるべきです。

説明可能性とデータの整合性を重視

システムの仕組みを説明できなければ、法廷で弁護することはできません。「ブラックボックス」問題は法的な大きな弱点であり、透明性を重視した設計が極めて重要です。

設計段階からの説明可能性は、譲ることのできない原則であるべきです。技術チームは、意思決定プロセスが文書化され、理解され、裁判官や規制当局といった非技術者にも説明できるようなシステムを構築しなければなりません。

すべては、モデルの学習に使用するデータから始まります。綿密なデータガバナンスは、アルゴリズムによる悪影響の大きな原因であるバイアスに対する最善の防御策です。データが高品質で関連性が高く、影響を受ける人々を適切に反映していることを確認してください。データの取得、クリーニング、処理のすべての手順を文書化し、明確な監査証跡を作成してください。この文書は、デューデリジェンスを実行したことの貴重な証拠となります。

EU AI法コンプライアンスチェックリスト

EU AI法は、特に高リスクシステムにおける積極的なリスク管理に重点を置いています。コンプライアンス戦略においては、安全性と公平性への継続的な取り組みを示す必要があります。

実用的なチェックリストには次の内容が含まれます。

1. リスク分類：貴社が使用するすべてのAIシステムを、法律で定められたリスクカテゴリーに従って正式に分類してください。

2. 影響評価：リスクの高いAIを導入する前に、データ保護影響評価（DPIA）および基本的人権影響評価（FRIA）を実施し、文書化してください。

3. 技術文書：規制当局から要求があった際にはいつでも提供できるよう、詳細かつ最新の技術文書を常に準備しておくこと。

4. 継続的なモニタリング：市場投入後のモニタリングプロセスを設定し、AIのパフォーマンスを監視し、導入後に発生する予期せぬリスクを捕捉します。

AIと刑事責任に関するよくある質問