欧州AI法は2025年2月2日に大幅な改正を導入し、 AIの実践 EU全域で違法。 オランダの企業 企業は今後、どの AI システムを使用できるかについて厳格な規則に従わなければなりません。

禁止された AI ツールを削除しない企業は、多額の罰金を科せられ、被害を受けた人から法的措置を受ける可能性があります。

2025年2月現在、オランダでは、人を操作したり、ソーシャルスコアリングを使用したり、生体認証データに基づいて個人を分類したり、公共の場でリアルタイムの顔認識を使用したりするためのAIシステムが禁止されています。 これらの禁止事項には、職場や学校での感情認識技術や、認識データベースを構築するためにインターネットから顔画像を無差別に収集することも含まれます。

これらの規則は即時適用され、企業にはこれらのシステムを段階的に廃止するための猶予期間はありません。罰金を回避するには、どのようなAI活動が禁止されているか、そして組織がどのような措置を講じなければならないかを理解することが不可欠です。

このガイドでは、具体的な禁止事項を説明し、 コンプライアンス義務 オランダの企業として、新法の下で事業を合法的に運営するために必要なトレーニング要件を網羅しています。

2025年2月の禁止措置の概要

規則（EU）2024/1689、通称 EUAI法は、2025年2月2日に施行された特定の人工知能の実践に関する具体的な禁止事項を導入しました。これらの規則は、オランダの企業が開発、展開、または使用する場合に適用されます。 AIシステムオランダ国内またはより広範な欧州連合内。

禁止されるAI活動の範囲

AI法は、基本的人権および欧州の価値観に容認できないリスクをもたらす特定のAI行為を禁止しています。規則(EU) 2024/1689の第5条では、これらの禁止行為は、技術そのものではなく、潜在的な危害に基づいて特定されています。

主な禁止カテゴリは次のとおりです:

• 操作型AIシステム 特定のグループの脆弱性を悪用する
• ソーシャルスコアリングシステム 公的機関による
• リアルタイム遠隔生体認証 公共の場で 法律 執行（限定的な例外あり）
• 生体認証分類システム 敏感な属性を推測する
• 非標的スクレイピング インターネットや監視カメラの映像からの顔画像

オランダでAIプロバイダー、デプロイヤー、ディストリビューターとして事業を展開しているかどうかにかかわらず、あなたの事業はこれらの禁止事項の対象となります。オランダデータ保護局は、他の欧州連合（EU）の執行機関と協力して、コンプライアンスの確保に努めて​​います。

違反した場合は、全世界の年間売上高の最大 7% の罰金が科せられます。

発効日と移行期間

第 5 条に基づく禁止事項は、2025 年 2 月 2 日より適用されます。つまり、関連する AI システムを使用または開発する場合、企業はこれらの規則に直ちに従う必要があります。

施行の枠組みは段階的に実施されます。罰則、ガバナンス体制、および機密保持規定は、2025年8月2日から施行されます。

これにより、組織には規則が適用される6か月間の猶予が与えられますが、完全な執行メカニズムはまだ構築されていません。欧州委員会は、これらの禁止事項が実際にどのように機能するかを明確にするための公式ガイドラインを2025年2月4日に発表しました。

オランダのデータ保護当局を含む市場監視当局は、2月の開始日からこれらの規則の監視と施行の責任を負うことになった。

主要な定義: AIシステムと実践

AI法では、 AIシステム 機械学習、ロジックベースのアプローチ、または統計的手法を用いて予測、推奨、意思決定などの出力を生成するソフトウェアを意味します。この定義は、既存の技術と新興技術の両方を網羅するために意図的に広範に設定されています。

A 禁止されているAI実践 欧州連合（EU）が容認できないと判断した人工知能の導入または使用の特定の方法を指します。この禁止は、その実践自体に適用され、基盤となる技術には適用されません。

つまり、同じAIシステムを許可された用途で使用しながらも、特定の用途では使用を禁止される可能性があるということです。企業は、AIシステム（テクノロジー）とその運用（使用方法）を区別する必要があります。

顔認識AIシステムは、建物のアクセス制御には適法である可能性があるものの、公共空間におけるリアルタイム監視には禁止されている可能性があります。規則(EU) 2024/1689に基づく合法性は、状況と用途によって決まります。

禁止されているAI実践の詳細なリスト

EU AI法は、基本的な権利と安全に対して容認できないリスクをもたらす特定のAIアプリケーションを禁止しています。これらの禁止行為は、主に3つのカテゴリーに分類されます。人間の行動を操作するシステム、 脆弱なグループを搾取する、ソーシャルスコアリングを通じて大量監視を可能にするメカニズム。

操作的かつ欺瞞的なシステム

AI法は、人間の行動を著しく歪めて危害を及ぼすようなサブリミナル技術を用いるあらゆるAIシステムを禁止しています。これらの手法は、人間の意識を超えて作用し、意思決定や行動に影響を与えるものです。

禁止されている操作行為には次のようなものがあります:

• 検知できない潜在意識の要素を展開するAIシステム
• 子供の加齢に伴う脆弱性を悪用するように設計されたシステム
• 行動を操作して身体的または心理的危害を与える技術

AIを使って意図的に 人を騙す 次のような方法で 重大な害つまり、AI の性質についてユーザーを誤解させるようなチャットボットや仮想アシスタントを導入すると、損害が発生する可能性があるということです。

この禁止は、ダークパターンや心理操作を用いてユーザーに有害な選択を迫るAIシステムにも適用される。 法律 合理的な意思決定を回避する AI の実践から個人を保護します。

AI システムが透明な情報ではなく隠れた操作を通じて行動に影響を与える場合、それは法律に違反します。

弱い立場の人々の搾取

年齢、障害、社会的・経済的状況に関連する脆弱性を悪用するAIシステムは厳しく禁止されています。操作を理解したり抵抗したりする能力のない人々を不当に利用するためにAIを利用することはできません。

この禁止措置は、子供の経験不足や高齢者の認知機能低下を狙ったAIを対象としています。企業は、身体的または精神的な障害を悪用して行動を操作するシステムを導入することはできません。

経済的な困窮や社会的孤立を食い物にする AI もこの禁止事項に該当します。

保護対象となる脆弱なグループには次のものが含まれます。

• 子供および未成年者
• 認知障害のある高齢者
• 身体または精神に障害のある人
• 経済的困難に直面している個人

この禁止事項は、AIシステムが悪用を通じて重大な危害を引き起こす、または引き起こす可能性がある場合に適用されます。AIアプリケーションが脆弱な立場にある人々を不当に標的にする可能性がないかどうかを評価する必要があります。

ソーシャルスコアリングと行動プロファイリング

AI法は、人間をその能力に基づいて評価したり分類したりするAIシステムを禁止している。 社会的行動 または個人の特性。不公平な扱いや危害につながるようなソーシャルスコアリングの仕組みは使用しないでください。

ソーシャルスコアリングとは、個人の行動、人間関係、あるいは予測される行動に基づいて評価を行うことです。これにより、サービス、機会、権利へのアクセスを決定するプロファイルが作成されます。

禁止されているソーシャルスコアリングアクティビティには次のものが含まれます。

• 社会的または職業的行動に基づいて国民を評価する
• 個人データから信頼性スコアを作成する
• プロファイリングに基づく犯罪行動の予測
• 行動評価に基づいてサービスを拒否する

医療、教育、雇用、金融サービスを受けるか否かを決定するスコアを付与するAIシステムを実装することはできません。この禁止事項は、これらのシステムを公的機関として運用するか民間企業として運用するかに関わらず適用されます。

リアルタイムリモート バイオメトリック識別 公共の場での行為も、法執行機関による限定的な例外を除き、厳しく禁止されています。

生体認証、顔認識、感情AIの禁止

EUのAI法は、次のようなリスクをもたらすいくつかの種類の生体認証および顔認識システムを禁止している。 基本的権利これらの禁止事項は、オランダの企業が 生体認証データ、顔認識データベース、感情認識ツール、公共空間でのリアルタイム識別システムなどです。

生体認証の分類とデータの使用

生体認証データに基づいて人を分類し、人種、政治的意見、労働組合への加入状況、宗教的信念、性的指向を推測するAIシステムを使用することはできません。この禁止事項は、これらのシステムを市場に投入、サービス提供、または特定の目的で使用する場合に適用されます。

この禁止措置は、 繊細な推論 生体認証分析による個人に関する情報の収集。違反した場合、企業は全世界の年間売上高の最大7%の罰金を科せられる可能性があります。

このルールには例外が1つあります。法執行機関のコンテキストにおける生体認証データに基づいて、合法的に取得された画像などの生体認証データセットにラベルを付けたり、フィルタリングしたりすることは可能です。

法執行機関以外では、こうした分類行為は完全に禁止されています。

顔認識技術への制限

インターネットやCCTV映像から顔画像を無差別にスクレイピングすることで、顔認識データベースを作成または拡張することはできません。この禁止事項は2025年2月2日に施行されました。

この禁止が適用されるには、次の 4 つの条件が満たされている必要があります。

• この業務には、AIシステムの設置、サービス、または使用が含まれます
• 目的は顔認識データベースを作成または拡張することです
• この方法は、顔画像の無作為なスクレイピングを使用する。
• データソースはインターネットまたはCCTV映像です

キーワードは「非標的型」です。顔画像を広範囲かつ無差別に収集することはできません。

つまり、特定の対象基準なしに、顔を自動的にスクレイピングして認識データベースを構築するカメラをスーパーマーケットや公共エリアに配置することはできません。

雇用と教育における感情認識

職場や教育機関において、AIシステムを用いて人々の感情を推測することはできません。この禁止措置は、感情検出ツールの導入を検討している人事部、学校、研修施設に直接影響を及ぼします。

この禁止事項は、特定の状況下で感情状態を読み取ったり解釈したりするために設計されたあらゆるAIシステムに適用されます。顔分析、音声パターン認識、その他の生体認証指標を使用するかどうかは関係ありません。

例外が1つあります。感情認識AIは、医療または安全目的であれば使用できます。

たとえば、安全上の理由からドライバーの注意力を監視したり、医療現場で患者の苦痛を検出したりすることが、この例外の対象となる場合があります。

遠隔生体認証の限界

厳密に定義された状況を除き、法執行目的で公共のアクセス可能な場所でリアルタイム遠隔生体認証システムを使用することはできません。これらの例外には、誘拐や人身売買の被害者の捜索、差し迫った生命の脅威やテロ攻撃の防止、懲役4年以上の重大犯罪の容疑者の捜索などが含まれます。

使用ごとに 事前承認 から 司法権 または独立行政法人。緊急の場合は許可なく使用を開始できますが、24時間以内に承認申請を行う必要があります。

当局が許可を拒否した場合、直ちにシステムの使用を中止し、すべてのデータを削除する必要があります。オランダは、これらの例外について、国内法の範囲内で独自の詳細な規則を定める場合があります。

企業は、それぞれの利用について、関連する市場監視当局および各国のデータ保護当局に通知する必要があります。加盟国は、リアルタイム遠隔生体認証の利用状況に関する年次報告書を欧州委員会に提出しています。

オランダ企業のコンプライアンス義務

オランダ企業は、禁止されているシステムを特定し、運用から排除し、適切な文書を維持することで、AIコンプライアンスを達成するための具体的な措置を講じる必要があります。 オランダDPA オランダデジタルインフラ庁はこれらの要件を施行し、違反に対しては重い罰則を科すことになります。

業務内で禁止されているAIを特定する

新しい規則に違反する可能性のあるAIシステムを特定するには、組織全体で徹底的なリスク評価を実施する必要があります。これは、操作技術を使用する、脆弱性を悪用する、ソーシャルスコアリングを実装する、公共の場でリアルタイムの生体認証を行うといったあらゆるテクノロジーを調査することを意味します。

まず、現在使用されているすべてのAIシステムのインベントリを作成します。各システムの動作、データ処理方法、そして影響を受ける人々を文書化します。

顧客、従業員、または一般の人々とやり取りするシステムには特に注意を払ってください。リスク評価では、システムが基本的人権を侵害する可能性があるかどうかを評価する必要があります。

これには、AIシステムが人々の行動、個人特性、または社会的つながりに基づいて判断を下していないかを確認することが含まれます。透明性を欠いたまま個人を追跡またはプロファイリングするシステムは、直ちに見直しが必要です。

技術チームと協力して、各AIシステムの動作を理解しましょう。ベンダーの説明だけに頼ることはできません。

オランダのデータ保護当局は、システムを構築したか、第三者から購入したかに関係なく、コンプライアンスの責任はユーザーにあることを明確にしています。

禁止されたAIシステムの段階的廃止または削除

禁止されているAI行為の使用を直ちに中止してください。法律では禁止されたシステムに対して猶予期間は認められていません。

リスク評価で禁止行為が特定された場合は、直ちに無効化する必要があります。技術的影響と運用上の影響の両方を考慮した削除計画を策定してください。

一部のシステムは、より大規模なプラットフォームに組み込まれていたり、複数のプロセスに接続されていたりする場合があります。禁止されている要素を削除しても、重要なビジネス機能に支障をきたさないことを確認する必要があります。

システムをシャットダウンする前に、以前実行していたタスクをどのように処理するかを明確にしてください。これは、手動プロセスへの復帰、別のテクノロジーの導入、あるいはワークフローの全面的な再設計を意味するかもしれません。

削除プロセスのすべてのステップを記録します。禁止行為を発見した日時、実行したアクション、システムが完全に無効化された日時を記録します。

規制当局は、違反を特定したらすぐに行動したという明確な証拠を期待します。

記録の保管と文書化

禁止規則への準拠を証明する技術文書を保管する必要があります。これには、リスク評価、AIシステムに関する決定、コンプライアンス達成のために行った変更の記録が含まれます。

ドキュメントには以下の内容を記載する必要があります。

• システムインベントリ 各AIアプリケーションの説明付き
• リスク評価レポート 潜在的な違反の分析を示す
• 除去記録 禁止されたシステムをいつ、どのように無効化したかを詳細に記述する
• 基本的権利への影響評価 境界線上のケース

これらの記録は少なくとも5年間保管してください。オランダDPAは、検査または調査の際にこれらの記録を要求する場合があります。

技術文書の不足または不完全な場合、最大7,500,000万ユーロまたは年間世界売上高の1%の罰金が科せられる可能性があります。技術文書は、規制当局がAIシステムの機能と法令遵守の理由を理解できるよう、十分に詳細な内容で作成する必要があります。

一般的な説明やマーケティング資料ではこの要件を満たしません。技術仕様、データフロー、意思決定プロセスを含めてください。

AIシステムを変更したり、新しいシステムを導入したりするたびに、ドキュメントを更新してください。将来のシステムに禁止行為が導入されないようにするために、継続的なプロセスが必要です。

AIリテラシー要件とスタッフトレーニング

2025年2月2日より、AIシステムを提供または導入するオランダ企業は、従業員が適切なAIリテラシーを習得していることを保証する必要があります。この義務は、高リスクAIシステムを使用しているか低リスクAIシステムを使用しているかに関わらず適用されます。

文書化されたトレーニング プログラムは、従業員の役割と技術的背景に合わせてカスタマイズする必要があります。

AIリテラシー義務の説明

EU AI法第4条は、 法的要件 すべてのAIプロバイダーおよび導入者に対し、従業員のAIリテラシーを十分に確保するよう求めます。AIシステムを扱うスタッフと請負業者が、取り扱う技術を理解できるよう、対策を講じる必要があります。

AIリテラシー義務は、お客様に代わってAIシステムを運用、使用、または意思決定を行うすべての人に適用されます。これには、AIシステムを構築または保守する技術スタッフだけでなく、日常業務でAIツールを使用する非技術系従業員も含まれます。

AIリテラシー研修は、各人の役割、技術知識、経験、学歴、そしてAIシステムを使用する具体的な状況に合わせてカスタマイズする必要があります。AIモデルを実装するソフトウェア開発者と、AI搭載チャットボットを使用するカスタマーサービス担当者では、研修内容が異なります。

この義務は、適切な識字レベルを確保するために「最善の努力」を払うことを義務付けています。形ばかりの研修を提供するだけで遵守を主張することはできません。

効果的な研修プログラムの開発

AIリテラシープログラムは、一般的な情報を提供するのではなく、組織が使用する特定のAIシステムに焦点を当てるべきです。従業員は、自分が使用する特定のAIツールの機能、限界、潜在的なリスクを理解する必要があります。

トレーニングの内容は次のとおりとします。

• システムに関連する基本的なAIの概念
• AIツールを正しく操作する方法
• AI出力における潜在的なバイアスとエラー
• 人間の監視が必要な場合
• 組織のAIポリシーと手順

各従業員の初期の知識レベルを考慮する必要があります。技術スタッフはモデルの開発とテストに関する高度なトレーニングを必要とする場合がありますが、一般ユーザーにはAIの出力を解釈し、結果が間違っていると思われる場合の認識に関する実践的なガイダンスが必要です。

研修の提供方法は、ワークショップ、オンラインコース、OJT、外部プログラムなど、様々な形態があります。研修の形態よりも、従業員が必要な知識とスキルを実際に習得できるようにすることが重要なのです。

AIリテラシー活動の文書化

EU AI法の遵守を証明するために、AIリテラシー研修活動の記録を保持する必要があります。この文書は、あなたが必要な要件を満たしたことの証拠となります。 法的義務.

記録には次の内容を含める必要があります:

• 研修プログラムの内容と資料
• 研修を修了した従業員のリスト
• トレーニングセッションの日程と期間
• 評価結果（該当する場合）
• さまざまな役割に適切な識字レベルをどのように決定したか

組織全体でAIリテラシーのニーズを特定するプロセスを文書化します。これには、AIシステムとのやり取りに基づいて、どのスタッフにトレーニングが必要か、またどのような具体的な知識が必要かをどのように評価したかが含まれます。

AIシステムの変更や新しいスタッフの入社に応じて、トレーニングをどのように更新したかを記録しておきましょう。AIリテラシーは一度きりの要件ではなく、AIテクノロジーの進化に合わせて継続的に適応していく必要があります。

監督、執行、罰則

EU AI法は、重要な多層的な執行構造を確立する。 罰金 オランダ企業は、AIに関する禁止行為に対し、国と欧州当局の両方から監視を受けており、世界全体の年間売上高の最大7%に相当する罰金が科せられる可能性があります。

オランダとEUの監督当局

オランダデータ保護局は、オランダにおけるAI法の執行における主要な国家監督機関として機能しています。同局は、他の指定されたオランダの市場監視機関と連携して、規制の遵守状況を監視しています。

欧州レベルでは、欧州委員会が加盟国全体におけるAI法の施行を監督しています。委員会内に設置された欧州AIオフィスは、執行活動の調整と技術的専門知識の提供を行っています。

欧州データ保護委員会は、特にAIシステムが個人データ処理を伴う場合において、本法の一貫した適用を支持しています。これらの当局は、欧州連合（EU）全体で一貫した執行を確保するために協力しています。

複数の EU 諸国で AI システムを運用している場合、システムが展開されているか、または影響を及ぼしている各管轄区域の監督機関による監視を受ける可能性があります。

制裁と民事責任

第5条の禁止行為に違反した場合、最高3,500万ユーロまたは全世界の年間売上高の7%のいずれか高い方の罰金が科せられます。これらの罰金は2025年2月2日から適用されます。

欧州司法裁判所（CJEU）は、AI法の規定を解釈する最終的な権限を有しています。禁止行為を構成するものについて紛争が生じた場合、各国の裁判所はCJEUに審理を付託することができます。

行政罰に加え、非準拠のAIシステムによって被害を受けた個人または組織から民事責任を問われる可能性があります。加盟国は、自国の法律に基づき追加の罰則を定めることができます。

欧州および各国の機関からのガイダンス

欧州委員会は 禁止事項に関するガイドライン 2025年2月4日のAI実践。これらの文書は、当局が第5条の禁止事項をどのように解釈するかを説明し、遵守のための実際的な例を示しています。

これらのガイドラインは拘束力はありませんが、執行上の優先事項に関する貴重な洞察を提供します。権威ある法的解釈を提供できるのはCJEUのみです。

オランダの監督当局は、現地の事業状況に合わせた追加の国内ガイダンスを発行する可能性があります。執行方法が進化するにつれて、欧州およびオランダ両機関からの最新情報を注視する必要があります。

国境を越えた理解をサポートするために、ガイドラインはすべての EU 言語で提供されています。

よくある質問

欧州AI法は、2025年2月からオランダの企業に影響を及ぼす特定の要件と制限を導入します。これらの規制は、特定のAI慣行を禁止し、 コンプライアンス対策、違反に対する罰則を定める。

2025 年 2 月現在、オランダ企業における人工知能の使用に関する新しい規制は何ですか?

欧州 AI 法は 2024 年 8 月 1 日に発効し、最初の一連の禁止事項は 2025 年 2 月 2 日に発効します。これらの規制は、欧州連合内で AI システムを開発、展開、または使用するすべてのオランダ企業に適用されます。

この法律は、潜在意識に働きかけて人間が通常行わないような意思決定に影響を与えるような操作的なAIシステムを禁止しています。年齢、障害、社会経済的地位に基づく脆弱性を悪用するAIシステムも禁止されています。

社会行動や個人特性に基づいて個人を判断するソーシャルスコアリングシステムは全面的に禁止されます。また、犯罪行為に関する事実ではなく、プロファイリングや性格特性分析のみに基づいて犯罪を予測するAIベースのリスク評価も禁止されます。

顔画像や指紋から人種、政治的見解、労働組合への加入状況、宗教的信条、性的指向などを推測する生体認証分類システムは認められません。公共の場でのリアルタイム遠隔生体認証は、特定の状況下で厳密に定義された場合を除き、禁止されています。 法的認可.

2025 年 2 月のオランダの AI ガイドラインは、消費者のデータプライバシーと保護にどのような影響を与えますか?

AI法は、GDPRを含む既存のデータ保護規制と連携して機能します。オランダデータ保護局は、AIシステムがデータ保護規則、特に自動化された意思決定に関してどのように遵守すべきかについてガイダンスを提供しています。

顔認識データベースの作成または拡張を目的として、インターネットやカメラ映像から顔画像を無差別にスクレイピングすることは禁止されています。この制限は個人のプライバシー権を保護し、生体認証データの不正な収集を防止します。

AIシステムは、そのライフサイクル全体を通じて基本的人権を尊重しなければなりません。公的機関および公共サービスを提供する団体は、リスクの高いAIシステムを使用する際に、基本的人権への影響評価を実施する必要があります。

最近の法改正により、オランダの企業はどのような AI ベースの活動を行うことが禁止されましたか?

職場や教育現場で感情認識システムを使用することはできません。これらのシステムは、主張されているメリットや使用例に関わらず、禁止されています。

潜在意識に働きかけるテクニックで人々を操作したり、脆弱性を悪用したりするAIシステムを導入することはできません。これには、障害、社会的地位、年齢に基づいて個人をターゲットにし、行動に影響を与えるシステムも含まれます。

センシティブな特性に基づいて人を分類する生体認証分類システムは禁止されています。AIを用いて、生体認証データから人種、政治的意見、宗教的信条、性的指向を推測することはできません。

ソーシャルスコアリングシステムは全面的に禁止されています。社会的な行動や個人的な特徴に基づいて人を評価または分類するAIを実装することはできません。

公共の場でのリアルタイム遠隔生体認証は、商用利用が禁止されています。法執行機関は、適切な法的許可を得た限定された状況においてのみ、このようなシステムを使用することができます。

オランダ企業は、AI システムを 2025 年 2 月に設定されたコンプライアンス基準に適合させるために、どのような手順を踏む必要がありますか?

組織が現在使用または導入しているすべてのAIシステムを特定する必要があります。このインベントリでは、AI法で定義されたリスク分類に従って各システムを分類する必要があります。

AIシステムを禁止行為リストに照らし合わせて確認してください。禁止されているシステムを使用している場合は、規制上の罰則を回避するために、直ちに段階的に廃止する必要があります。

AIシステムの目的、データソース、意思決定プロセスを文書化します。この文書化は、コンプライアンスの実証に役立ち、必要な影響評価をサポートします。

高リスクAIシステムには、追加のコンプライアンス対策が必要です。公的機関は、2026年8月2日までに高リスクシステムを欧州データベースに登録し、基本的人権への影響評価を実施する必要があります。

新しい要件についてスタッフを教育し、継続的なコンプライアンス監視のための社内プロセスを確立してください。コンプライアンスプログラムには、AIシステムが規制の範囲内に維持されていることを確認するための定期的なレビューを含める必要があります。

新しい規制に従ってオランダ企業が知っておくべき、AI に関する業界固有の禁止事項はありますか?

教育機関には特定の制限があります。教育上の利益が意図されているかどうかに関わらず、感情認識システムを用いて生徒を監視したり、感情状態を評価したりすることはできません。

職場環境にも同様の制約があります。雇用主は、従業員の感情状態や業務中の反応を監視するために感情認識AIを導入することはできません。

法執行機関は、生体認証システムに関して限定的な例外を設けています。これらの例外は厳格な法的認可を必要とし、誘拐被害者の捜索、差し迫った脅威の防止、重大犯罪の容疑者の追跡など、特定の状況にのみ適用されます。

公共サービスを提供する公的機関は、一般的な禁止事項に加え、追加の要件に直面します。すべての高リスクAIシステムについて、基本的人権への影響評価を実施し、これらのシステムを欧州データベースに登録する必要があります。

2025 年 2 月に導入されたオランダの AI 制限に従わなかった場合の罰則は何ですか?

規制当局は、AI法の違反に対して多額の罰金を科すことができます。罰金体系は、違反の重大性に基づいて段階的に設定されています。

禁止されているAIシステムの使用は、最も重大な違反カテゴリーに該当します。2025年2月の期限以降も禁止対象のシステムの運用を継続した場合、組織は多額の罰金を科せられる可能性があります。

具体的な罰金額は、組織が中小企業に該当するか、それとも大企業に該当するかによって異なります。規制当局は、違反の性質、違反期間、そして発生した損害などの要素を考慮します。

金銭的な罰則に加え、コンプライアンス違反は組織の評判を損なう可能性があります。禁止されたAIシステムによって被害を受けた個人は、民事訴訟を通じて追加の救済を求めることができます。

オランダデータ保護局およびその他の規制機関には執行権限があり、苦情の調査、監査の実施、禁止行為の即時停止の要求などを行うことができます。