2025年3月まで公共スペースでAIを活用したビデオ監視を延長するというフランスの決定は、プライバシーと市民の自由に対する懸念を煽っています。批評家は、2024年のオリンピックのために導入された技術は、差別的な慣行と過度の監視につながる可能性があると主張しています。 AIを使用して群衆の動きや放棄されたオブジェクトなどの行動を検出するアルゴリズムビデオ監視（AVS）は、個人の権利を侵害する可能性があるため、火を引いています。 ミシェル・バルニエ首相は今月、パリ警察署長のローラン・ヌネスによる「実験的」技術の承認に続いて、公共スペースでの広範な使用への道を開いた。 AVSの延長使用は、技術の倫理に関する評価報告書が年末まで期限ではないにもかかわらず行われます。

洗練されたアルゴリズム

AVSは、従来のビデオ監視と人工知能を組み合わせて、公共スペースを監視します。 アルゴリズムは、火災、放棄されたオブジェクト、群衆の動き、過度の密度、または制限されたエリアに入る個人など、特定の行動や状況を検出するようにプログラムされています。 顔認識は現在その機能の一部ではありませんが、批評家は将来の開発がプライバシーの境界を押し広げる可能性があると心配しています。 「この技術は、路上での監視を強化し、人口内の特定のカテゴリに焦点を当て、差別や人権侵害の可能性を開く方法です」と、デジタル自由団体La Quadrature du NetのBastien Le Querecは述べています。 この技術は監視を自動化し、カメラの効率を高めることを目的としていますが、Le Querrec氏によると、このシステムは特定のグループを不釣り合いにターゲットにし、日常の監視を拡大しています。

オリンピック法の延長

AVSは当初、オリンピックなどの大規模なイベントを確保するために設計された2023年のJOP法に基づいて承認されました。 フランスの法律では顔認識はまだ許可されていませんが、公共スペースを監視するためにAIを使用することは依然として危険であると、Le QuerrecはRFIに語った。 すべての防犯カメラからの画像は「人間の能力を超えてスクリーニング」され、監視を効果的に自動化し、ロボットを運転席に配置します。 彼は、現在の技術が法的制限内であっても、将来の進歩は簡単に「一線を越える」可能性があると警告した、とLe Querrecは付け加えた。 論争にもかかわらず、パリ警察署長のヌネスは、公共の安全のために必要であると呼び、このシステムを支持しました。 一方、フランスのデータ保護監視機関であるCNILが一時的な措置が恒久的になる「ラチェット効果」に対して警告しているにもかかわらず、バルニエ政権はより広範な適用を推進しています。

個人データの処理

AIが警察の恒久的な固定具になるにつれて、法律専門家はAVSデータがどのように悪用される可能性があるかについて懸念を提起しています。個人データの処理は、これらの懸念の中心であり続けています。 Le Querrecは、裁判所ではなく、アクティビズムがこの監視に対抗するための鍵になると信じています。 「オリンピックの前に、この技術は合法ではありませんでした。法律は非常に明確です...それは個人データの処理です」と彼は言いました。 しかし、その違法性にもかかわらず、ル・ケレックは、多くのフランスの都市が何年もの間同様の技術を使用していると指摘しました。 「開発会社は違法な技術を都市に販売しており、政府はそれを認識しています」と彼は付け加えました。 抜け穴は、アルゴリズム監視がグループ内の「異常な行動」（生体認証プロセス）を監視するという事実にありますが、個人データを直接収集することは含まれていません。 これにより、憲法評議会を含むフランスの法律機関は、AVSに挑戦することに消極的でした。 「フランス政府、フランス議員、フランス憲法評議会は一致しているようです...したがって、国内裁判所はこの技術の制限を決して支持しません」とル・ケレックは言いました。 「CNILでさえこの技術に賛成しているので、すべての保護手段はその使用を防ぐことができません。」 https://www.rfi.fr/en/france/20241011-privacy-fears-grow-as-france-extends-ai-surveillance-beyond-olympics-avs