AI監視社会の到来？ 根深いプライバシーと差別の問題
前のセクションでは「殺人予測プロジェクト」によるメリットや期待される効果を紹介しましたが、当然ながらこうした取り組みには大きなリスクや懸念も伴います。
特に、人権・プライバシーの保護や差別的なバイアスの問題など、社会的に看過できない課題が山積しているのです。
ここでは、それらのポイントを整理してみましょう。
まず大きな懸念は、誰がどこまでの個人情報をどのように扱うのか、そしてその管理体制は本当に安全なのかという点です。
今回のプロジェクトでは、犯罪歴や家庭内暴力のデータだけでなく、メンタルヘルス、依存症や自傷行為の履歴など、非常にセンシティブな情報までもが統合される可能性があります。
従来であれば医療機関や福祉機関の守秘範囲にあったようなプライベートな内容を、警察や司法当局がどの程度まで入手し、アルゴリズムに投入するのかは明らかになっていません。
また、一度集められたデータが今後どのように保管・二次利用されるのかも問題です。
仮に「研究目的だ」として集められた情報が、いつの間にか警察やその他の機関で常用されるようになる可能性も否定できません。
こうしたケースは「情報の目的外利用」と呼ばれ、本人の同意を得ることなくデータが流用される危険性があります。
しかも、不正アクセスや情報漏えいといったセキュリティ事故のリスクもつきまとうため、プライバシー面でのリスクは決して小さくありません。
次に、アルゴリズムやデータ自体が持つ偏見（バイアス）の問題が挙げられます。
実際、イギリスの警察は「制度的な人種差別を内包している」との批判を長年受けてきました。
たとえば全く同じ条件にある人物が白人と黒人の場合、裁判官や捜査当局が黒人のほうを高リスクと判断する傾向があったという報告もあります。
こうした背景のある警察データをそのまま学習データとして使えば、既存の偏見や差別が機械学習モデルに“焼き付く”危険性があるわけです。
これは人間の判断基準がそのままAIへ移行し、機械によって再生産されるという意味で、非常に深刻な問題をはらみます。
たとえば、特定の人種や所得の低い地域、あるいは一定の社会的立場にある人々ばかりが“リスクが高い”とされてしまうかもしれません。
データ解析の結果が客観的なように見えて、実は既存の差別構造を再生産してしまう可能性もあるのです。
また、誤判定（偽陽性）が多いほど、罪を犯す意図がない人までが「潜在的な殺人犯」とみなされ、警察や司法から過度に監視される懸念も無視できません。
さらに、こうした予測ツールを使うことで「まだ殺人を起こしていない人」に先回りして介入を行う、いわゆる“予防的ポリシング（Pre-emptive Policing）”が加速する恐れがあります。
事前に危険だと判定された人に対して、警察が特別な監視を行ったり、社会福祉の名目で行動を制限したりする事例が増えるかもしれません。
日本にも精神保健福祉法に基づく強制入院のしくみ（措置入院）があり、自他に重大な危害を及ぼすおそれがあると判断された場合に行政が介入できる仕組みがあります。
もっとも、措置入院の目的はあくまで患者の治療と周囲の安全確保であり、どの程度予測的に活用するかは慎重に考えられています。
それでも、こうした「先手を打つ」制度やテクノロジーの導入は、人権やプライバシーとの兼ね合いがきわめて難しいテーマです。
もしも誤った判定で何らかの制裁や監視が強化されてしまうと、社会的スティグマを生むばかりか、当事者の生活を大きく狂わせる要因となりかねません。
しかも、この「誤判定」が比較的起こりやすいのが、もともと警察との関わりが多いコミュニティや、精神的・経済的に厳しい状況に置かれた人々である可能性が高いのです。
そうした人たちがさらなる孤立や不信感を抱くことで、むしろ“犯罪リスク”が増幅してしまうという逆説的なシナリオも考えられます。
イギリス政府は「現段階では研究目的」と強調していますが、以前から存在しているOASysなどの再犯予測ツールが“研究段階”から“実務段階”へ移行したように、技術が完成度を高めるにつれて運用範囲が広がることは十分に考えられます。
とくに「殺人予測」というセンセーショナルなテーマであれば、成果が多少なりとも期待できると判断されれば、早期に司法や警察の実務に反映される可能性が高まるでしょう。
このとき問題となるのは、どのような法的枠組みや統制のもとで運用されるのか、国民に対してどれだけ透明性が保たれるのか、そして予測結果が誤っていた場合の救済措置がどれだけ整備されるのか、といった点です。
アルゴリズムは社会に影響力を与える一方で、間違いを犯すこともあります。
誤判定された個人が被る不利益をどこまで是正できるのか──その部分が明確に設計されていなければ、大きな混乱や不当な権力行使につながりかねません。
このように、殺人予測プロジェクトには一見「犯罪を減らす」ための革新的アプローチという魅力がありますが、その裏にはデータの取り扱いに対するプライバシーの懸念や、差別が増幅しかねないバイアスの問題など、深刻な課題が潜んでいます。
さらに、技術的・法的整備が不十分な段階での“予防的ポリシング”は、冤罪や不当な監視を招き、人々の基本的な権利を損なう危険性さえ秘めています。
結局、どれほど画期的なテクノロジーであっても、それをどう使うかという運用の枠組みがしっかりしていなければ、有害な結果をもたらす可能性は高まってしまうのです。
次の段階としては、こうした倫理的・社会的問題に対して十分な議論が行われ、適切なルールづくりや監督機関の設立などが求められるでしょう。
社会が技術を受け入れていく際には、メリットだけでなく大きなリスクを直視し、慎重に扱う姿勢が欠かせません。
マイノリティ・リポートの世界だな
ある程度の犯罪予測でターゲットを絞り込んで事前にマークしておくのは良さそうだが
まあ、どうなるかな
どのようなシステムや道具も必ず悪用されますから、新しいシステムを構築するときに考えるべきことは「それはどう悪用できるのか」ということです。
このシステムの場合は使い方次第ではデモ活動や政府に対する抵抗なども事前に押さえ込むことができるようになるのでより良い統治が実現できる素晴らしいシステムになるでしょう、統治者にとってはね。
仮にシステムの信頼性が上がったとして
成人する迄生きていればその後は警察官を一個中隊派遣しても止められず99.99%の確率で大量殺人をするだろうと判定された子供を子供のうちに殺してしまうのは正しいのか
ついにブレードチルドレン問題が現実に…
助けて清隆様！
流石海外。日本ではまず絶対に不可能なことをやろうとする。
そして多分これが意味のあることなのだろう。ある特定のタイプの人間は手厚いマネジメントを必要とすることは確実で、そこを見過ごすと、虐殺テロ犯になったりする。
はたまたただの反社会的性格の人が反社になるか。
一様に同じ対応してても無理だよ。あの人は犯罪者にならなかったんだから、君も意識さえ高く持てば避けれたはずだは通用しない。