【後編】アメリカはすでに“小さなシビュラ”を試していた COMPASの失敗が示した「予測司法」と人間性の代償

Psycho-PassのシビュラシステムとアメリカのCOMPASを入口に予測司法とアルゴリズムバイアスの限界を考察する犯罪学コラムのアイキャッチ

前編では、『Psycho-Pass』の犯罪係数を入口に、サイコパスとソーシオパスの違い、そして人間の危険性を一つの数値で扱うことの危うさを整理した。

後編で問うのは、さらに現実に近い問題である。

もし、犯罪係数のような仕組みが現実の裁判や刑務所、保釈判断、再犯防止の現場に入り込んだら、社会は本当に安全になるのか。

実は、アメリカはすでにその実験に近いことを行ってきた。再犯リスクを数値化し、被告人や受刑者が将来どれほど再犯しやすいかを評価するツールが、刑事司法の現場で使われてきたからだ。

その代表例が、COMPASと呼ばれる再犯リスク評価システムである。

これは現実に存在した“小さなシビュラ”だった。

犯罪を「予測」する司法の誘惑

刑事司法において、再犯リスクの評価は避けて通れない。

保釈を認めるのか。
刑期をどの程度にするのか。
仮釈放を認めるのか。
出所後にどのような監督を行うのか。

こうした判断では、常に「この人物は再び犯罪を起こす可能性があるのか」が問われる。現場の裁判官、保護観察官、刑務所職員、精神保健の専門家は、限られた情報の中で判断を迫られる。

そのとき、数値化されたリスクスコアは非常に魅力的に見える。

過去の犯罪歴、年齢、就労状況、薬物使用歴、交友関係、家庭環境、住居の安定性などを入力すれば、システムが再犯リスクを「低・中・高」と示してくれる。人間の勘より客観的に見える。判断のばらつきも減らせる。効率も上がる。

しかし、ここに落とし穴がある。

数値は中立に見える。
だが、数値を作るデータは中立ではない。

COMPASが突きつけたバイアス問題

COMPASは、アメリカの一部州で刑事司法判断の補助に使われてきた再犯リスク評価ツールとして知られる。

大きな問題になったのは、その評価が人種的バイアスを含んでいるのではないかという指摘だった。調査報道では、黒人被告が実際には再犯しなかったにもかかわらず「高リスク」と判定されやすく、白人被告は再犯したにもかかわらず「低リスク」と判定されやすい傾向があると報じられた。

もちろん、システム側は「人種そのものを入力していない」と説明できるかもしれない。だが問題は、直接の人種項目がなくても、居住地域、収入、教育歴、雇用状況、過去の逮捕歴、家族構成などが、人種や階層の影響を間接的に反映してしまう点にある。

つまり、社会に存在する不平等が、データを通じてシステムに入り込む。

その結果、システムは過去の偏りを「未来のリスク」として再生産する。
貧困地域に生まれた。警察の取り締まりが厳しい地域で育った。安定した雇用に恵まれなかった。そうした背景が、本人の未来を不利に評価する材料へ変わっていく。

これは『Psycho-Pass』の犯罪係数と同じ問題を抱えている。

「危険」を測っているようで、実際には「社会がすでに危険視してきた人々」をもう一度危険と判定している可能性がある。

数値が裁判官を動かすとき

リスク評価ツールは、建前としては「判断補助」にすぎない。

最終判断を下すのは人間だ。裁判官であり、司法関係者であり、制度の運用者である。だが、現実には数値が判断に与える影響は小さくない。

高リスクと表示された人間に対して、裁判官が軽い判断を下すには勇気がいる。もしその人物が再犯すれば、「なぜ高リスク判定を無視したのか」と批判される。逆に、低リスク判定なら、判断者は安心しやすい。

こうしてシステムは、形式上は補助でありながら、実質的には人間の判断を誘導していく。

これは非常に重要だ。

シビュラシステムの怖さは、ドミネーターが人間を撃つことだけではない。
社会全体が「システムがそう言うなら仕方ない」と考えるようになることだ。

COMPASのようなリスク評価も同じである。スコアは命令ではない。しかし、その数字が裁判官、検察、弁護人、保護観察、社会の視線を変える。高リスクと表示された人間は、その時点で「まだ起きていない未来の犯罪」の重みを背負わされる。

それは本当に公正なのか。

予測は「未来」ではなく「過去の延長」を見ている

再犯リスク評価の根本的な限界は、未来を予測しているように見えて、実際には過去のデータを延長している点にある。

過去に似た属性の人が再犯した。
だから、この人も再犯する可能性が高い。
過去に似た環境の人が失敗した。
だから、この人も失敗するかもしれない。

この考え方は、統計的には理解できる。だが、人間の人生には、統計だけでは拾えない転機がある。

支援者との出会い。
住居の安定。
就労の機会。
依存症治療。
家族関係の回復。
地域との接点。
本人の加齢。
後悔。
環境からの離脱。

こうした要素は、単純なスコアでは十分に反映されにくい。特に、貧困や孤立によってリスクが高く出た人物に対して、支援ではなく監視や拘束だけを強めれば、社会復帰の可能性はむしろ下がる。

予測司法が失敗するのは、未来を見ようとして、過去の不平等を固定してしまうときである。

サイコパス的特性への治療は万能ではない

前編で見たように、サイコパス的特性とソーシオパス的特性では、背景や介入のあり方が異なる可能性がある。

アメリカでは、反社会性や高リスク者への治療・更生プログラムが長年試みられてきた。認知行動療法、共感訓練、薬物依存治療、怒りの管理、青少年向け集中介入などがある。

しかし、サイコパス的特性が強い人物に対しては、従来型の共感訓練や対話型プログラムが十分に機能しないどころか、場合によっては逆効果になる可能性も指摘されてきた。操作性の高い人物が、治療の場で学んだ言葉や対人技術を、他者操作に利用する危険があるからだ。

一方で、すべてを「治療不能」として切り捨てることも乱暴である。特に若年層では、環境調整、安定した関係性、行動管理、教育、生活支援によって、再犯リスクを下げる可能性が示されるケースもある。

ここで重要なのは、万能薬を求めないことだ。

高リスク者対応に必要なのは、
一律の治療でも、
一律の隔離でも、
一律の監視でもない。

必要なのは、リスクの種類を見分けることである。
操作性が問題なのか。衝動性が問題なのか。依存症が絡むのか。孤立が背景にあるのか。生活基盤が崩れているのか。精神疾患への支援が必要なのか。

そこを見ずに、数値だけで処遇を決めれば、システムは支援ではなく排除に近づく。

精神保健と刑事司法の断絶

アメリカのもう一つの大きな失敗は、精神保健と刑事司法の断絶である。

精神疾患や依存症、ホームレス状態、社会的孤立を抱えた人々が、医療や福祉ではなく警察対応の対象になりやすい。危機にある人が、治療につながる前に逮捕される。刑務所が、事実上の精神保健施設のような役割を担ってしまう。

これは、シビュラ的な社会の前段階に近い。

「支援が必要な人」を「管理すべき危険」として扱う。
「治療につなげるべき状態」を「治安の問題」として処理する。
「社会的孤立」を「個人の危険性」として数値化する。

この変換が起きると、制度は人間を救うより先に、人間を分類するようになる。

近年、アメリカでは警察と精神保健専門家が連携する共同対応モデルも広がっている。危機介入チームや地域支援型の取り組みもある。しかし、地域による格差、予算不足、人材不足、スティグマの問題は残っている。

Psycho-Pass的な社会が危険なのは、支援の不在を測定で補おうとする点にある。
人手も、福祉も、医療も、時間も足りない。だから数値で判断する。だから早く分類する。だから早く排除する。

だが、それは解決ではない。
処理である。

シビュラと共存できる条件

では、Psycho-Pass的なシステムと社会は共存できるのか。

結論から言えば、完全なシビュラ社会とは共存できない。

人間の心理、危険性、未来、回復可能性を一つのシステムが測定し、その数値によって隔離や排除まで決める社会は、どれほど効率的に見えても危うい。なぜなら、その社会では、人間がシステムに反論する余地が失われるからだ。

ただし、限定的なリスク評価ツールと共存する余地はある。

条件は明確である。

第一に、透明性。
どのようなデータを使い、何を重視し、どのようにスコアが出るのかを説明できなければならない。ブラックボックスの数値で人間の自由を制限してはいけない。

第二に、説明責任。
間違った判定が出たとき、誰が責任を取るのかを明確にしなければならない。「システムが判断した」では済まされない。

第三に、人間による再審査。
リスクスコアは判断材料の一つにとどめるべきであり、最終判断を置き換えてはならない。本人の事情、変化、支援環境、弁護側の主張、専門家の見解を合わせて判断する必要がある。

第四に、支援への接続。
高リスク判定を、ただの拘束や監視に使うのではなく、治療、住居支援、就労支援、依存症ケア、地域支援につなげることが必要である。

リスク評価は、排除のためではなく、支援の優先順位を決めるために使われるべきだ。

正義がシステム化される怖さ

『Psycho-Pass』が怖いのは、システムが間違えるからだけではない。

もっと怖いのは、社会が「システムは正しい」と信じた瞬間である。

その瞬間、人間は説明しなくなる。
疑問を持たなくなる。
責任を取らなくなる。
数値の向こう側にいる人間を見なくなる。

現実の予測司法も同じ危険を抱えている。アルゴリズムが出したリスクスコアは、客観的なようでいて、過去の不平等、制度の偏り、社会の偏見を反映することがある。にもかかわらず、その数字が「科学的」に見えることで、人間の判断より強い説得力を持ってしまう。

これは正義ではない。
正義の自動化である。

そして、自動化された正義は、しばしば人間の痛みを見落とす。

後編の結論 安全と人間性は、どちらも捨てられない

社会が安全を求めるのは当然だ。犯罪被害を減らし、再犯を防ぎ、危険な人物に適切に対応することは、国家と地域社会の責任である。

しかし、安全のためなら、人間を数値だけで処理していいわけではない。

犯罪を予測する技術は、確かに便利である。
だが、その便利さは、個人の尊厳、説明責任、支援の可能性を犠牲にしてはならない。

Psycho-Passが描いたシビュラシステムは、完璧な治安の夢であると同時に、完璧な管理社会の悪夢でもある。
アメリカの予測司法の失敗は、その悪夢がフィクションの外側にも存在することを示した。

人間を数値化すれば、管理は楽になる。
だが、理解は浅くなる。
そして理解の浅い管理は、いつか正義の顔をした暴力になる。

私たちに必要なのは、シビュラのような全能のシステムではない。
危険を見極める知性と、誤判定を疑う制度と、支援を諦めない社会である。

犯罪係数で人は裁けるのか。

答えは、おそらく否である。
少なくとも、数値だけで人間の未来を決める社会を、正義とは呼べない。

編集部まとめ

後編では、アメリカで使われてきた再犯リスク評価やCOMPASを通じて、現実の“小さなシビュラ”的システムの限界を検証した。再犯リスクの数値化は、司法判断を効率化する一方で、人種・階層・地域差など過去の不平等を未来のリスクとして再生産する危険がある。リスクスコアは判断補助にとどめるべきであり、透明性、説明責任、人間による再審査、支援への接続が不可欠である。Psycho-Passが警告しているのは、犯罪予測そのものではなく、社会がシステムの数値を正義として信じ切ってしまう危うさである。

記事注記

本記事は、犯罪学、刑事司法、再犯リスク評価、精神保健制度、アルゴリズム・バイアスに関する一般的知見、『Psycho-Pass』シリーズの作品設定、各種公開情報を基に構成。COMPASなどのリスク評価ツールに関する記述は、過去の調査報道や研究で示された論点を整理したものであり、特定の制度・企業・個人を断定的に評価するものではない。精神疾患や反社会性に関する記述は、個人へのレッテル貼りを目的とするものではない。

Q1. COMPASとは何ですか?
A. COMPASは、アメリカの一部刑事司法現場で使われてきた再犯リスク評価ツールです。被告人や受刑者が将来再犯する可能性を数値化するために用いられてきました。

Q2. なぜCOMPASは問題視されたのですか?
A. 黒人被告を高リスクと過大評価し、白人被告を低リスクと過小評価する傾向があると調査報道などで指摘され、アルゴリズム・バイアスの問題が議論されました。

Q3. Psycho-PassのシビュラシステムとCOMPASは何が似ていますか?
A. どちらも人間の危険性を数値化し、その数値をもとに社会的な処遇を決めようとする点が共通しています。

Q4. リスク評価ツールは使うべきではないのですか?
A. 完全に否定すべきものではありません。ただし、判断補助にとどめ、透明性、説明責任、人間による再審査、支援への接続を前提に使う必要があります。

Q5. 後編の結論は何ですか?
A. 数値だけで人間の未来を決める社会は、公正な正義ではなく管理社会に近づく危険があるということです。リスク評価は排除ではなく、支援と慎重な判断につなげるべきです。

リアルタイムサイト訪問者数
26

コメント

0件

まだコメントはありません。最初のコメントを投稿してみませんか。

コメントを投稿する

名前は空欄でも投稿できます。その場合は「匿名」と表示されます。