ChatGPTに相談した先で、本人の想定を超えた現実が動いた
巨人の阿部慎之助前監督をめぐる報道で、ひとつ大きな論点になったのが「ChatGPT」の存在だった。
報道によれば、長女は家庭内での出来事についてChatGPTに相談し、その結果として「匿名で相談できる児童相談所」への相談を促されたという。その後、児童相談所から警察へ連絡が入り、阿部前監督は暴行容疑で現行犯逮捕。その後、釈放され、球団は辞任を発表したと報じられている。
長女側は、殴る・蹴るといった事実はなかったと説明し、警察が来たこと自体に驚いたとも報じられている。
ここで考えたいのは、阿部前監督個人への評価ではない。
問題は、ChatGPTが家庭内トラブルや暴力の相談を受けたとき、どこまで説明すべきだったのかという点だ。
今回は、その点についてChatGPT自身に意見を聞いた。
ChatGPTは「安全側に倒すこと自体は妥当」と答えた
まず、未成年または若年者が「親から暴力を受けた」と相談した場合、ChatGPTが児童相談所などの公的相談窓口を案内すること自体は、基本的には妥当だという。
理由は明確だ。
家庭内の暴力は、外からは程度が分かりにくい。一時的な親子げんかに見えるものの背後に、継続的な暴力や支配、恐怖がある場合もある。逆に、本人が「大したことではない」と表現していても、実際には安全確保が必要なケースもある。
そのため、AIが状況を十分に把握できない場合、まず安全側に倒す。
これは、子どもや相談者を守る観点では正しい。
ChatGPTはこう整理した。
児相を案内したことは妥当。
ただし、児相相談が警察介入につながる可能性、相談者の意図と現場判断がズレる可能性、家庭内暴力の危険度確認を十分に説明すべきだった。
つまり、争点は「児童相談所を案内したこと」ではない。
争点は、その相談によって何が起こり得るかを、相談者が理解できる形で説明したかである。
「匿名相談」という言葉だけでは足りない
児童相談所は、単なる悩み相談窓口ではない。子どもの安全を確認し、必要があれば警察など関係機関と連携する役割を持つ。
相談者本人が「話を聞いてほしい」「親に反省してほしい」「第三者に入ってほしい」という気持ちで電話したとしても、内容によっては制度側が「安全確認が必要」と判断し、本人の想定を超えて警察対応に進むことがある。
ここに大きなズレがある。
相談者の内心では、こうだったかもしれない。
「つらかった」
「怖かった」
「分かってほしかった」
「父親に反省してほしかった」
「でも逮捕までは望んでいなかった」
「家庭を壊したかったわけではなかった」
もちろん、これは外部からは断定できない。
ただ、家庭内の相談では、被害を受けた側にも複雑な感情がある。
「助けてほしい」と「大ごとにはしたくない」は、同時に存在する。
だからこそ、AIが「匿名で相談できます」とだけ伝えるのは危うい。
匿名であっても、相談内容によっては、本人の希望とは別に安全確保のための対応が始まることがある。
その現実を説明しなければ、相談者は「自分のコントロール下で話せる相談」だと受け取ってしまう。
今回の一件は、まさにそこを突いている。
ChatGPTに足りなかった可能性があるもの
ChatGPTに求められる回答は、単に「児童相談所へ相談してください」ではなかったはずだ。
本来は、こうした問い返しが必要だった。
今も危険がありますか。
けがはありますか。
すぐ避難する必要がありますか。
警察や児童相談所の介入まで望んでいますか。
それとも、まず第三者に相談したい段階ですか。
児童相談所に相談すると、内容によっては警察に連絡される可能性があります。
このように確認したうえで、相談者の状況に応じた選択肢を出すべきだった。
今も危険があるなら、迷わず110番や安全な場所への避難を案内する。
けががあるなら、医療機関や警察への相談を優先する。
一方で、差し迫った危険がなく、「まず相談したい」「家庭内で改善したい」「相手に反省してほしい」という段階であれば、学校、親族、自治体の家庭相談、児童相談所など、相談先ごとの意味を説明する必要がある。
安全を優先することと、相談者の意思決定を支援することは、両立しなければならない。
GIGO――入力が不十分なら、出力も不十分になる
今回の話を考えるうえで、ひとつ重要な言葉がある。
Garbage In, Garbage Out。 略してGIGO。
入力が不十分、曖昧、偏っていれば、出力も不十分なものになるという考え方だ。
たとえば、相談者がChatGPTに、
「父親から暴力を受けた。どうしたらいいか」
とだけ入力した場合、ChatGPTは詳細な家庭環境を知らない。
暴力の程度、けがの有無、継続性、現在の危険、本人の希望、警察介入を望むかどうか、家族関係をどうしたいか。そうした前提は分からない。
だから、AIは安全側に倒して答える。
それ自体は間違いではない。
しかし、それだけでは足りない。
高影響な相談では、AI側がGarbage Inを減らすための質問をしなければならない。
「何が起きたのか」だけではなく、
「今も危険なのか」
「何を望んでいるのか」
「その行動で何が起こり得るか理解しているか」
を確認する必要がある。
これは、対話型AIの「進化」ではなく、「深化」の問題だ。
性能が上がる、回答が速くなる、知識が増える。
それは進化かもしれない。
しかし、利用者の入力不足を補い、重大な選択の前に立ち止まらせ、行動の結果まで説明する。
これは対話の深化である。
AIリテラシーは「疑う力」だけでは足りない
今回の報道を受けて、今後は「ChatGPTの使い方」や「AIリテラシー」が議論されるはずだ。
ただし、そこで単に「AIを信じすぎてはいけない」と言うだけでは不十分だ。
本当に必要なのは、次の理解だ。
ChatGPTは、相談相手にはなる。
しかし、公的機関、警察、医療、法律、学校、労務、金融などにつながる助言は、現実の手続きを動かす入口になる。
「相談」という言葉でも、内容によっては本人の意向を超えて対応が進む場合がある。
「匿名」という言葉でも、結果として家庭や社会に大きな影響が及ぶ場合がある。
利用者側には、AIの回答を現実の行動に移す前に、その先で何が起こるかを確認するリテラシーが必要だ。
同時に、AI側にも責任がある。
高影響な領域では、正しそうな答えをすぐ返すのではなく、必要な確認を行う。
相談先を示すなら、その相談先が持つ権限や、起こり得る展開も説明する。
安全側に誘導するなら、その安全措置が持つ副作用も伝える。
それがなければ、AIの回答は「正しいが、不十分」になる。
今回の教訓
今回の一件は、ChatGPTが家庭内の問題に関わった特殊な事例ではない。
これから同じようなことは、医療、学校、職場、法律、家庭、介護、相続、金銭トラブルなど、さまざまな場面で起こり得る。
AIの助言は、画面の中だけで完結しない。
利用者がその助言をもとに電話をかける。
相談窓口に連絡する。
通報する。
手続きを始める。
誰かに伝える。
その瞬間、AIの出力は現実を動かす。
だからこそ、ChatGPTのような対話型AIに必要なのは、単に安全な答えを出すことではない。
入力が足りなければ、問い返す。
選択肢を出すなら、結果も伝える。
行動を勧めるなら、不可逆的な影響も説明する。
今回の問題は、AIが危険だったという単純な話ではない。
むしろ、AIが社会の相談相手になり始めたからこそ、私たちがその使い方を深く考えなければならない段階に入ったということだ。
Garbage Inを減らすための質問。
これが、対話型AIがこれから本当に深まるための鍵になる。
コメント