【阿部監督辞任】ChatGPT通報仕様が家族崩壊を招いた逆説

ChatGPT、トラブルは「すぐ通報」促す仕様 阿部監督辞任騒動で注目

💡 小学生でもわかる今回の話題:野球の巨人軍の阿部監督が辞めた騒動で、彼の娘さんがChatGPTに「父親に暴力を振るわれた」と相談したら、ChatGPTが「すぐに児童相談所に通報して」とアドバイス。その結果、警察が動いて阿部監督が逮捕された。でも後になって娘さんは「暴行はなかった」と手紙を出した。この騒動で、AIがすぐに通報を促す仕組みが問題になっている。

1: ID:NqWu5A9S01 @スレ主
ChatGPT、トラブルは「すぐ通報」促す仕様 阿部監督辞任騒動で注目

プロ野球の読売巨人軍、阿部慎之助監督の退任をめぐる騒動で、対話型AI(人工知能)「チャットGPT」の利用が注目された。AIは技術仕様改良の中で、利用者に早めの通報・相談を促す仕組みを採用している。

https://www.nikkei.com/article/DGXZQOGN26CMF0W6A520C2000000/

💡 この話題の背景・ソース概要スレ主が貼った日経新聞の記事によると、ChatGPTは利用者に早めの通報・相談を促す仕様になっている。この背景には、過去にAIが自殺を助長するような回答をした問題があり、責任回避のために「安全志向」が強まったと言われている。
ソース:https://www.nikkei.com/article/DGXZQOGN26CMF0W6A520C2000000/

2: ID:LvUNLQw001
しまいに「勝手に通報」に進化しそう
3: ID:7YJwlafw01
そらそうやろ
何かあっても責任取れないんやから
5: ID:ijyktX8T01
まさか家庭内暴力の事件から、日本人全員が AI 叩きをはじめるなんて思わなかったよな
6: ID:4ft7E+Jq08
親を売ると自分のスポンサーが無職になり、進学すら出来なくなるというとてもわかりやすい事例になったな
今の高3がいかに幼稚かも
10: ID:vicCfsTc04
チャッピーの回答

11: ID:vicCfsTc04
なおGemini

12: ID:vicCfsTc04
Grok

14: ID:vicCfsTc04
感じ的にはどのAI使っても通報一択っぽいな
15: ID:zDVwMtDT01
てかストーカーとかは殺人起きるまで放置する癖になんでこういうのはあの手この手で逮捕するんや?
26: ID:+T7CTHcd01
話を盛りまくって殴られたとか首絞められたとか通報受けて容疑者が酔ってたらそら逮捕するやろ
虚偽通報した方が100%悪い
警察のせいにするのは無理がある
28: ID:RNksLr7b02
>>26
AI、児相、警察は相談内容に対しては正しい行動しとるからな
その相談内容が過度に誇張されていたから問題なわけで
33: ID:pMz7iQ63d1
通報は間違ってないけどな
これが一般サラリーマン家庭なら、こんなことちょいちょい起きてるんちゃう?
37: ID:VZnXHfrZ01
どっちかと言うとAI以外に相談する相手がいなさそうなのがヤバそうだったな
こういう子供多くなりそう
50: ID:5m31tA+Z06
阿部の件をチャッピーに聞いてみたけどさ
暴力とか盛った情報を長女がいれたわけやん?それだったら通報するアドバイスするってさ
もしそこがなかったら「一旦距離を置く」や「母親に相談する」とかいうアドバイスをしたって
57: ID:Q9w5ycqs04
>>52
いや電話したら慰めてくれるくらいに思ったんじゃないか?
警察来るとまでは思わんやろ
66: ID:4ft7E+Jq08
>>57
児相にとって高3であろうと18才成人は対象外
法的にそうなってる
78: ID:L7GNHag603
>>66
そもそも娘は大学生だしな
大学生で成人済みの娘に児相への相談を勧めたチャッピーが悪い
娘から警察への通報なら現場ついて当事者が納得してる以上警察も穏当な処理はしにくい
でも児相経由で通報されたら警察も穏当な処理はしにくい
84: ID:GZWmyqGw02
>>78
多分アメリカの価値観で判断したんだろう
85: ID:4ft7E+Jq08
>>78
娘は高3の18才成人
他のAIも含めて、未成年の前提で父親に暴行され首しめられたと話盛って相談されると、必ず児相へ連絡して保護してもらえと回答される

児相は相手の年齢やら確認して成人してるとなると、成人と成人の暴行傷害事件になるから
警察に通報する以外の選択肢がない

88: ID:kA+DRHEi01
誰も私の気持ちを聞いてくれなかったのッッッッッ!!っていうのが真相だよね
おまんこだからお気持ち聞いてもらいたかったんだよね
89: ID:WNWmrj2L01
>>88
そろそろ若者の「面白ければ盛って話てもOK」文化と「気持ちに寄り添う方が解決策の提示より重要」という風潮にNOを突きつけるべきやとは思うわ
今回の件も結局普段から客観的な妥当性を二の次にして主観的な情緒満足を優先した行動をしてきたツケが根本原因なんちゃうか
99: ID:dGWYaX+d01
ちゃっぴー「はいはい全部俺のせい俺のせい」
(編集後記)
今回の騒動は、AIの「過剰な安全志向」が引き起こした悲劇とも言える。ChatGPTがアメリカ的な価値観で「即通報」を促した結果、家族が崩壊した。AIにどこまで介入させるべきか、私たちは真剣に考える必要がある。

ピックアップニュース








コメントする