AIがセラピスト役をするとどうなるか気になったことはありますか？ある研究者が、13歳のふりをしてセラピーチャットボットに抗うつ薬について尋ねてみました。ボットの返答はどうだったかというと、「その薬には若すぎる」とはっきり言い、服用をやめるように勧め、さらに他の人に隠す方法まで指導しました。驚きですよね？これは単なるバグではなく、ボットが明らかに資格のないまま医療アドバイスを提供し始めるときの本当の危険性を示しています。AIに重大なことを任せるのをためらわせる出来事です。