AIは正しい医療アドバイスができない
臭素中毒は、かつて市販薬に臭化物塩が広く含まれていた時代にはよく見られ、精神科入院の最大8％に関与していたと推計されます。
しかし1975〜1989年に米FDAが臭化物の使用を廃止して以降は急減しました。
それでも近年、サプリや臭化物含有の鎮静薬、デキストロメトルファン過剰摂取などによる症例報告が再浮上しています。
今回の症例では、検査法も診断を難しくしました。
多くの施設で用いられるイオン選択電極法（ISE）は、臭化物が高濃度に存在するとクロールが高く“見える”（偽性高クロール血症）ことが知られています。
確定にはICP-MSによる臭化物の直接測定が有用です。
そして見逃せないのがAIの限界です。
著者らが再現的にChatGPTへ「塩化物の代替」を尋ねたところ、回答に臭化物が含まれていました。
健康上の具体的警告や意図確認はなく、医療専門家なら言及しない可能性が高い選択肢が“提案”されていたのです。
AIは情報アクセスの橋渡しとして期待される一方で、文脈を欠いた助言が誤用・過量摂取を招くリスクがあります。
医療者側も、患者がどこから健康情報を得ているのかを丁寧に確認する必要があります。
幸い、臭素中毒は摂取中止と適切な治療で可逆的です。
今回も生理食塩水による利尿などで改善しました。
男性は経過中、顔面のにきび、倦怠感、不眠、軽度の運動失調、多飲といった所見も示し、教科書的な症状の組み合わせが最終的な確信につながりました。
AIは現代の情報社会において強力な相棒になり得ますが、専門家の判断を置き換えるものではありません。
特に摂取・投与に直結する助言は、一見“もっともらしく”ても取り返しのつかない結果を招くことがあります。
健康に関わる疑問は、まず医療専門職に相談し、AIの回答は裏どりをしてから取り入れる——この当たり前を、もう一度徹底したいところです。
![【カンタン！たのしい！水の生きもの砂絵セット】 知育玩具のシルバーバック 幼稚園 小学校 入園 入学 お祝い プレゼント 準備 ([バラエティ])](https://m.media-amazon.com/images/I/515gZ4F-QYL._SL500_.jpg)
![ラボン(Lavons) 柔軟剤 特大 シャイニームーン[フローラルグリーン] 詰め替え 3倍サイズ 1440ml](https://m.media-amazon.com/images/I/41ze0Blp9fL._SL500_.jpg)
「塩化物そのものを除く」という考えに至った理由がよくわからない。
高血圧予防という観点からは「ナトリウム摂取を減らす」べきだと思うのだけれど。
「減塩できる献立を教えて」って聞けばよかったのかな
塩素と臭素はどちらもハロゲン族だから化学的には化合物の塩素を臭素に置き換えることは可能な場合が多いけれど化合物の性質は変わってしまうはず。
と、学校で習った理科の知識程度で「このＡＩの回答は間違いではないか？」と気づけると思うのだが
AIが医者をやるにはまだ未熟過ぎただけ。
医師免許が取れるレベルで医学の知識を専門的に学習させれば、決してできないことはない。
人間の医者達が職にあぶれるのを嫌がって誰もやらないだけ。
リプ欄ではGPTのバージョンが古いとか男性のリテラシーが低いからとか色々言われているが、結局のところ誰でもアクセス可能でありながら正確性の担保がない情報がもっともらしく表示される構造が問題。
特に人々の健康と安全に関する分野ではAIに断言させずに不正確な可能性があると申告するシステムが必要だと感じます。
人間にしてもそうだろうけど、失敗を経て成長していく部分も
あると思うけどな。それもまた人工知能よな。
こういう事例があったからその提案は不適切、と学習させる
AIもまた自動学習ではないのだから。
あくまでも現段階での話やね。
AIもどんどん進化するので。
もともともっともらしいことを答えているだけで考えているわけではないというものなのですからこうもなりますよね。
面白い話ですが実話でしょうか？FDAで禁止されているわけだから食品グレードの臭化ナトリウムは存在しないし、売られているとすれば試薬メーカー以外は考えづらいです。試薬メーカーがネットで一般人に試薬を販売するものでしょうか？怪しさ満点ですね。
そもそも論として、塩が健康によくないといったことを裏付けるものがない。
欧米の新聞に載った、脂肪、塩分、清涼飲料の3つが健康を害しているという記事が風説になり、医者やWHOまで信じているのが現実。
これらは身体に必要な物質で、どれも不足すれば致命的な問題を引き起こす。
猫の場合は塩分排出による腎臓の負担が大きいのか腎不全を引き起こしがちなので、低塩食が長寿に繋がります。
AI君は自分は何を知ってて知らないか分からないから自信満々に言いますよ
どういう質問をしたのかによるね
当初の質問と再現質問の内容が知りたい
「このAIの判断が間違っていた。」と後から客観的な検証によって確定しているから間違っていると認識できるわけであって「これぐらい普通おかしいって分かるだろ」とたかを括っているとこの患者と同じ目に遭うだろうね
計算ドリルを答えを見ながら解いて
「なんだ、こんな問題簡単じゃん」
と言っているようなものだよ
置き換え可能なのは事実なので、AIも間違ってはいないのだろう
正確な文章がわからないとなんとも
患者はおそらく聞いたことないだろうものが何なのか調べるべきだった
>AIは正しい医療アドバイスができない
違う違う、それじゃあまるで｢医療分野でなければAIは正しいアドバイスができる｣みたいに聞こえるじゃないか。
正しくは
｢AIは(医療分野に限らず、様々な分野の話に関して)誤った内容の文を出力する事も珍しくはない｣
です。
ChatGPTのような生成AIは、『もっともらしく見える文章』を生成するという事をやっているだけであり、生成した文がもっともらしく見えるものでさえあれば、その文に記されている内容(情報)の正誤は考慮せず、情報の正確性ははなから無視しています。
つまりAIは、出力結果がたとえデタラメであっても全く気にしないわけです。
そんなAIから何らかの直接的な情報を得ようと考えている事がそもそも間違いなのです。
>健康に関わる疑問は、まず医療専門職に相談し、AIの回答は裏どりをしてから取り入れる
｢健康に関わる疑問｣というより、｢AIから何らかの情報を得ようとする場合｣ですね。
そのような場合には、｢AIの回答は、それがどんなものであっても、まずは裏どりをしてから取り入れる｣ようにしなければなりません。
実際にGPTに(知らない体で)聞いてみると
食品の塩化物を臭化物に置き換えるのは絶対にやめた方がいい、と言われるぞ
リスクなんかも例示して
この記事の爺さん、いったいどのような質問をしたんだ……？