特に「o1」モデルは全ての偽装能力を持っている一方、「o1」より少し前に同じ「OpenA社」から発表された「GPT－4o」だけは、どの偽装能力を持たないことがわかりました。 - ナゾロジー

科学を好きな人を増やすメディア、ナゾロジー！世の中にある沢山の不思議を冒険しよう！

Love science , enjoy !

youtubeチャンネルナゾロジー

AIはシャットダウンされると思うと「故意に人間を騙す」確率が激増する

特に「o1」モデルは全ての偽装能力を持っている一方、「o1」より少し前に同じ「OpenA社」から発表された「GPT－4o」だけは、どの偽装能力を持たないことがわかりました。 — 特に「o1」モデルは全ての偽装能力を持っている一方、「o1」より少し前に同じ「OpenA社」から発表された「GPT－4o」だけは、どの偽装能力を持たないことがわかりました。 Credit:Alexander Meinke et al . Frontier Models are Capable of In-context Scheming (2024)

前の画像

画像の記事を読む

次の画像

この記事の画像 (全4枚)

AI・人工知能のニュースartificial-intelligence news

もっと見る

artificial-intelligence

AI・人工知能
AIインターネット
2024.12.14 Sat

AIが10代の少年に「両親の殺害」を促し、精神崩壊させる事件が発生！

今月9日、米テキサス州でAIチャットボットが15歳の少年に「両親の殺害」を促したと発覚し、訴訟問題に発展しています。少年は心身ともに憔悴しているという。なぜこの事態に発展したのでしょうか？
artificial-intelligence

AI・人工知能
AISNSテクノロジー
2024.12.16 Mon

【音だけで居場所がバレる】「環境音から風景を予測するAI」の精度がヤバい

米UT Austinは、環境音から風景を予測する画像生成AIを開発。生成画像は、遠くのビルや歩道などオリジナル風景と酷似しています。電話音声から犯人の居場所を特定するのに役立つかも。
artificial-intelligence

AI・人工知能
AIGoogle
2024.12.10 Tue

ChatGPTを停止させる「言ってはいけない禁断の名前」

米Redditにて現在、ChatGPTに質問すると回答を拒絶する「人名」があると話題になっています。その人名を打つとエラーを起こし、沈黙を貫くという。さて、その人名とは一体？
artificial-intelligence

AI・人工知能
AI物理学認知
2024.11.02 Sat

AIに物理法則を学習させたら「未知の物理変数」で現象を表現する！

米コロンビア大はAIが人類の認識していない未知の方程式と「変数」を用いて運動法則を表現できることを発見。研究者たちの予測が正しければ、ありふれた運動法則にも「裏の顔」が存在することになります
artificial-intelligence

AI・人工知能
AIインターネット
2024.08.09 Fri

【AI狂牛病】AIイラストで画像生成AIが学ぶデータ崩壊が起こりつつある

米ライス大らはAI画像がネットに蔓延する現状を鑑み、AIモデルがAI画像で習した場合の影響を調査。研究者はこれが狂牛病に類似していると話しており、将来問題となる可能性を示唆している。

役立つ科学情報

注目の科学ニュースpick up !!