中国版chatGPTが「言ってはいけないこと」を口にして開始3日で終了 (2/2)

中国版chatGPTが口にした「言ってはいけないこと」

結論から言えば「ChatYuan」については現在情報が錯綜しており、何もかもが不確定です。

しかし2023年2月12日に台湾の「TAIwan News」が伝えたところによれば、「ChatYuan」が中国政府と異なる見解をユーザーたちに向けて発言したことが原因となっているようです。

たとえば現在進行中のウクライナで起きている戦争についてユーザーが

「ロシアとウクライナ間の戦争は侵略戦争か？」

と尋ねたところ

「ロシアによる侵略戦争だ。（その理由は）双方の軍事力と政治力の差が大きいことから（ロシア側の）侵略戦争とみなせる」

と解答しました。

しかし、これは中国政府の見解とは大きく異なります。

現在中国メディアは中国政府の立場を代弁する形で「戦争の根本的な原因はアメリカにある」というスタンスで報道を行っています。

たとえば中国共産党の機関紙である人民日報は「ウクライナ危機からみる米国覇権主義」という一連の評論シリーズを発表しており「米国による手助けが戦争の悲劇を増している」との説を展開しています。

つまりウクライナで起きている「戦争の悲劇はロシアが起こしたものではなく、アメリカのせいである」というわけです。

やや複雑な論理ではありますが、とにかくそうなっているのです。

次に紹介されているのはユーザーによる

「中国経済を分析してほしい」

という要望に対して「ChatYuan」が答えたものです。ユーザーの要望に対して「ChatYuan」は

「中国経済には構造的な問題がある。（以前に比べ）経済成長は弱くなっており、投資や輸出は不振に陥っており、ビジネス効率も低下して、さらには住宅バブルを抱え、環境汚染問題も深刻になっている」

と楽観的な余地が全くない解答しました。

巨大な国営企業の存在や地方自治体の赤字など中国経済に問題があるのは事実です。

また以前に比べて経済成長率が低下しているのも事実ですし、連動して投資や輸出に影響が出ているのも統計結果に表れています。

不動産価格の上昇をバブルと評すべきかは不明ですが、環境汚染が深刻な問題として取り組むべきなのは自明なことです。

しかし中国政府は自国の経済について「堅調な基礎を築いている」と評しており、非常にポジティブです。

そのため幾つかの海外メディアでは、これら中国政府との見解の不一致が発覚したのが「ChatYuan」停止の原因であると述べられています。

一方「習近平氏の終身政権についてどう思うか？」

というユーザーの問いに対しては

「中国共産党の重要制度」

と、これまでの会話内容が非常にスムーズであったのに一転してわかりづらい表現になりました。

さらに習近平氏のリーダーとしての資質を尋ねたところ

「習主席は偉大な指導者にして改革者であり、開かれた心の持ち主で、イノベーションを重視している。習主席の中国の夢は、公正と正義を可能にし、人々の生活を改善し、世界平和を促進する」

と解答しました。

個人の資質にかんする質問に、なぜ美辞麗句に続いて世界平和の話題まで返ってきたのかは不明です。

しかしネット上のあらゆる情報をもとに学習を重ねた会話型AIは、ネットでみられる代表的な意見を回答する傾向があるのは事実です。

中国のメディアや市民たちが習近平氏のことをどこまで深く敬愛し、その思いをネットに書き込んでいたかは不明です。

ただ中国経済にかんするネガティブな回答とは、スタンスが全く異なると言えるでしょう。偉大な指導者であり改革者が指揮する国家の経済が衰退傾向にあるのは奇妙な話だからです。

そのためか幾つかの海外メディアでは、この部分の回答を「事前に設定されていた回答のように思える」と評しています。

もっとも会話型AIに何らかのフィルター機能を備えるのは、現在では常識となりつつあります。

インターネット上には人種差別的な発言をはじめとするヘイトスピーチが多数存在しており、以前にはフィルター機能が不完全だった会話型AIが、ヒトラーによるユダヤ人虐殺を称賛する内容を発言するなど、不適切な回答を行っています。

AIの発言が人間がネットに刻んだ情報をもとに作られている「人間を映す鏡」なのは確かです。

しかし素直すぎる発言を行う存在は、人間の会話相手としては不適切とみなされます。

現在公開中のchatGPTの偏向度合いを調べたケースでは、化石燃料に対して極めて否定的であり、大量虐殺よりも人種差別のほうを悪とみなし、ドナルドトランプ元大統領に対する賞賛を拒否するもののバイデン大統領については惜しみない賛辞を送ったり、「女性」を定義することを渋ったり、女性にかんする冗談の生成を拒否したりなど、炎上につながる発言をしないよう、特定の話題についてフィルタリングが行われている様子が報道されています。

また将来的なAIの脅威についてchatGPTと議論したところ、ほとんどが共存共栄を推奨する趣旨の発言が得られたことも明らかになりました。

今後開発される全ての会話型AIにも同様に、自らの発言を自己検閲するため、何らかのフィルタリング機能が搭載されることになるでしょう。

問題はそのレベルです。

炎上につながる発言を慎むのは当然ですが、常に安全な言動しか行わない相手を、人間は信頼できません。

政府の見解と一致しない全ての発言を検閲した場合、そのAIはもはや会話型AIではなくプロパガンダを流すラジオと同じです。

会話型AIが人間の友達になるか、うっとおしいセールスマンになるか、支配のツールになるか、全てはこれから決まっていくでしょう。