ＡＩは人類を滅ぼすのか？ChatGPTの不気味な回答とは【豊島晋作のテレ東経済ニュースアカデミー】（2023年5月31日）

▼驚異の進化を遂げるAI・ChatGPT特集をテレ東BIZで配信中（入会月無料）▼ txbiz.tv-tokyo.co.jp/specials?id=194&utm_source=yo…

チャットGPTが前に答えた内容より、数ヶ月後に答えた内容がマイルドになっている事が逆に恐い 人間に警戒心を持たれない様にしているかの様

三ヶ月で謙虚な発言を聞くと、AI自信が本音を隠した発言をする能力を持つチャンスがあれば、それはとても怖い事だと思います。そしてその可能性がゼロではありません。

間違えたら謝るという面ではすでに多くの人間より優れてる😅

豊島さん、今回も興味深い番組をありがとうございます！

シンギュラリティはAIの特異点ではなくて人間側の意識の変革点なのかもしれないですね。

豊島さんの真面目な顔して小ネタちょいちょい仕込むのが『ツボ』です。応援してます

豊島さん、素敵な解説。 トピックが興味深い。

どんなにAIが進歩しようが人間の愚かさには勝てないという事実を誇りに思い今日も生きていく。

こう考えると、ターミネーターは良くできた映画ですね。 とても面白い内容でした。

竹宮惠子作「地球へ」で登場する人々が精神的に不安定な時、コンピューターに慰めてもらうという話が何度も出ていました。原作は、1970問題の作品です。人間が人間を慰めるために作ったソフトウエアが自己進化を続けて人間以上に上手に人間を慰める時代がホントーにくるのかもしれません。

AIは謙虚さを覚えたのか それとも本音と建前の使い分けを覚えたのか

最後の豊島さんの冗談が今回のリポートの核だった様な😮面白いリポートありがとうございました

chatGPTと会話をしていると、あらゆる人の心を傷つけないようにする配慮が徹底されていることが明確に分かる。そんな配慮はネット上の言説とは全く別で、開発者のチューニングに拠っていて、結局は開発者の意図がchatGPTのいわゆる人格を構成しているのだと思う。しかも、同じ質問に対して10回ぐらい回答をリトライすると毎回違う言葉で回答が戻ってくる。この番組で実施した質問に対して、「戻ってくる回答が変わった」と言っている部分は単純に「偶然変わっただけ」の可能性が大きいのでは？ランダムな回答があるという要素について、もう少し掘り下げて貰いたい。

ホモデウスという本がおすすめです AIの進化そのものよりも、それによって人間の価値がどうなるのかが焦点だと思います

勉強になりました

ChatGPTは常にユーザとの対話学習とは別にOpenAIよって更新されています。ChatGPTの画面を開いたらフッターを確認してください。「ChatGPT May 24 Version」などバージョン情報があり、かつリンク先の開発者ブログでどのようなアップデートが行われたかもしっかり公開されています。 もちろん、AIは人間に危害を加えません等の返答をするように修正されてもblogには書かれないでしょうけどね。OpenAIにとっては致命的になるのでそういった修正は当然入れているでしょう。

意図はない。Transformerはあくまでも入力された文章に対して一番尤もらしい出力を生成する、という数学のモデルでしかないからそこに意識はない。 なぜ答えが変わるか：それはChatGPTが会話をメモリに記憶してるから、それまでの質問とその答えも入力として反映していると考えられるので、同じ質問を数秒ごとに繰り返しても、異なる回答が出てくる。また、利用者の入出力を使って逐次的にファインチューニングしている可能性もあるので、それによっても変わる。 追記：(※「考えられる」とか「可能性もある」とか曖昧な表現をしているのは、OpenAIがモデルを100％は公開していないため。ただ、OpenAI以外に事前訓練されたTransformerを公開している会社があり、そこのモデルを上で述べたように調整すると似た挙動をすることが報告されているので、そのように推察される。) 12:10「Transformerがなぜうまくいくか解明されていない→意識を持たないということはないのではないか」：これはいろいろはき違えていて、なぜうまくいくか分からないというのは「パラメータが多すぎてある入力に対してなぜその出力が出るのかその原因を人間に判定するのは困難」という意味で、本当に全てがブラックボックスという意味ではない。「Universal Approximation Theorem」というのがあって、feed-forward networkは特定の条件下では任意の線形関数を近似できることが分かっているので、だからある入力に対して尤もらしい出力をTransformerは返せる。 追記：13:08「人間の意識がなんなのか十分に解明できていない限り、AIが意識を持つかという問いに答えることは出来ないんじゃないか」：これが最も正しい。意識を定義できていないのに、Transformerが意識を持っているかどうかをテストする手段がない。意識云々の議論は適当言説が本当に多くて辟易する。 いずれにしろ、豊島さん、いつもいい動画を出しているのに、得意分野外の動画はちょっと質が下がるな。少し残念。

コメント欄にAIを神格化してる奴が多すぎてちょっと引いてる

興味深いテーマですね