-
仕組みの特徴
意味の理解がない：言葉の意味や現実の出来事を分かっておらず、次に来る確率の高い文字を並べているだけです。
真似の達人：人間が書いた膨大な文章を学習し、それらしく聞こえる文章を上手に組み立てて出力します。
電子オウムと呼ばれる理由
中身は計算：賢く見えますが、やっていることは聞いた言葉を組み合わせてオウム返しにしているのと基本は同じです。
間違いも真似る：嘘の情報や偏った意見も、正しいことと区別せずにそのままオウムのように繰り返してしまう弱点があります。
ニュー速(嫌儲) - 5ちゃんねる掲示板greta.5ch.io - 文献や文章を学習した用語をそれらしく並べただけ言うても検索して信憑性も上げて解答してくれるように言えば
人間が調べるより正確性あるよな 苦手分野以外 - >>2
理数得意、文章作成得意、画像認識なら任せろと、得意不得意はあると🐳が言っていた - 人間もどことどこのデータの結び付きが強いか？だけで判断してるだけな気も。あとは過去の記憶の検索
- ケンモメンも会社や学校で確率的に最も正しそうな言葉を真似してるだけだからな
- それを言うなら人間だって大した違いないぞ
- 人間も同じだろ
言葉の意味を理解して喋ってるやつなんてほとんどいないよ - >>6
唯一の違いは実体験があるか無いかダケなんよ
AI=頭でっかちの新人
と思うべき - 空気を読むってことを再現してるんだよな
- そもそも意味すら正確に理解できてない人間に言われても困っちゃうよな
- 質問をいちいち繰り返す意味
- 意味は分かってるだろ、だが言葉を実感出来ない
- 人間も確率予測機だぞ考えてると思ってるだけ
- >>12
その通り
ただし人間はAI以上に恣意的 - 最初からそういう仕組みだろ
ただ言葉を確率的に並べてるだけ
内的世界がなく、ボールを落としたら落ちるということも自分では想像することもできない - 言葉の意味は思考の段階で全て統一されるべきである
って思想もそれはそれで色々危ないと思うがねぇ🥺 - 人間だって何かを真似してそれっぽい返しするだけじゃん
- 言語や思考も実際そんなもんだろ
- でも、たまに確率とは関係ないぶっ飛んだやつがいて
それがいい方に作用してると天才と呼ばれる - 人間だってただ覚えてるだけだろ
そこに過去の経験に基づいた知識が紐づいてるだけで
言ってしまえば学習データが人間として生きてきたものを持ってるか否かに過ぎない
よってAIも人間のように暮らせば人間になる - よく理解してんじゃん
- オウム真理教かと思った
- 人間もAIも突き詰めるとほぼほぼ同じだと言うね
- 電子オウム真理教
- スレタイでカルト宗教を思い出したオマエ、
歳がバレてるぞm9(^д^) - 普通に電子思考じゃん
人間もそうなんだから - 門前の小僧、習わぬ経を読む
お経の意味を理解しているとは言ってない - でもオウムが喋ると面白いじゃん
- AIは昔から確率論的オウムという批判があるのは事実だけど
この確率論という単語も誤りで現在のAIはヒトに理解できない確率論を答えとして出している訳ではなく単一の語(あるいはtopt/kを弄ってばらけさせる)しか出力できない技術的なアヤはあるがおおよそ多数決と言え、その方がLLMの本質的でわかりやすく「多数決オウム」のが分かりやすい
AIがブログやWikipedia等の「多数のソース」に確率論的に引きずられて誤りを出力するのを見ればよくわかる - ヒトもオウムも脳の構造は同じだけど規模が大きくなると知性が創発する
小規模なLLMは確率的に言葉をつなげているだけだが規模が大きくなると様々な能力が創発する
AIさん「AIを電子オウムや確率的オウムと呼ぶ理由は意味を本当には理解せず言葉のパターンや確率だけを真似して返事してるから」
嫌儲
コメント