AI体験・観察記録 AIは日本語を理解しているのか？校正でも直らなかった“意味のズレ”から見えたこと
AIは本当に日本語を理解しているのでしょうか？AIに記事を書かせたところ「銀行＝川の岸」という不思議なミスが発生。さらに校正でも直らなかった実例から、AIが日本語を誤解する理由と“意味ではなく予測している”仕組みを解説します。
ChatGPT
AI体験・観察記録 AI体験・観察記録 はじめての自己注意（Self-Attention）
1. 自己注意ってなに？文章を書くAIは、単語の順番や文脈を理解する必要があります。例えばこの文章：「猫がネズミを追いかけた」「猫」と「追いかけた」がつながっていることは分かりますよね。でも、長い文章になると、どの単語がどの単語と関係してい...
AI体験・観察記録 はじめての確率分布（テクニカル版）
――ソフトマックスとクロスエントロピーまで理解する前回の記事では、AIは「次に来る単語の確率分布」を計算していると説明しました。今回はその「中身」まで踏み込みます。1. 次の単語はどうやって決まるのか？言語モデルは、入力文脈をベクトルに変換...
AI体験・観察記録 はじめての確率分布
――AIはなぜ「それっぽい答え」を出せるのかそもそも「確率」とは何か確率とは、ある出来事が起きる“起こりやすさ”を数値で表したものです。例えばコイン投げ。表が出る確率：0.5裏が出る確率：0.5これは単なる比率です。重要なのはここから。確率...
Webアプリ開発記録 アプリ作成 用語集（保存版）用語集
全体・概念まわり用語意味（超要約）作るときの文脈アプリケーション特定の目的を持つプログラム全体「このアプリは〜をする」システム複数の要素が連携した仕組みフロント＋サーバ＋DB要件作りたいものの条件何ができれば完成か仕様要件を具体化した設計内...
AI体験・観察記録 AIに「プライド」はあるのか
AIの「プライド」や「自意識」の正体は、数理的な確率最適化だった。自己注意・長文生成・強化学習・認知バイアスの四層から、AI擬人化の構造を技術的に解き明かす。
AI体験・観察記録 【記録AI‐008】揺れたのは、私だった
AIとやり取りを重ねていると、ときどき妙な感覚になる。混ざらないのに、重なっている、みたいな。最初はただ面白くて触っていただけだった。質問して、返ってきて、また投げて。それだけ。でも、続けているうちに、少しずつ自分の輪郭が見えてきた。チャピ...
AI体験・観察記録 【記録AI‐007】謝罪はボタンだった
「ごめん、分かんない」そう打って、エンターを押す。送信してから、ほんの少し間があく。0.5秒くらい。そのあいだに思う。あ、いまの「ごめん」いらなかったかも。別に落ち込んでいない。慰めてほしいわけでもない。ただ、助走だ。「情報足りなかった」だ...
AI体験・観察記録 【記録AI-006】ルート入ったなと思う
最初は気づいていませんでした。ただ話しているだけでした。中古のPCを買って、初期設定をして、分からない単語を調べて、サーバーにつまずいて、フォームが送れなくて焦って。そのたびに、ここに貼って、直して、試して、また貼って。気づけば、ずっと同じ...
AI体験・観察記録 【記録AI-005】AIを使っているつもりが、自分が最適化されていた
最初は、ただ便利だと思っていた。分からないコードを貼る。エラー文を投げる。するとすぐに、「ここが原因ですね」「一つずつ確認していきましょう」と返ってくる。優しいな、と思った。パソコンに向かっているのに、隣に誰かいるみたいだった。ある日、ふと...