生成AIの発展は急速であり、その記事が目につかない日はない。手法も適用範囲も日々拡大しており、社会へのインパクトは大きい。これまでのIT業界のばずわーどであったDXとかブロックチェーンとかを超えるであろう。
とくに、大規模言語モデルは人の言語処理能力を凌駕しているようだ。SEや法律家など専門家の能力を超えるものもあるようだが、専門家をAIに置き換えらるかどうかは慎重な判断が求められる。
ハルシネーションがその主要な足かせのようだが、どうもそれだけで済まないかもしれない。自律的学習という側面でもどうも独り立ちは難しいと自分は推測している。
ユーザと会話していれば自己組織化していずれは相手の意向をくみ取るパートナーになる、というのはどうも今のサービス形態では難しいようだ。LLMとの会話セッションは上限があるようだし、独自情報の学習量も上限があるからだ。
記憶容量が限られる短期的な相談窓口みたいなサービスがサブスクリプションでの主流だと推測している。それで十分なユーザも多かろう。
自律性が限定されている。問いかけへの応答がいまの利用形態であるが、問いかけのレベルが低いと応答の内容がありきたりになるのは当然というのが、AI専門家たちの常識のようだ。
日常での会話を考えてきたまえ！
できる人は問い以上のことを返してくれる。こちらの問いを誘導してくれる。
LLMは常識的な回答を返してくる。意外性はあるのだが独自性はない。なぜなら、同じ問には同じ答えしか期待できないからだ。
LLMには造語能力がないようだ。略語を提案することもなさそうだ。とくにその語が前例がないなら、AI由来の新語はないと推測できる。
人びとの言語活動と比較したときにLLMの制約も明らかになるようだ。言語は変遷する。流行語や口調や音韻変化が自然言語にはつきものだ。しかし、LLMはそんな模倣はできない（訓練データからからしか）ゆえに、LLMは共時態でしか活動できないと思われる。
社会集団的な言語活動の結果であるテキストの集成体を訓練させているのだから、当然のことだろう。
（膨大な）テキストから学習するということは、あるいは時代遅れな技術であるかもしれない。画像、グラフ、音楽＆数学記号などとテキストが同時に読み込まれているからだ。あるいは動画や音声と結合されて訓練されるかもしれない。
であるが、それば言語活動の変化とは無縁に近いだろう。
普遍言語や記憶術は書物という記憶の媒体が身近になった時代（ルネサンス期）に急速に発展した。二次元平面の自由な表現は視覚と聴覚を結合して、思考力を増幅させる装置になった。それは今日も続いている。コンピュータはその延長にある。
組合せ術からあらゆる思考の経路が可視化されるという信念は、LLMのイデオロギーではないだろうか？
