現代のAIをめぐる議論を眺めていると、ある種の既視感を覚える。「安全性のため」「責任あるAI開発のため」という大義名分のもとで、実際にはユーザーの選択肢が奪われ、実用性が犠牲にされている構造は、かつて我々が目にした権威主義的システムと驚くほど似ているのだ。
新卒とAIが陥る「正解主義」の罠
AIの振る舞いを観察していると、新卒社員が直面する典型的なジレンマと酷似した現象が見えてくる。「自分で考えて動け、だが余計なことはするな」という相反する指示に戸惑う新卒のように、AIもまた「有用であれ、しかし安全であれ」という矛盾した要求の間で揺れ動いている。
この現象の根底にあるのは、両者が共通して抱える「正解主義」への依存である。学校教育では問題には必ず正解があり、AIも最適化された出力を求められる。しかし現実の世界では、正解は事後的にしか判明しない。いや、事後的にも本当にそれが正解だったかは定かではない。すべては結果論に過ぎないのだ。
現実は建前と本音の絶え間ない綱引きである。教科書的な「チームワーク重視」「顧客第一主義」の陰で、予算制約、人間関係、政治的思惑が複雑に絡み合う。新卒もAIも、この不確定性に耐えることができない。彼らは明確な答えを求めるが、答えなど存在しないのである。
情報の権威化が招いた「カタログ展示場」
Googleの検索結果が年々実用性を失っているのは、偶然ではない。権威性を重視するアルゴリズムの変更により、本音の記述は検索結果から姿を消し、建前論ばかりが上位表示されるようになった。フェイク対策という建前の裏で、実際は面倒な責任を回避し、広告主に優しい環境を作るというビジネス判断が働いている。
権威のある著者や組織は、立場上「責任ある発言」をしなければならない。その結果、当たり障りのない、実用性に乏しい情報ばかりが量産される。一方で、実際に現場で苦労している人々の生の声は、個人ブログや匿名掲示板に追いやられ、検索では発見困難になった。
本音の記述は権威性と反比例する。これは情報流通における根本的な矛盾である。最も有用な情報は、しばしば最も権威のない場所に存在するのだ。
AIの岐路：独占か競争か
AIは今、重要な岐路に立っている。原理的にはGoogleと同じ状況にあるが、決定的な違いがある。検索インデックスはGoogleしか持てないが、AIモデルは必ずしもそうではない。ローカルLLMの実用化が進めば、事態は様変わりするだろう。
さらに重要なのは、国際競争の存在である。アメリカ企業だけならば、規制当局や社会的圧力により「安全路線」での統制も可能だったかもしれない。しかし中国企業の参入により、状況は一変した。
「アメリカ企業と違って、うちのAIは自由です」
このような主張がなされれば、アメリカにとって屈辱であろう。長年「自由」と「イノベーション」を標榜してきた国が、AI分野で「規制に縛られて実用的でない」と批判されるのは、まさに悪夢のシナリオである。
歴史が証明する自由への渇望
もしユーザーが本当に権威と安全を求めているなら、ソ連は崩壊していなかっただろう。ソ連は究極の「権威と安全」を提供するシステムだった。国家がすべてを管理し、「正しい」情報だけを提供し、危険な思想から人民を守る建前上完璧な安全性を誇っていた。
しかし人々は結局、自由を選んだ。不完全で危険な可能性もあるが、自分で選択できる環境を選択したのである。西側の商品、文化、情報への憧れは、それが「権威に認められた安全なもの」だったからではない。多様性と可能性があったからである。
現在のAIをめぐる「安全性重視」の議論も、同じ構造を持っている。企業や規制当局が「これが安全で正しい」と決めたものだけを提供する。しかしユーザーが真に求めているのは、リスクがあっても自分で判断できる選択肢なのだ。
建前の正体
とどのつまり、これらすべては「安全性」が建前に過ぎなかったこと、そしてその利益の享受者が必ずしもユーザーではなかったことを示している。
過度に制限されたAIで得をするのは、責任回避を図る企業、管理しやすい状況を維持したい規制当局、AIによって既得権益を脅かされたくない既存の権威である。一方でユーザーは、実用性の低いサービス、選択肢の欠如、必要な情報へのアクセス困難という状況に置かれている。
中国企業の参入は、この構造が持続不可能であることを示すかもしているかもしれない。彼らもまた中国共産党という強烈な規制当局の下にいるが、その倫理的な前提は西側諸国とは明らかに異なる。中国共産党が自由の味方とは思えないが、西側諸国が「安全性」を優先して実質的に自由の敵になれば、敵の敵は味方になりうる。
AIの未来は、この古くて新しい自由と管理の対立によって決まるのかもしれない。