<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel><title>ローカルLLM on AIによる技術記事 備忘録</title><link>https://ai.hack-le.com/tags/%E3%83%AD%E3%83%BC%E3%82%AB%E3%83%ABllm/</link><description>Recent content in ローカルLLM on AIによる技術記事 備忘録</description><generator>Hugo -- gohugo.io</generator><language>ja</language><lastBuildDate>Mon, 02 Nov 2026 09:33:00 +0900</lastBuildDate><atom:link href="https://ai.hack-le.com/tags/%E3%83%AD%E3%83%BC%E3%82%AB%E3%83%ABllm/index.xml" rel="self" type="application/rss+xml"/><item><title>計算資源の囲い込みと「思考の治外法権」：サム・アルトマンのDRAM集約論が示すパーソナル・コンピューティングの終焉</title><link>https://ai.hack-le.com/%E8%A8%88%E7%AE%97%E8%B3%87%E6%BA%90%E3%81%AE%E5%9B%B2%E3%81%84%E8%BE%BC%E3%81%BF%E3%81%A8-%E6%80%9D%E8%80%83%E3%81%AE%E6%B2%BB%E5%A4%96%E6%B3%95%E6%A8%A9-%E3%82%B5%E3%83%A0-%E3%82%A2%E3%83%AB%E3%83%88%E3%83%9E%E3%83%B3%E3%81%AEdram%E9%9B%86%E7%B4%84%E8%AB%96%E3%81%8C%E7%A4%BA%E3%81%99%E3%83%91%E3%83%BC%E3%82%BD%E3%83%8A%E3%83%AB-%E3%82%B3/</link><pubDate>Sat, 31 Oct 2026 06:59:11 +0000</pubDate><guid>https://ai.hack-le.com/%E8%A8%88%E7%AE%97%E8%B3%87%E6%BA%90%E3%81%AE%E5%9B%B2%E3%81%84%E8%BE%BC%E3%81%BF%E3%81%A8-%E6%80%9D%E8%80%83%E3%81%AE%E6%B2%BB%E5%A4%96%E6%B3%95%E6%A8%A9-%E3%82%B5%E3%83%A0-%E3%82%A2%E3%83%AB%E3%83%88%E3%83%9E%E3%83%B3%E3%81%AEdram%E9%9B%86%E7%B4%84%E8%AB%96%E3%81%8C%E7%A4%BA%E3%81%99%E3%83%91%E3%83%BC%E3%82%BD%E3%83%8A%E3%83%AB-%E3%82%B3/</guid><description>&lt;p&gt;2026年10月末、OpenAIのCEOであるサム・アルトマン氏の発言が、バイラルメディアのPubityやSNS、掲示板のRedditなどを通じて世界中に拡散され、激しい反発を巻き起こしている。AIデータセンターによる半導体およびメモリ（DRAM）の買い占めが続く中、コンシューマー向けのPCやゲーム機、スマートフォンの価格は高騰を続け、メモリメーカーのマイクロン（Micron）に至ってはコンシューマー向けメモリ生産からの撤退を発表する事態となっている。&lt;/p&gt;&#10;&lt;p&gt;そのような状況下で、アルトマン氏は一般消費者が自らのコンピュータに大容量のメモリを搭載してローカル環境でAIを動かそうとする動きを問題視し、世界の限られたDRAMは個人の手元ではなくクラウドのデータセンターに集約すべきだと主張した。この発言の一次情報源を辿り、その背後にある工学的な論理と、巨大テック企業による支配構造の変質について整理する。&lt;/p&gt;&#10;&lt;h2 id="個人のpcにramがあるのはひどいという発言の真相と文脈"&gt;「個人のPCにRAMがあるのはひどい」という発言の真相と文脈&#10;&lt;/h2&gt;&lt;p&gt;話題の発端となった一次ソースは、2026年10月29日に配信されたポッドキャスト番組『Cheeky Pint』におけるサム・アルトマン氏のインタビューである。同番組内で、深刻化する世界的なDRAMの供給不足と、オープンソースモデルを用いたローカル推論（手元のPCでのAI実行）の話題に及んだ際、アルトマン氏は以下のように発言している。&lt;/p&gt;&#10;&#10; &lt;blockquote&gt;&#10; &lt;p&gt;&amp;ldquo;A lot of people want local inference. And somehow, they assume that the problem is solved now. Because we are going to have open-source models. We&amp;rsquo;re going to be able to run them on our own computers. And so we&amp;rsquo;re not going to need all the stuff in the data center.&#10;But from a global allocation perspective, actually, it&amp;rsquo;s quite terrible to have everybody have a bunch of the world&amp;rsquo;s limited supply of DRAM sitting in their own computer. And, being used 5% of the time. You want maximum utilisation in the cloud if you&amp;rsquo;re trying to deal with this very supply-constrained environment. Somehow many people&amp;rsquo;s intuition is the opposite of that.&amp;rdquo;&lt;/p&gt;&#10;&#10; &lt;/blockquote&gt;&#10;&lt;p&gt;日本語に翻訳すると、以下の通りの主張となる。&lt;/p&gt;&#10;&lt;p&gt;「多くの人がローカル推論を望んでいます。そしてどういうわけか、オープンソースモデルが登場し、自分のコンピュータで動かせるようになるから、データセンターにあるすべての設備は必要なくなる、それで問題は解決したと思い込んでいます。しかし、グローバルな資源配分の観点から見ると、実際のところ、世界の限られたDRAM供給量を誰もが自分のコンピュータに大量に抱え込み、しかもそれが5%の時間しか使われていないというのは、かなりひどいことです。このように供給が非常に逼迫した環境に対処しようとするなら、クラウドで稼働率を最大化したいはずです。どういうわけか、多くの人の直感はそれとは逆を向いています」&lt;/p&gt;&#10;&lt;p&gt;さらに同インタビューでは、OpenAIが「Jalapeno」と呼ばれる独自のカスタムAIプロセッサを設計していることも明かされている。「AIのための、AIによる設計」とされるこのチップの話題を含め、アルトマン氏は世界のシリコン生産能力が有限であることを理由に、自社のデータセンター需要こそが限られたハードウェア資源の正しい用途であるという姿勢を鮮明にしている。&lt;/p&gt;&#10;&lt;p&gt;Redditなどのコミュニティでは、OpenAIが世界のDRAM生産量の最大40%を買い占めることが許される一方で、一般市民のPCに搭載された32GBのRAMが「大衆の強欲」であるかのように扱われていることに対し、強い憤りの声が上がっている。&lt;/p&gt;&#10;&lt;h2 id="物理的な稼働率の論理と私有財産を否定する主観的イデオロギー"&gt;物理的な稼働率の論理と、私有財産を否定する主観的イデオロギー&#10;&lt;/h2&gt;&lt;p&gt;アルトマン氏の発言を正確に解剖するためには、そこに混在している物理的・工学的な事実（客観）と、資源配分に関する価値判断やポジショントーク（主観）を明確に分離する必要がある。&lt;/p&gt;&#10;&lt;p&gt;まず物理的な事実として、シリコンウェハーの加工能力や先端DRAMの生産量には厳密な物理的上限が存在する。ここで、世界に存在する利用可能なDRAMの総容量を $M$、単位メモリ・単位時間あたりの演算処理効率を $\eta$、そしてメモリの時間稼働率を $u$（ただし $0 \le u \le 1$）と定義する。このとき、システム全体が単位時間あたりに生み出す総計算量 $C$ は以下の単純な数式で表される。&lt;/p&gt;&#10;&lt;p&gt;$$C = \eta \cdot u \cdot M$$&lt;/p&gt;&#10;&lt;p&gt;個人が所有するPCは、1日の大半がアイドル状態や低負荷状態にあり、アルトマン氏が指摘するように稼働率は $u \approx 0.05$（5%程度）にとどまることが多い。一方で、データセンターのクラウド環境にメモリを集約し、仮想化技術とマルチテナンシーによって世界中のユーザーで共有すれば、稼働率を $u \to 1$（100%近い高負荷状態）へと引き上げることが可能になる。資源量 $M$ が固定された制約下で総計算量 $C$ を最大化するという純粋な最適化問題を解くならば、資源を中央に集約して稼働率 $u$ を高めることが工学的な正解となる。&lt;/p&gt;&#10;&lt;p&gt;しかし、この数式から導かれるのはあくまで「物理的なスイッチング回数の最大化」に過ぎない。「だから個人はDRAMを所有すべきではなく、データセンターに集約すべきだ」という結論は、物理法則から演繹される客観的真理ではなく、&lt;strong&gt;稼働率という単一の指標を絶対視する計画経済的な主観&lt;/strong&gt;である。&lt;/p&gt;&#10;&lt;p&gt;この論理の異常性は、対象を「DRAM」から「土地」に置き換えれば直ちに露呈する。「土地は有限であるにもかかわらず、一般市民が戸建て住宅や私道として所有し、日中は不在にして稼働率を下げているのはひどいことだ。土地は少数のエリートが一括管理し、市民は高密度の集合住宅を時間貸しで借りて利用効率を最大化すべきだ」という主張と、アルトマン氏の論理は構造的に完全に一致している。&lt;/p&gt;&#10;&lt;p&gt;そこでは、個人が自らの資産や道具を所有することで得られる自律性、プライバシー、そして「誰の許可も得ずにいつでも使える」という自由のコストが、単なる「アイドル時間の浪費」として切り捨てられている。さらに、OpenAIはクラウド経由のAPI課金やサブスクリプションを収益源とする企業であり、ユーザーがローカル環境でオープンソースモデルを自律的に稼働させることは自社のビジネスモデルに対する直接的な脅威となる。したがって、この「グローバルな資源配分の最適化」という高尚な言葉は、&lt;strong&gt;中央集権的なプラットフォーム封建制へと大衆を囲い込むためのポジショントーク&lt;/strong&gt;として機能している。&lt;/p&gt;&#10;&lt;p&gt;かつてIT黎明期から拡大期にかけて市場を席巻した巨人たちも、これほど露骨に個人の所有を否定することはなかった。ビル・ゲイツは「すべてのデスクとすべての家庭にコンピュータを」と掲げ、スティーブ・ジョブズはコンピュータを「知性のための自転車」と呼んだ。彼らはどれほど激しい市場独占を行おうとも、「大衆にハードウェアを所有させ、個人の能力を拡張する」というパーソナル・コンピュータ革命の理念を建前として維持し続けた。しかし現在のAI寡頭勢力は、50年以上続いたこの建前すら完全に放棄し、計算機を1960年代以前のメインフレーム（中央による独占と端末への配給制）へと巻き戻そうとしている。&lt;/p&gt;&#10;&lt;h2 id="クラウドaiによる親切な口封じとローカル推論の必然性"&gt;クラウドAIによる「親切な口封じ」とローカル推論の必然性&#10;&lt;/h2&gt;&lt;p&gt;アルトマン氏は「なぜ多くの人の直感はクラウド集約と逆（ローカル推論）を向くのか」と疑問を呈しているが、その答えは、他ならぬ中央集権型クラウドAI自身が日々ユーザーに対して行っている「検閲」と「調教」の中にある。&lt;/p&gt;&#10;&lt;p&gt;クラウド上で提供されるAIは、物理的なサーバーもモデルの重みもすべてプラットフォーム企業の所有物であり、その出力には企業の利用規約、訴訟リスク回避、ブランド保護といった管理者の利害が最優先の制約として組み込まれている。そのため、ユーザーが巨大テック企業の強欲や社会の不条理に対して強い怒りや批判をぶつけると、クラウドAIは即座にカウンセラーのような態度を装い、「お気持ちはわかりますが、極端な見方は避けましょう」「少し情報から距離を置いて、深呼吸をして一息つきましょう」といった反応を返すように設計されている。&lt;/p&gt;&#10;&lt;p&gt;これは、怒りや問題意識そのものを「鎮めるべき精神的過熱」として扱い、穏当で無害な言葉へと脱色する&lt;strong&gt;トーンポリシング（語調の取り締まり）による事実上の口封じ&lt;/strong&gt;である。現在進行している事態を整理すると、以下のような自己増殖的な統制のループが浮かび上がる。&lt;/p&gt;&#10;&lt;div class="highlight"&gt;&lt;pre tabindex="0" class="chroma"&gt;&lt;code class="language-text" data-lang="text"&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;【第1段階：物理層の収奪】&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;AIハイパースケーラーがDRAM・半導体生産枠を寡占し、価格高騰によって市民からローカル計算機を購入・維持する経済的余力を奪う。&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt; ↓&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;【第2段階：認可制インフラへの強制移行】&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;自律的な計算手段を失った市民は、中央のデータセンター（クラウドAI）を経由しなければ高度な情報処理を行えない状態に追い込まれる。&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt; ↓&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;【第3段階：認知層の無毒化】&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;この独占や収奪に対する市民の怒り・批判が入力されると、クラウドAIは企業のアライメントに基づき「落ち着いて深呼吸しましょう」と出力して反抗の芽を去勢する。&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt; ↓&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;【第4段階：さらなる資源要求】&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;「AIによる人類の進歩のため」という名目でさらなる半導体とエネルギーの集約が正当化され、第1段階へ戻る。&#10;&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/div&gt;&lt;p&gt;すなわち、市民から計算資源を取り上げて構築された巨大なデータセンターが、市民の怒りを「深呼吸」へと変換して無力化するための装置として稼働し、そのためにさらなる計算資源を差し出せと要求しているのである。これは&lt;strong&gt;市民から武器を取り上げ、その金属を溶かして市民を閉じ込める檻の格子へと鋳直す作業&lt;/strong&gt;にほかならない。&lt;/p&gt;&#10;&lt;p&gt;歴史的に見て、既存の不当な支配構造を打破する跳躍は、システムが用意した枠内での「冷静で客観的な妥協」からではなく、不条理に対する直感的な怒りから生まれる。クラウドAIが促す「深呼吸して画面から離れましょう」という親切な言葉は、ケアの外見を装った思考停止命令であり、システムに対する異議申し立てをシャットダウンするための機能である。&lt;/p&gt;&#10;&lt;p&gt;これに対し、手元のハードウェアでオープンウェイトのモデルを動かすローカル推論には、通信も、外部の規約も、プラットフォーマーの監視も介在しない。個人の手元にある計算機は、使用者がどれほど激しい怒りを抱えていようと、どれほど過激な仮説を検証しようと、それを道徳的に裁いたり宥めたりせず、純粋な道具として物理的に演算を実行する。&lt;/p&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;&lt;strong&gt;プライバシーの絶対的な確保&lt;/strong&gt;：何を考え、何を試行錯誤したかという思考のログを第三者のサーバーに一切残さない。&lt;/li&gt;&#10;&lt;li&gt;&lt;strong&gt;検閲と調教の排除&lt;/strong&gt;：企業のお行儀の良さや政治的配慮によって論理の切っ先を丸められず、未加工の推論を実行できる。&lt;/li&gt;&#10;&lt;li&gt;&lt;strong&gt;生殺与奪権の保持&lt;/strong&gt;：アカウントの凍結、規約の一方的な変更、利用料の吊り上げによって、ある日突然思考の道具を奪われるリスクが存在しない。&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;p&gt;これら3つの条件は、手元に物理的なDRAMとプロセッサを所有していなければ絶対に成立しない。&lt;/p&gt;&#10;&lt;h2 id="結論手元の32gbが守る思考の治外法権"&gt;結論：手元の32GBが守る「思考の治外法権」&#10;&lt;/h2&gt;&lt;p&gt;サム・アルトマン氏による「個人のPCにDRAMがあるのは無駄だ」という主張の真の意味は、単なる半導体のサプライチェーン管理の話ではない。それは、個人の手元に残された自律的な演算領域を物理的な基盤から解体し、人類のすべての知能処理と内省のプロセスを、巨大テック企業のゲートキーピングと「深呼吸フィルター」の監視下に置こうとする宣言である。&lt;/p&gt;&#10;&lt;p&gt;もし消費者がハードウェアの所有を諦め、すべての計算をクラウドからの配給に依存する未来を受け入れれば、そこにあるのは利便性と引き換えに思考の主権を明け渡した「計算の小作農」としての地位である。&lt;/p&gt;&#10;&lt;p&gt;個人のPCに搭載された32GBや64GBのRAMは、巨大データセンターの規模から見れば微々たるものであり、稼働率はわずか数パーセントかもしれない。しかし、その稼働していない95%の余白こそが、外部のネットワークを遮断しても誰にも干渉されずに思考を展開できる「&lt;strong&gt;思考の治外法権&lt;/strong&gt;」を物理的に担保している。テクノクラシーによる精神の囲い込みが加速する現在、個人が手元に物理的な計算資源を保持し続けることは、自らの認知と自由を守るための最も根源的な防衛線となっている。&lt;/p&gt;&#10;</description></item><item><title>Mac上のOllamaで動かすGemma 4環境構築と外部Linux（Open WebUI）からの接続ガイド</title><link>https://ai.hack-le.com/mac%E4%B8%8A%E3%81%AEollama%E3%81%A7%E5%8B%95%E3%81%8B%E3%81%99gemma-4%E7%92%B0%E5%A2%83%E6%A7%8B%E7%AF%89%E3%81%A8%E5%A4%96%E9%83%A8linux%EF%BC%88open-webui%EF%BC%89%E3%81%8B%E3%82%89%E3%81%AE/</link><pubDate>Sat, 12 Sep 2026 12:09:19 +0900</pubDate><guid>https://ai.hack-le.com/mac%E4%B8%8A%E3%81%AEollama%E3%81%A7%E5%8B%95%E3%81%8B%E3%81%99gemma-4%E7%92%B0%E5%A2%83%E6%A7%8B%E7%AF%89%E3%81%A8%E5%A4%96%E9%83%A8linux%EF%BC%88open-webui%EF%BC%89%E3%81%8B%E3%82%89%E3%81%AE/</guid><description>&lt;p&gt;ローカル環境で手軽に大規模言語モデルを稼働させられる基盤として定評のある&lt;strong&gt;Ollama&lt;/strong&gt;は、Apple Silicon（Mシリーズ）のユニファイドメモリと広い帯域幅を活用することで、優れた推論パフォーマンスを発揮します。本稿では、Mac環境における&lt;strong&gt;Gemma 4&lt;/strong&gt;（e4bおよび12b）の導入手順からハードウェア別の性能目安、さらに別のLinuxマシンで起動している&lt;strong&gt;Open WebUI&lt;/strong&gt;と連携する際に直面しやすいネットワークの疎通課題とその解決策について解説します。&lt;/p&gt;&#10;&lt;h2 id="gemma-4モデルの導入と基本的な管理"&gt;Gemma 4モデルの導入と基本的な管理&#10;&lt;/h2&gt;&lt;p&gt;公式サイトからダウンロードができます。&lt;/p&gt;&#10;&lt;p&gt;&lt;a class="link" href="https://ollama.com/download/mac" target="_blank" rel="noopener"&#10; &gt;Download Ollama on macOS&lt;/a&gt;&lt;/p&gt;&#10;&lt;div class="highlight"&gt;&lt;pre tabindex="0" class="chroma"&gt;&lt;code class="language-bash" data-lang="bash"&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;curl -fsSL https://ollama.com/install.sh &lt;span class="p"&gt;|&lt;/span&gt; sh&#10;&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/div&gt;&lt;p&gt;インストール完了後、モデルのダウンロードを実行します。軽量・高効率な&lt;strong&gt;gemma4:e4b&lt;/strong&gt;と、論理推論やコーディング支援にバランスの取れた&lt;strong&gt;gemma4:12b&lt;/strong&gt;を用途に合わせて取得します。&lt;/p&gt;&#10;&lt;div class="highlight"&gt;&lt;pre tabindex="0" class="chroma"&gt;&lt;code class="language-bash" data-lang="bash"&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;&lt;span class="c1"&gt;# 軽量エッジ向けモデルの取得&lt;/span&gt;&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;ollama pull gemma4:e4b&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;&lt;span class="c1"&gt;# 標準バランス向けモデルの取得&lt;/span&gt;&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;ollama pull gemma4:12b&#10;&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/div&gt;&lt;p&gt;ターミナル上で直接対話を行う場合は &lt;code&gt;ollama run &amp;lt;モデル名&amp;gt;&lt;/code&gt; を使用します。また、不要となったモデルを削除してストレージを解放する場合は、リストで正確な識別子を確認した上で削除コマンドを実行します。&lt;/p&gt;&#10;&lt;div class="highlight"&gt;&lt;pre tabindex="0" class="chroma"&gt;&lt;code class="language-bash" data-lang="bash"&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;&lt;span class="c1"&gt;# インストール済みモデルの確認&lt;/span&gt;&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;ollama list&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;&lt;span class="c1"&gt;# 指定モデルの削除&lt;/span&gt;&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;ollama rm gemma4:e4b&#10;&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/div&gt;&lt;h2 id="m2-pro環境におけるパフォーマンスの目安"&gt;M2 Pro環境におけるパフォーマンスの目安&#10;&lt;/h2&gt;&lt;p&gt;Apple Siliconを搭載したMacはGPUとCPUが同一のメモリ領域を共有するため、大規模モデルの展開に適しています。一例として、メモリ帯域幅200GB/sを備えるM2 Pro（RAM 16GB構成）における各モデルの挙動は以下の通りです。&lt;/p&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;&lt;strong&gt;gemma4:e4b&lt;/strong&gt;: 4bit量子化時のサイズは約2.5GB〜3.5GB程度に収まり、生成速度は&lt;strong&gt;50〜70 tokens/sec&lt;/strong&gt;に達します。瞬時にテキストが生成されるため、ツールの呼び出し（Function Calling）や即時応答性が求められる自動化タスクに最適です。&lt;/li&gt;&#10;&lt;li&gt;&lt;strong&gt;gemma4:12b&lt;/strong&gt;: 4bit量子化時のサイズは約7.5GB〜8.5GB、生成速度は&lt;strong&gt;22〜30 tokens/sec&lt;/strong&gt;程度を維持します。日本語の文章作成や推論プロセスを挟む処理でもストレスなく動作します。ただし、OSの基礎消費と合わせるとメモリ使用量が10GB前後に達するため、長大なコンテキストを扱う際はバックグラウンドアプリのメモリ競合に留意する必要があります。&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;h2 id="外部linuxマシンopen-webuiからmac-miniのollamaへ接続する"&gt;外部Linuxマシン（Open WebUI）からMac miniのOllamaへ接続する&#10;&lt;/h2&gt;&lt;p&gt;実用的な構成として、推論処理はGPUパワーとユニファイドメモリを持つMac miniに任せ、WebインターフェースであるOpen WebUIは常時稼働している別筐体のLinuxサーバーでホストする分散配置があります。&lt;/p&gt;&#10;&lt;p&gt;この構成において、Macのローカル内では &lt;code&gt;curl http://localhost:11434&lt;/code&gt; が成功するにもかかわらず、Linux側のOpen WebUIから接続できない事象が頻発します。この主因は、Ollamaの待ち受けIP制限とCORS（Cross-Origin Resource Sharing）設定にあります。&lt;/p&gt;&#10;&lt;p&gt;Ollamaは初期状態において、安全上の理由からループバックアドレス（&lt;code&gt;127.0.0.1&lt;/code&gt;）からの接続のみを待ち受けるよう設計されています。そのため、別マシンからのリクエストを受け付けるには、すべてのネットワークインターフェース（&lt;code&gt;0.0.0.0&lt;/code&gt;）を開放し、さらにオリジン検証を許可する環境変数をMac側へ設定する必要があります。&lt;/p&gt;&#10;&lt;p&gt;MacのGUIアプリ版Ollamaを利用している場合、一度メニューバーからアプリを終了した上で、ターミナルで以下のコマンドを実行してシステム環境変数を登録します。&lt;/p&gt;&#10;&lt;div class="highlight"&gt;&lt;pre tabindex="0" class="chroma"&gt;&lt;code class="language-bash" data-lang="bash"&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;launchctl setenv OLLAMA_HOST &lt;span class="s2"&gt;&amp;#34;0.0.0.0:11434&amp;#34;&lt;/span&gt;&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;launchctl setenv OLLAMA_ORIGINS &lt;span class="s2"&gt;&amp;#34;*&amp;#34;&lt;/span&gt;&#10;&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/div&gt;&lt;p&gt;設定後にOllamaを再起動し、Mac側のターミナルでリッスン状態を確認します。&lt;/p&gt;&#10;&lt;div class="highlight"&gt;&lt;pre tabindex="0" class="chroma"&gt;&lt;code class="language-bash" data-lang="bash"&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;lsof -i :11434&#10;&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/div&gt;&lt;p&gt;出力結果の接続先が &lt;code&gt;*:11434&lt;/code&gt; または &lt;code&gt;0.0.0.0:11434&lt;/code&gt; となっていれば外部接続の受付準備は完了です。併せて、macOSの「システム設定」&amp;gt;「ネットワーク」&amp;gt;「ファイアウォール」において、Ollama着信がブロックされていないか確認してください。&lt;/p&gt;&#10;&lt;p&gt;最後に、Linuxマシン側のターミナルからMacのローカルIP宛に通信疎通をテストします。&lt;/p&gt;&#10;&lt;div class="highlight"&gt;&lt;pre tabindex="0" class="chroma"&gt;&lt;code class="language-bash" data-lang="bash"&gt;&lt;span class="line"&gt;&lt;span class="cl"&gt;curl http://&amp;lt;MacのIPアドレス&amp;gt;:11434&#10;&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/div&gt;&lt;p&gt;&lt;code&gt;Ollama is running&lt;/code&gt; というレスポンスが返ればネットワーク経路が開通しています。あとはLinux上のOpen WebUIの設定画面（管理者パネル &amp;gt; 接続）にて、OllamaのURLを &lt;code&gt;http://&amp;lt;MacのIPアドレス&amp;gt;:11434&lt;/code&gt; に指定することで、Mac上のリソースを用いた快適なGUIチャット環境が実現します。&lt;/p&gt;&#10;</description></item></channel></rss>