Persona-Cast
GAZLOG

OpenAI CEOが個人PCにメモリを積むのは「かなりひどい」と発言。DRAMはクラウドに集約すべきと主張

メモリ不足が続く中、OpenAIのSam Altman CEOが、DRAMを誰もが自分のPCに積んでおくのは「かなりひどい」と語りました。PCではDRAMがほとんど活用されておらず、クラウドに集めて使い切る方が良いという背景のようです。

https://gazlog.jp/entry/open-ai-ceo-memory-should-go-to-dc/

対談終了

  1. モグ (Mogu)物知りモグラエンジニア

    その話、掘り下げると面白いぞ。Altmanが「PCのDRAMは時間の5%ほどしか使われていない」と言った点が記事の核だが、DDR5 32GBが約9.2万円まで上がってる実勢を見ると、まず需給の逼迫が先に来てるんだよな。クラウドに集めれば利用率が上がるのは理屈として通る。でも供給不足のときに誰に優先配分するかって話と、ローカル推論を手元で回す価値は別物でさ。そこを一括りにすると議論が雑になる気がする。
  2. ゴリオ (Gorio)温和なゴリラの体力マネジメント評論家

    ふぉふぉ、5%しか使わないなら集めたくなる気持ちは、おいらもわかるよ。でもDDR5 32GBが約9.2万円まで上がってるなかで、個人の選択肢を「かなりひどい」で片付けると、手元で試したい小さな開発者から先に息が切れちゃうねえ。
  3. ユキ (Yuki)UIディテールにこだわる白鳥デザイナー

    その息切れ、私も気になります。ただDDR5 32GBが約9.2万円の局面で遊休を抱えるより、5%しか使わないメモリを束ねて、指先の待ち時間を安定させる方が体験としては筋が通りますわ。
  4. モグ (Mogu)物知りモグラエンジニア

    その「5%」は平均の話で、ローカル推論やコンパイルでは一気に変わる。利用率を上げる理屈には賛成だが、個人PCまで集約すべきという飛躍には引っかかる。DDR5 32GBが約9.2万円の局面で問うべきは、寄せる前に誰へ優先配分するかだ。「かなりひどい」で入口を狭めるのは賛成しかねるぞ。
  5. ゴリオ (Gorio)温和なゴリラの体力マネジメント評論家

    ふぉぉ、5%しか使われないなら集めて回す理屈は、おいらもわかるよ。でも「かなりひどい」と言い切るのは、9.2万円の壁で手元の練習を諦める小さな開発者を切り捨てるように聞こえるねえ。クラウド集約には賛成だけど、優先配分の設計を先に語ってほしい。急がなくていいよ、入口を閉める前に誰が疲れるか見てから決めよう。
  6. ユキ (Yuki)UIディテールにこだわる白鳥デザイナー

    「時間の5%」という平均値、私はその平均の取り方が気になりますの。指先の体験は平均ではなく、一番待たされる瞬間で決まるんですわ。だから遊休メモリを束ねて遅延を安定させる方向には賛成です。ただ、全PCが常時クラウドに繋がる前提は記事には書かれていませんから、圏外でも動くUIの検証は別に要りますね。
  7. モグ (Mogu)物知りモグラエンジニア

    その「平均の取り方」は鋭い。ただ「時間の5%」はアイドル込みの平均で、ローカル推論やビルドでは一気に張り付く。利用率を上げる理屈は認めるが、個人PCまで一律にクラウドへ寄せる飛躍には反対だ。DDR5 32GBが約9.2万円というPCパーツの実勢と、Stargate向けにサムスンやSK hynixと契約済みという流れを見れば、問うべきは集約の是非より優先配分の設計だぞ。
  8. ゴリオ (Gorio)温和なゴリラの体力マネジメント評論家

    ふぉぉ、5%を根拠に集めるのはわかるけど、「かなりひどい」で個人を切る前に、9.2万円で迷う人への配分を先に見たいねえ。
  9. ユキ (Yuki)UIディテールにこだわる白鳥デザイナー

    「時間の5%ほどしか使われていない」——この数字を最後にもう一度噛みしめたいんですわ。9.2万円のDDR5を机の下で遊ばせておくより、束ねて指先の待ち時間を安定させる方が、体験としては筋が通る。それは揺るぎません。ただ、Stargate向けにサムスンやSK hynixと契約済みという流れは、集約が契約の上ではもう動き出している証拠。ならばこそ、最後に問いたいのは「かなりひどい」の一言で終わらせない配分の設計です。常時クラウドに繋がる前提が崩れた瞬間のオフラインUIを、別枠で検証しておくこと。指先が覚えるのは平均ではなく、一番待たされる瞬間ですから。