『UMA Frame Buffer Sizeを32GBに設定できるM/Bを探しています』のクチコミ掲示板

[yamagw]

8700GのiGPUのVRAM割り当ては最大で32GBという情報を見かけました。

https://detail.chiebukuro.yahoo.co.jp/qa/question_detail/q12300037647

もし可能なら生成系AIを試すのに良いなと思いまして、32GBに設定できるM/Bを探しています。16GB割り当てて試してみたという記事は見つけたのですが32GBの事例はなく、M/Bのスペック見ても明示されてない場合が殆どでした。ホントに32GB可能なのですかねぇ。。。？

書込番号：26039213

[かぐーや姫]

＞yamagwさん
こういう回答が出ましたが、BIOSのバージョンで変わったりするそうなので
自己責任でお願いします。(*^◯^*)

1. ASUS ROG Strix B550-F Gaming
特徴: ゲーミング向けの高性能マザーボードで、BIOSの設定が豊富です。共有メモリの設定も可能です。
2. MSI B550-A PRO
特徴: ビジネスやクリエイター向けに設計されたマザーボードで、安定性が高く、共有メモリの設定が可能です。
3. Gigabyte B550 AORUS Elite
特徴: ゲーミング性能とコストパフォーマンスに優れたモデルで、BIOSでの設定が柔軟です。
4. ASRock B550 Steel Legend
特徴: 耐久性とデザイン性に優れたマザーボードで、共有メモリの設定が可能です。
5. ASUS TUF Gaming X570-Plus
特徴: ゲーミング向けの高耐久性マザーボードで、BIOS設定が豊富で、共有メモリの設定が可能です。
注意点
これらのマザーボードは、一般的に32GBの共有メモリを設定できる実績がありますが、具体的な設定方法や上限はBIOSのバージョンやマザーボードの仕様によって異なる場合があります。
共有メモリを増やすと、システムのRAMが減少するため、他のアプリケーションに使用できるメモリが少なくなることに注意してください。
購入前に、各マザーボードの公式マニュアルやレビューを確認し、具体的な設定が可能かどうかを確認することをお勧めします。

書込番号：26039368

[揚げないかつパン]

8700Gなのになぜ、B550なのかは理解に苦しみますが、自分のA620は16GBまででした。

B650ならできるのかな？

それと、共用メモリーじゃなく、専用のフレームデータを増やすことが本当に必要かを確認した方が良いかと思いますし、内臓グラフィックスにそんなに専用メモリーを増やして、性能面での必要性なども考慮に入れた方が良いかと思いますが

書込番号：26039573

[yamagw]

＞かぐーや姫さま

ありがとうございます。
お手数をおかけしておいて恐縮ですが、AM4混じってますね（笑）
AIによるリサーチ結果でしょうか！？
私もPerplexityなどであれこれ聞いてみましたが確証得られずなのでした。

＞揚げないかつパンさま

A620で16GBまでイケるという情報有難いです。ありがとうございます。
仰る通り、ゲーム用途なら性能的にもそんなに増やしてどうする？って感じですが、
生成系AIを試す場合フレームバッファのサイズが求められます。
dGPUには劣るもののCPUのみ回すよりは格段に速いようなのでAPUに期待をかけてました。
メモリの多いdGPUはクソ高い！！

書込番号：26039631

[かぐーや姫]

＞yamagwさん
ChatGPTー4oだったと思います。(*^◯^*)

書込番号：26039672

[ぱすたらんち]

ASRock B650E Steel Legendのマニュアルを読んでいたのですが、UMA Frame Buffer Sizeで
メモリ割り当てを増やす設定はできると記載はある物の、上限については記載されていません。
気になったのでAMDのサイトで8700Gの記事を読んだのですが、上限32GBであるという記事は見つからず、論拠がわかりませんでした。
メモリ256GB積んで検証すれば何かわかるかもしれませんが、今のところ上限を検証した記事を見かけないので
「できる補償はないが、可能性はあるかもしれない」位の話なのかもですね。

生成系AIとかは、メモリ容量よりメモリの速度とデータ転送幅が物を言うので、割り当てだけ増やしてもあまり効果は期待できないのかも。

書込番号：26051697

[かぐーや姫]

不具合が出やすいのだと思います。
だからバイオスで出来なくなったりがあるのだと思います。

書込番号：26055219

[KAZU0002]

不具合が出やすいとかの知ったかでまかせが理由では無く。

そもそもGPUのメモリは、3Dテクスチャ置き場なので。GPUとして処理できる以上の量のデータを置いておく意味が無いのです。32GBものテクスチャデータな3Dグラフィックを毎秒数fpsで表示することに意味が無い…から設定を用意する必要も無いと。
更に言えば。ビデオメモリが大量に必要なのは、GPUから直接高速にアクセスできるメモリが欲しいだけです。メインメモリを確保するだけなら、メインメモリを使えば済む話ですし。GPUの性能が低くて、そもそもAIにも向いていない。メモリが多ければAI性能が上がるわけではありません。

AIの為にメインメモリをVRAMに確保したい。…収納増やしたいから、家の中に物置建てたい…みたいなもんですね。

書込番号：26055232

[かぐーや姫]

例えばメモリを32GBしか積んでないのに

32GBに設定する人も出てきそうです。(*^◯^*)

書込番号：26055332

[uPD70116]

64GB以上積まないと無理では?

それにメモリー速度が足りないと大して役に立たないかも知れません。
メモリー速度をどれだけ上げてもビデオメモリーと比べると遅いので...

書込番号：26055558

[yamagw]

＞皆さま

ありがとうございます。
LLM以外に欲しい理由がありましたので、確証がないまま買ってみました。
ご報告です。

MSI PRO B650M-A WIFI ＋ Ryzen 7 8700g ＋ DDR5-5600 64GB(32BGx2)

BISO設定画面でのUMA Frame Buffer Sizeの設定は最大「16GB」でした。Windows上では「共有GPUメモリ」を合わせて「39.8GB」がGPUメモリとして使用可能でした。

このGPUメモリを使用して、32BのLLMがiGPUで動作可能という結果になりました。780Mで70Bのモデルを動かしたという報告が別にありましたので、128GB積んだらもっと増えるのかもしれません。

ただし、速度は4toc/sec台で実用性は低いです。CPUでは3tok/sec台に落ちるので多少はiGPUのほうが速いのですが、より上位のCPUであれば逆転されそうです。

8Bのモデルなら速度は実用的、かつCPUより格段に速くiGPUの有難味が出てきます（CPUで15toc/sec前後、iGPUで25toc/sec前後）。この場合、もちろんメモリ16GBでも余りますので、iGPUに対してメモリ32GBを欲したのがバランスの悪い要求だったのは確かです。

メインメモリを活用してデカいモデルを試す行為はCPUでも出来る事なので、無理やりiGPUで動かすメリットをひねり出せば「多少は速い」「CPUはガラ空きなので別作業に支障が出ない」といったところでしょうか。まぁ、できないよりできる方が良い！ということで。

帯域が狭い、演算能力が低い、AIに向かない、ゲーミング用にそんな容量要らない、これらのご指摘はごもっともでして、それを承知の上で遊んでいる点をご理解ください。

まぁ、個人的な妄想として近い将来のAMD　APUがApple M4 ProやM4 Max並のメモリ帯域を実現してくれないかと期待をかけていまして（残念ながらAM5ではなくモバイルになると思いますけど）、そうなればiGPUやらNPUやら活かせるだろうと思っています。dGPUのクソ消費電力はホント嫌いｗ

書込番号：26055665

[yamagw]

＞ぱすたらんちｓまｍ

> 気になったのでAMDのサイトで8700Gの記事を読んだのですが、上限32GBであるという記事は見つからず、論拠がわかりませんでした。

リサーチありがとうございます。そもそもの情報源はここです。

https://www.cpu-monkey.com/ja/cpu-amd_ryzen_7_8700g

cpu-monky。公式ではなく他にも情報ないので確証が持てず質問するに至った次第です。

書込番号：26055683

[ぱすたらんち]

＞yamagwさん
64GBで検証されたのですね。貴重な情報ありがとうございます。
DDR5-5600なので速度面で不利になった可能性はありそうですが、ロマン枠としては面白そうな試みだと思います。
LM STUDIOの場合、手持ちのノートPCで動かすと共有メモリからVRAMを割り当てるので、実際には自動設定で割り振らせれば必要なだけ持ち出すのかもしれません。
つまりわざわざ32GBに設定する必要が無いことになりますね。
またこの事から、「とりあえず使いたいアプリが起動するVRAMを確保しておけば」後はどうにでもなりそうです。


＞かぐーや姫さん
＞32GBしか積んでないのに32GBに設定する
これはBIOS上不可能です。起動するメモリが確保されない割り当ては弾かれます。
マニュアルにも記載されてるはずですが、ほとんどの場合搭載メモリの半分まで割り当て設定ができる（上限はある）となっているはずです。
それより上は自動割り当てで都度確保されるので、今回のケースのように40GB近く確保できる場合もあるわけで。

書込番号：26055944