最新のAI、128GBでもメモリ不足、最低144GB、推奨192GBに [422186189]

**名無しさん＠涙目です。**(北海道) **[CN]** · 2024/12/09(月) 10:08:37.25

https://gigazine.net/news/20241209-nvidia-gpu-apple-silicon-inference/

**名無しさん＠涙目です。**(北海道) **[CN]** · 2024/12/09(月) 10:08:44.97

M2 Ultra 76-Core GPU 192GB　　76.28 36.25 12.13 4.71
RTX 3090 24GB 6個　　　　　　　101.07 45.55 16.93 5.82
RTX A6000 48GB 4個　　　　　　　93.73 38.87 14.32 4.74
RTX 4090 24GB 8個　　　　　　　116.13 52.12 18.76 6.45
RTX 6000 Ada 48GB 4個　　　　　118.99 50.25 17.96 6.06

**名無しさん＠涙目です。**(北海道) **[CN]** · 2024/12/09(月) 10:09:09.82

GPU 8B Q4_K_M 8B F16 70B Q4_K_M 70B F16
RTX 3070 8GB 70.94 メモリ不足メモリ不足メモリ不足
RTX 3080 10GB 106.40 メモリ不足メモリ不足メモリ不足
RTX 3080 Ti 12GB 106.71 メモリ不足メモリ不足メモリ不足
RTX 3090 24GB 111.74 46.51 メモリ不足メモリ不足
RTX 4070 Ti 12GB 82.21 メモリ不足メモリ不足メモリ不足
RTX 4080 16GB 106.22 40.29 メモリ不足メモリ不足
RTX 4090 24GB 127.74 54.34 メモリ不足メモリ不足

**名無しさん＠涙目です。**(茸) **[US]** · 2024/12/09(月) 10:09:49.64

そんなん自前で揃えても数年後には化石だからキリがないよ

**名無しさん＠涙目です。**(福井県) **[AU]** · 2024/12/09(月) 10:13:10.00

リソースを無駄に使うのはいくらでも出来る
それが意味のある使い方家と言うと全然そんなこと無いって言う

**名無しさん＠涙目です、**(香川県) **[PE]** · 2024/12/09(月) 10:13:51.22

AIで生成した物の使い道が承認欲求

**名無しさん＠涙目です。**(東京都) **[KR]** · 2024/12/09(月) 10:13:52.46

やべー
96GBしかないわー

**名無しさん＠涙目です。**(みょ) **[BR]** · 2024/12/09(月) 10:13:59.73

速攻ブレーカーが落ちるレベル

2024/12/09(月) 10:14:09.90

昔はメモリ64MBくらいでサクサク使えたのにな

2024/12/09(月) 10:14:27.46

ローカルで使おうとは思わんし

**名無しさん＠涙目です。**(茸) **[CN]** · 2024/12/09(月) 10:15:42.57

>>5
Llama3の8Bと70Bは天と地の差がある。
しかもGPT4の足元にも及んでいない最底辺

**名無しさん＠涙目です。**(みかか) **[US]** · 2024/12/09(月) 10:16:04.70

ビデボ買おうとしてるけど最近のめっちゃ高いな

警備員[Lv.29](愛知県) **[US]** · 2024/12/09(月) 10:16:15.09

マイニングの時みたいに大量にGPU並べるのかな

**名無しさん＠涙目です。**(埼玉県) **[GB]** · 2024/12/09(月) 10:17:52.97

下手なサーバーより多いな

2024/12/09(月) 10:18:05.66

並列処理だから並べりゃ良いんじゃね？

2024/12/09(月) 10:18:13.24

おれんとこじゃ動かないな。

**名無しさん＠涙目です。**(SB-Android) **[BR]** · 2024/12/09(月) 10:18:17.55

メモリが暖房器具になる時代か

**名無しさん＠涙目です。**(茸) **[KR]** · 2024/12/09(月) 10:18:44.65

ご家庭には必要ないやろ

**名無しさん＠涙目です。**(茸) **[FR]** · 2024/12/09(月) 10:19:00.77

というか何かが間違ってる気いするわ。AIったって所詮はソフトウェアありきなんだからこんなにハードウェアに
依存するシステムそのものが既に間違ってるし、全然エコじゃないじゃないか？作れば作るだけ環境汚染が進み
二酸化炭素の排出率増加にも大きく寄与するようなハードウェア。
カーボンニュートラルとはいったいなんぞや　笑　何故こんなのを野放しにしてるのか訳分からんわ。

**名無しさん＠涙目です。**(茸) **[JP]** · 2024/12/09(月) 10:19:03.76

最下位の？100万円のMac Studioが「遅いけど動く」で開発用にはコスパ良さそうじゃん

**名無しさん＠涙目です。**(SB-iPhone) **[US]** · 2024/12/09(月) 10:19:07.18

まあ、人間の脳はテラバイト超えてるらしいからなあ

**名無しさん＠涙目です。**(埼玉県) **[IR]** · 2024/12/09(月) 10:19:39.49

部屋がめっちゃあったかくなりそう

**名無しさん＠涙目です。**(栃木県) **[US]** · 2024/12/09(月) 10:20:17.22

なんでマザーボード側のメインメモリじゃなくてグラボのメモリを使うん？

**名無しさん＠涙目です。**(庭) **[GB]** · 2024/12/09(月) 10:20:37.72

サーバー借りてやるん？

**名無しさん＠涙目です。**(庭) **[US]** · 2024/12/09(月) 10:20:52.70

L40sとかa100だな
今度h100x4使う

2024/12/09(月) 10:20:57.37

>>23
早いから

**名無しさん＠涙目です。**(茸) **[ﾆﾀﾞ]** · 2024/12/09(月) 10:21:20.69

>>23
最下位のM2 Ultra 76-Core GPU 192GBはメインメモリだろ

2024/12/09(月) 10:21:40.92

個人用のおもちゃは投げ捨てて商用モデル買え

**名無しさん＠涙目です。**(三重県) **[US]** · 2024/12/09(月) 10:22:15.09

親の役満の点数みたいだな

**名無しさん＠涙目です。**(福井県) **[AU]** · 2024/12/09(月) 10:23:03.80

>>23
グラボを使うためにはグラボのメモリに入れなきゃいけないんだよ？
グラボがメインメモリにアクセスできると思ってるん？

**名無しさん＠涙目です。**(茸) **[GB]** · 2024/12/09(月) 10:23:35.46

>>23
メインメモリ-CPU-PCIe-GPU-VRAM

という接続だから
めっちゃ遠いし
CPUなんかを経由するからめっちゃ遅い

**名無しさん＠涙目です。**(SB-iPhone) **[US]** · 2024/12/09(月) 10:23:43.73

>>30
出来るが遅いんだよ

2024/12/09(月) 10:23:54.59

昔ラジャがAMDに在席してたころにHBCCってやってたが
ああいうVRAMよりは若干性能落ちるがいちいちCPU経由で
メインメモリのやりとりするよりマシ系の仕組みいるよな
CXLくらい？

**名無しさん＠涙目です。**(庭) **[JP]** · 2024/12/09(月) 10:24:10.44

>>9
俺は8MGから16MGにした時びっくりした

**名無しさん＠涙目です。**(長野県) **[US]** · 2024/12/09(月) 10:24:20.05

メモリー512MBのモンスターマシンだ

2024/12/09(月) 10:24:40.91

もはや人間のほうが燃費いいんじゃないでしょうか

2024/12/09(月) 10:24:45.41

一方リーマンに支給されるPCは未だにRAM4GBであった

**名無しさん＠涙目です。**(茸) **[TN]** · 2024/12/09(月) 10:24:54.20

キャンペーンだけやりたいのに
マルチとか150GBくらい全部ダウンロードしないと遊べないコールオブデューティシリーズ

2024/12/09(月) 10:25:03.70

>>27
Mシリーズがいいのはメインメモリではあるが
ユニファイドメモリの関係でまあまあ行けるからやろ

**名無しさん＠涙目です。**(庭) **[US]** · 2024/12/09(月) 10:25:06.25

結局AIって何すんだよ？
Hな画像作って喜ぶだけ？

**名無しさん＠涙目です。**(SB-iPhone) **[US]** · 2024/12/09(月) 10:25:17.15

>>35
スライム・モンスター
ですか？

**名無しさん＠涙目です。**(東京都) **[US]** · 2024/12/09(月) 10:25:26.26

グラボにマイクロSDさせるように作ればいいじゃんって速度が遅すぎか。

**名無しさん＠涙目です。**(茸) **[GB]** · 2024/12/09(月) 10:25:40.45

>>23
Intel ARCなんかは
CPU - VRAM
　　 - GPU
という構造でVRAMをメインメモリの一部として使う技術を使ってきたが全然流行ってない

**名無しさん＠涙目です。**(福井県) **[AU]** · 2024/12/09(月) 10:27:09.21

>>40
お前がAI使ってると意識してないサービスでも
裏でAI走らせてどんどん賢くなってる

**名無しさん＠涙目です。**(埼玉県) **[GB]** · 2024/12/09(月) 10:27:55.81

サーバーのスペック見たらメモリ1024GBだったからこれでも6人しか動かせないのか

**名無しさん＠涙目です。**(東京都) **[US]** · 2024/12/09(月) 10:28:56.56

>>40
エロへの情熱ってのはパワーがあるからな。
PS2が売れまくったのもDVDがみれたからさ。VHSからDVDへの画質の進化は
えぐかったのよ。あと巻き戻ししないでいいという便利さ。

2024/12/09(月) 10:29:01.98

>>30
PCの知識0の田舎もん
UMAなんてx86では20年以上前のi810時代からある

**名無しさん＠涙目です。**(埼玉県) **[VN]** · 2024/12/09(月) 10:29:06.14

AI搭載PCなどいらん

2024/12/09(月) 10:30:49.22

最近古いノートパソコンを再利用しようと思ってメモリを４GBから８GBに換装したらそれだけでサクサクになってﾜﾛﾀ

SSDも買ってあるけどこれなしでも十分かもしれん

2024/12/09(月) 10:31:30.18

>>40
アフィのクソサイト多いだろ？
あれもAI生成のサイトが最近めちゃくちゃ増えてて話にならんレベルの情報しか書いてない
しかもそれが上位にくる
ネットの世界が冗談抜きで退化してるからな

**名無しさん＠涙目です。**(茸) **[ﾆﾀﾞ]** · 2024/12/09(月) 10:31:53.55

RAMで144ギガなんて使ってる人いるのか

**名無しさん＠涙目です。**(茸) **[TW]** · 2024/12/09(月) 10:33:00.00

今時1T以上有るだろw

**名無しさん＠涙目です。**(栃木県) **[US]** · 2024/12/09(月) 10:33:24.51

>>31
そーするとAIの演算をやってるCPUが
メインメモリを使わずGPU側のメモリを使うようにしてるってことなんか

**名無しさん＠涙目です。**(岐阜県) **[SE]** · 2024/12/09(月) 10:34:03.22

んなことよりWindows12いつ出るんだよ　おそらくAI搭載になるんだろうけど

(福岡県) **[FR]** · 2024/12/09(月) 10:35:06.10

ローカルで２～３時間くらいのポルノ動画を
ＡＩに食わせてみたいわ

狂気の変態動画が出来そう

2024/12/09(月) 10:35:25.41

>>48
そんなあなたにはPC搭載のAI

2024/12/09(月) 10:35:59.82

4070tis買ったのに…窓から投げ捨てるか

**名無しさん＠涙目です。**(福井県) **[AU]** · 2024/12/09(月) 10:36:01.79

>>54
みんなが一斉に質問「お前を消す方法」

**名無しさん＠涙目です。**(東京都) **[US]** · 2024/12/09(月) 10:36:37.64

ちょっと前までは128GBでもう一生これで足りないってことはないと思ってたのに
結局余裕あるとギリギリまで使っちまうのが人に性なのか
なんていうかお金とかと変わんないのな

2024/12/09(月) 10:36:38.74

>>50
フィナンシャルなんちゃらとくるまのなんちゃらがそうだね

**名無しさん＠涙目です。**(庭) **[CA]** · 2024/12/09(月) 10:38:19.45

個人用じゃないだろ設計、無理やり使ってるけど

2024/12/09(月) 10:38:27.10

グラフィックボードのメモリとメインメモリの区別がついていない人はいないよね？

**名無しさん＠涙目です。**(庭) **[US]** · 2024/12/09(月) 10:38:40.55

やはりDGX-1あたりを買うしかないなw

**名無しさん＠涙目です。**(みかか) **[US]** · 2024/12/09(月) 10:38:47.00

俺パソコン詳しいけど、128Gとかそんなしょぼいの使ってるのおる？
俺外付けも含めると10Tくらいのやつ使ってるわ

**名無しさん＠涙目です。**(埼玉県) **[GB]** · 2024/12/09(月) 10:39:05.98

>>60
でしょうか？って記事のタイトルに馬鹿みたいに付けてるアイツな

**名無しさん＠涙目です。**(東京都) **[CN]** · 2024/12/09(月) 10:39:46.17

>>50
俺はそれで図書館に通うようになったよ
女子校生が勉強してるし良い匂いするし最高よ

2024/12/09(月) 10:40:27.41

>>65
最近CARトップもそうなりつつあるな

2024/12/09(月) 10:41:29.42

>>62
知ってるよ

愛のメモリーだろ？

2024/12/09(月) 10:41:36.59

>>53
AIの演算自体が、GPUをメインで使うというか
GPUがNPUの役割を果たしている

**名無しさん＠涙目です。**(茸) **[SE]** · 2024/12/09(月) 10:41:55.94

AI生成でもやらないなら不要

2024/12/09(月) 10:42:28.12

>>40
ザラキ唱えまくる

2024/12/09(月) 10:43:00.30

AIでアイコラ作ってみようかなと思って
通販サイトを見たらあまりの高さにそっ閉じした
30万も出せないぜ...まだまだ手動で頑張るか

2024/12/09(月) 10:43:23.41

>>53
CPUはストレージの読み書きやメモリという置き場所の貸し出しや
大筋の管理くらいで本体はGPUとVRAMみたいなのがAI

**名無しさん＠涙目です。**(茸) **[FR]** · 2024/12/09(月) 10:43:33.21

>>31
PCIeに直接メインメモリぶっ指せる変態マザーがあればVRAMがわりに使えるの？
それともddr5では遅すぎとかなんかな

**名無しさん＠涙目です。**(SB-iPhone) **[US]** · 2024/12/09(月) 10:44:59.98

>>64
すべってるよ

2024/12/09(月) 10:46:14.76

>>74
簡易的に必要なのはこの手の仕組み
https://www.4gamer.net/games/337/G033714/20170101002/

マザーボード経由する時点でないかな

2024/12/09(月) 10:48:08.71

もう脳味噌で良いじゃん…

**名無しさん＠涙目です。**(栃木県) **[US]** · 2024/12/09(月) 10:48:28.16

>>69,73
そんなことになってるのか
大体わかったありがとん

**名無しさん＠涙目です。**(東京都) **[IT]** · 2024/12/09(月) 10:49:22.25

>>74 使えないねぇ、あくまでVGAカードにマウントされてるメモリの話なので

**名無しさん＠涙目です。**(滋賀県) **[CN]** · 2024/12/09(月) 10:50:36.64

じゃあ脳みそってどんだけ凄いんだよ

2024/12/09(月) 10:50:42.88

グラボに載ってるメモリはCPUでいうキャッシュ⇔メインメモリみたいな関係で、グラボ上のメモリにないと遅くて…、みたいな話？

2024/12/09(月) 10:51:24.05

推論だけならMacのコスパが異常に高いけど
学習するならNvidia必須なんよな

**名無しさん＠涙目です。**(庭) **[US]** · 2024/12/09(月) 10:51:58.57

メモリだけの数値出されてもなぁ

**名無しさん＠涙目です。**(東京都) **[IT]** · 2024/12/09(月) 10:52:02.46

>>80 アナログはデジタルでは実現できないって事さ

**名無しさん＠涙目です。**(東京都) **[US]** · 2024/12/09(月) 10:52:28.86

昨今のCPUにNPU入ってるやん。それならメインメモリで処理すりゃいいでがしょ？

2024/12/09(月) 10:53:41.71

>>34
誰も突っ込まない謎の単位

2024/12/09(月) 10:53:43.01

>>85
DDR5-8500とかでも帯域が狭すぎて無理

2024/12/09(月) 10:53:52.05

>>81
DB運用で大半のデータをメモリに上げちゃうような話で
データおばけなのが生成AI
マルチGPUなのはGPUの演算能力が欲しいというより
流通しているGPUが管理してるVRAMが要求サイズより
小さいので仕方なくやってるだけじゃ？

**名無しさん＠涙目です。**(茸) **[ﾆﾀﾞ]** · 2024/12/09(月) 10:54:37.65

NVIDIA「AIで遊びたいならH200(600万円ぐらい)を買え」

**名無しさん＠涙目です。**(茸) **[JP]** · 2024/12/09(月) 10:55:11.12

>>84
馬力「…」

**名無しさん＠涙目です。**(東京都) **[US]** · 2024/12/09(月) 10:55:47.69

>>87
そうなんだー残念。

**名無しさん＠涙目です。**(佐賀県) **[CN]** · 2024/12/09(月) 10:57:23.94

俺の4GBスマホじゃあかんか

**名無しさん＠涙目です。**(愛知県) **[US]** · 2024/12/09(月) 10:57:52.13

>>62
グラボの少ないメモリをやりくりするより
メインメモリをガン積みしてオンボ回した方が速いってのがある

**名無しさん＠涙目です。**(みかか) **[US]** · 2024/12/09(月) 10:58:58.49

グラボもそうだけどスペックいっぱいいっぱいを基準にすんのやめろや

2024/12/09(月) 10:59:39.60

非効率なツール使ってるんじゃねえ
ハンドアセンブルしろアホ

**名無しさん＠涙目です。**(北海道) **[CN]** · 2024/12/09(月) 10:59:57.78

>>88
それな。
GPUを増やすほど同期に時間がかかってるのか性能が落ちてるからな。

RTX 4090 24GB 1個　127.74　54.34　メモリ不足　メモリ不足
RTX 4090 24GB 2個　122.56　53.27　19.06　メモリ不足
RTX 4090 24GB 4個　117.61　52.69　18.83　メモリ不足
RTX 4090 24GB 8個　116.13　52.12　18.76　6.45

**名無しさん＠涙目です。**(庭) **[US]** · 2024/12/09(月) 11:00:27.12

そんなもんいらん

**名無しさん＠涙目です。**(東京都) **[IT]** · 2024/12/09(月) 11:00:30.92

>>85 向き不向きだね、将来的にCPUでAI処理向きのが出てくるかもしれないけど
今どきのAI向きのGPUのメモリまでの距離と、普通のM/BのCPUとメモリの距離
（それを管理する制御チップまでの物理的な距離）の差でどうしても速度が出せない

M.2 SSDが複数差せるM/BもCPUに近い方が高速で、離れるほど遅くなるのは
メモリよりも遅いSSDでさえすでに物理距離の差で低速化するんだよ

2024/12/09(月) 11:00:52.16

H200は141GBかぁ、そのうちグラボにm.2 SSD直挿ししそうだな

**名無しさん＠涙目です。**(庭) **[CN]** · 2024/12/09(月) 11:01:12.18

36GBでも持て余してるわ

2024/12/09(月) 11:01:16.87

ルックアップテーブルをメモリに置くからイケない
仮想化しろアホ

**名無しさん＠涙目です。**(SB-Android) **[JP]** · 2024/12/09(月) 11:01:37.66

俺だってAIが使えるんだよ
https://i.imgur.com/1kyOcNb.mp4

**名無しさん＠涙目です。**(大阪府) **[KR]** · 2024/12/09(月) 11:01:42.57

昔はいかに少ないリソースで快適に動かすかがプログラマの腕の見せ所だったのに最近はどれだけリソースを使おうととにかく動けば良いみたいになっているね

**名無しさん＠涙目です。**(茸) **[JP]** · 2024/12/09(月) 11:02:18.75

千畳敷くらい風呂敷広げないと計算できないってことだろ
それって賢いのかな？
根本的な過ちがありそう

**名無しさん＠涙目です。**(埼玉県) **[US]** · 2024/12/09(月) 11:03:33.16

逆に無能になってんじゃ…

**名無しさん＠涙目です。**(東京都) **[US]** · 2024/12/09(月) 11:05:11.17

>>103
AIにプログラムを学習させて効率と最適化させりゃ良いのでは。
もう人間の出る幕じゃなくなるが。

**名無しさん＠涙目です。**(茸) **[FR]** · 2024/12/09(月) 11:05:13.32

>>76
>>79
サンクス
GPUと直接で繋がってないとだめなんね
VRAM大きいグラボは高くて困るぜ
LSI端子みたいな端子つけて拡張VRAMとかつけれるようにして欲しいw

**名無しさん＠涙目です。**(埼玉県) **[PT]** · 2024/12/09(月) 11:06:01.80

AIでなに作ってんだ？エロ絵か？

**名無しさん＠涙目です。**(京都府) **[US]** · 2024/12/09(月) 11:06:14.52

食い物のデザインはAI分析すると売れ筋になりそう

**名無しさん＠涙目です。**(茸) **[JP]** · 2024/12/09(月) 11:06:36.22

>>103
物量作戦ってことだ
優秀な兵士100名よりモブキャラ1億人の方が圧倒的に強い

2024/12/09(月) 11:07:01.77

個人用のGPUに50万くらい注ぎ込んでも知れてるよな

**名無しさん＠涙目です。**(大阪府) **[MX]** · 2024/12/09(月) 11:07:16.91

冷房年がら年中かかってるサーバールームにあるマシンでしときゃええよ

**名無しさん＠涙目です。**(庭) **[DE]** · 2024/12/09(月) 11:09:44.46

スペックドカ食いするのほんと邪悪

**名無しさん＠涙目です。**(東京都) **[US]** · 2024/12/09(月) 11:10:56.66

>>27
もしかしてユニファイドメモリっていう概念知らない？

**名無しさん＠涙目です。**(茸) **[JP]** · 2024/12/09(月) 11:10:58.97

このレベルになってくるとAIで金稼ぐ人以外買わなくなるな
個人ならクラウド使用が最適解か

2024/12/09(月) 11:12:14.00

いらねー

**名無しさん＠涙目です。**(茸) **[US]** · 2024/12/09(月) 11:13:24.91

>>86
MeGaといいたかったのでは

**名無しさん＠涙目です。**(庭) **[US]** · 2024/12/09(月) 11:13:31.47

>>12
ビデオボードを略して言ってるけど
今はグラフィックボード略してグラボの呼称の方が一般的

警備員[Lv.4][新芽](京都府) **[US]** · 2024/12/09(月) 11:13:56.10

i.imgur.com/MMAF6ZK.jpeg

**名無しさん＠涙目です。**(茸) **[US]** · 2024/12/09(月) 11:14:01.66

>>1
なんとかギリ

**名無しさん＠涙目です。**(庭) **[US]** · 2024/12/09(月) 11:14:07.41

ローカルででっかいモデル使う必要があるのって研究者だけだろ

**名無しさん＠涙目です。**(大阪府) **[US]** · 2024/12/09(月) 11:14:40.40

nVidiaのAIボードの見積もりしたら200万だたー
即納のグラボ使う人の方が多くなるわけだ

2024/12/09(月) 11:14:52.11

AIは創薬とか化学とか材料工学とか生産工学とかプロフェッショナル以外メリットねーし

**名無しさん＠涙目です。**(埼玉県) **[BR]** · 2024/12/09(月) 11:15:37.47

自分の好みのエロ画像が作れるのはいいねぇ

**名無しさん＠涙目です。**(福井県) **[AU]** · 2024/12/09(月) 11:17:29.45

>>103
というか今でもそうだよ
新しいアルゴリズムを出す事も出来ず、コンパクト高性能にすることも出来ない
カス研究者が「ごっついハード作ったでー」で研究成果にしようとしてんのよコレ

**名無しさん＠涙目です。**(福岡県) **[JP]** · 2024/12/09(月) 11:18:26.59

deepfakeとかで動画作るなら高スペックが必要かも

2024/12/09(月) 11:20:10.38

遂にIntel勝利の時代が！？（無い）

デフォ設定だとAMDが最大128GBで
Intelが192GBだっけ

ちなみにこの記事、一般人には死ぬほど関係ないから
4090（40万円）8枚刺しとか
H100（550万円）とか
映画会社とか大学の研究機関とか

2024/12/09(月) 11:20:40.60

>>121
素人なんてどうせエロ画像の生成とかしかしないんだからそんなにメモリはいらないよな

**名無しさん＠涙目です。**(茸) **[FR]** · 2024/12/09(月) 11:22:19.48

そんなもん要らんわ。>>1

2024/12/09(月) 11:22:56.60

>>127
Intelのガウディはコスパはいいぞ
速度はNVIDIAには敵わんけど値段とメモリ量は勝てる
プログラムの多少の書き換えがいるけど

**名無しさん＠涙目です。**(茸) **[US]** · 2024/12/09(月) 11:23:39.48

マイニングの時と変わらんね
よくわからんけど無限にリソース食い続けるみたいな
最終的に仮想通貨同様よくわからんもので終わりそう

**名無しさん＠涙目です。**(庭) **[US]** · 2024/12/09(月) 11:25:28.35

>>62
パソコンゲームもビットコイン発掘も興味がないわと思っていたら
いつの間にか「グラフィックボードのメモリ」が当たり前の知識に

**名無しさん＠涙目です。**(茸) **[CN]** · 2024/12/09(月) 11:25:48.73

ローカルでやるのは馬鹿

**名無しさん＠涙目です。**(庭) **[KR]** · 2024/12/09(月) 11:29:20.23

>>19
何を言いたいのかわからんでもないのだがそのソフトウェアを効率的に動かすハードウェアが今求められていて競争してるんだよ
つってもずっと前からAI見据えてCUDA作ってたNVIDIAが一人勝ちしてるから他の有象無象(intelAMDAppleMicrosoft)が必至になって後れを取り戻そうとしてる
何ならハードウェアでは実はNVIDIAは実はそこまで強くない強いのはCUDAでソフトウェアの方

**名無しさん＠涙目です。**(東京都) **[US]** · 2024/12/09(月) 11:30:24.82

CPUがコア増やしたみたいに、画期的な新技繰り出さないともう無理やろコレ

**名無しさん＠涙目です。**(東京都) **[FR]** · 2024/12/09(月) 11:31:00.55

>>127
一般人はMac一択。
それもM3ultra出たら、llmに関しては数百万のGPUと同格。
少しはNVIDIAのボッタクリ減るかもｗ

**名無しさん＠涙目です。**(東京都) **[JP]** · 2024/12/09(月) 11:31:17.82

新しいビデオカード買ってほしいから高スペックになるようにしてる

2024/12/09(月) 11:31:32.99

アポロを月面に送ったコンピュータもファミコンより劣る性能だったんだぞ
メモリなんてやたら増やしても意味ないよ

**名無しさん＠涙目です。**(東京都) **[IT]** · 2024/12/09(月) 11:31:48.72

>>131 金のかかる（金を掛けてる）分野がAIで処理できるようになればコスト削減になるからね
期待されてるのは、設計・建築（構造とか強度など）・配合（合成）といった分野

正直絵とかは「そんなに金を掛けてない（桁が違う）」分野なのでソッチはどうでもいいというか
客寄せパンダでAIで稼ごうとする人たちはそんなのは興味ない

2024/12/09(月) 11:32:13.22

>>130
intelのGPU界隈はラジャが行ってただけあって
それなりの成果はあったようね

**名無しさん＠涙目です。**(庭) **[KR]** · 2024/12/09(月) 11:32:27.05

>>43
だってメモリ効率腐ってて実際には緑や赤より多くのVRAM必要とか頭おかしい仕様だから
同じ作業するのに緑や赤がVRAM8GBならArcはVRAM12GB必要とか何がしたいんだよ

**名無しさん＠涙目です。**(茸) **[ﾆﾀﾞ]** · 2024/12/09(月) 11:33:19.47

>>12
>>118
ビデオカード、グラボ
どちらかだな。
それ以外は基地

**名無しさん＠涙目です。**(みかか) **[FI]** · 2024/12/09(月) 11:33:43.76

電気代どんだけかかるの？

**名無しさん＠涙目です。**(奈良県) **[CA]** · 2024/12/09(月) 11:34:30.26

じゃあ、使わなければ良い

2024/12/09(月) 11:34:49.08

>>141
bit幅の問題じゃないの？
FP16で終わらずFP8 FP6 FP4なんて新設されてるからなあ
nvidiaのあれなんて

**名無しさん＠涙目です。**(みかか) **[US]** · 2024/12/09(月) 11:35:22.12

>>118
>>142
ビデボかだめなんてそんなこと聞いたことないわ
どんな狭い世界で生きてるの

**名無しさん＠涙目です。**(茸) **[CN]** · 2024/12/09(月) 11:35:38.83

個人でAIやってる奴の殆どはエロ画像生成目的なんでしょ？
ビデオテープ普及の頃からかわってないね

**名無しさん＠涙目です。**(大阪府) **[HU]** · 2024/12/09(月) 11:36:29.54

我がパソコンは実装ＲＡＭ　8.00ＧＢ　となってますが・・

**名無しさん＠涙目です。**(大阪府) **[US]** · 2024/12/09(月) 11:37:35.31

官製バブルなんだから黙って乗っとけ

**名無しさん＠涙目です。**(庭) **[JP]** · 2024/12/09(月) 11:37:44.12

Perplexityってソフトバンク・ワイモバイル・LINEMOの契約者なら申し込みから1年間有料版がタダで使えるのにユーザー少ないの？
ドコモも対抗してきたけど、「一部プラン契約者のみ1年間無料」「日本企業」って保守的。
パープレは『AI検索』ってので各AIの頭脳でネット検索した内容をまとめるので原則ソースがある。
生成AIは自分の知識の中から答えるのでその点が違う。
インターネットを巨大な図書館に例えるなら、AI検索は「司書」で生成AIは「大学教員」みたいなイメージ。

**名無しさん＠涙目です。**(埼玉県) **[PT]** · 2024/12/09(月) 11:38:03.33

>>147
作って販売すれば簡単に金になるからな

2024/12/09(月) 11:38:40.58

こんなの個人がローカルで動かすレベルじゃ無いってw
とりあえずgoogle colabのA100使うわ

警備員[Lv.5][新芽](SB-Android) **[PH]** · 2024/12/09(月) 11:38:53.37

gemini質問しても
自分で検索しろがほとんどでまるで約立たないんだが

**名無しさん＠涙目です。**(庭) **[ﾆﾀﾞ]** · 2024/12/09(月) 11:40:02.63

>>138
今の技術で行けないんだから本当に月に行ったのか疑わしい

2024/12/09(月) 11:40:20.52

intelは結局ジムケラー、ラジャ、そしてゲルシンガーすら
うまく使えてないし

**安倍晋三🏺**(奈良県) **[US]** · 2024/12/09(月) 11:40:52.86

VRAM(古い)メモリ不足かーい
pcメモリをスワップできんの？

2024/12/09(月) 11:41:22.89

>>154
昔の人は根性とか集中力が今の人間の何倍もあったからね

**安倍晋三🏺**(兵庫県) **[US]** · 2024/12/09(月) 11:41:35.91

てかAIいうほどつかうか？

**名無しさん＠涙目です。**(千葉県) **[US]** · 2024/12/09(月) 11:42:21.05

>>40
お前以外の5chの書き込み

**名無しさん＠涙目です。**(奈良県) **[US]** · 2024/12/09(月) 11:42:43.79

>>142
君のことをビデ男と呼んであげる

**安倍晋三🏺**(奈良県) **[US]** · 2024/12/09(月) 11:43:04.87

>>154
F35の元になる機体はコンピュータ制御ほぼなし手動であの芸当やってた

2024/12/09(月) 11:43:46.76

自宅のPCは96GBだから使えないね残念

2024/12/09(月) 11:44:31.28

最初は使ってても数日で飽きるだろうな

**名無しさん＠涙目です。**(東京都) **[DZ]** · 2024/12/09(月) 11:45:07.39

昔と言っても10年ちょい前か
OblivionというPCゲームをRAM化して動かすのに128GBのメモリ詰んでたな
懐かしい

2024/12/09(月) 11:45:21.68

>>140
ただガウディはAI全振りみたいなプロセッサだからNVIDIAみたいに汎用演算みたいなのが苦手なのが欠点

2024/12/09(月) 11:49:57.48

>>154
行けないわけじゃない行かないだけ
お金かかるんで

2024/12/09(月) 11:50:31.47

言語モデルローカルで組まないだろ

**名無しさん＠涙目です。**(庭) **[JP]** · 2024/12/09(月) 11:51:17.52

>>153
Geminiって「政治や選挙のことは一切答えない」けど、有料版でもそうなの？
>>164
1999年12月23日に上映開始された『こち亀』の映画にFBIから派遣された爆発物処理班のプロの女性の相棒のロボットが出てくるけど、その思考回路を「AIだ」って言っていた。
ほぼ2000年くらいの時期の上映だけど、今から25年前に既にAIがあったことに驚きだったけど、
Perplexityに聞いたら「(作中に出てくるロボのAIは)当時は第3次AIブームで、当時の科学技術では実現不可能なオーバーテクノロジーだった」って言っていた。

**名無しさん＠涙目です。**(庭) **[US]** · 2024/12/09(月) 11:53:03.12

でもさ、俺らの脳みそ模倣するのにさ
こんなすごい電力や計算量、メモリって実際は必要ないと思うんだよな
おまえらそんなに難しいこと考えてないじゃん
完全に最適化すれば人間みたいな応答するAIが
ラズパイくらいで動くようになると思うんだけどどう？

**名無しさん＠涙目です。**(福井県) **[AU]** · 2024/12/09(月) 11:54:01.20

>>168
1990年発売のDQ4でもAI言うてたし。言うてただけの人工無能だったけど

2024/12/09(月) 11:55:52.26

グラボにM.2SSD刺せるやつもう出てるよ

警備員[Lv.33](みかか) **[ﾆﾀﾞ]** · 2024/12/09(月) 11:56:38.99

>>21
けどデフラグしないと使い物にならんくらいカリカリ音立てるんでしよ？

2024/12/09(月) 11:57:48.32

>>170
昔のAIはルーチン型AI

**名無しさん＠涙目です。**(庭) **[US]** · 2024/12/09(月) 11:59:10.95

>>170
人間も有史以来ずっと効かないのに藁人形でザラキしてるよな

**名無しさん＠涙目です。**(庭) **[GB]** · 2024/12/09(月) 12:01:18.44

本当に人との会話のような対話が可能なAIがスマホに装備されるのは後何年で実現するの？
部分的には実現してるみたいだが

**名無しさん＠涙目です。**(庭) **[US]** · 2024/12/09(月) 12:02:29.73

>>175
こともとはなせばいいじゃん

**名無しさん＠涙目です。**(SB-Android) **[CN]** · 2024/12/09(月) 12:02:45.85

EMSメモリみたいなことできない？
SSDを仮のメモリとかして

**名無しさん＠涙目です。**(茸) **[JP]** · 2024/12/09(月) 12:03:01.21

所有する必要はないってことだろ
外部のサービスを使って結果だけもらえと
何に使うのか定まってなければ関係ない話

2024/12/09(月) 12:03:39.50

>>146
ダメとは言わんが超絶ウルトラマイノリティなの自覚したほうがいいよ
今どきビデオカードって呼称すらマイノリティなのに

2024/12/09(月) 12:03:46.35

>>154
フライト管制室を禁煙にしたので、ストレス耐性が激減したのが敗因

2024/12/09(月) 12:04:37.77

>>21
勝手に美化したり改ざんしたり風化していく出来損ないのメモリだよ

2024/12/09(月) 12:05:36.80

>>177
量も必要だけど帯域幅が最重要なんよ

**名無しさん＠涙目です。**(茸) **[DE]** · 2024/12/09(月) 12:06:33.23

今時1TBメモリなんて普通だろ？

あ(兵庫県) **[MX]** · 2024/12/09(月) 12:07:17.81

一時期編集用に（10年以上前）１２８Gにしてたけど、デスクトップ使わなくなって売り飛ばして今６４G。1枚20万近くしたよな。

**名無しさん＠涙目です。**(千葉県) **[RU]** · 2024/12/09(月) 12:07:51.68

>>169
ぼっち人間みたいな反応なら出来そう

**名無しさん＠涙目です。**(福岡県) **[CN]** · 2024/12/09(月) 12:09:09.39

何かの記事で世界中のマイニングを止めたらそれだけで
世界の原発何台止められるというの読んだが
これからはAI止めたら世界の原発何台止められるが追加されるのか

**名無しさん＠涙目です。**(SB-Android) **[SK]** · 2024/12/09(月) 12:09:19.14

AIのメモリーとか松崎しげるの話をしてんのか？

2024/12/09(月) 12:09:26.12

その実用的でないAIの仕組みにこそ問題があるんじゃね？

2024/12/09(月) 12:10:22.31

>>186
もはやマイニングを桁違いに上回っているよ、現代の力技AIはww

**名無しさん＠涙目です。**(茸) **[CN]** · 2024/12/09(月) 12:11:08.47

>>134
CUDAで書いてるAIはほぼ絶滅したし、
Pythonで包み隠したのばかりだからソースコードを数行くらい書き換えたらRadeonでもIntel ArcでもMacですら余裕で動く時代だからねぇ。
なんなら脳死状態でcudaをmpsあたりで文字列置換するだけでもだいたい動くし。

2024/12/09(月) 12:12:24.93

4060の16gbに仕様

**名無しさん＠涙目です。**(東京都) **[DE]** · 2024/12/09(月) 12:13:44.82

でもお前らってメモリが実際に動いてるとこみたことはないんだろ？
なんかピカピカしてるとかチリチリしてるとか

2024/12/09(月) 12:13:54.59

>>183
CPU用のおっそいメモリじゃない
CPUは生成AIに向かないし

GPUが向いてるんだが高速メモリが高いのであんまり積めないから
話が面倒くさいことになる

**名無しさん＠涙目です。**(兵庫県) **[US]** · 2024/12/09(月) 12:13:59.78

>>187
クソっこんな不意打ちが人生最期の笑いになるとはｗ

**名無しさん＠涙目です。**(庭) **[CN]** · 2024/12/09(月) 12:14:22.69

>>119
何十年前や？

2024/12/09(月) 12:14:52.58

>>192
大道芸人が箱数個持って組み換え芸やってるのくらいに
思ってりゃいい

**名無しさん＠涙目です。**(東京都) **[US]** · 2024/12/09(月) 12:15:36.17

おいらの初めてのPCは128MBだた

**名無しさん＠涙目です。**(茸) **[DE]** · 2024/12/09(月) 12:16:58.67

>>193
あぁそっちか
A100しか人権ないやろ、本気でやるならだが

2024/12/09(月) 12:17:11.07

演算のビット幅が減って「小さいメモリと小さい演算器」のペアが膨大な数並ぶ方向に進むのかね？脳はそうなんだし。

**名無しさん＠涙目です。**(SB-Android) **[US]** · 2024/12/09(月) 12:17:51.14

>>183
普通いくらで買えるの？