VRAM と GPU、その間にある「もう一段」── レジスタ・L1・L2 の階層
VRAM と HBM って同じようなもんか、から掘っていったら、「GPU と VRAM」という 2 ブロックの説明の裏にもう 1 段隠れた階層があることに気づいた学習ログ。
タグ
4 件
VRAM と HBM って同じようなもんか、から掘っていったら、「GPU と VRAM」という 2 ブロックの説明の裏にもう 1 段隠れた階層があることに気づいた学習ログ。
HBM の真下にいる謎の板。『細い銅線にしたら帯域減るやろ?』という素朴な引っかかりを軸に、なぜ細くて大量が勝つのかを復元できるよう整理した学習ログ。
GPU が熱いのも巨大化するのも、主犯は計算やなくデータ移動やった。銅線の物理的な限界と、チップの際から光で繋ぐ (CPO / シリコンフォトニクス) 話。
HBM HBM 言うてるあのニュース、結局なにが問題なんかを 30 秒で復元できるように整理した学習ログ。