輝達為何成為靶子?──Nvidia 遭中國「反壟斷調查」的原因與影響
黃教授指出,目前一些 AI 人工智慧大型網路的訓練需要的運算力和記憶體遠超過鄰近幾台伺服器的能力,因此需要同時使用相當多台 GPU 伺服器(例如,有資料說 GPT-4 同時用了近 2千萬個 A100 GPU 在進行訓練)。通常在此情境下,這些伺服器之間的傳輸效率就有可能會成為訓練之瓶頸:「因此,白話一點來說,若這些 GPU 不能一直拿到有效的資料,那麼 GPU 就等於空轉。
BBC News 中文
2024/12/16
5884