AI超級叢集湧現 速極算力訓練模型

Facebook母公司Meta剛推出的AI Research SuperCluster （RSC），總算力超過5 exaFLOPS。

**數碼轉型**

AI使用大量浮點運算，主要以GPU所構成；全球多家公司正興建針對AI運算的超級叢集（SuperCluster）；其中以Facebook母公司Meta剛推出的AI Research SuperCluster （RSC）最為驚人，完成後有16,000枚GPU，峰值算力超過了5 exaFLOPS，為全球最快的AI叢集。

Meta的RSC針對建設3D虛擬元宇宙和語文翻譯，年中才會完全落成。Meta開發的自我監督學習（Self-supervised learning）算法，獲得多次突破，已可在大量無標籤的數據自行訓練模型。

Meta也應用Transformers在自然語言處理（NLP）上。自從2017年，Google發表《Attention is All You Need》論文提出BERT，並引入Transformers方案，可以平行執行，以注意力（Attention ）機制大幅提高了語言模型的訓練速度；改寫了NLP理解語言的凖確性，Meta以Transformers可望打破不同語言用戶的在元宙宇的溝通限制。

商湯科技位於上海臨港新片區的AIDC，設計峰值算力3.74 exaFLOPS。

本港上市的商湯科技（SenseTime）興建的人工智能計算中心「商湯智算中心」（商湯 AIDC）亦宣佈開始營運；AIDC是商湯以SenseCore命名的AI大裝置，設計峰值算力3.74 exaFLOPS。

商湯也在算法首屈一指，論文曾多次國際會議獲獎。從創業起，商湯建立不少超級計算集群，截至2021年6月30日，商湯已建立23個超級計算集群，擁有超過2萬枚GPU，商湯行政總裁徐立說，上市前商湯每年消耗數億元人民幣採購GPU。

AIDC為亞洲目前最大AI超級計算叢集之一，位於上海臨港新片區；總算力為商湯過去總和的3倍有多。2018年4月份，商湯在沒可供參照案例經驗和實驗場地下開始籌建AIDC，2020年7月動工；AIDC營運後商湯總算力可達4.91 exaFLOPS。

商湯行政總裁徐立表示：「商湯人工智能計算中心開始營運，是我們在 AI 基礎設施領域長線佈局的重要成果，加速攻堅下一代通用人工智能技術。」

商湯行政總裁徐立：AIDC是商湯AI基礎設施長線佈局重要成果，加速下一代通用人工智能技術，亦用於蛋白質折疊等科學研究。

AIDC商湯打造的通用AI基礎設施，SenseCore商湯AI大裝置將計算基礎設施、深度學習平台、模型層三個部分有機整合，實現批量算法模型生產、部署和迭代升級。AIDC可以高效率、更低成本帶動AI產能升級。AIDC也支持萬億級參數模型訓練，有如流水線工廠，實現不同場景算法模型底層抽象，以模塊化平台套件打造通用服務平台，亦會用於蛋白質折疊等基礎科學研究。

AIDC有隱私和數據保護，機房獨立完全隔離，以隱私安全計算技術，向客戶提供從計算、存儲到網絡等資源隔離，通過ISO/IEC 27001、ISO/IEC 29151信息安全管理認證。商湯將向合作夥伴開放AIDC，以加速數碼轉型。