產品概述:
Atlas 300I A2 推理卡提供強勁AI推理能力,具有超強算力、視頻分析等優勢,可廣泛應用于生成式大模型推理、內容審核等多場景,支持最高560 TOPS INT8 和 280 TFLOPS FP16算力,加速大模型推理深入行業。
性能特點:
超強算力:提供業界領先的560 TOPS INT8算力;提供業界領先的280 TFLOPS FP16算力;支持 8 core * 2.0 GHz CPU計算能力
高速帶寬:最大支持1.6 TB/s內存帶寬;支持PCIe 5.0高速接口
適用領域:
集成于服務器中,進行AI推理。支持主流的AI大模型,廣泛用于內容生成,智能問答,智能客服,內容審核的場景。
推薦理由:
Atlas 300I A2 推理卡提供強勁AI推理能力,具有算力高、片上內存大等優勢,可廣泛應用于生成式大模型推理、互聯網推薦審核等場景,加快深度學習網絡推理進程。






資訊頻道