AMD tuyên bố ra chip AI mạnh hơn 60% Nvidia H100 AMD cho biết Instinct MI300X, chip mạnh nhất dùng để huấn luyện AI của hãng, có hiệu năng gấp 1,6 lần so với H100. Được giới thiệu lần đầu hồi tháng 6 và ra mắt chính thức ngày 6/12 tại sự kiện Advancing AI ở San Jose, California, Instinct MI300X nhắm đến các hệ thống huấn luyện AI. Trong sự kiện, AMD nêu đích danh mẫu chip của Nvidia là đối thủ chính. MI300X được xem là đỉnh cao về phương pháp thiết kế chiplet mới nhất mà AMD áp dụng cho b
Được giới thiệu lần đầu vào tháng 6 và chính thức ra mắt tại sự kiện Advancing AI ở San Jose, California vào ngày 6/12, Instinct MI300X được thiết kế để đáp ứng nhu cầu của các hệ thống huấn luyện AI. Trong sự kiện, AMD đặt mục tiêu cạnh tranh trực tiếp với chip AI của Nvidia.
MI300X đại diện cho đỉnh cao trong thiết kế chiplet mới nhất của AMD cho đơn vị xử lý đồ họa (GPU). Nó kết hợp tám ngăn xếp bộ nhớ HBM3 12Hi với tám chiplet GPU 5nm CDNA 3, xếp chồng lên nhau theo kiểu 3D và được đặt tên là XCD. AMD mô tả công nghệ này là 3,5D, sự kết hợp giữa 3D và 2,5D. Với công suất là 750 W, MI300X có 304 đơn vị tính toán, dung lượng HBM3 192 GB và băng thông đạt 5,3 TB/s.
Bên trong MI300X, thiết kế được tối ưu hóa để hoạt động nhóm với tổng cộng 8 phân vùng xử lý riêng biệt. Các vùng này giao tiếp với nhau thông qua kết nối Infinity Fabric với băng thông tốc độ 896 GB/s, mang lại hiệu suất lên đến 10,4 Petaflop (triệu tỷ phép tính mỗi giây).
Theo thông báo của AMD, MI300X vượt trội so với Nvidia H100 với dung lượng bộ nhớ lớn hơn 2,4 lần và hiệu suất tính toán cao hơn 1,3 lần. Đối với các mô hình ngôn ngữ lớn, MI300X đã vượt trội so với H100, với sự nhanh nhẹn 20% ở mức so sánh 1v1 và 40-60% khi chạy trên các mô hình lớn hơn.
Mặc dù mạnh mẽ, MI300X không phải là GPU mạnh nhất, với Nvidia công bố H200 mới với hiệu suất gần gấp đôi H100 vào giữa tháng 11. Meta và Microsoft đã thông báo rằng họ sẽ sử dụng MI300X thay thế cho chip Nvidia, trong khi AMD dự đoán doanh thu GPU cho trung tâm dữ liệu của họ sẽ đạt 2 tỷ USD vào năm 2024 và ước tính thị trường GPU AI có thể tăng lên 400 tỷ USD trong bốn năm tới.