Chuyển đến nội dung chính

Máy chủ AI và những thông tin thị trường đáng chú ý

 Trí tuệ nhân tạo (AI) đã và đang thúc đẩy sự tăng trưởng trên thị trường máy chủ, bao gồm cả chip bên trong những máy chủ như vậy, bằng chứng là doanh số bán GPU của Nvidia và AMD tăng mạnh. ChatGPT và niềm đam mê với chatbot từ một số công ty lớn như Microsoft và OpenAI đang thúc đẩy xu hướng này khi các nhà cung cấp dịch vụ đám mây tăng cường đầu tư cho các hệ thống máy chủ AI.

Một số mức tăng trưởng dự kiến gần đây đã được TrendForce, một công ty phân tích có trụ sở tại Đài Bắc, Đài Loan, theo dõi. Công ty cho biết trong cả năm 2022, các máy chủ AI được trang bị GPU đa năng chỉ chiếm 1% số lô hàng máy chủ toàn cầu. Vào năm 2023, các lô hàng máy chủ AI dự kiến sẽ tăng 8% so với cùng kỳ năm ngoái nhờ chatbot và các ứng dụng AI tương tự. TrendForce cho biết đến năm 2025, tốc độ tăng trưởng hàng năm của các máy chủ AI dự kiến sẽ đạt gần 11%.

Tổng khối lượng hàng hoá được giao trong thị trường máy chủ toàn cầu đã vượt quá 13 triệu máy chủ vào năm 2022, theo nhiều nguồn khác nhau, với công ty phân tích ResearchandMarkets đưa ra con số là 13,6 triệu máy chủ, tăng 5% so với năm 2021. Dựa trên báo cáo của cả hai công ty phân tích, con số này sẽ là 136.000 Máy chủ GPU được xuất xưởng vào năm 2022, để tăng thêm một số con số có thể là 147.000 máy chủ GPU được xuất xưởng vào năm 2023. Không rõ rằng tất cả hoặc gần như tất cả sự tăng trưởng của máy chủ AI đều dựa trên việc sử dụng GPU, vì Intel và nhiều công ty nhỏ khác đang dựa vào về các sửa đổi CPU mà các công ty tin rằng có thể cung cấp khả năng tính toán cho các ứng dụng AI tinh vi.

IDC đã đặt giá trị vào thị trường máy chủ toàn cầu tổng thể là 122 tỷ đô la vào năm 2022, dự kiến sẽ tăng 3% vào năm 2023, sau đó tăng vọt thêm 12% vào năm 2024. Khoảng 10% thị trường tổng thể là dành cho các máy chủ không phải x86, trong khi phần còn lại là máy chủ x86.

ChatGPT đã được báo cáo rộng rãi rằng đã sử dụng ít nhất 10.000 GPU Nvidia cho mục đích đào tạo AI và TrendForce cho biết đó chủ yếu là chip Nvidia A100, trong khi ChapGPT sử dụng tài nguyên và dịch vụ của Microsoft Azure. Công ty phân tích lập bảng rằng ChapGPT và các ứng dụng khác của Microsoft sẽ dẫn đến nhu cầu về 25.000 máy chủ AI vào năm 2023.

Thật thú vị, ERNIE Bot của Baidu ban đầu chạy A100, nhưng Baidu đã chuyển sang chip Nvidia A800 do các hạn chế kiểm soát xuất khẩu của Bộ Thương mại Hoa Kỳ. TrendForce dự kiến nhu cầu về máy chủ AI của Baidu sẽ có tổng cộng khoảng 2.000 máy chủ vào năm 2023. A800 được thiết kế dành riêng cho thị trường Trung Quốc do các hạn chế xuất khẩu của Hoa Kỳ, theo TrendForce. Nvidia hiện chiếm khoảng 80% thị trường GPU máy chủ, trong khi AMD chiếm khoảng 20%.

Theo nhà phân tích Mark Liu của TrendForce, GPU của Intel đã không giành được thị phần đáng kể trong thị trường tiêu dùng, không tập trung vào nghiên cứu. "Có thể tương đối khó khăn [đối với Intel] để xâm nhập vào thị trường trung tâm dữ liệu trong vòng hai năm," ông Liu nói thêm trong một email gửi tới Fierce Electronics. Trong lĩnh vực CPU, Intel phải đối mặt với "thách thức lớn hơn" từ AMD và sự ra đời của ARM cho máy chủ.

Bốn nhà cung cấp dịch vụ đám mây lớn ở Bắc Mỹ (Google, AWS, Meta và Microsoft) chiếm 66% nhu cầu máy chủ AI hàng năm vào năm 2022. Tại Trung Quốc, ByteDance có 6% số lượt mua máy chủ AI vào năm 2022, trong khi Tencent, Alibaba và Baidu có 2,3 %, 1,5% và 1,5% tương ứng, TrendForce báo cáo.

Công ty phân tích cũng cho biết các máy chủ AI có GPU yêu cầu bộ nhớ băng thông cao, dựa vào Samsung, SK Hynix và Micron. Nvidia đã sử dụng bộ nhớ HBM3, điều đó có nghĩa là SK Hynix sẽ được hưởng lợi vì đây là công ty duy nhất có khả năng sản xuất hàng loạt HBM3.

TrendForce tin rằng việc điều chỉnh hàng tồn kho trên toàn ngành đối với bộ nhớ vào năm 2023 sẽ kìm hãm HBM vào năm 2023, nhưng sau đó, mức tăng trưởng hàng năm sẽ bùng nổ lên 40% vào năm 2023 đến 2025. Và, các nhà cung cấp bộ nhớ coi HBM mang lại cho họ tỷ suất lợi nhuận gộp cao.

TrendForce viết: “Các công ty đám mây sẽ đầu tư nhiều hơn vào các máy chủ AI trong những năm tới. “Hiện tại, các công ty đang cắt giảm chi tiêu cho CNTT do nền kinh tế toàn cầu đang bị ảnh hưởng bởi lạm phát cao và tăng trưởng chậm chạp. Tuy nhiên, với các ứng dụng như chatbot và công cụ tìm kiếm thúc đẩy nhu cầu chuyển đổi công nghệ dựa trên AI, các công ty đám mây sẽ ưu tiên các doanh nghiệp hoặc dự án liên quan.


Quý khách vui lòng liên hệ với ADTECH để chúng tôi được phục vụ:

???? ADTECH – Cung cấp thiết bị-giải pháp công nghệ dành cho doanh nghiệp

???? Số 358 Giải Phóng, Phương Liệt, Thanh Xuân, Hà Nội

☎ Hotline: 0969133273

???? Website: aiotvn.com

Nhận xét

Bài đăng phổ biến từ blog này

Ứng dụng AI tại biên và 3 điểm cần lưu ý khi triển khai

 Khi trí tuệ nhân tạo (AI) trưởng thành, việc ứng dụng nó sẽ tiếp tục tăng lên. Theo nghiên cứu gần đây, 35% tổ chức đang sử dụng AI, với 42% đã bắt đầu khám phá tiềm năng của nó. Mặc dù AI đã được nghiên cứu khá nhiều và triển khai mạnh mẽ trên các nền tảng đám mây, nhưng đối với các hệ thống biên thì AI vẫn là một công nghệ còn khá non trẻ và đang có một số thách thức riêng khi ứng dụng AI tại biên. AI đã được sử dụng trong nhiều ứng dụng, từ điều hướng trong ô tô đến theo dõi các bước chân đến trò chuyện với trợ lý kỹ thuật số. Mặc dù người dùng thường xuyên truy cập các dịch vụ này trên thiết bị di động, nhưng kết quả tính toán nằm trong việc sử dụng AI trên đám mây. Cụ thể hơn, một người yêu cầu thông tin và yêu cầu đó được xử lý bởi một mô hình học tập trung tâm trên đám mây, sau đó mô hình này sẽ gửi kết quả trở lại thiết bị cục bộ của người đó. AI ở biên ít được hiểu và ít được triển khai hơn so với AI trên đám mây. Ngay từ khi mới thành lập, các thuật toán và đổi ...

Sự khác biệt của AGV và AMR là gì?

  Tự động hóa hoạt động logistics nội bộ là một vấn đề rất được quan tâm đối với cả các công ty lớn và nhỏ. Tại sao phải sử dụng nguồn nhân lực thủ công để vận chuyển các nguyên vật liệu khi bạn có thể tự động hóa các nhiệm vụ này và để nhân viên tập trung vào các hoạt động có giá trị cao hơn? Bằng cách tự động hóa hoạt động vận chuyển hàng hoá & vật liệu, các doanh nghiệp có thể tối ưu hóa năng suất và có thể lên lịch giao hàng hiệu quả hơn để giảm tắc nghẽn trong sản xuất. Cho đến thời gian gần đây, các phương tiện xe tự hành (AGV) truyền thống là lựa chọn duy nhất để tự động hóa các nhiệm vụ vận chuyển nội bộ. AGV là thiết bị cố định quen thuộc trong các cơ sở lắp đặt lớn, cố định, nơi có nhu cầu phân phối vật liệu nhất quán, lặp đi lặp lại và nơi có thể chấp nhận chi phí ban đầu lớn và lợi tức đầu tư (ROI) lâu dài. Tuy nhiên, ngày nay AGV đang bị thách thức bởi công nghệ phức tạp hơn, linh hoạt hơn và tiết kiệm chi phí hơn, đó là các rô bốt di động tự động (AMR). Mặc d...

Edge Ai có thể mang tới những lợi ích gì trong kỷ nguyên AIoT

  Edge AI là một mô hình điện toán mới kết hợp AI trong các khung điện toán biên. Bài viết này sẽ mang tới cho các bạn thông tin về một số lợi ích và trường hợp sử dụng của nó. Việc áp dụng điện toán biên đã chứng kiến mức tăng trưởng đáng kể trong những năm gần đây. Một báo cáo gần đây của Research and Markets ghi lại rằng quy mô thị trường điện toán biên toàn cầu được dự đoán sẽ đạt 155,90 tỷ USD vào năm 2030. Một phần của những gì đã thúc đẩy sự phát triển của việc áp dụng điện toán cạnh trong các ngành công nghiệp là trí tuệ nhân tạo (AI). Với sự gia tăng của các ứng dụng IoT và dữ liệu kinh doanh, nhu cầu phát triển các thiết bị có thể xử lý thông tin nhanh hơn và thông minh hơn ngày càng tăng. Đây là nơi mà Edge AI đi vào cuộc sống. Việc tích hợp AI vào điện toán biên hoặc Edge AI đã giúp các thiết bị biên có thể sử dụng thuật toán AI để xử lý thông tin ở biên của thiết bị hoặc trên một máy chủ gần thiết bị, cắt giảm thời gian các thiết bị biên đưa ra quyết định....