Tại GTC 2024, ông Huang đã giới thiệu con chip mới nhất của Nvidia, có tốc độ xử lý một số tác vụ nhanh hơn 30 lần so với sản phẩm tiền nhiệm. Ông cũng trình bày chi tiết về một bộ công cụ phần mềm mới dành cho các nhà phát triển và các công ty sử dụng công nghệ của Nvidia, với các khách hàng bao gồm nhiều công ty công nghệ hàng đầu thế giới.

Con chip hàng đầu mới của Nvidia, được gọi là B200 Blackwell, lấy hai ô silicon có kích thước như sản phẩm trước đó của công ty và liên kết chúng lại với nhau thành một thành phần duy nhất.

"Blackwell nhanh hơn Hopper H100, nhưng quan trọng là nó có khả năng tính toán trong mạng, yếu tố giúp tốc độ xử lý AI nhanh hơn nữa cũng như thực hiện những công việc khó khăn trước đây, như biến lời nói thành video 3D", ông Huang chia sẻ.

Blackwell có 208 tỷ bóng bán dẫn, cao gấp đôi so với 80 tỷ trên chip Hopper H100, có năng lực xử lý AI đạt 20 petaflop (20 triệu tỷ phép tính mỗi giây), gấp năm lần mức 4 petaflop của Hopper H100. Theo Nvidia, trên thực tế Blackwell xử lý tác vụ nhanh gấp 7 đến 30 lần Hopper H100, đồng thời giảm 25 lần chi phí cũng như mức tiêu thụ năng lượng.

Một trong những cải tiến quan trọng là hệ thống Transformer Engine thế hệ hai, nhân đôi khả năng tính toán, băng thông và kích thước mô hình. Khi kết hợp bộ chuyển mạch NVLink, hệ thống có thể hỗ trợ tối đa 576 GPU giao tiếp với nhau, với băng thông hai chiều 1,8 TB/giây.

Chip B200 Blackwell có tốc độ xử lý nhanh trong các tác vụ như đưa ra câu trả lời từ chatbot, tuy nhiên phía công ty không đưa ra chi tiết cụ thể về hiệu quả hoạt động của nó khi xử lý lượng dữ liệu khổng lồ để đào tạo các chatbot đó - đây là loại công việc có hỗ trợ phần lớn doanh số bán hàng tăng vọt của Nvidia. Ngoài ra, công ty cũng không đưa ra chi tiết về giá của con chip này.

Các công bố về chip và phần mềm của Nvidia tại GTC 2024 sẽ giúp xác định liệu công ty có thể duy trì 80% thị phần chip AI hay không.  Nvidia cho biết các khách hàng lớn bao gồm Amazon.com, Alphabet's, Google, Microsoft, OpenAI và Oracle, dự kiến sẽ sử dụng chip mới trong các dịch vụ điện toán đám mây mà họ bán cũng như cho các dịch vụ AI của riêng họ. Công ty đang chuyển từ bán chip đơn lẻ sang bán toàn bộ hệ thống. Phiên bản mới nhất chứa 72 chip AI và 36 bộ xử lý trung tâm.

Nhà phân tích Jason Bourne tới từ công ty nghiên cứu thị trường kỹ thuật số eMarketer (Mỹ) cho rằng: “Các đối thủ như AMD, Intel, các công ty khởi nghiệp và thậm chí cả tham vọng chip của chính Big Tech có nguy cơ làm mất đi thị phần của Nvidia, đặc biệt là đối với những khách hàng doanh nghiệp quan tâm đến chi phí”.

Mặc dù Nvidia được biết đến rộng rãi nhờ các sản phẩm phần cứng, công ty cũng đã sản xuất một lượng đáng kể các sản phẩm phần mềm. Các công cụ phần mềm mới, được gọi là Microservice, cải thiện hiệu quả hệ thống trên nhiều mục đích sử dụng khác nhau, giúp doanh nghiệp dễ dàng kết hợp mô hình AI vào công việc hơn, giống như một hệ điều hành máy tính tốt có thể giúp các ứng dụng hoạt động tốt.

Ngoài phần mềm AI, Nvidia còn đi sâu hơn vào phần mềm mô phỏng thế giới vật lý bằng mô hình 3D. Đối với công việc thiết kế ô tô, máy bay phản lực và sản phẩm, Huang cũng đã công bố hợp tác với các công ty phần mềm thiết kế Ansys, Cadence và Synopsys.

Nvidia cũng giới thiệu một dòng chip mới được thiết kế cho ô tô với khả năng mới để chạy chatbot bên trong xe. Công ty đã tăng cường mối quan hệ vốn đã rộng rãi với các nhà sản xuất ô tô Trung Quốc, cho biết nhà sản xuất xe điện BYD và Xpeng đều sẽ sử dụng chip mới của mình.

Trong bài phát biểu tại Hội nghị, Huang đã phác thảo một loạt chip mới để tạo ra robot hình người và ra mắt nền tảng nghiên cứu dựa trên đám mây, sử dụng AI để nghiên cứu và thử nghiệm 6G.