VietNetwork.Vn

Bộ xử lý thần kinh hay NPU là bước tiến lớn tiếp theo trong xử lý. Chúng ta hãy cùng xem xét các nhà sản xuất lớn và các sản phẩm của họ.

• NPU 4 của Intel cung cấp 48 TOPS, vượt trội hơn đáng kể so với các chip trước đây.
• XDNA 2 của AMD có 50 TOPS, với khả năng lập trình động để xử lý AI.
• Snapdragon X Elite của Qualcomm cung cấp 45 TOPS, với các vấn đề về tiêu thụ điện năng được báo cáo.

Neural Processing Units hay NPU là phần cứng mới nhất được các nhà sản xuất bộ xử lý đề cập đến. Những con chip này được cho là được chế tạo để xử lý AI và mỗi nhà sản xuất lớn đều có cách tiếp cận riêng đối với NPU. Hãy cùng xem chúng ta sẽ thấy gì trong tương lai gần.

1. NPU và vị trí của chúng trong máy tính xách tay

Nếu đến giờ bạn vẫn chưa nghe về AI PC và nhu cầu về sức mạnh xử lý của chúng, bạn có thể không biết NPU đã tiến xa đến mức nào. NPU được cho là bổ sung cho CPU hiện có, nhưng được chế tạo riêng để xử lý AI. Các nhà sản xuất chip đã nhận thấy tầm quan trọng của việc có xử lý AI cụ thể trên chip và NPU là động thái để giải quyết vấn đề đó.

Snapdragon X Elite là NPU mới đầu tiên, nhưng Intel và AMD đã nâng cao trình độ, cả về sức mạnh xử lý và thiết kế kiến trúc. Mỗi nhà sản xuất này đều có một dòng chip được thiết kế riêng để chạy trên PC Copilot+, được cho là sẽ mở khóa tiềm năng của trợ lý AI của Microsoft.

Những con chip này được thiết kế chủ yếu để sử dụng trên máy tính xách tay, nhưng điều đó không có nghĩa là chúng ta sẽ không thấy phiên bản máy tính để bàn của chip NPU trong tương lai. So sánh những gì đã có với các báo cáo về những gì mong đợi sẽ cho chúng ta biết những gì đang diễn ra trong quá trình phát triển NPU và những gì chúng ta có thể mong đợi trong tương lai gần.

2. NPU thế hệ tiếp theo của Intel: NPU 4

Chip mới nhất của Intel tích hợp NPU cùng với một số bổ sung thú vị giúp xử lý AI hiệu quả hơn nhiều. NPU 4 được tích hợp trong kiến trúc Lunar Lake của Intel. Khi bạn đào sâu hơn, NPU này mang lại rất nhiều lợi ích cho việc xử lý ứng dụng AI.

Intel tuyên bố rằng NPU có thể cung cấp khả năng xử lý đỉnh cao là 48 Tera Operations per Second (TOPS), khiến đây trở thành cải tiến NPU mạnh mẽ nhất của Intel cho đến nay. Thế hệ NPU 4 hiện tại vượt trội hơn đáng kể so với thế hệ NPU 3 trước của Intel, cung cấp sức mạnh tính toán gấp hơn bốn lần.

Điều này một phần là do kiến trúc của chip. Chip chạy hai NPU song song, mỗi NPU có đường ống suy luận độc lập riêng, giúp diễn giải dữ liệu tác vụ tốt hơn. Mỗi đơn vị có mảng tích lũy nhân (MAC) riêng, giúp thực hiện phép toán ma trận phức tạp cần thiết trong quá trình xử lý AI. Trên hết, DSP SHAVE có trong mỗi đơn vị cho phép tăng gấp bốn lần sức mạnh xử lý của thế hệ trước, cho phép tạo mạng nơ-ron phức tạp hơn.

Nghiên cứu về Lunar Lake cho thấy nó có thể chạy Copilot của Microsoft cục bộ. Hơn nữa, Lunar Lake có khả năng có chữ ký điện năng rất hiệu quả. Intel tuyên bố rằng cải tiến Thread Director của họ sẽ giảm mức tiêu thụ năng lượng cho NPU, khiến nó trở thành một lựa chọn hấp dẫn cho các ứng dụng công suất thấp.

Khi nào chúng ta có thể sở hữu công nghệ này? Mặc dù ban đầu Intel đề xuất ra mắt chip một cách nhẹ nhàng, nhưng giờ đây máy tính xách tay Lunar Lake đã có mặt.

3. NPU thế hệ tiếp theo của AMD: XDNA 2

Vậy AMD có gì để cung cấp trên đường chân trời NPU? Bước đột phá mới nhất của AMD vào thị trường NPU là chip XDNA 2. Công ty tuyên bố rằng nó có thể vượt trội hơn NPU 4 của Intel, cung cấp 50 TOPS so với 48 của NPU 4. Phiên bản thứ hai của XDNA chứng kiến AMD tăng 20 ô động cơ trên chip lên 32 ô động cơ. Sự gia tăng này dẫn đến sự gia tăng gấp năm lần NPU TOPS giữa các thế hệ.

Bản thân kiến trúc XDNA dựa trên kiến trúc dữ liệu luồng không gian. AMD thiết kế kiến trúc này để linh hoạt và thích ứng, với khả năng lập trình động để tạo ra các hệ thống phân cấp tùy chỉnh cho quá trình xử lý AI. Bản thân công cụ XDNA 2 là một cải tiến trong công nghệ xử lý.

Tôi đã đề cập rằng NPU có các ô động cơ, và điều này rất quan trọng đối với khả năng thích ứng của hệ thống. Mỗi ô có thể được coi là một công nhân độc lập với các tài nguyên tính toán và bộ nhớ riêng. Phương pháp xử lý độc lập này cho phép chip làm được nhiều việc hơn trong khi cần ít năng lượng hơn để thực hiện. Chip được thiết kế để xử lý cả xử lý tiêu chuẩn và xử lý AI, giống như Copilot của Microsoft.

AMD đáng chú ý là bộ xử lý chip đầu tiên tích hợp NPU vào chip của họ. Mặc dù điều đó đã đưa họ đi trước trong cuộc chơi với NPU, nhưng nó cũng mở ra cánh cửa cho AMD mở rộng ranh giới về những gì NPU có thể làm, vì họ đã có kinh nghiệm tích hợp chúng với CPU. Nếu bạn đang tự hỏi khi nào bạn sẽ được dùng thử các NPU này, thì chúng đã được phát hành rồi. AMD đã tung ra những chiếc máy tính xách tay Ryzen AI 300 đầu tiên vào tháng 7 năm 2024.

4. NPU thế hệ tiếp theo của Qualcomm: Snapdragon X Elite

Một trong những con chip đầu tiên xuất hiện trên thị trường trong thế hệ NPU mới này là Snapdragon X Elite. Mặc dù nhà sản xuất chip này không phải là người xa lạ trong việc phát triển chip di động, nhưng đây là lần đầu tiên công ty này tham gia vào thị trường máy tính xách tay. Snapdragon đã dành nhiều nguồn lực để giành được một phần thị phần và chứng minh rằng chip của họ có thể cạnh tranh với các nhà sản xuất uy tín khác.

Nó yếu hơn một chút so với các sản phẩm của Intel và AMD, với công suất xử lý tối đa là 45 TOPS. Khi con chip này được phát hành, nó đã vượt trội hơn mọi thứ trên thị trường. Tuy nhiên, với việc AMD và Intel chuẩn bị phát hành NPU mới và được cải tiến của họ, Snapdragon X Elite có thể không còn là đối thủ của nó nữa.

Snapdragon X Elite nổi tiếng là ngốn điện hơn các đối thủ cạnh tranh và các máy tính xách tay được phát hành với chip này có tiếng ồn hơn một chút do lượng nhiệt tỏa ra từ chip. X Elite được xây dựng trên lõi bộ xử lý mới mà Snapdragon gọi là "Oryon".

Oryon là một sự đổi mới, vì đây là bộ xử lý "từ đầu" đầu tiên được thiết kế trong vài năm trở lại đây. Nó được lên kế hoạch sử dụng không chỉ trong các NPU tương lai của Snapdragon mà còn được tích hợp vào thị trường chip di động. NPU là một cách tuyệt vời để chiếm lĩnh thị trường. Tuy nhiên, đã có những vấn đề với phần mềm Windows-on-Arm, mặc dù Microsoft đã làm nên điều kỳ diệu với lớp mô phỏng Prism của mình.

Nếu bạn quan tâm đến việc thử nghiệm những gì Snapdragon đã làm với chip của mình, bạn có thể sở hữu máy tính xách tay ngay bây giờ. Công ty đã ngừng sản xuất máy tính xách tay vào tháng 4 năm 2024 và kể từ đó, họ đã chứng kiến rất nhiều sự chấp nhận, mặc dù mức giá cao. Hầu hết mọi người đang sử dụng những chiếc máy tính xách tay này như một điểm khởi đầu để xem máy tính xách tay chạy bằng NPU hoạt động như thế nào so với những người anh em không chạy bằng NPU.

5. Có quan trọng khi phải có NPU trên máy tính xách tay không?

AI dường như là một từ thông dụng trong công nghệ hiện nay, và các nhà sản xuất quảng cáo NPU có thể chỉ đang nhảy vào xu hướng này. Máy tính xách tay có cần thiết phải có NPU không? Các phiên bản hiện tại của quá trình xử lý AI chủ yếu sử dụng GPU để hoàn thành công việc.

Trừ khi bạn đang thiết kế LLM để chạy trên máy của mình hoặc bạn thực sự dựa vào Copilot của Microsoft, thì thế hệ NPU hiện tại không cần thiết. Tuy nhiên, chúng là dấu hiệu của những điều sắp tới. Mặc dù bạn có thể không cần NPU trên máy của mình ngày hôm nay, nhưng chỉ là vấn đề thời gian trước khi có một NPU là yêu cầu bắt buộc để hoàn thành một số công việc nhất định.