Robert Triggs / Cơ quan quản lý Android
Nếu bạn đang cân nhắc việc mua máy tính xách tay mới, bạn chắc chắn sẽ nhận thấy rằng họ đang ngày càng tự hào về khả năng của NPU, nghe rất giống phần cứng mà chúng ta đã thấy trên những chiếc điện thoại thông minh tốt nhất trong nhiều năm nay. . Yếu tố thúc đẩy là sự thúc đẩy máy tính xách tay bắt kịp khả năng AI di động, trang bị cho chúng các tính năng AI tiên tiến, như Copilot của Microsoft, có thể chạy an toàn trên thiết bị mà không cần kết nối internet. Vì vậy, đây là tất cả những gì bạn cần biết về NPU, lý do tại sao máy tính xách tay tiếp theo của bạn có thể có NPU và liệu bạn có nên mua NPU hay không.
Bạn có quan tâm đến khả năng AI của máy tính xách tay không?
722 phiếu bầu
Vâng, tôi quan tâm.
32%
Phụ thuộc vào thông số kỹ thuật khác
24%
Không hoàn toàn không.
44%
NPU là gì?
NPU là viết tắt của Đơn vị xử lý thần kinh. NPU được dành riêng để chạy các hàm toán học liên quan đến các tác vụ mạng thần kinh/học máy/AI. Mặc dù đây có thể là những con chip độc lập nhưng chúng ngày càng được tích hợp trực tiếp vào hệ thống trên chip (SoC) cùng với các thành phần CPU và GPU quen thuộc hơn.
NPU được dành riêng để tăng tốc quá trình học máy, hay còn gọi là nhiệm vụ AI.
NPU có nhiều hình dạng và kích cỡ khác nhau và thường được gọi là hơi khác nhau tùy thuộc vào nhà thiết kế chip. Bạn sẽ tìm thấy nhiều mẫu khác nhau nằm rải rác trên thị trường điện thoại thông minh. Qualcomm có Hexagon bên trong bộ xử lý Snapdragon, Google có TPU cho cả đám mây và chip Tensor di động, còn Samsung có triển khai riêng cho Exynos.
Ý tưởng này hiện cũng đang được triển khai trong lĩnh vực máy tính xách tay và PC. Ví dụ: có Neural Engine bên trong Apple M4 mới nhất, các tính năng Hexagon của Qualcomm trong nền tảng Snapdragon X Elite, còn AMD và Intel đã bắt đầu tích hợp NPU vào chipset mới nhất của họ. Mặc dù không hoàn toàn giống nhau nhưng GPU của NVIDIA làm mờ đi ranh giới nhờ khả năng xử lý số ấn tượng. NPU ngày càng có mặt ở khắp mọi nơi.
Tại sao các tiện ích lại cần NPU?
Robert Triggs / Cơ quan quản lý Android
Như chúng tôi đã đề cập, NPU được thiết kế nhằm mục đích xử lý khối lượng công việc học máy (cùng với các tác vụ nặng về toán học khác). Theo cách nói thông thường, NPU là một thành phần rất hữu ích, thậm chí có thể cần thiết để chạy AI trên thiết bị thay vì trên đám mây. Như bạn chắc chắn đã nhận thấy, ngày nay AI dường như có mặt ở khắp mọi nơi và việc kết hợp hỗ trợ trực tiếp vào sản phẩm là một bước quan trọng trong hành trình đó.
Rất nhiều hoạt động xử lý AI ngày nay được thực hiện trên đám mây, nhưng điều này không lý tưởng vì nhiều lý do. Đầu tiên là độ trễ và yêu cầu mạng; bạn không thể truy cập các công cụ khi ngoại tuyến hoặc có thể phải chờ thời gian xử lý lâu trong giờ cao điểm. Việc gửi dữ liệu qua internet cũng kém an toàn hơn, đây là yếu tố rất quan trọng khi sử dụng AI có quyền truy cập vào thông tin cá nhân của bạn, chẳng hạn như Recall của Microsoft.
Nói một cách đơn giản, chạy trên thiết bị là tốt hơn. Tuy nhiên, các tác vụ AI rất nặng về tính toán và không chạy tốt trên phần cứng truyền thống. Bạn có thể nhận thấy điều này nếu bạn cố gắng tạo hình ảnh thông qua Khuếch tán ổn định trên máy tính xách tay của mình. Nó có thể rất chậm đối với các tác vụ nâng cao hơn, mặc dù CPU có thể chạy tốt một số tác vụ AI “đơn giản hơn”.
NPU cho phép các tác vụ AI chạy trên thiết bị mà không cần kết nối internet.
Giải pháp là sử dụng phần cứng chuyên dụng để tăng tốc các tác vụ nâng cao này. Bạn có thể đọc thêm về những gì NPU làm ở phần sau của bài viết này, nhưng TLDR là chúng chạy các tác vụ AI nhanh hơn và hiệu quả hơn CPU của bạn có thể làm một mình. Hiệu suất của chúng thường được biểu thị bằng hàng nghìn tỷ thao tác mỗi giây (TOPS), nhưng đây không phải là số liệu cực kỳ hữu ích vì nó không cho bạn biết chính xác từng thao tác đang thực hiện những gì. Thay vào đó, tốt hơn hết bạn nên tìm những số liệu cho bạn biết tốc độ xử lý mã thông báo đối với các mô hình lớn.
Nói về TOPS, NPU của điện thoại thông minh và máy tính xách tay đời đầu được đánh giá ở mức hàng chục TOPS. Nói rộng hơn, điều này có nghĩa là họ có thể tăng tốc các tác vụ AI cơ bản, chẳng hạn như phát hiện đối tượng máy ảnh để áp dụng hiệu ứng làm mờ hiệu ứng mờ hoặc tóm tắt văn bản. Nếu bạn muốn chạy một mô hình ngôn ngữ lớn hoặc sử dụng AI tổng quát để tạo ra phương tiện một cách nhanh chóng, bạn sẽ cần một bộ tăng tốc/GPU mạnh hơn trong phạm vi hàng trăm hoặc hàng nghìn TOPS.
NPU có khác với CPU không?
Một đơn vị xử lý thần kinh khá khác với một đơn vị xử lý trung tâm do loại khối lượng công việc mà nó được thiết kế để chạy. Một CPU thông thường trong máy tính xách tay hoặc điện thoại thông minh của bạn có mục đích khá chung là phục vụ nhiều loại ứng dụng, hỗ trợ các tập lệnh rộng (các chức năng mà nó có thể thực hiện), nhiều cách khác nhau để lưu vào bộ nhớ đệm và các chức năng gọi lại (để tăng tốc các vòng lặp lặp lại) và các chức năng lớn cửa sổ thực thi không theo thứ tự (để chúng có thể tiếp tục thực hiện mọi việc thay vì chờ đợi).
Tuy nhiên, khối lượng công việc của máy học là khác nhau và không cần quá nhiều sự linh hoạt. Ban đầu, chúng nặng về toán học hơn nhiều, thường yêu cầu các hướng dẫn tính toán tốn kém lặp đi lặp lại như nhân ma trận và truy cập rất nhanh vào vùng bộ nhớ lớn. Chúng cũng thường hoạt động trên các định dạng dữ liệu khác thường, chẳng hạn như số nguyên mười sáu, tám hoặc thậm chí bốn bit. Để so sánh, CPU thông thường của bạn được xây dựng dựa trên số nguyên 64 bit và phép toán dấu phẩy động (thường có thêm các hướng dẫn bổ sung).
NPU chạy các tác vụ AI nhanh hơn và tiết kiệm điện hơn so với CPU.
Việc xây dựng một NPU dành riêng cho tính toán song song hàng loạt các chức năng cụ thể này sẽ mang lại hiệu suất nhanh hơn và ít lãng phí điện năng hơn cho các tính năng nhàn rỗi không hữu ích cho tác vụ hiện tại. Tuy nhiên, không phải tất cả NPU đều như nhau. Ngay cả ngoài khả năng xử lý số tuyệt đối, chúng có thể được xây dựng để hỗ trợ các loại số nguyên và phép toán khác nhau, nghĩa là một số NPU hoạt động tốt hơn trên một số kiểu máy nhất định. Ví dụ: một số NPU của điện thoại thông minh chạy trên định dạng INT8 hoặc thậm chí INT4 để tiết kiệm điện năng tiêu thụ, nhưng bạn sẽ có được độ chính xác cao hơn từ mẫu FP16 tiên tiến hơn nhưng ngốn điện hơn. Nếu bạn cần điện toán thực sự nâng cao, GPU chuyên dụng và bộ tăng tốc bên ngoài vẫn mạnh hơn và đa dạng về định dạng hơn NPU tích hợp.
Để dự phòng, CPU có thể chạy các tác vụ machine-learning nhưng thường chậm hơn nhiều. Các CPU hiện đại của Arm, Apple, Intel và AMD hỗ trợ các hướng dẫn toán học cần thiết và một số mức lượng tử hóa nhỏ hơn. Điểm nghẽn của chúng thường chỉ là chúng có thể chạy song song bao nhiêu chức năng trong số này và chúng có thể di chuyển dữ liệu vào và ra khỏi bộ nhớ nhanh đến mức nào, đó là những gì NPU được thiết kế đặc biệt để thực hiện.
Có nên mua laptop có NPU không?
Robert Triggs / Cơ quan quản lý Android
Mặc dù không cần thiết, đặc biệt nếu bạn không quan tâm đến xu hướng AI, nhưng NPU vẫn cần thiết cho một số tính năng mới nhất mà bạn sẽ tìm thấy trong không gian di động và PC.
Ví dụ: Copilot Plus của Microsoft chỉ định NPU có hiệu suất 40TOPS là yêu cầu tối thiểu và bạn sẽ cần sử dụng Windows Recall. Thật không may, chip Meteor Lake của Intel và chip Ryzen 8000 của AMD được tìm thấy trong các máy tính xách tay hiện tại (tại thời điểm viết bài) không đáp ứng được yêu cầu đó. Tuy nhiên, chip Stix Point Ryzen mới được AMD công bố đều tương thích. Bạn sẽ không phải đợi lâu để có giải pháp thay thế x64 cho máy tính xách tay Snapdragon X Elite dựa trên Arm, vì máy tính xách tay chạy Stix Point dự kiến sẽ ra mắt vào nửa đầu năm 2024.
Các công cụ phổ biến dành cho PC như Audacity, DaVinci Resolve, Zoom và nhiều công cụ khác đang ngày càng thử nghiệm các khả năng AI trên thiết bị đòi hỏi khắt khe hơn. Mặc dù không cần thiết cho khối lượng công việc cốt lõi nhưng những tính năng này đang ngày càng trở nên phổ biến và khả năng AI sẽ là yếu tố quan trọng trong lần mua hàng tiếp theo của bạn nếu bạn thường xuyên sử dụng những công cụ này.
CoPilot Plus sẽ chỉ được hỗ trợ trên máy tính xách tay có NPU đủ mạnh.
Khi nói đến điện thoại thông minh, các tính năng và khả năng sẽ khác nhau tùy theo thương hiệu. Chẳng hạn, Galaxy AI của Samsung chỉ chạy trên các thiết bị cầm tay Galaxy S mạnh mẽ hàng đầu của hãng. Nó không mang các tính năng như hỗ trợ trò chuyện hoặc thông dịch viên đến Galaxy A55 giá cả phải chăng, có thể là do nó thiếu sức mạnh xử lý cần thiết. Điều đó nói lên rằng, một số tính năng của Samsung cũng chạy trên đám mây, nhưng những tính năng này có thể không được tài trợ bằng các giao dịch mua giá cả phải chăng hơn. Nhắc mới nhớ, Google cũng ngang bằng về mặt tính nhất quán của tính năng. Bạn sẽ tìm thấy những tính năng bổ sung AI tốt nhất của Google trên Pixel 8 Pro, chẳng hạn như Video Boost – vẫn vậy, Pixel 8 và thậm chí cả Pixel 8a giá cả phải chăng vẫn chạy nhiều công cụ AI tương tự.
Cuối cùng, AI đã có mặt và NPU là chìa khóa để tận hưởng các tính năng trên thiết bị không thể chạy trên phần cứng cũ hơn. Điều đó cho thấy, chúng ta vẫn đang ở giai đoạn đầu của khối lượng công việc AI, đặc biệt là trong lĩnh vực máy tính xách tay. Yêu cầu về phần mềm và khả năng phần cứng sẽ chỉ tăng lên trong những năm tới. Theo nghĩa đó, đợi cho đến khi bụi lắng xuống trước khi nhảy vào sẽ không có hại gì.
Bình luận
Nguồn AndroidAuthority