Nếu bạn đã đọc thông số kỹ thuật đầy đủ của một số Intel CPU, bạn sẽ đã thấy một số từ viết tắt bí ẩn xuất hiện: GNA. Trong thực tế, nó là một bộ xử lý nhỏ hay đúng hơn là một bộ đồng xử lý chịu trách nhiệm tăng tốc một số Học kĩ càng và do đó, có liên quan nhiều đến việc triển khai trí tuệ nhân tạo. Chúng tôi giải thích bộ đồng xử lý này bao gồm những gì và chức năng của nó là gì.
Các bộ vi xử lý dành riêng để tăng tốc một số tác vụ hàng ngày, sử dụng các mô hình được phát triển thông qua trí tuệ nhân tạo, đã xuất hiện trong những năm gần đây ở mọi cấu hình và kích cỡ và không có gì ngạc nhiên khi Intel không muốn bị bỏ lại phía sau.
Intel GNA là gì?
Intel GNA là bộ đồng xử lý mà một số CPU Intel đã tích hợp và phục vụ để tăng tốc thực thi một số thuật toán suy luận. Điều đó nói rằng, nhiều người trong số các bạn sẽ biết rằng do đó chúng ta đang phải đối mặt với một bộ xử lý kiểu thần kinh, trong trường hợp này lần đầu tiên được giới thiệu trong Intel Ice Lake, và từ viết tắt của nó có nghĩa là Máy gia tốc thần kinh Gaussian ( GNA ), và được tích hợp vào bộ xử lý riêng hoạt động với mức tiêu thụ rất thấp.
Nó được thiết kế để sử dụng cho các tác vụ như phiên âm âm thanh trong thời gian thực hoặc loại bỏ nhiễu ảnh, vốn là đặc điểm điển hình cho AI, nhưng không yêu cầu bộ tăng tốc công suất lớn.
Gần đây, nó đã được cải tiến tại Tiger Lake, nơi phiên bản 2.0 của GNA được triển khai, nhằm mục đích cũng được sử dụng để khử nhiễu xung quanh và giảm nhiễu trong ảnh. Với điều này, chúng ta có thể suy ra rằng GNA được thiết kế cho các môi trường kinh doanh hợp tác, đặc biệt là những môi trường dựa trên công nghệ từ xa, trong đó việc phiên mã văn bản và giao tiếp được thực hiện mà không có tiếng ồn là rất quan trọng.
Cách sử dụng?
Intel GNA không phải là đơn vị thực thi của CPU vì vậy chúng tôi đang xử lý một bộ xử lý trong một bộ xử lý khác và nó phục vụ để tăng tốc một số tác vụ cho khách của nó. Điều này có nghĩa là nó phải được gọi một cách rõ ràng trong mã thông qua một API, trong trường hợp này là API Intel chuyên dụng.
Việc triển khai một thuật toán hoặc mô hình Deep Learning được Intel GNA thực thi trong giai đoạn suy luận được thực hiện theo ba giai đoạn:
- Chúng tôi bắt đầu bằng cách đào tạo thuật toán sử dụng mạng nơron dấu chấm động với khung lựa chọn miễn phí.
- Mô hình thu được từ khóa đào tạo được nhập bằng Công cụ triển khai SDK học sâu của Intel cho phép nhập bất kỳ mô hình nào được tạo bởi các khuôn khổ Học sâu được sử dụng và nổi tiếng nhất.
- Nó liên kết với Intel Deep Learning SDK Inference Engine hoặc các thư viện GNA gốc, trong đó có hai thư viện: một cho Intel Quark và một cho Intel Atom và Intel Core.
Để gọi GNA, những gì CPU làm là để lại mô hình suy luận trong bộ nhớ và GNA được gọi để áp dụng thuật toán đã nói và thực thi nó song song với công việc của bộ xử lý mà nó là máy chủ. Cũng cần phải lưu ý rằng nó là một thiết bị tiêu thụ điện năng thấp, vì vậy chúng tôi không thể mong đợi kết quả giống như sử dụng mạng nơ-ron hiệu suất cao hoặc một FPGA được định cấu hình như vậy, nhưng nó đủ tốt cho các tác vụ đơn giản hàng ngày. .
Intel GNA bên ngoài CPU Intel
Mặc dù bản thân GNA là một bộ xử lý được tích hợp như một phần của CPU x86, nó có thể được triển khai bên ngoài CPU nếu muốn, trường hợp nổi tiếng nhất là Bộ công cụ phát triển hỗ trợ giọng nói Intel , được sử dụng đặc biệt để suy luận các lệnh thoại cho các ứng dụng Amazon Alexa thiết bị.