Tích hợp AI vào máy tính cá nhân tại Computex 2024

Tại sự kiện Computex 2024, Gigabyte đã công bố giải pháp AI Top PC. Hệ thống này bao gồm cả phần cứng và phần mềm, cho phép người dùng có thể tự đào tạo AI để phục vụ mục đích sử dụng cá nhân hoặc đáp ứng nhu cầu của doanh nghiệp vừa và nhỏ.

Trung tâm của hệ sinh thái này nằm ở các bo mạch chủ thế hệ mới, được trang bị nhiều khe cắm PCIe 5.0. Nhờ vậy, người dùng có thể gắn thêm nhiều card đồ họa chuyên dụng cho mục đích đào tạo AI hiệu suất cao.

Trên phiên bản thử nghiệm, thiết bị được tích hợp 4 chiếc card đồ họa Gigabyte RTX 4070 Ti Super AI Top. Đây là dòng card đồ họa chuyên dụng thế hệ mới, được thiết kế riêng để phù hợp với mục đích đào tạo AI. So với các mẫu card đồ họa thông thường, dòng card đồ họa này có kích thước nhỏ gọn hơn, nhưng vẫn được thiết kế để đảm bảo hiệu quả tản nhiệt khi sử dụng trong thời gian dài.

Phần mềm được sử dụng để đào tạo AI có tên gọi Gigabyte AI Top Utility. Phần mềm này được thiết kế với giao diện tối giản, dễ sử dụng với người dùng có ít kinh nghiệm về lập trình AI. Phần mềm cho phép người dùng theo dõi tiến trình đào tạo AI và trạng thái phần cứng hệ thống thông qua các biểu đồ.

Ở phiên bản thử nghiệm, AI Top Utility được thiết lập với mô hình ngôn ngữ lớn Llama 3 với 8 tỷ tham số. Llama 3 là một mô hình ngôn ngữ lớn mã nguồn mở mạnh nhất hiện tại do Meta phát triển. Ngoài ra, bộ công cụ này còn hỗ trợ các mô hình ngôn ngữ lớn lên đến 236 tỷ tham số.

Mô hình ngôn ngữ sau khi được phát triển có thể được trích xuất sang thiết bị khác để sử dụng. Hiện tại, AI Top Utility chỉ hỗ trợ hệ điều hành Linux, cho việc phát triển mô hình ngôn ngữ lớn. Trong tương lai, các ứng dụng liên quan đến hình ảnh, video, âm thanh cũng sẽ được hỗ trợ.

So với việc sử dụng AI trên đám mây, giải pháp tự đào tạo AI trên thiết bị sẽ có ưu điểm về tính bảo mật cao hơn, đáp ứng đúng nhu cầu của từng cá nhân hoặc doanh nghiệp và cũng sẽ có mức chi phí sử dụng tiết kiệm hơn.

Ông Eddie Lin, CEO Tập đoàn Gigabyte, cho biết xu hướng chung của ngành AI trong tương lai gần là chuyển từ dịch vụ đám mây có sẵn sang máy tính cá nhân của người dùng. Do đó, những giải pháp trọn gói bao gồm cả phần cứng và công cụ ứng dụng được xem là tương lai của AI.