- TinyGPU giúp eGPU chạy trực tiếp các mô hình AI trên Mac
- Người dùng giờ đây có thể tận dụng sức mạnh của card AMD và Nvidia mà không cần vô hiệu hóa các cơ chế bảo mật
- TinyGPU hỗ trợ macOS 12.1 trở lên thông qua cổng Thunderbolt hoặc USB4
Các máy Mac dùng chip Apple Silicon từ lâu đã được ca ngợi nhờ hiệu suất vượt trội và sự tích hợp chặt chẽ giữa phần cứng và phần mềm. Tuy nhiên, chúng chưa bao giờ là lựa chọn lý tưởng cho việc sử dụng GPU rời (eGPU).
Mọi thứ đã thay đổi khi Apple chính thức phê duyệt TinyGPU, một trình điều khiển cho phép eGPU hoạt động như một bộ tăng tốc AI trên các thiết bị Apple Silicon. Việc được phê duyệt đồng nghĩa với việc người dùng giờ đây có thể khai thác sức mạnh của các card AMD và Nvidia cho những tác vụ AI mà không cần phải tắt các cơ chế bảo vệ hệ thống quan trọng như SIP (System Integrity Protection).
Phê duyệt chính thức mở ra tiềm năng AI cho người dùng Mac
“Nếu bạn đang sở hữu một eGPU kết nối qua Thunderbolt hoặc USB4 cùng một chiếc Mac, thì hôm nay chính là ngày bạn mong chờ! Apple cuối cùng cũng đã phê duyệt trình điều khiển của chúng tôi cho cả AMD và NVIDIA,” TinyCorp chia sẻ trên mạng xã hội X.
Chức năng của TinyGPU tập trung hoàn toàn vào các tác vụ AI thay vì xử lý xuất hình ảnh đồ họa truyền thống, cho phép các mô hình phức tạp chạy trực tiếp trên Mac mini hoặc các thiết bị Apple Silicon tương thích khác.
- Hỗ trợ macOS 12.1 trở lên, sử dụng cổng USB4 hoặc Thunderbolt 3/4.
- Tương thích với GPU AMD từ kiến trúc RDNA 3 trở lên và các card Nvidia dòng Ampere.
- Các tác vụ trên AMD chạy native (gốc); trong khi GPU Nvidia yêu cầu cài đặt Docker Desktop để thực thi tính toán AI thông qua NVCC.
Sau khi cài đặt và được phê duyệt, các mô hình AI nặng ký như Qwen 2.5 27B có thể vận hành một cách hiệu quả.
Khung làm việc (framework) tinygrad đi kèm với TinyGPU cung cấp giao diện tính toán cần thiết, mang đến một giải pháp tinh gọn để tăng tốc AI – điều vốn không thể thực hiện được trước đây.
Thời điểm ra mắt của TinyGPU trùng khớp với việc Apple chính thức ngừng sản xuất Mac Pro. Hãng đã gỡ bỏ trang riêng của Mac Pro khỏi website và chuyển hướng người dùng đến trang chủ chung của dòng sản phẩm Mac. Không có kế hoạch phát triển phần cứng Mac Pro mới, đánh dấu sự kết thúc của một dòng máy chỉ được cập nhật ba lần trong suốt 14 năm qua.
Đối với nhiều người, thay đổi này từng khiến các máy Mac Silicon rơi vào cảnh thiếu hụt lựa chọn cho một workstation dạng mô-đun – cho đến tận bây giờ. eGPU chính là giải pháp khả thi cho những ai cần sức mạnh xử lý AI khủng. Việc kết nối GPU rời và chạy các công cụ AI trực tiếp trên macOS mang lại mức độ linh hoạt chưa từng có.
Như TinyCorp đã nhận định: “Việc cài đặt giờ đây quá dễ dàng, đến mức một mô hình Qwen cũng có thể tự làm được, và sau đó chính nó có thể chạy mô hình Qwen đó,” câu nói này phản ánh rõ tính dễ tiếp cận và tác động mạnh mẽ của trình điều khiển mới. Trong khi Apple đã dần rời xa các phần cứng workstation truyền thống, thì việc hỗ trợ eGPU giờ đây cho phép người dùng biến những thiết bị nhỏ gọn thành các hệ thống có khả năng xử lý AI mạnh mẽ.
Tags: TinyGPU, eGPU, macOS AI
