Honey, I shrunk the AI. Đó là thông điệp mà startup PrismML gửi tới Apple, và nó có thể giải quyết một trong những vấn đề khó khăn nhất của công ty này. PrismML, một công ty spin‑out từ Caltech được hỗ trợ tài chính bởi Khosla Ventures, cho biết họ đã thu nhỏ một mô hình AI có dung lượng 54 GB xuống dưới 4 GB—đủ nhỏ để chạy toàn bộ 27 tỷ tham số trực tiếp trên iPhone 15 hoặc các phiên bản mới hơn, theo CNBC.
“They’re really evaluating our technology right now,” CEO của PrismML, Babak Hassibi, nói về Apple, cho biết các cuộc đàm phán hiện đang ở giai đoạn đầu nhưng đầy triển vọng.
Công ty vừa hoàn thành vòng gọi vốn hạt giống trị giá 16,25 triệu USD vào tháng Ba và mới ra mắt hai mô hình AI đã được nén, hoàn toàn miễn phí, được thiết kế để chạy trên iPhone, MacBook và các PC dùng GPU Nvidia.
Bước đột phá này có thể cho phép Apple vận hành các mô hình AI mạnh hơn ngay trên thiết bị, thay vì phải dựa vào đám mây, từ đó tăng tốc độ, nâng cao tính riêng tư và kéo dài thời lượng pin cho Siri được cải tiến. Các nhà phân tích cảnh báo rằng các tuyên bố vẫn cần được kiểm chứng trong môi trường thực tế, và việc thu nhỏ mô hình AI không nhất thiết làm giảm nhu cầu của cả ngành đối với chip.
AI,Apple,Machine Learning
