Baseten Gọi Vốn 1.5 Tỷ USD Mở Rộng Hạ Tầng Inference Cho AI Nguồn Mở

Xu thế dịch chuyển sang mô hình tự chạy để giảm chi phí API

• Doanh nghiệp đang chuyển dịch từ việc phụ thuộc vào API đóng đắt đỏ sang tự vận hành mô hình nguồn mở.
• Baseten nâng định giá lên 13 tỷ USD với vòng gọi vốn mới thể hiện nhu cầu khổng lồ về hạ tầng phục vụ suy luận (inference).
• Các mô hình ngôn ngữ nhỏ (SLM) ngày càng được ưu tiên cho các tác vụ chuyên biệt nhờ tốc độ nhanh và chi phí thấp.

Cách hoạt động & Quy trình siêu tốc (Bite-sized Workflow)

• Quy trình định tuyến yêu cầu từ máy trạm đến cụm máy chủ suy luận chuyên dụng chạy Llama hoặc Mistral:

Giá trị thực tế & Ứng dụng (Actionable Value)

• Tối ưu: Giảm tới 80% chi phí API so với việc gọi trực tiếp các mô hình thương mại đóng khi chạy ở quy mô lớn.
• Ứng dụng ngay: Tích hợp các mô hình Llama-3 hoặc Mistral cục bộ vào hệ thống quản lý tài liệu nội bộ của doanh nghiệp để đảm bảo an toàn thông tin tuyệt đối.

Xem thêm

• Baseten Official Platform
• Open Source Inference Trends Report