October 20, 2021

AI-on-demand với Google Cloud TPU

Google thông báo rằng các Tensor Processing Units (TPU) thế hệ thứ hai Cloud TPU sẽ có sẵn thông qua Google Compute Engine để giúp tăng tốc một loạt các khối lượng công việc máy học (machine learning), bao gồm cả đào tạo và suy luận.

Hiện nay Google dựa vào Tensor Processing Units (TPU) được xây dựng tùy chỉnh  để chạy một số sản phẩm chính của Google, bao gồm: TranslatePhotosSearchAssistant, and Gmail.

Cloud TPU mới của Google cung cấp tới 180 teraflop để đào tạo và chạy các mô hình máy học (machine learning).

Cloud TPU cho phép các doanh nghiệp ở khắp mọi nơi chuyển đổi và phát triển sản phẩm và dịch vụ của riêng họ bằng machine learning. Tính đến hôm nay, Cloud TPU có sẵn ở hai khu vực mới ở châu Âu và châu Á và Google cũng giới thiệu giá đặt trước (preemptible pricing) cho Cloud TPU thấp hơn 70% so với giá thông thường.

Cloud TPU đang có sẵn ở Hoa Kỳ, Châu Âu và Châu Á với các mức giá sau:

Việc đào tạo machine learning cần phải diễn ra nhanh chóng để các kỹ sư, nhà nghiên cứu và các nhà phân tích dữ liệu hoạt động hiệu quả, và đào tạo máy học (machine learning) cần phải có giá cả phải chăng cho các mô hình được đào tạo trong quá trình một ứng dụng được xây dựng , được triển khai và tinh chỉnh. Các chỉ số chính bao gồm time-to-accuracy và chi phí đào tạo.

Các nhà nghiên cứu tại Stanford gần đây đã tổ chức một cuộc thi chuẩn mực mở (open benchmarking) được gọi là DAWNBench tập trung vào time-to-accuracy và chi phí đào tạo, và Cloud TPU đã giành vị trí đầu tiên trong hạng mục “Chi phí đào tạo ImageNet quy mô lớn”. Trên một Cloud TPU đơn lẻ, mô hình tham chiếu AmoebaNet nguồn mở của chúng tôi chỉ có giá 49,30 đô la để đạt được độ chính xác mục tiêu và mô hình ResNet-50 mã nguồn mở của chúng tôi chỉ tốn 58,53 đô la.

Preemptible Cloud TPU (Cloud TPU định giá trước) làm cho nền tảng Cloud TPU trở nên có giá cả phải chăng hơn. Bây giờ bạn có thể đào tạo ResNet-50 trên ImageNet từ đầu chỉ với $ 7,50. Và vì TensorFlow có hỗ trợ tích hợp để lưu và khôi phục từ các trạm kiểm soát, khối lượng công việc không có tính thời hạn có thể dễ dàng tận dụng lợi thế của việc định giá trước.

Nguồn: Google Blog, Google Cloud Platform BlogThe Register.