คำนวณต้นทุนการฝึกโมเดล AI
ประมาณ GPU-hours และต้นทุนดอลลาร์ในการเทรนโมเดลจากพารามิเตอร์ token และรุ่น GPU พร้อมตารางเทียบราคาผู้ให้บริการคลาวด์ ฟรี ฝั่ง client
Loading tool...
คำนวณต้นทุนการฝึกโมเดล AI คืออะไร?
Model Training Cost Calculator ใช้กฎ compute มาตรฐานของ transformer - ประมาณหก FLOPs ต่อพารามิเตอร์ต่อ token - กับจำนวนพารามิเตอร์และ token ของคุณ แล้วแปลง compute รวมเป็น GPU-hours ที่ peak TFLOPS และ utilization ของ GPU และเป็นดอลลาร์ตามราคาต่อชั่วโมงของคุณ พร้อมตารางเทียบราคาคลาวด์สี่ผู้ให้บริการ
ประโยชน์หลัก
- จัดงบการเทรนก่อนจอง GPU แม้แต่ตัวเดียว
- กฎ six-N-D ให้ประมาณการแรกที่ป้องกันได้ทันที
- input utilization ทำให้ประมาณการตรงกับคลัสเตอร์จริง
- ตารางผู้ให้บริการเปลี่ยน GPU-hours เป็นทางเลือกเงินที่จับต้องได้
- ไม่ต้องสมัคร ไม่ต้องใช้ API key - คำนวณในเบราว์เซอร์ทั้งหมด
กรณีการใช้งาน
- •ขออนุมัติงบโปรเจกต์ pretraining กับผู้บริหาร
- •เทียบ cloud provider ก่อนจอง capacity GPU
- •เช็คว่าจำนวน token แบบ Chinchilla-optimal พอดีงบหรือไม่
- •สอนทีม ML ว่าทำไม utilization จึงคุมบิลการเทรน
วิธีประมาณต้นทุนการเทรน
- ใส่ขนาดโมเดลและ token: พิมพ์จำนวนพารามิเตอร์เป็นพันล้านและ token ที่วางแผนจะเทรน - compute FLOPs ขึ้นทันที
- เลือก GPU และ utilization: เลือกรุ่น GPU และตั้ง utilization ให้สมจริง เพื่อให้ GPU-hours ตรงคลัสเตอร์ของคุณ
- เทียบผู้ให้บริการ: ใส่ราคาต่อชั่วโมงของคุณเอง แล้วดูตารางผู้ให้บริการเพื่อหาทางเลือกงบที่จับต้องได้
คุณสมบัติหลัก
- ประมาณการ compute สไตล์ Chinchilla จากจำนวนพารามิเตอร์และ token
- พรีเซ็ต GPU สำหรับ A100, H100 และ L40S พร้อม peak TFLOPS
- แก้ utilization ได้ ให้ effective FLOPS ตรงคลัสเตอร์จริง
- GPU-hours และต้นทุนดอลลาร์ตามราคาต่อชั่วโมงของคุณ
- ตารางเทียบราคาคลาวด์สี่ผู้ให้บริการต่อรุ่น GPU
- คณิตฝั่ง client ล้วน - ไม่ต้องสมัคร ไม่ต้องใช้ API key