Senior ML Inference Engineer

1 giorno fa

Genova, Liguria, Italia Cast AI Tempo pieno
Cast AI, a Miami-headquartered, globally distributed team, seeks an experienced ML systems engineer to own inference stack optimization. Se desidera saperne di più su questa opportunità o sta pensando di candidarsi, la preghiamo di leggere le seguenti informazioni. You will improve throughput, latency, and cost per token across multi-GPU clusters, shaping the technical direction with data-driven experiments. Your work spans production-grade Python services, tuning SGLang, vLLM, TensorRT-LLM, and CUDA tooling, with a focus on scalable, cost-efficient inference on customer workloads. xrdztoy #J-18808-Ljbffr Per questa posizione sono disponibili opzioni di lavoro da remoto/a casa.