0 dní v řadě · 0 bodů

Tahák · Python · Neuronové sítě a moderní AI

Provoz modelů: MLOps

Jak model dostat do provozu a udržet ho tam: verze, registr, sledování driftu, latence, postupné nasazení a návrat zpět.

Otevřít celou lekciVšechny taháky
python
# reproducibility
run_id = sha256(json.dumps(config, sort_keys=True).encode()).hexdigest()[:12]

# drift
edges = np.quantile(reference, np.linspace(0, 1, 11))
psi = ((q - p) * np.log(q / p)).sum()

# latency
np.percentile(latency_ms, [50, 95, 99])

# rollout: shadow -> canary -> full, rollback ready
# every response carries model_version

# PyTorch
torch.save(model.state_dict(), "model.pt")
torch.load("model.pt", weights_only=True)