# Jeden krok
theta -= lr * gradient
# Lineární regrese, X včetně sloupce jedniček
for _ in range(kroky):
g = 2 / len(y) * X.T @ (X @ theta - y)
theta -= lr * g
# Škálování: čísla jen z tréninku
mu, sigma = X_train.mean(axis=0), X_train.std(axis=0)
X_train_s = (X_train - mu) / sigma
X_test_s = (X_test - mu) / sigma
# Mini-batch
for _ in range(epochy):
poradi = rng.permutation(n)
for s in range(0, n, davka):
i = poradi[s:s + davka]
theta -= lr * 2 / len(i) * X[i].T @ (X[i] @ theta - y[i])Ztráta roste nebo je nan: zmenši lr. Ztráta klesá moc pomalu: škáluj data, zvětši lr.