text: Выбираем z t ∈ ∂ v t ( w t ) {\displaystyle z_{t}\in \partial v_{t}(w_{t})} Если S = R d {\displaystyle S=\mathbb {R} ^{d}} , делаем обновление w t + 1 = w t − η z t {\displaystyle w_{t+1}=w_{t}-\eta z_{t}} Если S ⊂ R d {\displaystyle S\subset \mathbb {R} ^{d}} , проецируем кумулятивные градиенты в S {\displaystyle S} i.e. w t + 1 = Π S ( η θ t + 1 ) , θ t + 1 = θ t + z t {\displaystyle w_{t+1}=\Pi _{S}(\eta \theta _{t+1}),\theta _{t+1}=\theta _{t}+z_{t}} Можно использовать алгоритм онлайнового субградиентного спуска для получения границ «сожаления» O ( T ) {\displaystyle O({\sqrt {T}})} для онлайновой версии метода опорных векторов для классификации, которая использует кусочно-линейную функция потерь v t ( w ) = max { 0 , 1 − y t ( w ⋅ x t ) } {\displaystyle v_{t}(w)=\max\{0,1-y_{t}(w\cdot x_{t})\}} Алгоритмы следования за квадратично регуляризованным лидером приводят к алгоритмам лениво проецируемого градиента, как описаны выше.