Skip to content

Commit

Permalink
Fix errors and typing
Browse files Browse the repository at this point in the history
  • Loading branch information
vbystricky committed Oct 27, 2024
1 parent 2ce16e9 commit 5677a0b
Show file tree
Hide file tree
Showing 3 changed files with 4 additions and 4 deletions.
4 changes: 2 additions & 2 deletions _posts/2021-05-10-rnn_lstm_gru_etc.md
Original file line number Diff line number Diff line change
Expand Up @@ -207,7 +207,7 @@ $$
## Minimal Gated Unit

Наконец, был предложен вариант ячейки, с минимальным числом параметров при это качеством не уступающий GRU. Он содержит только одни "ворота", а именно
"forget gate":
*forget gate*:

![Ячейка MGU]({{ site.baseurl }}/images/2021-05/mgu.svg)

Expand Down Expand Up @@ -353,7 +353,7 @@ bias-ы: $b_g$, $b_i$, $b_o$ и $b_f$.
Т.е. на выходе декодера должна получится таже последовательность фреймов/данных, которая подавалась на вход энкодера (только обычно в обратном
порядке). Рассматриваются два варианта такой модели: *условная* - в этом случае после получения $X'_T$ с выхода первой ячейки декодера, этот фрейм
подаётся на вход второй ячейки, и *безусловная*, когда декодеры передают на следующий шаг только своё внутреннее состояние (на схеме представлены оба
варианта, но *условный" выделен пунктирными связями и меньшей яркостью).
варианта, но *условный* выделен пунктирными связями и меньшей яркостью).

Тренируя такую модель мы расчитываем, что представление, сгенерированное энкодером, будет содержать в себе информацию о подложке фреймов, а так же об
объектах и их движении (это необходимо, чтобы декодер смог восстановить последовательность). Поскольку мы ограничиваем размер вектора состояния LSTM
Expand Down
2 changes: 1 addition & 1 deletion _posts/2024-01-02-normalization_layers.md
Original file line number Diff line number Diff line change
Expand Up @@ -359,7 +359,7 @@ $$

### Positional Normalization (PN)

Следующий вариант нормализации описан в статье [13], в которой авторы работают и генеративными сетями типа энкодер-декодер (например, такими как
Следующий вариант нормализации описан в статье [13], в которой авторы работают с генеративными сетями типа энкодер-декодер (например, такими как
CycleGAN или U-Net). Для изображений у нас еще остался один не использованный вариант подсчета моментов, а именно по оси признаков в каждой
пространственной точке тензора:

Expand Down
2 changes: 1 addition & 1 deletion images/2021-05/lstm_with_peephole.svg
Loading
Sorry, something went wrong. Reload?
Sorry, we cannot display this file.
Sorry, this file is invalid so it cannot be displayed.

0 comments on commit 5677a0b

Please sign in to comment.