Sequence to sequence

Fairseq je riadkový nástroj pre spracovanie prirodezného jazyka naprogramovaný v jazyku Python využívajúci neurónové siete. Vie sa na príkladoch naučiť ako prepisovať jednu postupnosť ľubovoľných symbolov (znakov alebo slov) na inú postuponosť.

Transformer

Niektoré zaujímavé odkazy na tému sequence to sequence:

https://github.com/pytorch/fairseq

http://jalammar.github.io/illustrated-transformer/

https://arxiv.org/abs/1706.03762