Concept information
Preferred term
transformeur
Definition
- « modèle de transduction de séquences entièrement basé sur l'attention, remplaçant les couches récurrentes les plus couramment utilisées dans les architectures encodeur-décodeur par l'auto-attention multi-têtes. » (Vaswani et al., 2017, p. 10).
Broader concept
Entry terms
- modèle auto-attentif
- modèle d'auto-attention
- transformer
Belongs to group
Bibliographic citation(s)
-
• Bhatia, S., & Richie, R. (2024). Transformer networks of human conceptual knowledge. Psychological Review, 131(1), 271–306. https://doi.org/10.1037/rev0000319
[Type d'étude : étude empirique / Accès : fermé]
-
• Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, L., & Polosukhin, I. (2017). Attention is all you need. arXiv:1706.03762 [cs]. http://arxiv.org/abs/1706.03762
[Type d'étude : description de logiciel / Accès : ouvert]
Creator
- Frank Arnould
Model of
In other languages
-
English
-
self-attention model
-
transformer network
-
transformer neural network
URI
http://data.loterre.fr/ark:/67375/P66-XCCLZSQ5-8
{{label}}
{{#each values }} {{! loop through ConceptPropertyValue objects }}
{{#if prefLabel }}
{{/if}}
{{/each}}
{{#if notation }}{{ notation }} {{/if}}{{ prefLabel }}
{{#ifDifferentLabelLang lang }} ({{ lang }}){{/ifDifferentLabelLang}}
{{#if vocabName }}
{{ vocabName }}
{{/if}}