Passer au contenu principal

Psychologie cognitive de la mémoire humaine (thésaurus)

Choisissez le vocabulaire dans lequel chercher

aligner
annoter
télécharger

Concept information

entité d'information > algorithme > transformeur
... > entité d'information > entité théorique > modèle > modèle computationnel > modèle connexionniste > transformeur

Terme préférentiel

transformeur  

Définition

  • « modèle de transduction de séquences entièrement basé sur l'attention, remplaçant les couches récurrentes les plus couramment utilisées dans les architectures encodeur-décodeur par l'auto-attention multi-têtes. » (Vaswani et al., 2017, p. 10).

Concept générique

Synonyme(s)

  • modèle auto-attentif
  • modèle d'auto-attention
  • transformer

Appartient au groupe

Référence(s) bibliographique(s)

  • • Bhatia, S., & Richie, R. (2024). Transformer networks of human conceptual knowledge. Psychological Review, 131(1), 271–306. https://doi.org/10.1037/rev0000319

    [Type d'étude : étude empirique / Accès : fermé]
  • • Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, L., & Polosukhin, I. (2017). Attention is all you need. arXiv:1706.03762 [cs]. http://arxiv.org/abs/1706.03762

    [Type d'étude : description de logiciel / Accès : ouvert]

Créateur

  • Frank Arnould

Modèle de

Traductions

  • transformer

    anglais

  • self-attention model
  • transformer network
  • transformer neural network

URI

http://data.loterre.fr/ark:/67375/P66-XCCLZSQ5-8

Télécharger ce concept :

RDF/XML TURTLE JSON-LD Date de création 30/03/2023, dernière modification le 04/09/2023