Architektury modeli
Architektura transformerowa
Transformer
Inne nazwy i skróty: transformer, model transformerowy.
Co to jest architektura transformerowa?
Rodzina architektur sieci wykorzystujących mechanizmy uwagi do łączenia informacji między elementami danych.
Występuje w modelach tekstowych, wizyjnych i wielomodalnych. Samo słowo „transformer” nie wskazuje, czy model generuje tekst, czy tylko go analizuje.
Przykład zastosowania
Zespół porównuje transformer analizujący opisy reklamacji z modelem generującym projekty odpowiedzi.
O czym pamiętać?
Nazwa architektury nie mówi, na jakich danych wyuczono konkretny model.
Powiązane pojęcia
- Model sztucznej inteligencji (Artificial intelligence model)
- Sieć neuronowa (Neural network)