Пожалуйста, используйте этот идентификатор, чтобы цитировать или ссылаться на этот ресурс:
http://earchive.tpu.ru/handle/11683/139120| Название: | Аппаратная реализации нейросетевых компонент архитектуры трансформер на ПЛИС |
| Авторы: | Майбах, А. С. |
| Научный руководитель: | Григорьев, Дмитрий Сергеевич |
| Ключевые слова: | ПЛИС; трансформер; LUT-таблица; механизм внимания; Softmax |
| Дата публикации: | 2026 |
| Издатель: | Томский политехнический университет |
| Библиографическое описание: | Майбах, А. С. Аппаратная реализации нейросетевых компонент архитектуры трансформер на ПЛИС / Майбах А. С. ; науч. рук. Григорьев Д. С. // Молодежь и современные информационные технологии : сборник трудов XXIII Международной научно-практической конференции студентов, аспирантов и молодых ученых, 18-20 февраля 2026 г., Томск. — Томск : Изд-во ТПУ, 2026. — С. 476-479. |
| Аннотация: | ОВ работе представлена аппаратная реализация узла Softmax на ПЛИС и его интеграция в аппаратный модуль само-внимания трансформера. Для снижения аппаратной сложности вычисление экспоненты и обратной суммы реализовано методом аппроксимации на основе LUT, а численная устойчивость обеспечивается вычитанием максимального элемента входного вектора. Весовые коэффициенты хранятся в формате FP8 (E5M2), вычисления Softmax выполняются в формате FP16 с последующим преобразованием результата; корректность подтверждена функциональным моделированием |
| URI: | http://earchive.tpu.ru/handle/11683/139120 |
| Располагается в коллекциях: | Материалы конференций |
Файлы этого ресурса:
| Файл | Размер | Формат | |
|---|---|---|---|
| conference_tpu-2026-C04_p476-479.pdf | 319,05 kB | Adobe PDF | Просмотреть/Открыть |
Лицензия на ресурс: Лицензия Creative Commons
