Model Card for Model ID
Model Details
1-c
2-c
3-b
4-c
5-c
6-b
7-b
8-c
9-c
10-b
11-b
12-bca
13-bdhkfgejcia
14-E. Другое: Субслова
15-
Плюсы
Эффективная загрузка мини-батчей
Параллельная загрузка данных (мультипроцессинг)
Аугментация «на-лету» через transforms
Гибкость семплирования и сборки батчей (shuffle, sampler, collate_fn)
Pin memory для ускорения передачи на GPU
Минусы
Накладные расходы от процессов-воркеров
Увеличенное время старта при инициализации DataLoader
Постоянные воркеры (persistent_workers) удерживают память
Сложность настройки и отладки асинхронного конвейера
16-
Сходства PyTorch и TensorFlow:
GPU-ускорение и автоматическое дифференцирование.
Отличия :
PyTorch: динамические графы, удобен для исследований.
TensorFlow: статические графы, лучше для production
17-
AutoTokenizer — класс, который сам подбирает и загружает нужный токенизатор по имени модели, чтобы правильно разбивать и кодировать текст при помощи AutoTokenizer.from_pretrained()
AutoModel — класс для загрузки «сырой» базовой модели без голов (heads) для конкретных задач; возвращает экземпляры вроде BertModel или GPT2Model через AutoModel.from_pretrained()
AutoModelForSequenceClassification — то же, что AutoModel, но к базовой модели автоматически добавляется линейная голова для классификации последовательностей (linear + softmax), готовая к дообучению на задачах классификации
Самый общий из них — AutoModel, поскольку все специализированные классы AutoModelFor… (включая AutoModelForSequenceClassification) наследуют и расширяют именно его