Adapter Layers (адаптер-слои) – аналогичная идея: между слоями предобученной сети вставляют маленькие тренируемые модули. Эти «адаптеры» учатся захватывать особенности новой задачи, при этом основной весовой «скелет» модели не меняется. Преимущество в том, что можно иметь один большой базовый LLM и подключать к нему разные адаптеры для каждой задачи. К примеру, BERT + адаптеры для классификации текста или генерации переводов. Адаптеры ускоряют дообучение и не требуют столько памяти, сколько полная тонкая настройка.
[Искусственный интеллект.Терминология IT. The Angmar Core.(Электронный ресурс). Режим доступа: http://habr.com›ru/articles/929130//, свободный.]