Реестровая запись: ЭЛ № ФС77-79395 от 02.11.2020 ISSN: 2782-1528 DOI 10.34660/c0727-6092-6372-a
Поведение эмерджентное (Emergent Behavior) – появление в системе сложных коллективных эффектов из простых правил взаимодействия агентов. Например, в симуляции стай птиц каждый следует простым правилам: держаться
Multi-Agent Reinforcement Learning (MARL) – обучение нескольких агентов в единой среде с учётом взаимодействия. Каждый агент учится принимать решения, учитывая возможные действия других. Применяется, например, в
Hypernetwork Adaptation – использование вспомогательной сети (гиперсети), которая генерирует или подстраивает веса основного LLM. Вместо прямой донастройки, гиперсеть создает обновления весов для конкретной задачи. Это обеспечивает
Delta Tuning – подход, где вместо полной настройки модели к новой задаче обучаются только разности (дельты) между исходными и новыми весами. Это аналогично LoRA/адаптерам: фиксируются основные
LoRA-fusion – метод объединения (слияния) нескольких LoRA-модулей для разных задач в одну модель. Позволяет переключаться между задачами без перекомпиляции всех весов, просто подгружая нужные LoRA-адаптеры. [Искусственный
P-Tuning v2 – расширение идеи prompt tuning. Векторные («мягкие») промпты добавляются не только в начале текста, но и на разных слоях модели. В результате такие встроенные
QLoRA (Quantized LoRA) – комбинированный подход: модель хранится в низкой точности (квантуется), а адаптация LoRA проводится с сохранением точности в критичных частях. Это позволяет ещё больше
PEFT (Parameter-Efficient Fine-Tuning) – общий термин для подходов (включая LoRA, адаптеры, prefix-tuning и др.), которые донастраивают лишь небольшую часть параметров модели, сохраняя остальную «замороженной». [Искусственный интеллект.Терминология
Proximal Policy Optimization (PPO) – популярный алгоритм обучения с подкреплением. Он оптимизирует стратегию агента плавно, не позволяя слишком «оторваться» от текущей политики. Это повышает стабильность обучения
AlphaZero-style Training – метод итеративной самоигры с поиском (MCTS) и обучением нейросети. Агент с нуля учится сложным играм (шахматы, го) без заранее предоставленных данных: он играет