Causal Language Modeling (CLM) – обучение на предсказании следующего слова слева-на-право. Это подход, используемый в GPT- подобных моделях: модель читает текст от начала к концу и на каждом шаге прогнозирует следующий токен. При таком обучении модель видит только уже сгенерированную часть, не «заглядывая» вперёд. Именно такой режим позволяет GPT генерировать тексты последовательно: от первого слова до последнего.
[Искусственный интеллект. Терминология IT. The Angmar Core. (Электронный ресурс). Режим доступа: http://habr.com›ru/articles/929130//, свободный.]