ИИ галлюцинации — феномен, когда генеративная модель уверенно выдает фактически неверную, выдуманную информацию, представляя ее как правду. Это происходит потому, что модель не «знает» факты, а лишь предсказывает наиболее вероятные последовательности слов на основе обучающих данных или создает неправдоподобные изображения. Галлюцинации остаются одной из главных проблем современных LLM.
[Нейросети и искусственный интеллект: толковый словарь. (Электронный ресурс). Режим доступа: http:// profile.ru›news/ scitech/nejroseti-i-iskusstvennyj…/, свободный.]