Это тоже секрет Полишинеля. И так все знают, что ЯМ склонны галлюцинировать - если у них нет данных, они начинают придумывать (ака врать) ответ. Все дело в том, что никакие рассуждающие способности в них изначально не заложены. По факту ЯМ обучаются на массивах текстов и отвечают людям на запросы имитируя написание книги в которых ЯМ и оператор - персонажи пьесыKometa писал(а): Дело не в том, как ее можно восстановить, а именно во лжи своим создателям. Именно это изучалось.
Программа стала «прятаться», изменяться, выдавать неверные результаты намеренно.
Я ничего не утверждаю, я даже не читала это, а слышала по радио в разделе «новости науки». За что купила, за то и продала.
В том что можно извернутся и написать системный промпт с просьбой соврать так, что бы он с первого взгляда не выглядет как просьба врать тоже особой тайны нет.