СТОХАСТИЧНОСТЬ И ЭНТРОПИЯ В ЛИНГВИСТИКЕ - Шелестюк, Елена Владимировна; Щетинкина, Екатерина Алексеевна (ВЕСТНИК ЧЕЛЯБИНСКОГО ГОСУДАРСТВЕННОГО УНИВЕРСИТЕТА; № 2 (472) (2023): Вестник Челябинского государственного университета, 2023)
Обсуждаются понятия стохастичности и энтропии текста, изучаются способы их измерения, рассматриваются спорные вопросы этих понятий и метрик. Выявляется связь стохастичности и энтропийности с категориями лингвистики текста (интегративностью и информативностью). Стохастичность текста — это непредсказуемость, хаотичность текстовых элементов, приводящая к эффекту новизны. Энтропия текста — это мера неопределенности содержания текста, она связана с объемом информации, содержащейся в данных: чем более неопределенны данные, тем больше информации требуется для их описания. Стохастичность описывает вероятностные характеристики данных, тогда как энтропия является мерой неопределенности, содержащейся в них. Поскольку энтропия и стохастичность имеют корреляцию, стохастичность может быть определена путем вычисления энтропии. Однако она также рассчитывается с использованием других методов и формул, в частности, перплексии, которая оценивает вероятность появления следующего слова в тексте на основе предыдущих слов. В лингвистике текста стохастичность и энтропия могут быть связаны с интегративностью (целостностью и связностью) текста. Они также могут определять информативность текста. Стохастичность может распространяться на текстовые информативные блоки и весь текст. Она создает семантическую сеть значений с внутренней целостностью и может определять семантическую и тематическую целостность текста (как часть интегративности). Уменьшение/ рост энтропии связаны с уменьшением/усилением информации в тексте, т. о. энтропия имеет основополагающее значение для измерения информативности текста. Она также может измерять связность текста (как часть интегративности) на основе количества, глубины и повторяемости элементов n-грамм. Такой «эмпирико-синтаксический» подход измеряет связность и информативность по чисто формальным показателям. Однако энтропия и стохастичность не всегда точно отражают информативность и интегративность текста из-за факторов читабельности, понятности текста, его восприятия как истинного и разумного.