Серия: «Разработки научной школы «Промышленная управленческая элита развития».
Источник: Иванус А.И., Звягина Д.А., Корнилов А.М. Автоматизированная система долгосрочного когнитивного прогноза направлений опережающего развития компетенций руководителей высокотехнологичных производств на основе семантического анализа вербальной информации о развитии наукоёмких отраслей в мире на период в 10-20 лет // Экономика высокотехнологичных производств. – 2021. – Т.2. – № 4. – doi: 10.18334/evp.2.4.113890.
Аннотация: В статье в аспекте кадровой безопасности в высшем звене управления предприятий определена актуальность создания автоматизированной системы долгосрочного когнитивного прогноза направлений опережающего развития компетенций руководителей высокотехнологичных производств на основе семантического анализа вербальной информации о развитии наукоёмких отраслей в мире на период в 10-20 лет. Рассмотрен методический подход и выявлена принципиальная возможность создания подобной системы на основе семантического анализа больших объёмов текстовой информации. Определены требования к полноте и объёму семантического тезауруса, как необходимого элемента системы.
Авторы настоящей статьи входят в состав междисциплинарная научная школа «Промышленная управленческая элита развития». «Генеральной целью научной школы «Промышленная управленческая элита развития» является создание и развитие научно-обоснованной отечественной методологии и действующей модели системы по подготовке и отбору кадрового резерва руководителей высокотехнологичных предприятий, инновационно-настроенных и патриотически мотивированных на опережающее экономическое развитие России (п. 2.9. Положение о научной школе АНО «Развитие инноваций» от 20.02.20 г.)
Междисциплинарная научная школа «Промышленная управленческая элита развития» сформировалась на базе авторского коллектива «Эффективный ОПК». В багаже членов научной школы – многолетние научные исследования по обозначенной выше тематике [1-10]. Итогом исследовательской деятельности стали не только результаты теоретических изысканий, но и их практическая реализация, в том числе, в рамках когнитивного подхода (рисунок 1. и рисунок 2.)
Общепринято, что «Кадровая безопасность» (безопасность человеческих ресурсов) является системообразующим элементом экономической безопасности, как интегральной составляющей национальной безопасности России.
Надо отметить, что научная школа «Промышленная управленческая элита развития» твёрдо стоит на позициях политэкономии и цивилизационного подхода. Цивилизационной особенностью России является ключевое значение личности того, кто возглавляет любое малое или большое дело на необъятных отечественных просторах. Особенно это касается высшего менеджмента предприятий, имеющих стратегическое значение для безопасности России, таких как предприятий ОПК.
В этой связи «Надёжность персонала в высшем звене управления» есть основополагающий вид кадровой безопасности, угрозами которой являются: несоответствие профессионального уровня занимаемой должности; предрасположенность к неадекватным действиям и действиям криминального характера; превалирование частного интереса над интересами государства и общества (см. рисунок 3).
Государственная система нормативов и профессиональной подготовки позволяет осуществлять эффективное госуправление высшим менеджментом, безопасностью и ростом продуктивности предприятий, имеющих стратегическое значение для безопасности страны [11-14]. Однако, для этого необходима опережающая профессиональная подготовка руководителей, основанная на надёжном инструменте прогнозирования, позволяющего предвидеть развитие тех или иных отраслей на ближайшие 10-20 лет. Стоит признать, что в настоящее время такой инструмент отсутствует.
Научная школа «Промышленная управленческая элита развития» АНО «Развитие инноваций» обладает разработкой аппаратно-программного комплекса долгосрочного когнитивного прогноза тенденций развития различных отраслей промышленности, о которой речь пойдёт ниже.
Разрешению проблемы кадровой безопасности части соответствия профессионального уровня руководителей высокотехнологичных производств современным мировым трендам и будет способствовать автоматизированная система долгосрочного когнитивного прогноза направлений опережающего развития компетенций руководителей высокотехнологичных производств на основе семантического анализа вербальной информации о развитие наукоёмких отраслей в мире в ближайшие 10-20 лет.
Основная трудность долгосрочных прогнозов заключается в следующем: в быстром изменении структуры информации в современном мире. Если разделить всю имеющуюся информацию на две части – числовую (цифровую) и вербальную (текстовую), то можно заметить, что для осознания настоящего и недалёкого будущего на период в 5-7 лет важна цифра. Поэтому все краткосрочные прогнозы строятся практически только на широком использовании математических методов прогнозирования.
В тоже время для долгосрочных прогнозов наоборот, имеется намного больше информации вербальной и очень мало числовой (см. таблица 1). Это происходит потому, что будущие тенденции, которые станут явными и очевидными через 10-20 и более лет, в настоящее время находятся в зачаточном состоянии. Эти тенденции пока только возникают и проходят стадию обсуждения, отражаясь в статьях, монографиях, докладах на конференциях, материалах интернета и СМИ, диссертациях и т.д.
Если вербальные источники собрать в единую базу данных, обработать и выявить устойчивые тенденции повторяемости обсуждаемых утверждений, а также проследить динамику их изменения по годам, то из этого можно выявить прообраз будущей тенденции развития выбранного направления деятельности.
В этой связи представляется возможным и необходимым создание автоматизированной системы долгосрочного прогноза (с горизонтом 10-20 лет) тенденций развития на основе использования только вербальной информации. Это обеспечивает возможность заблаговременной готовности к решению проблем развития, которые будут выявлены.
На рисунке 4 проиллюстрирована блок-схема алгоритма долгосрочного прогнозирования на основе вербальной информации [15].
Ниже авторская блок-схема рассмотрена детально.
Блок 1. База данных вербальной информации.
Текстовые материалы, составляющие базу данных вербальной информации – это выборка научных статей и монографий из баз данных Scopus и Elibrary, журналов корпораций, отчётов о конференциях (особенно важны обсуждения и дебаты по докладам на конференциях), публикации в СМИ (в том числе, газетные журналистские заметки с выставок и презентаций) и другие источники.
Построение системы сбора информации лежит вне рамок настоящей публикации. В контексте статьи можно лишь сказать, например, о выбранных 5-7 направлениях и о публикациях на восьми языках: русский, английский, немецкий, французский, испанский, иврит, японский, китайский.
Блок 2. Образ будущей тенденции развития.
Решение задачи любого прогноза начинается с формирования некоторого прообраза того будущего, задача по прогнозу которого поставлена.
Таким образом, задача прогноза, каким бы ни был он долгосрочным, сводится в конечном итоге к формированию некоторого «образ будущего» – т.е. контекста, в котором конкретный объект прогнозирования (будь то «зелёная энергетика», холодный термоядерный синтез, достижение физического бессмертия или цены на нефть по 200 USD за баррель) имеет возможность реализоваться.
Задаётся этот контекст, в свою очередь, системой футурологических реперов – явлений, отсутствующих в текущей реальности, но могущих с той или иной вероятностью обнаружиться в будущем. И чем выше полнота (достаточность) набора этих реперов, чем точнее оценка их социетального веса и темпорального позиционирования, тем выше вероятность результирующего прогноза, тем детальнее он и богаче вскрытыми системными связями.
Все футурологические реперы, при этом, могут быть разнесены по трём категориям:
1) «белые лебеди» – явления, ожидаемые и теоретически достаточно хорошо описанных (например, имеется некоторая математическая модель, условиям которой должно удовлетворять будущее);
2) «серые лебеди» – явления известные только по каким-то отдельным характеристикам (предположительно имеющим чрезвычайное социетальное значение) и устроенных каким-то малопонятным образом (то есть в нашем представлении имеется только некоторая задача, которая должна быть в будущем решена);
3) «чёрные лебеди» – явления потенциально парадигмального значения, но о которых в экспертном сообществе в настоящее время вообще нет сколько-нибудь внятных представлений (то есть у нас полное отсутствие какого-либо представления о будущем, отсутствие какой-либо математической модели или вербального описания).
Задача выбора и разработки реперов первых двух категорий хотя и остается достаточно трудоёмкой, но благодаря накопленному и отработанному инструментарию – не говоря уже об обширной теоретической базе – настоящей проблемы собой не представляет – ни в теоретическом плане, ни в практическом.
В качестве «белых лебедей» обычно используются «демонстраторы технологий» – рукотворные объекты, воплощающие возможно более широкий спектр последних (на глубину прогноза) достижений научно-технологического сектора. Детали их функционала, темпорального позиционирования и вообще генезиса могут существенно уточняться путём фузирования экстраполяционных траекторий, взятых сразу от нескольких баз – т. е. более, чем одного объекта-прекурсора (реально существующего объекта с аналогичными типизирующими характеристиками).
Так, например, если речь идёт о моделировании истребителя 7-ого поколения, то вместо одного вектора технических преобразований – от F-35 Lightning II или Су-57 к оптимальному для избранного временного горизонта функционалу – прогноз опирается сразу на несколько: в том числе векторы, основанные на перспективных проектах и футурологических моделях прошлых лет. Соответственно прогностический инструментарий может калиброваться путём его «ретрактивизации» – например, применения выбранной преобразовательной функции к технологическим разработкам, уже успевшим практически реализоваться, и соответственно сравнения их реального хода с моделируемым.
«Серые лебеди» также достаточно уверенно описываются посредством вероятностного анализа экстраполяций релевантных наличных тенденций, корректируясь как той же самой ретрактивной калибровкой, так и вторичной пеленгацией относительно данного набора «белых лебедей».
Проблема интеграции в прогноз лебедей «чёрных» до последнего времени оставалась нерешённой и более того – считалась принципиально неразрешимой. В рамках предлагаемой системы, однако, подход к её преодолению авторам-разработчикам удалось найти в процессе построения онтологии предметной области.
Блок 3. Построение онтологии предметной области.
Онтология объекта прогноза составляется в виде обычного графа на базе имеющейся в распоряжении вербальной информации.
В онтологии, как правило, присутствует избыточная информация в виде избыточных ветвей графа. В этом нетрудно убедиться, если проанализировать известные примеры построения онтологических графов. Создаётся впечатление, что существует некоторое соревновательное настроение у авторов в части увеличения размерности онтологий. Использовать такую структуру графа затруднительно именно ввиду её избыточности. Хотя эти возможности правильнее было бы направить в сторону не простого наращивания размерности графа, а решения задачи поиска междисциплинарных связей и зависимостей. Избыточная онтология вносит определённый уровень неоднозначности в понимании исследуемой предметной области [16].
С другой стороны, тенденция к увеличению размерности онтологий открывает широкие возможности для фрактализации экстраполяционных функций и применения фрактального анализа к предметному полю прогноза. В этом контексте динамика факторов, релевантных для лебедей «белых» и «серых» – явлений частотных и следовательно, в высокой степени рекурсивных – гарантированно будет иметь фрактальную размерность, тогда как явления, свойств самоподобия лишённые, можно с уверенностью принимать за прекурсоры «чёрных лебедей» либо их инпринты (то есть объекты, отражающие такое же воздействие «чёрных лебедей» как стремительное отступление моря перед цунами).
Что же касается определения оптимальных пределов предметной области прогноза, то в современных условиях едва ли не единственным практическим решением этой проблемы являются «дельфийские процедуры» – причём, непременно задействуемые параллельно в двух форматах: прямом и «обратном». В отличие от «прямого» дельфийского протокола (постепенном сближении анонимных экспертных прогнозов), обратный состоит в поиске экспертами (также анонимно) уязвимостей в конкурирующих прогнозах, с последующим выявлением наиболее частотных и неуязвимых для критики возражений («дисрапторов»). «Обратный» дельфийский протокол, кроме всего прочего, обладает определённой ценности для формализации «чёрных лебедей».
Применение дельфийских процедур в рамках предлагаемой системы возможно и целесообразно на всех этапах прогностического процесса – от формирования набора вводных условий и выстраивания прогностических реперов до коррекции результирующих сценариев – и в самых разных форматах. Помимо старомодного отбора экспертного пула и последующего пошагового взаимодействия с ним весьма перспективной представляется краудсорсинговая схема привлечения экспертов.
Среди её преимуществ – практически неограниченный размер экспертного пула, самый объём и гетерогенность которого будут с высокой степенью генерировать «эффект инсайта» (синергетического прироста в накоплении нового знания), а равно эмулировать многофакторность формирования комплексных социетальных трендов.
С другой стороны, при необходимости – обусловленной, допустим, соображениями секретности – состав экспертов-краудсорсеров может регулироваться машинно (фильтроваться) – т. е. ещё проще, чем пул, сформированный конвенциональным образом, на началах кооптации. Более того – доступ к сведениям, ротируемым в рамках дельфийских процедур, может изначально настраиваться с учётом определённого уровня допуска, так что для лиц, его не имеющих, материалы, секретные, будут дублироваться версиями, должным образом отредактированными либо полными их эмуляциями.
Наконец, привлечение экспертизы на краудсорсинговых началах может осуществляться в непрямой форме, но в игровом или полуигровом формате – допустим, под легендой разработки или бета-тестинга сценариев компьютерных игр стратегической направленности.
Важно, наконец, отметить, что даже при наличном уровне развития технологий искусственного интеллекта и машинного обучения дельфийские процедуры могут быть в очень широких пределах автоматизированы – например, с помощью аналитического «движка» Kensho Technologies или его аналогов. Применение же эффекта фрактальности открывает принципиальную возможность автоматизировать этот процесс полностью. Идеально сочетаясь с технологиями машинной обработки вербальной информации – как существующими, так и перспективными – фрактализация позволяет согласовывать конфликтующие прогнозы совершенно по аналогии с кастомизацией контента в социальных сетях.
Блок 4. Семантический анализ и построение семантических ядер.
Если рассмотреть цифровую и вербальную составляющие информации с точки зрения теоремы о неполноте К.Гёделя, то в массиве цифровой информации обеспечено условие непротиворечивости. А в вербальной информации непротиворечивость всех имеющихся утверждений не обеспечена [17]. И это принципиальный момент. Это значит, что если в вербальном тексте содержится утверждение А, которое считается истинным, то там же может содержаться и истинным его отрицание Ā. И эти два утверждения могут существовать одновременно. Для того, чтобы определить, какое из утверждений истинно, а какое нет, по К.Гёделю требуется сформировать метасистему. Только с точки зрения этой метасистемы станет ясно, какое из двух утверждений А или Ā будет реально истинным, а какое нет [17].
Поэтому наш подход, если его рассматривать с точки зрения формирования прогнозов, как максимально истинных утверждений, должен использовать это обстоятельство. Процедуру упрощения предпочтительнее реализовать с использование семантических ядер истинности терминов, входящих в структуру онтологии.
Блок 5. Генерация проектов ожидаемых тенденций в будущем.
Семантическое ядро формируется с помощью специально разработанной процедуры [18]. Концепт-карта объекта прогнозирования позволит создать ряд вариантов его будущих состояний на основе анализа развития его элементов. Их генерация возможна только в случае, когда концепт-карта позволяет системно представлять будущие состояния изучаемого объекта. Возможны следующие методы и алгоритмы искусственного создания нового семантического ядра [17, 18]:
1) нарушающие существующие причинно-следственные связи имеющегося семантического ядра:
- метод альтернатив (по принципу К.Якоби),
- метод «провокаций»,
- метод случайного выбора (у детей),
- метод аналогий,
- специальные математические алгоритмы (игровые и др.);
2) создающие новые причинно-следственные связи нового семантического ядра («Эффект Медичи»).
Блок 6. Отбор вариантов прогноза.
Далее, после создания «массива» вариантов будущих состояний объекта, начинается его анализ и отбор наиболее вероятных вариантов, с которыми в дальнейшем и будет проводиться работа по уточнению.
Это можно пояснить на примере. Допустим в интересах авиационной отрасли проводится долгосрочный прогноз развития парка каких-то специализированных беспилотных летательных аппаратов (СБЛА).
Исходной информацией служил только перечень названий элементов конструкции отечественных и зарубежных СБЛА без их числовых значений.
Семантическое ядро тенденции развития складывается из набора характеристик, входящих в структуру классификатора характеристик СБЛА. Классификатор характеристик находится всё время в режиме изменений. Развитие науки и техники, технический прогресс всё время предлагает новые более совершенные варианты существующих элементов конструкции и принципиально новые технические решения. За счёт этого прогресса осуществляется изменение семантического ядра тенденции.
Семантическое ядро тенденции первоначально формируется как описание самого первого образца СБЛА 1970-х годов.
Очевидно, есть и такие инновации, которые оказываются не совсем удачными, тогда по прошествии некоторого времени они «отмирают», уступая место более совершенным. Этот процесс также имеет своё отражение в динамике эволюции семантического ядра. Таким образом, семантическое ядро представляет собой некоторую динамическую структуру, обладающую в таком случае свойствами, которые называются «концентрация–рассеивание» [19].
Действительно, рассеивание – это есть постоянное «расшатывание» параметров сложившегося облика, их конкуренция, а концентрация – это формирование или «выживание» тех характеристик, которые победили в конкурентной борьбе.
Процесс «концентрации–рассеяния» зависит от двух главных параметров:
1. Входного набора появляющихся и конкурирующих инновационных характеристик, которые возникают неизбежно в результате технического прогресса. Аналогами данного процесса могут являться:
а) потоки новых литературных источников;
б) рыночная категория «предложение».
2. Выходного набора характеристик, прошедших конкурентный отбор, и использование которых зависит от интенсивности востребованности, значимости и эффективности их применения.
Если же поток востребованности остается неизменным, то это говорит об удачном варианте конструкции. Тогда этот вариант продолжает жить и побеждать конкурентов. Аналогами данного процесса могут служить:
а) цитируемость литературных источников;
б) рыночная категория «спрос».
Если в итоге исследования процесса «концентрации-рассеяния» обнаружен интенсивный процесс концентрации, то это означает, что готовится или модернизация имеющегося типа СБЛА или создание нового. Отсюда следует, что в ближайшие 10-15 лет ожидается производство большой партии СБЛА. И наоборот, если преобладает процесс рассеяния, то соответственно – списание существующего парка СБЛА.
Блок 7. Экспертная корректировка проектов будущей тенденции.
Экспертная корректировка полученного прогноза является необходимым этапом в случае прогнозирования нестабильных систем, либо если прогноз является долгосрочным. Она проводится с учетом новейшей информации об объекте, либо о его составляющих (концептах на концепт-карте) [16].
Блок 8. Получение дополнительной информации.
В случае, если ни один из отобранных ранее вариантов развития объекта прогноза не является приемлемым, требуется дополнительная информация, которая позволит внести необходимые корректировки в образ будущего и получить более точный прогнозный результат.
Блок 9. Семантический тезаурус. Семантический тезаурус предназначен для интеллектуальной унификации терминов и определений, как хранилища семантической структуры языка, и создаётся с целью образования единой системы терминов и определений [17].
Задачи, решаемые семантическим тезаурусом:
1) преодоление разнообразия в толкования терминов и определений, входящих в научно-производственный и социальный оборот, на основе процессов их унификации;
2) создание логической структуры массива терминов и определений в соответствии с критериями полноты, точности, достоверности, своевременности, согласованности и др.;
3) информационная поддержка инновационных процессов в части оперативного предоставления пользователям унифицированных терминов и определений, входящих в базу данных семантического тезауруса;
4) семантический анализ терминов и определений широкого профиля;
5) обеспечение пользователей качественной информацией в соответствии с заданной тематикой;
6) выявление предположительной области существования новых знаний на основе семантического анализа терминов и определений заданной научной инновационной тематики в интересах выявления как наиболее, так и наименее значимых направлений прогнозируемых процессов.
Автоматизированная система долгосрочного когнитивного прогноза, созданная на основе представленной выше блок-схемы, может представлять интерес в части выявления перспектив и тенденций развития в различных сферах деятельности:
- научные исследований, создание новейших техники и технологий, включая военную технику и вооружение [2];
- военно-политические и социально-экономические;
- тенденции развития отраслей народного хозяйства и проч.
Исходя из определяющей важности роли руководителя, авторский коллектив междисциплинарной научной школы «Промышленная управленческая элита развития» АНО «Развитие инноваций» сосредоточился на создании автоматизированной системы долгосрочного когнитивного прогноза направлений опережающего развития компетенций руководителей высокотехнологичных производств на основе семантического анализа вербальной информации о развитие наукоёмких отраслей в мире на период в 10-20 лет.
Выводы:
1. Текстовые материалы обсуждений и дебатов на конференциях, докладах, публикаций в СМИ и других источниках несут в себе ценнейшую информацию, которая в может быть материализована в виде прогноза устойчивых тенденций и траекторий развития. Накопление и обработка данных источников в базах данных представляет собой существенную информационную основу для создания автоматизированной системы долгосрочного прогноза тенденций в широком спектре научно-технических и социально-экономических систем.
2. Когнитивный прогноз на основе семантического анализа вербальной информации о развитие наукоёмких отраслей в мире в ближайшие 10-20 лет позволит с высоким уровнем достоверности определять направления опережающего развития компетенций руководителей высокотехнологичных производств.
3. Авторами предложен метод анализа вербальной информации об объекте прогнозирования. В рамках решения реальных задач дальнесрочного прогнозирования бесспорно будет применён автоматизированный аппаратно-программный комплекс семантического анализа вербальной информации (описание программного обеспечения комплекса выходит за рамки настоящей статьи).
4. В настоящей статье представлен подход, основанный на использовании только вербальной информации без учёта цифровой. При решении реальных задач долгосрочного прогнозированиям, естественно, будет учитываться и цифровая прогнозная составляющая, при её наличии.
СПИСОК ЛИТЕРАТУРЫ
1. Звягин А.А. Проекты междисциплинарной научной школы «Промышленная управленческая элита развития» как институциональная подоснова обеспечения кадровой составляющей экономической безопасности промышленных предприятий с госучастием // На страже экономики России. – 2020. – № 4 (15) – С. 33-37.
2. Иванус А.И. Превентивный режим готовности предприятий ОПК в интересах обеспечения их безопасности (на примере зарубежных источников) / Вестник ФГУП «ЦНИИ «Центр» –М.: Выпуск №1, 2018, с. 69-75.
3. Звягин А.А. Лидеры России. Прогноз на ближайшее тридцатилетие // Лидерство и менеджмент. – 2021. – Т.8. – № 1. – С. 9-30.
4. Звягин А.А. Кадровая безопасность «Новой индустриализации»: востребованные качества руководителя производства в ближайшее тридцатилетие и эффективный механизм их обеспечения. // На страже экономики. 2021. № 3 (18). С. 13-29.
5. Звягин А.А., Дюндик Е.П. Направления и задачи подготовки кадров для предприятий оборонно-промышленного комплекса. // Научный вестник оборонно-промышленного комплекса России ФГУП «ЦНИИ «Центр». 2016. № 2. С.86-98.
6. Иванов А.М., Звягина Д.А., Абрамов Е.Г., Стюхин Д.А. Продукт научной школы «Промышленная управленческая элита развития»: инновационная программа подготовки кадров «Эффективный руководитель производства» // Экономика высокотехнологичных производств, 2021. № 3. С. 147-168.
7. Кохно П.А. ОПК в системе «конкурентная разведка – конкурентное производство». Анализ и перспективы развития оборонно-промышленного производства. // Военная мысль. 2010. №11. С. 31-40.
8. Кохно П.А., Иванус А.И. Золотые пропорции предприятий ОПК. // Научный вестник оборонно-промышленного комплекса России ФГУП «ЦНИИ «Центр». 2014. № 2. С. 11-19.
9. Артюхов В.Г., Куличков Е.Н., Скубрий Е.В. Инновационные аспекты управления кадрами и математическое моделирование кадровых систем предприятий России / монография. – М.: ФГУП «ЦНИИ «Центр». 2009.
10. Голубев С.С., Дюндик Е.П., Скубрий Е.В. Методы и модели решений задач классификации при инновационном прогнозировании научно-технологического развития с использованием интеллектуального анализа «Больших данных». // Вестник Московского городского педагогического университета. Серия: Экономика. – 2018. – № 4 (18). – С. 8-16.
11. Звягин А.А. Основы системы государственного управления высшим менеджментом предприятий, имеющих стратегическое значение для безопасности России // Национальные интересы: приоритеты и безопасность. 2016. – Т. 12. – № 3 (336). – С. 186-196.
12. Егоров С.С., Звягин А.А. Обеспечение кадровой безопасности в высшем управленческом звене предприятий класса «А». // Сегодня и завтра Российской экономики. – 2011. – № 42. – С. 59-66.
13. Звягин А.А. На пороге перемен. Часть 2. Элита развития. Преображение / монография. – М.: Первое экономическое издательство, 2020. – 292 с.
14. Звягин А.А. Лидеры России. Прогноз на ближайшее тридцатилетие. // Лидерство и менеджмент. – 2021. – Т. 8. – № 1. – С. 9-30.
15. Иванус А. И. Роль и место когнитивных методов и технологий управления экономикой в условиях неопределенности / Экономика и управление: проблемы, решения // № 3, том 8 (87) – 2019. Стр. 17-23.
16. Ефименко И. В., Хорошевский В.Ф. Онтологическое моделирование экономики предприятий и отраслей современной России: Часть 3. Российские исследования и разработки в области онтологического инжиниринга и бизнес-онтологий: препринт WP7/2011/08 (ч. 3) / Дом Высшей школы экономики, 2011. 68 с.
17. Иванус А.И. Когнитивные методы и технологии управления экономикой в условиях неопределённости: Учебно-методическое пособие / А. И. Иванус. – М.: Прометей, 2019. – 152 с.
18. Заличев Н.Н. Энтропия информации и сущность жизни. М.: Радиоэлектроника, 1995. 192 с.
19. Айламазян А.К., Стась Е.В. Информатика и теория развития. М.: Наука, 1989, 174 с.