Экспертные методы принятия решений

1. 2. 3. 4. 5. 6. 7. 11. Лекция: ЭКСПЕРТНЫЕ МЕТОДЫ ПРИНЯТИЯ РЕШЕНИЙ Введение Примеры процедур экспертных оценок Основные стадии экспертного опроса Организация работы экспертной комиссии Методы средних рангов Экологические экспертизы Заключение Введение Цель: раскрыть как принимать решения на основе объективных данных (в том числе с помощью оптимизационных методов и вероятностностатистических моделей), либо на основе мнений специалистов (экспертов). Как будет изменяться экономическая обстановка с течением времени? Что будет с окружающей природной средой через десять лет? Как изменится экологическая обстановка? Будет ли обеспечена экологическая безопасность промышленных производств или же вокруг станет простираться рукотворная пустыня? Достаточно вдуматься в эти постановки естественных вопросов, проанализировать, как десять или тем более двадцать лет назад мы представляли себе сегодняшний день, чтобы понять, что стопроцентно надежных прогнозов просто не может быть. Вместо утверждений с конкретными числами можно ожидать лишь качественных оценок. Тем не менее, менеджеры, экономисты, инженеры, должны принимать решения. Например, об экологических и иных проектах и инвестициях, последствия которых скажутся через десять, двадцать и т.д. лет. Как быть? Остается обратиться к методам экспертных оценок. Что это за методы? Бесспорно совершенно, что для принятия обоснованных решений необходимо опираться на опыт, знания и интуицию специалистов. После второй мировой войны в рамках научного движения, включающего кибернетику, информатику, теорию управления, менеджмент и исследование операций, стала развиваться самостоятельная дисциплина - теория и практика экспертных оценок. Примеры процедур экспертных оценок Методы экспертных оценок - это методы организации работы со специалистами-экспертами и обработки мнений экспертов. Эти мнения обычно выражены частично в количественной, частично в качественной форме. Экспертные исследования проводят с целью подготовки информации для принятия решений ЛПР (напомним, ЛПР - лицо, принимающее решение). Для проведения работы по методу экспертных оценок создают Рабочую группу (сокращенно РГ), которая и организует по поручению ЛПР деятельность экспертов, объединенных (формально или по существу) в экспертную комиссию (ЭК). Экспертные оценки бывают индивидуальные и коллективные. Индивидуальные оценки - это оценки одного специалиста. Например, преподаватель единолично ставит отметку студенту, а врач - диагноз больному. Но в сложных случаях заболевания или при угрозе отчисления студента за плохую учебу обращаются к коллективному мнению симпозиуму врачей или комиссии преподавателей. Аналогичная ситуация - в армии. Обычно командующий принимает решение единолично. Но в сложных и ответственных ситуациях проводят военный совет. Один из наиболее известных примеров такого рода - военный совет 1812 г. в Филях, на котором под председательством М.И. Кутузова решался вопрос: "Давать или не давать французам сражение под Москвой?" Простейший пример экспертных оценок - оценка номеров в КВН. Каждый из членов жюри поднимают фанерку со своей оценкой, а технический работник вычисляет среднюю арифметическую оценку, которая и объявляется как коллективное мнение жюри (ниже увидим, что такой подход некорректен с точки зрения теории измерений). В фигурном катании процедура усложняется - перед усреднением отбрасываются самая большая и самая маленькая оценки. Это делается для того, чтобы не было соблазна завысить оценку одной спортсменке (например, соотечественнице) или занизить другой. Такие резко выделяющиеся из общего ряда оценки будут сразу отброшены. Экспертные оценки часто используются при выборе, например:  одного варианта технического устройства для запуска в серию из нескольких образцов,  группы космонавтов из многих претендентов,  набора проектов научно-исследовательских работ для финансирования из массы заявок,  получателей экологических кредитов из многих желающих,  при выборе инвестиционных проектов для реализации среди представленных, и т.д. Существует масса методов получения экспертных оценок. В одних с каждым экспертом работают отдельно, он даже не знает, кто еще является экспертом, а потому высказывает свое мнение независимо от авторитетов. В других экспертов собирают вместе для подготовки материалов для ЛПР, при этом эксперты обсуждают проблему друг с другом, учатся друг у друга, и неверные мнения отбрасываются. В одних методах число экспертов фиксировано и таково, чтобы статистические методы проверки согласованности мнений и затем их усреднения позволяли принимать обоснованные решения. В других - число экспертов растет в процессе проведения экспертизы, например, при использовании метода "снежного кома" (о нем - дальше). Не меньше существует и методов обработки ответов экспертов, в том числе весьма насыщенных математикой и компьютеризированных. Многие из них основаны на достижениях статистики объектов нечисловой природы и других современных методах прикладной статистики. Метод Дельфи. Один из наиболее известных методов экспертных оценок - это метод Дельфи. Название дано по ассоциации с древним обычаем для получения поддержки при принятии решений обращаться в Дельфийский храм. Он был расположен у выхода ядовитых вулканических газов. Жрицы храма (пифии), надышавшись отравы, начинали пророчествовать, произнося непонятные слова. Специальные "переводчики" жрецы храма толковали эти слова и отвечали на вопросы пришедших со своими проблемами паломников. Те спрашивали, отправляться ли в морское путешествие, вступать ли в брак, заключать ли договор с тем или иным деловым партнером, начинать ли войну, и т.д. Технология экспертного оценивания состояла в следующем. Получив "заказ на экспертное прогнозирование", жрецы передавали его пифиям, выслушивали пророчества пифий, а затем толковали услышанное заказчику. С течением времени в храме накапливались пожертвования и памятные доски от тех, для кого прогнозы сбылись. Если же прогноз не осуществился, то сообщить об этом зачастую было некому, - заказчик лежал на морском дне или был убит в битве, разорен и продан в рабство, и т.п. По традиции говорят, что Дельфийский храм находился в Греции. Но там нет вулканов. Видимо, он был в Италии - у Везувия или Этны, а сами описанные предсказания происходили в XII-XIV вв. Это вытекает из высшего достижения современной исторической науки - новой статистической хронологии. В США в 1960-х годах методом Дельфи назвали экспертную процедуру прогнозирования научно-технического развития. В первом туре эксперты называли вероятные даты тех или иных будущих свершений. Во втором туре каждый эксперт знакомился с прогнозами всех остальных. Если его прогноз сильно отличался от прогнозов основной массы, его просили пояснить свою позицию, и часто он изменял свои оценки, приближаясь к средним значениям. Эти средние значения и выдавались заказчику как групповое мнение. Надо сказать, что реальные результаты исследования оказались довольно скромными - хотя дата высадки американцев на Луну была предсказана с точностью до месяца, все остальные прогнозы провалились холодного термоядерного синтеза и средства от рака в ХХ в. человечество не дождалось. Однако сама методика оказалась популярной - за последующие 15 лет она использовалась не менее 40 тыс. раз. Средняя стоимость экспертного исследования по методу Дельфи - 5 тыс. долларов США, но в ряде случаев приходилось расходовать и более крупные суммы - до 130 тыс. долларов. Метод сценариев. Несколько в стороне от основного русла экспертных оценок лежит метод сценариев, применяемый прежде всего для экспертного прогнозирования. Рассмотрим основные идеи технологии сценарных экспертных прогнозов. Социально-экономическое или, скажем, экологическое прогнозирование, как и любое прогнозирование вообще, может быть успешным лишь при некоторой стабильности условий. Однако решения органов власти, отдельных лиц, иные события меняют условия, и события развиваются по-иному, чем ранее предполагалось. Вполне очевидно, что после первого тура президентских выборов 1996 г. о дальнейшем развитии событий можно было говорить лишь в терминах сценариев: если во втором туре победит Б.Н. Ельцин, то будет то-то и то-то, если же победит Г.А. Зюганов, то события пойдут так-то и так-то. Метод сценариев необходим не только в социально-экономической или экологической области. Например, при разработке методологического, программного и информационного обеспечения анализа риска химикотехнологических проектов необходимо составить детальный каталог сценариев аварий, связанных с утечками токсических химических веществ. Каждый из таких сценариев описывает аварию своего типа, со своим индивидуальным происхождением, развитием, последствиями, возможностями предупреждения. Таким образом, метод сценариев - это метод декомпозиции задачи прогнозирования, предусматривающий выделение набора отдельных вариантов развития событий (сценариев), в совокупности охватывающих все возможные варианты развития. При этом каждый отдельный сценарий должен допускать возможность достаточно точного прогнозирования, а общее число сценариев должно быть обозримо. Возможность подобной декомпозиции не очевидна. При применении метода сценариев необходимо осуществить два этапа исследования:  построение исчерпывающего, но обозримого набора сценариев;  прогнозирование в рамках каждого конкретного сценария с целью получения ответов на интересующие исследователя вопросы. Каждый из этих этапов лишь частично формализуем. Существенная часть рассуждений проводится на качественном уровне, как это принято в общественно-экономических и гуманитарных науках. Одна из причин заключается в том, что стремление к излишней формализации и математизации приводит к искусственному внесению определенности там, где ее нет по существу, либо к использованию громоздкого математического аппарата. Так, рассуждения на словесном уровне считаются доказательными в большинстве ситуаций, в то время как попытка уточнить смысл используемых слов с помощью, например, теории нечетких множеств, приводит к весьма громоздким математическим моделям. Набор сценариев должен быть обозрим. Приходится исключать различные маловероятные события - прилет инопланетян, падение астероида, массовые эпидемии ранее неизвестных болезней, и т.д. Само по себе создание набора сценариев - предмет экспертного исследования. Кроме того, эксперты могут оценить вероятности реализации того или иного сценария. Прогнозирование в рамках каждого конкретного сценария с целью получения ответов на интересующие исследователя вопросы также осуществляется в соответствии с описанной выше методологией прогнозирования. При стабильных условиях могут быть применены статистические методы прогнозирования временных рядов. Однако этому предшествует анализ с помощью экспертов, причем зачастую прогнозирование на словесном уровне является достаточным (для получения интересующих исследователя и ЛПР выводов) и не требующим количественного уточнения. Как известно, при принятии решений на основе анализа ситуации (как говорят, при ситуационном анализе), в том числе анализа результатов прогнозных исследований, можно исходить из различных критериев. Так, можно ориентироваться на то, что ситуация сложится наихудшим, или наилучшим, или средним (в каком-либо смысле) образом. Можно попытаться наметить мероприятия, обеспечивающие минимально допустимые полезные результаты при любом варианте развития ситуации, и т.д. Мозговой штурм. Еще один вариант экспертного оценивания мозговой штурм. Организуется он как собрание экспертов, на выступления которых наложено одно, но очень существенное ограничение - нельзя критиковать предложения других. Можно их развивать, можно высказывать свои идеи, но нельзя критиковать! В ходе заседания эксперты, "заражаясь" друг от друга, высказывают все более экстравагантные соображения. Часа через два записанное на магнитофон или видеокамеру заседание заканчивается, и начинается второй этап мозгового штурма - анализ высказанных идей. Обычно из 100 идей 30 заслуживают дальнейшей проработки, из них 5-6 дают возможность сформулировать прикладные проекты, а 2-3 оказываются в итоге приносящими полезный эффект прибыль, повышение экологической безопасности, оздоровление окружающей природной среды и т.п. При этом интерпретация идей - творческий процесс. Например, при обсуждении возможностей защиты кораблей от торпедной атаки была высказана идея: "Выстроить матросов вдоль борта и дуть на торпеду, чтобы изменить ее курс". После проработки эта идея привела к созданию специальных устройств, создающих волны, сбивающие торпеду с курса. Основные стадии экспертного опроса Более подробно рассмотрим отдельные этапы типового экспертного исследования. Как показывает практический опыт, с точки зрения менеджера - организатора такого исследования целесообразно выделять следующие стадии проведения экспертного опроса. 1) Принятие решения о необходимости проведения экспертного опроса и формулировка его цели Лицом, Принимающим Решения (ЛПР). Таким образом, инициатива должна исходить от руководства, что в дальнейшем обеспечит успешное решение организационных и финансовых проблем. Очевидно, что исходный толчок может быть дан докладной запиской одного из сотрудников или дискуссией на совещании, но реальное начало работы решение ЛПР. 2) Подбор и назначение ЛПР основного состава Рабочей группы, сокращенно РГ (обычно - научного руководителя и секретаря). При этом научный руководитель отвечает за организацию и проведение экспертного исследования в целом, а также за анализ собранных материалов и формулировку заключения экспертной комиссии. Он участвует в формировании коллектива экспертов и выдаче задания каждому эксперту (вместе с ЛПР или его представителем). Он сам - высококвалифицированный эксперт и признаваемый другими экспертами формальный и неформальный руководитель экспертной комиссии. Дело секретаря - ведение документации экспертного опроса, решение организационных задач. Назначение научного руководителя и секретаря оформляется распорядительным документом (приказом, постановлением и т.п.). Остальной состав РГ обычно формируется позже, причем по предложениям научного руководителя и секретаря. 3) Разработка РГ (точнее, ее основным составом, прежде всего научным руководителем и секретарем) и утверждение у ЛПР технического задания на проведение экспертного опроса. На этой стадии решение о проведении экспертного опроса приобретает четкость во времени, финансовом, кадровом, материальном и организационном обеспечении. В частности, формируется костяк Рабочей Группы со своей внутренней структурой. Обычно в РГ выделяются различные группы специалистов аналитическая, эконометрическая (специалисты по методам), компьютерная, по работе с экспертами (например, интервьюеров), организационная. Очень важно для успеха, чтобы все эти позиции были утверждены ЛПР. 4) Разработка аналитической группой РГ подробного сценария (т.е. регламента) проведения сбора и анализа экспертных мнений (оценок) Сценарий включает в себя, прежде всего, конкретный вид информации, которая будет получена от экспертов (например, слова, условные градации, числа, ранжировки, разбиения или иные виды объектов нечисловой природы). Например, довольно часто экспертов просят высказаться в свободной форме, ответив при этом на некоторое количество заранее сформулированных вопросов. Кроме того, их просят заполнить формальную карту, в каждом пункте выбрав одну из нескольких градаций. Сценарий должен содержать и конкретные методы анализа собранной информации. Например, вычисление медианы Кемени, статистический анализ люсианов, применение иных методов статистики объектов нечисловой природы и других разделов прикладной статистики. Эта работа ложится на эконометрическую и компьютерную группу РГ. Традиционная ошибка - сначала собрать информацию, а потом думать, что с ней делать. В результате, как показывает печальный опыт, информация используется не более чем на 1-2%. 5) Подбор экспертов в соответствии с их компетентностью. На этой стадии РГ составляет список возможных экспертов и оценивает степень их пригодности для планируемого исследования. 6) Формирование экспертной комиссии. На этой стадии РГ проводит переговоры с экспертами, получает их согласие на работу в экспертной комиссии (сокращенно ЭК). Возможно, часть намеченных РГ экспертов не может войти в экспертную комиссию (болезнь, отпуск, командировка и др.) или отказывается по тем или иным причинам (занятость, условия контракта и др.). ЛПР утверждает состав экспертной комиссии, возможно, вычеркнув или добавив часть экспертов к предложениям РГ. Проводится заключение договоров с экспертами об условиях их работы и ее оплаты. 7) Проведение сбора экспертной информации. Часто перед этим проводится набор и обучение интервьюеров - одной из групп, входящих в РГ. 8) Компьютерный анализ экспертной информации с помощью включенных в сценарий методов. Ему обычно предшествует введение информации в компьютеры, создание соответствующих баз данных или электронных таблиц. 9) При применении (согласно сценарию) экспертной процедуры из нескольких туров - повторение двух предыдущих этапов. 10) Итоговый анализ экспертных мнений, интерпретация полученных результатов аналитической группой РГ и подготовка заключительного документа ЭК для ЛПР. 11) Официальное окончание деятельности РГ, в том числе утверждение ЛПР заключительного документа ЭК, подготовка и утверждение научного и финансового отчетов РГ о проведении экспертного исследования, оплата труда экспертов и сотрудников РГ, официальное прекращение деятельности (роспуск) ЭК и РГ. Разберем подробнее отдельные стадии экспертного исследования. Начнем с подбора экспертов: кадры решают все! Каковы эксперты - таково и качество заключения экспертной комиссии. Подбор экспертов. Проблема подбора экспертов является одной из наиболее сложных в теории и практике экспертных исследований. Очевидно, в качестве экспертов необходимо использовать тех людей, чьи суждения наиболее помогут принятию адекватного решения. Но как выделить, найти, подобрать таких людей? Надо прямо сказать, что нет методов подбора экспертов, наверняка обеспечивающих успех экспертизы. Сейчас мы не будем обсуждать проблему существования различных "партий" среди экспертов и обратим внимание на иные стороны процедур подбора экспертов. В проблеме подбора экспертов можно выделить две составляющие составление списка возможных экспертов и выбор из них экспертной комиссии в соответствии с компетентностью кандидатов. Составление списка возможных экспертов облегчается тогда, когда рассматриваемый вид экспертизы проводится многократно. В таких ситуациях обычно ведется реестр возможных экспертов, например, в области государственной экологической экспертизы или судейства фигурного катания, из которого можно выбирать по различным критериям или с помощью датчика (или таблицы) псевдослучайных чисел. Как быть, если экспертиза проводится впервые, устоявшиеся списки возможных экспертов отсутствуют? Однако и в этом случае у каждого конкретного специалиста есть некоторое представление о том, что требуется от эксперта в подобной ситуации. Для формирования списка есть полезный метод "снежного кома", при котором от каждого специалиста, привлекаемого в качестве эксперта, получают определенное количество (обычно 5 - 10) фамилий тех, кто может быть экспертом по рассматриваемой тематике. Очевидно, некоторые из этих фамилий встречались ранее в деятельности РГ, а некоторые - новые. Каждого вновь появившегося опрашивают по той же схеме. Процесс расширения списка останавливается, когда новые фамилии практически перестают встречаться или когда список достигает необходимого размера. В результате получается достаточно обширный список возможных экспертов. Метод "снежного кома" имеет и недостатки. Число туров до остановки процесса наращивания кома нельзя заранее предсказать. Кроме того, ясно, что если на первом этапе все эксперты были из одного "клана", придерживались в чем-то близких взглядов или занимались сходной деятельностью, то и метод "снежного кома" даст, скорее всего, лиц из этого же "клана". Мнения и аргументы других "кланов" будут упущены. Здесь речь идет о том, что сообщество специалистов реально разбито на группы, названные выше "кланами", и общение идет в основном внутри "кланов". Неформальная структура науки, к которой относятся "кланы", достаточно сложна для изучения. Отметим здесь, что "кланы" обычно образуются на основе крупных формальных центров (вузов, научных институтов), научных школ. Вопрос об оценке компетентности экспертов не менее сложен. Ясно, что успешность участия в предыдущих экспертизах - хороший критерий для деятельности дегустатора, врача, судьи в спортивных соревнованиях, т.е. таких экспертов, которые участвуют в длинных сериях однотипных экспертиз. Однако, увы, наиболее интересны и важны уникальные экспертизы больших проектов, не имеющих аналогов. Использование формальных показателей экспертов (должность, ученые степень и звание, стаж, число публикаций...), очевидно, в современных быстро меняющихся условиях может носить лишь вспомогательный характер, хотя подобные показатели проще всего применять. Часто предлагают использовать методы самооценки и взаимооценки компетентности экспертов. Обсудим их, начав с метода самооценки, при котором эксперт сам дает информацию о том, в каких областях он компетентен, а в каких - нет. С одной стороны, кто лучше может знать возможности эксперта, чем он сам? С другой стороны, при самооценке компетентности скорее оценивается степень самоуверенности эксперта, чем его реальная компетентность. Тем более, что само понятие "компетентность" строго не определено. Можно его уточнять, выделяя составляющие, но при этом усложняется предварительная часть деятельности экспертной комиссии. Достаточно часто эксперт преувеличивает свою реальную компетентность. Например, большинство людей считают, что они хорошо разбираются в политике, экономике, проблемах образования и воспитания, семьи и медицины. На самом деле экспертов (и даже знающих людей) в этих областях весьма мало. Бывают уклонения и в другую сторону, излишне критичное отношение к своим возможностям. При использовании метода взаимооценки, помимо возможности проявления личностных и групповых симпатий и антипатий, играет роль малая осведомленность экспертов о возможностях друг друга. В современных условиях достаточно хорошее знакомство с работами и возможностями друг друга может быть лишь у специалистов, много лет (не менее 3-4) работающих совместно, в одной комнате, над одной темой. Именно про такие пары можно сказать, что они "вместе пуд соли съели". Однако привлечение таких пар специалистов в ЭК не очень-то целесообразно, поскольку их взгляды из-за схожести жизненного пути слишком похожи друг на друга. Если процедура экспертного опроса предполагает непосредственное общение экспертов, необходимо учитывать еще ряд обстоятельств. Большое значение имеют их личностные (социально-психологические) качества. Так, один-единственный "говорун" может парализовать деятельность всей комиссии на совместном заседании. К срыву могут привести и неприязненные отношения членов комиссии, и сильно различающийся научный и должностной статус членов комиссии. В подобных случаях важно соблюдение регламента работы, разработанного РГ. Необходимо подчеркнуть, что подбор экспертов - одна из основных функций Рабочей группы, и никакие методики подбора не снимают с нее ответственности. Другими словами, именно на Рабочей группе лежит ответственность за компетентность экспертов, за их принципиальную способность решить поставленную задачу. Важным является требование к ЛПР об утверждении списка экспертов. При этом ЛПР может как добавить в комиссию отдельных экспертов, так и вычеркнуть некоторых из них - по собственным соображениям, с которыми членам РГ и ЭК знакомиться нет необходимости. Существует ряд нормативных документов, регулирующих деятельность экспертных комиссий в тех или иных областях. Примером является Закон Российской Федерации "Об экологической экспертизе" от 23 ноября 1995 г., в котором регламентируется процедура экспертизы "намечаемой хозяйственной или иной деятельности" с целью выявления возможного вреда, который может нанести рассматриваемая деятельность окружающей природной среде. Организация работы экспертной комиссии О разработке регламента проведения сбора и анализа экспертных мнений. Существует масса методов получения экспертных оценок. В одних с каждым экспертом работают отдельно, он даже не знает, кто еще является экспертом, а потому высказывает свое мнение независимо от авторитетов, "кланов" и отдельных коллег. В других экспертов собирают вместе для подготовки материалов для ЛПР, при этом эксперты обсуждают проблему друг с другом, принимают или отвергают аргументы друг друга, учатся друг у друга, и неверные или недостаточно обоснованные мнения отбрасываются. В одних методах число экспертов фиксировано и таково, чтобы статистические методы проверки согласованности мнений и затем (в случае достаточно хорошей согласованности мнений) их усреднения позволяли принимать обоснованные решения с точки зрения эконометрики. В других число экспертов растет в процессе проведения экспертизы, например, при использовании метода "снежного кома" для формирования команды экспертов. В настоящее время не существует общепринятой научно обоснованной классификации методов экспертных оценок и тем более однозначных рекомендаций по их применению. Попытка силой утвердить одну из возможных точек зрения на классификацию методов экспертных оценок может принести лишь вред. Однако для рассказа о многообразии экспертных оценок необходима какая-либо рабочая классификация методов. Одну из таких возможных классификаций мы даем ниже, перечисляя основания, по которым делим экспертные оценки. Выбор цели. Один из основных вопросов - что именно должна представить экспертная комиссия в результате своей работы - информацию для принятия решения ЛПР или проект самого решения? От ответа на этот методологический вопрос зависит организация работы экспертной комиссии, и он служит первым основанием для разбиения методов. ЦЕЛЬ - СБОР ИНФОРМАЦИИ ДЛЯ ЛПР. Тогда Рабочая группа должна собрать возможно больше относящейся к делу информации, аргументов "за" и "против" определенных вариантов решений. Полезен следующий метод постепенного увеличения числа экспертов. Сначала первый эксперт приводит свои соображения по рассматриваемому вопросу. Составленный им материал передается второму эксперту, который добавляет свои аргументы. Накопленный материал поступает к следующему - третьему - эксперту... Процедура заканчивается, когда иссякает поток новых соображений. Отметим, что эксперты в рассматриваемом методе только поставляют информацию, аргументы "за" и "против", но не вырабатывают согласованного проекта решения. Нет никакой необходимости стремиться к тому, чтобы экспертные мнения были согласованы между собой. Более того, наибольшую пользу приносят эксперты с мышлением, отклоняющимся от массового (диссиденты). Именно от них следует ожидать наиболее оригинальных аргументов. ЦЕЛЬ - ПОДГОТОВКА ПРОЕКТА РЕШЕНИЯ ДЛЯ ЛПР. Математические методы в экспертных оценках применяются обычно именно для решения задач, связанных с подготовкой проекта решения. При этом зачастую некритически принимают догмы согласованности и одномерности. Эти догмы "кочуют" из одной публикации в другую, поэтому целесообразно их обсудить. ДОГМА СОГЛАСОВАННОСТИ. Часто без всяких оснований считается, что решение может быть принято лишь на основе согласованных мнений экспертов. Поэтому исключают из экспертной группы тех, чье мнение отличается от мнения большинства. При этом отсеиваются как неквалифицированные лица, попавшие в состав экспертной комиссии по недоразумению или по соображениям, не имеющим отношения к их профессиональному уровню, так и наиболее оригинальные мыслители, глубже проникшие в проблему, чем большинство. Следовало бы выяснить их аргументы, предоставить им возможность для обоснования их точек зрения. Вместо этого их мнением пренебрегают. Бывает и так, что эксперты делятся на две или более групп, имеющих единые групповые точки зрения. Так, известен пример деления специалистов при оценке результатов научно-исследовательских работ на две группы: "теоретиков", явно предпочитающих НИР, в которых получены теоретические результаты, и "практиков", выбирающих те НИР, которые позволяют получать непосредственные прикладные результаты (речь идет о конкурсе НИР в академическом Институте проблем управления (автоматики и телемеханики)). Иногда заявляют, что в случае обнаружения двух или нескольких групп экспертов (вместо одной согласованной во мнениях) опрос не достиг цели. Это не так! Цель достигнута - установлено, что единого мнения нет. Это весьма важно. И ЛПР при принятии решений должен это учитывать. Стремление обеспечить согласованность мнений экспертов любой ценой может приводить к сознательному одностороннему подбору экспертов, игнорированию всех точек зрения, кроме одной, наиболее полюбившейся Рабочей группе (или даже "подсказанной" ЛПР). Часто не учитывают еще одного чисто эконометрического обстоятельства. Поскольку число экспертов обычно не превышает 20-30, то формальная статистическая согласованность мнений экспертов (установленная с помощью тех или иных критериев проверки статистических гипотез) может сочетаться с реально имеющимся разделением экспертов на группы, что делает дальнейшие расчеты не имеющими отношения к действительности. Для примера обратимся к конкретным методам расчетов с помощью коэффициентов конкордации (т.е. - в переводе - согласия) на основе коэффициентов ранговой корреляции Кендалла или Спирмена. Необходимо напомнить, что согласно эконометрической теории положительный результат проверки согласованности таким способом означает ни больше, ни меньше, как отклонение гипотезы о независимости и равномерной распределенности мнений экспертов на множестве всех ранжировок. Таким образом, проверяется нулевая гипотеза, согласно которой ранжировки, описывающие мнения экспертов, являются независимыми случайными бинарными отношениями, равномерно распределенными на множестве всех ранжировок. Отклонение этой нулевой гипотезы по дурной традиции толкуется как согласованность ответов экспертов. Другими словами, мы падаем жертвой заблуждений, вытекающих из своеобразного толкования слов: проверка согласованности в указанном математикостатистическом смысле вовсе не является проверкой согласованности в смысле практики экспертных оценок. (Именно ущербность рассматриваемых математико-статистических методов анализа ранжировок привела группу специалистов к разработке нового эконометрического аппарата для проверки согласованности - непараметрических методов, основанных на т.н. люсианах и входящих в современный раздел эконометрики - статистику нечисловых данных). Группы экспертов с близкими мнениями можно выделить эконометрическими методами кластер-анализа. МНЕНИЯ ДИССИДЕНТОВ. С целью искусственно добиться согласованности стараются уменьшить влияние мнений экспертовдиссидентов, т.е. инакомыслящих по сравнению с большинством. Жесткий способ борьбы с диссидентами состоит в игнорировании их мнений, т.е. фактически в их исключении из состава экспертной комиссии. Отбраковка экспертов, как и отбраковка резко выделяющихся результатов наблюдений (выбросов), приводит к процедурам, имеющим плохие или неизвестные статистические свойства. Так, известна крайняя неустойчивость классических методов отбраковки выбросов по отношению к отклонениям от предпосылок модели. Мягкий способ борьбы с диссидентами состоит в применении робастных (устойчивых) статистических процедур. Простейший пример: если ответ эксперта - действительное число, то резко выделяющееся мнение диссидента сильно влияет на среднее арифметическое ответов экспертов и не влияет на их медиану. Поэтому разумно в качестве согласованного мнения рассматривать медиану. Однако при этом игнорируются (не достигают ЛПР) аргументы диссидентов. Другим примером является принятие решений при судействе в фигурном катании, когда с целью повышения устойчивости выводов жюри отбрасываются минимальная и максимальная из оценок судей. В любом из двух способов борьбы с диссидентами ЛПР лишается информации, идущей от диссидентов, а потому может принять необоснованное решение, которое впоследствии приведет к отрицательным последствиям. С другой стороны, представление ЛПР всего набора мнений снимает часть ответственности и труда по подготовке окончательного решения с комиссии экспертов и рабочей группы по проведению экспертного опроса и перекладывает эту ответственность и труд на плечи ЛПР. ДОГМА ОДНОМЕРНОСТИ. В устаревшей, а иногда и в современной научно-технической, управленческой и экономической литературе распространен довольно спорный подход так называемой "квалиметрии", согласно которому объект экспертизы всегда можно оценить одним числом. Странная идея! Оценивать человека одним числом приходило в голову лишь на невольничьих рынках. Вряд ли даже самые рьяные квалиметристы рассматривают книгу или картину как эквивалент числа - ее "рыночной стоимости". Практически все реальные объекты достаточно сложны, а потому сколько-нибудь точно описать их можно лишь с помощью многих и многих чисел, а также математических объектов нечисловой природы. Жизнь, в том числе экономическая, многомерна, а не одномерна! Вместе с тем нельзя полностью отрицать саму идею поиска обобщенных показателей качества, технического уровня, конкурентоспособности и аналогичных. Так, каждый объект можно оценивать по многим показателям качества. Например, легковой автомобиль можно оценивать по таким показателям:  расход бензина на 100 км пути (в среднем);  надежность (в том числе средняя стоимость ремонта за год);  экологическая безопасность, оцениваемая по содержанию вредных веществ в выхлопных газах;  маневренность (в том числе радиус поворота);  быстрота набора скорости 100 км/ч после начала движения;  максимальная достигаемая скорость;  длительность сохранения в салоне положительной температуры при низкой наружной температуре (например, минус пятьдесят градусов по Цельсию) и выключенном двигателе;  дизайн (привлекательность и "модность" внешнего вида и отделки салона);  вес, и т.д. Можно ли свести оценки по этим показателям вместе? Ясно, что определяющей является конкретная ситуация, для которой выбирается автомашина. Максимально достигаемая скорость важна для гонщика, но, как нам представляется, не имеет большого практического значения для водителя рядовой частной машины, особенно в городе с суровым ограничением на максимальную скорость. Для такого водителя важнее расход бензина, маневренность и надежность. Для машин различных служб спасения и государственного управления, видимо, надежность важнее, чем для частника, а расход бензина - наоборот. Для районов Крайнего Севера важна теплоизоляция салона, а для центральных районов - нет. И т.д. Таким образом, важна конкретная (узкая) постановка задачи перед экспертами. Но такой постановки зачастую нет. А тогда "игры" по разработке обобщенного показателя качества - например, в виде линейной функции от перечисленных переменных - не могут дать объективных выводов. Альтернативой единственному обобщенному показателю является математический аппарат типа многокритериальной оптимизации множества Парето и т.д. В некоторых случаях все-таки можно глобально сравнить объекты например, с помощью тех же экспертов получить упорядочение рассматриваемых объектов - изделий или проектов. Тогда можно ПОДОБРАТЬ коэффициенты при отдельных показателях так, чтобы упорядочение с помощью линейной функции возможно точнее соответствовало глобальному упорядочению (например, найти эти коэффициенты методом наименьших квадратов). Наоборот, в подобных случаях НЕ СЛЕДУЕТ оценивать указанные коэффициенты с помощью экспертов. Эта простая идея до сих пор не стала очевидной для отдельных составителей методик по проведению экспертных опросов и анализу их результатов. Они упорно стараются заставить экспертов делать то, что они качественно выполнить не в состоянии - указывать веса, с которыми отдельные показатели качества должны входить в итоговый обобщенный показатель. Эксперты обычно могут сравнить объекты или проекты в целом, но не могут вычленить вклад отдельных факторов. Раз организаторы опроса спрашивают, эксперты отвечают, но эти ответы не несут в себе надежной информации о реальности... Число туров. Второе основание классификации экспертных процедур число туров. Экспертизы могут включать один тур, некоторое фиксированное число туров (два, три,…) или неопределенное число туров. Чем больше туров, тем более тщательным является анализ ситуации, поскольку эксперты при этом обычно много раз возвращаются к рассмотрению предмета экспертизы. Но одновременно увеличивается общее время на экспертизу и возрастает ее стоимость. Можно уменьшить расходы, вводя в экспертизу не всех экспертов сразу, а постепенно. Так, например, если цель состоит в сборе аргументов "за" и "против", то первоначальный перечень аргументов может быть составлен одним экспертом. Второй добавит к нему свои аргументы. Суммарный материал поступит к первому и третьему, которые внесут свои аргументы и контраргументы. И так далее добавляется по одному эксперту на каждый новый тур. Наибольшие сложности вызывают процедуры с заранее неопределенным числом туров, например, "снежный ком". Часто задают максимально возможное число туров, и тогда неопределенность сводится к тому, придется ли проводить это максимальное число туров или удастся ограничиться меньшим числом. Организация общения экспертов. Третье основание классификации экспертных процедур - способ организации общения экспертов. Рассмотрим достоинства и недостатки каждого из элементов шкалы: отсутствие общения - заочное анонимное общение - заочное общение без анонимности - очное общение с ограничениями - очное общение без ограничений. При отсутствии общения эксперт высказывает свое мнение, ничего не зная о других экспертах и об их мнениях. Он полностью независим, что и хорошо, и плохо. Обычно такая ситуация соответствует однотуровой экспертизе. Заочное анонимное общение, например, как в методе Дельфи, означает, что эксперт знакомится с мнениями и аргументами других экспертов, но не знает, кто именно высказал то или иное положение. Следовательно, в экспертизе должно быть предусмотрено хотя бы два тура. Заочное общение без анонимности соответствует, например, общению по Интернету. Все варианты заочной экспертизы хороши тем, что нет необходимости собирать экспертов вместе, следовательно, находить для этого удобное время и место. В будущем с распространением телеконференций грань между очным и заочным общением экспертов начнет стираться. При очных экспертизах эксперты говорят, а не пишут, как при заочных, и потому успевают за то же потраченное время сообщить существенно больше. Очная экспертиза с ограничениями весьма распространена. Это собрание, идущее по фиксированному регламенту. Примером является военный совет в императорской русской армии, когда эксперты (офицеры и генералы) высказывались в фиксированном порядке от младшего (по чину и должности) к старшему. Другой пример - разработка и принятие решений в Государственной Думе Российской Федерации. Наконец, очная экспертиза без ограничений - это свободная дискуссия. Все очные экспертизы имеют недостатки, связанные с возможностями отрицательного влияния на их проведение социально-психологических свойств и клановых (партийных) пристрастий участников, а также неравенства их профессионального, должностного, научного статусов. Представьте себе, что соберутся вместе 5 лейтенантов и 3 генерала. Независимо от того, какая информация имеется у того или иного участника встречи, ход ее предсказать нетрудно: генералы будут беседовать, а лейтенанты - помалкивать. При этом вполне очевидно, что лейтенанты получили образование позже генералов, а потому обладают полезной информацией, которой нет у генералов. Веса экспертов. Четвертое основание классификации экспертных процедур - по способам введения весов для мнений экспертов. Простейший способ - все эксперты равноправны, при голосованиях по отдельным положениям разрабатываемого решения имеют по одному голосу. Часто вводят понятия решающего голоса и совещательного голоса. Например, при защите дипломного проекта члены Государственной Аттестационной Комиссии (ГАК) имеют решающие голоса, а все остальные участники заседания - совещательные. В Федеральном законе "Об экологической экспертизе" (1995) подробно расписано, представители каких организаций и структур управления могут присутствовать на заседании экспертной комиссии государственной экологической экспертизы с правом совещательного голоса. В регламент принятия решений иногда включают положение, согласно которому при делении голосов ровно пополам принимается мнение той половины, к которой относится председатель ЭК. Это означает, что вес голоса председателя на бесконечно малую величину больше веса рядового эксперта. При голосованиях на собраниях акционеров вес каждого эксперта (участника заседания) определяется числом акций, которыми он распоряжается. Комбинация различных видов экспертизы. Реальные экспертизы часто представляют собой комбинации различных описанных выше типов экспертиз. В качестве примера рассмотрим защиту студентом дипломного проекта. Сначала идет многотуровая очная экспертиза, проводимая научным руководителем и консультантами, в результате студент подготавливает проект к защите. Затем два эксперта работают заочно - это автор отзыва сторонней организации и заведующий кафедрой, допускающий работу к защите. Обратите внимание на различие задач этих экспертов и объемов выполняемой ими работы - один пишет подробный отзыв, второй росписью на титульном листе проекта разрешает его защиту. Наконец - очная экспертиза без ограничений (для членов ГАК - государственной аттестационной комиссии). Дипломный проект оценивается коллегиально, по большинству голосов, при этом один из экспертов (научный руководитель) знает работу подробно, а остальные - в основном лишь по докладу. Отметим, что мнения экспертов учитываются с весами, а именно, мнения членов ГАК с весом 1, мнения всех остальных - с весом 0 (совещательный голос). Таким образом, имеем сочетание многотуровой и однотуровой, заочных и очных экспертиз. Подобные сочетания характерны для многих реально проводящихся экспертиз. Методы средних рангов Современная теория измерений и экспертные оценки. Как проводить анализ собранных рабочей группой ответов экспертов? Для более углубленного рассмотрения проблем экспертных оценок понадобятся некоторые понятия теории измерений , служащей основой теории экспертных оценок, прежде всего той ее части, которая связана с анализом заключений экспертов, выраженных в качественном (а не в количественном) виде. Теория измерений интересует нас, в частности, в связи с агрегированием мнений экспертов, построением обобщенных показателей (их называют также рейтингами). Получаемые от экспертов мнения часто выражены в порядковой шкале, т.е. эксперт может сказать (и обосновать), что один тип продукции будет более привлекателен для потребителей. Что один показатель качества продукции более важен, чем другой, первый технологический объект более опасен, чем второй, и т.д. Но он не в состоянии сказать, во сколько раз или на сколько более важен, соответственно, более опасен. Поэтому экспертов часто просят дать ранжировку (упорядочение) объектов экспертизы, т.е. расположить их в порядке возрастания (или, точнее, неубывания) интенсивности интересующей организаторов экспертизы характеристики. Ранжировки определяются и изучаются с помощью рангов. Ранг - это номер (объекта экспертизы) в упорядоченном ряду. Формально ранги выражаются числами 1, 2, 3, ..., но весьма важно то, что с этими числами нельзя делать привычные арифметические операции. Например, хотя 1 + 2 = 3, но нельзя утверждать, что для объекта, стоящем на третьем месте в упорядочении (в другой терминологии - ранжировке), интенсивность изучаемой характеристики равна сумме интенсивностей объектов с рангами 1 и 2. Так, один из видов экспертного оценивания оценки достижений спортсменов. Разве можно сказать, что спортсмен, занявший третье место, достиг того же, что и спортсмены, занявшие первое и второе места, вместе взятые? Поэтому очевидно, что для анализа подобного рода качественных данных необходима не обычная арифметика, а другая теория, дающая базу для разработки, изучения и применения конкретных методов расчета. Эта другая теория и есть теория измерений (ТИ). Рассмотрим в качестве примера применения результатов ТИ, касающихся средних величин в порядковой шкале, один сюжет, связанный с ранжировками и рейтингами. Сравнение на основе средних баллов. В настоящее время распространены экспертные, маркетинговые, квалиметрические, социологические и иные опросы, в которых используются балльные оценки. В таких исследованиях опрашиваемых просят выставить баллы объектам, изделиям, технологическим процессам, предприятиям, проектам. Или же заявкам на выполнение научно-исследовательских работ, идеям, проблемам, программам, политикам и т.п. Затем рассчитывают средние баллы и рассматривают их как интегральные (т.е. обобщенные, итоговые) оценки, выставленные объектам экспертизы коллективом опрошенных экспертов. Какими формулами пользоваться для вычисления средних величин? Ведь средних величин существует, как мы знаем, очень много разных видов. Обычно применяют среднее арифметическое. Специалисты по теории измерений уже более 30 лет знают, что такой способ некорректен, поскольку баллы обычно измерены в порядковой шкале. Обоснованным является использование медиан в качестве средних баллов. Однако полностью игнорировать средние арифметические нецелесообразно из-за их привычности и распространенности. Поэтому представляется рациональным использовать одновременно оба метода - и метод средних арифметических рангов (баллов), и методов медианных рангов. Такая рекомендация находится в согласии с общенаучной концепцией устойчивости, рекомендующей применять различные методы для обработки одних и тех же данных с целью выделить выводы, получаемые одновременно при всех методах. Такие выводы, видимо, соответствуют реальной действительности, в то время как заключения, меняющиеся от метода к методу, зависят от субъективизма исследователя, выбирающего метод обработки исходных экспертных оценок. Экологические экспертизы Технологии экспертных исследований достаточно сложны. Они, очевидно, не сводятся к математической обработке ответов экспертов. В качестве предметной области для рассмотрения практических проблем применения экспертных оценок рассмотрим использование в экологии методов экспертных оценок. Для таких экспертных процедур принят термин "экологические экспертизы". Система экологических экспертиз. Хорошо известно, что в экологии активно используют методы экспертных оценок. Они позволяют решать многие проблемы управления охраной природы, обеспечивая при этом сочетание отраслевого и территориального принципов. Экологической экспертизе должны подвергаться все проекты хозяйственной и иной деятельности, могущей оказывать вредное воздействие на состояние окружающей среды. Заключения экспертов опираются на материалы по оценке воздействия на окружающую природную среду (сокращенно ОВОС). Эта оценка проводится заказчиком проекта и включает анализ информации о таком воздействии, а также описание необходимых мер по охране окружающей природной среды. Оценка воздействия на окружающую природную среду производится с учетом экологического состояния окружающей среды в месте планируемого размещения объекта. Учитываются перспективы социально-экономического развития региона, мощность и виды воздействия рассматриваемого объекта на окружающую природную и антропогенную среду, а также требования действующего природоохранного законодательства. Экологические экспертизы делятся на государственные и общественные. Задачами государственной экологической экспертизы являются определение уровня экологической опасности намечаемой или осуществляемой хозяйственной, научной или иной деятельности, которая может в настоящем или будущем прямо или косвенно оказать воздействие на состояние окружающей среды и здоровье населения. Кроме того, проводится проверка соответствия проектируемой хозяйственной и иной деятельности требованиям природоохранительного законодательства, а также определяется достаточность и обоснованность предусматриваемых проектом мер по охране природы. Государственная экологическая экспертиза организуется федеральным специально уполномоченным государственным органом в области экологической экспертизы или его территориальными отделениями. Название этого органа в нашей стране время от времени меняется. Это или специальный Государственный Комитет РФ по экологии - Госкомэкология, или Министерство охраны природы, или Министерство природных ресурсов… С лета 2004 г. - Федеральная служба по экологическому, технологическому и атомному надзору. Государственная экологическая экспертиза проводится на основе принципов законности, научной обоснованности, комплексности, гласности и с учетом позиции общественности. В ней не должны участвовать лица, заинтересованные каким-либо образом в ее исходе. Для анализа правовых вопросов процедуры государственной экологической экспертизы и проверки законности проектных решений полезно участие квалифицированных юристов. Перечень объектов государственной экологической экспертизы постоянно расширяется государственными органами. Ей подвергаются не только инвестиционные проекты в промышленности. Это и проекты различных государственных планов, программ, концепций, основных направлений и схем размещения производительных сил страны и отраслей народного хозяйства, другая предплановая документация по развитию хозяйственной и иной деятельности, реализация которой может оказать воздействие на состояние окружающей среды. Это могут быть проекты инструктивно-методических и нормативно-технических документов, регламентирующих хозяйственную деятельность. Экспертизе подлежит документация по созданию новой техники, технологий, материалов и веществ, в том числе закупаемых за рубежом. Экспертизе подвергается ввозимая в Россию и вывозимая из России продукция. Целесообразно подвергать экспертизе экологическую ситуацию в регионе в целом, а не только действующие предприятия и другие объекты, оказывающие влияние на состояние окружающей среды. Важность государственной экологической экспертизы определяется тем, что реализация проекта, подлежащего экологической экспертизе, без положительного заключения государственной экологической экспертизы запрещается. Такой проект не подлежит финансированию. Последнее требование очень существенно - иначе благие пожелания и призывы экологов могут повиснуть в воздухе. Так уже произошло со многими объектами, строительство которых началось до окончательного утверждения проекта и получения комплексного заключения экспертизы. Отказ в открытии финансирования без заключения экспертизы является надежным барьером на пути любителей ставить общество и власть перед фактом - перед начатыми и проведенными работами. Не исключена возможность постановки вопроса о взыскании (в судебном порядке) затраченных средств с виновных в незаконном строительстве в случае признания его экологически вредным и небезопасным. Государственная экологическая экспертиза призвана также согласовывать интересы отраслей (фирм, предприятий) и территорий. Дело в том, что выносимый на экспертную оценку проект отражает, как правило, задачи природопользования - эксплуатацию природных ресурсов в интересах предпринимателя (хозяйствующего субъекта), даже если в качестве такового выступает государственная организация или народное хозяйство в целом. Экспертная же комиссия, включающая в основном экологов, учитывающая мнение лиц, проживающих на данной территории, или, по крайней мере, находящаяся под их активным воздействием, по сути является представителем территории. Причем территории, стремящейся к экологическому благополучию. Здесь проявляются противоречия между интересами производства, неизбежно загрязняющего окружающую природную среду, и региона, а потому часто разгораются экологические страсти. Правовое решение описанного противоречия во многом зависит от объективности и научности подходов государственной экологической экспертизы. Итак, система экологических экспертиз независимая, вневедомственная, состоящая из компетентных, не заинтересованных в ведомственности, в местничестве специалистов, оснащенная современным оборудованием, создается в регионах при комитетах охраны природы. Она набирает опыт, приобретает достойный статус, уважаемый как государственными органами, так и общественностью и предпринимателями. Заключения государственных экологических экспертиз обычно рассматриваются на коллегиях комитетов по охране природы субъектов Федерации (иногда их называют комитетами по экологии). В наиболее важных случаях, когда затрагиваются интересы нескольких субъектов Федерации - на заседании коллегии федерального специально уполномоченного государственного органа в области экологической экспертизы. Экологическую экспертизу должны проходить все без исключения проекты и программы, а по инициативе органов местного самоуправления - и ранее принятые программы. Отбор экспертов надо производить из компетентных специалистов, не связанных с заказчиками и исполнителями проектов. Следует обязательно включать в их состав экономистов, юристов, специалистов по системному анализу и теории принятия решений. При этом принципиальное значение имеют:  права граждан и общественных объединений в области государственной экологической экспертизы;  общественная экологическая экспертиза;  процедурные моменты, которые необходимо знать всем участвующим в экспертизах сторонам;  правовые гарантии при экологической экспертизе. Роль общественности в экологических экспертизах. Участие общественности является настолько важным и актуальным принципом проведения экологической экспертизы, обеспечивающим ее успешность, что заслуживает более подробного рассмотрения. В Законах Российской Федерации "Об охране окружающей среды" (от 10 января 2002 г.) и "Об экологической экспертизе" (от 23 ноября 1995 г.) указаны следующие весьма важные принципы проведения государственной экологической экспертизы, касающиеся общественности. Это принципы гласности, участия в экспертизе общественных организаций (объединений), обязательного учета общественного мнения об объектах экспертизы и др. В частности, граждане и общественные организации (объединения) имеют право:  в соответствии с законодательством выдвигать предложения о проведении государственной и общественной экологической экспертизы хозяйственной и иной деятельности, реализация которой затрагивает экологические интересы населения, проживающего на данной территории;  направлять в письменной форме органам охраны окружающей среды и природных ресурсов РФ предложения по экологическим аспектам намечаемой хозяйственной и иной деятельности (для получения требуемого эффекта эти предложения должны быть аргументированными);  получать от органов, организующих проведение государственной экологической экспертизы конкретных объектов экологической экспертизы, информацию о результатах ее проведения;  обжаловать выводы экспертной комиссии в судебном порядке (через суд или арбитражный суд);  требовать назначения государственной экологической экспертизы, выступая с изложением экологической платформы в средствах массовой информации;  рекомендовать своих представителей для участия в заседаниях экспертной комиссии государственной экологической экспертизы (с совещательным голосом) по вопросам размещения и проектирования объектов. К проведению государственной экологической экспертизы имеют отношение некоторые более общие экологические права граждан, записанные в Конституции РФ, а именно:  право требовать от соответствующих органов предоставления своевременной, полной и достоверной информации о состоянии окружающей среды и мерах по ее охране;  право ставить вопрос о привлечении к ответственности виновных должностных лиц;  право предъявлять в суде иски о возмещении вреда здоровью и имуществу граждан, причиненного экологическими правонарушениями;  право требовать в административном или судебном порядке отмены решений о размещении, строительстве или эксплуатации экологически вредных объектов, об ограничении, приостановлении, прекращении или перепрофилировании их деятельности. Для организации работы общественных организаций и граждан в области экологической экспертизы весьма важно, что согласно Закону Российской Федерации о государственной тайне от 21 июля 1993 г., к сведениям, не подлежащим засекречиванию, относятся сведения:  о чрезвычайных происшествиях и катастрофах, угрожающих безопасности и Здоровью граждан, и их последствиях, а также о стихийных бедствиях и их последствиях, а также об официальных прогнозах о их приближении;  о состоянии экологии, здравоохранения, санитарной обстановки; о фактах нарушения прав и свобод человека и гражданина, в том числе экологических;  о фактах нарушения законодательства органами государственной власти и их должностными лицами. Общественная экологическая экспертиза организуется и проводится по инициативе граждан и общественных организаций (объединений), а также по инициативе органов местного самоуправления Она организуется общественными организациями (объединениями), которые зарегистрированы в установленном законодательством РФ порядке. Основным направлением их деятельности (в соответствии с их уставами) должна являться охрана окружающей среды, в том числе организация и проведение экологических экспертиз. Таким образом, организатором общественной экологической экспертизы может быть не любая общественная организация (объединение), а только экологическая, причем зарегистрированная в соответствии с законодательством Общественная экологическая экспертиза может проводиться независимо от государственной экологической экспертизы тех же объектов. Общественные организации (объединения), осуществляющие общественную экологическую экспертизу, имеют право:  получать от заказчика экспертизы предусмотренную законом документацию, подлежащую экологической экспертизе,  знакомиться с действующей нормативно-технической документацией, устанавливающей требования к проведению государственной экологической экспертизы;  направлять своих представителей в качестве наблюдателей на заседания экспертных комиссий государственной экологической экспертизы и участвовать в проводимом ими обсуждении заключений общественной экологической экспертизы. Это тем более важно, что, согласно Закону РФ "Об охране окружающей среды" (от 10 января 2002 г.) общественная экологическая экспертиза становится юридически обязательной после утверждения ее результатов соответствующими органами государственной экологической экспертизы. Статьями 23 и 24 Закона РФ "Об экологической экспертизе" (от 23 ноября 1995 г.) установлены следующие положения, устанавливающие правовые нормы проведения общественной экологической экспертизы:  государственная регистрация заявления общественных организаций (объединений) о проведении экологической экспертизы;  порядок и сроки этой регистрации органами местного самоуправления;  форма и содержание заявления о проведении экологической экспертизы;  обязанности общественных организаций (объединений), проводящих экологическую экспертизу, связанные с извещением населения о начале ее осуществления и заключении экспертной комиссии общественной экологической экспертизы;  исчерпывающий перечень оснований, по которым может быть отказано в государственной регистрации заявления о проведении общественной экологической экспертизы. Заключение (итоговый документ) общественной экологической экспертизы направляется федеральному органу, отвечающему за государственные экологические экспертизы, и соответствующим территориальным органам, заказчику, органам, принимающим решение о реализации объектов экологической экспертизы, органам местного самоуправления, а также может передаваться другим заинтересованным лицам. Целесообразна публикация основных положений заключения в средствах массовой информации. В случае придания юридической силы заключению общественной экологической экспертизы на руководителя и членов экспертной комиссии общественной экологической экспертизы распространяются требования об ответственности за правильность и обоснованность экспертного заключения в целом и отдельных его положений. Другими словами, руководитель и члены экспертной комиссии общественной экологической экспертизы приравниваются в этом отношении к руководителю и членам экспертной комиссии государственной экологической экспертизы. Ответственность наступает в соответствии с трудовым, гражданским, административным либо уголовным законодательствами. Законами Российской Федерации "Об охране окружающей среды" от 10 января 2002 г. и "Об экологической экспертизе" от 23 ноября 1995 г. предусматриваются конкретные правонарушения в области экологической экспертизы, влекущие соответствующий вид ответственности. Значимость заключения общественной экологической экспертизы зависит от разброса мнений относительно объекта обсуждения и авторитета общественных экспертов, мотивированности доводов. Надо иметь в виду, что цели и основные приемы и принципы государственной и общественной  экспертизы совпадают. Общественная экспертиза наряду с другими задачами имеет целью привлечь внимание государственных органов к конкретному объекту, широко распространить объективную, научно обоснованную информацию об исходящей от него потенциальной экологической опасности, внедрить мысль о необходимости принятия мер по предупреждению этой опасности. Материальные основания для проведения общественной экологической экспертизы - озабоченность судьбой объекта. Процессуальными основаниями могут быть решения органов местного самоуправления, высших (съезд, конференция) или исполнительных органов общественной организации (объединения) в соответствии с компетенцией, определенной в уставе или ином основополагающем документе этой общественной организации (объединения). Начало процессу общественной экологической экспертизы могут положить решения общего собрания научного коллектива, или даже просто группы граждан, проживающих в одном поселке, квартале, на одной улице. Учитывая зависимость силы заключения общественной экологической экспертизы от авторитета участников и мотивированности доводов, очень важно обеспечить правильную процедуру экспертизы и адекватный подбор членов и председателя комиссии общественной экологической экспертизы. В принципе требования и к тому и к другому совпадают с аналогичными требованиями при проведении государственной экологической экспертизы, однако скрупулезность и тщательность выполнения этих требований имеют повышенное значение в связи с отсутствием обязательности для исполнения заключения общественной экологической экспертизы. Необходимо максимальное обеспечение гласности и доступа общественности по всем указанным выше направлениям. Состав экспертов по их научной квалификации и компетентности должен быть по уровню не ниже экспертов государственной экспертизы - иначе их доводы, даже более мотивированные, не будут должным образом восприняты. Немаловажное значение имеет тщательное выполнение всех требований, зафиксированных в нормативно-правовых и инструктивнометодических документах, регламентирующих проведение экологической экспертизы. В российских традициях - легкость отношения к их нарушениям, порой весьма многочисленным. Нередко эти требования воспринимаются как формализм, бюрократизм, а между тем они являются непременными и необходимыми - полное их соблюдение положительно влияет на качество экспертного заключения общественной экологической экспертизы. Получение мотивированного, обоснованного экспертного заключения общественной экологической экспертизы важно, но это лишь часть дела. Главное - довести это мотивированное заключение до сведения принимающих решение органов и должностных лиц, сделать его хотя и альтернативным, но равноправным, наряду с заключением государственной экологической экспертизы, мнением официальных организаций. Поэтому целесообразно довести содержание заключения общественной экологической экспертизы до сведения максимально широкого круга лиц, заинтересованных в этой проблеме. Как это можно сделать? Путем рассылки заключения, опубликования его в средствах массовой информации, организации лекций, собраний, конференций, круглых столов, дискуссий, обсуждений. Общественная экологическая экспертиза не исключает оплату работы членов и сотрудников экспертных комиссий (за счет средств муниципальных образований, местных органов власти, экологических фондов, пожертвований, иных поступлений, не запрещенных законом). Допускается и самообложение граждан, предусмотренное российским законодательством. В зарубежных странах весьма распространена практика объединения граждан для решения конкретных проблем, таких, как общественная экологическая экспертиза, приглашение юриста для консультации или выступления в суде, сбор средств исключительно для этих локальных и ограниченных по времени нужд. Общественности принадлежит весомая роль в обеспечении выполнения требований экологического законодательства. В частности, речь идет об обязательности проведения государственной экологической экспертизы в целях предотвращения загрязнения среды. Вследствие этого нередко возникают следующие вопросы. Всегда ли при наличии достаточных оснований назначается и проводится государственная экологическая экспертиза? Все ли объекты, подлежащие экспертизе, ею охвачены? Имеются ли случаи осуществления или финансирования строительства или реконструкции предприятий без экологической экспертизы, а также осуществления других проектов, хозяйственных и иных решений? Всегда ли представители контролирующих экологических органов входят в состав комиссий по приему в эксплуатацию объектов и иных сооружений, могущих оказать вредное воздействие на природную среду? Привлекаются ли к персональной ответственности за нарушение порядка приемки объектов председатель и члены приемочных комиссий? Как государственные органы реагируют на случаи финансирования предприятий, сооружений и устройств, не удовлетворяющих требованиям экологической экспертизы? Привлекаются ли к ответственности председатели и члены экологических экспертных комиссий за дачу заведомо неправильных и необоснованных заключений, возмещается ли причиненный в результате этого вред? Привлекаются ли к ответственности руководители предприятий, учреждений, организаций, другие должностные лица за невыполнение требований экологической экспертизы? Имеются ли случаи прекращения финансирования или приостановка эксплуатации предприятий, цехов, работ по их реконструкции в случаях невыполнения требований экспертизы или отсутствия проведения государственной экологической экспертизы? Задавая эти вопросы, пытаясь получить на них ответы, конструктивно участвуя в их решении, граждане и общественные организации (объединения) тем самым реализуют свои права на надлежащую окружающую среду, на экологическую гласность, на участие в оценке проектов, могущих повлиять на природное благополучие. Ответы на указанные вопросы могут даваться как через средства массовой информации, на митингах и собраниях, так и через государственные органы, депутатские запросы, наказы избирателей, правоохранительные и природоохранительные учреждения. Важно уяснить, что экологическая экспертиза - важнейшая на сегодня форма и стадия предупреждения и пресечения деградации природы, которую общественности надо держать под пристальным вниманием. В современных условиях, при существующем уровне политической, правовой культуры большинства граждан подключение их к деятельности государственной экологической экспертизы является эффективной формой воздействия на принимаемые экологические решения. Это, по-видимому, объясняется недостаточной развитостью системы оценки воздействия на окружающую среду (ОВОС). Есть и иные причины. Плохо работает связка "заказчик - общественность". Слаб контроль организаторов государственных экспертиз за полным отражением общественных слушаний и общественного мнения в пояснительных записках и иных материалах техникоэкономического обоснования (ТЭО) и проекта в целом. Весьма низки сложившийся уровень информации, гласности, навыки выражения и защиты собственного мнения - все это наращивается и формируется годами, а может быть, и десятилетиями. Характерно, что мало заключений государственных экологических экспертиз обжалуется в судебные органы - сказывается сложившееся веками отношение граждан к суду как к чему-то чужеродному, отчужденному, государственному, официальному, короче, к тому месту, которое следует избегать. Поэтому природоохранительные органы, местное самоуправление экологические объединения заинтересованы в использовании государственной экологической экспертизы для привлечения граждан, выявления их мнения, анализа их предложений, учета позиций - как для предупреждения ошибок проекта и будущих конфликтов, так и для повышения приемлемости проекта для населения, устранения недоразумений, выбора более одобряемых гражданами вариантов решений. На этапе проведения государственной экологической экспертизы общественность может, не доводя дело до принятия решения органами власти, до его обжалования в суд, отстаивать свои экологические интересы. Она может воздействовать через горизонтальные (находящиеся здесь же, на равноправных началах) или вертикальные (вышестоящие, базирующиеся в другом месте) органы на ход и организацию государственной экологической экспертизы, добиваться от них использования демократических форм совета с народом. В ряде субъектов Российской Федерации разработаны и приняты нормативные акты по вопросам государственной экологической экспертизы, предусматривающие конкретные формы привлечения к ней общественности. Так, например, согласно Закону Республики Коми "Об экологической экспертизе" от 20 октября 1992 г., предусматривается по достаточно сложным проектам обязательное составление специального документа: "Резюме, позволяющее неспециалисту в достаточной степени разобраться в сути излагаемых вопросов". Орган государственной экологической экспертизы должен опубликовать в периодических изданиях декларации об экологических последствиях с указанием организации-заказчика, ответственной за ознакомление общественности с документами и материалами, сроков, места и времени ознакомления. Упомянутый Закон Республики Коми содержит специальную статью о порядке обсуждения намечаемой заказчиком деятельности с общественностью (подобные нормы имеются и в некоторых других субъектах Федерации). Согласно этой статье Закона Коми, представители общественности вправе бесплатно знакомиться с документами и представлять в государственное экспертное учреждение свои письменные замечания и предложения. Установлен и срок для этого один месяц со дня опубликования декларации об экологических последствиях. Государственный комитет по охране природы направляет в течение недели копии этих замечании и предложений экспертам и заказчику намечаемой деятельности. Лица, представившие свои замечания, по их желанию, могут действовать анонимно. Таким образом, научные рекомендации и пожелания обретают обязательную силу и становятся правовыми нормами, обеспечиваемыми государством, должностными лицами. Это весьма важно для общественности - из области пожеланий, опыта, предложения они превращаются в требования ко всем учреждениям, предприятиям, организациям, их должностным лицам. Как отмечалось, выводы экологической экспертной комиссии могут быть обжалованы в суд или арбитражный суд. Так, например, государственная экологическая экспертиза Кемеровского областного комитета экологии выдала экспертное заключение о согласовании перекладки коксовой батареи №3 Кузнецкого металлургического комбината при выполнении некоторых условий, зафиксированных в протоколе соответствующего технического совещания. Кемеровский областной центр государственного санитарно-эпидемиологического надзора также согласовал этот проект при соблюдении аналогичных условий. Между тем происходящее на этом комбинате затрагивает интересы многих жителей Новокузнецка, так как при производстве кокса в окружающую среду поступает значительное количество химических соединении, вредных для здоровья населения, в частности, вызывающих онкологические и другие заболевания. В данном случае обжалование положительного заключения государственной экологической экспертизы осуществлялось с позиции закона. А именно, не выполнено требование Закона РФ "Об охране окружающей среды" о научной обоснованности и законности выводов экспертизы. Не обеспечены независимость и вневедомственность в организации и проведении экспертизы. Отсутствует широкая гласность и недостаточно участие общественности. Нарушено требование Закона о недопустимости согласования проектной документации при наличии какихлибо невыполненных условий. Законные требования были предъявлены в интересах государства и граждан в суд путем иска. В иске говорилось о признании незаконными выводов государственной экологической экспертизы Кемеровского областного комитета экологии по проекту перекладки коксовой батареи Кузнецкого металлургического комбината. Иск был удовлетворен. О процедуре государственной экологической экспертизы. Целесообразно остановиться на процедурных правилах экологической экспертизы. Приведем некоторые правовые нормы, показывающие, кто за что должен отвечать Правительство Российской Федерации осуществляет меры по обеспечению законов, а также прав граждан и юридических лиц в области экологической экспертизы. К ведению субъектов Российской Федерации относится делегирование экспертов для участия в качестве наблюдателей в заседаниях экспертных комиссий, информирование населения о намечаемых и проводимых экологических экспертизах и их результатах. Федеральный специально уполномоченный государственный орган в области экологической экспертизы (Госкомэкология, или Министерство охраны природы, или Министерство природных ресурсов…) и его территориальные отделения уполномочены получать бесплатно от государственных органов независимо от их принадлежности информацию, необходимую для выполнения задач в области экологической экспертизы. Они имеют доступ к находящимся в распоряжении государственных органов базам данных о состоянии окружающей среды и возможных последствиях негативного воздействия на нее хозяйственной и иной деятельности. Они имеют право и обязанность направлять в банковские организации представления о приостановлении (прекращении) финансирования, кредитования и других финансовых операций в отношении объектов экологической экспертизы, не получивших положительного заключения государственной экологической экспертизы. Их задача - предварительно информировать органы государственной власти и органы местного самоуправления о проведении заседаний экспертных комиссий государственной экологической экспертизы по объектам, реализуемым на территории соответствующих органов. Они должны организовывать информационное обеспечение государственной экологической экспертизы, в том числе формирование и ведение банков данных о намечаемой деятельности, реализации объектов экологической экспертизы и о негативном воздействии намечаемой деятельности на окружающую среду. Именно они предоставляют для ознакомления общественным объединениям, осуществляющим общественную экологическую экспертизу, нормативнотехнические документы, которые устанавливают требования к проведению экологической экспертизы. Они направляют органам местного самоуправления, общественным объединениям и гражданам, представившим аргументированные предложения, материалы о рассмотрении этих предложений при проведении государственной экологической экспертизы, информацию о заключении государственной экологической экспертизы. Они же предоставляют средствам массовой информации по их запросам сведения о результатах проведения государственной экологической экспертизы. Территориальные экологические органы обязаны своевременно информировать органы прокуратуры о нарушении законодательства РФ и законодательства субъектов РФ, готовить и направлять другим правоохранительным органам соответствующие материалы по вопросам привлечения к ответственности лиц, виновных в совершении нарушений законодательства РФ об экологической экспертизе. Ближе всех к населению находятся органы местного самоуправления, которые могут делегировать своих экспертов в качестве наблюдателей на заседаниях экспертных комиссий государственной экологической экспертизы. Причем не только по объектам, расположенным на своей территории, но и в случаях возможного воздействия на окружающую среду хозяйственной и иной деятельности, намечаемой другой административнотерриториальной единицей. Органы местного самоуправления организовывают общественные обсуждения, проводят опросы, референдумы среди населения о намечаемой хозяйственной и иной деятельности, которая подлежит экологической экспертизе. Они организовывают по требованию населения общественную экологическую экспертизу и финансируют ее проведение. Их обязанность - информировать органы прокуратуры, территориальные специально уполномоченные государственные органы в области охраны окружающей природной среды, органы государственной власти субъектов РФ о начале реализации объекта экологической экспертизы без положительного заключения государственной экологической экспертизы. Для того чтобы быть в состоянии реализовать эти полномочия, органы местного самоуправления вправе получать от соответствующих государственных органов необходимую информацию об объектах экологической экспертизы, реализация которых может оказывать воздействие на окружающую среду в пределах территории соответствующего муниципального образования и о результатах проведения государственной экологической экспертизы и общественной экологической экспертизы. В обязанности заказчиков документации, подлежащей экологической экспертизе, входит передача государственным органам экспертизы и общественным объединениям, организующим проведение экспертизы, необходимых материалов, сведений, расчетов, дополнительных разработок относительно объекта экспертизы. Кроме того, они должны оплатить проведение государственной экологической экспертизы и осуществлять намеченную деятельность исключительно в соответствии с документацией, получившей положительное заключение государственной экологической экспертизы. В Законе РФ "Об экологической экспертизе" постоянно упоминаются специально уполномоченные государственные органы в области экологической экспертизы. Федеральный специально уполномоченный государственный орган в области экологической экспертизы и его территориальные органы имеют исключительное право на проведение государственной экологической экспертизы. Они осуществляют эту функцию через свои подразделения, специализированные в области организации и проведения государственной экологической экспертизы (ст. 13 Закона РФ "Об экологической экспертизе" от 23 ноября 1995 г.). Не следует смешивать государственную и общественную экологическую экспертизы с иными смежными мероприятиями, не обладающими описанными правовыми статусами: экологическими исследованиями, научными оценками и т.п., имеющими нередко те же цели, но не обеспечиваемыми соответствующими нормами права. Чем обеспечиваются гарантии качества проведения государственной экологической экспертизы? В представляемую на экспертизу документацию, подготовленную заказчиком и разработчиком проекта или документа, должны быть включены материалы оценки воздействия на окружающую среду хозяйственной и иной деятельности. Требуются также положительные заключения и документы о согласовании от органов федерального надзора и контроля и органов местного самоуправления. Кроме того, необходимы и материалы обсуждений объектов с гражданами и общественными организациями (объединениями), организованных органами местного самоуправления. Повторное проведение государственной экологической экспертизы осуществляется на основании решения суда или арбитражного суда. Эксперт государственной экологической экспертизы обязан участвовать в подготовке материалов, обосновывающих учет при проведении государственной экспертизы заключения общественной экспертизы, а также поступивших от органов местного самоуправления, общественных организаций (объединений) и граждан аргументированных предложений по экологическим аспектам рассматриваемой деятельности. Он имеет право заявлять о необходимости представления заказчиком на экспертизу дополнительных материалов для всесторонней и объективной оценки объектов, формулировать свое особое мнение по объекту экологической экспертизы. Заключение государственной экологической экспертизы - это документ, содержащий обоснованные выводы о допустимости воздействия на окружающую среду хозяйственной или иной деятельности и о возможности реализации объекта экспертизы. Он должен быть одобрен квалифицированным большинством списочного состава экспертной комиссии (более двух третей экспертов от списочного состава). Утверждение заключения экспертной комиссии специально уполномоченным государственным органом в области экологической экспертизы означает подтверждение последним соответствия порядка проведения экспертизы требованиям законов Российской Федерации и законов ее субъектов. После этого утверждения заключение государственной экологической экспертизы обретает правовую силу, в частности, на его основе банкам может быть разрешено (при положительном заключении) или запрещено (при отрицательном заключении) финансирование реализации объекта экологической экспертизы. Рассмотрим некоторые правовые гарантии обеспечения требований к экологической экспертизе, способствующие защите экологических прав граждан. Законом Российской Федерации "Об охране окружающей среды" от 10 января 2002 г. предусматривается обязанность государства гарантировать экологическим и иным общественным организациям (объединениям), выполняющим экологические функции, а также отдельным гражданам возможность реализации предоставленных им прав в области охраны окружающей среды. Государственные органы и их должностные лица обязаны оказывать всемерное содействие общественным организациям (объединениям) и гражданам в реализации их экологических прав и обязанностей, принимать необходимые меры по выполнению их предложений, связанных с организацией правоохранительной деятельности. Должностные лица и граждане, препятствующие выполнению общественными организациями (объединениями) и гражданами их экологических прав и обязанностей, вытекающих из Конституции Российской Федерации и законов РФ, относящихся к экологическому праву, привлекаются к ответственности. В частности, согласно Закону РФ "Об охране окружающей среды" от 10 января 2002 г. должностные лица и граждане, предприятия, учреждения, организации, виновные в невыполнении обязанностей по проведению государственной экологической экспертизы и требований, содержащихся в заключениях экологической экспертизы, подлежат наказанию. Ответственность наступает также при предоставлении заведомо неправильных и необоснованных экспертных заключений, несвоевременной или искаженной информации, при отказе от предоставления своевременной, полной, достоверной информации о состоянии природной среды и радиационной обстановки. Обычно физические и юридические лица подвергаются штрафу, налагаемому в административном порядке. Наказание гражданам - до десятикратного размера минимальной заработной платы, должностным лицам - до двадцатикратного. Законом Российской Федерации "Об экологической экспертизе" от 23 ноября 1995 г. предусматривается большое количество норм, обеспечивающих организацию и проведение экологической экспертизы, защиту прав граждан. Значительное внимание уделяется ответственности за нарушение законодательства как одному из средств гарантий качества экологической экспертизы с целью обеспечения надлежащей окружающей среды. Экологическое право постепенно развивается, виды экологических правонарушений конкретизируются, санкции к виновным ужесточаются. Так, правонарушениями со стороны заказчика и других заинтересованных лиц со дня опубликования Закона РФ "Об экологической экспертизе" считаются фальсификация материалов, сведений и данных, представляемых на экологическую экспертизу, а также сведений о результатах ее проведения. Правонарушением является принуждение эксперта к подготовке заведомо ложного заключения; создание препятствий организации и проведению экологической экспертизы. Недопустимо уклонение от представления государственным органам экспертизы и общественным организациям (объединениям), организующим и проводящим экологическую экспертизу, необходимых материалов, введений и данных. Запрещается осуществление хозяйственной и иной деятельности, не соответствующей документации, которая получила положительное заключение государственной экологической экспертизы. Нарушением со стороны руководителей государственных органов экспертизы и экспертных комиссий признается необоснованность материалов по учету выводов общественной экологической экспертизы и поступивших от органов местного самоуправления, общественных организаций (объединений), граждан аргументированных предложений по экологическим аспектам хозяйственной и иной экспортируемой деятельности. Недопустимо нарушение установленного порядка расходования перечисленных заказчиком средств на проведение государственной экологической экспертизы. Заключение Руководители и члены экспертной комиссии несут ответственность за фальсификацию выводов заключения экологической экспертизы, за сокрытие от органов государственной экологической экспертизы или от общественного объединения, организующих проведение экологической экспертизы, сведений, отражающих заинтересованность в результатах экспертизы. Так, экспертом не может быть представитель заказчика или разработчика, гражданин, состоящий в трудовых или договорных отношениях с ними, представитель юридического лица, состоящего с заказчиком или разработчиком объекта экологической экспертизы в договорных отношениях. Конкретные методы сбора и анализа экспертных оценок не рассматриваются в проанализированных законах. Эти методы содержатся в нормативно-технических и инструктивно-методических материалах органов, руководящих проведением экологических экспертиз. Общие методы организации и проведения экспертных исследований получили имеющую правовую силу конкретизацию в конкретной области - экологических экспертизах. В других крупных областях применения экспертных оценок при оценке качества, при проведении врачебно-трудовой экспертизе и др. действуют свои нормативные акты.