Методы подбора и работы экспертов

Для упорядочения опроса экспертов наибольшее значение имеют две основные методические проблемы всякой экспертизы: 1) подбор экспертов; 2) оптимизация процедуры их работы.

Во-первых, эксперт — если он специалист, от которого ждут прогнозных оценок, — не должен являться лицом, принимающим ре­шение на основе полученной информации. Он может быть только советником того, кто берет на себя ответственность за постановку цели, план, программу, проект, вообще за любые решения. В против­ном случае возникает соблазн «подчинения» экспертизы заранее запланированному решению, прикрытия воли руководителя ссылкой на «мнение экспертов». Правда, на практике руководители, ответ­ственные за решения, выступают порой в роли экспертов и даже возглавляют экспертные группы. Но это нарушение методических требований, расплатой за которое является, как правило, получение пссвдопрогнозов.

Во-вторых, не каждый специалист — даже весьма авторитетный в своей области — годится для работы в экспертной группе, тем более для целей социального прогнозирования. Некоторые из них при обширных знаниях не обладают качествами, необходимыми для члена экспертной группы, не способны давать адекватные оценки и могут лишь дезорганизовать работу, особенно при очных опросах. Опытом выработаны сложные приемы отбора экспертов. Строгое следование процедуре таких приемов обязательно для каждого организатора ис­следования. Более того, в миоготуровых экспертных опросах необхо­димы тщательный анализ ответов и исключение экспертов, ответы которых свидетельствуют об их некомпетентности.

Первый критерий отбора экспертов — степень компетентности эксперта. Возникает вопрос: чем ее измерить? Большей частью ори­ентируются на наиболее «простые» показатели — ученая степень или звание, стаж работы по специальности. Но оба показателя не всегда являются мерилом компетентности. Поэтому приходится прибегать к дополнительным показателям — служебное положение, число опубликованных работ, число ссылок на эти работы в литературе, оценка работ научной общественностью и др. Встает проблема комплексности показателей компетентности эксперта.

Второй критерий отбора экспертов тесно связан с первым. Он предполагает, что эксперт знает «последнее слово» современной науки и практики в тех областях, которые являются предметом экспертизы. Здесь важен качественный анализ научной или практической деятель­ности эксперта и его трудов.

Третий компонент отбора — оптимальное сочетание узкой спе­циализации и общего кругозора эксперта. Для этого опять-таки необ­ходим качественный анализ деятельности и научных трудов эксперта.

Четвертый критерий отбора — оптимальное сочетание индивиду­альных качеств экспертов как научных или практических работников. Сюда относятся способности эксперта к анализу и синтезу изучаемых проблем, к объективной всесторонней оценке проблемы без чрезмер­ного уклона в сторону оптимистических либо пессимистических отве­тов по чисто психологическим мотивам, устойчивость его научных взглядов, но вместе с тем достаточная гибкость мышления, способ­ность изменить точку зрения под влиянием новых фактов и аргумен­тов, умение перерабатывать, усваивать и формировать качественно новую научную информацию.

Пятый критерий отбора — высокие моральные качества экспер­та. Этот критерий очень сложен. Ясно, однако, что без должного морального уровня эксперта остальные его качества могут оказаться бесполезными, способными лишь увеличить опасность получения псевдопрогноза.

В то же время неверно полагать, будто опросу экспертов не присущи недостатки, которые свойственны массовым опросам населе­ния. Эксперт не лишен обычных человеческих слабостей, в частности на то или иное его суждение могут влиять определенные стереотипы мышления. Последние часто играют позитивную роль, но при столк­новении с качественно новой информацией (обычно в ситуации прогнозирования) иногда мешают давать надежные оценки, рекомендации. Очевидно, особенно ценен эксперт, обладающий способностью пре­одолеть сложившиеся взгляды, по-новому смотреть на проблему, вы­сказать оригинальное, самостоятельное суждение.

В специальной литературе по экспертным оценкам давно уже выработан тип «идеального» эксперта, способного решать творческие задачи, видеть и формировать неочевидные проблемы, интуитивно делать верные заключения, предусматривать возможные изменения состояния исследуемого объекта, обладающего независимостью суж­дений и умением видеть проблему с различных точек зрения.[207]

Очевидно, что подобрать эксперта и тем более группу экспертов, обладающих такими способностями, трудно. Приходится заботиться, чтобы перечисленные качества относились хотя бы ко всей группе в целом, И здесь возникает ряд проблем психологии коллективного творчества: в первую очередь необходимость, чтобы члены экспертной группы в психологическом отношении были максимально приемлемы друг для друга.

Экспертная группа не может быть слишком многочисленной. Опыт показал, что за известными пределами увеличение числа экс­пертов не даст существенного прироста новой информации ни в де­талях, ни, главное, по качеству. Необходимость ограничения числен­ности экспертной группы выдвигает дополнительные методические требования к подбору экспертов. (На практике численность экспертной группы большей частью составляет примерно 5-7, максимально 10-15 человек при очных опросах и 20-30, максимально 60-80 человек при заочных опросах, в зависимости от характера экспертизы.) Требуется разумное сочетание экспертов различного возраста, темперамента, раз­личных научных школ, ведомственной принадлежности.

Методы отбора экспертов сводятся к двум основным подходам: объективному и субъективному. Первый предполагает использование организаторами исследования специальных методик отбора, второй — привлечение к процедуре отбора самих потенциальных экспертов либо научной общественности, из среды которой они отбираются.

Объективный подход имеет, в свою очередь, 2 варианта: докумен­тальный и экспериментальный. Первый предусматривает подбор экс­пертов на основе социально-демографических данных (ученая степень, звание, должность, стаж работы по специальности и в области, свя­занной с предметом исследования, число опубликованных работ и число ссылок на них в научной литературе, участие в специализиро­ванных советах, комиссиях, симпозиумах). В комплектовании групп экспертов могут учитываться также, пол, возраст и другие социально-демографические показатели. Экспериментальный метод проводится на основе испытания, тестирования кандидата в эксперты либо по результатам эффективности его прежней экспертной деятельности. Оба методических приема требуют большой деликатности по отношению к будущему эксперту. Так, тестирование не всегда приемлемо с эти­ческой точки зрения. Да и сами тесты пока еще оставляют желать лучшего. Проверка же эффективности рекомендаций кандидата по опыту его прежней работы фактически означает неформальную аттес­тацию специалиста. Поэтому оба приема должны носить, скорее, вспо­могательный характер, применяться в сочетании с документальным подходом и другими приемами.

Субъективный подход также распадается на несколько приемов. Один из них — аттестация, когда подбор экспертов осуществляется с помощью открытого или тайного голосования потенциальных членов будущей экспертной группы, с отводом тех из них, кто не набрал определенного минимума голосов. Здесь могут использоваться мето­дики с расширяющимися кругами экспертов в несколько туров. В первом туре круг экспертов составляет списки кандидатов в эксперты. Туры повторяются до тех пор, пока состав кандидатов в эксперты не стабилизируется. Затем проводится расчет коэффициентов компетент­ности экспертов в зависимости от числа включений в списки. Сам по себе этот прием достаточно эффективен, но лишь при условии, если члены будущей группы хорошо знают друг друга и обладают высокой научной добросовестностью. В противном случае возникает опасность отвода по случайным, непринципиальным мотивам, поэтому полагать­ся только на один этот прием нецелесообразно.

Другой прием — метод взаимной оценки будущих экспертов (в баллах или ранжированием) — является по существу разновидностью первого со всеми его особенностями и ограничениями.

Третий прием — метод самооценки степени компетентности и объективности. Отвечая на вопросы, кандидаты оценивают свою ос­ведомленность, эрудицию в области предмета исследования, критич­ность своих оценок по определенной шкале (либо косвенные сведения например о каналах используемой информации, об объеме и характере изученной информации, о собственном вкладе в исследование изучае­мой проблемы). В последующем может производиться расчет средних значений каждого кандидата и суммарная сфера компетентности экс­пертов. Здесь, правда, имеется опасность неадекватности данных в виде завышенных самооценок. Но практика показывает, что серьезные эксперты, напротив, склонны несколько занижать самооценки и стре­мятся не принимать участие в экспертизах, выходящих за рамки их научных интересов.

Сказанное приводит к выводу, что ни один из перечисленных методов и приемов не может служить «универсальной отмычкой» в решении вопроса об отборе экспертов и что методика такого отбора должна базироваться на сочетании различных приемов.

Перейдем к следующей методической проблеме — процедуре ра­боты экспертов.

На практике применяются различные процедуры. Различие между ними сводится в основном к следующим аспектам:

1) характер контактов экспертов друг с другом (анонимный или нет);

2) «обратная связь» в работе экспертов (наличие или отсутствие возможности самообучения в процессе экспертизы).

В соответствии с первым аспектом различаются очные и заочные (как правило, анонимные), в соответствии со вторым — одноразовые и многоразовые (в несколько туров) опросы.

Одна из главных разновидностей очного (и, как правило, однора­зового) опроса[208] — «мозговая атака»[209], или «коллективная генерация идей». В основе этой методики лежит организация коллективного обсуждения проблемы таким образом, чтобы стимулировать творчес­кую активность экспертов, обеспечить их взаимное влияние друг на друга, вызвать своеобразную «цепную реакцию идей» и добиться по­лучения качественно новой информации. В принципе «мозговая атака» широко применяется при решении любого типа проблем. Ее можно использовать в науке, технике, торговле, при решении социально-эко­номических проблем и проблем межличностных отношений. Резуль­таты мозговой атаки оказывают влияние на развитие личных качеств членов «мозгоатакующсго» коллектива. Но особое значение она имеет в социальном прогнозировании, где необходима качественно новая информация.

При проведении «мозгоатакующего» совещания обычно обраща­ют внимание на 4 основных правила:

1) критика исключена, единственной задачей является выдвиже­ние идей;

2) свободные ассоциации приветствуются; чем смелее и необыч­нее замысел, тем лучше; надо высказать все появившиеся идеи;

3) важно множество замыслов; чем больше замыслов, тем больше вероятность их использования (доказано, что количество замыслов рождает их качество);

4) комбинирование и улучшение замыслов желательно; участники совещания должны взаимно улучшать, комбинировать и направлять замыслы остальных; замыслы других могут быть использованы как «трамплин» для замыслов индивида; замыслы индивида являются, как правило, комбинацией замыслов других членов коллектива.

Ключевое звено такой организации работы экспертов — катего­рический запрет на критику любого мнения, оценки, рекомендации, высказанных во время заседания экспертов, какое бы негативное впе­чатление на первый взгляд они ни производили. Напротив, требуется развитие высказанной партнером мысли независимо от своего перво­начального отношения к ней, поиск альтернативных решений, выяв­ление принципиально новых подходов и т.п. Иными словами, меха­низм обратной связи, обеспечивающий самообучение экспертов, откры­вается только в одном направлении — поиске оптимального решения поставленной проблемы путем соревнования, конкуренции идей. Ни­какая альтернатива не будет предложена, если нет уверенности в том, что она будет принята и рассмотрена. Как раз большинство хороших замыслов утрачиваются из-за недоверия к себе, повышенной боязни критики и неадекватной оценки вероятности принятия предложения, вследствие чего члены коллектива вообще не предлагают эти идеи.

Поэтому создание атмосферы, в которой вообще недопустимы какие-либо отрицательные оценки или критические высказывания, спо­собствует появлению альтернатив.

На этом первом этапе все предложения принимаются доброжела­тельно. Возможность личных нападок, сведения «личных счетов» и «отбрасывания» идей после первых критических замечаний в этих условиях исключается.

Когда каждый член коллектива своими замыслами способствует появлению различных ассоциаций у всех остальных членов группы, все предложенные идеи считаются достоянием всего коллектива, а при окончательном выборе решения за него отвечает весь коллектив.

«Мозгоатакующее» совещание никогда не должно носить фор­мальный характер. Единственным формальным моментом является запись и фиксация количества мыслей. Совещание ведется в форме дружеской беседы. Шутливые предложения по решению проблемы тоже записываются.

Примерная продолжительность совещания не более 1, 5-2 часов (учитывается крайняя напряженность умственного труда экспертов при такой организации работы). После первого часа интенсивной мозговой атаки большинство участвующих в совещании устают и думают, что они уже не способны что-либо предложить. Однако совещание следует продолжить. В заключительной части совещания у членов коллектива возникают обычно 2-3 наиболее оригинальные идеи. Новые и оригинальные мысли возникают тогда, когда кажется, что исчерпаны все мысли и ассоциации.

На второй или третий день после «мозгоатакующего» совещания созывается следующее совещание, которое должно из множества пред­ложенных мыслей выбрать наилучшие и решить, какие из них можно реализовать.

В новом совещании принимают участие те, кто не участвовал в «мозговой атаке». Оптимальное число участвующих в этом совещании 5-7 человек.

После проведения экспериментов и окончательньк испытаний используется примерно 10% предложенных мыслей.

Здесь вряд ли уместно подробное описание самой методики, до­вольно детально представленной в научной литературе и к тому же постоянно совершенствуемой. Достаточно указать, что в принципе все процедуры этого класса делятся на простые и управляемые.

Первые подразумевают спонтанную дискуссию по поставленной проблеме, что имеет эвристическую ценность само по себе и, кроме того, методически несложно, требует меньше времени и средств на подготовку, проведение и обработку материалов сессии. Однако при большой сложности проблем (характерных, в частности, для социоло­гического прогнозирования) такая процедура может оказаться недо­статочно эффективной из-за стихийного отклонения экспертов в сто­рону от поставленной проблемы, высказываний не по существу. В этих случаях целесообразно пойти на затрату дополнительных усилий для организации управляемой процедуры.

Данная процедура подразумевает заблаговременное четкое распре­деление ролей между экспертами согласно их способностям и функ­циональному назначению, чтобы держать процесс коллективной гене­рации идей на должном уровне. Один из ведущих экспертов назнача­ется руководителем (председателем), «президентом круглого стола», удерживающим внимание экспертов на центральной теме дискуссии. В качестве «президента» может выступать сам организатор исследо­вания. В его обязанности входит постановка проблемы и обеспечения подготовки, проведения и обработки материалов совещания. Кроме того, он является высшей инстанцией, арбитром, к которому можно апеллировать при возникновении каких-либо недоразумений. Иногда дискуссию начинает специально выделенный докладчик, который за­остряет поставленную проблему таким образом, чтобы вызвать воз­можно более энергичную реакцию участников дискуссии, но чаше это входит в обязанности председателя.

Затем слово предоставляется экспертам-аналитикам, раскрываю­щим современное состояние и тенденции исследований по поставлен­ной проблеме. Далее в дело вступает центральное звено — эксперты-генераторы, отличающиеся способностью высказывать нетривиальные, оригинальные идеи. Их сменяют эксперты-регуляторы, в задачу кото­рых входит «приглушение», «притормаживание» обсуждения явно слу­чайных иди не относящихся к делу идей с целью возвращения дис­куссии в намеченное русло, чтобы полемика проходила в рамках объективного обсуждения и не переходила в русло взаимной оценки компетентности друг друга.

Им на смену приходят эксперты-стимуляторы, стремящиеся ожи­вить «заглохшие» почему-либо конструктивные идеи. Возможно по­вторное предоставление слова генераторам и другим экспертам. Нако­нец, можно выделить группу экспертов-селекторов, которые (жела­тельно уже после завершения беседы) оценивают высказанные пред­ложения, идеи, рекомендации, отбирают наиболее конструктивные из них и дают свободу руководителю, который подводит итоги.

Помимо перечисленных участников сессии к ним следует доба­вить экспертов-методистов, ответственных за подготовку, проведение и обработку материалов дискуссии с соблюдением необходимых ме­тодических требований, а также работников группы обеспечения, от­вечающих за техническую сторону дела. Оптимальное число экспертов в очном опросе за «круглым столом» 20-25 человек. Однако число участников дискуссии на практике большей частью не превышает 5-10 человек, поэтому некоторые эксперты выполняют несколько функций. Председателю приходится одновременно исполнять обязанности до­кладчика, аналитика, а иногда и селектора. Эксперт-генератор высту­пает также в роли стимулятора, эксперт-регулятор в роли селектора и т. д. Это предъявляет исключительно жесткие требования к отбору каждого члена экспертной группы, максимальному учету его способ­ностей и недостатков. Поскольку общая продолжительность сессии не должна превышать 1, 5-2 часов, то необходим предельно жесткий рег­ламент (не более 2-3 минут на выступление) и строжайшая дисциплина дискуссии.

Другая разновидность очного опроса экспертов — «традиционная дискуссия», или «метод комиссии», — обычный обмен мнениями, в ходе которого каждый участник имеет право задавать вопросы высту­пающему, критиковать или поддерживать любую точку зрения, сам выступать неограниченное число раз, изменять или уточнять свою точку зрения с учетом полученной им новой информации. Конечно, такая процедура отнимает сравнительно много времени, особенно при «традиционном» регламенте 10-20 минут для каждого выступления, и имеет относительно низкий «к.п.д.». Но у нее есть и сильные стороны. Она обеспечивает мгновенную обратную связь и быстрое самообучение экспертов, вызывает соревнование между ними, позво­ляет подкреплять рациональные доводы эмоциональным воздействием, способствует быстрому преодолению возникающего иногда «взаимо­непонимания» экспертов. А, главное — она привычна, проста, не тре­бует специальной подготовки и организации.

Опыт показывает, что «традиционная дискуссия» сравнительно эффективна только при условии, если поставленная проблема хорошо знакома всем или, по крайней мере, подавляющему большинству участ­ников. В противном случае полагаться на ее результаты нецелесооб­разно.

Недостатки метода «традиционной дискуссии» вызвали к жизни третью разновидность очного опроса экспертов — «метод отнесенной оценки», еще один вариант управляемой процедуры опроса. Данная процедура используется для того, чтобы в сжатые сроки получить согласованное мнение по какой-то конкретной проблеме. В основу кладется процедура итерации, т.е. в данном случае повторение не­скольких циклов дискуссии с выявлением сущности наметившихся разногласий и постепенной выработки единого мнения всех или боль­шинства участников экспертизы, с оставлением за несогласными права на частное заключение. Такая процедура требует детально разработан­ного сценария обсуждения, в котором необходимо запрограммировать направленность дискуссии, распределение внимания в отношении от­дельных вопросов, регламент выступлений, логику обсуждения с уче­том цели и задач экспертизы и т.п. В отличие от «мозговой атаки» целенаправляющее воздействие председателя на ход и исход дискуссии осуществляется открыто. Существует еще несколько разновидностей очного опроса экспертов, но все они могут трактоваться как модифи­кация перечисленных трех.

Теперь о заочном виде экспертного опроса. Простейшая разно­видность заочного опроса экспертов — разовый анонимный опрос, ничем в принципе не отличающийся от опроса населения, сравнитель­но простой (ввиду небольшого числа респондентов) и поэтому наибо­лее распространенный. Его существенный недостаток, как и при «тра­диционной дискуссии», — низкий «к.п.д.»,

Этот недостаток, как и при очном опросе экспертов, породил заочный вариант «метода отнесенной оценки» — «дельфийскую тех­нику», «метод эвристического прогнозирования» (название данной техники прогноза заимствовано от названия древнегреческого города Дельфы, получившего известность еще до нашей эры как центр пред­сказаний оракулов). В основу этой методики положена идея о потенциальной возможности самообучения экспертов при проведении заоч­ного опроса в несколько туров. Гарантируется соблюдение аноним­ности респондентов (во избежание «давления авторитетов» и опасения за свою репутацию в случае «неожиданных» ответов). Респондентам предоставляется возможность знакомиться с материалами предыдуще­го тура и последовательно уточнять свои оценки по мере изучения новых аргументов.

«Дельфийская техника» помогает экспертам избавиться от сковы­вающего их фактора (мнения лидеров научного направления, господ­ствующие взгляды большинства, эмоциональное воздействие оппонен­тов, затруднительность публичного отказа от ранее высказанного мне­ния и т.п.) и вместе с тем сохранить ценную возможность не только высказывать оригинальные суждения, но и менять их с учетом новой информации без риска для своей репутации. Эксперты заполняют ано­нимные анкеты или подключаются непосредственно к работе с ЭВМ, что повышает скорость опроса при сохранении анонимности. После 1-го тура эксперты знакомятся с итоговыми характеристиками позиции группы в целом. Во 2-м туре они получают возможность либо сблизить свое мнение с позицией большинства (если это необходимо), либо изучить и обсудить причину отклонения. В 3-м туре новая информация откры­вает возможность еще раз пересмотреть точки зрения.

Это не значит, конечно, что частные заключения меньшинства или одиночек не должны приниматься во внимание. Напротив, их стоит исследовать особенно тщательным образом. Но для рекоменда­ций в сфере планирования и управления прежде всего важны макси­мально надежные оценки. В этом отношении согласованное мнение большой группы первоклассных экспертов имеет большое значение. Не случайно поэтому «дельфийская техника», несмотря на сложность подготовки, проведения и обработки результатов опроса, несмотря на сравнительно большие затраты времени и средств, получила значи­тельное распространение. По масштабам применения во многих стра­нах она оказалась в первой пятерке наиболее «популярных» методов социального прогнозирования.

Следует отметить, что в последние годы получили значительное распространение упрощенные вариации «дельфийской техники» («мини-дельфи»), позволяющие собрать экспертные оценки по 2-3 турам за несколько дней или даже часов. Особенно упрощается техника сбора оценок при непосредственном подключении экспертов к работе с ЭВМ. Насчитывается еще несколько разновидностей заочных опросов экспертов, но все они занимают то или иное промежуточное положе­ние между простейшим разовым анкетированием и сложившейся «дельфийской техникой».

Эффективность экспертных опросов вызвала усиление тенденции к усложнению задач экспертов, к превращению опроса в особую раз­новидность многоэтапного исследования, в ходе которого экспертам предлагается решать все более сложные проблемы типа уточнения прогностических сценариев, матриц, графов, различных видов моде­лей, построения «дерева проблем» и «дерева целей» и т.д. В резуль­тате эксперт вынужден отходить от чисто интуитивной деятельности, активнее заниматься логическим анализом поставленной проблемы. Методы опроса постепенно теряют свой исключительно интуитивный характер, органичнее включаются в сложные системы комплексных методик прогнозирования.

Так, одна из американских систем прогнозирования (ПАТТЕРН) побуждала экспертов принимать участие в составлении сценария, ха­рактеризующего тенденции развития объекта прогнозирования, давать оценку различным альтернативам дальнейшего развития, участвовать в построении «дерева целей», устанавливать иерархию задач, требую­щих разрешения для достижения главной цели (скажем, приписать каждой цели коэффициент значимости, определить степень важности, полезности, стоимости различных средств достижения той или иной цели).[210]

Итак, мы показали методологические и методические особенности основных методов прикладного социологического исследования инно­вационного типа, которые положены в основу широко разрабатывае­мого сейчас социального проектирования. Это прежде всего методы моделирования, экспериментирования и экспертизы социальных явле­ний. Мы стремились обосновать, что все эти методы взаимосвязаны, неразделимы и подчинены единой методологической посылке. В част­ности, моделирование, на наш взгляд, есть процесс восхождения от абстрактного к конкретному, а содержание модели воплощает в себе единство теоретического и эмпирического уровней, конкретно-истори­ческого и типологического подходов, субъективного и объективного в функционировании и развитии объекта в сфере управления и пла­нирования, Отсюда методологические особенности мысленной (иде­альной) модели в модельном (теоретическом) и натурном эксперимен­те. В свою очередь, социальный эксперимент также представляет собой противоречивую систему «производства» и «потребления» социологи­ческого знания, теоретического и эмпирического мышления, анализа и синтеза, идеального и материального и др. Одним из эффективных методов практической деятельности социолога, обеспечивающих комплексную разработку предложений и ускорение их внедрения в прак­тику социального управления и планирования, являются метод экс­пертных оценок и его разновидности (коллективная генерация идей, «мозговая атака», «дельфийская техника», деловые игры и т. д.), а также метод социального анализа.

Социальный анализ (как завершение экономического), в конечном счете, призван оценить реализацию экономических результатов дея­тельности предприятия в социальном развитии коллектива. Речь идет о внедрении в практику социального управления и планирования но­вого, собственно прикладного анализа сложных процессов и механиз­мов социальной жизни, который позволит превратить социальный про­ект или план из суммы планов и проектов по отдельным сферам социальной жизни трудового коллектива в план-систему, в эффектив­ную систему практических мероприятий.

ЛИТЕРАТУРА

1. Литвак Б.Г. Экспертная информация. М., 1982.

2. Масленников Е.В. Эксперт в социологическом исследовании. // Вестник МГУ. Сер. Социология и политология 1995. № 4.

3. Масленников Е.М. Метод интеграции концепций экспертов в социологическом исследовании. М., 1992.

4. Макаревич В.П. Игровые методы в социологии: концепция, содержание, сим­волы. / Пер. с англ. М., 1993.

5. Прогнозирование в социологических исследованиях. / Отв. ред. И.В. Бесту­жев-Лада, М., 1978.

6. Osborn A.F. Applied Imagination. New York, 1960.

7. Шошин П.Б. Метод экспертных оценок. М., 1987.