ТрВ-Наука продолжает публиковать развернутые мнения ученых о первом конкурсе Российского научного фонда по проведению фундаментальных и поисковых исследований отдельными научными группами.
Получилось совершенно как всегда, по крайней мере в части химии и наук о материалах. Среди поддержанных есть достойные руководители проектов, но их не сразу заметишь на фоне привычного химического политбюро. Наиболее одиозные личности видны по названиям проектов в стиле «Создание <разработка> научных <физико-химических> основ…». Не столь явно одиозные, а также директорско-академические приближенные заметны по более тонким признакам. Особенно впечатляют ИОНХ и ИФХЭ. Как будто звонили директорам и спрашивали — кого изволите поддержать? А может, интуитивно угадали, или просто дурная привычка. Эти нюансы, впрочем, не существенны в разговоре об экспертизе, решающей две задачи: чтобы ни один недостойный проект не оказался поддержан, а ни один достойный не был отвергнут. Иное есть нарушение профессиональной морали и нецелевое расходование госсредств.
Мне ужасно стыдно. Я лично виновата в том, что получилось в результате первого конкурса РНФ, и столь же лично виноваты все эксперты и члены экспертного совета. Никто ведь не завопил своевременно о том, что уже в первых конкурсах РНФ допущено грубейшее нарушение зафиксированного в документах порядка экспертизы. Или, может быть, кто-то вопил шепотом.
…Какими мы были наивными…
Надо было, черт возьми, до последнего слова читать все бумаги — какими бы бюрократическими они ни были. Если бы я с самого начала, несмотря на свалившуюся гору проектов и срок в 2 недели, внимательно читала документ «Порядок проведения экспертизы научных, научно-технических программ и проектов, представленных на конкурс российского научного фонда» [1] … Там в п.12 написано «…В оценках экспертов Фонда используется балльная система». А в экспертных анкетах не было никаких баллов — лишь предоставлялась возможность выбрать тот или иной заранее фиксированный вариант ответа. Довольно часто ни один из предлагаемых вариантов не соответствовал ситуации, и приходилось в текстовых окнах писать комментарий. И откуда в моем возрасте такая наивность? — думала, что раз просят написать про каждый пункт «до 1 страницы», то написанное как-то учтут… Об эквивалентности выбранных пунктов тому или иному числу баллов и об учете в балльной оценке комментариев (часто вынужденных) я спросила только в конце мая, направив на безликие адреса @rscf.ru довольно обширное письмо с разбором недостатков анкет двух первых конкурсов.
Даже получение этого письма до сих пор не подтвердили, несмотря на повторную его отправку. Зато прислали на экспертизу проект третьего конкурса — пришлось от него отказаться и воспользоваться окошком для объяснения причин отказа, чтобы в очередной раз попросить ответить на вопросы…
Кто бы ни ставил баллы за экспертов — человек или автомат, — нарушение совершенно очевидно, и все мы его прошляпили.
Коды есть — а координаторов-то нет
С экспертами взаимодействует какой-то коллективный разум, явно не развившийся еще до уровня ответов на нестандартные вопросы. Или просто автомат (технически, следует признать, сделанный очень прилично). И пытается назначать экспертов путем сопоставления кодов проектов и экспертов. А коды — из классификатора РНФ, каковой есть откровенная компиляция на основе далеко не современных источников. Степень дробности для разных разделов совершенно разная, ряд формулировок допускает двойное толкование.
В физической химии (03-400) образовались совершенно немыслимые сочетания «03-405 Наноструктуры и кластеры. Супрамолекулярная химия. Коллоидные системы» или «03-406 Химическая термодинамика. Физическая химия поверхности и межфазных границ. Адсорбция». При моторном способе подбора адекватные эксперты отказываются от многих предложенных им проектов из-за несовпадения специализации, а неадекватные эксперты лихо рецензируют какие угодно проекты в сжатые сроки.
Физической химии еще, пожалуй, повезло — пусть устройство ее не понято, но хоть право на существование признано. А вот, например, атомной физики в классификаторе вовсе нет- хотя в России она очень даже есть, и во всем мире является сейчас бурно развивающейся областью, с регулярными нобелевскими результатами. Такие пенки получаются, если свой экспертный совет фонд собирает по статусным признакам, а не по очевидному принципу равномерной представительности специализаций. Но там же есть, среди статусных, вполне достойные профессионалы… что б им не пригласить профильных координаторов для разбора завалов?
Google как инструмент научной экспертизы
Анкета эксперта включает подпункты, выбор которых в принципе невозможен на основании сведений из заявки. Ответы требуют в буквальном смысле следственно-разыскной работы. Даже тщательный эксперт далеко не всегда может найти нужную информацию в открытых источниках. В то же время невозможно просто пропустить какой-либо пункт: чтобы завершить экспертизу, приходится выбирать вариант «…или информации недостаточно для оценки», который явно отвечает самому низкому (возможно, нулевому) баллу. Вот, например, какая конструкция:
1.3. Наличие опыта руководства и выполнения научных проектов.
Руководитель за последние 5 лет имеет опыт успешного руководства:
- несколькими значимыми научно- исследовательскими проектами,
- одним значимым научно-исследовательским проектом,
- не осуществлял научного руководства проектами, или достаточная для оценки информация отсутствует.
В соответствующих пунктах заявки перечисляются проекты, но не предусмотрено никаких сведений об их содержании и результативности («успешности»). Поэтому приходится искать Acknowledgements в статьях, отчеты на сайтах фондов и организаций, а также просто использовать Google. Приведу пример результатов такого розыска по одному из направленных мне проектов (цитата из экспертного заключения):
«Легко убедиться, что указанным в заявке проектом МНТЦ руководил представитель <совсем другого> института N <сетевая ссылка>. На вебстранице, посвященной участию в проекте Института NN <сетевая ссылка>, какие-либо конкретные сведения о роли этого соисполнителя отсутствуют (пустые поля). Фамилия руководителя рецензируемого проекта> нигде не упоминается. Руководителем проекта РФФИ № NNN является <другой человек>, а не <руководитель рецензируемого проекта> <сетевая ссылка>. Сравнивая содержание отчета по проекту
РФФИ № NNNN <сетевая ссылка> (руководителем которого действительно был руководитель рецензируемого проекта>) со списком статей авторов заявки по Scopus, можно найти две публикации по результатам этого проекта РФФИ, на основании чего условно признать его успешным».
Не искать нельзя — уровень наших заявителей, увы, таков, что привирают нередко… К сожалению, даже Google не скажет, что такое тут «значимый» — имеется в виду объем, статус фонда, значимость результатов (о которой нет сведений) или?.. кроме того, варианты ответов предполагают почему-то только или успешное руководство — или отсутствие проектов. Казалось бы, куда важнее обоснованно определить, сколько было проектов, руководство которыми не было успешным. Или они это вычитанием выясняют?
С оценкой реального вклада в образование дело обстоит еще хуже. Варианты ответов с подсказками в п.1.4 анкеты совершенно не учитывают специфики сопряжения научной и образовательной работы:
- активно участвует в образовательной деятельности (руководит несколькими аспирантами, разрабатывает и читает новые образовательные курсы в российских и зарубежных вузах),
- участвует в образовательной деятельности (руководит одним-двумя аспирантами и читает новый образовательный курс в российских и зарубежных вузах),
- руководит несколькими аспирантами или читает новый образовательный курс,
- участвует в образовательной деятельности в незначительной степени, или достаточная для оценки информация отсутствует.
Первой формулировке фактически удовлетворяют только имитаторы- администраторы, часто приписанные сразу к нескольким вузам и кафедрам и осуществляющие «номинальное» руководство аспирантами. Научный работник обычно не может тянуть более одного курса, тем более нового. И почему, кстати, речь идет только о новых курсах? Традиционные фундаментальные курсы и спецкурсы в исполнении действующих ученых ничуть не менее важны. А ключевая функция руководства дипломными работами, трудоемкое проведение семинаров и практикумов попадают в последний пункт вместе с «недостатком информации» (и, возможно, оцениваются нулевым баллом). Если фонду важно оценить вклад в образование, не проще ли сразу попросить указать открытые сетевые ресурсы? Вопреки распространенной российской практике полагаю, что в современном образовании отсутствие таких ресурсов просто сразу означает отрицательную оценку (хотя их наличие вовсе не гарантирует положительную).
На выходе имеем два крайних случая: несправедливое занижение оценки заявителей, которые могли бы предоставить нужную информацию при наличии соответствующих требований в форме заявки, или несправедливое завышение оценки экспертами, не тратившими времени на проверку и руководствовавшимися просто числом указанных проектов или читаемых курсов.
Зато мы делаем ракеты
Не буду расходовать газетную площадь для подробного разбора разделов «Научная обоснованность проекта» и «Значимость результатов». Там есть проблемы разной степени тяжести. Наиболее бездарно, по моим наблюдениям, заявители излагают «Современное состояние исследований по тематике проекта», зато очень бодро заполняют анекдотический пункт заявки «Основные мировые научные конкуренты»… IBM, General Motors и BASF уже просто дрожат от числа российских конкурентов, можно дальше их не пугать, а пункты эти слить и переформулировать так, чтобы современное состояние дел отражалось со ссылками на ключевые работы и эксперт оценивал бы не болтовню, а конкретику. Это помогло бы минимизировать стресс при переходе к пункту 3.1:
Запланированные результаты проекта:
- имеют высокую значимость для мировой науки,
- имеют высокую значимость для российской науки, значимость для мировой науки ограничена,
- имеют ограниченную значимость для российской науки,
- не будут востребованы, или информации недостаточно для оценки.
Варианты ответов явно намекают на второсортность российской науки, а может, написаны и в расчете на поддержку спецтематики. Если речь идет о результатах, важных для региона, то это вопрос не о российской науке, а о региональной специфике объекта исследования. Классифицировать значимость можно по масштабу результата, по его возможному влиянию на дальнейшее развитие, но безусловно не по национальному признаку. Как-то выразив эти простые соображения в комментарии (до 1 страницы, которые потом, видимо, никто не читает), эксперт нарывается на пункт
3.2. Возможность практического использования запланированных результатов осуществления проекта в экономике и социальной сфере.
Этого нельзя учитывать при сравнительной оценке проектов! — поскольку в большой части проектов фундаментального характера никакого практического использования в ближней перспективе быть не может и не должно. Сама постановка вопроса провоцирует голословные заявления. В конце списка вариантов ответов (видимо, как негативная оценка):
- востребованность российской экономикой или социальной сферой не очевидна.
Но ведь эта же формулировка строго применима как раз к разработкам очень высокого уровня, которые в России не могут быть востребованы из-за низкого уровня технологического развития. Не поддерживать проекты, результаты которых переросли российский технологический стандарт — это самый безнадежный тупик. В анкете нет никаких вариантов ответов, позволяющих обозначить и позитивно оценить эту нередкую ситуацию.
Не комментирую подробно 3.3. Обязательства по количеству и качеству публикаций — нелепость, глубоко проникшую в документы фонда. План по валу может быть выполнен многими коллективами, и с большой вероятностью — в ущерб качеству. Куда полезнее было бы попросить у авторов примерный тематический план публикаций, который действительно может быть объектом экспертной оценки — а иначе мы оцениваем шустрость, а не квалификацию. Валовые показатели предлагается оценивать и в разделе 3.4 Обязательства по привлечению к работе по проекту молодых исследователей, хотя ответ следует просто из анкетных данных в заявке, и его вполне могут получить клерки. И никаких вариантов ответа по существу — то есть о функциях молодежи в проекте. Есть ли для них хорошие задачи, разумный план работы, продумано ли руководство их работой, или они «вписаны» в проект и будут в лучшем случае привлекаться для лаборантских операций? — соображения по этому поводу опять попадают в коментарий…
Экспертная анкета РИФ пригодна для отсечения совсем безграмотных проектов. Однако она категорически не позволяет отличить сильный современный проект не только от среднего, но даже и от «ниже среднего» по уровню. Так возникает дыра, через которую без напряга пролезает привычное «как всегда».
Как латать дыру
Сомневаюсь что получится, но пытаться надо. Всё равно же РНФ не закроют.
Прежде всего, для сохранения хоть какой-то репутации фонда необходимо опубликовать не только аннотации и ожидаемые результаты всех поддержанных проектов (хорошо, что это наконец сделано, хотя и гораздо позже объявления результатов конкурса), но и списки исполнителей. Возможно, это увеличит уверенность в том, что в ряде случаев работа действительно может быть сделана, несмотря на некомпетентность руководителя. Убедит нас в том, что проект составлен квалифицированными людьми, остающимися пока за кадром. К сожалению, даже выборочный просмотр аннотаций показывает, что не все «высокопоставленные» проекты составлены таким образом.
Одновременно нужно в срочном порядке скорректировать экспертную анкету и снабдить ее баллами, твердо сформулировав принцип использования этих баллов при принятии решения. И немедленно заменить классификатор.
Нужно также понять, кто эксперты, лучше всего просто опубликовать их полный список с указанием кодов. В письме, которое я получила в феврале, было написано «По рекомендации экспертного совета Российского научного фонда (далее — Фонд) приглашаем Вас к участию в экспертизе проектов…» Вероятно, экспертный совет видит очень ограниченный круг специалистов. Ведь весь май РНФ криком кричал, что экспертов не хватает, хотя огромное число авторитетных и высококвалифицированных ученых не удостоились приглашения. Принцип подбора, конечно, должен быть рекомендательным и/или основанным на экспертной истории, а раз он не сработал, значит, неверно выбраны рекомендатели. И это совершенно не повод объявлять, как сделано сейчас, «призыв экспертов-добровольцев» с планкой по числу статей — призыв нужно прекратить, а то еще хуже будет.
Затем необходимо скорректировать сроки экспертизы (при предлагаемом сейчас одному эксперту количестве проектов две недели — бессмысленно короткий срок). Для заявок на крупные проекты необходима обратная связь с авторами и двухступенчатая экспертиза, то есть сроки конкурсов должны быть еще больше.
Очень надеюсь на то, что коллеги, проводившие экспертизу для РНФ, тоже сформулируют свои впечатления и сообщат о них как фонду, так и друг другу. При тиражировании перечисленных проблем в следующих конкурсах РНФ российская грантовая система обречена на имитацию экспертизы, и все мы уже вынужденно поспособствовали движению в этом направлении. Это наша общая вина, и не надо утешать себя поговоркой про первый блин — все последующие блины тоже будут комом, если мы сейчас продолжим обсуждать итоги конкурсов РНФ на форумах и в ЖЖ, а не там, где принимаются решения.
Респект. Критика по существу, а не хай и лай.
Я бы добавил, что основной порок анкеты — смешение целевых и нецелевых показателей. Целевых показателей на самом деле всего ДВА: значимость предполагаемых результатов и возможность их достижения. Все остальное — вспомогательные характеристики, позволяющие в той или иной степени обосновать выводы эксперта по основным целевым показателям.
Тихонов Денис
Я с другой стороны, я тот, кто получает отзывы экспертов. Я сегодня получила 2 отзыва полностью противоположных. Первый эксперт написал весьма положительный отзыв и написал и что проект реально будет реализован, второй поставил 0 баллов и написал, цитирую
«Тематика проекта не соответствует научным направлениям,поддерживаемым фондом поскольку не отличается научной новизной, ориентируется на западные школы и полностью игнорирует отечественные направления фундаментальных исследований в данной сфере» и это фактически все. Я могу написать, что у меня шедевр и что второй рецензент полностью не прав. Но дело не в этом. Как происходит рецензирование, если мнения экспертов полностью не совпали? Как получается, что один эксперт поставил очень высокую оценку, а второй 0(ноль) баллов?
Дело в том, что в приличных конкурсных системах есть системы модерации экспертных рецензий. Это особенно важно при высокой конкуренции, когда даже одна отрицательная рецензия гробит проект. Процедура модерации запускается тогда, когда между мнениями экспертов существует серьезное расхождение. Осуществляется обычно членами экспертных советов, которые беседуют с рецензентами, а бывает, что рецензентов вызывают на ковер и заставляют прилюдно свое мнение отстаивать. И если рецензия безграмотная или пристрастная, то бывает весьма больно. Это весьма дисциплинирует рецензентов. К сожалению, на Российских просторах о таких изысках мало знают. У нас рецензенты обычно действуют по принципу «что хочу, то и ворочу». Зная, что отвечать и краснеть не придется. Именно поэтому наши «эксперты» так часто не любят наукометрию. Им противна сама мысль, что надо еще с кем-то или с чем-то считаться помимо собственного мнения. Поэтому у нас конкретные личности рецензентов значат куда больше, чем на западе.
Это нужно сюда:
http://onr-russia.ru/content/%D0%B5%D1%81%D1%82%D1%8C-%D0%BB%D0%B8-%D0%BF%D1%80%D0%B5%D1%82%D0%B5%D0%BD%D0%B7%D0%B8%D0%B8-%D0%BA-%D1%8D%D0%BA%D1%81%D0%BF%D0%B5%D1%80%D1%82%D0%B8%D0%B7%D0%B5-%D1%80%D0%BD%D1%84
— иначе все сведения такого рода трудно будет собрать и обобщить.
Оценка 0 и краткий комментарий — это не экспертное заключение. На первом шаге они эксперту еще не показывают анкету, а задают вопрос о соответствии проекта условиям конкурса. Если он говорит «не соответствует», то просят кратко обосновать, и все на этом кончается. Думаю, именно это Вы и получили от поклонника отечественных направлений. А если эксперт говорит «соответствует», то открывается ему вся анкета, из которой неизвестным нам образом появляются потом баллы.
Разумеется в нормальной системе при наличии двух столь полярных оценок проект был бы послан третьему, четвертому… N-му эксперту. И это отдельная тема для обсуждения, должно быть учтено в предложениях по изменению их регламента.
Отзыв второго рецензента я бы не учитывал, т.к. в нем отсутствуют доказательства высказанной точки зрения.
Немного не в тему, но похожие проблемы с рецензированием статей в отечественных научных журналах. Лично у меня бывали случаи статей с отрицательными рецензиями, многократного рецензирования с конечным отрицательным результатом, принимаемые»сходу» в других (в том числе и англоязычных) журналах. К сожалению и среди рецензентов журналов очень много пристрастных людей, болезненно относящихся к умным мыслям, высказанных не ими. Невысокие импакт-факторы отечественных журналов лишь усугубляют ситуацию, вынуждая авторов писать сразу по-английски.
Год назад мой аспирант, весьма толковый парень, опубликовал за первым авторством работу в нормальном таком англоязычном журнале, однако для защиты в местном совете надо было иметь три публикации, поэтому небольшой кусочек работы, не вошедший в основную статью, но очень изящный, отправили в местный ВУЗовский вестник. Как мы все смеялись над рецензией. Ее писал человек из 70х, не имеющий представления ни о современной науке, ни о современных методах, но, прозябающий в своем местечковом прохфессорстве с гордо поднятой головой (и кучей амбиций). Впрочем вторая рецензия вообще напомнила историю «корчевателя». Самое интересное, что статью в итоге опубликовали исходным текстом без внесенных правок (на основе рецензий).
Ольга) первый автор это не престижно пора бы знать
Очень и очень полезная статья, которая помогает проникнуть в тайну конверсии полностью положительных рецензий в низкие баллы и, соответственно, отрицательный результат.
Не вполне понятно, зачем нужны 3 эксперта, если 1 отрицательного заключения достаточно для того, чтобы угробить проект (например, одна заявка, в которой я не участвовал, но помогал писать получила 2 отличных и один негативны отзыв)? По логике, либо нужно использовать схему, при которой решение принимается большинством, либо в случае конфликта оценок привлекать 4-го эксперта. Иначе 1 рецензии достаточно.
У меня возникло довольно много соображений по поводу того, что можно было бы с этим делать. Если получится, напишу короткую статью в ответ.
В одном месте, однако, я не понял идею Галины Александровны заменить данные о преподавательской деятельности ссылками на ресурсы в сети. Какого рода ресурсы? Требования вывешивать, например, программы всех учебных курсов на каких-либо саятах пока, кажется, не вводилось. Я даже не знаю, где мне искать ссылки на курсы, которые я действительно читал и продолжаю читать в разных ВУЗах.
Андрей, речь идет не о формальных требованиях вузов к преподавателям. Речь о том, что если фонд считает нужным учитывать в конкурсе научных проектов образовательную составляющую, и предлагает делать это экспертно, то должен быть материал для оценки. Названия курсов таким материалом не являются, даже и программы не всегда годятся, нужно смотреть конспекты. Далее было написано мое субъективное суждение, основанное на немалом педагогическом опыте: эффективное взаимодействие со студентами по смыслу требует размещения в интернете конспектов лекций, описания практикумов, а также задач. И если сайты вузов для этого не приспособлены, то приходится размещать где-то еще (например, один мой коллега размещает аж в сети «В контакте», мне кое-что приходилось некоторое время размещать просто на ftp, а есть еще тактика на основе dropbox для сбора и проверки решений задач, да мало ли возможностей). Если кто-то умеет эффективно преподавать без таких ресурсов — ок, надо прикладывать образовательные материалы к заявке в виде файла, это как раз в РНФ предусмотрено…
Статья действительно хорошая и полезная. Единственное замечание к авторской позиции — преподавание курсов НЕ должно быть определяющим в НАУЧНОЙ заявке. Все-таки финансирование дают не за чтение лекций, а за науку. Поэтому вывешены там лекционные курсы или не вывешены, глобальной роли, для меня, как рецензента, это не играет, если проект слабый и статьи с хорошим импактом отсутствуют.
Ответ Андрею ниже посмотрите пожалуйста. Я тоже не считаю необходимым (хотя считаю допустимым) учитывать образовательную составляющую в научных проектах, но это вопрос не наш, а фонда. Дело эксперта, если он уже согласился что-то делать для этого фонда — точно отвечать на все поставленные вопросы. Если окажется возможным корректировать разбивку баллов (нам не известную до сих пор) по разделам, то конечно основные баллы должны быть по научным разделам, тут нет сомнений.
Поводом для учета образовательной составляющей может быть, в моем понимании, страшное отставание образовательного процесса от реальной науки даже в самых главных классических университетах. Ну и вот чтобы стимулировать… Однако не исключаю, что у РНФ резоны другие, это было бы интересно понять.
Выдержки из ЭЗ по одной из заявок: Количество баллов: 33 Общее заключение: Авторы совершенно верно утверждают, что «исследование направлено на создание эффективных инновационных технологий повышения нефтеотдачи и селективной водоизоляции». Они предполагают, что проблема может быть решена с использованием новых реагентов на основе наночастиц полиакриламида и основное внимание в работе уделяют получению таких наночастиц. За кадром остается главное — в какой степени эти новые реагенты позволят увеличить маленькую, по сравнению с западными странами, нефтеотдачу в нашей стране. Мне представляется, что задачи такого плана позволительно ставить и решать только в том случае, если ожидаемые результаты действительно являются новыми и превосходят все существующее в мире. Если это не так (а авторы не приводят ожидаемых результатов), то правильным было бы для нефтяников купить более прогрессивную уже известную технологию, а свои усилия направить на решение действительно уникальных, с точки зрения мировой, а не отечественной науки, проблем. В данном случае должна работать экономика. Степень поддержки проекта — 0%. Количество баллов: 90 Общее заключение: Данное исследование направлено на создание эффективных технологий повышения нефтеотдачи с использованием реагентов на основе наночастиц полиакриламида и его производных. Во-первых, будут проведены сравнительные исследования процессов получения наноразмерных частиц сшитого полиакриламида методами эмульсионной полимеризацией и полимеризацией в обратной миниэмульсии. Важно, что в качестве инициаторов полимеризации и сшивания будут использованы как химические соединения, так и радиационное и ультрафиолетовое излучения. Во-вторых,разрабатываемые реагенты относятся к «умным» полимерным системам. Благодаря возможности изменения соотношения гидрофобных и гидрофильных звеньев, свойства сополимеров можно менять в зависимости от преследуемых целей.Так, для селективной водоизоляции требуется сополимер с меньшей концентрацией гидрофобных звеньев, включение которых в сетчатую структуру полиакриламида необходимо для увеличения водопоглощающих свойств. В-третьих, создание сшитых полимерных реагентов с размером частиц в диапазоне от 40 нм до 2 мкм позволит в равной степени эффективно обрабатывать как низкопроницаемые, так и среднепроницаемые коллекторы, представляет несомненный интерес. Важно, что такие суспензии обладают достаточной стабильностью для предотвращения… Подробнее »
Интересно, где авторы возьмут ожидаемые результаты, если предполагаемая работа как раз направлена на их получение.
Нам также было отказано. И один эксперт также поставил 33 — за «методический уровень заявки и менеджмент проекта». Ну так да, заявку писали исследователи, а не менеджеры.
Получили оценки 97-89-28. Первая рецензия содержательная. Вторая: «Реализация проекта будет способствовать закреплению мирового приоритета
отечественной науки. Рекомендуется поддержать.»; третья: «обоснование в заявке отличается эмоциональностью, но это не делает
необходимость поддержки проекта очевидной.» И это всё обоснование.
Статья Класс! — в точку.
Я давно говорил, что экспертиза- это диалог автора и эксперта.!!!
Поэтому полностью согласен с автором заметки:
нужна
«.. обратная связь с авторами и двухступенчатая экспертиза..»
Кроме того: надо убрать массу лишних, просто повторяющихся пунктов:
актуальность(2 или 3 раза),
ож. рез-ты(2 или 3 раза)
и
пухлое состояние вопроса.
Последнее д. звучать просто как список задач, не освещенных в литературе, но важных для понимания. И эксперт на беглый взгляд д. это понять.
Если не понял- он не эксперт!!!!!!!
Кроме того, о прикладном значении и важности!
Экспертиза требует деталей и описания важности ож. результатов????.
Но они еще не получены! Какие детали? Какое ож. применение???
Это м. б. только в прикладных задачах, типа ФЦП,
которых, кстати, наберется 70% среди поддержанных проектов.
Так, с недостатками все ясно!
А что делать?????
Автор написала как латать дыру! Но как ставить баллы- никто не знает!!!
Уж точно не машина. как сейчас!
Кстати, для написания экспертизы мне было бы достаточно 2-3 часа на проект!
Одна аннотация говорит сама за себя- там 90% все инфо.
Давай сравним аннотации и экспертизы- и ты увидишь, что в «отказанных» проектах меду ними нет никакого соответствия.
Усек проблему??
Так что ребята,
Объявляю конкурс на проект «как писать экспертизу в РНФ!!!
пусть дадут 3,6 млн в год, но работы там на 1 месяц. Итого 300т.р.
Вперед!!!
Галина Александровна, здесь с вами согласиться я не могу. У всех свои подходы к преподаванию, разные особенности аудиторий, наконец, разные объемы соответсвующих курсов. Некоторые курсы (особенно те самые новые) должны быть прочтены какое-то число раз, чтобы имело смысл делать методички. Наконец, многие из тех, для кого преподавание не основная работа, не имеют возможности тратить на это столько времени помимо подготовки лекций и их чтения. В российских реалиях лекторы часто используют в презентациях картинки из различных статей. Это хорошо с точки зрения педпроцесса, но публиковать такие материалы нельзя т.к. это нарушает авторские права. Вобщем, если ввести такое требование, как вы предлагаете, это будет нечестный ход, поскольку мысль, что он-лайн ресурсы являются необходимыми для каждого учебного курса пока не стала общепринятой. Получится перемена правил во время игры.
Сам факт вовлеченности ученого в преподавательскую деятельность имеет значение незвисимо от качества методических материалов по его курсу. Если человек активно общается со студентами, будучи при этом активным исследователем, это дает много плюсов обучающимся. Для конкурса научных проектов этого, по моему мнению, достаточно. Оценка качества учебных курсов по большому счету за рамками мандата экспертов РНФ и их компетенции (ведь при подборе экспертов учитывался только их научный, а не преподавательский опыт).
Андрей, не будем сейчас обсуждать проблемы образования (я не считаю возможным начинать преподавать без методических материалов, Вы это допускаете, отдельная тема).
Мы говорим об экспертизе проектов. Точно не мы с Вами — а этот фонд — решили вдруг, что участие в образовании важно для этого конкурса, это их дело. А наше дело — не допускать двойных стандартов: экспертно оценивается содержание, а не перечисление. При оценке научного задела мы обязаны посмотреть все указанные в заявке статьи, при оценке успешности проектов — отчеты и статьи по этим проектам, ну и при оценке образования что-то надо изучить, иначе это поддержка имитации. Липовые курсы граждане себе приписывают еще чаще, чем проекты… Или не липовые, но не курсы — типа «образовательный видеокурс» (реально — рекламный ролик). Не могу подписаться под утверждением «читает новый курс», не увидев содержания курса, ну ничего не могу с собой поделать, такая вот вредная привычка.
Галина Александровна, а откуда берется тезис про содержание, а не перечисление? Теоретически критерии по принципу наличие-отсутствие могут иметь право на существование. Разумеется, эксперт должен иметь возможность оценить, насколько наличие достоверно. Как это сделать с образовательными курсами — сложный вопрос. К слову, наличие методички в «вконтакте» не обязательно означает реальное чтение такого курса. В идеале было бы правильно опубликовать на сайте фонда какие-то соображения о том, как должны подтверждаться курсы, руководство проектами и пр. И начать применять эти критерии не менее, чем через год. Кроме того, инструкции фонда должны быть доведены (и быть обязательны) для экспертов. В частности, в FAQ на вопрос что писать о научных конкурентах фонд ответил, что требуется их перечислить и привести несколько, 2-3, их основные публикации за последние 5 лет. Никакого анализа, в чем именно конкуренция состоит, не просили.
Все перечисленные вами в статье проблемы идут не от экспертов, а от фонда. Примеры дурного качества экспертной работы тоже есть, но это отдельная тема.
влад, обзор состояния вопроса — вещь необходимая. Во-первых, эксперт редко занимается той же самой узкой областью, что и заявитель, во-вторых, эксперт должен понимать, владеет ли заявитель литературой по проблеме и адекватно ли он представляет себе состояние проблемы.
Переношу сюда для информации текст, оставленный мной на сайте ОНР, по ссылке ГЦ. Претензии к экспертизе по личному опыту: 1) По моему проекту получено 3 положительных рецензии. Все рецензии неглубоки, фактически бессодержательны, в двух из трех открытым текстом рекомендовано проект поддержать. Ни одного (совсем ни одного!) явного замечания не сормулировано. При этом баллы 73, 71, 76. Единственный мессидж, который можно извлечь из подобной обратной связи — как хорошо ни пиши проект, а все равно не дадим т.к. рылом не вышел. При этом, повторяю, претензий по качеству рыла (публикаций, преподавательского опыта, руководства проектами и пр.) в явном виде не высказано. Привожу худший из трех отзывов (остальные совсем позитивные): Количество баллов: 71 Общее заключение: В работе планируется изучить несколько систем фаг-хозяин. Для изучения выбраны фаги ALT-63 и G7C, а также планируется выделить новые изоляты фагов. Основное направление исследования — совместное культивирование фагов и бактерий в разных условиях выращивания и наблюдение за их коэволюцией с помощью методов метагеномики. Данная модель представляется достаточно интересной как для понимания процессов эволюции, так и для лучшего понимания взаимодействия фагов с бактериальной клеткой. Публикации коллектива заявителей неплохие, но в основном за счет одного из исполнителей. Хотя область исследования достаточно узкоспециализированная, результаты работы могут быть интересны специалистам в смежных областях. К слову, сущность работы изложена экспертом не вполне точно. Я прекрасно понимаю, что эксперты были загружены и, если проект нравится, рецензия может быть короткой и без особого анализа. Но при этом баллы должны быть высокими. Если эксперт за что-то их снижает (выбирает не самые высокие пункты меню оценки) — это должно сопровождаться критическим замечанием, по-моему. Иначе для дальнейшей работы рецензии бесполезны и честность конкурса вызывает сомнения. К слову, названные экспертами пост-фактум в сети типичные погрешности заявок, как, например, неконктетное, без ссылок, изложение состояния проблемы, произвольное указание конкурентов и пр. нашей заявке были не свойственны. Так что я в… Подробнее »
Андрей, я прочитала что пишут на сайте ОНР и послала сейчас Вам, АК Цатуряну и ВА Еремееву текст, который — если есть на то желание — можно выложить там с целью структурирования дискуссии. Копирую здесь.
*****
Предоставление рецензий авторам заявок является еще одним трюком (или очередным проявлением недомыслия), а вовсе не «ОГРОМНЫМ шагом вперед», как выразился В.В. Поройков.
В анкете имелось 19 текстовых полей, по числу пунктов. В каждом таком поле можно было написать до 1/2 страницы, а в конце, в разделе 5, под заголовком «Общая характеристика. Отдельно укажите слабые стороны проекта», предлагалось написать заключение рекомендуемым объемом 3000 знаков. Отдельно указать сильные стороны тут почему-то не предлагалось.
Конечно вряд ли 19*1/2, т.е. в общей сложности 9.5 страниц, мало кто писал наверное. Я безусловно писала меньше, и не всегда во всех полях. Но во многих таких полях остались содержательные частные ремарки, написанные именно для авторов. Трудно было предположить, что авторам пошлют только заключение — скорее возникало предположение о том, что сильно перегруженная панель может ограничиться чтением только этого заключения.
Если коллеги из ОНР хотят конструктивных результатов на выходе, то проблему надо структурировать, мне кажется, так.
1. Коррекция формулировок в экспертной анкете.
2. Расклад баллов по разделам анкеты.
3. Процедурные вопросы для отражения в документах фонда:
(А) исправление классификатора
(В) ограничения полномочий экспертного совета при принятии решений
(С) дополнительная экспертиза в спорных случаях
(D) взаимодействие с авторами заявок (обратная связь, предоставление полных заключений)
4. Персональный состав экспертного совета и приглашение координаторов по каждому разделу.
Андрей, я потрудился посмотреть в Pubmed Ваши публикации. У Вас пограничный вариант: 7 зарубежных статей и 2 Acta naturae. Проходным было бы наличие как минимум 8 статей в зарубежных журналах с пристойным импактов (от 2-3х и выше) и 3-4 РИНЦевских, или парочка-тройка в Acta naturae, который все-таки российский журнал и имеет низкий импакт — 0.4. К тому же большинство статей сделано в содружестве с иностранными коллегами и в трех из них Вы не первый или последний автор. Так что нужно немножко подтянуть показатели.
Хотя я знаю, были варианты, когда давали гранты ученым с показателями, намного хуже, чем у Вас. Короче, советую не обижаться на весь свет, а напечатать еще парочку статей в 2014 году и подаваться в следующий заход.
В моем институте среди поддержанных грантов у двоих руководителей вообще нет публикаций (например, за последние 5 лет 5к статей в местных вестниках+1! зарубежная публиация в журнале с импактом меньше 2х!). У другого чуть получше, но две стоящие статьи не имеют отношения к тематике лаборатории, поскольку подаватель гранта стал в них цатым соавтором паровозом, палец о палец не ударив (политический вопрос). Зато знакомому того же профиля не дали грант, несмотря на 10к публикаций, в т.ч. первым-главным автором в журналах с импактами 12-30, оригинальную идею и реальный практический выхлоп через цать лет на основе планируемых изысканий. После этого все разговоры об экспертах, экспертных оценках, сложностях экспертизы и т.д, совершенно теряют всякий смысл. Гранты дали не ориентируясь на экспертные заключения вообще, какими бы кривыми они не были. И точка.
Ольга, а как же авторы с публикациями только в вестниках преодолели входной ценз? Там же требовалось n статей в WoS.
«местные вестники» это для меня российские журналы. Вполне вероятно, что они индексируются Базой. Но для нашей области науки вообще, и для институтов данного профиля нашего отделения, в частности, такие публикации — «ни о чем». Даже средний уровень публикаций намно-ого выше.
Баллы 73, 71, 76 как раз очень точно отражают суть. Во-первых, все три рецензента дают очень близкие оценки. У экспертного совета нет никаких оснований не доверять совпадающему мнению трех рецензентов. Судя по баллам, Ваш проект неплох (резкой критики нет), но не дотягивает по уровню до порога при высокой конкуренции. Этот вариант очень распространен в мире.
Николай, если бы подобные рассуждения привел эксперт, а не вы, это можно было бы принять за вариант нормы (правда, оставалось бы удивление, почему имеются победители с показателями гораздо ниже). Кроме того, по этому конкурсу учитывались публикации не только руководителя, но и членов коллектива. Однако ни один из экспертов не написал ничего похожего на «слабой стороной проекта является то, что у руководителя не наберется 8 публикаций в пабмед, удовлетворяющих таким-то дополнительным критериям, за такой-то период».
Denny, мои рассуждения про контрастные оценки были не про этот проект. Ваше рассуждение про хорош, но не дотягивает я, разумеется, сам сгенерировал. Однако мое глубокое убеждение в том, что в 99% проектов есть какие-то недостатки. Поэтому это «недотягивает» можно и нужно артикулировать. Экспертами это сделано не было (двое из трех написали, что рекомендуют поддержать). Замечания не должны обязательно быть резкими, но полное отсутствие внятных замечаний по сути означает, что эксперт считает научное содержание проекта идеальным (?), что должно, наверное, отражаться в более высоких баллах.
Думаю, это чуток из другой оперы. Как уже говорилось здесь, авторам выдали не полный текст рецензии, а только заключение. Вполне вероятно, что некоторые недостатки были указаны в конкретных полях. Поэтому и получилось, что при общей положительной оценке баллы оказались недостаточны.
К слову, это довольно часто бывает. Например в журналах. Рецензент заполняет несколько полей, а авторам посылают только его «комментарии для авторов». И среди заполняемых полей бывает рейтинг (топ 5%, топ 10%, топ 25% и топ 50%). Куда рецензент отнес работу, автору не сообщают.