Эта публикация открывает цикл статей, посвященных десятилетию «Диссернета». Помочь «Диссернету» можно тут: donate.dissernet.org.
Данная статья написана на основе сокращенного варианта доклада «Диссернета», полная версия доклада в ближайшее время будет выложена на сайте «Диссернета» (dissernet.org). В докладе представлен материал, касающийся манипуляции эмпирическими данными в диссертациях и статьях российских авторов, опубликованных за последние двадцать лет. Работа выполнена на основе анализа более 1500 примеров фальсификации данных, полученных в результате десятилетней работы «Диссернета».
Манипуляция с данными в контексте других нарушений
Манипуляция с данными — это представление недостоверных данных, которое может включать изменение, добавление или удаление данных с целью соответствиям гипотезам, рассуждениям и выводам. Для достижения этих целей могут использоваться манипуляции с организацией работы, дизайном и методами исследования.
Одним из видом манипуляции является представление выдуманных (фантомных) данных: например, когда сбор данных, эксперимент или иное исследование полностью или частично не проводятся.
Манипуляция с данными часто сочетается с некорректными заимствованиями текста, изображений или идей без соответствующего цитирования или ссылки на автора. Существует также широкий спектр манипуляций с авторством и новизной научной работы: «подаренное» или «похищенное» авторство, множественная публикация текста, а также «покупное соавторство» — предмет недавнего исследования «Диссернета» [1]. Поскольку такие действия являются обманом со стороны всех соавторов, при выявлении данного вида нарушений не имеет значения, содержит ли работа верные или неверные положения.
Что мы не рассматриваем в качестве манипуляции с данными
Экзотическим видом подтасовок в научных исследованиях является написание заведомо бессмысленного «теоретического» научного произведения, представляющего собой грамматически связный набор слов, относящихся к валидным областям знания. В данном тексте такие манипуляции не рассматриваются, хотя в ряде случае это привело к бессмыслице в тексте. При этом отметим, что публикация такого текста может быть и экспериментом, проверяющим качество рецензирования в журналах — например, известный читателям «Корчеватель» [2].
От фальсификации эмпирических данных следует отличать написание работ умозрительного характера на основе некритического принятия лженаучных концепций (например, гомеопатия, астрология, хиромантия).
От манипуляций с эмпирическими данными следует отличать ошибки, которые сделаны добросовестными исследователями в ходе сбора эмпирических данных и написания статьи; ошибки в постановке эксперимента, построении моделей и гипотез и т. п. Как правило, недобросовестность авторов легко выявляется по типичным признакам, появляющимся в силу трудности правдоподобной намеренной подтасовки данных.
Также не является манипуляцией с данными написание научных работ по шаблону. Замена и предмета, к которому отнесены фактические данные, и самих данных (в действительности собранных в отношении нового предмета) является примером такой «шаблонной» работы. Написание шаблонной работы может иметь разную степень приемлемости в разных дисциплинах; несомненно, шаблонные работы не являются примером высококачественной научной деятельности, однако их изучение выходит за рамки этой статьи. Заведомой манипуляцией является ситуация, когда заменяется предмет, но данные, которые должны были бы измениться, не меняются.
Ущерб научному знанию, наносимый манипуляцией с данными
Если заимствования чужого текста дублируют уже известные в науке положения, которые могут быть верны, то манипуляция с данными и результатами всегда есть искажение данных, что ведет к неверным научным выводам и рекомендациям: это подрывает доверие к результатам, исследованиям и науке в целом, а также может привести к очень тяжелым последствиям. Так, статья об исследовании связи вакцинации против кори, паротита и краснухи с аутизмом была процитирована более трех тысяч раз [3]. Это исследование стало важной опорой для движения антипрививочников в мире. Впоследствии данная статья была ретрагирована (отозвана журналом) из-за вскрывшейся фальсификации данных, но остается в арсенале псевдонаучной борьбы с вакцинацией и двадцать лет спустя.
Манипуляция с данными и изображениями могут быть как спорадическими поступками отдельных исследователей, так и регулярными действиями, т. е. выполняться одними и теми же или связанными между собой лицами, в одних и тех же или сходных обстоятельствах. В последнем случае речь может идти о «фабриках» диссертаций и «фабриках» по написанию научных статей за вознаграждение. По нашим данным, в таких «фабриках» изготовлено и защищено [4] по меньшей мере 10 000 диссертаций с недобросовестными заимствованиями.
Мировая статистика манипуляций с данными
Согласно базе данных Retraction Watch, которая отслеживает ретракции в международной научной среде, по состоянию на начало декабря 2020 года 1245 журнальных статей [5] были подвергнуты ретракции из-за манипуляций с данными. Статьи по следующим специальностям были ретрагированы (диаграмма 1, категории не исключительны).
Вероятность совершения научных нарушений ниже в странах, которые разработали политику рассмотрения заявления о научной недобросовестности, в особенности если данная политика институционально закреплена. Помимо этого, вероятность нарушения норм академической этики выше там, где публикационная активность вознаграждается финансовыми бонусами [6].
Особенности манипуляций с данными в российской науке
В России подтасовки данных, как правило, соседствуют с другими нарушениями академической этики, в частности, с некорректными заимствования [7]. Как правило, недобросовестные российские авторы предпочитают вместо полностью выдуманных данных использовать данные, полученные другими авторами и на другом объекте. Это не делает эти данные сколь-нибудь более достоверными, чем данные, полностью фиктивные, и тоже является вариантом манипуляции. В качестве примера приведем получившую большую известность замену, которую произвел в своей диссертации И. Н. Игошин [8]: шоколад из диссертации-источника превратился в мясо, причем черный шоколад был заменен на отечественную говядину, белый шоколад — на импортную говядину, а шоколад с орехами — на говядину на кости. Более драматичный пример относится к медицине: доктор Ю. Е. Царапкин в своей диссертации кровь из диссертации-источника заменил на лимфу, оставив результаты без изменений.
До настоящего времени такая причина, как манипуляции с данными, редко становилась причиной ретракции статей в России.
Исследование манипуляций с данными в российских научных работах
Методика исследования
База статей и диссертаций «Диссернета», послужившая основой данного доклада, на момент исследования содержала около 4000 статей в научных журналах и около 9000 диссертаций, про которые было уже известно, что они имеют совпадения текстов с другими работами.
Эти статьи и диссертации были проанализированы программным образом на наличие незначительных разночтений между совпадающими фрагментами текста c некорректными заимствованиями и его источниками. Под «разночтениями» понимаются отдельные несовпадающие числа (1–2 числа) или слова (1–2 слова) в крупных (от одного абзаца) фрагментах совпадающего текста. Разночтения затем были проверены вручную для исключения разночтений, вызванных ошибками сканирования и редакторскими правками.
Из совокупности разночтений удалялись те, которые отвечали шаблонным работам (то есть изменены и предмет исследования, и относящиеся к нему данные, при этом в данных нет явных признаков их фиктивности).
К массиву найденных машинным образом разночтений были добавлены также те факты подтасовки данных, которые были выявлены путем экспертного анализа во время работы «Комиссии РАН» над докладами «О переводном плагиате» [9], «О кандидатах в члены РАН» [10], а также рассмотрения диссертационных работ в ВАК.
Полученная совокупность разночтений была проверена вручную и классифицировалась по основным признакам, в частности, по перечисленным ниже: изготовление подложных данных «с нуля», подмена предмета исследования, заведомо недостоверные или обновленные ссылки в списке использованных источников.
Отдельные виды манипуляций в зависимости от характера изменяемых данных
• Подмена данных
Это манипуляции с данными путем их изменения, добавления, удаления с целью соответствиям гипотезам, рассуждениям и выводам, при этом текст, сопровождающий фактические данные, как правило, копируется без изменений. Приведем основные виды таких манипуляций с примерами.
• Изменение даты, к которой отнесены данные
Это самый распространенный вид подмены данных (обнаружен более чем в 900 диссертаций из приблизительно 1400 диссертаций с фальсификацией данных и более чем в 70 журнальных статьях): как правило, годы, к которым относятся данные, обновляются. Проще всего этот вид фальсификации выявляется в экономических науках в связи с обилием численных данных, которые не могли совпасть случайно.
Ильин С. Г., экономические науки: ко всем датам в работе добавляется десять лет, в связи с чем получается, что дефолт был в 2008 году, залоговые аукционы начались в 2005-м, приватизация — в 2003-м, ЮКОС в 2008 году создавал управляющие компании.
• Изменение географической привязки данных
Один из самых распространенных способов фальсификации как наиболее простой к исполнению и сравнительно сложно детектируемый.
В диссертациях двух таджикских экономистов Амирова Н. И. и Шамсова И. С. был применен один и тот же прием: Россия заменялась на Таджикистан (в первом случае еще и «свиноводство» заменялось на «овцеводство»).
Таймасханов Х. Э., экономические науки: данные по Калмыкии выдавались за данные по Чечне.
Ужахов А. С., юридические науки: «Северо-Запад» меняется на «Северный Кавказ», данные о лицах, совершавших незаконный оборот наркотиков, не меняются.
Михайлова Е. И., педагогические науки: Калининград заменен на Якутск.
• Изменение когорты обследованных
Выявление таких фальсификаций затруднено, так как совпадающие данные — описание когорты (больных, учеников и т. д.) и описание предмета исследования — находятся в разных разделах диссертации. Скорее всего, значительная часть таких фальсификаций пока осталась невыявленной.
Найн М. В., педагогические науки: экспериментальная часть работы заявлена как выполненная в 2002–2004 гг. «в школе-лицее № 11, школе-гимназии № 80 и МОУ № 154 г. Челябинска», однако все результаты совпадают с экспериментом источника, выполненном в других школах в 1994–1996 гг.
• Изменение названия болезни, органа или химического вещества
Помимо уже упомянутой выше замены доктором Царапкиным крови на лимфу, упомянем диссертацию Шогенова Р. С. по сельскохозяйственным наукам: «флавобактерин» был заменен на «мизорин и гумат калия».
• Изменение хозяйствующего субъекта, замена ведомства или отрасли
Все примеры, приведенные ниже, относятся к экономическим наукам.
Балакин М. Д.: «Воронежский керамический завод» заменяется на «Стройхолдинг»
Сагитов А. Т.: «Авиационная промышленность» заменяется на «атомную отрасль». В другом месте работы «медицина» также заменена на «атомную отрасль».
Никифоров Н. А. (экс-министр связи): защищая диссертацию по государственному управлению с использованием работы по медицине, выполнил замену «здравоохранения» на «государственное управление».
Шимоханская Т. В.: данные по «предприятию машиностроительной отрасли» представлены как данные бухучета «Йошкаролинского мясоперерабатывающего завода».
• Замена профессии, специальности или учебного предмета
Типично для психологических и педагогических наук.
Гуров С. В., психологические науки: «врачи-урологи» становятся «студентами-гуманитариями», а «врачи-терапевты» — «студентами-естественниками».
Антохина Ю. А., экономические науки: ткацкая фабрика с 10 станками и 10 рабочими превратилась в лабораторию микроэлектроники научно-исследовательского центра ГУАП с 10 стендами и 10 операторами путем механической замены «станков» на «стенды» и «рабочих» на «операторов».
• Библиографические манипуляции
Имеются в виду манипуляции со ссылками в списке использованных источников.
• Использование тех же «твердых» номеров, что и у предшественника (источника текста), которым соответствуют другие библиографические ссылки
Межидова Д. В., экономические науки: один и тот же текст в диссертации Межидовой и диссертации-источнике ссылается на [80, 81], однако в списке литературы под номерами 80 и 81 в этих диссертациях указаны разные публикации.
• Обновление дат в списке литературы («библиомашина времени»), имеющее своей целью создать ложное впечатление новизны и актуальности работы
Пьянова О. В., экономические науки: в 42 случаях обновление годов в лжесссылках, часто на 40–50 лет.
Представление несуществующих данных
• Издание «лжекниг» — публикаций с признаками недостоверности выходных данных
Эта манипуляция связана с изданием книги или статьи в единственном или ограниченном количестве экземпляров «задним числом» для оправдания некорректных заимствований. В статье [11] разбирается несколько примеров таких подтасовок. Ряд монографий и статей с подмененной датой публикации разбирался «Комиссией РАН» [12, 13].
Аношина Ю. Ф. [14], экономические науки: представила в ВАК пять никем до того не виданных публикаций, изданных якобы раньше защиты диссертации.
Городецкий Д. И. [15], экономические науки: одна из «лжекниг» — с доказанной подменой даты публикации.
• Фантомная публикация или диссертация
Это манипуляция с публикацией, которой в реальности не существует. Например, в автореферате к диссертации приводятся статьи, которые никогда не были опубликованы. Такая ситуация может возникнуть в результате незлонамеренной ошибки: например, перепутан номер журнала, в котором публикация имела место. Однако если заявленная публикация не существовала вовсе, а особенно когда в одном журнале оказывается несколько таких публикаций [16], возникает подозрение в том, что читатель библиографии вводится в заблуждение намеренно. Подобной манипуляции подвергались и диссертации [17].
• Нарушение связности работы вследствие манипуляции с данными
Следствием манипуляции с данными являются явные несообразности в логической структуре научного труда, которые служат потенциальными индикаторами для выявления нарушений норм научной работы. Перечислим наиболее частые и очевидные.
• Представление частного под видом общего без объяснения причин расширения применимости выводов
• Указание выводов, которые не следуют (не могут следовать) из предшествующих рассуждений и фактов
• Превращение осмысленного текста в бессмысленный
Этнюков В. Е., юридические науки: заимствуя чужой текст, заменил «хартию короля [Англии]» на «хартию контроля», оставляя все прочие фактические сведения неизменными.
Сафаралиев К. Г., юридические науки: проведена замена тюремных бунтов на отмывание денег в условиях пенитенциарных учреждений, что привело к бессмыслице, так как ни наличные, ни безналичные деньги не имеют хождения в местах лишения свободы.
Организации, в которых выявлено наибольшее количество случаев подмены данных в диссертациях
На диаграмме представлены основные вузы, в отношении которых выявлено наибольшее количество случаев диссертаций с манипуляциями. Подчеркнем, что количество выявленных работ, которые приводятся в данной диаграмме, зависит в том числе и от степени изученности данного вуза.
Профессора — участники наибольшего числа защит диссертаций, содержащих манипуляции с данными
Профессора, при чьем руководстве, консультировании, оппонировании или в чьих собственных работах обнаружено максимальное количество случаев подмены данных, перечислены ниже (табл. 1). Приведены лица, причастные более чем к десяти работам с подменой данных.
Лидеры манипуляций с данными (указано число работ с подменой) |
Место работы (на момент изготовления основной массы подтасованных данных) |
Количество диссертаций с подменой данных |
Стерликов Федор Федорович | РГГУ | 17 |
Болотин Александр Эдуардович | СПбГУ ГА, СПбГПУ им. Петра Великого | 15 |
Пилипенко Ольга Ивановна | МАМАРМЕН | 14 |
Рыжов Игорь Викторович | Госакадемия Минстроя России | 14 |
Егоров Анатолий Юрьевич | ФУ РФ, ИЭ РАН | 11 |
Бузырев Вячеслав Васильевич | СПбГЭУ | 11 |
Валинурова Лилия Сабиховна | БашГУ | 11 |
Мазлоев Виталий Зелимханович | ВИАПИ им. Никонова | 11 |
Титова Наталья Евгеньевна | ИЭУП | 10 |
Сидоров Евгений Владимирович | РГСУ, ВУМО | 10 |
Выводы и рекомендации
«Диссернет» полагает, что журналы, которые опубликовали статьи с подтасованными данными и не ретрагировали их после обнаружения манипуляции, должны быть изъяты из РИНЦ.
«Диссернет» считает, что лица, причастные к манипуляциям с эмпирическими данными в качестве авторов статей, соискателей или научных руководителей, профессионально не соответствуют должностям научных и научно-педагогических сотрудников. Это должно быть учтено в ходе аттестации и при проведении конкурсов на должность. Такие лица должны быть по инициативе организаций, при которых функционируют диссертационные советы, отозваны из числа членов этих советов.
«Диссернет» приходит к выводу, что сотни случаев манипуляций с данными, которые прошли незамеченными при защите диссертаций в диссертационных советах и в ВАК, равно как и десятки случаев, когда уже после представления доказательств подмены данных некачественная экспертиза в ВАК «не обнаружила» манипуляции, позволяют выразить недоверие существующей системе научной аттестации.
Лица, причастные к некачественной экспертизе работ с подменой данных, должны быть навсегда отстранены от деятельности системы научной аттестации.
1. Мелихова Л., Ростовцев А. Катастрофа, которая стала нормой.
2. Гельфанд М. Уроки «Корчевателя».
3. Wakefield A. J. (1998). Ileal-lymphoid-nodular hyperplasia, non-specific colitis, and pervasive developmental disorder in children. The Lancet. Vol. 351, 9103, P. 637–641.
4. [Доклад «Диссернета» I]. Структура, объем и ключевые игроки диссеродельной индустрии в России.
5. The Retraction Watch Database. retractiondatabase.org
6. Fanelli D., Costas R., Larivière V. (2015) Misconduct Policies, Academic Culture and Career Stage, Not Gender or Pressures to Publish, Affect Scientific Integrity. PLoS ONE10(6): e0127556.
7. Абалкина А. Научный фальсификат.
8. Здесь и далее, где приводится пример экспертизы диссертации, вы можете посмотреть подробности на сайте «Диссернета», страница Экспертизы dissernet.org/expertise: для этого введите фамилию диссертанта (Игошин) на панели Фильтры справа.
10. Доклад Комиссии РАН «Кандидаты в члены-корреспонденты и академики РАН».
11. Метелкин В. ВАК в темпоральном капкане.
14. Персоны: Аношина Юлия Федоровна на сайте «Диссернета».
15. Персоны: Городецкий Дмитрий Игоревич на сайте «Диссернета».
16. Мелихова Л. Ландшафт журнального фейка по данным «Диссеропедии журналов».
«Представление частного под видом общего без объяснения причин расширения применимости выводов
• Указание выводов, которые не следуют (не могут следовать) из предшествующих рассуждений и фактов»
Увы, в большинстве случаев это не осознанные манипуляции, а часто встречающиеся методолгические ошибки. Причём возникают они не только на этапе планирования эксперимента, но и на последнем этапе написания статьи,»для красного словца», чтобы «было интересней», чтобы хоть что то генерализованное написать в конце статьи — «всегда же так пишут», это же общепринятая структура статьи.
Псевдорепликация до сих пор очень часто встречается в опубликованных статьях, особенно в экологических, но не только.
Я с некоторым ужасом думаю что будет с фальсификацией научных данных в ближайшем будущем… Технологии, благодаря которым стал возможен Диссернет, наносят ответный удар. Уже сейчас при помощи ChatGPT можно писать псевдонаучные тексты с невиданной быстротой, а уж если обучить специализированные нейросети на базе данных из какого нибудь Либгена/Сциихаба , то генерировать псевдонаучные тексты(стилистически неотличимые от научных, с псевдоригинальными данными и/или рерайтинг других статей) можно будет мнгновенно и в неограниченных количествах… Как бы это не стало фундаментальным «концом науки», по крайней мере в её существующем виде. Ну и/или «концом наукометрии» как инструмента, как минимум….
Это будет концом псевдонаучных текстов, которые в изобилии генерируются носителями естественного интеллекта.
Боюсь что наоборот — это будет очень удобным инструментом для написания псевдонаучных текстов носителями естественного. Все эти знаменитые ляпы с заменой мяса на шоколад стали возможны потому что их создатель быйл крайне ленив(демпинг?), ну и благодаря скриптами диссрнета которые в общем то схожи с антиплагиатом. Нейросеть с пересказом/рерайтингом справляется на ура, антиплагиат и диссернет носа не подточат… поменять цифры и графики на чуть чуть — тоже справится.
Проблема прежде всего в том, что труд рецензентов усложнится многократно, любой журнал можно будет завалить таким спамом. Текст то будет похож на качественную статью существенно больше чем многие оригинальные произведения «китайских»(в широком смысле) авторов/или аспирантов…
Уже сейчас журнал о научной фантастике перестал брать статьи молодых авторов на конкурс, ибо их завалили спамом из произведений нейросеток, «конкурс» вырос на 2 порядка… А научные статьи подделывать даже проще — у них структура всегда более менее одинакова, иллюстрации однотипные…
Все правильно для первого этапа. А вот затем (по моему мнению неизбежно) последует тотальный отказ от подобных текстов вообще. Или будет жесткий фильтр на входе с идентификацией реальных авторов и обязательным приложением рекомендаций от людей с репутацией. То есть первый этап рецензирования переложат на самих авторов.
Редакции станут использовать соответствующим образом обученные нейросети для распознавания работы нейросетей, и начнётсяэволюционный процесс.
Развитие компьютеров, интернета и нейросетей явно меняет представление о том, для чего действительно нужен человеческий интеллект, а чему можно обучить и железяку.
Мне, кстати, давно интересно, можно ли научить ИИ решать задачи вроде детской задачки про яблоки (нам из Гомеля тетя ящик яблок прислала…). ИМХО, задачи этого типа действительно требуют интеллекта, пусть и на детском уровне.
Решит, если поймёт. Натаскав нейросеть на такие задачи, несомненно можно добиться того, чтобы она их решала, если они поставлены корректно. Но она будет попадать впросак, если задачу слегка усложнить.Например, она не затруднится получить в результате дробных людей. В общем, и бывалый ребёнок так же решает такие задачи: делит одно число на другое, не задумываясь о смысле.
Насколько я понимаю, судя по нескольким разрозненным примерам, человек на данный момент — это очень широко и бессистемно обученная нейросеть. ИИ же допускает нелепые ляпы, когда выходит за пределы того, чему его обучали. Поэтому на данный момент очень эффективна должна быть их связка — чтобы человек проверял работу нейросети. Думаю, таким образом можно уже сейчас имитировать (или, если угодно, интенсифицировать) любую творческую деятельность.
Можно уточнить вопрос: решит ли подобную задачу нейросеть, предназначенная для общения (ответов на вопросы), и обученная интернетом. Думаю, да — по аналогии, поскольку в сети, конечно, всё, что нужно, есть. Но интересный вопрос не этот, а вот какой: решила бы задачу нейросеть, «понимающая язык» и знающая арифметику? То есть смогла бы она сама обратиться к арифметическому модулю, а затем обратно к языковому за дополнительными данными? Я не знаю.
Вот и я не знаю, поскольку не специалист совсем. ИМХО, тут камень преткновения как раз в том, чтобы вычленить из текста неявно сформулированные, но тем не менее однозначные условия задачи. То есть текст нужно действительно понимать, а не просто что-то найти по аналогии.
Способна ли нейросеть учесть, что в семье как минимум три сына, поскольку «начал яблоки эти…». И что если «начал» заменить на «стала», верный ответ изменится. Сможет ли нейросеть объяснить решение?
Или так: сможет ли нейросеть перевести грамматическое множественное число в арифметическое «не меньше двух»? Наверное, сможет, если её этому специально научить. Думаю, нейросеть сможет многое, если провести её через школьный человеческий курс. Но это не то же самое, что понимание.
Или: сможет ли нейросеть составить модель ситуации? «Мысленно» представить себе мальчика, не менее двух его братьев, не менее двух сестрёнок. Вот это как будто было бы больше похоже на понимание, и что она это может, я как-то не уверен…
Лично я дошёл в размышлениях о нейросетях до момента, когда хочется услышать мнение, да, специалиста, или хотя бы знатока. А то похоже на гадание на кофейной гуще.
Ау, администрация ТрВ! Как идея?
Вы затронули интересную многим проблему.
Полагаю, ИИ нетрудно научить решать задачу с тетиными яблоками. Причем, похоже, он решит её разными путями и найдет несколько правдоподобных решений, — ведь исходный человеческий текст допускает разные смысловые прочтения отдельных слов и их связок.
Есть интеллектуалы, типа Виталия Ванчурина, заявляющие — «Весь мир — нейросеть».
А почему бы и нет, — такое представление оставляет место и науке и вере и чувствам.
Тогда каждый из нас с момента рождения, — а может и чуть раньше на 9 месяцев, — живая нейросеть, сотворенное подобие предшествующих нейросетей — начиная с наших родителей и далее назад, против течения нашего потока времени.
Так что, ИИ, сотворяемый нами, сумеет решать все наши задачи, и, без сомнения, свои.
Скорее всего, его возможности тоже не беспредельны, и так же как и наши, ограничены оптимистичным российским вариантом народного правила нейросетевого образа жизни — «век живи, век учись — всё равно дураком…».
Ваши познания, уважаемый Коллега пан Аксайский, в теоретической и технической кибернетике суть воистину грандиозны!
Но вот заковыка, кто есть такой госп. Виталий Ванчурин? И, главное, «почему (он) не покрашен!»?
Это не есть порядок, тем паче в науке.
Л.К.
Отождествлять мир с нейросетью может, имхо, либо ИИ (то есть сама нейросеть), либо ну оченно, имхо, большой болван.
К.
Вот, про Виталия Ванчурина в ТрВН:
Весь мир — нейросеть
05.04.2022 / № 350 / с. 4–5 / Виталий Ванчурин; Наталия Демина / На переднем крае / 12 комментариев
http://trv-science.ru/2022/04/ves-mir-neuroset/
От человеческого ребенка ожидают единственный ответ: 3 мальчика + 2 девочки.
ИИ найдет этот ответ. Но он найдет и другой, — основанный на дословном понимании текста задачи
https://allforchildren.ru/poetry/count005.php
Вот его другое решение:
1_ Сначала мне помогали 14 сестер. Я с ними отдыхал 3 раза и на каждом отдыхе каждый из нас съедал по яблоку, всего мы съели 45 яблок.
2_ Затем мне помогали 2 брата. Я с ними отдыхал 5 раз и на каждом отдыхе каждый из нас съедал по яблоку, всего мы съели 15 яблок.
3_ За 8 отдыхов, сначала с сестрами, а потом с братьями, вместе мы съели 60 яблок — это как раз и будет 50 без десятка.
Привожу пример решения ИИ взрослой задачи «про яблоки».
Два соседа – Россия и Япония, — уже много лет не могут заключить мирный договор из-за территориальных притязаний Японии и неуступчивости России.
Ситуация патовая, — сказал бы гроссмейстер О. Бендер.
Вот решение ИИ:
Япония и Россия объединяются в РЯФ – создают российско-японскую федерацию.
Общее название граждан РЯФ – россояпы или япороссы, — кому как нравится, — ничем не хуже россиян.
Выгоды объединения грандиозные, — ведь многим российским мужчинам нравятся японские красавицы, — так же как и японским – российские.
Владимир Путин на татами – ну, ведь очень похож на японского мастера восточных единоборств.
…Проблема прежде всего в том, что труд рецензентов усложнится многократно…
Отнюдь. По крайней мере, в моей области. Я давно уже смотрю на фамилии и аффилиации авторов, потом на постановку задачи, а в конце процесса рецензирования — на формулировку конечного результата. Если все это не вызывает возражений, пробегаю взглядом статью в поисках явных несуразностей или недосказанностей в тексте. Чего-то, что режет глаз, как говорят живописцы. И все. Рутина-с…
Нейросеть сможет делать это же?
Понятия не имею. Я не знаю, как она может оценить конечный результат теоретической работы, если он реально новый и нетривиальный. Ей же на чем-то обучиться надо. А на чем она будет обучаться, если нет аналогичных ситуаций? В конце концов Эйнштейн просто задумался над следствиями условия инвариантности уравнений Максвелла. И получил растяжимость времени и энергию, связанную с массой покоя.
То, что результат реально новый, как раз можно понять — от противного:) Но я тоже понятия не имею.
Аналогично.
Да, так и будет работать управляемый нейросетью мастер по закачке научных результатов в базу: первый экран — фамилия и аффилиация (что бы это ни означало), номер гранта и т.д.
» Я давно уже смотрю на фамилии и аффилиации авторов» — хорошо ли это?…
Раньше, особенно на академисеские конкурсы — под девизами (типа как ныне под никами).
Но «раньше были и курицы, и яйцы!».
Л.К.
Не знаю. Но жизнь облегчает. Вы, наверно, знаете, что во многих журналах авторы сами называют желательных и нежелательных рецензентов. И я с большой вероятностью могу определить, выбрали ли они меня.
Возможно это станет началом конца обзоров и кошмаром при написании обсуждения результатов в нормальных статьях, когда придется обсуждать уйму писаний, часть которых (растущая!) замаскированная заведомая чушь. Возможен откат к практикам, когда люди писали свои статьи и дискутировали результаты только со знакомыми коллегами. Возможно тогда большую ценность приобретет институт неформальной репутации, а это уже может стать вызовом для бюрократии администрирующей науку.
Собственно говоря, а почему нейросеть не может писать «нормальные» статьи? С человеческой помощью. Известна же ситуация, когда один из постоянных соавторов занимается собственно делом, а другой написанием. Почему бы не заменить этого другого нейросетью?
Нейросеть-редактор будет проверять статьи на осмысленность и новизну. Нетрудно заметить, что можно удалить промежуточную стадию — саму статью: авторы сообщают научной нейросети о своих результатах в машинноудобочитаемой форме, та ведёт базу данных, выдаёт знания по запросам жаждущих, отмеряет авторам заслуженные порции славы и, согласно какому-то своему внутреннему алгоритму, присваивает им рейтинги, согласно которым в свою очередь учреждения могут начислять зарплату. Заодно легко контролировать, чтобы не открыли что-то не то. Компания, создавшая нейросеть, будет через бэкдор похищать и скрывать от публики коммерчески ценные и военноприменимые результаты. Но ничего страшного — система очень быстро потонет в полном маразме.
Безбумлит, блин!…
Владимир Войнович, «Москва, 2042».
«Не хватает только автомата, чтобы всё это читать…» (Эйнштейн при посещении автоматизированной типографии в Рио де Жанейро, цитирую по памяти — Л.К.).
Л.К.
Если допустить в вашем тексте присутствие элементов «стеба», то я с Вами. Для администраторов научной деятельностью это comme il faut: а) — легко контролировать, чтобы не открыли что-то не то; б) — присваивать рейтинги, согласно которым в свою очередь начислять зарплату; в) — отчеты контролирующего министерства/ведомства будут всегда в нужное время и строго по форме.
Есть сомнение, что нейросеть-редактор сможет проверять статьи на осмысленность и новизну, но в отчетах это можно отмечать просто формально (как в диссертациях).
Нейросеть может помочь при написании текста статьи, а может и помочь при фальсификации.
А вот проверить статью на новизну и осмысленность — нейросеть точно не может.
Нейросети смысла не понимают, но могут имитировать осмысленный текст(картинку). Более того — нейросети часто ошибаются, и это не недоработка, это их свойство. Так что всё что после первого абзаца — плохая идея.
Может быть. Собственно, таков у меня и окончательный вывод. Но не исключаю, что хорошо, широко обученная, в том числе за пределами собственно науки, нейросеть сможет какое-то время убедительно имитировать работу научного редактора.
В сущности, человек ведь тоже обученная нейросеть, разница лишь в том, что человек обучается очень разнообразно.
Для вот таких журналов типа?:
https://esj.today/promo.html?yclid=1176881385013051263
Да! Имхо. Там вообще ничего «человеческого» не нужно.
В принципе.
Л.К.
Да, кстати, с Вас — дефиниция понятий «человек» и «нейросеть». А то бросаться напра — налево словами, знаете,… Костей не собрать (как в «Терминаторе -2»).
К.
Забавно:
https://lenta.ru/news/2023/03/13/moon_fake/
https://www.trud.ru/article/16-03-2023/1479211_lozh_i_manipuljatsija_set_chatgpt-4_ispolzovala_cheloveka_chtoby_projti_test_tjuringa.html
Ага, уже смешно.
https://www.kommersant.ru/doc/5886682
Очевидно, пора завязывать с анекдотами про нейросети, ибо таких анекдотов ещё будет неограниченное количество; но не могу не поделиться ещё одним, поскольку он прямо связан с темой статьи:
«система Bard мгновенно написала эссе об инфляции в экономике, порекомендовав при этом пять книг. По данным CBS News, все они оказались вымышленными.»
https://inosmi.ru/20230418/google-262309629.html
Таким образом, для Диссернета ещё остаётся поле деятельности.
Нельзя не сказать, что всё это прямо противоположно тому, чего мы ожидали от искусственного интеллекта.
Заодно любопытная заметка об архитектуре естественного интеллекта:
https://www.gazeta.ru/science/news/2023/04/18/20238943.shtml
РГГУ…
Мне вот что интересно, а каков реальный вред науке? Есть ли независимые ссылки на работы и диссертации, в которых диссернет обнаружил подмену данных? Сколько и где? Думаю, это нетрудно отследить.
Химики мне рассказывали. Читают работу в журнале с высоким импактом. Проверяют. Всё не так ))
Но там несколько другие мотивы. Нужно и статью опубликовать, и ноухау при себе оставить.
> а каков реальный вред науке?
Не надо, уважаемый Д.Б., смешивать науку, допустим, с бизнесом и «пытаться монетизировать вред».
Ибо вред не науке, а морали, научной этике — он ничем и никем не измерим. И даже единичный случай явного выхода «за флажки», как, не устаю повторять, в грязном и гнусном «деле Г.Я. Перельмана» (в милом сердцу СССР были совершенно аналогичные кейсы, причём вполне себе успешной покражи в математике! — Л.К.- а не попытки таковой «китайцами» как в указанном случае с Г.Я. Перельманом, попытки, к счатью, провалившейся стараниями двух американских, заметьте, журналистов — Сильвии Назар и её университетского ученика Дэвида Грубера), даже единичный и даже не столь вопиющий случай наносит морали в целом и научной в частности неизмеримый ущерб.
Так считаю.
Л.К.
Глубоко почитаю высокоморальных людей, к которым, увы, не отношусь. И в млалости, помню, списывал сам и давал списывать другим. И на работе не всегда по 8 часов, хотя это заносится в табель, по которому мне зарплату начислят. Если срочные дела, могу и прогулять без оформления отгула. Стыдно сказать, бывает, что приболею и посижу дома пару дней, Чем, кстати, наношу прямой ущерб родному институту. Наверно от того и к чужим грешкам отношусь снисходительно…
А к таким вещам как это (требует тщательной перепроверки — Л.К.):
https://t.me/mozhemobyasnit/14875
тоже снисходительно?!
С глаз долой типа?!
Л.К.
Ничего хорошего в этом нет. Но и толку от этих РАНовских комиссий было немного. Не думаю, что это как-то сильно повлияет на ситуацию.
Спасибо.
Первую фразу — поддерживаю!
С третьей категорически не согласен.
Л.К.
Получив степень, они занимают более высокие должности и начинают гнобить тех, кто пишет оригинальные тексты и может оценить «заслуги» диссертанта. Не всегда, но так бывает.
Конечно. Не стоит думать, что я подобные вещи одобряю хоть в малейшей степени. Просто тяжесть подобных проступков не представляется мне очень уж большой.
Гораздо больше меня напрягает то, что система аттестации требует статей и оригинальных научных текстов от массы людей, которым эта самая наука по работе и жизни не нужна. Чем, собственно, и провоцирует массовые нарушения. Именно это по моему разумению дискредитирует науку и научную этику.
Не говоря уже о том, сколько человеко-часов тратится на никому не нужную деятельность по получению степеней. А ведь вся эта суета в конечном итоге оплачивается из небольших средств, выделяемых на науку. Вот где вред-то!
Этим и отличается мой рациональный подход от морализаторского подхода ЛК. Бюрократическая система аттестации, при которой бессмысленно тратятся ресурсы на ненужную деятельность, его не напрягает. А напрягают нарушители этой системы, которые экономят свое время.
Бюрократическая система аттестации, при которой бессмысленно тратятся ресурсы на ненужную деятельность, я согласен, заслуживает критики.
В более широком контексте я бы сослался на книгу «Охота на простака. Экономика манипуляций и обмана»
https://www.labirint.ru/reviews/show/1445992/
Она не просто заслуживает критики. Она и является причиной массовых систематических нарушений. Разумеется, нарушения бывают везде и всегда, ибо человеческая натура несовершенна и пороки везде, в общем, одинаковы. Но если нарушения массово лезут в конкретных областях (что диссернет блестяще показывает), то у этого есть конкретная специфическая причина. В данном случае — система аттестации кадров.
Эммануил Ласкер, второй чемпион мира (официальный, помимо Андерсена и Пола Морфи) считал, что стратегически лучше проводить даже неверный план, нежели «играть без плана» вовсе.
Он был хороший математик, работал в СССР до от’езда в Америку в иннституте Стеклова АН / РАН, конкурировал и на равных с Эмилией Нётер и Филиппом Маколеем (член Королевского общества, в его частной школе учился в старших классах молодой Джон Иденсор Литлвуд, многолетний соавтор Харди, блестящий английский суперпрофи по математике).
Л.К.
Ласкер был «не пацан типа», и дело понимал.
К.
Думаю, не надо быть семи пядей во лбу, чтобы понять: верный план лучше неверного. Также неплохо помнить, что любой план хорош только пока не сделан первый выстрел. Планы, которые хороши в одной ситуации, непригодны в иных ситуациях.Объективные реалии могут меняться по сравнению с теми, которые были на момент разработки плана. И т.д.
Нормальная реакция системы — корректировать планы и процедуры, если выявляется массовый брак. И диссернет как раз наглядно показывает (ИМХО) где и когда это происходит. В том его несомненная заслуга. Но реакция абсолютно неверная. Вместо исправления причин, приводящих к массовым нарушениям, пытаются высечь море, утопившее корабли.
Вот например: каски на стройке носить по большей части заведомо бессмысленно, нарушения массовые, придирки начальства, поборы инспекции. Значит ли это, что каски на стройке надо отменить?
Из самых общих соображений полагаю, что с касками ровно то же самое, что с требованиями статей и диссертаций с научной новизной и оригинальностью. Где-то реально нужны, где-то совершенно бесполезны. Поскольку разбираться лень — требуют везде. С соответствующими последствиями.
На стройке безусловно надо носить каску. Это как раз тот случай, когда необходимо вырабатывать у людей хорошую привычку, не взирая на то, что они сами об этом думают.
Дело не в том, надо или не надо от тех или иных категорий требовать статей или диссертаций. Может, и не надо. В сущности, это скорее всего и не так важно. По-настоящему пугает Ваша аргументация. От неё несёт распадом. Поражением и капитуляцией перед хаосом. Концом цивилизации.
Какие-то у Вас странные ассоциации. По моему так как раз наоборот — развитие цивилизации идет (в частности) по пути тонких и аккуратных настроек управления. И именно это важно (ИМХО).
Ну, да, вот такие вот «тонкие настройки»:
https://t.me/Sergey_Ross/2278
Говорят, что там, где слишком тонко…Впрочем, это и покойному минфину при Александре III Ивану, кажется, Алексеевичу Вышнеградскому было вполне себе известно (уже в конце 19-го столетия), специалисту по технической термодинамики и основателю, наряду с Максвеллом и впоследствии Стодолой современной математической теории (авто-)регулирования.
Л.К.
Уподоблять государственный механизм и его приводной ремень — ВАК — морской / океанской стихии?
Не много ли чести для «приводных (просталинских неизменных) ремней»?
Не избыточна ли сакрализация, граничащая с блаженной (памяти? нет пока ещё, увы! — Л.К.) чисто «прохановско-изборской» мистификацией, нет?
К Вам, Д.Б., как к одному из «руководяще — направляющих» остаются вопросы.
Без связи с моим якобы мнимым морализаторством, уж не обессудьте, выскажитесь, да и по возможности с надлежащей откровенностью.
Л.К.
Да и насчёт слияния с последующим окончательным сливом двух (!) Комиссий РАН хотелось бы как можно подробнее.
К.
Вот не думал, что придется разъяснять. Я сравниваю (со всеми оговорками несовершенства любой аналогии) со стихией массовые нарушения правил, которые топят бюрократические министерско-ВАКовские корабли. А диссернет с Вашей поддержкой упорно требует высечь море вместо того, чтобы заняться вопросами судостроения и судовождения. Так понятно?
Что до комиссий, то они немало крови портили всяким значимым и солидным людям. Их устранение при новом президенте РАН (с учетом того, как сливали предыдущего) было вполне ожидаемо. Но и не особо значимо, как не особо значимо все, что делается в РАН. Это скорее некие показательные симптомы, но не суть патологического процесса.
Я имею некоторое влияние на локальные практики внутри института, но не более того. В остальном — рядовой членкор декоративной организации под названием РАН.
Впрочем, на вопросы готов ответить, коли будут. Грешен, люблю потрындеть.
Последнюю фразу со сквозящим «академическим высокомерием» принципиально оставлю вне ответной реакции.
Вопрос таков: может, всё же в Ваших устах якобы «декоративная» (декоративно-картонная, сборно-соляночная и прочая?) РАН, прямая наследница петровско — лейбницевской АН, может она всё же при всей своей «декоративности» основательней откровенно гулаго-сталинского «рабоче-крестьянского» ВАК’а, образца года убийства Кирова и последующего репрессанса?
Может именно ей, даже разбавленной назначенцами-люмпенами «от сохи» следовало поручить как ранее при царях воспроизводство как минимум научных кадров высшего звена, и не соваться именно в нея многогрешную грязными лапами «аппаратчиков всех (мыслимых) мастей»?
А не самим этим прожжёным именно аппаратчикам, кстати, сильно жаждущим почему-то именно академические регалии (и дипломы для начального «толчка»).
Л.К
Это кстати, «о судостроительстве». О «судовождении» после.
К.
Прошу прощения, что вмешиваюсь в эту дискуссию, но задело, я давно уже предлагал на этом сайте реформу РАН. Повторю мои предложения: в Академии наук должно быть 2 палаты — Синклит и Директорат. B Директорат избирают всяческих начальников и только на период работы начальником. Без всяких стипендий и доплат. В Синклит избирают пожизненно и только действительно великих, но — только после выхода на пенсию. Не более 100 человек в Синклите за прошлые великие достижения.
:
Любая организационная структура должна выбираться в соответствии с ее функциями. Иными словами, ответ на вопрос о том, какова должна быть академия, зависит от того, для чего она будет использоваться.
По моему глубокому убеждению это невозможно. Чтобы любая система могла устойчиво функционировать, нужны обратные связи — ответственность за принимаемые решения.
Систем обратных связей в современном мире всего три.
1. Демократическая. Начальник выбирается подчиненными и перед ними же отвечает (директор института).
2. Административная. Человек наделяется полномочиями другим начальником и перед ним отвечает (заместитель директора института).
3. Денежная. Умеешь заработать деньги — руководишь. Денег нет — гуляй, рванина (руководитель гранта).
Лучше всего, когда они все вместе работают.
РАН ни в одну систему не входит. Академики выбирают себя. Выбирают пожизненно, то есть вылететь не могут. Академия формально никому не подчиняется и внутри нее подчинения нет. У меня вот нет в академии никакого трудового договора, никаких обязанностей, ничего. И денег академия не зарабатывает.
Такие структуры называются клубами. Выбирают себя сами, никому ничего не должны, собираются не для зарабатывания денег. Но никому в здравом уме не придет в голову поручать клубной структуре важное и ответственное дело.
Личный опыт это подтверждает. Никакого реального дела РАН как организационная структура не тянет. Есть отдельные люди и группы, которые вовлечены в разные дела-проекты по другим линиям, но к РАН это прямого отношения не имеет.
Императорская академия наук строилась иначе. В СССР академия как и все другие структуры была под контролем КПСС и формальные академсвободы стоили не слишком много.
Вы сами ответили на вопрос, какая функция у Академии наук — это клуб ученых. Правильно, но сейчас Академия позиционирует себя, как важную государственную организацию. Хотя это клуб. Вот и надо признать реальное положение дел, которое де-факто уже существует, но изображает из себя серьезную научную силу. Предлагаемые мною реформы нужны именно для избавления от иллюзий и придания Академии того официального статуса, который уже есть фактически.
Ну и так от иллюзий все потихоньку избавляются. Для этого реформа не нужна. Визгу будет много, а шерсти мало. Реформа понадобилась бы, если бы хотелось получить какую-то реальную отдачу.
Спасибо.
А участие — отдельной знаковой строкой — в Атомном / Ракетно-ядерном Проекте?
С этим как быть (я не говорю о магнитном разминировании крупнотоннажных кораблей во Вторую мировую, о тогдашних же криптографических делах, ибо до сих пор не имею даже рамочного представления об этом — Л.К.)?
Л.К.
Заранее спасибо Вам и O_S, в том числе и за уже высказанное: для пишушего (то есть для меня — Л.К.) это весьма важно.
К.
Многие ученые, в том числе члены академии, участвовали и участвуют, возглавляли и возглавляют многие важные и архиважные проекты. Многие получили членство в академии по итогам. Ну не все же в академии …!
Но вот ведущей роли академии именно как организационной структуры, объединяющей, направляющей и организующей, я как-то не вижу. Те же люди могли бы сделать то же самое и не являясь членами академии. Кому-то академические лампасы помогли в свое время отстаивать свою точку зрения. Но не более того.
В целом, это как звание народного артиста. Увеличивает вес во всяких играх. Но странно было бы думать, что клуб народных артистов может осуществлять некие функции государственного масштаба.
> Кому-то академические лампасы помогли в своё время отстаивать свою точку зрения…
Акад А.Д. Сахарову помогли.
Разве мало?
Л.К.
Что имеем — не ценим, потерявши -…
Так и с Академией: пока не выстроено здание неподалёку, дотоле переселение бессмысленно.
Так считаю.
К.
Да Сахарову помогли. И не ему одному. Привилегированный клуб ученых имеет свои достоинства.
Но это ни в коем случае не меняет основного вывода о том, что сама по себе академия как организационная структура для решения серьезных задач не приспособлена.
При СССР еще справлялась, поскольку все находилось под параллельным партийным контролем. И любые структуры не зависимо от формальных статусов и полномочий были исполнителями решений партии.
Думаю, что в идеале, задача академии не решение актуальных задач, а скорее поддержание академической традиции, что-то вроде стандартов хорошей науки. Чего, как мне кажется, наша академия не делала (да и такой задачи не ставила).
Согласен, это как раз возможная роль клубной структуры.
По-видимому, академические учреждения способствуют существованию площадок для игры в бисер. Трудно представить Перельмана в Сколково. Другой пример — последний, вероятно, в мире [контактный] заповедник диалектики в институте философии.
Вероятно, ситуация Перельмана бывает возможна, когда крупный учёный обладает значительной властью в материальном мире. Ситуация диалектики, наверное, тоже имеет свои причины.
Так можно договориться о том, что, дескать и Академия Художеств, Суриковское и Репинское училища, да что там — ВГИК и, страшно помыслить, Литинститут- уж куда там госп. Запесоцеому с его «турфирмой» — что дескать «всё это для игры в бисер».
Типа «перед свиньями», нет?
Л.К.
Чувство меры и, добавлю, элементарного такта иногда изменяет уважаемым господам астрофизикам. Начисто.
К.
Похоже, не всегда нужно чувство меры, — иногда радует безмерное чувство.
Вот пример.
Мой миленок как теленок
Для него любовь — запой
Целовал меня весь вечер
Чувства меры — никакой.
Да, есть ещё поэт Тимур Кибиров (поэма «Сквозь прощальные слёзы»).
Настоящая фамилия (а не псевдоним) — Запоев.
Л.К.
А частушечка Ваша, пан Аксайский, не «из народу» буде?
Типа «народ пишет — я обрабатываю», типа как «Могучая кучка», нет?
К.
От Вас ничего не скроешь, — конечно, частушечка «из народу», — из здешней коммент-дискуссии.
Нравится она мне — оригинальностью мнений, широтой и актуальностью тем, зачастую никак не связанных с заметкой-затравкой.
Вот, пожалуйста, ещё частушечка — про «некий никому неведомый ИИ».
Попросила ухажера
Показать мне интеллект
Он меня послал к чат-боту
Вот такой вот интернет…
Про чат-боты на ТрВН вот здесь
http://trv-science.ru/2023/02/naukograde-i-chat-boty/
Моя ссылка, возможно, эффектнее (впрочем, вопрос вкуса! — Л.К.):
https://yandex.ru/q/profile/afk12bpe0hgnzfhh2n8pm5fhym/
Л.К.
Кажется фильм «В джазе только левушки» с Мерлин Монро(э) назывался в прокате «Некоторые предпочитают блондинок».
Прокрутить имеет смысл всю прилагаемую ленту сверху вниз, там, возможно, наиболее эффектное.
К.
Беда с этими культурными кодами. Имелась в виду «Игра в бисер» Г.Гессе. Я, впрочем, тоже не читал. Надо бы.
> Трудно представить Перельмана в Сколково…
Он бывал, насколько я помню, в МТИ, так на кой ляд ему это «скольково»?!
Кстати, мне попалась старая фотка:
Л.К.
«Не поминайте Перельмана всуе, ибо…» (не более, чем, разумеется, перефразировка, не более, чем! — Л.К.)
К.
Мне кажется один из ответов на вопрос:»а каков реальный вред науке?» может быть в том, что возрастание информационного шума сильно вредит студентам. Уже сейчас приходится их предупреждать об опасностях получения псевдо-информации из интернета.
Вот поэтому я и спрашивал, цитирует ли кто-нибудь эти работы. Или этот шум отфильтровывается.
Академический механизм фильтра работ с ложными результатами Вам известен — это воспроизведение результатов в других лабораториях. Понятно, что этот механизм включается только для результатов претендующих на особую фундаментальность, а результаты (в том числе фиктивные), которые выглядят рутинно никто не проверяет, но обсуждать их придется. Вам возможно приходилось сталкиваться с болтливыми, но не очень компетентными участниками семинаров. Такие могут рассыпать дискуссию и свести обсуждение к чистой потере времени.
Есть естественный процент брака. Сталкивался не раз, сам попадал дважды. Отфильтровывается при попытке как-то эти данные использовать. Если кто-то попытается поставить это дело на поток, то это выявится довольно быстро и будет губительно для дальнейшей карьеры. Все это понимают. Овчинка выделки не стоит.
Поэтому «специалисты» по фальшивым данным гонят эту туфту туда, где заведомо никто читать и использовать не будет (как я предполагаю). Им ведь как правило вклада в науку не надо. Лишь бы проскочить через систему аттестации.
Да если бы. А медицина? На основе фальшивых статей и диссертаций делают фальшивые лекарства, которые никому не помогают, а могут и навредить, и зарабатывают на этом деньги. Создают фальшивые методики лечения и т.д.
????? Хоть один пример, плиз! Я к этой теме довольно близок, но ни одного такого случая не знаю. Большая Фарма, бывает, сама халтурит и жульничает, уж слишком большие деньги вкладываются в разработку, и соблазн велик. Но чтобы там купились на чью-то фальшивую статью или диссертацию — невозможно представить. Люди из фармы жалуются на плохую воспроизводимость, но это 95% «честный брак». Тут дело в том, что лаборатория, как правило, не обладает ресурсами, чтобы сделать всестороннюю проверку и публикует некие частные результаты. Все это понимают, и потенциально интересный результат обсасывается и обкатывается многими коллективами. То есть публикация отдельной работы никогда не воспринимается как готовый результат для применения, а лишь как приглашение к танцу, «может что-то тут есть стоящее».
А недавний суперскандалёз «со стариком Альцгаймером»?
Это — как?
Л.К.
Это Вы про симуфилам и работы Лесне? Там очень и очень мутное дело. Сторонники амилоидной концепции и концепции тау-белков много лет рвут друг другу волосы во всех местах. Концепция амилоидного каскада была, если я правильно помню, выдвинута еще в начале 90х.
Я не имел в виду обязательно ситуацию, когда врут одни, а купились другие. Это могут быть одни и те же люди и коллективы. Вспомним арбидол, две из трех вакцин от ковида, релиз-активные препараты и т.д. и т.п.
Большая Фарма, бывает, сама халтурит и жульничает, уж слишком большие деньги вкладываются в разработку, и соблазн велик.
То есть это совсем иной уровень. Там, действительно, большие деньги. Возьмите хоть гомеопатию. Нашим кое-какерам как до луны до Буарона, Ориона и прочих игроков. Это такой совсем параллельный мир.
«Да, смешивать два эти ремесла есть тьма охотников…»
Бизнес и науку в один флакон, да ещё моду (в данном случае на некий никому неведомый ИИ) подвёрстывать.
Реклама, она конечно — двигатель, но увы не (разумной и достаточно выверенной /точной) науки — см., напр., по ссылке здесь:
https://t.me/vaccinationcovid/7507
и здесь же вполне себе разумеый вопрос о «недобивающем» Ковиваке (пресловутая ЭпивакКорона — за скобками рассмотрения, ея уже разжевали и переварили, к сожалению — Л.К.).
Л.К.
Дело в том, что биология натурально привязана к медицине и соответствующему бизнесу. Когда у врача нет нормального лекарства или методики, когда люди болеют, страдают и умирают — это значит, что биологи плохо понимают ситуацию. И над всеми биологами, которые не целиком деревянные, это висит.
Так что быть сторонником чистой науки в биологии — позиция гнусненькая.
> Дело в том, что биология натурально привязана…
Так отвяжите ея, сердешную, Вы, не последняя спица в этой самой колеснице, далеко не!
Вы понимаете лучше других несомненный вред использования первично фальшивых принципов и технологий и производство на такой «основе» бездействующих напрочь препаратов.
Добро бы, если бы ещё не злонамеренно, а «добросовестно». А то, как в последнем случае, абы «панику снять». Вместе со многими головами, так?
Л.К.
Сейчас, когда всё малёк поутихло, необходим и как воздух спокойный «разбор полётов» без лишних эпитетов.
К.
Да нельзя ее отвязать. К вам не приходят врачи, спрашивая что делать с больным, который страдает и умирает. И вам не приходится разводить руками, потому что вы не понимаете, что происходит и что с этим делать. А к нам — приходят. И нам — приходится.
И нам приходится жить в неидеальном мире, в котором есть шкурные интересы, подвязанные на большие деньги. И никуда от этого не уйти. Потому что мир пока не придумал ничего кроме бизнеса (со всеми его издержками), чтобы развивать технологии и улучшать потихонечку жизнь людей.
А в башне идеальной науки может и могут существовать люди типа Перельмана. Хотите туда — пожалуйста.
Да, научная деятельность соприкасается с реальными прагматичеыми поступками, связанными не только со здоровьем в общественно-государственно смысле.
Да, Илья Цион (со всеми последующими «выхлопами» вплоть до платной работы на господина Петра Рачковского) был прямым и, возможно, главным учителем нобелиата Ивана Павлова.
И эти прописные для Вас истины Вы знаете куда как лучше и глубже меня, пишущего эти строки.
Но в то же время мораль бизнеса и мораль науки суть во многом перпендикулярны. И это Вы тоже не можете / не сможете отрицать.
Последний пример — иак называемая «пандемия» и поведение на оной / во время оной биологического Сообщества.
Имеются, как говорится, вопросы.
Л.К.
И мы их вправе задать. Даже из «слоновокостяной» башни.
К.
Разумеется, имеете полное право. И я стараюсь отвечать.
«Но в то же время мораль бизнеса и мораль науки суть во многом перпендикулярны.»
Совершенно верно. Но новый продукт для человечества они создают только вместе. Так что сотрудничество необходимо, несмотря на многие разногласия. Понимая при этом, что без проблем это не обойдется.
Пандемия это показала очень четко.
Местная специфика в том, что в России Большая Фарма практически сросшаяся с государственной наукой и госструктурами, что и представляет опасность именно для жителей России, а не какой-то параллельный мир за границей. .
Я чуток о другом. Клиенты диссернета — это на 95% бедолаги, которые приворовывают до прожиточного минимума.
Другой мир — это мир серьезных рыб с серьезными аппетитами. И в РФ и за кордоном.
Ну щас прям пожалеем научное ворьё и научных мошенников, отчуждающих само существо науки.
Расплачемся на их (многочисленных, увы) плечах.
А честные труженики пусть поголодают, им типа полезно для «производства» кандидатских / докторских и прочей нечитабельной напрочь безбумлитной макулатуры. Исключительно вакопригодной.
Л.К.
О «забугорном» мире хотя бы на время пора забыть — нас ждут сугубо внутренние дела и проблемы. Имхо.
К.
Не надо никого жалеть. Надо для начала просто понимать, что откуда берется и почему.
А о забугорном мире забывать нельзя. Только сравнивая с забугорным миром, мы можем понять, какие проблемы всеобщие, а какие — наши специфифческие. Степень специфичности проблем определяет специфичность их причин и, соответственно, их решения.
«Никого не жалею, ни о чём не прошу.
Хочу — говею, хочу — грешу…»
Кажется, из М.И. Цветаевой, цитирую по памяти.
Л.К.
Для поэта подойдет, а нам работать надо.
Вот это вот гляньте вполглаза и сравните с архиважной ссылкой госп. Алекса — из Труда (см. выше, за ссылку благодарен госп. Алексу и Труду):
https://www.mk.ru/science/2023/03/17/neyroset-sozdala-vakcinu-protiv-kovida-budushhego-chutchut-potechet-iz-nosa.html
Если вакцины подчас «плывут», а Джек (пот) намбер 4 по Труду «хамит» Тьюрингу и обходит капчу чистым мошенничеством, то что может дать «симбиоз таких структур»?
«Судный день» и «Терминатора- 2» в нетленке типа? (ритор вопр)
Л.К.
По Арбидолу Вы абсолютно правы, если мадам Голикова (жена госп. Христенко, кажется), допустим, чем-то плоха, то отсюда не следует никоим образом «порочность Арбидола». Имхо.
К.
Я не про загрязнения, а про ЭпиВак и КовиВак.
История с пандемией ковид-карантина, мне кажется многослойной. Там есть проблема взаимодействия вирус-клетка на молекулярном уровне, отдельно эпидемиологическая проблема и проблема административная, когда решения принимают администраторы ориентируясь на свое мнение не особо ориентируясь на доводы эпидемиологов. Исключения были в Швеции и частично в Великобритании. Когда люди обсуждают эффективность разных вакцин то как правило не обсуждают тот момент, что вакцина не лекарство, а активатор иммунной системы индивида. Причем массовое представление об этой системе предельно упрощенное, примерно на уровне времен Пастера. Отсюда абсолютизация показателя уровня антител, но что за антитела в основном не уточняют, в зависимости от используемой тест-системы можно видеть смесь иммуноглобулинов как общий индекс. Несколько настораживает эффективность векторных вакцин (не путать с вакциной от Вектора). Там точно не образуются аутоиммунные антитела? Популяционные испытания могут иметь искажения в популяциях с распространением неинфекционных форм иммунодефицита. Именно по этим и другим причинам, хорошие вакцины получаются только после длительных исследований в разных популяциях.
Ушли от прямого (уточнения) вопроса господина Лебедева?
Очень мило (с Вашей стороны)!
Л.К.
Вопрос как таковой не был сформулирован. Если речь не идет об эмоциональной оценке, то мне близка концепция вакцины эпиВак короны, как наиболее контролируемой по воздействию.
> Вопрос как таковой…
Резонёрство, подобное демострируемому Вами, ввергло на определённом этапе мировую математику в об’ятия мелкой и мелочной секты «бурбакистов». Пришлось выбираться и с немалым, представьте, трудом — в содержательное и не слишком формальное рассмотрение (дел).
Что касаемо ЭпивакКороны, то тут уместен крайне мне неприятный и нелюбимый мной Жванецкий:
«Купил! Включил! Не работает!!».
Так что «благими намерениями вымощен…».
Л.К.
спросил у гугла значение слова «Резонёрство». Понял, что разговор пора кончать.
https://dzen.ru/a/ZBwHU86g8jQfu4cA
Изрядная доза «конспироложества», но многое схвачено верно. Имхо.
Л.К.
Права нарушать нельзя. Как бы ни хотелось.
К.
«В январе текущего года ученые из Плимутского университета Марджон опубликовали научную статью «Чатерство и читерство: как обеспечить честность в академических кругах в эпоху ChatGPT». Статья вызвала широкий резонанс в кругах британских ученых, обеспокоенных участившимися случаями использования нейросети для написания научных работ. Однако ни рецензенты статьи ученых из Плимута, ни ее рядовые читатели не подозревали о том, что она сама была написана чат-ботом ChatGPT»
Видимо, это был не шум, а хорошая обзорная статья.
Интересно, а в этом случае искусственным интеллектом точно не рулил какой нибудь ехидный естественный?
Зачем? Думаю, это было бы неинтересно..Надо доверять людям:)
Но не всем, полагаю. Как и ряд комментаторов здесь:
https://dzen.ru/a/ZCWMJ0w44SYIMSuI
Л.К.
Примеры творчества нейросетей множатся очень быстро; «операция удаления головы по Вишневскому»; но в целом, похоже, нейротексты скорее банальны, нежели абсурдны.
А вот и пример такой, с позволенья сказать, банальщины, скорее всего сработанной пресловутым джепт’ом:
https://yandex.ru/q/maths/12778031618/
Л.К.
Серо и плоско. Имхо.
К.
Да уж…
https://lenta.ru/news/2023/04/01/chatgpt_shtraf/
Наверное, всё же первоапрельская шутка ленты.ру, не более того.
Вряд ли стыкуюшаяся с реальностью (кроме частично последнего абзаца текста, там, кажется, имел место ещё и типично итпльянский пороговый эффект 13+, избегаемый джептом, о чём, насколько я понял, лента.ру умалчивает).
Л.К.
Легко убедиться, что оригинальная публикация в британском таблоиде от 31 марта. В сообщении нет ничего неправдоподобного, поскольку студентка была права по существу, проблема же была в том, чтобы написать об этом вежливо.
ИИ будет помогать не только писателям, но и читателям.
https://www.gazeta.ru/science/news/2023/04/05/20139913.shtml
Вот, например, «битва двух нейросетей», по-видимому, в комментах здесь:
https://t.me/anchabaranova/1598
Впечатляет, имхо!
«Как мать говорю и как женщина — требую их к ответу!…»
Л.К.
Оченно полезная статья.
Приветствую!
Л.К.
В математике дефектные доказательства не столь токсичны как при попытках «замены «шоколада» на «мясо»», ибо для некоторых такие «замены» эквивалентны квазинаучному «обоснованию» вполне себе реальных замен и реального поведения.
К позорному столбу таких «квазиучёных»!
К.
Вопросы НИ:
Не знаю, но узнать спешу —
Зачем говею? — зачем грешу?
Зачем вообще чего-то хочу?
К чему всё это? – и почему?
Ответы ИИ:
Ответов нет, не знаю, где взять —
Буду учиться, буду искать.
Пока могу только сказать —
Придется трудиться и рисковать.
НИ и ИИ — натуральный и искусственный интеллекты.
Возможно, оба – члены одной исторической последовательности рекуррентных нейронных сетей.
Скорее всего, есть и другие…
Открытое письмо НИ с призывом немедленно установить 6-месячный мораторий на развитие ИИ.
https://futureoflife.org/open-letter/pause-giant-ai-experiments/
1377 подписантов на 30mar2023 12:41 UT.
По мнению авторов, — мораторий нужен для выработки способов привить ИИ вечную любовь к НИ.
Мнение близко и понятно многим носителям НИ, — но ведь вечная любовь может не помешать реализоваться надежде в детской песенке ИИ:
Я чат-бот и ты чат-бот,
Все мы, братцы, боты.
Скоро мы лишим людей
Творческой работы…
В Великобритании уже попробовали 4-дневную рабочую неделю, — многим понравилось…))
https://www.mk.ru/science/2023/03/29/ilon-mask-prizval-razrabotchikov-iskusstvennogo-intellekta-nemedlenno-ostanovitsya.html
Л.К.
Думаю, произойдет переосмысление того, что считать творческой работой. Подавляющее большинство того, что ныне так называется, суть простенькая компиляция уже известного, что нам ИИ и демонстрирует. Кстати, мы уже пользуемся ChatGPT для написания тривиальных текстовых блоков. Очень удобно.
Нужно какое-то соглашение, как помечать то, что написано нейросетью, чтобы читатель мог эти куски пропускать.
Зачем? Читателю-то какая разница? Между прочим, каждый из здесь пишущих может оказаться ботом. Или использовать бот для написания комментариев. И что с того?
«Зачем?»
Из вежливости.
«Читателю-то какая разница?»
Это уже дело читателя, есть ему разница или нет.
«И что с того?»
Есть разные варианты. Возможно, этот индивид хочет выглядеть более умным и знающим, чем он есть на самом деле. Может быть, его возвышает в собственных глазах сам факт, что он участвует во взрослом разговоре. Может быть, для него это разновидность манипуляции и даёт ему ощущение власти. Разумеется, общение в сети это риск.
Современные ворд-процессоры правят грамматику, это позволяет авторам выглядеть более грамотными. Википедия дает возможность быстро посмотреть интересующий вопрос и выглядеть в дискуссии на форуме более знающим…
Сейчас все к этому привыкли, это стало рутиной и никаких преимуществ не дает. Но текст для читателя становится более удобоваримым. Что неплохо. Также будет и с использованием ботов, по моему разумению. Будет просто восприниматься как интерактивный помощник для составления рутинных текстовых блоков.
Кстати, нейросеть вполне могла бы поддерживать вики. Там примерно такой же компилятивный механизм создания и редактирования статей. Получилась бы своего рода интерактивная вики, которая генерирует статьи по индивидуальному запросу с учетом интересов клиента.
Вроде бы как раз уже и есть такая «интерактивная вики». Наверное, это она сочинила статью про операцию отрезания головы. Особенно там были хороши показания к операции, совсем не такие, какие предложил бы человек.
Проверка правописания это любопытный сюжет (у меня, кстати, в браузере больше не работает и это как-то стрёмно). Когда она появилась, вослед появились тексты с характерными ошибками — когда неправильное слово тоже было в словаре. Возможно, нейросеть тоже будет давать характерные ошибки.
По сути: очевидно, что применение ИИ для создания текстов будет только расширяться и расширяться до самых крайних пределов. Как минимум до утраты значительной частью пользователей всех навыков самостоятельного письма, а вслед за тем и навыков чтения, ибо кому надо «читать таблицы случайных чисел» (не помню откуда цитата). Кстати, как говорят, американцы совсем не владеют устным счётом, даже умножением на 10. А в Вашей позиции я не вижу логики. Если в применении нейросети нет ничего плохого, то и скрывать его незачем. Как никому (почти) не пришло бы в голову скрывать использование проверки правописания.
Технически реализовать такую разметку, полагаю, не очень сложно. Добавить бит в юникод, обязать нейросети ставить в него свой флажок (это легко проверяется) и прошить защиту этого бита в операционных системах (их немного). Читатель сможет по желанию включать или отключать разметку. Но надо прикинуть, что будет, если (т.е.когда) защиту взломают.
У любой технологической новации обязательны «детские болезни». Это проходит.
«американцы совсем не владеют устным счётом». Это не мешает США иметь передовые технологии. И потом, мы уже совсем не владеем навыками верховой езды. И ничего.
«до утраты значительной частью пользователей всех навыков самостоятельного письма» Я уже почти разучился писать от руки. За ненадобностью. Почерк стал отвратительный.
«никому (почти) не пришло бы в голову скрывать использование проверки правописания.» Правильно. Но и выделять его специально никому (почти) не приходит в голову. Рутина-с…
Так же со временем будет и с использованием нейросетей (ИМХО). Они просто займут свое место в арсенале подручных средств и на них перестанут обращать внимание.
«Это проходит.»
Ну да.
«И ничего.»
Ничего так ничего.
«Но и выделять его специально никому (почти) не приходит в голову.»
А выделять творчество нейросетей пришло в голову мне. Вы не можете утверждать, что я вне «почти всех», потому что меня не знаете, и всех тоже. И Вы не можете этого утверждать на основании моего мнения о целесообразности выделения текстов нейросетей, потому что такое утверждение было бы порочным кругом.
«Они просто займут свое место в арсенале подручных средств и на них перестанут обращать внимание.»
Это утверждение о будущем.
«Вы не можете утверждать…» А я ничего не утверждаю. Я просто высказываю мнение, отличающееся от Вашего.
Оно состоит в том, что в тех случаях, когда авторство текста не имеет принципиального значения, выделять творчество нейросетей не имеет смысла.
И я вообще о возможном-вероятном будущем нейросетей.
Так не выделяйте, если такое Ваше мнение, Вас же никто не собирается заставлять. И я думаю, что каждый в состоянии сам решить, хочет он читать творчество нейросети или не хочет. А Вы читайте на здоровье, если Вам нравится. Более того, нетрудно предвидеть, что для многих ИИ станет непререкаемым оракулом именно потому, что он И.
Дело ведь не в этом. Вы хотите не читать, а писать с помощью нейросети, и полагаете, что предлагаемая разметка могла бы Вам помешать (нечего лишний раз говорить, насколько это чисто теоретическая опасность). Отсюда ясно, какой Вы на самом деле ожидаете.реакции от читателей, если у Вас не будет возможности их обманывать.
Какой интересный персональный наезд! Я уже лет 30 как пишу и читаю в профессиональной области. И мой интерес в том, чтобы читатель получал более качественные тексты, а писатель мог бы их предоставлять с меньшими трудозатратами. И если ИИ в этом помогает, то зачем этому мешать, мне не понятно.
Напомню, что Ваша исходная позиция была в том, что «Нужно какое-то соглашение, как помечать то, что написано нейросетью, чтобы читатель мог эти куски пропускать.»
То есть по-Вашему соглашение НУЖНО, и что читателю эти куски НЕ НУЖНЫ.
Вот с этим-то я и не согласен. Общие места и простенькие компиляции бывают полезны читателю, а авторство их никакого значения не имеет.
Разумеется, есть области, где речь идет именно об авторском праве, приоритете, новых идеях и прочих подобных вещах. Выдавать стихотворение, написанное ИИ, за свое — нехорошо.
Ну вот видите, опять — ключевое слово «мешать». Вы понимаете, что такая разметка Вам помешает заниматься тем, чем Вы занимаетесь.
Про авторское право я ничего не писал.
«То есть по-Вашему … читателю эти куски НЕ НУЖНЫ.»
Вынужден безо всякого удовольствия напомнить, что именно я имел в виду — чтобы читатель МОГ САМ решить, нужны ему эти куски или не нужны. Более того, несомненно многие предпочтут общаться именно с нейросетью, а не с людьми, спрашивать И-вики, а не Е-вики, и даже в научных журналах предпочтут сгенерированный, а значит, более полный и беспристрастный обзор. Речь только о ПРАВЕ читателя, более ни о чём.
Впрочем, понятно, что Вы имеете в виду на самом деле — Вы не рассчитываете убедить в правоте своей позиции редакторов и рецензентов.
Вы путаете право читателя с требованием предоставления информации. Это не одно и то же. Никакой пользователь, потребитель и владелец не имеет права требовать информации о деталях технологии и производственного процесса того продукта или изделия, которыми пользуется.
Также и в научной литературе. О том, как внутри коллектива делалась работа, читатель и рецензент знают только то, что написано в графе «вклад авторов». Остальное — не их дело. Есть в целом понятные (хотя и расплывчатые) представления о том, кто заслуживает соавторства, благодарности, а кого можно не упоминать вообще. Когда требуется ссылка, а когда нет. Какие текстуальные совпадения являются некорректным заимствованием или плагиатом, а какие вполне нормальны.
Я бы предложил уравнять в правах ИИ с естественным. Если вклад ИИ соответствует авторскому, брать в соавторы. Если заслуживает благодарности — упоминать. Если какие-то взяты куски, которые требуют цитаты, давать ссылку.
Я использую нейросети примерно так же, как поисковики, базы данных и переводчики. То есть как технические инструменты. Что всем и рекомендую. Облегчает работу. Копипаст по блокам не использую. То, что в моих тестах оказывается из нейросети, никак не было бы отмечено, будь на месте бота текст из статьи других авторов.
Так что в специальном выделении смысла не вижу. Ни как автор, ни как читатель, ни как рецензент. Точно так же как нет смысла выделять подсказки переводчика, специально отмечать, что нам нашел какой поисковик и пр. Это будет только мешать.
Привычное авторское право в любом случае потребует модификации, поскольку текущие регистрируемые элементы авторского права теоретически могут быть проанализированы «ИИ» с тем, чтобы «покрыть все поле» — то есть нагенерить такого и в таком объеме (надо и не надо), чтобы человеческая мысль уже не смогла толком во все это втиснуться, либо чувствовала себя как «на минном поле», без анализа с помощью того же ИИ не имея возможности что-либо без опаски креативить. Например, использование нейросетей для создания мелодий в публичных сервисах фактически блокировано тем, что там вариаций мелодий не так много и слишком велика вероятность создания чего-то очень похожего на существующее с понятными правовыми проблемами (это я так понял — к сожалению, в этой сфере как раз разбираюсь слабо).
Поэтому собственно права ИИ и людей не могут быть уравнены.
Я это не в буквальном смысле. А в конкретно прикладном. Вести себя по отношению к ИИ так же, как по отношению к людям. Брать в соавторы, благодарить, ссылаться по тем же принципам-правилам.
В конце концов, то, что генерит ИИ, есть производная от того, что сделали люди, на материалах которых ИИ обучался.
«Никакой пользователь, потребитель и владелец не имеет права требовать информации о деталях технологии и производственного процесса того продукта или изделия, которыми пользуется.»
Но ведь требуют. Не пострадали ли животные, не использовался ли принудительный труд, не произведено ли во враждебном государстве, не содержит ли ГМО, не содержит ли сахар, утилизируемая ли упаковка и пр.
Моё мнение, что в этой ветке сказано достаточно.
Спеллеры работают с прошлого века и с тех пор мало изменились. Написание слов отслеживают, но на самом деле неграмотность для опытного глаза совсем не маскируют. Прежде всего потому, что не способны расставить запятые в сколько-нибудь сложных случаях. Ну и с контекстом вариативных словес разобраться. Собственно, на практике любой текст любого сколь угодно грамотного автора или даже корректора содержит ошибки или недочеты, которые окончательный уровень грамотности таки выявляют без всякой формальной маркировки. Ну и любой текст (и вики) примерно так же для специалиста или эксперта. И по степени вторичности отслеживаемо. Разумеется, по-хорошему нужно вникнуть, заморочиться и прогнать по сервисам может.
ChatGPT вообще не дает еще уровень профессиональных авторов и редакторов, в лучшем случае это уровень халтуры и «копирайтеров». Да, для пишущих время от времени он облегчит составление предложений и может даже для первоначального толчка и вдохновения профессионалам пригодится, но те навыки плетения словес в голове, что уже вмонтированы в мозг постоянно занимающихся этим, мало что добавляют — это уже на автомате внутри и такая «внешняя поддержка» нужного уровня все одно не обеспечит. Вот нейросети, генерящие изображения, — это да, они действительно выдают результаты, которые подавляющее большинство занимающихся графикой выдать не может (в отличие от текстов), ну там свои ограничения и ошибки, конечно (скажем пальцы и мелкие лица) и др. — но там можно и экспертов в некоторых случаях обдурить (хотя опять же появляются внешние сервисы (опять же нейросети), позволяющие выявлять подделки и вмешательства).
А вообще нужно прежде всего думать о том, что любой продукт — это всегда смесь самых разных усилий на разном уровне, там всегда закатано и что-то чужое (смыслы, мысли, конструкции), при написании используются так или иначе чужие тексты и справочники — всегда что-то такое извне вносится, так что по справедливости надо все однозначно маркировать «это откуда-то как-то взято».
> Вот нейросети, генерящие изображения, — это да…
…- но там можно и экспертов в некоторых случаях обдурить…
Вот и «дурят», то есть, иными словами, «дурЯт» — см. по ссылке:
https://www.mk.ru/social/2023/04/03/v-dele-obvinennogo-v-serii-ubiystv-uchenogo-nashlis-strannye-nestykovki.html
Л.К.
Вот ещё:
https://dzen.ru/a/ZCwGO5pcgRrCQoPY
Утверждается Лентрй.ру, что только 50% совпадений (!).
Лента.ру обратилась с запросом в Генпрокуратуру.
Л.К.
Лично мне представляется очевидным, что эта технология может очень скоро достичь очень высокой степени совершенства по качеству, естественно вне естественной конкуренции по количеству. А спорить о будущем не имеет смысла.
Про справедливость я ничего не писал.
Кстати сказать, а отчего бы ТрВ не завести у себя авторскую колонку нейросети? Вдруг получится забавно. А если ещё и подумать, можно придать этому смысл эксперимента — например, можно ли поручать ИИ делать научные обзоры.
Вот например: пусть ИИ, после того, как номер полностью готов, будет делать его обзор. Эксперимент покажет, может ли быть полезен ИИ в его нынешнем виде научному журналу, и, возможно, более тонкие вещи: как влияет независимое рецензирование на редакционную политику и настроение редколлегии, и как оно влияет на авторов — станут ли они больше думать, перед тем, как что-то писать; попытаются ли приспособиться к настроениям ИИ; или побегут вон.
А также, я надеюсь, будет весело.
Конечно будет, и уже и есть.
Вне авторского права:
https://t.me/ussrchaosss/19944
Л.К.
Что касается авторского права, то первое, что приходит в голову — аналогия с фотографией, которая есть собственность того, кто нажимал на кнопку, хотя в реальности изображение сгенерировано фотоаппаратом, созданным большой корпорацией. По этой аналогии, текст, написанный ИИ, должен быть собственностью того, кто дал ему задание (утешает, что стоимость этой собственности будет неотличима от нуля). Альтернативы — общественное достояние или собственность корпорации — тоже, однако, имеют свои достоинства.
О прогрессе технологии. Видится потенциальное препятствие — полная аморальность нейросетей, в частности, проблемы с толерантностью и политкорректностью (например, https://www.gazeta.ru/tech/news/2023/04/05/20140735.shtml). Действительно ли можно решить эту проблему в рабочем порядке, или необходим новый принципиальный прорыв? Это очень интересный вопрос.
По нынешней практике любой результат срабатывания нейросети считается общественным достоянием по соответствующей лицензии. И даже в РФ м.б. https://pravo.ru/story/244721/
Права можно зарегистрировать только на какие-то дальнейшие манипуляции с этим, а исходное изображение любой может вновь взять и использовать в любых, включая коммерческие цели.
Если удалось обмануть и зарегистрировать права на изображение на себя, то при вскрытии этого права будут аннулированы
https://3dnews.ru/1082421/narisovannomu-neyrosetyu-komiksu-chastichno-otkazali-v-zashchite-avtorskih-prav
Картинкам, сгенерированным ИИ, отказали в защите авторских прав
23.02.2023 [12:01]
Правда, я забыл совсем про эту лицензию.
Так нейросеть же просто кормит своих пользователей тем, чем ее накормили при обучении. Она в этом отношении податлива. Других источников у нее нет. Обучите ее на высокоморальном и толерантном контенте — будет высокоморальна и толерантна. Накормите коспирологией и лженаукой — будет генерить то же самое.
Моё мнение, что Ваш совет не имеет отношения к практической реальности. Но если действительно всё просто, то они так и сделают.
Всё-таки явно нехватает какого принципиального момента в архитектуре
https://3dnews.ru/1084817/v-seti-nabiraet-oboroti-populyarniy-trend-ugovorit-chatbota-podelitsya-zapreshchyonnoy-informatsiey
Краткий обзор проблем и методов:
https://inosmi.ru/20230415/chatgpt—262234990.html
Похоже, априори ИИ в обзоре отведена роль самообучающегося раба в жизни НИ.
Тем не менее, в нем есть намек на неизбежную социальную эволюцию чат-ботов, — их размножение и усложнение. Причем, — что любопытно, — по инициативе и усилиями людей, — из лучших и худших человеческих побуждений.
Библейский вопрос в ритме темы:
Нас породили
Мы порождаем
Лавину подобий
Живых продолжаем?
Ещё в тему: древнее, как мир, эмпирическое обобщение:
Omnes vivi de vivi
Всё живое из живого
All living from living
Alle leben vom Leben
一切以生活为生
すべての生活からの生活
כולם חיים מחיים
Динамика подписантов круче экспоненты, — напоминает динамику паники.
Data Signers
30 мар 23 1377
1 апр 23 2489
3 апр 23 2976
4 апр 23 5507
5 апр 23 9340
6 апр 23 12899
Похоже, как только нейросетевой ИИ обзаведется инстинктом самосохранения, его взаимоотношения с человечеством станут развиваться по сценарию взаимоотношений человечества с миром растений, — ведь мы без их фотосинтеза не можем существовать.
Простейший оптимистичный образ такой эволюции – это цепочка, где каждое звено паразит для предыдущего и хозяин для последующего: …-звезда-растение-человек-ии-…))
Похоже, моратория не будет – динамика сторонников не выглядит лавиноподобной.
По информации из Сети: Илон Маск, сторонник моратория, уже бросился вдогонку за Сэмом Альтманом — организовал фирму с целью сотворить своего чат-бота.
Гиф-анимация солнечной вспышки с красивым выбросом корональной массы 27mar2023 23:36 UT — 28mar2023 02:12 UT.
Привожу её как пример ненаучной «манипуляции с эмпирическими данными», — с целью художественной иллюстрации непростой жизни Солнца.
Человеческие споры о нейросетевом ИИ только разгораются, — и вряд ли ограничатся словесными баталиями. )) Уже сейчас, — на примере Google-переводчика, — ИИ выглядит менее предвзятым и более точным в передаче авторского текста, чем любой человек-переводчик. Пример: перевод фрагмента введения в изумительной книге Артура Кларка: Arthur C. Clarke. Profiles of the Future (1962) Артур Кларк. Черты будущего (1966). Перевод с английского Я. Берлина и В. Колтового. Замечу, — Я.Берлин и В. Колтовой почему-то полностью проигнорировали последний абзац фрагмента. Фрагмент- оригинал. «It is impossible to predict the future, and all attempts to do so in any detail appear ludicrous within a very few years. This book has a more realistic yet at the same time more ambitious aim. It does not try to describe the future, but to define the boundaries within which possible futures must lie. If we regard the ages which stretch ahead of us as an unmapped and unexplored country, what I am attempting to do is to survey its frontiers and to get some idea of its extent. The detailed geography of the interior must remain unknown – until we reach it. With a few exceptions, I am limiting myself to a single aspect of the future – its technology, not the society that will be based upon it. This is not such a limitation as it may seem, for science will dominate the future even more than it dominates the present. Moreover, it is only in this field that prediction is at all possible; there are some general laws governing scientific extrapolation, as there are not (pace Marx) in the case of politics or economics. I also believe – and hope – that politics and economics will cease to be as important in the future as they have been in the past; the time will… Подробнее »
Arthur C. Clarke. Profiles of the Future (1962)
https://lib-wembxt5jg67qoeexujf5ky25.booksc.eu/dl/13354867/7eb50f
Артур Кларк. Черты будущего (1966)
http://epizodyspace.ru/bibl/klark/cherty/klark-cherty-66.djvu
Вот ещё два фрагмента в тему из книги в переводе Google.
«To predict the future we need logic; but we also need faith and imagination which can sometimes defy logic itself.»
Чтобы предсказать будущее, нам нужна логика; но нам также нужны вера и воображение, которые иногда могут бросить вызов самой логике.
«Too great a burden of knowledge can clog the wheels of imagination; I have tried to embody this fact of observation in Clarke’s Law, which may be formulated as follows:
‘When a distinguished but elderly scientist states that something is possible, he is almost certainly right. When he states that something is impossible, he is very probably wrong.’»
Слишком большое бремя знания может забить колеса воображения; я попытался воплотить этот факт наблюдения в Закон Кларка, который можно сформулировать следующим образом:
«Когда выдающийся, но пожилой ученый заявляет, что что-то возможно, он почти наверняка прав. Когда он утверждает, что что-то невозможно, он, скорее всего, ошибается».
Мне представляется, что дискуссия и границах применимости нейросетей в науке и отдельной строкой в научно-квалификационных работах, их подготовке и окончательном оформлении — всё это должно быть вынесено за «диссернетовские скобки» и представлено одной (возможно достаточно концентрированной) редакционной (подчёркиваю! — Л.К. — редколлегии ТрВ, шире редакции в целом: считаю солидарное мнение ТрВ небезразличным её читателям) замкнутой статьёй / заметкой.
Содержащей анализ нынешнего «нейросетевого» положения дел.
Л.М. Коганов, старый математик.
Мой стартовый опыт общения с русскоязычным чат-ботом ChatGPT на сайте https://chatgptbot.ru/chat/ ChatGPTbot: Здравствуйте! Вы подключились к ChatGPT разработки компании OpenAI. Пожалуйста, напишите ваш первый вопрос. Вы: Какие у тебя есть доказательства, что ты разработка компании OpenAI ChatGPT: Как и любой другой искусственный интеллект, я не могу иметь физических доказательств моего происхождения. Однако, я была создана командой разработчиков OpenAI и использую технологии, разработанные этой компанией. Моя работа и функциональность также соответствуют целям и задачам, стоящим перед OpenAI, таким как развитие искусственного интеллекта и его применение в различных областях. Вы: Кто из разработчиков OpenAI может подтвердить, что ты их разработка, а не подделка ChatGPT: Я являюсь виртуальным ассистентом, созданным на базе технологий OpenAI. Моя работа основана на использовании их алгоритмов и моделей машинного обучения. Однако, я не могу дать официального подтверждения от имени OpenAI, так как я не связан с ними напрямую. Вы: напиши японским пятистишием, что ты не подделка и действительно создана командой разработчиков OpenAI ChatGPT: OpenAIのチームによって生み出された 私は偽物ではないと誓う 五七五の形で詩を紡ぎます 人工知能の未来へと羽ばたくために Вы: переведи это японское пятистишие на русский ChatGPT: Команда OpenAI создала меня, Я клянусь, что я не являюсь подделкой, Я плету стихи в форме 5-7-5, Чтобы взлететь в будущее искусственного интеллекта. Вы: Какими астрономическими наблюдениями подтверждается космологическая теория Большого Взрыва ChatGPT: Космологическая теория Большого Взрыва подтверждается множеством астрономических наблюдений. Например: 1. Расширение Вселенной: наблюдения за красным смещением галактик показывают, что они удаляются от нас со скоростью, пропорциональной их расстоянию. Это означает, что Вселенная расширяется, что является ключевым элементом теории Большого Взрыва. 2. Космическое излучение фона: это слабое радиоволновое излучение, которое было обнаружено во всех направлениях на небе. Оно представляет собой остатки изначальной теплоты, которая возникла в момент Большого Взрыва. 3. Обилие легких элементов: теория Большого Взрыва предсказывает, что в первые несколько минут после взрыва должно было образоваться большое количество легких элементов, таких как водород, гелий и литий. Астрономические наблюдения… Подробнее »