Искусственный "интеллект" (ИИ) или (?)...

Поводом к настоящим размышлениям о соотношении научной деятельности с новыми информационными технологиями явилось известие о намечаемых «реформаторских» новациях самой «прогрессивной» из бюрократических структур – министерства образования и науки (МОН). Говорят, с начала лета этого года планируется сократить число журналов, научные публикации в которых засчитываются в нормативное количество для допуска к защите диссертации. А еще – установить, кроме уже существующей проверки на наличие в диссертации плагиата, также проверку ее на использование диссертантом «подсказок» ИИ.

Помнится, в далекие уже школьные годы ученикам не разрешали писать только появившимися в продаже шариковыми ручками вместо перьевых. Тогда в этом был смысл хотя бы потому, что этим учителя добивались от ученика каллиграфического почерка, отрабатывать который учили с первого класса. Таким образом тренировалась рука, а вместе с ней дисциплинировался мозг ученика, формировались его усидчивость, внимательность, аккуратность, наконец, воля.

Затем учили наизусть таблицу умножения, даже на тетрадках эти таблицы помещали, пока не появились калькуляторы, с легкостью производящие любые арифметические действия. Но и здесь было время, когда от учеников требовалось самостоятельно, без помощи калькулятора, решать математические задачи.

 Сегодня учащимся на экзамене не разрешают пользоваться смартфоном («умным телефоном»), компьютер которого играет роль «шпаргалки».

Вся эта цепочка изобретений – шариковая ручка, калькулятор, смартфон – ориентировалась на облегчение и, вместе с тем, повышение производительности умственного труда. В этом смысле указанные изобретения не отличались по существу от других вещей – лука, копья, ружья, фонаря, мегафона, телескопа, радио, допинговых препаратов, и т.д. Все они так или иначе преследовали общую цель, решали общую задачу: увеличить естественные физические и духовные силы, усилить способности человека в его воздействии на природу, а также его возможности в общественных взаимодействиях. Опять-таки, во имя облегчения и вместе с тем, ради повышения эффективности и производительности физического и умственного труда человека.

В результате этой длинной исторической цепи изобретений человечество пришло к тому состоянию, когда физический, а в некоторой части умственный труд людей в значительной степени можно заменить работой машин, автоматов, роботов, существенно повышающей эффективность деятельности.

Но резко возросшая скорость выполнения одной деятельности неизбежно потребует ускорения связанных с ней других видов деятельности, прежде всего, деятельности управления заметно ускорившимися процессами. Управленческому труду объективно потребовалось его усиление и ускорение, связанное с резким ростом количества управленческой информации.

На эту потребность техническая мысль отреагировала изобретением ИИ («искусственного интеллекта»), технической системы, которая на несколько порядков превосходит способность человека обрабатывать огромные массивы различной информации.

В этой системе действительный интеллект – как мыслительная способность субъекта к познавательной деятельности и пониманию, как умственное начало целесообразной человеческой деятельности - строго говоря отсутствует.

Вместе с тем, ИИ выступает как технический посредник обработки и структурирования информации, на основе которой человек принимает решение. Он может обрабатывать большие массивы данных, структурировать информацию, формировать ответы или решения на основе заданных моделей. Так характеризует себя сам ИИ.

Но это как раз те операции, которые производит своим умом сам человек, как субъект, однако в ограниченных размерах.

В таком случае точнее было бы говорить не об «интеллекте» (пусть даже искусственном), не об ИИ, а о техническом усилителе ума – УУ, увеличивающем умственную способность человека в оперировании огромной массой информации. Подобно тому как через бинокль мы видим предметы на значительно большем удалении, усиливая этим способность зрения, как благодаря мегафону усиливаем громкость произносимых слов для их восприятия на большем расстоянии, как бы усиливая наши голосовые возможности, и т.п., так при помощи УУ мы усиливаем нашу умственную способность работы с информацией.

Перевод термина «усилитель ума» на английский буквально означает mind amplifier, если брать его в образном выражении. Если же речь идет об усилении познавательных способностей, то перевод будет cognitive amplifier (CA). В контексте ИИ распространен перевод Intelligence amplifier (IA). Так иногда описывают ИИ как средство, усиливающее человеческий интеллект. Именно СА или ІА ближе всего к нашему предложению относительно усилителя интеллекта (УУ).

* * *

Проблему участия ИИ в научно-исследовательской деятельности, решением которой (разумеется, «в интересах науки») намерена обеспокоиться чиновничья братия, относится к разряду управленческих проблем, связанных с контролем со стороны государства за аттестацией научных кадров.

Нужен ли такой контроль? – Видимо, да, если наличие ученой степени связано с квалификационной характеристикой для занятия ряда должностей, надбавками в оплате труда и т.д. за счет средств государственного бюджета. 

В таком случае необходимо определиться с тем, что именно и каким образом должно контролировать государство в лице его чиновников.

Понятно, что бюрократия не должна контролировать научное качество работы (актуальность, научную новизну, аргументированность, значение работы диссертанта) уже хотя бы потому, что не обладает необходимой для этого научной компетентностью. Это дело самого научного сообщества в лице соответствующих ученых советов. Научное сообщество должно вырабатывать критерии качества научного исследования и оценки его учеными советами.

Делом государства в таком случае является определение в законодательстве процедуры, необходимой для объективной и компетентной научной оценки работы диссертанта ученым советом и контроль за соблюдением этой процедуры.

Указанная процедура, помимо возможности оценки научного качества работы, должна еще позволять установить, что работа выполнена самостоятельно автором, а не списана им как нерадивым школьником у одноклассника. Иными словами, надо исключить такую ситуацию, когда ученая степень присваивается ее соискателю за качественно выполненную работу другими лицами. Это все равно что выдать студенту диплом об окончании вуза, в котором учился вместо него его брат или знакомый, или все равно что платить зарплату не за выполненную работу, а по знакомству…

Следовательно, в процедуре защиты должна быть предусмотрена проверка того, не является ли работа полностью или в некоторой ее части плагиатом.

Такая проверка дело непростое, она требует знакомства с большим объемом научной информации. Вот здесь очень даже может прийти на помощь наш усилитель ума (УУ), тот самый «искусственный интеллект». Для этого не требуется сильно напрягаться чиновникам, достаточно установить обязанность ученого совета при принятии диссертационной работы к защите проверять ее на отсутствие плагиата и отражать вывод об этом в соответствующем процедурном решении ученого совета.  

  + + +

Почему именно ученые должны выявлять наличие плагиата в исследовании диссертанта? – Потому что оценка научного текста как плагиата требует научной компетентности, а не произвольной трактовки этого текста чиновником, который использует ее по своему бюрократическому разумению.

Что такое "плагиат"? – Толковый словарь определяет данный термин как умышленное присвоение авторства чужого произведения или использование в своих трудах чужого произведения без ссылки на его автора.

«Посовещавшись» с ИИ, мы должны отметить, что в этом определении есть несколько ошибок. Во-первых, в нем смешаны два разных по своей юридической природе действия: посягание на личное неимущественное право автора (право авторства) и использование чужого текста без ссылки на его автора, которым нарушаются принятые правила цитирования, но право авторства не нарушается.  

Во-вторых, плагиат может носить не только умышленный характер, но и характер небрежного действия (например, при некорректном заимствовании).  

Плагиат, далее, может иметь место не только в отношении законченных произведений, а и в отношении идеи, структуры, гипотез, аргументации, научных результатов, формулировок. Юридически идеи, гипотезы и т.д. могут не охраняться авторским правом, но с точки зрения научной этики их присвоение без ведома их автора рассматривается как типичный плагиат.

Неточным является в определении плагиата и выражение «использование без ссылки», так как не всякое использование требует ссылки (общеизвестные факты, к примеру, тексты статей конституции и т.п.).

Наконец, в данном определении не указан такой признак плагиата как создание ложного представления об авторстве, то есть введение в публичный оборот чужого результата как принадлежащего плагиатору, без чего плагиат не будет отличаться от переработки идеи, текста и т.д. с указанием источника.

Если вести речь о плагиате в научной деятельности, то это присвоение не просто любого чужого текста или идеи, а присвоение чужого научного результата (или его части), обладающего претензией на новизну.

Здесь сразу исключаются из плагиаторства общеизвестные положения и общепринятые дефиниции, так как плагиат – это представление чужого научного результата как собственного нового результата, то есть присвоение авторства на новизну. Не всякое заимствование – плагиат, последний связан не с текстом как таковым, а с претензией на авторство и новизну.

Если чужой научный текст переработан так, что переработка приводит к качественно новому результату (новая гипотеза, новая аргументация, новый вывод), то это самостоятельное исследование с использованием источника, а не плагиат (при условии корректной ссылки); если же переработка не создает нового научного результата, а лишь маскирует исходный – это плагиат. Критерий здесь не «форма», а наличие собственной новизны.

В коллективной научной работе результат распределён по вкладу каждого соавтора, и соавтор не является плагиатором, если он включён в авторский коллектив на основании реального вклада, использует общий результат как совместный и границы индивидуального вклада не искажаются.

Когда один из соавторов присваивает себе вклад другого внутри авторского  коллектива или использует часть коллективного результата, представляя её как полностью свою, тогда мы имеем внутриколлективный плагиат.

Плагиат в научной деятельности — это представление чужого научного результата (или его существенной части), обладающего признаком новизны, как собственного, то есть присвоение авторства на данный результат при отсутствии соответствующего творческого вклада.

Таким образом, понятие плагиата исключает нейтральные заимствования, учитывает критерий новизны научного результата, допускает соавторство и, главное, акцентирует именно на присвоении, а не использовании чужих текстов.

Из такого определения понятия плагиата очевидно, что выявление наличия или отсутствия в диссертационном исследовании плагиата не под силу бюрократу, а что это должно быть делом самих ученых, а именно, членов ученых советов.

В этой связи вспоминаю  защиту своей докторской диссертации (см. на сайте «Теоретичні основи законодавчого процесу»). Она была успешно защищена, но когда попала на рассмотрение Высшей аттестационной комиссии (ВАК), то один «благорасположенный» к автору член тогдашнего ВАК «обнаружил» в работе факт заимствования более 15% положений из моей же кандидатской диссертации, заявив, что это – «самоплагиат». 

Не говоря о том, что процент использования положений кандидатской диссертации (а это было исследование понятия правовой реформы, которое также опубликовано (см. на сайте «Правовая реформа») был во много раз завышен, термин "самоплагиат" тогда показался по меньшей мере странным. В то время с этим "ученым мужем" большинство членов ВАК не согласились. Увы, сегодня указанный деятель уже в статусе академика НАН с тем же непреодолимым невежеством продолжает «служить науке». Что уж тут говорить о чиновниках…

* * *

Итак, с плагиатом в научной деятельности необходимо бороться, и в этом деле не только можно, но и нужно рассчитывать на помощь ИИ.

Ну а как быть с усилением ума диссертанта, использующего помощь ИИ в работе над диссертацией? К этой работе предъявляется нормативное требование самостоятельного выполнения ее диссертантом. Означает ли самостоятельность в этом случае исключение помощи ИИ при написании работы вообще или только в некоторых аспектах?

А есть ли оно вообще полностью самостоятельное научное исследование? На подготовку диссертации работают институты аспирантуры и докторантуры, аспиранту и докторанту, соискателю ученой степени придаются, соответственно, научный руководитель и научный консультант. 

В ходе работы над диссертацией последние направляют его исследование, кто больше, кто меньше (бывает и так, что сами трудятся над диссертацией вместо диссертанта). Как определить здесь степень самостоятельности соискателя? Для того и существует публичная защита диссертантом работы перед ученым советом, призванная определить эту степень.

Соискатель ученой степени общается со своим научным руководителем или консультантом по разным аспектам диссертационного исследования, и это никому не кажется странным или недопустимым. Когда вместо своего консультанта диссертант общается с другими учеными, разве что-то изменяется с точки зрения научного результата его исследования и самостоятельности диссертанта? А если на место собеседника в научном общении будет им определен ИИ, с которым диссертант может вести научный спор? И в этом случае в плане самостоятельности диссертанта и научного результата его работы также мало что меняется.   

В таком случае для бюрократии нет никаких оснований вмешиваться в научный процесс из-за включения в него «искусственного интеллекта». Ибо, как мы уже отмечали в другой публикации сайта, ученому никто не «диктует властно такой-то и такой-то способ действий», этот способ действий зависит от его собственного выбора. 

В этом главная особенность деятельности ученого – он сам определяет для себя нужный, с его точки зрения, способ действий для достижения научного результата. И потому «организация внешних условий его деятельности» – это забота прежде всего его самого, а не «печаль» педагога, как в школе или вузе.

Конечно, начинающему ученому найти правильный способ действий без опыта научной деятельности непросто, ему требуется для этого некоторая подготовка и помощь. Постольку в качестве необходимых условий научной деятельности начинающего ученого установлено: 1) требование подготовки им диссертационного исследования (квалификационной работы), 2) участие в этой работе научного руководителя (научного консультанта).

Вообще говоря, это минимально необходимые условия, достаточные для того, чтобы начинающий ученый продемонстрировал научному сообществу уровень своей теоретической подготовленности и научной квалификации в соответствующем ученом совете при публичной защите диссертации (см. «Две большие разницы, или не учи ученого» - 2. Как учить ученых).

В названной публикации отмечены те действительно болезненные точки, на которые следовало бы чиновникам МОН обратить свое внимание, а не заниматься очередной «реформационной» эквилибристикой.

* * *

Но если не существует полностью самостоятельного получения ученым, тем более соискателем ученой степени нового научного результата, то возникает сомнение в том, возможен ли объективный контроль за использованием ИИ в научной работе и объективная оценка степени участия в ней исследователя?

С этими сомнениями поможет разобраться все тот же «усилитель ума». Вот что сообщает по этому поводу ИИ:

Надежно выявить “использование ИИ” как таковое – невозможно. Можно лишь с разной степенью вероятности выявлять несамостоятельность выполнения работы, и то только при комплексной проверке. Если министерство формулирует запрет именно как «использование ИИ», а не как «несамостоятельность», – это уже методологически уязвимая конструкция.

1. Принципиальная проблема: что именно запрещают?

Если речь о науке, то юридически и методологически корректным объектом оценки является: самостоятельность исследования, оригинальность результатов, добросовестность заимствований.

ИИ здесь – лишь инструмент (как редактор, переводчик, статистический пакет). Поэтому возникает логическая коллизия: если запретить инструмент → это трудно проверяемо; если оценивать результат (самостоятельность) → это проверяемо, но уже без привязки к ИИ.

2. Можно ли технически определить текст ИИ?

Так называемые “детекторы ИИ” существуют системы (GPTZero, Turnitin AI detection и др.), но: дают вероятностный результат, а не доказательство; они легко обходятся: редактированием текста, переводом туда-обратно, смешением с человеческим текстом; часто дают ложные срабатывания (особенно на академический стиль). Вывод: как доказательство они непригодны.

Лингвистические признаки оценки. Иногда анализируют “гладкость” и усредненность текста, отсутствие авторской позиции, шаблонность аргументации, стерильный стиль без ошибок.

Но: хороший научный текст тоже может быть таким; плохой ИИ-текст может выглядеть “человеческим”. Вывод: это скорее экспертное впечатление, а не критерий.

Метаданные и процесс создания. Теоретически можно анализировать историю правок, смотреть черновики, фиксировать этапы работы.

Но: это требует тотального контроля; легко обходится (например, копированием финального текста).

3. Что реально можно выявлять?

Реально выявляется не «ИИ», а несамостоятельность – через косвенные признаки: 1) несоответствие уровня (текст сложнее, чем устные ответы автора или автор не может объяснить собственные выводы); 2) «псевдонаучность» (правильные слова без реального содержания, отсутствие связи между тезисами и доказательствами); 3) ошибки ИИ (вымышленные источники, некорректные ссылки, «галлюцинации» в фактах); 4) нарушение логики исследования (нет реальной методологии, нет перехода от проблемы к результату, текст выглядит как компиляция).

4. Самый надежный способ проверки.

На практике единственный относительно надежный механизм – это живая защита + углубленный опрос, при которых проверяется: понимает ли автор свои аргументы, метод, источники; может ли он: воспроизвести ход мысли, развить положения, ответить на критику.

ИИ в таких случаях «сгорает», потому что он может написать текст, но не может стоять за ним как субъект.

5. Юридико-теоретический вывод: ИИ является допустимым в качестве инструмента в научном исследовании, но недопустима подмена авторства.

6. Если запрет использования ИИ реализовать буквально, то автор все равно может использовать ИИ, но переписав текст, и это уже не выявить; а честный автор, указав использование ИИ, окажется в худшем положении. Это создает стимул к сокрытию, а не к добросовестности.

Итог. Выявить использование ИИ напрямую – практически невозможно, а выявить несамостоятельность выполнения диссертационной работы возможно лишь посредством комплексной экспертной оценки, прежде всего на защите.

В части использовании ИИ в научной работе регулятивные конструкции в разных странах сводятся к трем моделям: запретительной, декларативно-допускающей и результатно-ориентированной. Ни одна из них пока не решает проблему строго – каждая лишь смещает акцент, и в этом смысле они интересны прежде всего для критики.

1. Запретительная модель (де-факто и де-юре). Прямые или квази-прямые запреты на использование ИИ в диссертациях обсуждаются или частично вводятся в ряде систем (отдельные решения ведомств, университетские политики в Китае, Индии, некоторых странах Восточной Европы).

Как это формулируется: «использование ИИ = несамостоятельная работа»; «запрещено генерирование текста диссертации с помощью ИИ».

Принципиальный недостаток – подмена объекта регулирования, поскольку оценивается и регулируется не научный результат, а способ его получения.

Отсюда три следствия: 1) непроверяемость (нельзя доказать использование ИИ как юридический факт, и любая санкция опирается на предположение, а не на доказательство; 2) формализм (если один и тот же текст  написан с ИИ, то это запрещено, а переписан человеком – разрешено).

Такая регуляция не научной деятельности, а поведенческой видимости.

2. Декларативно-допускающая модель (США, ЕС, Великобритания)

Университеты (например, системы уровня Harvard University, University of Oxford, многие в ЕС) обычно формулируют так: ИИ можно использовать как инструмент, но требуется раскрытие (disclosure), а ответственность за содержание несёт автор. Иногда вводятся уточняющие ограничения: нельзя указывать ИИ в качестве соавтора; нельзя генерировать «существенные части» без указания.

На первый взгляд это кажется наиболее разумной моделью, но это не так.

Во-первых, создается иллюзия прозрачности, ибо раскрытие использования ИИ не поддаётся проверке и зависит от добросовестности автора. То есть норма фактически звучит как: «нарушать можно, если не признался».

Во-вторых, имеет место размытость критерия определения того, что такое «существенная часть текста» и «значительная помощь»? Это не юридические, а оценочные категории без операционализации.

В-третьих, происходит сдвиг ответственности без механизма: формула «автор несёт ответственность» не даёт способа установить, что именно он сделал сам, а также не отличает использование ИИ как калькулятора от использования его как «автора».

Это модель этического самоконтроля, а не правового регулирования.

3. Результатно-ориентированная модель (элементы в Германии, Скандинавии)

В ряде систем акцент смещается на самостоятельность, воспроизводимость, проверяемость исследования. ИИ прямо не запрещается и не регулируется детально, согласно логике: важно не как ты получил текст, а можешь ли ты его обосновать, воспроизвести и защитить.

Это наиболее теоретически корректная модель, но и у неё есть ограничения.

Ее сильной стороной является совпадение с природой науки: наука – это не текст, а процесс и результат познания. ИИ здесь вторичен. Практическая слабость модели состоит в том, что проверка переносится на защиту, экспертизу, дискуссию. Нагрузка ложится на комиссию, качество зависит от уровня экспертов.

В этом случае есть риск формализации. Если защита становится формальной (что часто бывает), то модель теряет эффективность.

Отсюда вывод: это единственная логически чистая модель, но она требует сильных институтов экспертизы, а не формальных процедур.

Общий критический вывод от ИИ состоит в том, что все существующие подходы страдают одной и той же методологической ошибкой: они пытаются регулировать инструмент вместо результата научной деятельности. ИИ лишь обнажил старую проблему кризиса критериев научной самостоятельности, а не создал новую проблему. Потому любые попытки «запретить ИИ» – это только внешняя реакция на внутреннюю слабость научных институтов.

К этому от себя прибавим, что прежде чем отвечать новыми «реформами» на новые технологии, научной бюрократии следовало бы навести порядок в старых подходах к организации научной деятельности и в контроле за аттестацией научных кадров. В чем именно – об этом достаточно сказано в упомянутой выше и других публикациях данной рубрики сайта.