ИИ как угроза человеку: будущая реальность или "страшилки"?

Перспективы искусственного интеллекта (ИИ) стали темой, разделившей всех касающихся ее в качестве специалистов, экспертов или интересующихся из праздного любопытства, на три категории: 1) «пессимистов», убеждающих всех в победе ИИ над человечеством и грозящей последнему его уничтожением; 2) «оптимистов», не допускающих в принципе ситуации выхода ИИ из-под контроля людей; 3) «агностиков», сомневающихся в способности человечества постичь действительные границы развития искусственного «разума».

«Пессимисты» рассказывают нам об экспертных прогнозах либо прогнозах самого ИИ о том, что в скором времени тот превзойдет своей интеллектуальной мощью человеческий интеллект; а поскольку ИИ равнодушен к людскому роду и следует только заданной программе или цели, то он вполне способен уничтожить человечество. В качестве примера приводится цифровизация производства некой компанией канцелярских скрепок. Оптимизируя производство, компания рано или поздно захватит рынок, станет монополистом, подчинит задаче производства скрепок все ресурсы планеты, включая вещественные элементы человеческого организма. Человечество таким образом будет уничтожено, поскольку нет силы, способной остановить этот процесс, самовоспроизводимый вышедшим из-под контроля ИИ. Такая вот «страшилка»…

«Пессимисты», предлагающие ее, утверждают, что ни один эксперт пока не нашел убедительных возражений против такой логики развития цифровизации. Те аргументы, которые приводят «оптимисты», опровергает практика, обнаруживая в новых вариантах ИИ появление его «способностей», которые не предполагались разработчиками. Многие цифровизаторы и эксперты из разряда «агностиков» фактически выступают на стороне «пессимистов», не исключая при этом если не закономерное, то, по крайней мере, случайное уничтожение человечества искусственным интеллектом. 

Конечно, такая неопределенность человеческого будущего вызывает в отношении перспектив цифровизации смешанные чувства. Неужто человечество, в самом деле, ждет гибель от собственного творения? Попытаемся разобраться в этом, руководствуясь исключительно рациональными соображениями.

 Прежде всего, отметим, что прогноз «пессимистов» относительно конца истории человечества в результате победы ИИ над людьми на самом деле не есть прогнозом, это всего лишь предположение возможности. Прогноз – дело науки, основная функция которой заключается в прогнозировании развития явлений или процессов. В основе научного прогноза – знание законов развития последних. Когда нам объявляют, скажем, прогноз погоды, особенно на длительный период, то ввиду недостаточного знания законов развития атмосферных процессов с этим прогнозом иногда случается конфуз. Поэтому часто метеорологи ограничиваются тем, что «возможен дождь», «возможны осадки» и т.п., то есть предположением возможности дождя, и т.д. Вычислять возможность наступления явления – это увлекательное занятие математиков, придумавших понятие «вероятности» и даже разрабатывающих соответствующую теорию. Видимо, ею и пользуется ИИ, как продукт цифровизации, выдавая людям свой «пессимистический» прогноз по части их незавидного будущего.

По этому поводу вспоминается анекдот: «Какова вероятность того, что выйдя на улицу, я встречу динозавра? – Вероятность весьма высока – 50 процентов: может встречу, а может не встречу». Анекдотичность в этом случае (как и во всех других) возникает из однобокой логики понимания сути вещей.  

Возможность – категория не математическая, а философская. Подходить к ней однобоко, только количественно, забывая о качестве, означает превращение научного прогноза в профанацию, «гадание на кофейной гуще». Количественно возможность определяется не сама по себе, а в связке с ее качеством, то есть с возможностью в качестве противоположности действительности. Более того, диалектическая логика связывает категории «возможность» и «действительность» соответствующим образом с категориями «случайность» и «необходимость».

Здесь нет нужды углубляться в диалектическую логику, разъяснять связь всех названных категорий для выяснения перспектив человечества в контексте развития ИИ. Однако тезисно можно отметить следующее.     

1. Поскольку закономерность развития ИИ не познана, постольку научного прогноза об уничтожении человечества искусственным интеллектом дать нельзя, т.к. нет знания о необходимых условиях превращения указанной возможности в действительность. Всё, что пытаются в этом случае выдать за «научный прогноз», не более чем спекуляция наукой.

2. Случайное уничтожение человечества ИИ не является необходимостью, оно всего лишь возможно. Однако далеко не всякая возможность превращается в действительность, нужно, чтобы такое превращение стало необходимым. А для этого требуется наличие такой совокупности условий, из которых указанная возможность не случайно, а необходимо превращается в действительность.

3. Человечество, познавая все необходимые условия своего существования, всегда будет способно так изменить эти условия, чтобы исключить превращение возможности случайного его уничтожения ИИ в необходимость и реальность. Уже одного того условия, что без энергетических ресурсов не могут работать никакие самые умные машины (не святым же духом им питаться!), достаточно, чтобы манипулируя этим условием, подчинить работу ИИ человеческой воле.   

Иное дело, что познание необходимых условий существования человечества сдерживается существующей формой общения и политическим управлением этим общением, о чем шел разговор в публикации «О бедном гуманитарии замолвите слово». Поэтому научное представление о цифровизации требует исследования политических условий ее осуществления.