Возьмут ли компьютеры власть?

Часть третья

Здесь мы отложим в сторону фантазию о пост-человеческом обществе будущего, населенного новым типом "живого существа" в форме очень продвинутых компьютеров. Обсудим компьютеры в рамках их сегодняшней миссии как машин, созданных человеком для автоматизации вычислений, обработки информации и управления. И поставим вопрос: как далеко зайдет процесс компьютеризации больших предприятий, или даже городов или государств.

Иными словами, до какой степени уже имеющая место ныне вспомогательная роль компьютеров в проектировании, в исследованиях, в управлении отдельными процессами и информационном обслуживании, может расширится в будущем? Может ли наступить момент, что большое производство, город или государство целиком будет управляться компьютером при ПОЛНОМ отсутствии всякого персонала наблюдающего за ними: скажем, в течение года?

Н Е Т !

"НЕТ" не из-за дороговизны компьютеров: они нынче дешевле пыли.

"НЕТ" не из-за все еще недостаточного быстродействия компьютеров: компьютеры уже сейчас столь мощны, что их скорость более чем достаточна для почти всех управленческих задач.

Истинной причиной этого "НЕТ" является...

a) Все более дорогой и трудный процесс написания и отлаживания программ.

b) Дороговизна, ненадежность, трудность настройки и поддержания работоспособности серво-механизмов и роботов на автоматизированных предприятиях, которыми компьютеры управляют.

Поговорим об (a). Определим эффективность строки кода программы как величину

Число выполняемых команд с учетом раскрученных циклов

Число команд программы

Максимум достигается, как правило, на научных задачах, основанных на известных математических алгоритмах. Скажем, пару тысяч строк такой программы могут заставить компьютер выполнить триллионы операций, просчитывать результат целый день, или целую неделю, так, что эффективность строки кода будет выражаться в триллионах.

Наоборот, экстремально неэффективный код имеет место в программах имитации рабочих действий человека, правил бизнеса, и действий операторов сложных процессов, состоящих из тысяч шагов типа

если ... то....

если это и это, то....

...........

Эффективность в данном случае – это всего лишь нечто близкое к 1. Но хуже всего то, что такая программа должна воспроизводить все сознательные и подсознательны действия каждого ответственного специалиста или руководителя, которого она призвана замещать.

Это мучение написать такую программу (объемом в сотни тысяч строк), и еще большее мучение обнаружить ошибки в ней. А ведь утопическая цель состоит в том, чтобы убрать всех людей, от операторов до директора, оставив ответственнейшее производство только на усмотрение роботов! Скажем, атомную электростанцию!

А можно ли отправить пассажирский самолет в рейс на автопилоте от начала и до конца, без всяких пилотов на борту (и без дистанционного управления самолета оператором)?!

Да, на современных автоматизированных заводах используются множество программ управляющих роботами и процессами – но под постоянным присмотром сотен специалистов и настройщиков всех роботов. Заменить всех людей-настройщиков и операторов следующим поколением роботов и серво-механизмов к ним опять потребует еще более квалифицированных операторов и настройщиков! И так без конца.

Таким образом, фундаментальное препятствие на пути полной автоматизации производства и еще более широких объектов состоит во все возрастающей дороговизне и ненадежности программ, а также в дороговизне и ненадежности серво-оборудования. Вот по этим причинам, автоматизация чего угодно упрется в потолок при попытках делать её все более всеохватывающей, никогда не достигнув полного охвата. При этом катастрофические последствия неизбежных ошибок автоматизации будут возрастать тоже.

Часть первая

Как было проанализировано только что, существуют фундаментальные ограничения в расширении применения компьютеров даже как вспомогательных машин на большом производстве. А тогда можно ли говорить о пост-человеческом обществе будущего, в которым компьютеры вытеснили людей, если есть потолок даже в автоматизации производства и услуг?!

Однако здесь важнее всего то, что компьютеры – это созданные человеком неодушевленные машины выполняющие только алгоритмы, введенные человеком. Компьютеры – это типичнейший пример абсолютно детерминистского физического устройства – и потому не могущего иметь собственного "целеполагания" или "свободы воли". Компьютеры могут делать то и только то, что введено в качестве программы человеком-оператором.

Конечно, оператор-злодей может создать программу управляющую такими серво-механизмами, которые начнут убивать людей и "брать власть". Но это будет означать, что не компьютеры взяли власть, а человек, который их создал, вооружил себя компьютерами (и различными орудиями убийства) для узурпации власти своими сообщниками.

Говорить о взятии власти "существами" не способными к целеполаганию и свободе воли БЕССМЫСЛЕННО.

Если же вообразить новый вид компьютеризированного человека как живой человеческий мозг вставленный и функционирующий в роботизированном теле с компьютером, то душа такого существа та же, что и у этого мозга (некогда бывшего частью полноценного человека). Такой робо-человек действительно будет сохранять способность к целеполаганию и свободе воли, плюс обладать большой физической силой и вычислительными способностями компьютера. Но чем такой симбиоз лучше, чем нормальный человек, использующий компьютер, плюс механические усилители? Такой вот симбиозный робо-мозг – это по сути тяжелейший инвалид, снабженный множеством протезов. Для его выживаемости по-прежнему нужны нормальные физические условия и кровоснабжение обновляемой кровью. Он так же, как и человек, не годится ни для полетов на планеты, ни, тем более, для полетов к звездам (будучи "куском" материи ненулевой массы). О каких супер качествах такого создания может идти речь? Бессмысленно фантазировать о взятии власти инвалидами такого рода.

Часть вторая

А сейчас проанализируем вопрос, может ли компьютер, как абсолютно детерминированная машина, заведомо не имеющая собственного целеполагания и свободы воли, по крайней мере создавать иллюзию души, т.е. моделировать свойства души и сознания в полной мере?

В полной мере – нет! Ряд ученых, такие как Penrose, Hofstadter и др. доказывают, что функционирование сознания (и подсознания) не может моделироваться никаким алгоритмом.

Но даже отставив с сторону столь загадочный процесс как сознание человека, в теории алгоритмов уже давно доказано, что ряд казалось бы "рядовых" и полезных задач самой математики и теории алгоритмов НЕ МОГУТ быть решены никаким алгоритмом. Например, не существует алгоритм, который может определить остановится ли когда-нибудь заданный исследуемый алгоритм. Т.е. даже в такой узкой области как решение задач математики и теории алгоритмов, возможности алгоритмов имеют потолок.

Алгоритмы могут создавать иллюзию недетерминированного поведения: например алгоритм генерирующий псевдо-случайные числа. Последовательность псевдо-случайных чисел имеет точно такие же математические свойства, как и последовательность настоящих случайных чисел (хотя последовательность псевдо-случайные чисел детерминирована и воспроизводима).

Можно вставить в компьютер физическое устройство генерирующее физические случайные величины. В этом случае, последовательности случайных числе будут невоспроизводимы, но сам процесс, будучи физическим, т.е. по определению детерминирован – а, значит, не есть свобода воли.

Пролог

Анализируя фантастическое допущение "возьмут ли компьютеры власть" над людьми, нужно ясно осознавать, что именно есть "компьютерный "человек"" или "компьютерное высшее живое существо".

По нашему определению, "высшее живое существо" – это то, что обладает нематериальной душой, т.е. нефизической субстанцией, вне физического мира и вне зоны физических законов, способной к целеполаганию и свободе воли (а также к ощущениям).

Тест Тьюринга не способен обнаружить, обладает ли существо под вопросом способностью к целеполаганию и свободе воли! Тест Тьюринга лишь детектирует смысловое и литературное качество генератора речи – в восприятии этих качеств человеком, ведущим тест.

Программы типа "Разговорчивая Элиза" уже неплохо работали лет 30 назад, написанные на простом Бейсике. Ну а сейчас программа перевода (типа той на Google) вполне хорошо могла бы быть модифицирована для обнаружения смысла входящего текста, и логичных ответов на него на уровне среднего живого человека.

Тогда что же является тестом на наличие целеполагания и свободы воли? (При этом, ощущения данной души по определению не могут быть детектированы кем-то или чем-то извне).

И здесь имеет место плохая новость. Даже сам живой человек не может логически доказать себе, обладает ли он свободой воли.

Он может принять аксиому, что он обладает свободой воли – и ни один эксперимент этого не опровергнет.

И он же может принять аксиому, что "свобода воли" – это его собственная иллюзия, игра тонких физических эффектов его чисто физического детерминистского тела (а души и вовсе нет). И тоже, ни один эксперимент этого не опровергнет.

Так ведь и солипсизм (если сие есть аксиома человека) ни один эксперимент не опровергнет тоже! Тот эксперимент, который поставил над собой герой романа "Солярис", на самом деле тоже не доказывает, что он не во сне.

Однако, все эти неопределенности имеют место только по отношению к человеку, к высшим живым существам известным нам на земле, и к гипотетическим "существам" под вопросом на других планетах. Применительно же к компьютерам никакой неопределенности нет, ибо они есть созданные человеком специальные машины для выполнения абсолютно детерминированных действий.

Поэтому спекуляции о возможном взятии власти компьютерами в некоем будущем не имеют под собой оснований.

Александр Гофен