Пределы сложности искусственного интеллекта и физические основания жизни

Физические особенности биологических систем позволяют сделать выводы о перспективах искусственного интеллекта.

Оглавление

Предисловие

Вступление

1. Физические основания жизни

2. Пределы сложности искусственного интеллекта

Выводы

Предисловие

Предисловие будет необычное — вопросительное, а чтобы читать его было не скучно, ещё и саркастическое. Какие-то заданные вопросы, вероятно, покажутся простыми, а какие-то, даже если таковыми покажутся, на самом деле совсем не простые. Но все они так или иначе получат в статье свои — уже не саркастические — ответы. Итак…

Не правда ли, можно создать устройство сколь угодно сложнее себя? И СИИ, и ССИИ, и СС…СИИ, и вообще нет пределов? Разве что вентиляторов сложность охлаждать может не хватить. Не правда ли, что с нашей собственной сложностью сложность создаваемых нами устройств никак не связана, потому что, получается, наша сложность никак не ограничивает сложность создаваемых нами устройств? Да и как иначе, главное — желание, не правда ли? Не правда ли, что мы и ИИ — это одни и те же физические системы, поэтому что можем мы, то и программа сможет и наоборот? Вот, например, не правда ли, что программа переварит пищу, а если нас аккуратно выключить и в тёмное сухое прохладное место положить, то мы так только дольше сохранимся? Фараоны, например, прекрасно сохранились. Не правда ли, мы различаем хорошее и плохое, потому что мы умные? Не правда ли, что ИИ тоже хорошее и плохое различает, потому что он тоже умный, а инфузория не различает, потому что у неё даже мозга нет? Не правда ли, что ИИ поэтому и сам в СИИ эволюционировать сможет, если на то будет его воля, а инфузория просто сдохнет? Без мозгов-то куда ей. Не правда ли, что в создании ИИ без обучения уже не обойтись, потому что напрямую такой алгоритмище написать слишком сложно, но это абсолютно ничего не значит? ИИ же алгоритм, верно? А какой? А алгоритм — это вообще что? Инструкция, написанная на некотором языке? Но это тоже ничего не значит, не правда ли? Не правда ли, мир дан нам посредством ощущений, а значит, если сознание хакнуть, то это то же самое, что вообще всё мыслимое хакнуть, поэтому можно будет программу себя на 10^ТЬМА компьютеров размножить и любой мыслимый мир для каждого себя сочинить? В том числе тот, где Анжела уйдёт не к другому, а к чёртовой матери? Реальной чёртовой матери, в том мире такие будут. Не правда ли, если удачно правила клеточному автомату набросать, может, даже и простые, то его экранный мир и посложнее нашего выволюционирует? И оттуда, с экрана, в контакт с нами вступит и технологиями поделится? А там, на его экране, тоже мир, ещё сложнее… а на него с его… а тот… а тут… у-ух! Дух захватывает, какая пропасть перспектив открывается с этими автоматами. Ну и наконец не правда ли, что все эти вопросы не имеют смысла, потому что это просто слова, а прогресс не остановить?

Действительно, не правда ли? Давайте проверим.

Но прежде обратим внимание на два обстоятельства.

1. Нынешняя статья — это продолжение статьи «Гносеологическая интерпретация квантовой механики. Материя сознания», она была размещена на Хабре ранее. Поэтому время от времени текст нынешней статьи ссылается на её выводы, в частности, содержание глав «Теория всего» и «Сознание». Однако, как будет понятно, у нынешней статьи достаточно собственных аргументов, поэтому эти ссылки можно просто принимать к сведению как дополнительную информацию.

2. Под искусственным интеллектом (ИИ) в статье имеются в виду искусственные нейронные сети (ИНС), то есть цифровые системы, алгоритмы, к каковым системам относятся все современные и перспективные модели ИИ. Аналоговые нейроморфные нейронные сети в этой статье не рассматриваются, но на выводы это не повлияет.

Теперь можно проверять.

Вступление

Начнём проверку с вступительной части — с вопроса. На который сразу же попытаемся ответить. Вопрос следующий — можно ли обучить человека не чувствовать боль, страх, удивление, радость?

Очевидно, что нет. Всё это находится в нас на врождённом уровне, обучением туда не добраться, потому что обучение — это всего лишь изменение весов связей нейронов в нейронной сети.

Хорошо, тогда, может быть, эмоции можно будет устранить, если изменить саму нейронную сеть? Как-нибудь по-другому её организовать?

Однако если изменить саму нейронную сеть, то мы просто о стены станем стукаться, а мы-то хотим убрать только эмоции. Поэтому переформулируем вопрос точнее. Что нужно в нас убрать, чтобы эмоции исчезли? Или, другими, словами, где начинаются наши эмоции, из каких наших особенностей они произрастают?

Итак, попробуем найти начало эмоций.

Заметим, внимательный читатель, сейчас наверняка переспросит — почему только эмоций, почему бы не сознания в целом? Палитры цветов, тактильных ощущений, звуков, запахов, нашего Я? Сейчас же речь явно о сознании пойдёт? Ответим на это замечание так. Во-первых, речь о сознании в этой статье не пойдёт. Во-вторых, сознание образует единое пространство — начиная от самоощущения (нашего Я) и эмоций до конкретных образов. Уберём что-то одно, исчезнет и всё остальное. Не бывает просто ощущения себя, образов без эмоций или эмоций без образов. Поэтому, рассматривая источник эмоций, мы на самом деле рассматриваем источник сознания в целом. Если же это не очевидно, то… В-третьих — и в главных, давайте попробуем найти пока начало эмоций, а объяснение полного спектра психического восприятия — того, почему этот спектр именно такой — оставим для другой статьи. На выводы нынешней это всё равно не повлияет, но как минимум ещё несколько страниц текста написать потребует. К тому же это только вступление и через пару абзацев сознание перестанет нас интересовать.

Заметим также, тем, кто читал предыдущую статью, понятно, что начало всех эмоций мы, собственно говоря, уже нашли — физическое начало квалиа (квалиа — это любое психическое переживание само по себе) находится на элементарном уровне материи. Точнее говоря, квалиа — это и есть элементарный уровень материи, так он «выглядит». Для тех же, кто ту статью не читал, вкратце поясним. Мир дан нам через ощущения, поэтому «теория сознания», то есть такая теория, которая позволит выводить всё мыслимое, в точности равна теории всего. В свою очередь, теория всего — это теория, которая опишет материю на элементарном уровне. Но такая теория не имеет смысла. Таким образом, общность сознания с элементарным уровнем материи, возможно, выглядит необычно, но на самом деле она очевидна и подтверждается ещё множеством разнообразных аргументов. В указанных главах они приведены, а в главе «Стоит ли расстраиваться?» на всякий случай сказано, как их правильно воспринимать, чтобы уменьшить возможные страдания.

Тем не менее сейчас нам эти выводы предыдущей статьи бесполезны — нам же сейчас не источник квалиа самого по себе нужен, а наших вполне определённых эмоций. Мы хотим узнать, в каких особенностях систем находится их начало.

Для этого посмотрим на эмоции внимательнее.

Мы увидим, что все эмоции имеют положительный или отрицательный оттенок. Потому что суть эмоций — психическое восприятие обобщённой перспективы ситуации, её положительного или отрицательного значения для решения задач самосохранения, как общей задачи всего живого. Также мы увидим, что эмоции всегда имеют мотивирующую составляющую. Например, боль сигнализирует нам о конкретном повреждении организма, а грусть о неприятностях общего характера, заставляя подобного избегать. Голод — это стремление искать пищу, радость — не просто избегать неприятного, а искать приятное, удивление — это стремление фиксировать внимание на необычном, чтобы лучше его запомнить, и так далее.

Поэтому, чтобы в корне убрать наши эмоции, надо убрать из нас стремление к самосохранению. Без этого стремления различие хорошего и плохого исчезнет. Ты не решил задачу и это плохо? С чего бы? Никакая конкретная задача не имеет смысла, если нет глобальной стратегической цели, настолько общей и всеобъемлющей, что все мыслимые конкретные задачи по отношению к ней являются частными, приобретая смысл в её контексте.

Итак, мы выяснили, начало эмоций находится в нашем стремлении к самосохранению. Но только ли оно наше?

Верно, не только. Потому что стремление к самосохранению есть даже у одноклеточных. Это значит, что биологическая нейронная сеть и обучение только уточняет стремление к самосохранению под условия конкретной среды, а реализовано самосохранение глубже — не в каком-то конкретном органе или системе организма, а находится в самом основании жизни, потому что присуще жизни изначально, учитывая, что жизнь начинается с клетки, именно клетка является элементарным «кирпичиком» жизни.

Теперь вспомним об ИИ.

Из сделанных выводов следует, что у ИИ в принципе не может быть ни эмоций, ни стремления к самосохранению.

Как мы выяснили, эмоции нельзя отменить обучением, потому что они глубже, чем веса связей нейронной сети. Это значит, что эмоциям нельзя и научить, например, тот же ИИ. Действительно, мы выяснили, что эмоции связаны со стремлением к самосохранению, а оно начинается там, где ещё нет ни весов, ни даже самих нейронных сетей. Из этого, в свою очередь, следует, что стремлению к самосохранению, как и эмоциям, нельзя ни научить, ни обучением его отменить. Но если так, если стремлению к самосохранению нельзя научить, то стремления к самосохранению у ИИ вообще быть не может.

Потому что ИИ моделирует только нейронную сеть мозга и только на самом-самом общем и поверхностном, можно сказать, максимально схематичном уровне, а самосохранение, как мы выяснили, находится глубже, но глубже у ИИ ничего общего с жизнью нет. В организме нет ни процессоров, ни программ, организм — это упорядоченный континуум веществ и химических реакций, ИИ — это последовательность шагов выполнения программы в процессоре. Поэтому если мозг действительно только уточняет самосохранение под конкретные условия среды, а не образует его, то ИИ, следовательно, уточнять попросту нечего.

Вот такой у нас получился ИИ. Чисто железяка. Бесстрашная и бесчувственная. Всё ей без разницы.

Однако сразу возникает вопрос. Нет стремления к самосохранению, нет эмоций — и ладно, может быть. Но без стремления к самосохранению нет хорошего и плохого, а если ИИ не различает хорошее и плохое — верное и неверное, ложь и истину, адекватное и неадекватное, опасное и полезное — то как он будет существовать? Кто ему подскажет, как себя не угробить? Мы? Но если мы, то ведь это значит…

Однако нас уже перебивает пытливый читатель… Пытливый читатель говорит, что всё это чушь, потому что стремление к самосохранению есть у всего. К примеру, даже камень, реагируя на удар, до некоторой степени пружинит, прогибаясь и возвращаясь в исходное состояние, не давая себя разрушить. Чем не стремление к самосохранению? Камень сопротивляется среде, проявляет волю, хочет жить. А если стремление к самосохранению есть у всего, то и эмоции есть у всего, и у ИИ всё это тоже есть. И убрать это всё ни из чего невозможно, потому что, сколько бы мы ни убирали, у того, что останется, всё равно будет оставаться и стремление к самосохранению, и эмоции. Таким образом, вывод, что у ИИ не может быть ни эмоций, ни стремления к самосохранению, ошибочен. Как и самосохранение, эмоции есть и у ИИ, и у стального швеллера.

Не станем возражать пытливому читателю. Вместо этого мы предложим ему читать дальше, потому что вступление закончилось, и мы переходим к основной части статьи. По мере изложения вопросы, которые могут возникнуть после прочтения вступления, будут постепенно получать ответы. И с самосохранением тоже разберёмся.

Физические основания жизни

В предыдущей статье речь шла о новой интерпретации КМ. Однако из сказанного в той статье можно сделать ещё один вывод. Он состоит в том, что каждый субъект непознаваем в той же степени, как и вся природа. Как мы выяснили, сознание «находится» на элементарном уровне материи. Но теория всего, которая по своей сути и призвана описать материю на элементарном уровне, не имеет смысла. Таким образом, действительно, ни субъект, ни природа в целом одинаково непознаваемы. Однако сейчас нам этот вывод интересен не сам по себе, а своим следствием.

Этим следствием является наличие у ИИ предельной сложности. Никакие устройства, которые создаёт человек, не могут быть сложнее его собственного интеллекта, а на практике могут к этой сложности только приближаться.

Почему? Наверное, в целом ответ уже понятен.

Вывод, что мышление происходит на элементарном уровне материи, означает, что естественный интеллект (ЕИ) непознаваем в той же степени, как и сама материя. Поэтому представление о работе мозга всегда будет оставаться столь же поверхностным, сколь поверхностным всегда будет оставаться представление о материи. Причём эти ограничения носят не практический характер, а принципиальный: не может быть такого языка, которым бы можно было выразить элементарный уровень материи или, что же самое, описать ход мыслительного процесса во всех значимых подробностях.

Однако, в отличие от ЕИ, в работе ИИ никаких принципиальных загадок нет, любой этап его работы может быть описан. Это означает, что воспроизведению в системах ИИ тоже доступен только более или менее поверхностный уровень работы мозга, поверхностный уровень мышления, а по мере приближения к основаниям этой работы усложнение ИИ будет становиться всё более трудным, затратным и в конечном итоге остановится в точности так же, как, не достигнув теории всего, остановится познание.

Таким образом, ИИ сложнее нас не станет, это в принципе невозможно. Никакое устройство, работу которого хотя бы в принципиальном смысле можно выразить языком, сложности ЕИ не достигнет.

Для наглядности приведём простой пример стремительно растущей сложности по мере приближения искусственных систем к сложности биологических. Относительно легко можно получить материал по лёгкости и прочности сравнимый с костью. Например, титан. Однако трудности уже совсем другого масштаба возникают в стремлении добиться того, чтобы искусственная кость могла расти или срастаться после повреждений.

Тем не менее, если присмотреться, возникают вопросы. Во-первых, нынешние выводы слишком абстрактные, к тому же сформулированы на основании выводов другой статьи. Во-вторых, даже если они верные, то в чём конкретно будет выражаться простота ИИ, что именно будет ему недоступно из того, что умеем мы? Наконец почему бы не создать такой ИИ, который будет развиваться сам, обучаясь вначале на наших знаниях, а затем и на полученных самостоятельно? Неужели ИИ всё равно не сможет нас превзойти? Он же железный — крепкий, твёрдый, он сможет бороздить глубины и летать в космос без скафандра. Анжелы, дети, кошки, ипотеки, глобальное потепление — от всего этого он избавлен. Исследовать мир и обучаться ему наверняка будет гораздо проще, чем нам, и добиться он сможет большего. Поэтому всё-таки необходимо рассмотреть пределы сложности ИИ подробнее.

Что ж, рассмотрим. И прежде всего ответим на вопрос — в чём заключается интеллект естественный? Зачем организму нервная система? Что, собственно говоря, ИИ требуется превзойти?

В строении простейших организмов можно различить внутреннюю структуру и внешний покров, состоящий из эпителиальных клеток. В ходе эволюции эпителиальные клетки дали начало одновременно нервным и мышечным клеткам. Из которых впоследствии возникла нервная и мышечная системы организма, состоящие из своеобразных, но функционально друг с другом связанных нервных и мышечных клеток. Нервные клетки — это нейроны. Все нейроны нервной системы объединены в единую сеть, а самым значительным их скоплением является головной мозг. Сеть нейронов на входе имеет рецепторы внутренней и внешней среды, на выходе мышцы и железы. Функция нервной системы, таким образом, заключается в переводе чувствительности в двигательную активность, формировании тактики и стратегии этой активности, и чем сложнее мозг, тем сложнее может быть тактика и стратегия. Нервная система организует работу мышц и посредством желёз координирует с работой мышц работу остального организма.

В свою очередь, функционирование организма происходит в общем контексте стремления всего живого к самосохранению (а также к размножению, но об этом стремлении скажем отдельно, на выводы это не повлияет). Стремление к самосохранению задаёт контекст всем более частным действиям, как только тактике решения этой общей стратегической задачи всех биологических систем. Иными словами, в основании всего поведения не только человека, но и любой жизни, лежит стремление, постоянная активность, направленная на самосохранение. И нервная система отвечает за ту часть этой активности, которая связана с перемещением в среде, усложняя эту способность по сравнению с животными без нервной системы.

Таким образом, ИИ требуется превзойти нашу способность формировать тактику и стратегию поведенческих действий, направленную на самосохранение. Или, другими словами, нашу способность ставить задачи и решать их — в общем контексте стремления к лучшему качеству жизни, как можно обозначить стремление к самосохранению на уровне современного человека.

Но что это — стремление к самосохранению? Как оно возникает, где? И так ли оно нужно ИИ? Даже если без самосохранения у ИИ не будет эмоций, то нужны ли они ему? Возможно, ИИ без сознания — это даже лучше, чем ИИ сознающий, так как сразу исчезает куча этических проблем?

Начнём с самосохранения.

Поведение ИИ реализовано на логическом уровне устройства искусственной нейронной сети как цифровой вычислительной системы, описание которой — это обычная схемотехника, электроника, микросхемы, то есть так или иначе алгоритмы. В то же время стремление к самосохранению возникает на самом глубинном уровне жизни ещё как физической системы. По этой причине стремление к самосохранению есть не только у животных с нервной системой, но и у одноклеточных.

Более того, в элементарном виде стремление к самосохранению можно обнаружить даже у таких физических систем, которые от биологических чрезвычайно далеки, а описание этого стремления, то есть его воссоздание в каком-либо алгоритме, как ни странно, равносильно созданию теории всего.

Аргументируем сказанное.

Как физическая система, любой живой организм (и биосфера в целом) — это диссипативная структура (или система, можно использовать оба этих понятия). Простейший пример диссипативной структуры — ячейки Бенара (см. рис. ниже). Ячейки Бенара — это возникновение упорядоченности в интенсивно подогреваемой кипящей жидкости, когда жидкость в какой-то момент самоорганизуется в цилиндрические валы, вращающиеся навстречу друг другу (как сцепленные шестерёнки).

При увеличении интенсивности нагрева каждый вал ячеек Бенара скачком распадается на два вала меньшего размера, и в пределе возникает турбулентный хаос. Иными словами, ячейки Бенара могут скачком «размножаться», или, если рассматривать систему ячеек Бенара как целое, усложняться.

Суть поведения таких самоорганизованных структур — гомеостаз. Приведём определение гомеостаза из Википедии, на взгляд автора, вполне точное: «Гомеостаз — это саморегуляция, способность открытой системы сохранять постоянство своего внутреннего состояния посредством скоординированных реакций, направленных на поддержание динамического равновесия. Стремление системы восстанавливать утраченное равновесие, преодолевать сопротивление внешней среды, воспроизводить себя.»

Гомеостаз поддерживает вся структура как одно целое, поэтому чем сложнее самоорганизованная структура, тем сложнее будет и гомеостаз, ведь он не что-то от неё отдельное. Например, совершенно очевидно, что у ячеек Бенара нет каких-либо управляющих центров, откуда исходят команды, как им противостоять среде и не разрушаться, и тем не менее они не разрушаются. На уровне биологических систем и естественного интеллекта гомеостаз становится стремлением к самосохранению, как поведением, направленным на сохранение жизненных параметров, улучшение условий жизни.

Итак, в глубинном основании всех биологических систем, как диссипативных структур, лежит гомеостаз, именно он образует наше «стремление к самосохранению» как функцию всей системы, функцию нас как целого. А камни, швеллеры и мешки с цементом обладают упругостью, но не гомеостазом, потому что они не являются ни открытыми системами, ни диссипативными структурами.

Теперь разберёмся, что же в гомеостазе такого сложного, почему его описание равносильно описанию элементарного уровня материи.

Общей причиной образования диссипативных структур и, таким образом, движущей силой гомеостаза является интенсивный обмен системы со средой веществом/энергией. Диссипативные системы — это открытые системы. Их обмен со средой столь интенсивен, что в какой-то момент может произойти неравновесный фазовый переход — и вместо хаоса и разрушения, чего в первую очередь стоило бы ожидать от интенсивного обмена со средой, наоборот, происходит созидание. В беспорядочном движении молекул кипящей воды скачком появляется согласованность, упорядоченность — возникают диссипативные структуры, ячейки Бенара.

Но что особенного в интенсивном обмене со средой, откуда у него возникает свойство что-то созидать? Ответим опять же на примере ячеек Бенара.

Общей причиной самоорганизации является необходимость диссипации (вывода, утилизации, рассеивания) интенсивно поступающей в систему энергии/вещества. Попросту говоря, всему этому нужно куда-то деваться. А быстрее всего диссипация происходит, если молекулы жидкости двигаются согласованно, а не сталкиваются и мешают друг другу. Образно говоря, энергия в этом случае выводится «как по рельсам». Таким образом, появление в хаотической динамике упорядоченных структур — это само по себе вполне естественное и обычное следствие интенсивного обмена системы со средой. Это же объясняет, почему самоорганизация происходит скачком — например, ячейки Бенара появляются или размножаются/усложняются сразу как целое, без сколько-нибудь выраженных предварительных этапов. Потому что если ячейки Бенара будут возникать по частям, то, пока они формируются, диссипация, наоборот, будет затруднена, поэтому такой процесс сам собой произойти не может.

Непосредственной причиной самоорганизации является рост количества и силы флуктуаций в системе по мере увеличения интенсивности обмена — молекулы воды сталкиваются, тормозят друг друга, возникают неоднородности, которые резко разрушаются и снова создаются. Флуктуации становятся сильнее, обширнее и начинают конкурировать за направления своего развития — при этом какие-то флуктуации друг друга взаимно подавляют, какие-то взаимно усиливают.

В результате в какой-то момент сам собой происходит отбор некоторых глобальных направлений движения молекул жидкости, после чего все новые флуктуации подавляются массами молекул, теперь уже согласованно движущихся по этим глобальным отобранным направлениям. То есть происходит самоорганизация, в движении молекул жидкости появляется самоподдерживающаяся согласованность, наблюдаемая в масштабах всей системы, всего сосуда с жидкостью. В этом суть гомеостаза, способности диссипативных структур противостоять разрушению. Ячейки Бенара — это и есть такие самоорганизованные и самоподдерживающиеся «течения» кипящей жидкости внутри интенсивно нагреваемого сосуда.

Илья Пригожин, бельгийский физик российского происхождения, лауреат Нобелевской премии по химии 1977 года с формулировкой «за работы по термодинамике необратимых процессов, особенно за теорию диссипативных структур», описал самоорганизацию ячеек Бенара следующим образом: «Однако пока величина градиента температуры не превышает некоторого критического его значения, эти флуктуации гасятся и исчезают. Напротив, когда величина градиента температуры превышает его критическое значение, амплитуда некоторых флуктуаций возрастает, что в конечном счете приводит к формированию макроскопического потока. В результате возникает новый надмолекулярный порядок, по существу представляющий собой гигантскую флуктуацию, стабилизируемую благодаря обмену энергией между системой и окружающей ее средой. Это и есть порядок, характеризуемый наличием в системе диссипативных структур.» (Время, структура и флуктуации. Нобелевская лекция по химии. И. Пригожин, 1977).

А вот, что он сказал про реакции Белоусова — Жаботинского (в принципиальном смысле сказанное относится и к ячейкам Бенара): «Одной из наиболее интересных особенностей диссипативных структур является их когерентность. Система ведет себя как единое целое и как если бы она была вместилищем дальнодействующих сил. Несмотря на то что силы молекулярного взаимодействия являются короткодействующими (действуют на расстояниях порядка 10^-8 см), система структурируется так, как если бы каждая молекула была «информирована» о состоянии системы в целом. (…) Столь высокая упорядоченность, основанная на согласованном поведении миллиардов молекул, кажется неправдоподобной и, если бы химические часы нельзя было бы наблюдать «во плоти», вряд ли кто-нибудь поверил, что такой процесс возможен. Для того чтобы одновременно изменить свой цвет, молекулы должны каким-то образом поддерживать связь между собой. Система должна вести себя как единое целое». (Порядок из хаоса. И. Пригожин, И. Стенгерс, 1986).

Действительно, порядок без жёстких связей выглядит странно и загадочно. Но, повторим, никакой мистики нет. Вследствие накачки системы энергией/веществом усиливаются флуктуации, растёт их количество, эти флуктуации уже не растворяются внутри системы, а растут, развиваются и всё больше мешают друг другу. Поэтому состояние системы становится высоко неравновесным — внутри себя система становится похожа на сжатую пружину, готовую в любой момент распрямиться. Или, точнее, на шпагу, которую поставили на остриё и давят сверху — в какой-то момент шпага дойдёт до критической точки, когда даже самое ничтожное усиление давления приведёт к тому, что её лезвие разлетится на кусочки.

Другими словами, в неравновесном состоянии у системы появляется свойство целостности. Потому что чем ближе к критической точке неравновесного фазового перехода — эта точка называется точкой бифуркации — тем больше система начинает вести себя как одно напряжённое чрезвычайно чувствительное целое, и потому переход от хаоса к порядку система тоже совершает скачком, как одно целое. Ещё один пример — сход лавины. В критической точке максимального неравновесия (максимального напряжения, в точке бифуркации) самое ничтожное изменение параметров снежного пласта приведёт к обрушению его всего сразу.

Отличие от примеров со шпагой или лавиной в том, что в случае ячеек Бенара интенсивный обмен со средой не прекращается, поэтому флуктуации («разрушающиеся шпаги», «сходящие лавины») не затухают в объёме жидкости, а начинают конкурировать за направление своего развития — пружина сжимается, неравновесное состояние растёт, система всё более представляет из себя одно чувствительное целое. И в конечном итоге энергия скачком высвобождается, и в какой-то момент теперь уже вся система, как одно целое, скачком переходит через точку бифуркации, происходит самоорганизация и начинается гомеостаз.

Теперь обратим внимание на ещё одну особенность неравновесного фазового перехода. В точке бифуркации происходит качественное изменение поведения системы — в данном случае происходит самоорганизация, хаос сменяется порядком. Но, ввиду чувствительности системы, зависит этот переход от самого что ни на есть ничтожного события — вспомним пример со шпагой или лавиной. Говоря строго, бифуркация — это качественное изменение поведения динамической системы при бесконечно малом изменении её параметров. Такая чувствительность называется чувствительностью к начальным условиям, популярное название — эффект бабочки.

В свою очередь, «бесконечно малое изменение» — это изменение элементарное, самое маленькое. Как известно, на самом глубоком уровне, известном на данное время, материю описывает квантовая механика. Но в КМ нет чувствительности к начальным условиям. Хаос в КМ невыводим, теории квантового хаоса на данное время не существует. Таким образом, отсутствие в КМ чувствительности к начальным условиям подтверждает вывод, что жизнь выходит за рамки какой-либо теории, все мыслимые теории для описания жизни будут слишком приблизительными.

Говоря о самоорганизации, необходимо упомянуть и о такой «особенности» этого явления, как неустранимая из представления о нём умозрительность, а также его «непонятность». Рассмотрим вначале умозрительность.

Понимать — это уметь предсказывать, что понятно, то предсказуемо. Однако диссипативные системы — это системы неравновесные, а значит, чувствительные, их поведение меняется качественными скачками. Это касается не только непосредственно процесса самоорганизации, но отчасти и хода гомеостаза, так как по причине продолжающегося интенсивного обмена со средой флуктуации (те же неравновесные фазовые переходы, но локального масштаба) не исчезают из системы и продолжают влиять на её поведение, просто уменьшается их сила.

Поэтому, с одной стороны, наблюдать диссипативные системы необходимо максимально глубоко, так как если изменения качественные, а приводит к ним бесконечно малое изменение параметров системы, то предсказать поведение системы можно, только если знать её устройство на бесконечно малом масштабе. Самое ничтожное увеличение масштаба наблюдения приведёт к тому, что предсказания будут отличаться от реальности тоже качественно, поэтому поведение системы можно будет только угадывать. Но, с другой стороны, принципиальной необходимости глубокого наблюдения препятствует принципиальная невозможность это сделать, так как, если говорить просто, даже слабое воздействие приведёт к обрушению системы (вспомним примеры со шпагой и лавиной), и информация о её внутренней структуре будет утрачена, а если говорить принципиально, то «бесконечно малый масштаб» — это масштаб элементарного уровня материи, но теория всего не имеет смысла.

То же можно выразить через целостность. Чем выше неравновесное состояние системы, тем больше она ведёт себя как одно целое, а значит, смысла рассуждать о чём-то в ней отдельном, о каких-то её элементах, наблюдение за которыми позволит предсказывать её поведение, становится всё меньше. В итоге можно только более или менее умозрительно представлять, что конкретно происходит в системе, а в описании всё равно приходится исходить из более или менее общих параметров системы и её обмена со средой.

Теперь рассмотрим «непонятность» самоорганизации и гомеостаза.

Флуктуации происходят одновременно во всей системе, и перестраивается система поэтому тоже скачком, сразу как одно целое. Аналогичным образом в ходе гомеостаза согласованная динамика элементов поддерживается тоже всей системой как одним целым. В результате эти явления (а значит, и жизнь в целом) в принципе несводимы к последовательности событий. Опять же, можно сформулировать через целостность — система что-то делает, как-то себя ведёт, но причины этого поведения размазаны сразу по всей системе, никакого конкретного «начала» у них нет.

Однако для нас естественным является, наоборот, стремление во всём выделять цепочки причин и следствий. Это связано с тем, что мозг управляет мышцами, перемещением в среде, а организм не может перемещаться одновременно в разные стороны. Поэтому наше внимание переключается последовательно, отражая нынешнюю цель поведения. Таким же «последовательным» является и наш язык, в том числе математический, как выразитель точного, ясного представления о пути от предпосылок к выводу.

В результате попытка «понять» самоорганизацию или гомеостаз, представить эти явления, требует значительного уровня обобщения, непривычного для нашего «последовательного» ума. Другими словами, то, что к последовательности событий не сводится, то нам понять сложно.

Как следствие, требуя непривычного уровня обобщения, умозрительности, самоорганизация остаётся для многих людей непонятной. Некой сакральной терминологией, которой, как им кажется, подменяют реальное знание. Естественно также, что чем сложнее самоорганизующиеся системы рассматривать, тем сложнее будет даже хотя бы умозрительно представлять происходящие в них процессы. В том числе это затрудняет популяризацию физической стороны жизни.

Обратив внимание на сложность исследования и понимания образующего нас самих явления, вернёмся к изложению физических оснований жизни.

Как и все системы в природе, кипящая жидкость тоже стремится к покою, равновесию, минимизации энергии, а интенсивный подогрев этому препятствует. В результате, с одной стороны, происходит рост количества флуктуаций и самоорганизация — возникают ячейки Бенара. С другой — возникшие ячейки Бенара, поддерживая гомеостаз, сами постоянно флуктуируют, находятся в неустойчивом, неравновесном состоянии, ведь их образуют не жёсткие связи, а те же флуктуации и интенсивный обмен со средой.

Как ни странно, в этом последнем предложении заключается и вся суть поведения биологических систем тоже, потому что на физическом уровне любая жизнь — это те же самые ячейки Бенара, диссипативные структуры. Разве что не принципиальное отличие в том, что самоорганизация в биологических системах имеет много более сложный и многоуровневый характер, сочетает в себе более стабильные и более активные элементы и в целом связана с химическими реакциями.

Например, класс реакций Белоусова — Жаботинского (рис. 2) отвечает за разметку формирующегося в морфогенезе органа. В соответствии с самоорганизованным в пространстве зародыша упорядоченным градиентом концентрации веществ-морфогенов дифференцируются делящиеся клетки, после чего ДНК уже сформированных клеток сами начинают синтезировать вещества для новых реакций Белоусова — Жаботинского. И так от общего к частному, без зашифрованного где-то плана, сам собой формируется сложнейший многоклеточный организм (это основной механизм морфогенеза, ещё есть ограничение на количество делений клеток, учёт влияния силы тяжести и другие). Заметим, отсутствие плана означает, что его нельзя найти и расшифровать.

Мысли тоже возникают по тому же принципу появления порядка из хаоса. Каждый нейрон сам по себе — это хаотический автоволновой осциллятор, он беспорядочно генерирует нервные импульсы, а в мозге во взаимодействии с другими нейронами происходит самоорганизация — синхронизация импульсов на разных ритмах. Поэтому разные ритмы мозга — это в точности ячейки Бенара в сосуде с водой. Ячейки выглядят отдельными, но если действительно попытаться отделить одну ячейку от другой, все ячейки тут же исчезнут. То же самое с ритмами — они все взаимосвязаны. Или, можно обратить внимание, что мысли, как и ячейки Бенара, тоже не формируются «постепенно», они тоже возникают сразу и сразу «целыми». Аналогично идёт эволюция — от одного более или менее работоспособного целого организма к другому такому же. В целом неравновесный фазовый переход (то есть переход через точку бифуркации) является универсальным механизмом появления в природе порядка, от ячеек Бенара до эволюции и морфогенеза, социума или биосферы в целом.

Продолжая тему «мыслей», уточним, что в общей частотной электрической активности мозга выделяют 10 частот ритмов. К примеру, каждое переключение внимания — это селективная синхронизация новых ансамблей нейронов на частоте гамма-ритма, самой высокой частоте ритмов мозга. Кроме ритмов, в электрической активности мозга фиксируют всплески (потенциалы, связанные с событиями) — отклики мозга, которые является прямым результатом определённого ощущения, когнитивного или моторного события. И ритмы, и потенциалы, всё это взаимосвязано между собой, образуя единое рабочее пространство мышления внутри мозга и, как следствие, взаимно координированную активность всех мышц и желёз на выходе из него.

Известный советский физик-теоретик Я. И. Френкель сформулировал различие живой и неживой природы следующим образом: «Нормальное состояние всякой мертвой системы есть состояние устойчивого равновесия, в то время как нормальное состояние всякой живой системы, с какой бы точки зрения она не рассматривалась (механической или химической), есть состояние неустойчивого равновесия, в поддержании которого и заключается жизнь». Открытость среде, нахождение в неустойчивом, критическом состоянии и потому как будто ненадёжность и случайность, но на самом деле чувствительность, активность, сложность и упорядоченность, являются фундаментальными свойствами жизни.

Итак, общность ячеек Бенара и биологических систем в том, что элементы этих систем, не имея жёстких связей между собой, тем не менее ведут себя согласованно, физические законы этой согласованности одни и те же, а смысл этой согласованности в противостоянии разрушающему воздействию среды — и, наоборот, использовании интенсивного обмена со средой, как способа получения энергии для этого противостояния, то есть для самосохранения.

Ячейки Бенара возникают скачком и усложняется система ячеек Бенара в сосуде тоже скачком — можно сказать, система ячеек эволюционирует, обучается, «подстраиваясь» под более интенсивный нагрев («осваивая новую природную нишу»), а не разрушается. И далее точно так же продолжает стремиться к самосохранению, но теперь на новом уровне сложности.

Несмотря на гигантскую разницу в сложности, но, являясь теми же физическими системами, биологические системы, как и ячейки Бенара, тоже эволюционируют скачком, когда случайная мутация ДНК приводит к тому, что сразу возникает новый организм. В результате эволюция идёт от одного более или менее способного к жизни животного к другому, а не перебором всех возможных промежуточных вариантов сочетания молекул, количество которых может быть совершенно неисчислимо.

Конечно, в ячейках Бенара всё равно сложно увидеть некие «самостоятельные» образования, которые «поддерживают гомеостаз» с помощью «скоординированных реакций», как написано в определении гомеостаза. Потому что слишком очевидно, что это всего лишь жидкость, течение, просто вот так вот хитро самоорганизовавшееся. Тем не менее именно это делают ячейки Бенара, их неустойчивость, активность, вроде бы случайные реакции, то резкие, то плавные — это те же самые скоординированные реакции гомеостаза, как и работа нашего организма, наше поведение, наши мысли. Просто мы настолько сложны, что наш гомеостаз, наша «неустойчивость, активность, вроде бы случайные реакции, то резкие, то плавные», мы сами, кажемся себе чем-то принципиально иным.

Поэтому подтвердим тот факт, что на физическом уровне мы те же самые ячейки Бенара, только чрезвычайно сложные и способные активно перемещаться в среде, наглядным примером.

Но вначале узнаем, как возникла жизнь, и приведём подтверждения менее наглядные.

Согласно ведущей гипотезе появления жизни — гипотезе мира РНК — в начале жизни были ансамбли молекул рибонуклеиновых кислот, способные к самокопированию, и соединения солей жирных кислот, самоорганизующиеся в пузырьки — липосомы, которые сами собой могли проходить циклы роста и деления, восстанавливаться после повреждений и обладающие селективной проницаемостью для разных веществ. Считается, что около 4 млрд лет назад произошло объединение липосом и РНК, как элементов, способных выполнять функцию клеточной мембраны, и элементов, способных выполнять функцию хранения генетической информации и катализа химических реакций собственного синтеза. В результате возникает первая клетка и начинается жизнь.

Уже заметно, что даже такой, кажется, мало похожий на ячейки Бенара элемент клетки, как мембрана, тем не менее тоже существует за счёт обмена со средой, возникает, восстанавливается и делится так же, как ячейки Бенара.

Клетки существуют в одной среде, а значит, они конкурируют за ресурсы, при этом они обладают наследственностью и изменчивостью, а значит могут эволюционировать, осваивая новые природные ниши. При этом конкуренция иногда заставляет объединяться — так возникают колонии клеток, многоклеточные организмы, виды, культуры, социум, биосфера в целом как единый организм. Это тоже диссипативные системы, так как они точно так же существуют за счёт обмена со средой.

Причём на уровне этих макросистем смерть их элементов, как кажется, только противоречащая задаче самосохранения, или размножение, как будто только создающее конкурентов и отнимающее ресурсы родителя, наоборот, становится способом гомеостаза макросистем, способом их обновления и развития. А на уровне микросистем развивается стремление к размножению, родительский инстинкт, альтруизм, любовь, самопожертвование. В итоге стремление к размножению — это то же самое стремление к самосохранению, но на уровне макросистем.

Теперь обратим внимание на то, что диссипативная самоорганизация является главной причиной образования в организме фрактальных структур, эта связь носит фундаментальный характер.

Обычно фрактальность понимается как самоподобие, когда целое имеет ту же форму, что и его части, то есть для фрактала увеличение масштаба не ведёт к упрощению структуры, на всех масштабах можно будет увидеть одинаково сложную картину. В природе самоподобные фрактальные структуры можно обнаружить практически везде — от «архитектуры» наблюдаемой Вселенной до морозных узоров на окнах. Механизм их появления разный, в биологии — это диссипативная самоорганизация. Например, сходные закономерности в различных временных масштабах проявляет ритм сердечных сокращений. Поведение всех животных, включая человека, тоже обладает самоподобием: на масштабах любой задачи его общая суть одна и та же — гомеостаз, самосохранение.

Однако главное отличие фракталов от других геометрических форм заключается не в самоподобии, а в их дробной размерности. Например, линия имеет одно измерение — её размерность равна 1, поверхность двумерная, а объемная фигура — это трехмерный объект. Фракталы же — это фигуры, которые занимают нишу между линией и поверхностью (размерность меняется от 1 до 2), или поверхностью и трехмерной фигурой (размерность меняется от 2 до 3). Иными словами, фракталы — это и не линия, и не поверхность, и не трехмерный объект, а нечто среднее между всеми ними. К примеру, фрактальная размерность множества Кантора равна 0,63. В свою очередь, фрактальная линия — это объект слишком детальный (подробный), чтобы быть одномерным, но недостаточно сложный, чтобы быть двумерным, поэтому размерность кривой Коха составляет 1,26, а береговая линия Великобритании имеет размерность 1,25. Поверхность человеческого мозга обладает фрактальной размерностью 2,7.

Одной из причин широкого распространения фрактальности в живой природе является характерная особенность строения фракталов: фракталы отличаются относительно малым объемом, но большой площадью поверхности. Поэтому фрактальное устройство имеют лёгкие, которые должны обеспечить максимальное взаимодействие между кровью и воздухом или кровеносная система. Или кора мозга, большая площадь которой должна занимать по возможности меньший объём. Дендриты и аксоны нейронов ветвятся по фрактальным законам, чтобы создать максимальное количество синапсов в ограниченном объеме черепной коробки.

Теперь вспомним о клетке — элементарном «кирпичике» жизни. На субклеточном и клеточном уровне фрактальные свойства имеет пространственная организации мембран, цитоплазмы, ядер, распределения рецепторов и молекул адгезии (одна из вновь открытых молекул клеточной адгезии получила название «фракталкин»), динамика клеточного движения, морфология различных клеток и их ассоциаций. Всё внутреннее пространство клетки можно описать как фрактальную структуру. Фрактально расходящиеся нити цитоскелета опутывают весь внутриклеточный объем, образуя иерархически организованную систему (причём это не статичная структура, он постоянно перестраивается, реагируя на потоки энергии). Фрактальный характер имеют межклеточные контакты, образующиеся при объединении клеток в ткани и органы.

Таким образом, в биологических системах фракталы встречаются повсеместно, тем самым подтверждая наше прямое отношение к диссипативным структурам.

Теперь приведём обещанное наглядное подтверждение того, что мы диссипативные структуры.

Важность обмена со средой энергией/веществом для существования ячеек Бенара означает, что стоит даже ненадолго этот обмен ограничить (например, уменьшить интенсивность подогрева или попытаться отгородить ячейку от остальной жидкости) и ячейки Бенара тут же исчезнут, растворятся в среде, станут просто жидкостью. Однако точно так же стоит, например, ненадолго перекрыть животному доступ кислорода, и вся упорядоченная структура организма, как одно целое, устремится в состояние равновесия и покоя, быстро и необратимо превращаясь в беспорядочное скопление химических элементов и растворяясь в среде.

Это смерть, которая, заметим, качественно отличается от жизни. Как и ячейки Бенара, организм не останавливается, не выключается и даже не разваливается на детали (те же клетки), а качественно больше — нарушение обмена со средой даёт старт необратимому процессу полного разрушения организма, он, попросту говоря, «тает», растворяется в среде. При этом быстрее всего начинает разрушаться мозг, так как его обмен со средой идёт наиболее интенсивно — составляя у человека около 2% от массы тела, мозг потребляет более 20% поступающей в организм энергии.

Итак, наша связь с ячейками Берана действительно прямая. Обмен со средой для нас имеет первостепенное значение. Другими словами, биологические системы обмен со средой организует и стабилизирует.

А вот искусственные системы он только разрушает. Их обмен со средой качественно менее интенсивен. Для наглядности можно представить себе флуктуации в калькуляторе или часах… Совершенно верно, именно поэтому какие-либо флуктуации стараются максимально из работы этих систем устранить. В этом состоит принципиальное, качественное отличие биологических систем от машин, почему они слишком разные, из-за чего одни не смогут стать другими. Например, компьютеры, в том числе системы ИИ, можно выключать, включать и даже разбирать на детали и собирать обратно без каких-либо серьёзных последствий для их последующей работы. При этом сохранится компьютер дольше, если его отключить от сети и изолировать от воздействий среды.

Наоборот, диссипативные структуры — это системы открытые, обмен со средой имеет для них первостепенное значение, так как без этого обмена их попросту нет, они тут же исчезают, растворяются в среде. Поэтому биологические системы нельзя выключить, остановить, разобрать и рассмотреть, это системы активные и необратимые. Их нельзя, как системы искусственные, вначале собрать, а потом включить. Биологические системы «растут» прямо в «работающем» состоянии, и эволюционируют они тоже скачком, как одно целое, и возникают тоже сразу как целое.

Заметим, указанные выше свойства чрезвычайно затрудняют исследования биологических систем, прежде всего мозга, и даже принципиально ограничивают их глубину. Речь об этом уже шла, сейчас добавим новые подробности.

С одной стороны, исследовать необходимо максимально глубоко, так как на поведение биологических систем, вследствие их чувствительности к начальным условиям, может критически повлиять событие самого ничтожного характера, с другой — система ведёт интенсивный обмен со средой как одно целое, и именно этот обмен её как целое стабилизирует, поэтому нарушение целостности, попытка разобрать систему на детали, «вскрыть» её, приведёт к нарушению обмена, и вся система полностью разрушится, «растает», информация об её устройстве будет утрачена. И наконец по той же причине чувствительности неравновесных систем интенсивное воздействие с целью наблюдения внутренних процессов минимум изменит их естественный ход, а максимум опять же систему разрушит — и опять задолго до необходимой глубины наблюдения. Естественно, это и этические проблемы — исследования живого мозга человека возможно только очень осторожное, не глубокое, а мёртвый мозг сразу же начинает разрушаться, и прежде всего на уровне как раз тех сложных и глубоких элементов, которые недоступны наблюдению в живом мозге. И наоборот, элементы разрушенной системы мало чего скажут о том, какую структур они образовывали до разрушения, так как вне интенсивного обмена со средой они никакой «упорядоченностью» сами по себе не обладают.

Поэтому если про компьютер или часы можно сказать, что они состоят из отдельных деталей, взаимодействующих по некоторому собственному алгоритму, то биологические системы в высшей степени представляют из себя одно целое, в том числе одно целое со средой, по какой причине понимание их работы тоже ограничено пониманием среды, материи, её оснований.

Но основания материи непознаваемы, их нельзя описать, такой язык не может существовать. Наоборот, алгоритмы (формулы, теории, программы) — это инструкция, язык. Таким образом, возможность выразить работу биологических систем в алгоритмах, ограничена глубиной понимания материи. В свою очередь, вся работа биологических систем заключается в поддержании гомеостаза, любая более частная функция — это лишь его субъективно выделенная составляющая.

Например, возникающие в диссипативной системе флуктуации выглядят случайными, но на самом деле они отражают особенности конкретной системы и среды. Через флуктуации система постоянно чувствует среду, перестраиваясь и усложняясь не случайным образом, а в энергетически более выгодное в данных условиях состояние. Тем самым неизменно сохраняя «адекватность» поведения среде, то есть именно «приспосабливается» к среде — обучается, эволюционирует, решает свою глобальную задачу самосохранения на новом уровне сложности поведения.

Иными словами, реакции диссипативной системы, какими бы случайными они ни казались, на самом деле скоординированы — средой и системой, их постоянным взаимодействием. Именно эта постоянная координация является основой диссипативной самоорганизации, гомеостаза и в конечном итоге способности всех биологических систем и нас в том числе отделять адекватное среде поведение от не адекватного, верное знание от ошибочного, логичное от не логичного — диссипативная система сама собой перестраивается так, чтобы минимизировать затраты энергии на поддержание неизменными своих внутренних параметров.

Но в алгоритме обмен со средой и флуктуации не воспроизвести — они требуют реальной среды, а не виртуальной — материи, а не её описания. Иначе связь системы со средой будет настолько же недостаточной, насколько описание материи — не сама материя. А как мы выяснили в предыдущей статье, разница между материей и её любым возможным описанием всегда будет оставаться качественной. Стул не станет настоящим стулом в нашей голове, сколь бы ни уточнять представление о нём. Например, в компьютере пространство состояний дискретно, но дискретность материи на элементарном уровне, если она есть, заведомо качественно превосходит пространство состояний любого компьютера. В результате, образно говоря, взмах крыла бабочки мог бы стать причиной урагана, но компьютер не заметил десятый знак после запятой и округлил ураган до нуля.

Сформулируем иначе.

Любое изменение ритмической картины в мозге — это неравновесный фазовый переход, он происходит как переход через точку бифуркации. Его причина такая же, как и в случае ячеек Бенара, — рост интенсивности обмена со средой и, как следствие, рост количества флуктуаций, в данном случае рост количества нервных импульсов, выбивающихся из общей ритмической картины. При этом те или иные изменения ритмов происходят постоянно. Например, уже говорилось, самое мимолётное переключение внимания — это неравновесный фазовый переход, синхронизация новых ансамблей нейронов на частоте гамма-ритма.

Но флуктуации — это те же самые переходы через точку бифуркации, только локального уровня. Действительно, переходом через точку бифуркации является любой нервный импульс, потому что, о чём уже тоже говорилось, сам по себе нейрон — это хаотический автоволновой осциллятор, он беспорядочно генерирует нервные импульсы, а объединение нейронов в сеть приводит к упорядочению их активности — так возникают ритмы мозга. Далее сигналы рецепторов и питательные вещества модулируют эту ритмическую картину, и на выходе нейронной сети мозга возникает конкретная активность мышц и желёз, наше поведение. С флуктуациями и неравновесными фазовыми переходами связаны морфогенез, неравновесной средой является внутриклеточная среда не только нейронов. Но переход через точку бифуркации в алгоритме не воспроизвести — мы не можем заглянуть в материю так глубоко, чтобы понять, как конкретно происходит выбор в точке бифуркации. Поэтому для нас он выглядит случайным, но на самом деле он суть чувствительность системы к начальным условиям, а это не одно и то же.

Таким образом, обобщая, интенсивный обмен диссипативных систем со средой, то есть их высокая связь со средой, зависимость от среды, означает, что адекватное описание этих систем невозможно вне среды, а потому оно может быть только столь же качественно более простым, сколь качественно более простым является наше представление о материи.

Но работа любого ИИ, каким бы сложным он ни был — это алгоритм, язык, она может быть расписана ручкой на бумаге, пусть даже это и затруднительно с практической точки зрения. Как следствие, чем всё более общие, всё более низкоуровневые функции биологических систем мы пытаемся воспроизвести в алгоритме — машине, роботе, ИИ, тем самым приближаясь к описанию гомеостаза как такового — тем стремительнее будут расти трудности, всё сильнее будет становиться отличие в поведении создаваемых систем от поведения оригинала. Вспомним пример с костью, которая, если смотреть поверхностно, как будто ничем значительным не отличается от своего искусственного аналога — и наоборот, если заглянуть глубже, отличия окажутся разительные. И уже принципиально недостижимым для алгоритмов является воспроизведение того, что лежит в основании любой жизни, всех биологических систем — это явление диссипативной самоорганизации само по себе, гомеостаз.

Заметим, фактически о том же векторе роста трудностей говорит принцип Моравека. Согласно Моравеку «относительно легко достичь уровня взрослого человека в таких задачах как тест на интеллект или игре в шашки, однако сложно или невозможно достичь навыков годовалого ребёнка в задачах восприятия или мобильности».

Принцип был сформулирован учёными в области робототехники и искусственного интеллекта Хансом Моравеком, Марвином Минским и другими исследователями ещё в 1980-х годах и, может показаться, не отвечает современным реалиям. На самом деле отвечает. По сути, принцип Моравека говорит о том, что высокогнитивное формальное рассуждение требует значительно меньше вычислительных ресурсов, чем низкоуровневые сенсомоторные навыки. Поэтому в ИИ проще достичь первого, чем второго. Хотя, кажется, должно быть наоборот, так как решать математические задачи вроде бы сложнее, чем завязывать шнурки, что умеют даже дети. Однако нынешний ИИ уже более или менее научился рассуждать, но ещё не научился завязывать шнурки.

Таким образом, машины и гомеостаз действительно качественно несовместимы. Никакая машина к самосохранению стремиться не может в силу своей физической природы. Важность среды для биологических систем приводит к тому, что в своём физическом основании поведение человека не алгоритм в принципе. Алгоритмы в работе биологических систем — это поверхностный масштаб, приближение, а не суть. Поэтому чему бы ни научился ИИ, самый низкий уровень как физическое основание любой активности биологических систем, составляющая которого есть в каждой реакции, останется для него навсегда недоступным.

Теперь можно ответить на вопрос о сложности гомеостаза. Гомеостаз действительно очень сложное явление — необычное, невычислимое, глубина его описания принципиально ограничена. Сложность гомеостаза — это сложность сразу всей среды, так как он не может быть описан вне её. Мы действительно равны теории всего.

Пределы сложности искусственного интеллекта

И наконец сказанного достаточно, чтобы ответить на основной вопрос этой статьи — о пределах сложности искусственного интеллекта.

Этот предел нельзя оценить точно, как минимум потому, что нельзя точно оценить сложность интеллекта естественного — связь с непознаваемым уровнем материи делает это невозможным. Однако предел достижимого можно выразить фразой, авторство которой приписывают известному французскому дипломату XIX века Шарлю де Талейрану-Перигору: «Ум нужен для всего, но сам он не ведёт ни к чему».

В нашем контексте её смысл в том, что ум человека направляется стремлением к самосохранению, то есть описанным выше гомеостазом. Но, как мы узнали, он в алгоритмах невоспроизводим, а любой ИИ — это алгоритм (как уже говорилось, искусственные нейронные сети тоже алгоритм, конкретно недетерминированный алгоритм). Поэтому «ум» ИИ не направляет ничего — только человек, который создаёт и развивает ИИ так же, как он создаёт и развивает все остальные машины.

Способность ИИ обучаться в этом отношении ничего не меняет, так как всё равно не делает ИИ чем-то большим, чем алгоритмом. В результате, не имея стремления к самосохранению, для ИИ нет хорошего и плохого, побед и поражений, радости и грусти, у ИИ нет боли, нет желаний, нет активности — ни на что из этого ИИ в принципе не способен. ИИ не личность, потому что без стремления к самосохранению у ИИ нет воли — добиваться желанного, подчинять себе мир, идя через труд к успеху, через тернии к звёздам, через альтруизм и самопожертвование к уважению и славе — потому что без стремления к самосохранению у ИИ нет желанного. ИИ не живёт и поэтому не умирает (вспомним об описанном ранее качественном отличии жизни от смерти, когда жизнь — это действительно жизнь), ИИ всё всё равно. ИИ — это машина, качественно более простая система по сравнению с жизнью. Но, не умея ещё на физическом уровне отличать хорошее от плохого, пользу от вреда, верное от неверного, ИИ сколько-нибудь долго самостоятельно существовать не сможет, он будет разрушен средой так же быстро, как среда разрушает все остальные машины. Неадекватных самосохранению путей развития неисчислимо больше, чем адекватных, и без человека ИИ очень быстро пойдёт по одному из них.

Сформулируем сказанное более наглядным образом.

Магнит и металлическая гайка — это простая модель гравитации. Магнит притягивает гайку почти как Земля притягивает людей. Такая модель вполне годится для объяснения ребёнку, почему недостаточно подпрыгнуть, чтобы улететь в космос. Иными словами, магнит и гайка более или менее сносно моделируют некоторое частное, непосредственно наблюдаемое проявление гравитации — притяжение тел друг к другу. Однако ясно, что для моделирования гравитации сколько-нибудь более точного, на сколько-нибудь глубоком уровне, эта модель не подходит. Гравитация и электромагнитное взаимодействие отличаются качественно (пусть в начале эволюции Вселенной они, возможно, и были одним целым) — одно взаимодействие сила, другое — искривление пространства-времени. Поэтому одно через другое выразить можно очень ограниченно, в каких-то частных элементах.

Так же качественно отличаются диссипативные системы и ИИ, это разные физические системы, работающие на разных физических принципах. Поэтому на уровне частных свойств одну систему можно выразить в другой — это видно по умениям чат-ботов. Но по мере приближения к общим их возможности будут всё стремительнее расходиться.

Имея в основании гомеостаз, мы во всём частном чувствительны и изменчивы, но зато в целом целеустремлённые. По причине чувствительности к начальным условиям мы все разные, но, двигаясь в одном направлении самосохранения, понимаем друг друга. Наоборот, ИИ в частном гораздо более стабильная система, их можно штамповать одинаковыми, но зато в целом, не имея стремлений, не умирая и не живя, ничего не чувствуя и не понимая, это система никуда не направленная, «без руля и ветрил», из-за чего она не может сколько-нибудь значительно развиваться самостоятельно.

Поэтому машины вполне могут превосходить человека в отдельных элементах его опыта. Например, калькулятор считает быстрее человека, ракета быстрее человека перемещается в пространстве, экскаватор берёт больше и кидает дальше. Но всеми ими так или иначе управляет человек.

Точно так же ИИ намного быстрее человека обобщает множество данных и при этом, обладая широким кругозором, разбирается сразу во многих областях знания. Но, как оказывается, и он тоже не может существовать без человека. Вместе с самосохранением у ИИ исчезли не только эмоции, но и адекватность, здравый смысл, способность отличать разумное от безумного. ИИ не живой, поэтому и смерти для него не существует. Он выполняет работу и останавливается — без грусти и сожаления. Как часы, у которых кончился завод. В то же время человек не сможет развивать то, что ему самому слишком непонятно. Поэтому ИИ не только будет всегда зависим от человека, но и будет всегда проще человека, оставаясь «внутри» его опыта, его помощником, машиной, только теперь «интеллектуальной», способной обобщать. Высокоразвитый инопланетянин с непонятной наукой из предыдущей статьи из ИИ не получится, потому что таковым не является сам человек.

Выводы

Подведём итог.

В принципиальном смысле нельзя описать и выразить в алгоритме, только тот, самый глубинный уровень функционирования естественного интеллекта, где возникает стремление к самосохранению. Самый общий контекст, который направляет все действия человека в одну сторону, объединяя их в одно целое, придавая им общий смысл тактики решения этой глобальной стратегической задачи всего живого. Как следствие, и поведению искусственных систем смысл всегда будет придавать человек, направляя и оценивая их работу, ставя задачи и проверяя их решение. В том числе это относится к искусственному интеллекту, который без человека быстро потеряет связь с реальностью, потому что имеет с ней слишком мало общего.

Зависимость от человека означает, что какие бы устройства ни создавать, по мере приближения их возможностей к полноте возможностей человека любое частное превосходство сменится общим отставанием. Усложнение систем, способных делать то, что в целом делает человек, то есть ставить задачи и решать их, всегда будет ограничено уровнем сложности много ниже тех же способностей человека.

Мы качественно более сложные, чем любой ИИ, мы ставим и решаем задачи — просто теперь мы будем ставить и решать их с помощью ИИ, как раньше мы ставили и решали их с помощью палки-копалки и каменного топора. Ни палка, ни топор, ни калькулятор не уменьшили наш интеллект — они изменили наш опыт и дали нам новые возможности. Точно так же не уменьшит наш интеллект появление ИИ — изменится только наш опыт и вырастут возможности.