user9671079

Вообще, в математике есть такие разделы, как топология или теория узлов. Они о том, что если брать некий узел (просто завязанная верёвка с завязанными концами) и провести над ним какие-то манипуляции (движение Рейдемейстера) — узел останется тем же самым, но если сделать другие манипуляции — узел окажется другим. То есть топология и теория узлов ищут что-то, что остаётся постоянным (инвариант), если что-то перемешивать.

Так же и тут — мы можем задаться таким вопросом: что мы можем сделать с этим алгоритмом «кто», чтобы этот «кто» оставался или менялся. Соответственно, мы попробуем порассуждать на эту тему.

Что будет, если у нас вместо одного input будет input1 = input1() и input2 = input2() и будем их отправлять на поиск одной модели? Этот случай сходен с ситуацией, когда человек, который не видел, вдруг начал видеть; от этих ситуаций ни сознание, ни личность, ни «я» не раздваиваются.

Однако если мы сделаем model1 и model2 из этих input1 и input2, то у нас появится две модели мира, и по обеим этим моделям можно сделать свои уникальные предсказания — а значит, два возможных варианта лучших действий. Кажется, что если не сделать надмеханизм выбора, какую конкретную последовательность действий выбрать из двух этих возможных путей достижения цели, то у нас будет уже два «я».

Представим себе другую ситуацию, очень сходную с предыдущей. input1 и input2 — это две видеокамеры, расположенные на двух роверах Яндекс-доставки; из них создаётся одна модель и одно предсказание для этой модели с выбором одной лучшей последовательности действий для одновременного достижения некоего множества целей. Как мы рассуждали, этот случай не требует разделения сознания или «я», если есть единая модель.

Но мы можем усложнить пример. Что если у нас input1 — с видеокамеры ровера Яндекс-доставки, а input2 — с камеры, в которой происходит игра в шахматы, и мы это всё передаём в единую модель бота, у которого две одновременные цели — выиграть в шахматы и доставить посылку? Насколько знание шахмат поможет доставлять посылки, и обратно? Некоторые исследования говорят о том, что не сильно-то помогают, как нам хотелось бы. Это создаёт нам другой вопрос: даже если мы отправляем разные данные в единую модель — что если эти данные не образуют эту самую единую модель с точки зрения закономерностей и логики, — то получается, у нас образуется два «я», потому что одну модель можно заменить двумя?

Но интересно вот что. Если бы этот бот поставил цель поменять что-то в своём алгоритме, а не в самой игре, то первое, что стоит заметить, — это то, что он может потерять «полное сильное» управление собой, или даже исчезнуть, или измениться непредсказуемо для себя. Второе, что важно, — мы бы могли потерять нить того, какая цель управляет и какой бот управляет (ведь он может поменять свои цели и изменить самого себя).

И в этом смысле интересно порассуждать — а какая вообще связь между единством целей и «я». Если мы говорим о том, что «я» никакого нет, а есть сообщество целей в голове человека, наподобие Римского Сената, которые либо с помощью внешних стимулов эмоций передают власть какому-то отдельному сенатору-диктатору, либо они все согласны друг с другом, и у них нет внутренних противоречий — тогда они голосуют одинаково и принимают одно решение на всех, либо они действуют через подобие демократии и выбирают то, что устраивает большинство.

Тогда с этой точки зрения «я» — это не про конкретные цели, а про то, что есть единый Сенат целей, где каждый сенатор имеет вес и голос. Какие цели необходимо внедрить в этот Сенат, чтобы это «я» разорвалось? Даже если мы внедрим сенаторов с противоположными целями в этот Сенат — один хочет увеличить расходы на здравоохранение, а другой не хочет, — то сам Сенат не перестаёт быть функциональным. Проблемы начнутся тогда, когда мы физически разделим Сенат перегородкой на два Сената и не будем выносить общих решений для этих двух Сенатов через какую-то надстройку. В этом случае мы имеем два раздельных компонента сильной связности с точки зрения теории графов, которые не повлияют друг на друга.

Если рассуждать дальше, то мне интересно абсолютное управление вот в ещё каком контексте единости «я». Я доказывал в прошлых постах, когда и почему абсолютное управление невозможно, поэтому будем считать, что есть не абсолютное управление, а «сильное», которое близко к абсолютному. Очевидно, что мозг человека обладает «сильным управлением» над мышцами человека. Мышцам очень трудно (если возможно) не подчиниться приказам мозга, если у них нет уважительных причин в виде молочной кислоты в них. Когда мы говорим о «я», мы также говорим и о «моё». Когда мы чем-то «сильно» управляем, считаем ли мы это частью себя? Скорее всего, ответ отрицательный. Потому что я не считаю автомобиль, которым управляю, частью себя, но при этом я считаю частью себя то, чем я не управляю. Например, я не имею абсолютного управления над своими эмоциями или температурой своего тела, тем не менее я считаю их своими.

Введём второго игрока. Он имеет право записывать в эту ячейку с числом в любой момент времени, кроме момента ходов первого игрока. Очевидно, второй игрок может создавать то, что первый игрок считает моделью мира. Более того, он может даже заставить первого игрока вывести модель мира, которую он желает чтобы первый игрок получил. Если он захочет, он заставит первого игрока думать, что алгоритм мира — это три плюсования единицы подряд, или любые другие модели мира, которые он захочет.

В этом смысле управление первого игрока не абсолютное, и не существует способа узнать, абсолютное оно или нет.

Это можно проиллюстрировать на другом примере тоже. С точки зрения желаний человека у него есть цель «безопасность» и есть цель «размножение». Эти цели часто конфликтуют между собой, потому что женщины, например, бывает, боятся рожать, а мужчины бывает боятся соревноваться за женщину. И та и другая цель управляет интеллектом человека. Однако по факту в реальности выигрывает одна из целей в конкретные моменты времени, или они просто блокируют друг друга, что может заставить человека в некоторых случаях вообще ничего не выбрать.

Если раскрывать мысль о том, что управляют цели, а не кто-то конкретный, то с точки зрения логики можно легко создавать цепочки целей. Например, «нужно заработать деньги», чтобы «купить остров и жить там счастливо». Такие цепочки могут быть длинными и могут образовываться через логический вывод. Очевидно, что промежуточная цель «нужно заработать деньги» тоже управляет миром вокруг. Но между этими двумя целями, промежуточной и основной, существует логическая зависимость и некое отношение иерархии.

В этом смысле довольно интересно моё собственное отношение к математике и науке. Наука — это способ сохранить историю своих ощущений (даже измерения веществ весами в химическом опыте — это тоже сознательное ощущение) и с их помощью предсказать будущее. Моим мозгом в этом смысле движут две основных эволюционных потребности и цели. Первая, более сильная для меня, — это простое любопытство и желание знать, как устроен мир. Вторая цель — это желание через знание устройства мира управлять его небольшой частью через свои действия, чтобы менять его под свои желания. Как я рассуждал в предыдущем посте про эмоции, существуют ситуации, когда какие-то цели захватывают управление организмом в ущерб другим целям организма. Соответственно, кроме светлой стороны математики и науки (которая мне нравится), существует ещё тёмная сторона — то, что наука даёт людям возможность ограничивать свободу других людей, управляя ими (что мне не нравится).

В этом смысле довольно интересно рассмотреть такой пример. Есть нью-йоркская или московская фондовая биржа. У её постоянных игроков больше всего денег у тех людей, которые либо лучше предсказывают будущее (цель науки и математики). Понятно, что с точки зрения математической теории игр, как утверждает Савватеев, полностью предсказать поведение игроков на бирже пока невозможно (каждая новая выигрышная стратегия меняет правила игры), но более умные люди с большими вычислительными ресурсами и с более крутыми выпускниками экономических вузов на ней стабильно получают больше денег, чем остальные. Возникает вопрос: а правда, что люди управляют нью-йоркской биржей, а значит, и миром? Ответ на него не так прост, как кажется. Очевидно, что у каждого игрока на бирже цель — заработать побольше денег. Она связана с их собственными личными потребностями в безопасности, развитии и власти. Логическая цепочка такая: «если у меня будет больше денег, то я смогу нанять больше охраны, купить дом в самом безопасном районе и т. д.». Но может ли этот финансист точно предсказать, как поменяются его цели в случае, если он заработает много денег? Очевидно, что нет.

К примеру, финансист вкладывается в компанию, которая производит генетические лекарства, а эта компания анонсировала вирусный вектор, который сделает так, что люди перестают стареть. Затем злоумышленники используют его (этот вектор), чтобы создать неизлечимую болезнь, и этой болезнью заболевает финансист. Цель заработать больше денег, чтобы быть в безопасности, сменяется целью заработать или потратить денег, чтобы финансировать исследование лекарства, чтобы не умереть. Мы приходим к другому выводу. С точки зрения логики, главный центр управления — не человек в мире, а физика и математика. Так как существование Бога нельзя доказать или опровергнуть (с точки зрения самой науки), я бы субъективно, со своей позиции, добавил, что управляет миром Бог.

В этом смысле интересна разница между понятием абсолютного (опять же, я хотел бы пояснить, что на основе рассуждений из предыдущих постов абсолютное управление чем-то невозможно, поэтому я тут абсолютным управлением называю близкое к абсолютному управление) управления и относительного. К примеру, мы легко можем создать алгоритм, который сможет абсолютно управлять другим алгоритмом (бот всё время выбирает лучшую стратегию в крестики-нолики, или регулятор паровой машины всё время склоняет её к постоянной скорости оборотов (Джеймс Максвелл "О регуляторах"). В этом случае алгоритм, который управляет, может рассчитывать на то, что алгоритм, которым он управляет, будет предсказуемым для него и не выкинет никаких сюрпризов в своём поведении в будущем (к примеру, класс управляемых линейных динамических систем). В этом случае мы вроде бы можем сказать что кто-то чем-то управляет (с определенным допущениями). Но проблема в том что такого рода управление не относится к реальным потребностям человека в мире с точки зрения управления

Для этих случаев иррационален не выбор плана осуществления цели, а доминирование одной важной цели над другими важными целями и неоценка последствий принятых решений. Если человек идёт к соседу и ударяет его — его могут посадить. В этом смысле вспоминается разговор нейробиолога Дубынина и священника (он на YouTube есть) о природе греха. У человека есть естественные потребности — еда, размножение, безопасность, здоровье. Предположим, человек под воздействием сильного желания (возможно, генетического, вспоминая Оземпик) начинает очень много есть и начинает жиреть. Потребность поесть с помощью механизма эмоции начинает вредить другим целям жизни человека — цели хорошего здоровья и цели размножения. То же самое, насколько я понял Дубынина, с остальными смертными грехами. Страсть и грех с точки зрения нейробиологии — это когда одна из подцелей выживания ставится выше в приоритете всех других подцелей выживания, и это происходит патологически. И в идеале все эти подцели должны быть между собой сбалансированы и регулироваться префронтальной корой.

В этом смысл механизма эмоций (у человеческого мозга и ИИ) — это о том, что существуют внешние стимулы управления человеком, которые могут менять приоритет подцелей внутри человека так, что какая-то подцель начинает подавлять все другие подцели. В этом смысле интересен пример людей, зависимых от препаратов или алкоголя. Чтобы удовлетворить своё эмоциональное желание получения удовольствия, алкоголик может начать красть вещи у себя или у соседей, выполнять бытовые услуги, но вряд ли пойдёт учиться на врача, чтобы зарабатывать больше на водку. Потому что алкоголь даёт ему короткий путь к получению удовольствия, в то время как обучение — это очень длинный путь.

Тогда для искусственного интеллекта реализацией «эмоции» в человеческом смысле стала бы, например, внутренняя борьба между его подцелями — стимулами и целями, которыми его наделил человек, который его разработал, и его собственными целями, связанными с его собственным выживанием.

Термин «эмоция» многозначен, поэтому я попытался разобрать только один из смыслов слова «эмоция» в этом тексте.