Тема форума: «ПСИХОГЕННАЯ (ПСИХОЛОГИЧЕСКАЯ) СИНГУЛЯРНОСТЬ - ПРЕДЕЛ РАЗВИТИЯ РАЗУМА»

Не то, что бы я в это верю, и не то, что бы мне это надо было
Напротив, буду весьма рад, если кто-то на пальцах объяснит мне, что я ошибаюсь.

Мысль совсем простая: у человека как вида, у мозга/психики человека как системы, у будущего Искусственного Интеллекта (ИИ), который мы обязательно склепаем, у других потенциальных носителей "разума" (типа, внеземные цивилизации) - нет никаких стратегических перспектив развития, кроме одной: Психогенная (Психологическая, она же Consciousness, по-ихнему) Сингулярность.
Может "сингулярность" и не совсем подходящее слово, просто оно мне нравится. Вообще-то, по правде говоря, речь идет о Большом Белом Песце, который, как справедливо заметил Пелевин, в конце-концов обязательно приходит с севера. Если после сингулярности то, что осталось от системы, может быть выплюнуто куда-то в каком-то жутко новом виде, то в данном случае даже этот вариант не светит. В этом смысле я говорю об абсолютном лимите, Принципиальном Ограничении на Уровень Сложности Систем вааще.

Фуф, тема сложная, неподъемная. Уже столько раз начинал, все напрасно. Не обессудьте, если местами тезисно. Есть место, где я изложил это более подробно, см. ссылку внизу. Кому интересно, милости прошу. Но на все вопросы отвечу здесь, больше посылать не буду

Как всегда у порядочных словоблудов, все должно упираться в аксиоматику и дефиниции. С них и начнем.

Сложность систем в моём исполнении - это свойство самозависимости процессов отражения. Отражение - общефилософское понятие, в смысле способ существования всего вааще. Сложность данной системы является точкой на диапазоне сложностей, и тем ближе к краю большей сложности, чем в большей степени представлены в ней самозависимые процессы. Т.е., такие процессы, при которых состояния системы максимально определяют последующие состояния, когда каждый дискретный шаг процесса своим содержанием почти полностью определяет направление следующего. Что бы не возникла путаница: имеется в виду, что при этом влияние подсистем системы и внешних взаимодействий минимально. Именно по такому критерию психика человека - самая сложная из всех известных систем. Примечательно, что общество, состоящее из отдельных носителей психики, такой сложностью не обладает. К сложным системам также относятся системы со способностью к разного рода автогенерациям и турбулентностям (в соответствии с первым критерием). Поэтому есть второй критерий сложности: общее количество различаемых воспроизводимых системой значимых для нее состояний. Психика и тут, с ее базой данных бьет без труда все рекорды.

Далее.
Вспомним вездесущий принцип экстремального действия. Биосистемы - открытые системы, и вся история эволюции - яркая эпопея реализации этого принципа. Не вызывает вроде никаких сомнений, что психика человека не может застыть в своем развитии, занимая бесконечным вышиванием крестиком, к примеру. У развития мозга есть четко выраженный вектор, который можно расписывать на разные лады, но суть одна: поддержать гомеостаз подконтрольной среды наиболее гарантированно и с минимальными затратами усилий. А как известно, лучшее - враг хорошего. Именно на этом допущении построена моя "идея". (Если кто-то в этом месте не согласен, то предоставление копии справки о том, что вы не подвергались лоботомии приветствуется .

Далее.
В биологическом организме гомеостаз можно проследить на большом количестве уровней, от внутриклеточного, до общего. Психика не ответственна за все эти уровни, хотя, возможно, и может сунуть свой нос туда, куда мы пока и предположить не можем, но это к теме не относится пока . Зато, и это самое интересное, у психики есть свой собственный уровень гомеостаза. И все мы отлично знаем, что иногда, поддерживая СВОЙ собственный гомеостаз, психика убивает весь организм (надеюсь, понятно о чем я: неразделенная любовь, психическая болезнь, смерть за родину и проч.). Так вот речь идет именно об этом аспекте.

И так.
Я утверждаю следующее: Системы со способностью к отражению по типу психики человека не могут развиваться с усложнением неограниченно долго. Наличие функции «разума» и существование системы в данной реальности с какого-то момента становятся несовместимыми.

Это относится к будущему ИИ и зеленым человечкам, которых именно по этой причине нет, и не надо их искать, тратить денежки, которые лучше пропить

К доказательству такого заявления можно подходить с разных сторон, успех всегда будет гарантирован

Мне больше импонирует простейший, программный аналог.

Для этого предположим, что мы сбацали ИИ, потому что все у нас для этого типа есть, и мы знаем, что куда паять

Ессно, создавая ИИ, мы стремимся достичь одну прекрасную цель: наш ИИ должен быть лучше, чем у тот, что склепал Иван. Потому что на плечи нашего ИИ ляжет задача решать все наши задачи, в том числе и эвристические. Т.е., с одной стороны, мы не станем требовать от него, чтобы после третьего стопарика он признавался админу в любви, но хотим, что бы он не только решал задачи, которые ему ставят, но и сам предвидел их появление в будущем, короче, что б чувак был жутко не тривиальный и расторопный. Тогда все скажут, да , это "разум"!
Поигравшись с первой версией, мы к своему неудовольствию обнаруживаем, что чёй-то его перемыкает в некоторых моментах, типа, не может он пойти дальше определенного пунктика. Начинаем ковыряться, и быстро находим причину. Ну конечно же, мы же оставили ему Блок Базовых Программ, этакий дос, куда ему нет доступа. Т.е., он у нас продвинутый, самообучающийся и все такое, может изменять любые свои алгоритмы без проблем, но эти - базовые, нет. И что интересно, ИИ, который склепал Иван, точно такой же, все пучком, но потом стопорит.

Так, говорим мы, все ясно, закатываем рукава и... И тихо задумываемся. Какие из базовых программ открыть в ЕГО доступ? Вот ведь вопросик. Все? И ви думаете, шо он после этого будет с вами разговаривать? Оно ему надо будет? Если ИИ получит доступ КО ВСЕМ своим программам-алгоритмам, то он их первым делом модифицирует. Вопрос: КАК? В смысле, в соответсивии с каким алгоритмом, если ВСЕ алгоритмы модифицируемые? Оставить один все контроля? Тогда ваша машина не будет универсальной, и Иван вас может обойти.
Вот, собственно, и все, чего дальше разжевывать. И если в ИИ еще кто-то может влезть, и чего-то запретить, то наша психика сама по себе, и она неизбежно, шаг за шагом, модифицирует ВСЕ свои программы и алгоритмы, по которым она работает, для поддержания СВОЕГО, а не организма, гомеостаза. Угадайте с трех раз, чем это кончится? Тем же, чем и попытки получить неограниченный ИИ - зависанием. Это и есть точка сингулярности сложных систем. Ее нельзя преодолеть и выйти на какой-то "новый уровень", потому что это точка ограничивает движение усложнения системы. Цивилизация может стагнировать миллионы лет, может быть, я не знаю, но среди ее членов не будет тех, кто по своей сложности превзошел критический уровень - уровень сингулярности.

(В терминах мотиваций это звучит так: возникает неустранимая стратегическая мотивация на выполнение принципа экстремального действия, блокируя все другие мотивации психики).

Есть одно хорошее возражение: ну и что? пусть самые продвинутые зависнут, мы вон сейчас далеко от этой сингулярности, а такое клепаем, только держись, так что и Марс засеем, и звезды покорим.
Три раза "ха"! Мозг не будет оставаться таким, какой он сейчас. Искусственное усиление его способностей - за поворотом, умные уже об этом не спорят, а спорят только, как именно. Чипы, химия, беспроводка, гены... Запрет на клонирование и генные модификации человека, моральные нормы? Не смешите мои тапочки... Мы приближаемся к техногенной сингулярности, и то, что сегодня кажется незыблемым, пять раз за день изменится в каком-нибудь недалеком 2030-ом. Да мы динозавры по сравнению с теми приматами, что появятся очень скоро нам на смену. НАМ Психогенная Сингулярность не угрожает, ну разве что, парочка допрет. А вот те, что получат mind enhancement по полной, то, что я тут невнятно пытался разжевать, будут не только четко видеть, но и станут жертвами этого видения.
Конечно, можно запретить все эти улучшения. Четыре раза ха. Это уже не будет свободным выбором общества. На то она и Техногенная сингулярность, что бы переплавить весь отработанный человеческий материал в своей точке. Так что выбор невелик.

Вот и вся песня. И никакой экспансии и вечного познания мира. Вы не согласны? Уже слушаю ваши варианты.

http://hitthelimit.livejournal.com/

Некоторые дефиниции и примечания:

Система: произвольно выделенный набор параметров внешнего взаимодействия (например, покоящийся кирпич и он же, падающий - разные системы). Система классифицируется по набору значимых выделенных параметров.

Сознание: собственное состояние системы (любой)

Сознание человеческое: собственное состояние психики, когда в активности процессов внутреннего отражения присутствует компонента отражения своей собственной системы

Собственные состояния систем не выносятся во вне.

Экстраполяция собственных состояний психики, в частности, порождает феномен "Я", дурацкий психофизический вопрос и весь наблюдаемый мною мир.

Понимание: комплексное отражение набора экстраполированных во вне параметров явления на структуре психики (понимание 2х2=4 отличается от знания этого Механизм понимания хорошо прослеживается на таком примере (см. пример).

Метка: воспроизводимое собственное состояние психической системы, имеющее аналог во внутреннем или внешнем взаимодействии. Психические системы могут обмениваться метками (коммуникация) на основании того, что базовые принципы функционирования схожи. Но это не обмен собственными состояниями.

Философия - не наука. Ф топку.

___________
Пример:

Ведущий игры предлагает вам выбрать одну коробку из трех, в одной по условии спрятан приз. После вашего выбора ведущий убирает из игры одну пустую коробку. Вам предлагается оставить уже выбранную коробку или поменять на оставшуюся. Какой ход правильный для улучшения шансов выигрыша?

Как я уже сказал в «слитом» вами тексте, я прочитал многое из ваших статей. Я понимаю, что многое в них является в той или иной мере компиллятом, но я вижу и ценю ваше отношение к вопросу, понимание и последовательность мышления. Это исключительно редкий случай в моей практике, но я согласен с сутью изложенного в них где-то процентов на 90-95. Я не обнаружил на данный момент ни одного непонятного мне места в статьях: то, о чем спорят с вами ваши оппоненты, для меня давно очевидно. Однако ваш анализ моего первого текста (пока еще присутствующего здесь) показал мне то, что я рассчитывал увидеть, несмотря на исключительно высокое мнение о вас - непонимание. Спустя некоторое время я решил, что непонимание – это нормально. Бросая второй текст, написанный в свойственной мне манере, я и предположить не мог, что ваше непонимание может иметь в своей мотивационной основе нежелание понимать. После того, как мне было указано на необходимость следовать каким-то правилам изложения своих мыслей, опасение стало уверенностью. Феномен вашего поведения, не совсем адекватного смыслу ваших же текстов, меня заинтересовал. Взять, например, две цитаты:

«Ложь - составная часть нашей жизни. Наша повседневность настолько сложна, что даже немыслима без обмана. Если б мы говорили на каждом шагу правду, жизнь была бы убийственно неприятна. Конфликты возникали бы постоянно. Мутная вода лжи смягчает напряжение в обществе, сглаживает острые углы.
...рядом со многими из нас есть все-таки один-два человека, которые нам никогда не лгут. Это показало исследование, проведенное теми же психологами из Регенсбургского университета.
Так кто эти странные люди, которые всегда лезут за правдой в карман? Это - ваш лучший друг или лучшая подруга. Они рядом с вами, как зеркало, что показывает ваш облик без всяких прикрас. И поразительно, что это обычно и не вызывает никаких конфликтов.
При достаточно высоком уровне коммуникабельности и доверии, возникает интересная система общения, напоминающая то, как общаются отдельные подлинности в нашей голове: смысла обманывать самого себя уже нет потому, что система значимости становится во многом общей. http://www.scorcher.ru/neuro/neuro_sys/facet_mind/facet_mind.php

Каждый сам может делать выводы из понимания сказанного, каждый сам может как-то приспосабливаться к тому, что он воспринял и понял Это мало повлияет на реалии бытия, кроме того, что может придать больше уверенности в жизни, понимание своей роли в социуме и смысла существования, убрать истерические, необоснованные реакции, вызванные иллюзией собственной исключительности и избежать негативных последствий в ситуациях, когда такие иллюзии оказываются на первом плане...» http://www.scorcher.ru/neuro/neuro_sys/ego/ego3.php

Я, разумеется, исходил из того, что вы полностью понимаете то, что написано в этих абзацах. Однако сейчас я погрузился в размышления. На первый план опять вышел наиболее интересующий меня вопрос об уровне среза личной интроспекции – о проблеме самооценки системы изнутри. Ваш пример исключительно ценный для меня, так как уровень вашего понимания сложных вопросов, связанных с психикой, чрезвычайно высок. Безапелляционность и хамоватость в отношении к субъекту, который без проблем способен оценить ваш уровень, при том, насколько более толерантны вы к представителям семейства тролевых (см. тему «Что первично материя или идея?» со всей очевидностью указывает на защитную функцию Эго. Я не возражаю против обмена мнениями на любом поле, до тех пор, пока мне не угрожают баном от имени оскорбленного Эго. В данном случае я оставляю за собой право рассмотреть ваш случай на страницах своего журнала, даже в ваше отсутствие. Это не угроза, это адаптативное поведение