"А так как невозможна алгоритмическая реализация, то не стоит и говорить о компьютерных программах, реализующих личностное отношение и адаптацию..."

Вот с этого места поподробней. Что ты имеешь в виду?
Что раз нельзя создать разум "по кирпичику", то нельзя и контролировать его мотивацию?
Но ведь есть же косвенные пути. Например, в живой природе всякому существу свойственен инстинкт самосохранения. Это не случайность - просто-напросто существа без этого инстинкта не выживали.
Подобным же образом можно "запрограммировать" и этику - создав особые условия, при которых развивающемуся ИИ была бы она необходима.
Проблема лишь в том, чтобы определить, что именно мы будем программировать.
Поэтому нужно чётко алгоритмизировать этику. Создать некий единый её стандарт. При этом, возможно, придётся уничтожить или заклеймить статусом "неполноценных" все иные этические системы. Ничего не поделаешь. Без чётких критериев "добра" и "зла" существование человечества становится с каждым веком всё более опасным.
Уже мысленно вижу новый предмет в Школе Будущего - под названием "этиматика".
- Петров, подойди к доске. Перед тобой стоит проблема: раскрыть глаза другу на измену его жены с тобой или оставить его в неведении. Оценочная вероятность того, что он получит эту информацию самостоятельно, равна 77%. Твой друг - меланхолик с уклоном в сангвинизм. Высчитай шкалу затухания вторичных последствий по формуле Альтшифтера и дай ответ: как ты поступишь в такой ситуации?..

16.10.2005г. 23:50:04

"Мы все какие ни на есть "создатели высшего разума", когда делаем это с помощью женщин" - Вот то допущение, которое приводит к неадекватному инженерному представлению, что мы "создатели" - мы участники потока под названием "жизнь" , причем участники громко сказано - соглядаи.

17.10.2005г. 9:10:18

Plumbax, можно взять небольшой тайм-аут, когда будет готов текст (уже скоро), системно обобщающий эти вещи? А пока скажу, что даже инстинкт самосохранения в случае высших животных очень индивидуален и не однозначен и "запрограммировать" его для всех возможных условий, а тем более без личного отношения не получится.

kak, это не допущение это на самом деле: человек может, используя чисто "инженерный" подход, получить от выбранной женщины ребенка. Человек может, поняв механизмы организации мозга, используя точно такой же, в принципе, "инженерный" подход и успешно воплотить эти механизмы в других материалах. В чем разница?
Не продуктивно становиться на жестко детерминированные позиции, вырождающие понятие свободы воли и вообще играть в слова. Лучше их использовать по назначению и эффективно в качестве действительно дееспособных абстракций, а не доводить до абсурда, пытаясь распространить действие этих абстракций за рамки, за которыми они теряют смысл.

17.10.2005г. 12:36:56

«…поняв механизмы организации мозга, используя точно такой же, в принципе, "инженерный" подход и успешно воплотить эти механизмы в других материалах. В чем разница?» действительно разницы нет, потому, как и в том и в другом случае я только предвижу события.
«…не доводить до абсурда, пытаясь распространить действие этих абстракций за рамки, за которыми они теряют смысл» предложенный мной подход, один из многих, но это не означает, что он не соответствует реальности, даже если он кажется абсурдным. Придерживаясь взглядов жесткого детерминизма, я вполне удовлетворительно для себя объясняю те или иные явления, то есть у меня формируется достаточная модель. При «инженерном» подходе или креативном, я не могу ответить на часть мировоззренческих вопросов. Например, где есть формирователь желаний (воли) и как множество воль согласуются при воздействии на один и тот же «объект», если даже «объект» они видят (ощущают) по-разному. И это только по вопросам близким к физиологии, а если затронуть вопросы физики или согласованность между физикой, физиологией и философией... Поэтому, если я найду материалы, которые в понятной форме дадут ответы на такие вопросы, без сомнения, я тоже стану креативщиком, а пока я не знаю, как выяснить до моего рождения, кто будут моими родителями и что получится, при слиянии моего сперматозоида с яйцеклеткой другого субъекта.


17.10.2005г. 13:25:03

А я, мне кажется, вполне могу объяснить сущность воли не вижу никакой тайны, чем сейчас и занимаюсь. А с помощью жесткого детерминизма вообще ничего толком объяснить невозможно просто потому, что даже если бы такое было принципиально возможно (а уже на уровне флуктуаций вакуума ни фига детерминизм не прокатывает), то писать программы на супер-ассемблере основ мироздания никто никогда не сможет а сперматозоид можно конкретно подсадить на яйцеклетку или вообще клонировать организм Конечно, мы не знаем не только то, что именно вырастит, но даже то, что получиться с нами по ходу урагана жизни, - слишком много условий меняют нас кроме собственно генетической информации, но кое какие закономерности вполне познаваемы и этим очень даже можно разумно пользоваться.

17.10.2005г. 20:57:27

Я ее сомневаюсь, что ты дашь отличную интерпретацию сущности воли, но вопрос стоит в другом - где то устройство/образование, которое дает команду на желания, а, кроме того, каков принципиальный механизм формирования хотения и с какого времени в онтогенезе появляется это устройство. Да и вот небольшое сообщение: «Исследования американского нейрофизиолога Бенджамина Либета выявили удивительную вещь. Профессор просил участников эксперимента держать в поле зрения секундомер и в какой-то произвольный момент времени пошевелить пальцем руки. Потом испытуемые говорили, когда приняли решение это сделать. При этом велась съемка ЭЭГ (электроэнцефалограмма) с головы испытуемых. ЭЭГ показала, что нервные клетки получали приказ сделать движение пальца на 300-500 мсек раньше, чем сам испытуемый приказывал себе это сделать, то есть мозг бессознательно принимал решение раньше сознания. К такому же выводу приходят специалисты, изучающие работу головного мозга. Именно бессознательное определяет действия человека, а наше сознание лишь истолковывает себе задним числом эти неосознанные намерения.»
Какое ты дашь этому феномену объяснение?


18.10.2005г. 23:12:41

Нет такого отдельного устройства но как возникает такая функциональность проследить можно. Короче, написан текст в котором не так уж трудно разобраться, во всяком случае готов этому способствовать на уровне обсуждений: http://www.scorcher.ru/neuro/neuro_sys/neuro_sys.php

Про эксперимент. Во-первых с помощью ЭЭГ невозможно уверенно дифференцировать активность определенных внутренних структур мозга - это всего лишь наводки от общей активности мозга. Другое дело еще снятие миограммы. Но нет ничего странного и в том, что поведенческая программа запустилась до того, как появился осознаваемый приказ. Она ведь уже отработана до уровня бессознательного, автономного выполнения. Но сознание - не просто эхо бессознательного, иначе бы оно нафиг не было нужно Любое новое, еще не отработанное движение сначала пофазно управляется сознанием. А так же сознание способно корректировать выполнение отработанного движения, изменяя его. И уж тем более оно призвано подготавливать контекст для выбора той или иной бессознательной программы, хотя такой выбор тоже может делаться не осознаваясь в случае достаточного жизненного опыта в данной ситуации. В общем ничего опять же таинственного и необъяснимого.

19.10.2005г. 19:29:21

Сомнения. Именно они порождают вопросы, на которые далеко не всегда нахожу я ответы. Вернее сказать не встраиваются те факты, которые ты приводишь в своей гиперстатье http://www.scorcher.ru/neuro/neuro_sys/neuro_sys.php в картину мироздания.
Иногда, мне кажется, ты просто подгоняешь ответ под созданную тобой картину мира и закрываешь глаза на нестыковки между фактами. Даже в твоем пояснении эксперимента. Имея под рукой объяснения как работает нервная система, ты наделяешь ее свойствами компьютера, обладающего отдельно взятой памятью с программами на выполнение: «…поведенческая программа запустилась до того, как появился осознаваемый приказ». Исходя из твоей установки, что существует свобода воли, осознание и есть волевой позыв к поведенческому акту, если это не так, тогда причиной становится программа (или то, что ее запускает), а следствием отражение этой программы в сознании.
Другие сомнения связаны с предубеждением по поводу очевидности и функциональности. Опираясь на несомненные факты морфообразований в нервной системе (нейроны, глия, аксоны, синапсы и т.п.), ты (и не только ты) приписываешь этим образованием некоторые функции, которые в свою очередь могут быть только как побочное явление, например: электрические проявление в виде импульсов. Хотя ты прекрасно понимаешь, что химические реакции сопровождаются электромагнитными явлениями. А из этой приписанной тобой функции проведения импульса, формируется сомнительный факт существования тормозных синапсов. Нет, я не знаю механизма химических реакций, происходящих в местах выброса ГАМК, н, прочитав приведенную тобой статью «Формирование синапсов» и исходя из физики, поясняющей градиенты энергий, тормозные синапсы у меня никак не вписываются общую каритну.
Поэтому, если тебя не затруднит, расскажи про такое «устройство» как свобода воли.


20.10.2005г. 8:42:03

Где же ты увидел аналогию с компьютером?? Не о какой отдельно взятой памяти и речи не было, в "поведенческая программа" только само слово "программа" такое же какое используется в компьютерных делах, но прочитать, что под этим подразумевается, то будет ясно, что аналогия - лишь в том, что говорится о последовательности действий, которая формируется и оптимизируется на уровне изменений состояния межнейронных связей (функционально рассредоточенной, а не выделенной в отдельное устройство "памяти"). Мы можем говорить о том, что балерина, отрабатывая свой танец, формирует программу его последующего, практически неосознаваемого выполнения, которая запускается в нужный момент ею вполне сознательно и затем развертывается гибко в зависимости от всех сопутствующих условий, в которых эта программа реализуется.

Насчет воли непонятки проистекают от аналогичного подхода Хорошо, попробую, не паря, коротко наметить.
Воля в своей основе имеет систему личного отношения к действительности и результатам собственных действий, которая формируется жизненным опытом на базе первоначального набора рецепторов, сигнализирующих об разбалансе гомеостаза и рецепторов, оценивающих опасность и полезность признаков внешнего. В случае высших животных это - не просто первичные рецепторы. Наследственно определяются и более сложное распознавание элементарных ситуаций, в зависимости от условий- базовый набор системы значимости вида.
Текущее поведение, в зависимости от условий и их оценки системой значимости, определяется иерархией контекстов, начиная от базового "хорошо-плохо" и все более уточняющимися вплоть до конкретной поведенческой реакции. Это представлено текущим возбуждением в мозге, которое и определяет мотивацию и "пусковые стимулы" конкретного действия в определенные моменты изменения условий. Психическое ощущение "фона желания", прогностических вариантов возможных действий для удовлетворения, в том числе "пускового" (компьютерные программы здесь не при чем!) момента наиболее подходящего для действий, - это то, что можно назвать волевым усилием в достижении конкретной цели удовлетворения текущей потребности. Его механизм не сконцентрирован в определенном месте как управляющий "центр", а является общим следствием организации всей памяти мозга - жизненным опытом.
Кроме непосредственных потребностей поведение мотивируют и более длительно воздействующие состояния: суточные, сезонные и связанные с программой развития организма "потребности". Это дало базу для того, чтобы многие доминирующие активности мозга (состояния, определяющие всю иерархию контекстов текущего поведения) сохраняются несмотря на гашения в циклах сна. Такие сложные потребности как необходимость в общении, в творчестве и т.п. иерархически основываются на составляющих более простых. И эти потребности могут формировать более или менее определенное (прогностические механизмы) понимание того, что именно нужно, чтобы эта потребность была реализована. Возбуждение, определяющее совокупность контекстов такой потребности, может быть одно из доминирующих и постоянных, не гасимых сном. Что и поддерживает постоянным волевое усилие (усилие по подбору из всех прогнозируемых вариантов, их творческой прокрутке, подразумевающих и выполнение промежуточных действий и оценки результатов этих действий).

Насечт тормозных синапсов не бери в голову. Ты же не будешь отрицать, что в мозге есть механизмы, обеспечивающие торможение, в том числе торможение конкретных нейронов (хорошо изученный ээфект латерального торможения)? И принципиально не так важно как именно они реализуются. Хотя это тоже в достаточно мере уже изучено.

Короче сказать не могу потому, что слишком много нюансов здесь задействовано. Я старался их учесть в статье насколько мог. Но чтобы проникнуться пониманием, нужно пройти и через понимание всего составляющего эти представления, иначе просто ничего не выйдет. Т.е. конкретной формулой это все не формализуется. Не зря же, елки, теорема Геделя

20.10.2005г. 12:28:17

Вообще-то теорема Геделя и доказательство Пенроуза не имеют никакого отношения к ограниченности набора рецепторов...

]] Твое объяснение изобилует психологическими терминами, которые в большинстве сформированы на основании «очевидности и здравого смысла», меня же интересует механизм...
Но я же раскрывал именно механизм, да еще в его эволюционном развитии и вовсе не пользовался "психологичскими терминами". Так мы, кажется, вообще не приближаемся, а удаляемся от конкретики.

]]В моем же представлении – это поток событий, часть из которого доходит до интерпретатора под названием «сознание».
Поведение, безусловно, - поток событий еще его можно по-разному называть, но сами по себе эти названия ничего не объясняют, в том числе и та формулировка: "Стекают ручейки энергии под горку. Все очень просто, не затейливо и мило" тоже ведь ничего не объясняет, а ты ею удовлетворен?? И где же там "механизмы"? Это просто, что называется, спрятаться за слова.

]]аналог с компьютером возник из-за того, что перед тем как нажать клавишу «пуск»
Разве ты не нажимашь клавишу, когда решаешь что-то тотчас сделать? kak, мне кажется ты не так понял то, что написано в статье. Потому, что уж очень вопросы в стороне оказываются...

20.10.2005г. 20:18:42