Тема форума: «Гибель человечества»

Натолкнулся я на один сайт: http://bolonkin.narod.ru.

Есть там интересная статья: Пост-чeловeчeскaя цивилизaция. ХХ1 вeк: Конeц чeловeчeству и возникновeниe пост-чeловeчeского общeствa. http://bolonkin.narod.ru/p24.htm

Некоторые посылки приводятся бездоказательно, но меня заинтересовали возможность и неизбежность следующего сценария:

1. Люди создают самовоспроизводящийся разум более высокого порядка (пусть будет е-мозг)

2. Е-мозг развивается и преследует свои цели, не понятные людям и выходит из под контроля

3. Е-мозг меняет окружающий мир, не считаясь с человеком, что приводит к вымиранию человечества и, возможно, большинства животного и растительного мира.



Пункт 1, как мне кажется, самый очевидный: даже не понимая, как работает мозг можно экспериментально, играясь с генами, вырастить существо с более мощным мозгом. Понятно, что основываться надо на геноме человека, как самого высокоразвитого существа, и никто на это не даст добро. Но теоретически возможно. Также не вижу проблем с моделирование деятельности человека электронными средствами. Да это сложно, но, думаю, что возможно и очень скоро появится искусственный советчик, который будет работать по определенному алгоритму, будет подсказывать людям то, до чего они не могут додуматься. После этого к нему подключат механические устройства, чтобы не надо было результаты его анализа применять людям, а все бы выполнялось само и т.д. Достаточно быстро, как мне кажется, люди перестанут осознавать принцип принятия решения машиной, поскольку будут не в состоянии обрабатывать такое количество информации и будут полагаться на правильность алгоритмов, заложенных в машине. Даже если это не будет разум в чистом виде (осознающий себя) все равно он будет принимать решения и выполнять действия, руководствуясь своими мотивами.



2-й пункт: На счет развития не сильно уверен, скорее имею в виду накопление знаний, взросление, что ли (типа как человек с уже готовым мозгом растет от ребенка до взрослого). Т.е. создав такую машину или мозг человек сначала будет ее учить, развивать до тех пор, пока уровень развития машины не сравняется с уровнем человека. Дальше машина начнет обучаться самостоятельно и тут же возникнут противоречия между мотивами машины и тем, как понимают их люди: человек просто не в состоянии будет осознать мотивов. В фильме «Я-робот» обыгрывается закон робототехники, по которому робот не может причинять вред людям (ну как-то так). Так там ИИ просто зашел с другой стороны: оправдывая свои действия заботой о человеке (в точности как обходится положение конституции, о невозможности ухудшения существующих прав). Даже если высший разум будет искренне желать добра людям – нет гарантии, что это понравится самим людям :о)



3-й пункт: Тут достаточно сложно с уверенностью утверждать, что так и будет. Многое зависит от того, какие мотивы будут преобладать у высшего разума. Существующие взаимоотношения людей складывались в постоянных войнах на протяжении тысяч лет и хрупкий мир в текущий момент обусловлен возможностью полного вымирания при применении современно оружия. Все это обусловлено, как мне кажется, врожденным в человека стремлением к самореализации, самоутверждению, т.е. постоянному повышению самооценки, основному принципу саморазвития, как мне кажется. Если высший мозг будет создан человеком, понимающим принципы его работы, и получится вложить в него другие ценности, то, возможно все будет более радужно, до тех пор, пока мозг не пойдет по стопам человека и не создаст следующее поколение. В противном случае (как, например, с выращиванием суперчеловека в пробирке) будет сверхчеловек со сверхчеловеческим эго :о)



Что скажете? Возможен такой/подобный сценарий? Неизбежен?

человек абсолютно ИДЕАЛЬНОЕ существо для реализации любых идей на земле. тот кто его создавал мог бы сделать его в сотни раз умней, сильней, выносливей, долговечней и т.д. но создан чел именно таким какой он есть. абсолютная управляемость, не плохой к.п.д. функция самообслуживания, легко обучаемы (конкретным функциям), легко регулировать популяцию и т.д. 

может быть только огромное сокращение популяции но точно не полное истребление. 

новые технологии внедряются с целью открытия новых уровней для деятельности челобота.

 

собственно вопросы такие:
1. Возможен ли разум более высокого порядка с недоступными для понимания человеком мотивами поведения?
2. Может ли человек создать такой разум?
3. Будет ли этот разум учитывать интересы людей?
4. Приведет ли развитие сверхразума на планете к проблемам для человечества?

Ну соответственно при отрицательном ответе на 1-й или 2-й вопросы следующие - неактуальны )

На Полит,ру http://www.polit.ru/lectures/2009/11/24/brain.html
можно прослушать лекцию Татьяны Черниговской, Президента Межрегиональной ассоциации когнитивных исследований, в которой она рассматривает актуальные вопросы исследования мозга и о вероятности создания искусственного интелекта.Нам бы самих себя еще хорошо изучить, прежде чем создавать такую махину.
"Встает вопрос, можно ли это моделировать, и все эти системы искусственного интеллекта, которые становятся все сложнее и сложнее, супер-компьютеры, которые японцы выделывают. И каждые три месяца их мощность и скорость удваивается. Понятно, с какой скоростью движется этот страшный прогресс. Оно вообще к чему-то приводит? Потому что разница в скоростях между тем, что умеют мощные современные компьютеры и что умеет наш мозг, несмотря на все, что я описала, измеряется миллионами раз. Т.е. компьютеры быстрее, чем наш мозг, в миллионы раз. Эту игру мы проиграли, а толку? А толку нет. Потому что несопоставимо более мощная машина человеческий мозг."

я вообще считаю теорию эволюции на столько очевидной ахинеей, что и не хочется тратить время на обоснования этого (извиняюсь за несоблюдение регламента). если кому нужны обоснования, их можно поискать здесь         http://www.antidarvin.com/ 

 

саша, вы это серьезно? Цитата с сайта: "В этом разделе, основываясь на опыте различных религий, главным образом суждениях святых отцов, и рассмотрении теории эволюции в ее научном воплощении мы попытаемся рассмотреть вопрос о степени правомерности эволюционной теории в ее претензиях на свое изложение как единственно верного и истинного учения о происхождении и развитии мира и человека".
Вы действительно рассматриваете религиозные верования и суждения святых отцов авторитетными источниками, на основе которых можно построить правдоподобную теорию?

саша, ты что-то вычитываешь в инете, и любой, показавшееся на первый взгляд разумным, довод принимаешь на веру. Поэтому твои высказывания категоричны, и в то же время ты не можешь отстоять их обоснованность, ведь они - не твои знания, а лишь выхваченные сведения. Но почти все, что высказывается в инете в виде важных утверждений облачается во внешнюю форму разумности, и поэтому - уж как тебе повезет с истиной. Но действительно адекватные утверждения гораздо сложнее понимаются и, чаще всего, их обоснованность как раз и не видна на первый взгляд. Из-за этого те, кто выхватывают все, что блестит, оказываются чаще обмануты. Если дети вынуждены на первых порах именно доверчиво воспринимать сказанное родителыми, то затем у них в норме должен идти период игрового попрания авторитетов, сомнения во всем преподанном авторитарно. Не стоит слишком долго пребывать в состоянии доверчивого обучения... А у некоторых это - на всю жизнь.

А про эволюцию вот только что-то был опубликован диалог: Диалог об эволюции.

igod: "Что скажете? Возможен такой/подобный сценарий? Неизбежен? "

ну, я уже высказывал мнение на этот счет в статьях: Общество будущего и Фасеточный разум :)

"Возможен ли разум более высокого порядка с недоступными для понимания человеком мотивами поведения? "

многие мотивы современного человека точно были бы непонятны в позапрошлом веке :) да и сегодняшним жителям глубинки. Все эти детские игрушки и матрицы даже для старичков воспринимаются как сумасшедшая бессмыслица и возможности вундеркинда-программера вне их понимания :)

"Будет ли этот разум учитывать интересы людей? "

любой разум будет соответствовать своей системе значимости. Если люди окажутся в негативе оценок такой системы, будут конфликты.

jgod, я не рассматриваю религиозные учения авторитетными, просто по спешке дал ссылку на конченый сайт.

нан, вынесеный мне диагноз я воспринял как разумный довод, принял на веру и уменя теперь разовьётся комплекс "неуверенности в своих догмах". осознаю что весь мой внутриний мир имеет малое сходство с реальным. всё что прожил - зря :)

 

если китайцев выселить, и на их земли поселить негров, через множество поколений негры перевоплотятся в китайцев?:)

как эволюция смогла залажить первым на земле двум особям пртивоположного пола, сексуальное влечение  ?

STR, у тебя как у кутузова, проблемы со зрением? я написал, что ссылка не удачная. поищи сам.