Основатель Microsoft не боится умных компьютеров и бунта машин

Авторы: Пол Дж. Аллен – один из основателей Microsoft в 1975 г.– спонсор и президент компании Vulcan, которая занимается инвестициями в различные технологии, космонавтику, развлечения и спорт. Марк Гривс – специалист в области теории вычислительных машин и систем, директор Vulcan по системе сбора, хранения и обработки знаний. 

Футурологи Вернор Виндж и Рэй Курцвейл утверждали, что мир стремительно движется к критической точке, когда растущий темп совершенствования машин в ближайшее время опередит все человеческие способности. Эту точку невозврата они называют сингулярностью, отмечая, что при ее достижении невозможно предвидеть будущее человечества. Виндж и Курцвейл утверждают, что как только такие машины появятся, они получат сверхчеловеческий интеллект, который будет настолько непостижим для нас, что наш разум даже не в состоянии вообразить, насколько сильно изменится наша жизнь. Виндж просит нас задуматься над ролью людей в мире, где машины настолько умнее нас, насколько мы – наших домашних собак и кошек. Немного более оптимистичный Курцвейл рисует будущее, в котором разработки медицинских нанотехнологий позволят нам загружать копию мозга в эти сверхчеловеческие машины, оставляя наши тела, и, в некотором смысле, жить вечно. Это довольно впечатляющее предположение.
При том, что мы допускаем появление такого рода сингулярности, мы не думаем, что это произойдет скоро. На самом деле мы полагаем, что до этого пройдет еще очень много времени. Курцвейл с этим не согласен и основывается на экстраполяции текущего уровня научного и технического прогресса. Он считает, что уровень прогресса перед сингулярностью – не просто последовательность стабильно растущей производительности, а, по сути, экспоненциально ускоряющийся темп развития, – то, что Курцвейл называет «Законом ускорения отдачи вложений (Law of Accelerating Returns)». Он пишет:
«Итак, в XXI веке у нас не будет 100 лет прогресса – будет сразу 20 000 лет (по сегодняшним меркам). «Отдачи», такие как дешевая скорость и рентабельность, также будут расти экспоненциально. Экспоненциально будет расти и темп экспоненциального роста. Через несколько десятилетий интеллект машин превзойдет человеческий, что приведет к сингулярности… [Курцвейл, «Закон ускорения отдачи вложений», март 2001.]»
Проработав ряд моделей и исторических данных, Курцвейл подсчитал, что сингулярность наступит в 2045 г.
Этот прогноз кажется нам немного надуманным. Конечно, мы знаем, что в истории науки и техники полно людей, которые уверенно утверждали, будто то или иное событие не могло произойти, а потом их утверждения опровергали – иногда довольно убедительно. Мы признаем, что вполне возможно, хотя крайне маловероятно, что Курцвейл в итоге окажется прав. Мозг взрослого человека – конечный объект, поэтому его основные механизмы все же могут быть полностью изучены с помощью длительных человеческих усилий. Но если сингулярность наступит к 2045 году, она принесет непредвиденные и абсолютно непредсказуемые прорывы, и не потому, что закон ускорения отдачи вложений сделал ее неизбежным результатом экспоненциального темпа прогресса.
Рассуждение Курцвейла опирается на закон ускорения отдачи вложений и родственные ему, но это не физические законы. Это, скорее, утверждения о том, как прошлые показатели научно-технического прогресса могут предсказать его уровень в будущем. Поэтому, как и другие попытки предсказать будущее на основе прошлого, эти «законы» будут работать до тех пор, пока не перестанут. Более проблематично для сингулярности то, что эти экспоненциальные экстраполяции по большей части происходят из предположения, что все время будет в наличии постоянное предложение все более мощных вычислительных возможностей. Для того чтобы закон мог быть реализован и сингулярность наступила около 2045 г., совершенствование возможностей должно произойти не только в компьютерных технологиях (памяти, мощности процессора, скорости шины), но в той же степени и в программном обеспечении, создаваемом для этих более мощных компьютеров. Для достижения сингулярности недостаточно просто заставить развиваться ПО быстрее. Мы должны создать более умные программы с большими возможностями. Для создания такого рода продвинутого программного обеспечения необходимо предварительное научное понимание принципов человеческого познания, а мы пока лишь в самом начале пути.
Эта первостепенная потребность изучить базовые основы познания не дает аргументам в пользу того, что «сингулярность уже близко», убедить нас. Это правда, что компьютерные технологии могут развиваться удивительно быстро – когда у нас появляется твердая научная основа и адекватные экономические стимулы. Однако, создание ПО, соответствующего компьютерному разуму на уровне сингулярности, потребует фундаментального научного прогресса, который находится далеко за пределами того, где мы находимся сегодня. Этот вид прогресса сильно отличается от того, как эволюционируют технологические возможности по закону Мура, который так вдохновил Курцвейла и Винджа. Разработка сложного программного обеспечения, которое бы дало возможность наступления сингулярности, требует от нас, в первую очередь, детального научного понимания того, как работает человеческий мозг, чтобы мы могли пользоваться руководством по его строению, либо создать его заново. Это значит, нужно не просто знать физиологическую структуру мозга, но также понимать, как он реагирует и изменяется, как миллиарды параллельных взаимодействий между нейронами приводят к появлению человеческого сознания и уникального мышления. Получение такого рода всестороннего понимания мозга не невозможно. Но для того, чтобы сингулярность наступила по прогнозам Курцвейла, нам требуется значительное ускорение нашего научного прогресса в понимании каждого аспекта человеческого мозга.
Но история учит нас, что процесс оригинального научного открытия не происходит таким образом, особенно в таких сложных областях, как нейробиология, ядерный синтез или исследования рака. Абсолютный научный прогресс в понимании мозга едва ли напоминает упорядоченный и непрестанный поход за правдой, не говоря уже о его экспоненциальном росте. Напротив, научные успехи часто нерегулярны, с непредсказуемыми вспышками озарения, подчеркивающими всю медленность и вымученность лабораторной работы по созданию и проверке теорий, которые могли бы подходить под экспериментальные наблюдения. Действительно, существенные концептуальные прорывы невозможно предвидеть, и часто новые научные парадигмы врываются в научное поле, заставляя ученых переоценивать то, что они, как им казалось, обосновали. Так было в нейробиологии с открытием долгосрочного потенцирования, колонновидного строения корковых полей головного мозга и нейропластичности. Такого рода фундаментальные сдвиги ставят под вопрос возможность того абсолютного ускорения, которое должно происходить по закону Мура, чтобы сингулярность наступила по расписанию Курцвейла.
Сдерживающий фактор комплексности
Основной вопрос вышеизложенных положений состоит в том, насколько быстро со стороны науки может быть развито достаточное внимание к человеческому интеллекту. Мы называем этот вопрос сдерживающим фактором комплексности (The Complexity Brake). По мере того, как мы продвигаемся глубже и глубже в нашем понимании природных систем, мы, как правило, осознаем, что нам требуются все более и более специализированные знания, чтобы описать эти системы, и мы вынуждены непрерывно расширять наши научные теории все более сложными способами. Детальное понимание механизмов человеческого познания является задачей, решение которой замедляется из-за сдерживающего фактора комплексности. Только подумайте о том, что необходимо для полного понимания человеческого мозга на микроуровне. Сложность мозга просто удивительна. Каждая его структура была точно сформирована за миллионы лет эволюции для выполнения определенных функций. Это не компьютер с миллиардами идентичных транзисторов в симметричных массивах памяти, которые управляются центральным процессором с несколькими различными элементами. В мозге каждая отдельная структура и нервная цепь были индивидуально усовершенствованы эволюцией и факторами окружающей среды. Чем ближе мы смотрим на мозг, тем большую степень изменчивости нервных клеток мы находим. Чем больше мы узнаем о нервной структуре человеческого мозга, тем сложнее становится ее понимание. Иными словами, чем больше мы узнаем, тем больше мы понимаем, как много нам надо знать, и тем больше нам нужно возвращаться назад и пересматривать наши прошлые выводы. Мы верим, что однажды это нарастание сложности закончится: в конце концов, мозг – это конечный набор нейронов и функционирует он по принципам физиологии. Но в обозримом будущем именно сдерживающий фактор комплексности и появление новых мощных теорий, а не закон ускорения отдачи вложений, будут управлять темпом научного прогресса, необходимым для достижения сингулярности.
Итак, в то время как мы думаем, что детальное понимание нейронной структуры мозга в конечном счете достижимо, все же это не та область, в которой мы можем добиться экспоненциально ускоряющегося прогресса. Но предположим, что ученые делают некое блестящее открытие в технологии исследования мозга. Сторонники сингулярности часто утверждают, что мы можем получить компьютерный разум, просто прибегнув к цифровому моделированию мозга при помощи детальной картинки нервной системы. Например, Курцвейл предсказывает развитие не разрушающего мозг сканирования, которое позволит нам точно делать снимки с живого человеческого мозга на субнейронном уровне. Он предполагает, что такие сканеры, скорее всего, будут работать изнутри мозга с помощью миллионов вводимых медицинских наноботов. Но, независимо от успешности такого сканирования на основе наноботов (а мы вовсе не уверены, что такое вообще возможно), Курцвейл утверждает, что это и есть тот необходимый научный прогресс, который откроет врата для сингулярности: компьютеры могли бы показать интеллект человеческого уровня, просто загрузив состояние и взаимосвязи каждого из нейронов мозга внутрь массивного цифрового мозгового симулятора, подсоединив устройства ввода-вывода и нажав «старт».
Однако сложность построения программного обеспечения на человеческом уровне идет гораздо дальше, чем компьютерное моделирование структурных взаимодействий и биологии каждого из наших нейронов. Подобные стратегии «дублирования мозга» предполагают, что единственная фундаментальная проблема в моделировании человеческого интеллекта состоит в наличии достаточной компьютерной производительности и карт нейронной структуры. Даже если теоретически это так, то не сработало бы на практике, так как не охватывает все действительно необходимое для создания ПО. Например, если бы мы хотели создать программу для симуляции птичьего полета в различных условиях, то одной полной схемы анатомии птицы было бы недостаточно. Чтобы полностью воссоздать полет настоящей птицы, нам также нужно знать, как все части функционируют во взаимодействии. Аналогичная ситуация и в нейробиологии. Были предприняты сотни попыток (с использованием множества различных организмов) соединить имитационные модели различных нейронов вместе с их химической средой. Единый результат всех этих попыток состоит в том, что для того, чтобы адекватно воссоздать реальную нейронную активность организма, вам также необходимы исчерпывающие знания о функциональной роли этих нейронов, о том, как развиваются схемы их соединений, о том, как они структурируются в группы, чтобы превратить сырые импульсы в информацию, и как обработка нейронами информации, в конечном счете, влияет на поведение организма. Без такой информации оказалось невозможно построить эффективные компьютерные имитационные модели. Особенно в том, что касается когнитивной нейробиологии человека, мы слишком далеки от необходимого уровня функциональных знаний. Проекты симулирования мозга, находящиеся сегодня на стадии реализации, моделируют только небольшую часть того, что делают нейроны, и из-за недостатка деталей симулируют лишь часть процессов, происходящих в мозге. Темп исследований в этой области хоть и обнадеживает, но едва ли похож на экспоненциальный. То есть, чем больше мы узнаем о сложности функционирования мозга, главное, что мы понимаем – это то, что проблема его исследования становится все сложнее.
Подход ИИ
Сторонники сингулярности иногда обращаются к разработкам в области искусственного интеллекта (ИИ) как к способу обойти медленный темп научного прогресса познания в нейробиологии. Верно, что ИИ достиг больших успехов в дублировании некоторых отдельных задач познания, например, участие разработанного IBM суперкомпьютераWatson в ответах на вопросы американского телешоу Jeopardy! [аналог «Своей игры»]. Но если мы сделаем шаг назад, мы увидим, что основанные на ИИ возможности также не развивались по экспоненте, по крайней мере, если сравнивать с созданием полноценного человеческого интеллекта. Пока мы учились тому, как построить индивидуальные системы ИИ, которые делают, казалось бы, разумные вещи, эти системы всегда оставались хрупкими – границы их возможностей были жестко ограничены их внутренними установками и определяющими алгоритмами, они не могут делать обобщающих выводов, они часто выдают бессмысленные ответы на вопросы, которые выходят за пределы их специфичных приоритетных направлений. Компьютерная программа, которая превосходно играет в шахматы, не может развить свои навыки для игры в другие игры. Лучшие программы по медицинским диагнозам содержат очень подробное знание человеческого тела, но не могут сделать вывод о том, что у канатоходца больше развито чувство равновесия.
Почему для исследователей ИИ оказалось столь сложно построить сходный с человеческим интеллект, даже в меньшем масштабе? Ответ лежит в базовой научной основе, которую используют все ученые. По мере того, как люди вырастают из младенцев во взрослых, они сначала приобретают общие знания о мире, а затем непрерывно дополняют и совершенствуют эти общие знания новыми более узкими знаниями в различных областях и контекстах. Все исследователи ИИ пытаются сделать совершенно обратное: они построили системы с глубокими знаниями в узких сферах и пытаются создать более общие способности, совместив эти системы. Эта стратегия в целом не была успешна, хотя выступление системы Watson на шоу Jeopardy! указывает, что такие пути все же не безнадежны. Несколько попыток, которые были предприняты по созданию большого количества общих знаний о мире и затем добавлению специализированной информации по разным областям (например, работа Cycorp), также имели лишь частичный успех.
И в любом случае, исследователи ИИ только начинают размышлять о том, как эффективно смоделировать сложные явления, которые дают человеческому познанию его уникальную гибкость: неуверенность, контекстную чувствительность, эмпирические правила, самооценку и вспышки интуиции, которые важны на более высоком уровне мышления. Так же, как в нейробиологии, путь ИИ к достижению компьютерного разума на уровне сингулярности, по всей видимости, требует большого числа открытий, нескольких новых теорий нобелевского качества и, вероятно, даже новых исследовательских подходов, которые несоизмеримы с нынешними. Такого рода научный прогресс не происходит на кривой стабильного экспоненциального роста. Так, хотя достижения в области ИИ могли бы, в конечном счете, привести к сингулярности, сдерживающий фактор комплексности замедляет наш уровень прогресса и отодвигает сингулярность в далекое будущее.
Удивительная особенность человеческого познания должна служить предостережением тем, кто утверждает, что сингулярность близка. Не имея глубокого понимания познания с научной точки зрения, мы не можем создать программное обеспечение, которое могло бы вызвать сингулярность. Вместо того, чтобы верить во все ускоряющееся развитие, предсказанное Курцвейлом, мы верим в то, что прогресс в этом понимании существенно замедлен сдерживающим фактором комплексности. Наша способность достигнуть этого понимания либо с помощью ИИ, либо с помощью нейронаучных подходов, – сама по себе является человеческим актом познания, возникшим благодаря непредсказуемому характеру человеческой изобретательности и открытиям. Прогресс здесь сильно зависит от способов, которыми наш мозг впитывает и обрабатывает новую информацию, а также от креативности исследователей при разработке новых теорий. Кроме того, прогресс движим способами, которыми мы организуем исследовательскую работу с социальной точки зрения в этих областях и распространяем знание, которое получаем. В компании Vulcan и в Алленовском Институте изучения мозга мы работаем над продвинутыми инструментами, чтобы помочь исследователям справиться с этой пугающей сложностью и ускорить их в своих исследованиях. Получение всестороннего научного понимания человеческого познания является одной из самых трудных проблем, существующих на данный момент. Мы продолжаем добиваться обнадеживающих успехов. Однако, как нам кажется, к концу столетия мы еще будем задаваться вопросом, насколько близка сингулярность.