К вопросу о возможности создания ИИ (и что под этим можно/нужно понимать, и чем он нам грозит). Часть I.

Искусственный интеллект (далее - ИИ) манил меня ещё со студенческих времён, наверное, примерно так же, как некогда средневековых алхимиков манил магический "философский камень" (кстати, между прочим, в процессе поисков методов превращения свинца в золото попутно было получено много весьма полезных знаний). Тогда, вплоть до первой половины 80-х годов, было широко распространено мнение, что хорошим индикатором момента, когда ИИ превзойдёт своего создателя, будет факт его победы над ним в шахматном матче, ибо шахматы тогда считались той лакмусовой бумажкой, по которой можно оценить мощность логического мышления машины. Запомнилось высказывание Гарри Каспарова на одной и пресс-конференций, состоявшейся вскоре после того, как он получил шахматную корону. В ответе на вопрос про шансы ЭВМ когда-либо победить в поединке чемпиона мира он уверено ответил примерно в таком духе, что машина никогда не победит лучшего белкового шахматиста планеты, так как ей недоступна интуиция. Видимо, излишне напоминать, что ещё до окончания XX-го века он на личном опыте убедился в опрометчивости своих слов. Вскоре после этого печального для человечества события начались разговоры о том, что, на самом деле, шахматы не являются таким уж хорошим индикатором прогресса ИИ, так как в них дерево перебора растёт хоть и быстро, но всё же недостаточно быстро для того, что бы современные суперкомпьютеры не могли компенсировать тупость своего перебора вариантов своими колоссальными вычислительными мощностями. Кстати, впоследствии похожая ситуация будет ещё многократно повторяться. Как сказал кто-то из классиков ИИ (точно не помню кто, запомнилась только сама идея) - "Как только очередная задача, считавшаяся до этого ключевой для теста ИИ, оказывается решена, так сразу же выясняется, что она, на самом деле, вовсе не была таковой". Итак, как и следовало ожидать, скептики после "шахматного фиаско" не стали унывать, а тут же придумали новую "решающую" задачу. Как нетрудно догадаться, это была игра Го. Вот, говорили они, это именно то, что нужно! Дерево перебора там растёт так быстро, что без квантового компьютера машине игроков высших в мире данов ну никак не сбороть. Там же тупой счёт вообще на двадцать пятом месте, а главное - интуиция, и вообще, Го, это, скорее, искусство, чем игра, ну куда здесь глупой машине! Но время шло, железо и (главное!) методы распознавания образов, применяемые в ИИ, постепенно совершенствовались, и, в итоге, в теории распознавания образов наступила эпоха Возражения, что было во многом связано с появлением идей глубокого обучения. Игроки топ уровня всё с большей тревогой наблюдали за быстрым прогрессом "силиконовых" конкурентов. Наконец, в 2016-м году компьютерщики отважились бросить перчатку считавшемуся в то время сильнейшим в мире среди профессиональных игроков Го корейцу Ли Седолю. Подобно Каспарову, перед началом матча он держался довольно уверенно, если даже не сказать самоуверенно. Так, примерно за месяц до начала матча Ли предположил, что сможет выиграть его со счётом 5:0. Увы, несмотря на его неимоверную интуицию и умение находить нестандартные ходы, что ранее часто помогало ему обыгрывать соперников, в этот раз ему удалось выиграть лишь одну партию из пяти.

Такое развитие событий заставило некоторых ИИ-скептиков обратить свои взоры на ещё одну интерпретацию критерия совершенства интеллекта. В соответствии с ней интеллект определяется возможностью одной и той же системы (не важно, живая она, или нет) постоянно самосовершенствоваться, играя в различные игры, то есть, демонстрировать гибкость и отсутствие "заточенности" на решение лишь одной определённой задачи. Указанная возможность была продемонстрирована в 2017-м году компанией DeepMind в новой версии своей системы, которая, играя сама с собой, буквально за несколько часов достигала уровня, позволяющего ей успешно соперничать с лучшими в мире программами, каждая из которых специализировалась на какой-то одной определённой игре – шахматах, сёги или го. Последним пристанищем человеческого интеллекта до самого последнего времени оставались наиболее сложные сетевые компьютерные игры, требующие быстрого принятия важных стратегических, оперативного переключения внимания между различными проблемами, грамотного управления доступными ресурсами и т.д. Указанные качества важны для руководителей высшего звена, таких как, например, тренеры команд топ-уровня, высшие военноначальники во время войны и т.д. Одним из примеров такой игры является StarCraft II, принадлежащая к классу так называемых стратегий в реальном времени. Естественно, у сотрудников DeepMind зачесались руки испытать разработанный ими подход для обучения ЭВМ поведению в различных игровых ситуациях. Была создана версия программы, адаптированная для одной из версий StarCraft II (её назали AlphaStar) и результат опять не заставил себя долго ждать - в 2019-м году, начав анонимно играть в турнирах против живых игроков, программа уже к августу этого же года достигла высшего возможного ранга (уровень грандмастра), что означает, что она стала играть сильнее, чем 99.8% других игроков. После нового триумфа разработчиков ИИ, как это обычно бывает, опять нашлись критики, утверждающие, что условия были неравными, поскольку, например, человек при игре может совершать импульсивные необдуманные действия. В общем, говоря по-простому, лишите ИИ всех его преимуществ (скорость вычислений, отсутствие эмоций, точный расчёт рисков принятых решений и т.д.), и он будет на равных с человеком, а то и ощутимо уступать ему. Естественно, если искусственно целенаправленно ухудшать программу, заставляя её имитировать слабости интеллекта человеческого, то в конце концов она растеряет все свои преимущества, и можно будет торжественно вернуть человека на символический трон, только вот к этому ли мы изначально стремились? Ведь исходная цель была прямо противоположной - за счёт использование преимуществ цифровой элементной базы сделать для человека помощника, который бы не уступал, а, возможно, и превосходил его в решении каких-то важных специфических интеллектуальных задач.
В последнее время появилась ещё одна секта "низвергателей ИИ", члены которой почему-то были уверены, что ему не подвластны игры с неполной информацией, когда нужно учитывать, что мы не знаем заранее всех свойств участвующих в игре "фигур" (скажем, какие карты изначально на руках у соперников, и что в "прикупе", априори не известно), а игроки могут целенаправленно пытаться ввести друг друга в заблуждение относительно своих истинных намерений. Одной из самых популярных игр с неполной информацией является покер. И да, у меня плохая новость для членов вышеупомянутой секты - ещё в 2016-м году программа DeepStack в одну калитку вынесла сборную профессиональных игроков в одну из разновидностей покера (Heads up).