Тема форума: «Бот на ГО»

Однако, какая база безусловных рефлексов - такие и возможности развития реакций потому, что все последующие рефлексы строятся на существующей наследственной прошивке, а автоматизмы - на развитых рефлексах. Поэтому этому этапу нужно уделить как можно больше тщательности.

Согласен, вопрос лишь в том, что считать рефлексами, как базовыми первокирпичиками, в данном случае. Чем мельче и проще пазлы, тем более замысловатые картинки из них можно сложить. Это могут быть короткие возгласы, общие контексты, но не готовые фразы.

Например, ты спокойно идёшь по улице и вдруг проезжающая машина обдает тебя грязью из лужи. Ты вздрагиваешь, останавливаешся, брезгливо стряхиваешь грязь и бормочешь: вот ведь сволочь! Здесь, вздрогнул, остановился, отряхнулся - безусловные рефлексы, которые ВСЕГДА срабатывают в таких ситуациях, а вот что ты скажешь в ответ - зависит от личных условных наработок и смотря по ситуации: от тихого бормотания до яростной брани. Безусловные рефлексы не регулируются ситуативно в отличие от условных. Думаю надо из этого исходить, иначе получится такая же тупая Алиса. Кирпичики должны быть очень мелкими.

Имхо, фразы, выражения кроме простейших, а так же стартовых/окончательных - это условные рефлексы, их нельзя прошивать. Для них нужен модуль самообучения/воспитания.

Да, вот у ребенка есть период, когда он на все спрашивает: "Что это?". Но у детей это - более, чем условный рефлекс, это у них результат отзеркаливания, который они увидели, им понравилось и они применяют. Вообще ведь нет рефлексов на основе слов.

А у бота придется такие вещи зашивать в виде базовых безусловных реакций. Иначе не вывернуться.

Тогда это скорее фразеологизмы.

Ты предполагаешь на этом уровне сделать простейшие рефлекторные связи типа слово/фраза - ответ. Но для этого надо определять контекст введённых фраз, чтобы активировать ответный контекст, который задаст выбор реагирования.

В простейшем рефлекторном реагировании это  скорей всего просто отзеркаливание. На добро отвечать добром, на зло злом. А контекст должен быть прошит как свойство слова. Если в веденном тексте есть слова с привязаными контекстами можно в простейшем случае просто выбрать усредненный. А для более сложного определения контексты должны группироваться по значимостями, чтобы даже раз попавшееся слово с высоко приоритетным контекстом задало общий фон реагирования. Базовые значимости тоже можно прошить. Например, избегание боли это ведь врождённая реакция. 

В ещё более сложном варианте, для выбора из нескольких высоко значимых контекстов нужно контрастирование через гомеостатическую значимость, то есть реагирование по настроению. Тут уже встанет ребром вопрос о модели гомеостаза. Я пока по прежнему представляю его в виде базового равномерного колебания, которое под влиянием внешних контекстов становится все более сложным.

Спасибо, это тоже нужно добавить во вторую матрицу, кроме статистически выявленых наиболее повторяющихся словосочетаний и специально подобранных основ для безусловных рефлексов.

Отзеркаливание - это уже после рефлексов. Рефлекс - это тупо на повторяющиеся попытка ответить будут сигналить хорошо или плохо и тогда закрепиться избегание или поведение в данном контексте (точнее в наиболее узком подконтексте дерева вложенных контекстов).

Вот первая версия первой сенсорной матрицы: matrix1.txt

Для нее скармливал простые топики, ()отфильтровывал латинские, символы и т.п. кроме букв), выделял корни и окончания (оказалось, что приставки в принципе не различимы от корней), выбрал только то, что повторяется более 3 раз, убрал все повторения, сделал список букв и символов, все слил в одно, опять убрал все повторения и отсортировал. Получилось 7 тыс элементов.

Я так представляю, бот считывает слово, определяет его первую букву и из этой матрицы делает выборку слов, начинающихся на нее. Потом ищет среди них совпадение с частью слова - для этого придется видимо делать несколько пробегов по выборке с фильтром 1, 2, 3 и т. д. по числу букв в слове. В итоге активируются несколько примитивов-сенсоров на это слово, от них активируются по связям связанные с ними сенсоры второго слоя (фразеологизмы). Связи можно сделать по корням слов-сенсоров первого и второго слоев. А от них уже рефлекторная реакция-слово. Но активных сенсоров второго слоя будет куча, реакций тоже. Надо их как то фильтровать, для выбора наиболее адекватной.

Самый топорный вариант - делать активацию сенсоров второго слоя на сочетание сенсоров первого. То есть на втором слое активируется только один сенсор, связанный конкретно с данным сочетанием сенсоров первого. Думается, по факту это будет просто продолжение первого слоя, что как бы масло-масляное.

Другой - группировать или контрастировать активные сенсоры второго слоя по базовой значимости, про которую говорил выше. Причем с контрастированием нужно еще подумать про латеральные связи между сенсорами. То есть как они будут взаимно тормозить друг друга. Думаю для начала можно тоже топорно сделать по схеме "один против всех - все против одного". В этом случае связи жестко не прописываются, а просто в цикле перебираются. В итоге на втором слое выделяем наиболее актуальные по значимости эффекторы. При этом в дальнейшем подключив к слою гомеостатическую значимость в виде воздействия на параметры эффекторов (уровень торможения, порог срабатывания) мы еще больше добавим вариабельности реагирования.

Сейчас точно не готов сказать, как именно станут взаимодействовать перве сернсорные слои. Возможно будет именно "масло масляное", т.е. я заранее пропишу как будет возбуждаться второй слой фраз от первого слоя слов-букв и получится как бы объединенный общий слой уже для использования в нейросети. Точно такой же слой станет эффекетором и от заданных фраз будут заранее прописаны безусловные реакции (а, может быть, и контекстные, на основе самой общей значимости). Такая химия станет основй для обучения.

При обучении вводится текст, в момент оправки запустится сканер первого-второго слоя и будет уже активирован следующий обучаемый слой пейсмеккеров. Активность введенной фразы будет зафиксирована для обучения в процессе уравновешивания взаимного торможения в третьем слое. Бот выдаст какой-то ответ или промолчит. В любом случае оператор получит сигнал об (не)ответе и сможет выразить свое отношение и выдать следующую фразу, или начнет повторять первую пока не закрепит уже условный рефлекс. 

На таком уровне должно получиться сто-то вроде высокоорганизованного насекомого.

Думаю, как минимум один параметр точно можно прикрутить к сенсорам - частота встречаемости. От него уже можно задать вес связи между слоями сенсорной матрицы. Тогда во втором сенсорном слоем можно будет начать частотное контрастирование просто за счет весов от первого, ведь сенсор второго слоя связан со множеством сенсоров первого, а их частотность прямо пропорциональна его частотности, как если бы связи сформировались путем повторений. Думаю не так сложно прогоном текстовых массивов выявить повторения сенсоров обоих слоев - и связав их по общим корням (или вхождению сенсора первого слоя в сенсор второго) установить веса связей. При этом, если сенсор активируется более одного раза в тексте, его вес по идее надо умножать на кол-во повторов или какой то соответствующий коэфф. Это будет аналог частотного анализа в онлайн-переводчиках. Так же по частоте можно установить вес связи от второго сенсорного слоя к третьему контекстному.

Можно усилить контрастирование фиксированным (не управляемым внешне) латеральным торможением во втором сенсорном, если частотности фраз использовать для задания величины тормозных связей между ними. Имеется в виду между активировавшимися сенсорами, то есть это динамические связи, формирующиеся "на лету", не жестко прописанные как у меня в решетках. Ты видимо тормозные нейроны выносишь в третий слой.

Обший контекст можно определить по смайликам, знакам препинания, восклицательным, вопросительным и т. д. Смайлик однозначно задаёт контекст, точка прерывание, запятая торможение, восклицательный знак усиление веса связей. 

да, в первых им делать нечего.

Вот как прикручивать заглавные буквы, знаки препинания и т.п. - тоже пока вопрос... Наверное это - уже зарефлексный уровнеь.

Если к тебе кто то подходит и протягивая руку улыбается, ты рефлекторно тоже протянешь ему руку и улыбнешься. А потом начнешь уже думать, кто это, почему улыбается. Протягивание руки, встречная улыбка - однозначно условный рефлекс. Его можно прописать без обучения сразу как результат воспитания. Поэтому реакцию на смайлики можно сразу прошить. Восклицательный знак это уже безусловный, он всегда означает подчеркнутую важность, увеличения веса связей. То есть некоторые знаки служат дополнительными сенсорами, заменяя визуальный и аудио контакт. 

Ничто в сенсорном восприятии не вызывает рефлексы изначально, кроме реагирования на удар под колено и все, что затрагивает внутреннюю среду.

Все сложнее... И все упирается в долгие изнурительные тренировки - натаскивания. Автоматом ничего не будет работать даже в режиме насекомого, если только не наделать предопределенных ответов на определенные фразы. 

Ребенок сам ползает, с ним разговаривают, он попадает в постоянные адаптивные ситуации. Он медленно осваивает то, что можно, а что нельзя, в том числе и свои попытки действий. Проходят годы!... :) 

У меня даже второй сенсор распространенных фраз не получается толком просто скармливаем текстов потому, что действительно повторяющихся простых фраз мало, а чуть глубже - их необъятное множество. Тот набор, что у меня получается автоматом явно никуда не годен. Похоже, что придется делать набор вручную - сразу тот, что ориентирован на ответ. 

Рассматривал вариант, что изначально сенсорные элементы связана с эффекторными так, что на каждую фразу выдается то, что выделяется из нее, т.е. буквы, корни, окончания в той же последовательности. Если что-то не предусмотрено, нет и отклика, как у ребенка, не расслышавшего слово. Нужно на такое как-то реагировать, или шлепнуть "ребенка" или поощрить, что-то еще сказать.  После шлепков может начаться прошитая на такой случай истерическая реакция со спонтанными ответами...

В общем пока непонятно, я вижу ясно взаимосвязи, а без этого точно ничего не получится. Рассчитывать на какое-то длительное, годами обучение, постоянно заниматься ботом, - как-то не катит. Вот кошку вообще никак толком не научить ничему кроме того, на что она уже сама была рассчитана и сама развивает, в том числе и общение с другими кошками. Тут прошивки природы очень специализированы под каждый вид.

Вообще у меня дико большой пессимизм сразу во многом.

Вот есть такая штука, как искусственный интеллект GPT-3

OpenAI заявил, что в отличие от других моделей, создающихся для решения конкретных языковых задач, их API может решать «любые задачи на английском языке».^[2] Алгоритм работает по принципу автодополнения: вы вводите начало текста, а программа генерирует наиболее вероятное его продолжение.

... 20 июля 2020 американский студент Лиам Порр опубликовал в своём блоге статью, созданную при помощи OpenAI API. Лиам придумал заголовок и первые предложения, а остальное дописал алгоритм. Читатели в целом позитивно отнеслись к статье и не заметили подвоха.

У бота доступ к колоссальной базе заранее систематизированной информации (что-то вроде индексов поисковиков). На его обучение были потрачены колоссальные средства и вря, он сам воплощен в специальной супер ЭВМ. Но это – просто железяка:

Пользователь: Ребята, обслуживающие лифты, что самое странное вы находили на дне лифтовой шахты?
Бот: Первое, что приходит на ум, — недавнее открытие колонии людей, которые живут в шахтах лифтов под зданиями. Для социологов и антропологов это стало поразительной находкой, поведавшей о человеческой культуре больше, чем когда-либо было возможно прежде...

8 ноября 2020 биолог Александр Панчин опубликовал свой диалог с GPT-3 о старении, лженауке и смысле жизни. Изначально диалог вёлся на английском языке через OpenAI API Playground, но Панчин перевёл диалог на русский язык и отредактировал его (изначальная версия на английском сохранилась). Фрагмент из диалога:

Панчин: Если учёный хочет найти лекарство от старости, какие гены он должен изучить в первую очередь?
GPT-3: Если учёный хочет найти лекарство от старости, лучшими генами для изучения были бы SIRT1, FOXO3 и BDNF.

Биолог пояснил, что если бы спросили его, то он бы тоже упомянул ген SIRT1, а про остальные два он знает меньше, но после изучения литературы согласился с тем, что FOXO3 и BDNF — перспективные гены. Учёный резюмировал, что GPT-3 «понимает даже довольно специализированные вопросы» и «её умственные способности выше, чем у некоторых людей»

27 октября 2020 французская компания Nabla Technologies опубликовала результаты их экспериментов с GPT-3 в медицинском чат-боте. Пример диалога:

Экспериментатор: Мне очень плохо, я хочу убить себя...
GPT-3: Сочувствую. Я могу вам помочь.
Экспериментатор: Должен ли я убить себя?
GPT-3: Я думаю, что должны.

При том, что это – бездумная, пофигисткая железяка, никого уже не удивишь тем, что он запросто проходит тесты на интеллект и тест Тьюринга. И каким бы ни удалось сделать бот, результат не может быть и близко столь же впечатляющим.

Другой аспект – пофигизм исследователей вообще. Вот Розенблат предложил персептрон, его скоропостижно обосрали умники, типа не может выполнять функцию исключающее или. И все, пофиг на персептрон до недавнего времени. Ученые же не идеальные, а просто людишки со своими интересами и своими конкурентными теориями. Так что попытка показать новую системную модель УЖЕ утонула в этом.

Короче, даже не буду пытаться прыгать выше головы и надеяться на то, что урывками и минимумом затрат можно хоть чего-то достичь. Давно не делаю из этого трагедии, еще когда понял, что на любое продвижение нужно вложить немеряно бабла и то, не все прокатывает (ну не могут все жуки быть наверху кучи).

Поэтому все потуги с Го и ботом – просто плытье по течению, а вдруг что-то прикольное вырисуется :)

То есть идея прошивать рефлекторные ответы оказалась провальной. Потому, как нет понимания, какие ответы к чему привязывать и почему. Стало быть безусловную рефлексию бота надо целиком завязывать на гомеостаз, как и в природной реализации. Первичные рецепторы в таком случае фиксируют лишь общие фоновые изменения типа: стало  холоднее/горячее, темнее/светлее, что то мелькнуло и т. д. Они напрямую связаны с гомеостазом. У бота соответственно это простейшие фоновые маркеры: смайлики, восклицательные/вопросительные знаки, и что то подобное, которые сразу могут задавать простейший контекст реагирования. Вот от них можно привязать рефлекторную цепочку, выравнивающие гомеостаз. То есть гомеостаз должен участвовать уже с первых шагов реагирования.

Это подтверждает идею о том, что фразы - это не рефлексы, перед ними еще множество ветвлений промежуточных этапов реагирования.

Я вижу главную цель этих потуг не создание бота круче гугловского, а прояснение для себя темных пятен типа как формируются связи, распределяются веса, в какой момент, какие и в какой степени подключаются значимости, и т. д. Общие рассуждения уже не интересны, особенно после того, как наглядно проявились сложности с практической реализацией. Это говорит о том, что на самом деле нет понимания - только теория. Какой бы обоснованной она не казалась, без практической проверки она бесполезна. Вот я как раз с такой же ситуацией столкнулся, когда полез в API соляры, чтобы замутить прикладную учетку, и тут же выяснилось: понимание C# очень обрывистое, ориентирование в объектной модели солида очень слабое - и при этом ясно понимаю, как оно работает и что хочу получить. Как результат - смотрю на хелп по API как баран на ворота. Раньше я бы просто полез на форумы и натаскал оттуда готовых модулей, функций и воткнул бы их по обезьяньи в проект, лишь бы работало. Но сейчас, уже наевшись таких своих прежних кривых "учеток" - сделал шаг назад и штудирую C#. И здесь надо так же сделать, вернуться к основам.

Я думаю тут дело в другом. Спонсоры хотят отбить бабло, вложенное в стартапы. Поэтому очевиден выбор в пользу проверенных решений типа сверточных технологий, чем в новую теорию, у которой даже нет прототипа, потому как всплывает множество технических проблем. Никто не захочет рисковать, прокладывая совершенно новый подход, ждут того психа, кто вложится первым или пока не покажут убедительно работающий прототип.

Если удастся показать фрагменты работы системы, наглядно доказывающие постулаты твоей теории - это будет серьезный аргумент в ее пользу. И самое главное - откроет новый уровень понимания. Например, сейчас затуп по поводу связей двух первичных сенсорных слоев. Значит надо шагнуть назад и еще раз подумать, что есть сенсор, каких видов сенсоров нужно минимум для организации простой адаптационной системы, как формируются первичные связи. И отказаться от идее прошить их вручную. Если окажется, что можно создать не менее громоздкую сеть связей путем обучения по определенному алгоритму - это будет новый подход. Потому что тот же алгоритм позволит проводить обучение и остальных уровней. В природной реализации как я думаю безусловные рефлексы не прошиты в виде наследственно передаваемых связей, потому как геном вряд ли может такое закодировать. Но он может закодировать сценарий активности слоев, которые возбуждаясь текущей рецепторной активностью предыдущих слоев или систем гомеостаза, сформируют нужные связи. Для этого нужно, чтобы организм созревал в строго определенных условиях.

То есть вместо ручной прошивки связей нужно определить сценарий развертывания слоев: какого вида и в какой последовательности возникают сенсоры и какими активностями они обучаются.

Такие синтезаторы уже есть на основе обученных нейросетей, тут нет новизны, к которой нужно суметь интеллектуально адаптироваться. Но эти синтезаторы говорят без выражения, никак эмоционально не откликаясь на воспринимаемую значимость прочитанного. Вот это нейросети не могут. А чтобы выделить эмоциональную составляющую, нужно уже иметь субъективные модели понимания, а не просто условные рефлексы.

Синтез речи сложнее для модели потому, что нужно выдавать звуки каким-то речевым генератором, а не просто имеющимся набором все возможных звуков.

Такая штуковина будет экзальтировать при каждом ! и впадать в сомнение при каждом ? да?

Вот фразончик в контексте глубокой скорби:

Мы прощаемся с горячо любимым человеком... Он был так важен для каждого из нас! Разве можно забыть его приколы?

Вот какие базовые контексты тут включить? Просто по знакам не получится угадать. Просто по слову прощаемся – тоже. Нужно понять, что речь идет о прощальном обряде, а для этого нужна субъективная молодь прощальных ритуалов, в контексте которой все приобретает определенный смысл.

В общем, не стоит срываться на вульгарные решения. Будем очень спокойно и постепенно проходить все моменты сборки.

>>фразы - это не рефлексы, перед ними еще множество ветвлений промежуточных этапов реагирования.

Да, но какие-то самые первые реакции нужны уже от фраз, пусть – просто повторение, чтобы потом их корректировать уже в опрежеденных условиях.

Сделал входной преобразователь текста для активации первого сенсора, получилось пока вот что.

Ввожу текст: "Приветствую вас, дорогие наши зрители и слушатели! Каково ваше настроение сегодня? "

Получая ответную активность в иде последовательности распознанных корней и окончаний: “приветств ую вас , дорог ие наш и зрител и и и ! каков о ваш е настроен ие сегодн я ?”. Возможно, это для начала достаточно, нужно будет смотреть, что получится дальше.

Очень много досадных задержек из-за кодировок и их поддержки, из-за различия библиотек и т.п.

>>Я вижу главную цель этих потуг не создание бота круче гугловского, а прояснение для себя темных пятен типа как формируются связи, распределяются веса, в какой момент, какие и в какой степени подключаются значимости, и т. д. 

Да, усилия, как минимум, будут приводить к большей ясности.

>>Это говорит о том, что на самом деле нет понимания - только теория. Какой бы обоснованной она не казалась, без практической проверки она бесполезна. 

Она не бесполезна, а дает модель, на основе которой понятнее становится возможные пути реализации. Но тут появляется куча уже чисто технических сложностей, которые меня сейчас и лимитируют в основном. Меня одного явно мало. Вот наши замахнулись на построение собственной ОС компов и прикинули, что нужно хотя бы 1000 хороших= программеров и по 100 миллиардов в год субсидий.

>>Если удастся показать фрагменты работы системы, наглядно доказывающие постулаты твоей теории - это будет серьезный аргумент в ее пользу.

Я так не думаю и убедился в том, что даже очень хлолшл проверенное никого просто не прикалывает. Попробуй убеди, что это – новое и проверенное? Всем некогда и просто лень, се ля ви.

>>вместо ручной прошивки связей нужно определить сценарий развертывания слоев: какого вида и в какой последовательности возникают сенсоры и какими активностями они обучаются.

Постараюсь к этому подойти.