Тема форума: «Бот на ГО»

А почему не сделать в ГО, чтобы не найденный сенсор просто автоматом добавлялся в матрицу (соблюдая сортировку конечно), вместо того, чтобы обозначать их ХХХ? Тогда можно просто скармливать боту тексты и он сам забьет матрицу сенсоров. Потому как в принципе распознаватель работает довольно шустро и точно, надо только добавить коротких слов и определиться с цифрами.

>>Судя по коду, ты идею весов для сенсоров похоронил

Да. Как и латеральное торможение на этом уровне. Потому как словесный сенсор – очень четкий, без каких-то яркостей и там все это вообще не нужно. А вот в последующем слое, покрывающем веерообразно сенсор входами, уже нужно будет контрастирование. Хотя пока не очень еще представляю, как это будет происходить. Видимо, после ввода фразы нужно запускать цепочку последовательности слов. Т.к. в сенсоре будут встречаться активности несколько раз во фразе (пробел - особенно), то в зависимости от заданной задержки активации последующего элемента сенсора в следующем слое будет специфическая засветка.

 

>>если этот гомеостаз представить в виде нейросети

Думаю, что гомеостаз нужно эмулировать вне нейросети, как это происходит в организме. Вот у робота это может быть заряд батареи и температура. У бота тоже нужно сделать какие-то элементы типа его функциональности, например, истощение счетчика сытости при долгом ожидании, а ты можешь нажать кнопку Корм на пульте, чтобы задать его в ответ на какое-то правильное поведение.

 

>>восприятие фразы не зависит от текущего состояния гомеостаза?

На уровне последующих слоев – должно зависеть, чтобы слова фразу заимели более определенное значение (которые я и предлагал подставлять как ряд возможных в файл слов). И тут же в данных контекстах должны формироваться сначала безусловные реакции, потом на их основе уже условные.

>>Немного поправил код, и можешь сравнить

спасибо, посмотрю....

>>С цифрами тоже залет, они распознаются только от 0 до 9. Можно вывернуться 2 способами:

Это нужно будет сделать в файле phpпри подготовке фразы к оправке.

>>А почему не сделать в ГО, чтобы не найденный сенсор просто автоматом добавлялся в матрицу (соблюдая сортировку конечно), вместо того, чтобы обозначать их ХХХ? Тогда можно просто скармливать боту тексты и он сам забьет матрицу сенсоров.

В го тогда нужно сделать поддержку выделения корней, ее пока нет, но это можно сделать и на уровне скрипта подготовки фразы к отправке. Нужно прикинуть...

автор: nan сообщение № 47259:

А вот в последующем слое, покрывающем веерообразно сенсор входами

У тебя массивы аналог виртуальных таблиц, собираемых на лету, то есть физически в виде файлов или таблиц БД их нет. Стало быть связи у тебя тоже "висят в оперативке". То есть как только выключил файл ГО.exe бот сразу потеряет все свои навыки, для него это равносильно смерти. Стало быть надо уже думать по поводу бэкапов массивов нейронов, ведь еще много раз проект ГО будет модифицироваться и терять данные.

По логике нужно аналогичный сенсорной матрице файл, где будет записана структура нейронов со всеми их весами и ID. Тут как бы просится более сложная структура, чем текст с разделителями. XML например или даже БД, чтобы сохранять больше свойств. Или ты имеешь другие мысли по этому поводу?

автор: nan сообщение № 47254:

Чтобы избежать формирования контекстов значимости отдельных слов обучением, видимо, придется каждому слову в матрице слов придать IDтех контекстов, в которых оно может участвовать. Это касается корней слов, а их сейчас около 25 тысяч штук. Работа адова. Но альтернатива – еще более адово обучение.

Словарь синонимов/антонимов

Вводишь слово, вываливает список синонимов, причем даже в списке, для удобства копирования. По идее это все слова имеющие общий контекст понимания. Какой пока не важно, главное что можно так полуавтоматом прошерстить базу и сгруппировать ее по контекстам. Правда встает вопрос с весом связи в группе, слова веде не равнозначны по смыслу. Тут еще надо подумать.

Алгоритм полуавтомата я вижу таким:

1. определяешь корень, которому еще не присвоен контекст и придумываешь с ним короткое слово. 
2. втыкаешь слово в страницу по ссылке и получаешь список синонимов. Генеришь ему ID контекста.
3. вставляешь его в свою страницу, вычищаешь скриптом разделители и разбираешь по корням
4. находишь такие сенсоры и присваиваешь им ID контекста.

Это будут активирующие контекстные связи. Точно так же по списку антонимов получаем тормозные.

Так думаю раз в 20 быстрее будет. Но как уже говорил, пока не ясно с весами. Просто связь без веса не получится контрастировать.

Скорей всего вес связи будет определяться по частотности использования слова. Эта цифра там тоже есть. Потому что при обучении веса бы распределили именно по частоте повторений, а мы это число сразу можем забить. Тогда матрица сенсоров должна быть в виде:

ID сенсор id_ группы/вес  id_группы/вес

Один сенсор по идее должен входить в разные группы значимостей, но с разным весом. Тогда получится перекрытие связей и возможность контрастирования. Если в среднем на каждое слово есть 10 синонимов, то первый слой эффекторов будет где то 2-3 тыс. нейронов. Думаю это все равно много для прямого воздействия на гомеостаз. Стало быть нужно будет ещё группировать в более общие группы типа: движение, неподвижеость, яркость, тьма и т. д. Эти группировки уже придётся делать вручную. То есть группировок нужно свести значимости до уровня нескольких десятков и уже ими воздействовать на гомеостаз. 

автор: Palarm сообщение № 47260:

нужно аналогичный сенсорной матрице файл, где будет записана структура нейронов со всеми их весами и ID.

Именно так. Сохранять нужно в файл, а не в БД. 

автор: Palarm сообщение № 47260:

Словарь синонимов/антонимов Вводишь слово, вываливает список синонимов, причем даже в списке, для удобства копирования. По идее это все слова имеющие общий контекст понимания.

А где хранить синонимы?.. Это же значит, что каждому слову нужно придать некий ID одного из возможных групп синонимов. Это еще круче, чем каждому слову придавать ID одного из 10-20 контекстов...

Синонимы дополнительно не хранятся. Это те же сенсоры в виде корней слов. Просто их надо сгруппировать по общему смыслу. Может и не надо делать многоуровневую группировку, а только одну. Но возникает вопрос: каким образом сгруппировать вручную 30 000 сенсоров, которые не слова, а корни? Это же мозг взорвётся. Скорей всего это надо делать в несколько этапов. Сначала группируем сенсоры по кучкам, это можно сделать полуавтоматом, хорошо что базу связей слов уже прошерстили до нас. Полученные несколько тыс. кучек уже вручную обозвать какими то общими словами и опять сгруппировать уже вручную в ещё более глобальные группы. Думаю так будет проще, чем просто вручную собирать сразу большие кучи. Думаю в два шага и получим эти 20-30 глобальных контекстов. Им же ещё и веса связей надо поставить, которые от частоты использования зависят. Это тоже можно вывести, если опираться на цифры с сайта и потом присваивать например среднее число при втором шаге группировки. 

У меня пока в голове все это не дозрело. Я пока начну формировать стандартный слой с тормозными вставками и режимом пейсмеккерного обучения, чтобы такие слои можно было последовательно натыкать. И нужно сделать движок поддержки активностей, чтобы от активных сенсоров по связям возбуждались следующие - по отработанному  алгоритму конструктора нейросетей.

А я попробую сделать такие группировки. По сути это второй слой рецепторов, реагирующих на контекст введённого текста. Это по любому понадобится в дальнейшем.

Если получится, будет здорово.

Каждый новый слой собираюсь сделать как функцию, которая будет открывать массив нейронов с заданным числом, создавать файл постоянной памяти связей, в котором сразу пропишутся изначально неэффективны связи к нейронам предыдущего слоя с веерным перекрытием. По мере обучения в этом файле будет фиксироваться достигнутая картина в виде весов затронутых связей. Ну и тормозные вставки. Так же нужно предусмотреть выделение нейронов текущим контекстом: если активен контекст 1, то все образующиеся веса будут относиться только к нему.

У меня пока следующее понимание первого слоев эффекторов:

 

синонимическая и антагонистическая сети через различные веса и перекрытия связей теоретически приведут к отклику сети двух типов: устойчивое состояние или бесконечный цикл, если связи перепутались в петли. Надеюсь, что те кто перелопатил массив русского языка правильно определил сортировку соответствия значений синонимов/антонимов - тогда сеть скорее будет выдавать устойчивый эффекторный рисунок. Про логике, при естественном обучении все неправильные связи должны были бы блокироваться. И сразу просятся параметры сети:

1. число шагов - можно бесконечно блуждать по узлам сети переходя от одного синонима/антонима к другому. Может веса связей при контрастировании и разорвут цепочки бесконечных циклов, а может и нет. А может оказаться, что последовательная активация сети "по словам" приведет к тому, что каждая следующая волна активности будет гасить предыдущую, или по крайней мере не давать ей уйти в бесконечность. На всякий случай можно просто принудительно ограничивать блуждания, а там видно будет.
2. общий уровень торможения - хотя тормозные веса антонимических связей и подразумевают торможение, но опять же не помешает для подстраховки приделать регулятор поднятия/понижения общего уровня, чтобы "успокаивать сеть". Эксперименты с равновесными структурированными решетками показали, что при изменении параметров сети (порога, контрастирования) возникают такие соотношения параметров, при которых сеть "сходит с ума", выдавая каскады эффекторных рисунков, но есть и участки плато, где они никак не реагирует на изменения. Возможно и неравновесно-неструктурированные ведут себя аналогичным образом. Возможно, что в принципе не возможно одними лишь весами "успокоить сеть" и получить от нее устойчивые уникальные пары рецептор-эффектор, а всегда требуется дополнительная внешняя регулировка. Вообщем, раз пока нет полного понимания - имеет смысл добавить регулировки.

На том же ресурсе есть раскладка по ассоциациям. Правда анти-ассоциаций для контрастирования нет, но можно вывернуться через антагонизмы. То есть по списку ассоциаций получить антагонизмы, от них другие ассоциации, но уже с инвертированными весами. И столкнуть две сети для контрастирования с аналогичными параметрами. Ассоциативная сеть это уже более глобальная группировка, то есть второй слой. Он определяет уже более общий смысл.

В ходе формирования системы гомеостаза бота возникло корректное определение живого существа.

Живое существо это – система поддержания нормы важных жизненных параметров с их регуляцией через контексты потребностей.

В самом деле, если потребности не удовлетворяются, то прекращается существование в своей функциональности.

Видимо умолчательно подразумевается, что уже понятны определения "жизнь", "контекст", "потребности". Подозреваю, что это похоже на определение котангенса, как тангенса наоборот.

Я для себя сформулировал такое отличие живого от неживого: не живое пассивно, только лишь за счет свойств, сопротивляется уничтожению, живое активно, благодаря наличию системы адаптивности, обязательной составляющей которой является гомеостаз. Без него просто невозможно построить адаптационную систему. Живое не обязательно физическая форма материи, это может быть и виртуальная, в виде программы.

Прикинул, как может ветвиться дерево контекстов. Показано простейшее дерево с одним стволом, но думаю, что в реальности это множество ответвлений, которые тем не менее сходятся в один ствол.

 

В схеме показано движение по дереву контекстов, приводящее в конечном итоге к активации контекстов базового состояния Плохо/Хорошо. Связи проставлены таким образом, что влияние нижележащего слоя тем больше, чем он ближе. Кроме того, контексты внутри слоя отсортированы по горизонту так, что крайние контексты являются антагонистами, а центральный в слое контекст является как бы граничным разделителем между крайними значениям в слое и на него оказывают влияние контексты обоих частей нижележащего слоя. Так же имеется перекрытие в один элемент внутри слоя для увеличения чувствительности.

 

В схеме условно не показано взаимное латеральное торможение контекстов в слое, позволяющее выделять более быстро растущую активность и тормозить менее быструю. В самом нижнем слое расположены контексты, активирующиеся непосредственно от рецепторов. Условно схема состоит из трех слоев, не считая базовых, но в действительности их намного больше.

 

Такая компоновка позволяет методом приближения получить на комбинацию раздражителей нижних контекстов активность верхнеуровневых и одного из первичных: плохо это или хорошо. Или пассивность обоих, что означает нейтральное состояние. Одновременная активность плохо/хорошо считается глюком распознаваня и требует уточняющего контрастирования.

 

Чем больше дерево и соответственно больше дробление диапазона контекстов на более мелкие, тем больше вариабельность реагирования. Она оказывает влияние на гомеостаз, который запускает механизм восстановления своего состояния при помощи адаптивных реакций так, чтобы сдвинуть активность контекстов в сторону "Хорошо".

 

Самое главное в схеме - правильно расположить в дереве по горизонтали и вертикали контексты так, чтобы каждый узел дерева определял свою активность антагонистической парой контекстов предыдущего слоя. То есть оценка раздражителя всегда делается при помощи пары рецепторов, детектирующих некоторый диапазон состояний типа холодно - горячо, темно - светло. Точность распознавания зависит от величины диапазона, по аналогии с делениями на линейке. Но для того, чтобы с одной стороны получить приемлемую точность - не просто тепло, а сколько градусов, а с другой определить базовый контектс - плохо это или хорошо, нужно выстроить контексты в дерево по определенной схеме.

 

Опускаясь сверху вниз по дереву получается все большее "дробление", "размазывание" контекстов, но при этом сохраняется одинаковая по всем слоям сортировка, нарастание/убывание некой величины свойства слоя, например для второго слоя это яркость (тьма - сумерки - свет), а для четвертого психическая активность:

 

плохо - хорошо

тьма - сумерки - свет

 мрак - чернота - серость - блеск

 зло - горе - тоска - уныние - противно - приятно - радость - добро

 

При этом кажущаяся очевидной ассоция "зло-тьма" и "добро-свет" вовсе не универсальна, а результат эволюционной адаптации нашего вида. Ночью мы более уязвимы, ввиду особенностей нашей сенсорной системы, и потому нам некомфортно. Но например для летучих мышей все с точностью наоборот, и кошачьим не понятна наша ночная тревожность: все замечательно видно и прекрасно слышно.

автор: Palarm сообщение № 47269:

Видимо умолчательно подразумевается, что уже понятны определения "жизнь", "контекст", "потребности". Подозреваю, что это похоже на определение котангенса, как тангенса наоборот.

В книге Мировоззрение и не только это определено как то, что сохраняет определенную функциональность, сохраняет то, что позволяет называть его определенным именем (конечно, границу точно провести нельзя). Ну и ты говоришь об этом: "отличие живого от неживого: не живое пассивно, только лишь за счет свойств, сопротивляется уничтожению" 

 

автор: Palarm сообщение № 47270:

тьма - сумерки - свет  мрак - чернота - серость - блеск  зло - горе - тоска - уныние - противно - приятно - радость - добро

Есть, что взять :)

Думаю, сначала нужно научить бот правильно распознавать контексты. Потому, что ответ бота будет означать тоже генерацию контекстов, в которых уже будут контрастироваться слова. То есть восприятие означает методом приближения прийти от частного контекста к общему, а ответ - наоборот, спуститься от общего к частному. Одномоментно будет активен один контекст - текущий шаг в дереве. Контрастирование в его слое будет зависеть не только от его самого, но и от предыдущего контекста шага. Это значит, что имеет значение каким путем происходит ветвление в дереве. По сути, это движение мысли бота. За которым можно наблюдать в специальной матрице контекстов.

То есть бот сначала должен научиться правильно мяукать, а не говорить, выдавать в ответ не слова, а изменения своего состояния.