Тема форума: «Эксклюзивные занятия по МВАП: Первые управляющие структуры организмов на основе распознавателя.»

автор: nan сообщение № 46273:

Просто одним распознавателем это делать не хорошо и тем более ненадежно, чем больше условий нужно свести по И.

Точно. Вместо того, чтобы сводить 10 000 выходов от нейронов на вход одного суммирующего нейрона, надо просто построить дерево с ветками, подветками. В каждом узле будет вполне допустимое кол-во, не приводящие к обесцениванию веса. Кроме того, каждый узел - отдельный специализированный распознаватель.

 

Это как если бы все отчеты шли на стол директору, пусть бы и гениальному и он бы в них утонул и многое прошляпил - или на столы отдельных начальников-профи, от них свои отчеты по эстафетам вышестоящим и так до директора, который выслушает уже только главков и примет итоговое решение.

К сожалению, на этой теме застопорился серьезно, нет понимания изложения и представления о чем и про что говорится. Засел за лекции с самого начала... 

Нужно выявлять непонятное конкретно, поименно, плиз, тогда можно будет помочь.

Дорогие товарищи курсанты! Неужели вы стесняетесь нагло задавать "глупые" вопросы, без которых не выяснить непонятное? Не может же быть, что просто заигнорировали все? Неужели мы застрянем окончательно на этой теме?.. А мы даже до по-настоящему интересного еще не добрались.

У меня осталось несколько не принципиальных вопросов, но отложил их до следующих лекций, потому как возможно опять преждевременное забегание. Например, возможна ли смешанная логика И+ИЛИ у одного нейрона? В принципе ничего вроде бы не мешает ей установиться. Допустим пучки от рецепторной матрицы прицепились к нейрону, и каждый пучок работает по схеме "И". А вот все вместе они уже складываются по логике "ИЛИ". Правда тут спорный момент:

1. получается уже на первом слое формируется сложный сборный примитив. А как я понимаю, чем проще специализация каждого слоя - тем гибче адаптивность. Это как возможность собрать разные конфигурации здания из отдельных кирпичей или из готовых блоков.
2. опять же временные рамки - вряд ли удастся за короткое время сформировать столько сложных устойчивых связей. Время ведь ограничено как раз по причине того, чтобы такая каша не формировалась.

А еще мне не совсем понятно по поводу шунтирования выходного сигнала. Насколько помню, у аксона на конце метелка, к которой могут прицепиться несколько дендритов других нейронов - а это параллельное соединение с потерей мощности. И возможно ли прицепиться к оной ячейке сенсора нескольким нейронам? Если да - то таже проблема, а если нет - то как это блокируется сенсорной клеткой?

В пятницу дам обратную связь после попыток углубления в вопросы (последние две темы особенно)., пока работа с утра до ночи(

автор: Palarm сообщение № 46279:

возможна ли смешанная логика И ИЛИ у одного нейрона?

В порядке забегания вперед с оговорками, что это пока никак не затрагивает текущую тему и не должно вводить в ступор тех, кто пока еще в ней разбирается, скажу, что на вопрос 1) ответ: может возникать и возникает множество разных конфигураций, в том числе абсурдные и сложные, но все это не проходит отбор на эффективность адаптивности. В целом формируется иерархия контекстов представительства тех или иных признаков, а не идет игра на распознавании сразу сложного их сочетания. Второй вопрос – тоже схож. Коллатерали аксонов – дело изменчивости и проб, хотя среди таких проб и остается нечто реально полезное. Что касаетсмя шунтирования, то здесь его нет практически потому, что любая активность по выходным волокнам способна запустить нейромедиаторный механизм поляризации мембраны последующего нейрона, т.е. синапс как бы является и буферным усилителем тока. А вот немиелинированные аксоны мешают точной проводимости как провода без изоляции и замедляет скорость передачи возбуждения.

Мне вот что не понятно. Ячейка сенсорной матрицы должна по идее передавать уровень возбуждающего сигнала, иначе как распознать оттенки? Не лепить же в одно место кучу настроенных каждый на свой уровень сигнала датчиков – их будет очень много на единицу площади. Можно это делать в виде изменения уровня или частоты сигнала. И тогда выходит, что либо к одной ячейке надо цеплять множество входов от разных нейронов, либо один нейрон может настраиваться на множество распознаваний вариантов примитива – конфигураций. То есть уже на первом слое, и даже на уровне датчиков-сенсоров возникает сложность, как распознавать оттенки: то ли на каждый оттенок свой датчик, то ли датчики работают в каком-то диапазоне – в любом случае возникают проблемы реализации.

Вообщем проблема в том, что во всех примерах рассматриваются упрощенные схемы: на идеально черном экране идеально белая черта. А по факту она размытая, и не только по краям, а в любом месте – и мы это успешно распознаем. Так как же работает сенсор, по какой логике с него считывают сигнал нейроны – цифровой, аналоговой, частотной? В искусственной реализации просто считывали бы уровни сигналов с матрицы, обрабатывали какой-нибудь сложной функцией и не морочились, но это подразумевает распознавание образа на первом же слое. Но в природной реализации такого нет.

У разных животных разное число цветовых сенсоров, у человека – 3 штуки. Так что кодировка цвета (оттенки) возникает как сочетание этих трех “RGB”. С яркостью все намного сложнее потому как она зависит от активности соседних распознавателей: если они молчат (темнота), то возбуждение даже от одного фотона может дать вспышку (на фоне некоторого спонтанного шума молчащих, но то и дело возбуждаемых всякими флуктуациями окружающей среды нейронами). Из-за взаимного бокового торможения в слое реагирование нейрона на яркость притупляется и поэтому воспринимаемая яркость оказывается относительной величиной.

Даже у одного вида животных несколько различается предварительная обработка (предопределяемая наследственно) от сенсорной сетчатки, а именно здесь упрощается поток информации, становясь “разжованным” для зрительной коры, до которой мы еще не добрались. У более простых животных, у которых нет коры мозга, происходит непосредственное использование того “расжованной” предобработки, которая оптимизировалась миллионы лет. Как имненно у разных животных это организовалось, до сих пор нет определенных сведений, кроме того, что предобработка есть.

Можно нарисовать множество вариантов предварительной обработки, и как бы каждый из них дает какие-то преимущества.

И только на уровне новой коры мозга возникли более однотипные и универсальные механизмы формирования примитивов восприятия.

автор: nan сообщение № 46283:

Можно нарисовать множество вариантов предварительной обработки, и как бы каждый из них дает какие-то преимущества.

Насчет цвета все понятно - только специализированные к частоте сенсоры "RGB”. С яркостью я тоже склонялся к идее, что это более сложный по уровню тип распознавания - на каком то следующем слое сравнивается интенсивность сигналов от близлежащих сенсоров. Но вот как именно сенсор передает уровень сигнала?

 

Если никак, то есть чисто цифрой "1/0" - то опять плодить некую группу разночувствительных сенсоров по примеру "RGB” (только ясно, что в этом случае их будет куда больше 3) и снова собирать из них общее понимание яркости, например как средне-статистическое распределение среди группы активных сенсоров разной чувствительности.

 

А если сенсор передает данные об уровне воспринятого сигнала через выходной уровень или частоту пульсации - то опять проблема, как все это считывать нейрону, который как ты говорил ничего этого в принципе не воспринимает, а только 1 и 0. Или воспринимает? Например через какие - то хитрости с щелью?

 

Вообщем ты просто скажи: если достоверных исследований по этому вопросу нет, то на что опираться в формировании своего представления? Как я понял, пока можно лишь уверенно сказать, что предобработка, а конкретно передача уровня сигнала от сенсора к нейрону имеется, но как это реализовано еще не ясно.

автор: Palarm сообщение № 46284:

Но вот как именно сенсор передает уровень сигнала?   Если никак, то есть чисто цифрой "1/0" - то опять плодить некую группу разночувствительных сенсоров по примеру

Как ты знаешь, на выходе клетки с электрической активностью нет параметра интенсивности. Она или возбудилась стандартным выходным импульсом или нет. Если она долго возбуждается, то идет пачка импульсов (глаза подергиваются чтобы не дать истощиться сенсору). 

Как есть отдельные распознаватели цвета, так есть и отдельные распознаватели общей и локальных интенсивностей, и они далеко не идеальные. Сочетание этих параметров у высших животных просиходит во вторичной и окончательно - в третичной новой коре - как взаимодействие иерархии контекстов, см. https://scorcher.ru/neuro/neuro_sys/illustration.php

Понял так:
есть специализированные нейроны, распознающие локальную и общую активность сенсорной матрицы. Как они это делают - не понятно, но делают. Может просто реагируют на суммарный сигнал n-рецепторов, и тогда можно через группу нейронов с разным кол-во прицепленных рецепторов составить "индикаторную шкалу": какой "загорелся" - такая "величина" по шкале интенсивности локального/общего участка матрицы. Но ты не можешь точно сказать об этом, так как нет исследований на эту тему.

автор: nan сообщение № 46281:

Что касаетсмя шунтирования, то здесь его нет практически потому, что любая активность по выходным волокнам способна запустить нейромедиаторный механизм поляризации мембраны последующего нейрона, т.е. синапс как бы является и буферным усилителем тока

В цифровой микросрохеме нет проблем с шунтированием выходов, потому что там на каждый выход свой транзистор, который выдает строго единицу - и скачет только потребление мощности микросхемы. А у нейрона выходит наоборот - усиление происходит на входе. Но есть же какой то порог, чтобы не было ложных срабатываний? Или тут еще играет роль синхронность входных сигналов? То есть даже очень слабые, но одновременно поступившие на входы сигналы способны спровоцировать возбуждение нейрона, а вот разрозненно-слабые уже нет.

 

Вообще складывается впечатление, что нейросеть это не цифровая и не аналоговая логика - а что то смешанное.

автор: Palarm сообщение № 46286:

нейросеть это не цифровая и не аналоговая логика - а что то смешанное

Это логика, построенная на специализированных универсальных элементах – распознавателях. Все такие градации – условны. В нейросети от цифровой – то качество, что обмен сигналами – с помощью унифицированных по амплитуде и длительности импульсов, а аналоговость проявляется в порогах срабатывания, как если в составе цифровой логики работают компараторы. Ну и это касается и сенсоров, которое, в отличие, скажем, от фотоэлемента, может выдавать только унифицированный выходной сигнал, а его чувствительность зависит от степени бокового торможения соседними сенсорами: если такового нет, то фоторецептор может сработать от одного фотона и при этом выдать в точности такой же стандартный импульс, как сработал бы, будучи приглушен соседями. Вот на такой схемотехнике сделана природная нейросеть, если отбросить еще множество всяких несистемных, непринципиальных особенностей.

автор: Palarm сообщение № 46286:

есть специализированные нейроны, распознающие локальную и общую активность сенсорной матрицы.

Поэтому нет таких специализированных нейронов, они все универсально одинаковы.

автор: Palarm сообщение № 46286:

В цифровой микросрохеме нет проблем с шунтированием выходов, потому что там на каждый выход свой транзистор, который выдает строго единицу - и скачет только потребление мощности микросхемы. А у нейрона выходит наоборот - усиление происходит на входе.

Любая цифровая микросхема имеет свою нагрузочную способность, скажем, штук в 10 входов бипололярно-транцисторной логики (выходной потенциал понижается до уровня регламентированного порога срабатывания около середины напряжения питания) или в случае полевых транзисторов на входе – суммарная емкость уже ограничивает регламентированную верхнюю рабочую частоту обмена. Это – для уточнения.

У нейронов аксон так же обладает немалой нагрузочной способностью, но включение промежуточного синапса придает нагрузке новые свойства: это не просто электрошунтирование, а некий механизм выделения нейромедиатора в щели, который, точно сказать не могу, насколько он способен грузить аксон.

А еще хотелось бы уточнить по поводу экспонирования. Я уже приводил свои рассуждения, что раз мгновенной экспозиции (в смысле создания снимка как в фотоаппарате) в природной нейросети реализовать невозможно, значит нужен какой то буфер, где бы этот снимок хранился, пока он не проявится. Но все равно много непоняток остается. Я сделал предположения, как бы это можно реализовать через разные варианты - ты лишь туманно заметил, что тема мутная, сложная, малоисследованная. Думаю, если бы я конкретно попытался реализовать хотя бы схематично формирование распознавателя с экспозицией, то вылезло бы еще больше вопросов - и тогда у меня тоже вылазит вопрос: а ты сам хорошо представляешь конкретику в этом вопросе, как это происходит в реальности? Или ее ни у кого пока еще нет?

Речь идет о процессе формирования проводящего синапса. Неважно, какие механизмы для этого задействованы, общий смысл сводится к тому, что синапс между двумя активными клетками начинает наращивать элементы (пузырьки или везикулы) для выброса нейромедиатора, которые и оказывает поляризующее действие на мембрану последующего нейрона. Чем больше пузырьков сформируется, тем эффективнее связь. Понятно что для их образования нужно время. Вот и получается, чем дольше экспозиция, тем больше пузырьков. И важно общее время экспозиции, а не однократное, т.е. при повторяющейся время от времени обоюдной активности, растет число пузырьков. Пока нейрон окажется уже специализированным, т.е. уже не проявляет спонтанную активность.