Тема форума: «Эксклюзивные занятия по МВАП: Развитие мышления по схемотехническим принципам. Распознаватели.»

Уже приводились такие примеры распознавателей как замок, распознающий подходящий для него ключ. Сейчас важно определить, сколько же признаков необходимо для распознавания и какими должны быть эти признаки.

У классического ключа есть язычок: если его длина и расположение при воткнутом ключе оказывается точно напротив прорези, то вращение ключа становится возможным и язычок, пройдя прорезь, отключит замок, т.е. произойдет распознавание с компарированием схожести язычка и прорези и выдачей сигнала в виде свободы вращения ключа.

Для любого причинно-следственно процесса нужна энергия, позволяющая осуществлять движение. Такую энергию дает усилие вращения от руки. Любые другие схемотехнические системы не имеют в этом исключений.

Итак, язычок может быть один или их может быть несколько, длины язычка тоже могут быть разными. Компарирование будет успешным, когда вся совокупность этих параметров окажется в соответствии с профилем выреза замка.

И здесь есть один важный момент. Если язычок будет длиннее прорези для нее, то ключ не провернется. А вот если меньше - то легко провернется, но хватит ли его для того, чтобы зацепить открывающий механизм? Хочу обратить внимание, то величина в сторону увеличения оказывается критичной, а длина в сторону уменьшения от длины прорези – нет. Другими словами, позитивная величина параметра распознавания оказывается существенной, а негативная – влияет уже после валидации длин язычков прорезями – на втором этапе компарирования.

Обращаю на это внимание потому, что этот принцип оказывается важным в нейронных природных распознавателях (почему именно – станет понятно позже).

Получается, то замок можно обмануть, укорачивая язычки, но не до степени, когда они перестанут открыть механизм. И на первом этапе работают только положительные параметры (в терминах нейрона назовем их возбуждающими) и только потом срабатывает сравнение длины язычка с длиной рычажка открытия замка.

Попробуйте придумать, как организовать сразу распознавание с равноценным использованием как возбуждающего, так и тормозного параметра в случае классического замка (т.е. чтобы укорачивание язычка так же надежно не давало провернуть ключ, как ее лишняя длина). Попробуйте настойчиво до успешного решения, чтобы полностью прочувствовать проблему. Вы убедитесь, что это – очень непросто. А вот в два этапа распознать подходящий ключ несравненно проще в любом плане, как в плане сложности конструкции, в плане расходуемых материалов и в плане надежности распознавания. Это – принцип, который нужно научиться понимать и учитывать.

Может ли распознаватель оперировать только с одним параметром? Казалось бы это – абсурд, раз параметр один, то чего его распознавать? Но распознаватель – не только валидатор соответствия параметра профилю распознавания, но его функцией, без которой он теряет смысл, является активация – сигнал распознавания, который может как-то использоваться. Возьмем сито с круглыми дырками определенного диаметра. Параметры среды – песчинки разного размера, цель сита – отсеять все, что мельче диаметров его дырок. Параметр распознавания один, а польза очень существенна. И, заметим опять, что сито работает только с положительными параметрами и не может отсеять более мелкие, чем дырки песчинки. Для этого понадобится вторичные процессы с более мелкими дырками. Или какой-то другой распознаватель, но работающий только с теми песчинками, которые меньше диаметра его профиля распознавания.

Делаем вывод: распознаватель имеет смысл, начиная уже с одного единственно параметра распознавания. И даже в случае, если у него вообще нет ограничений на функцию распознавания и он срабатывает от всего, что может заставить сработать его компаратор, превысив какой-то порог, в чем так же можно извлечь пользу.

Это означает, что распознаватель является наиболее универсальным устройством для создания любых схемотехнических последовательностей. Достаточно будет модифицировать только его профиль распознавания. Что и было реализовано в одном из старых проектов адаптивной системы измерения расхода воды в канале в Киргизии.

Идеальный математический распознаватель – персептрон (пожалуйста, самостоятельно найдите информацию по нему, не слишком углубляясь потому, как в нейросети не используется идеальный персептрон).  Математический персептрон настолько идеален, что обладает возможностью распознавать с использованием как положительных (возбуждающих его), так и отрицательных параметров.

Системы на основе идеального персептрона реализуют так называемые искусственные нейросети, которые, по признанию самих разработчиков, не имеют ничего общего с природными нейросетями. Причина этого не только в том, что для реализации учета отрицательных параметров нужны сложные и затратные ухищрения, а процесс эволюции бездумен и, как вода в арыке, идет по наиболее легкому руслу. Сейчас мы рассмотрим одну из этих причин.

Пока еще мы никак не затрагивали схемотехнику в программировании. Программные продукты не реализуют природные причины и следствия, а лишь моделируют, эмулируют их, основываясь на логике программных алгоритмов.

Так, оператор IFявляется программным распознавателем соответствия условия (параметра) и действующего фактора. Если компоненты совпадают, то происходит действие (срабатывание распознавателя), если нет, то - игнорирование. В этом операторе можно сравнивать как отдельные параметры, так и любые их совокупности. Например, так строился ИИ старых (и многих новых) компьютерных игр. Например, если персонаж игрунки говорил игроку: “Ну, привет, бро!”, то выдавались возможные варианты ответа на выбор, например, 1) О, привет, дружище! 2) Да пошел ты… В случае совпадения выбранного варианта 1 в операторе IF (IFanswer == 1) возникало продолжение дружеской беседы, а при IFanswer == 2 начиналась мочиловка.

Создатели игрушек усложняли условия, пока у них хватало мозгов все отследить, например, добавлялось время действия и время суток. Если все происходило в уютной комнате вечером с героиней игрушки, то ясен пень какое было продолжение, а если встреча была на пустоши среди коварных врагов, то мочиловка могла начаться по любому поводу.

Понятно, что все ограничивалось только уже предусмотренными вариантами и не более той сложности, после которой игрушка больше глючит, чем работает (контролировать все переходы по оператору IF становиться  лавинообразно сложно по мере их используемого количества в совместном акте распознавания).

Но главное вот что.

Главное: оператор IFсравнивает объекты, а не их составные части. Так, даже  если задано условие IFparameter == 3.14 то число 3.14 – это не какой-то дробный огрызок, а объект с таким вот свойством. Никакие другие числа не пройдут это условие. Т.е. входным параметром реально действующего распознавателя должен быть и реальный в своих свойствах признак, обладающий (или не обладающий) свойством, на которое настроен распознаватель.

Напротив этому, если вы уже ознакомились с принципом идеального персептрона, то видели, что на входы его сумматора подаются строго дозированные части входных параметров за счет ограничения их проводимости, что в персептронах называется весами. Получается, что идеальный персептрон работает не с реальными входными параметрами, а с заданными программистом какими-то их частями, которые подбираются программистом так, чтобы персептрон срабатывать только на данный набор входных параметров. Это та самая сложнючая заморочка, которая была при попытке заставить замок реагировать на уменьшение длины язычка так де как на его увеличение.

Вот почему искусственные нейросети такие непонятно сложные даже для самых их создателей: нет возможности осмысленно отследить, что же происходит там внутри. И нет возможности найти в самом деле независимый от программиста способ обучения.

Вывод: реальный универсальный распознаватель должен работать с реальными же входными параметрами, а не с их весовыми частями. И не пытаться сразу в одном флаконе распознать как позитивную, так и негативную составляющую входных параметров, а проще и надежнее это делать поочередно.

Но, понятно, что организовывать профиль распознавания, настроенный на реальные параметры (на свет, на звук и т.п.) – невозможно. Этим занимаются только самые первичные распознавали физических воздействий в сетчатке глаза или в улитке уха. А оттуда идут уже цельные (а не взвешенные) сигналы, но вторичные по очереди распознавания.

Поэтому универсальный распознаватель реального действия похож на ту водяную модель с коромыслом весов, на одной стороне висит грузик, определяющий порог срабатывания, а на другой до 10000 нановедерок для заливки в них воды по трубочкам примерно одной пропускной способности (конкретная проводимость уже не важна, важно только идет по ним вода или нет), идущих от первичных распознавателей физического воздействия. Так, если появился звук определенной частоты, то открылся клапан соответствующей трубочки и в ней вода начала литься в ведерки тех распознавателей, которые должны определять, например, что вместе с этим звуком еще есть и красный свет в какой-то фасетке датчика света. И распознаватель такого сочетания реальных признаков быстро наполнит свои ведерки, они перевесят, и весы откроют клапан чтобы вода по трубочке от этого распознавателя полилась дальше в очередь последующих распознавателей.

Пока достаточно для осмысления и нахождения затронутых принциоп в окружающей бытовухе, НО, пожалуйста, дополните картину модели реального распознавателя еще и ранее рассмотренным принципом выделения составляющих элементов воздействующих факторов Сообщение № 45989.

Все это образует систему важнейших схемотехнических принципов, без которой невозможно разумно пытаться отгадать механизмы природной нейросети.

Вы, должно быть, уже прочувствовали, что каждый их этих принципов важен и универсален в не зависимости от способа реализации последовательностей процессов. И, возможно, многие из рассмотренных принципов предстали в довольно неожиданном ракурсе и свойствах, но потом все устаканилось и стало взаимосвязано понятно.  Но эти все важные принципы (и то многое, о чем мы пока еще не говорили) до сих пор практически никак не учитываются физиологами, пытающими понять работу нейросети,.и в этом причина всех их неудач даже в определении функции нейрона.

Итак, нужно все это как уже повелось, перевести в личные собственные уверенные до очевидности представления в попытках многообразных попытках нахождения в окружающем и применения в своих мыслительных конструкциях, а лучше не только мыслительных. Пусть каждый участник выскажется по итогам такого саомовозвышения и если есть трудности, выскажет их тоже.

>>> Попробуйте придумать, как организовать сразу распознавание с равноценным использованием как возбуждающего, так и тормозного параметра в случае классического замка (т.е. чтобы укорачивание язычка так же надежно не давало провернуть ключ, как ее лишняя длина). 

У штифтового замка нет такой проблемы. То есть это задача для финского замка?

А ты по смыслу примера попробуй :) там говорится про язычок и прорезь.

Первый слой распознавателей получает сигналы от группы рецепторов, специализированных на распознавание определенных сигналов, причем в разной степени чувствительности. Стало быть, на реальный распознаватель так же приходят преобразованные сигналы со своими весами.

И насколько я понял, в многослойном персептроне так же реализовано поэтапное распознавание образа через иерархию все более усложняющихся примитивов. Другое дело, что дальше нет понимания, как это "превратить в интеллект". То есть можно распознать буквы, слова, устойчивые выражения, даже авторский стиль - но если попробовать программно написать текст, получим отдельные, не связанные сюжетом и общим смыслом отрывки.

Конечно, речь не идет о полноценном измерении воздействующего фактора. Какой бы ни была чувствительность сенсорной клетки, по ее сигналу становится возможно ориентироваться об окружающем, породившем этот сигнал.

Например, я слепой вижу только одной точкой сетчатки (утритую), переводя ее на одно и другой. Перехожу дорогу, навожу на светофор, точка показывает красный цвет. Пофиг какая чувствительность точки, главное, что она достаточная чтобы передать мне информацию: там красное. Для этого не нужны никакие веса, нужен просто распознаватель цвета для этой точки. От сенсора идет три проводка: красный, зеленый и синий. Все :) Но интенсивность – тоже важная характеристика, точнее не абсолютная яркость, а относительная, и эта относительность так же распознается.

На этом нужно будет остановиться до полной ясности. Так что еще много будут слов… Хотя про принцип ненужности точного учета веса отдельных параметров на входе персептрона была уже как-то обоснована, но, наверняка, недостаточно убедительно, так что буду пытаться находить нужные доводы.

Очень важно вот так сразу приводить свои возражения, чтобы не оставалось недосказанности.

В многослойном персептроне нет выделенных примитивов первого и последующих уровней. Там работает вся сеть так, что погрешности первого уровня компенсируются последующими в общую картину на выходе. Многословный персептрон и несколько параллельных последовательных однослойных с несколькими последовательными такими слоями,  где каждый нейрон работает самостоятельно (если не считать тормозного взаимовлияния в каждом слое) – совершенно разные схемы, с разными свойствами.

>>> (Palarm) но если попробовать программно написать текст, получим отдельные, не связанные сюжетом и общим смыслом отрывки.

https://habr.com/ru/post/440564/

GPT-2 оказалась способной генерировать целые страницы связного текста. С повторными упоминаниями имен действующих лиц по ходу повествования, цитатами, отсылками к связанным событиям и так далее. Примеры приводить здесь не буду, а отсылаю желающих к оригинальной статье в блоге OpenAI: Better Language Models and Their Implications или по ссылкам в конце статьи.

Генерация связного текста такого качества это само по себе впечатляюще, но самое интересное здесь другое. GPT-2 без всякого дообучения сразу показала близкие к state-of-the-art результаты на целом ряде разговорных задач. 

Сейчас несколько подходов эту задачу реализуют на сверхточных сетях, рекурентных (симулируют короткую память) и сетях внимания.

Вот пример сгенеренного машиной текста:

https://openai.com/blog/better-language-models/#sample2

Короткая затравка написанная человеком, по которой нужно написать связанный текст:

A train carriage containing controlled nuclear materials was stolen in Cincinnati today. Its whereabouts are unknown.

Текст написанный машиной:

The incident occurred on the downtown train line, which runs from Covington and Ashland stations.

In an email to Ohio news outlets, the U.S. Department of Energy said it is working with the Federal Railroad Administration to find the thief.

“The theft of this nuclear material will have significant negative consequences on public and environmental health, our workforce and the economy of our nation,” said Tom Hicks, the U.S. Energy Secretary, in a statement. “Our top priority is to secure the theft and ensure it doesn’t happen again.”

The stolen material was taken from the University of Cincinnati’s Research Triangle Park nuclear research site, according to a news release from Department officials.

The Nuclear Regulatory Commission did not immediately release any information.

According to the release, the U.S. Department of Energy’s Office of Nuclear Material Safety and Security is leading that team’s investigation.

“The safety of people, the environment and the nation’s nuclear stockpile is our highest priority,” Hicks said. “We will get to the bottom of this and make no excuses.

Эта же сеть может написать фентези историю:

Человек:

Legolas and Gimli advanced on the orcs, raising their weapons with a harrowing war cry.

Машина:

The orcs’ response was a deafening onslaught of claws, claws, and claws; even Elrond was forced to retreat. “You are in good hands, dwarf,” said Gimli, who had been among the first to charge at the orcs; it took only two words before their opponents were reduced to a blood-soaked quagmire, and the dwarf took his first kill of the night. The battle lasted for hours until two of the largest Orcs attempted to overwhelm Aragorn. When they finally stopped, they lay defeated and lifeless for miles and miles.

“I take nothing,” said Aragorn. “But I give my word, at my peril and mine, that I will never forget this day of horror. None of us will forget. Ever!”

“I’ll never forget it!” cried Gimli, who had been in the thick of the battle but hadn’t taken part in it. One of the wounded orcs he had carried off, he was the only one of the survivors who remained uninjured. “We’ll keep the memory of that day of evil, and the war with it, alive as long as we live, my friends!”

“Then we’ll keep it alive as long as we live,” added Legolas. “And we won’t forget the first great battle of the night, even if we may have forgotten the final defeat.”

“I agree,” Gandalf said, “but we will all remember it as the last battle in Middle-earth, and the first great battle of the new day.”

Aragorn drew his sword, and the Battle of Fangorn was won. As they marched out through the thicket the morning mist cleared, and the day turned to dusk.

The Two Rings were returned to Rivendell. Frodo and Sam woke up alone in their room, and Frodo found a note on his pillow. He opened it and read:

May the Power of the Ring be with you always, and may its light never fade. I am not sure if it matters which of the two rings we accept this day but, as you asked me, I have chosen mine. I am sorry to leave you, Frodo, but know that we are very close to the end, and that you are with us forever. May this letter find you safely in Rivendell; and if it does not, then I will accept the ring in your stead. If by any chance you find or give this letter to the enemy, may they learn the strength of the ring and may the Two Rings never be broken!

Якобы генерация кода на PHP с помощью GPT-2. Код бредовый и его немного (совсем чуть-чуть) подправил человек:

https://gist.github.com/moyix/dda9c3180198fcb68ad64c3e6bc7afbc

Выглядит как бред обкуренного торчка-ролевика, которого попросили досичинить какой нибудь эпизод из "колешника" :) Что в принципе следовало ожидать от искусственной нейросети, пусть и научившейся распознавать сюжетные линии - но напрочь лишенной вдохновения и способности выдумать что-то захватывающе-интересное. Хотя, с другой стороны, полистав как то Толкиена - тоже не особо впечатлился.

Но согласен с авторами - внедрение даже таких нейросетей спровоцирует множество серьезных проблем с "достоверностью" информации.

Неужели никому не приходило в голову рассмотреть свойства взаимодействия нескольких однослойных персептронов вместо одного многослойного?

>>Неужели никому не приходило в голову рассмотреть свойства взаимодействия нескольких однослойных персептронов вместо одного многослойного?

Этот вопрос несколько раз возникал даже на этом сайте в обсуждении с разными нейросетевиками. Не хочу искать эти темы, суть в том, что они все имеют одну моду: юзать многослойный персептрон с соединениями каждого слоя все со всеми. С точки зрения логики и здравого смысла кажется очевидным, что для того, чтобы сетка могла обучиться распознавать что угодно, как раз и должны быть слои, связанные  все со всеми, ну с какой стати ограничивать наиболее возможный потенциал. При этом такая система требует очень кропотливого подбора параметров связей и вообще не понятно, что в ней происходит где-то внутри. В общем эта трудность с оптимизацией связей, трудность с организацией обучения и оказывается на первом месте до сих пор.

Когда я пытался убедить, что гораздо проще не пытаться сразу обучить сложному распознавания, а сначала заготовить локально самостоятельные примитивы распознавания от самых простых и с каждым слоем все более сложных так, что последний слой легко будет обучаться уже на сложных образах, то возникало недоумение, а как можно заготовить все возможные впрок примитивы?

 И в самом деле, придется ограничиваться каким-то конечным и не очень большим набором, что означает трудности в отдельных случаях, для которых не хватает заготовки. В природе ведь так и происходит. Но природе пофиг универсальность, ей важно адаптировать конкретную особь к конкретным условиям и природа, пошла на упрощающие уступки за счет полного потенциала универсальности, достигла таких новых уровней использования получившихся механизмов, которые уже на новом уровне позволяют адаптироваться вообще к чему угодно.

Не думаю, что сейчас стоит углублять в это. Скоро каждый учатник начнет формировать свою собственную модель понимания и описания нейросетевой схемотехники, с учетом доступной аксиоматики и своей достигнутой схемотехнической эвристики и все такие вопросы потребуют ответов.

Получается, что многослойный персептрон это пример организации слоев распознавателей, которые созревают не поочередно - а все сразу, что приводит к лавинообразному усложнению их настройки и видимо делает способность к самообучению практически невозможной. Хотя точность распознавания многослойного персептрона намного выше, чем в природной нейросети, это совершенно не нужно для успешной адаптации, так как природа пошла по пути "дорисовывания" не достающих элементов - что как мне думается, ключевой момент для понимания, как строгий алгоритм действий постепенно превращается в анализ с произвольным выбором, что резко расширяет область адаптации: шаг назад - прыжок вперед.

>>> Получается, что многослойный персептрон это пример организации слоев распознавателей, которые созревают не поочередно - а все сразу, что приводит к лавинообразному усложнению их настройки и видимо делает способность к самообучению практически невозможной.

В машинном обучении есть методы поэтапного послойного обучения с последовательной проработкой уровней абстракций, есть методы обучения всей сети сразу. Было время когда было эффективно обучать сеть слой за слоем, сейчас проще / дешевле / обучать всю сеть сразу или брать заготовленные (предобученные) слои распознавателей, так как обучать свою сеть с нуля обычно дорого, часто такое обучение обходится в тысячи или десятки тысяч долларов.

https://scorcher.ru/forum/index.php?topic=1936 - я приводил примеры в этой ветке.

В частности, вот забавный интерфейс, который демонстрирует, как делает вычисления сверточная сеть:

http://people.csail.mit.edu/torralba/research/drawCNN/drawNet.html - каждый слой, это определенный уровень абстракции, более высокий, чем предыдущий. Можно наблюдать, как слой за слоем абстракции становятся все выше и выше.

Наверное, вы с Nan о чём то другом говорите. Я не до конца понимаю о чём.

>>> Что в принципе следовало ожидать от искусственной нейросети, пусть и научившейся распознавать сюжетные линии - но напрочь лишенной вдохновения и способности выдумать что-то захватывающе-интересное. 

Ты сделал тезис про сюжеты. Что нейросети не могут писать связанные рассказы. Я этот тезис опроверг контр примером. Могут.

Сейчас ты требуешь другого, что мол не красиво / лишено вдохновения. Но эти задачи тоже решаются. 

На сегодня в области генерации изображений / текстов / фотографий / видео нет признаков того, что мы упёрлись в потолок, каждый год - движение вперёд.

Айк, речь шла не о обучении всего слоя, а об обучении отдельных нейронов в слое своей локальной специализации. Сегодня нет никакой корреляции между любым из методов обучения искусственной нейросети и природной, что не раз отмечалось самими специалистами по инс.

Пожалуйста, пока воздержись от ухода от темы, я вижу, что ты не улавливаешь суть предложенного к осмыслению.

Все, кто уловил принципиальную суть и вполне освоился, пора высказываться, плиз, приводить примеры реализации и обсуждать предложенные к рассмотрению принципы.

>>> пока воздержись от ухода от темы, я вижу, что ты не улавливаешь суть предложенного к осмыслению.

Да, я лучше сосредоточусь на лекции.

Я не со всем, что ты пишешь согласен. Но у меня есть вопросы по значимой части лекции.

Реальный универсальный распознаватель должен работать с реальными же входными параметрами, а не с их весовыми частями. И не пытаться сразу в одном флаконе распознать как позитивную, так и негативную составляющую входных параметров, а проще и надежнее это делать поочередно.

Понятно, что организовывать профиль распознавания, настроенный на реальные параметры (на свет, на звук и т.п.) – невозможно. Этим занимаются только самые первичные распознавали физических воздействий в сетчатке глаза или в улитке уха. А оттуда идут уже цельные (а не взвешенные) сигналы, но вторичные по очереди распознавания.

Я не понимаю до конца рассуждений. Обработка информации начинается практически мгновенно ещё в сетчатке on / off центрами, которые контрастируют линии / границы:

Основные этапы обработки зрительной информации

И потом в стриарной, первичной коре:

То есть сырых необработанных данных, как в фотокамере, нет нигде.

Можешь объяснить идею с "Этим занимаются только самые первичные распознавали физических воздействий в сетчатке глаза или в улитке уха." я так понимаю, тут речь чуть ли не о светочувствительных молекулах, да? Потому что дальше сразу же в сетчатке начинается обработка.

>>> речь шла не о обучении всего слоя, а об обучении отдельных нейронов в слое своей локальной специализации.

Nan, можешь своими словами объяснить, как ты пришёл к этим выводам?

В первичной коре (и не только) выделяют миниколонки  и гиперколонки. Гиперколонка имеет всё множество значений параметра. Миниколонка - распознает одно значение. Микроколонки состоят из 80 - 300 нейронов (зависит от зоны).

У тебя, насколько я понимаю, абстракции колонок нет и универсальный строительный элемент - нейрон. То есть это отход от биологической схемы неокортекса, или нет?

Мне кажется, что я что-то упускаю. То ли не правильно понимаю, как работают колонки, то ли ещё что.

Ниже пример описания микроколонки и гиперколонки ( тонкие слои распознают поворот линии ). Кусок слоя в целом - гиперколонка - распознаёт все виды поворотов на этом участке. Микроколонки идут тонкими слоями через всю первичную кору и этот тонкий слой выполняет одно и то же распознание (например, поворот линии на 30 градусов на данном участке сетчатки). Всё это отображено на рисунке.

https://www.ncbi.nlm.nih.gov/pmc/articles/PMC1569491/figure/fig3/?report=objectonly

Hubel and Wiesel's ice cube tray model of the striate cortex. In oblique microelectrode penetrations, they attributed the regular shift in orientation preference to an orderly stacking of slab-like orientation columns. Orientation hypercolumns contained 18 discrete columns about 50 μm wide, each 10° apart. Ocular dominance hypercolumns consisted of a single right (R) eye column and left (L) eye column about 500 μm wide. This diagram implies that a module consists of about four orientation and ocular dominance hypercolumns, measuring approximately 2×2 mm. Electrode movement in the cortex from one module to another was thought to produce a non overlapping displacement in the location of the aggregate receptive field of neurons. Hubel & Wiesel (1979, p. 160) later proposed that the combination of a single-orientation hypercolumn and ocular dominance hypercolumn ‘can be considered an elementary unit of the primary visual cortex’ (After Hubel et al. 1976).

>>> об обучении отдельных нейронов в слое своей локальной специализации.

Я не понимаю, как микроколонки, целые слои которые распознают поворот на какой-то определенный градус в первичной зрительной коре, сочетаются с фразой "об обучении отдельных нейронов в слое своей локальной специализации." То есть, если у нас нету послойного обучения, то откуда у нас слои микроколонок?

Это некая статистическая "магия"? Меня очень озадачивает эта особенность микроколонок.

Ты писал (https://scorcher.ru/forum/index.php?topic=1938&start=0), что механизм равёртывания первичных зон "Этот механизм очень подробно со всеми обоснованиями первичных работ, описан в лекциях, и ты меня сильно удивляешь, что ничего такого как бы в упор не заметил.", можешь ещё раз объяснить, как это происходит (или дать ссылку) и почему при этом речь всё ещё о "локальной специализации"? Меня в большей степени интересует именно слоистость первичных зон.

Могу и уже сделал это, но это тебя не убедит. Я не хочу навязывать свои уже имеющиеся представления, задача - чтобы ты сам пришел к определенному выводу и потом мы можем сопоставить разные выводы, но не сейчас. Сейчас самое важное дать те сведения о совершенно конкретных принципах, которые позволят верифицировать предположения (в том числе и чужие, выделяя наиболее правдоподобное с твоей точки зрения).

Это значит, что на данном этапе мы не должны затрагивать ни какие-либо готовые модели “объясняющие” механизмы нейросетей, ни конкретные реализации, в том числе природные, какими бы доскональными сведениями мы не обладали.

Важно убедиться 1) что принципы, на которых я заостряю внимание в самом деле имеют быть и представлены во многих своих воплощениях 2) очень хорошо освоить эти принципы так, чтобы легко вычленять их в окружающем (и в предположительных моделях).

Если я мельком затрагиваю какие-то реализации, природные или аналоги, то только для того, чтобы прочувствовали их актуальность в конечной цели, как бы обещаю заранее, что они пригодятся.

Мы не дошли еще до обсуждения конкретных механизмов нейросетевой светотехники. ни природной, ни искусственной.

А теперь по делу.

Речь не идет как именно устроено все в сетчатке, а – о самом общем принципе адаптивного распознавания (т.е. нужного для адаптивности индивида, а не программиста-оператора, обучающего сеть). А это значит, что нам нужно улавливать корреояциции тех параметров, которые удается сенсорам выделить в окружающем и того действия на нас, которое это может вызвать. Я приводил пример со светофором и единственным сенсором красного цвета. Нам для жизни нужно не пойти на красный светофор и если мы уловили красное, то идти нельзя.

Это не совсем корректный, утрированный пример, но он показывает, что нам важны не интенсивности параметра, а его значения для нас типа есть или нет это. Был пример с ситом и было предложено сосредоточиться на понимании этого принципа – сигнала того, что внешне воздействует определенный параметр, который важен для управления, например, параметр касания к усикам улитки – сразу вызывает оборонительную реакцию.

Момент не простой т.к. мы не привыкли к такому образу мысли.

Мозг, прежде всего, управляющая система между сигналами внешнего, которые что-то означают и, в соответствии с этим назначением, действовать. Уже от сенсора может быть сразу задействовано действие, что наблюдается у схеме управления бабочки. Если важен параметр, коворящий про отношение длины окружности к диаметру, а он дробный, то нужен датчик именно этого параметра, нужен сенсор, который реагирует именно на 3,14 с какой-то приемлемой точностью, а не весовой части от него, и тогда станет возможным адекватно реагировать.

В схемотехнике есть очень важный принцип: главную работу распознавания нужно возлагать на сенсор. Какой сенсор (датчик, антенна, любой параметрический сигнализатор воздействующего фактора), так и будет работать далее схема, основывающая управление (или сразу действие) на этом параметре.

Это нужно сопоставить с принципом резкого усложнения механизма при попытке учитывать не только воздействующий параметр, но и его отсутствие, и, особенно, инвертированное значение параметра (укорочение язычка ключа, отсеивание ситом сразу строгого размера песчинок и т.п.).

В сопоставлении получается, что полноценно-идеальный персептрон проигрывает перед последовательно обучающимися простыми (без сложного выделения полутонов, отсутствия, и инверсии параметра). Потому, что организовать такое обучение без подсказки программера (его системы важности) нереально принципиально. И именно эту принципиальную невозможность следует оценить самостоятельно, попробовав решить проблему сначала с ключом, у которого уменьшение язычка так же критично, как удлинение, потом с ситом и далее уже самостоятельно на всяких примерах, которые я жду, когда их приведут.

Айк, у тебя серьезные трудности абстрагирования от уже имеющихся предвзятостей…

>>> Айк, у тебя серьезные трудности абстрагирования от уже имеющихся предвзятостей

Возможно. Если это где-то прослеживается, тыкай носом. Я постараюсь исправиться.

>>> В схемотехнике есть очень важный принцип: главную работу распознавания нужно возлагать на сенсор. Какой сенсор (датчик, антенна, любой параметрический сигнализатор воздействующего фактора), так и будет работать далее схема, основывающая управление (или сразу действие) на этом параметре.

Это нужно сопоставить с принципом резкого усложнения механизма при попытке учитывать не только воздействующий параметр, но и его отсутствие, и, особенно, инвертированное значение параметра (укорочение язычка ключа, отсеивание ситом сразу строгого размера песчинок и т.п.)

Нужно обдумать.

>>> В сопоставлении получается, что полноценно-идеальный персептрон проигрывает перед последовательно обучающимися простыми (без сложного выделения полутонов, отсутствия, и инверсии параметра). Потому, что организовать такое обучение без подсказки программера (его системы важности) нереально принципиально. И именно эту принципиальную невозможность следует оценить самостоятельно, попробовав решить проблему сначала с ключом, у которого уменьшение язычка так же критично, как удлинение, потом с ситом и далее уже самостоятельно на всяких примерах, которые я жду, когда их приведут.

Касательно сита.

Можно отнестись к семечку или объекту, который надо осортировать, как к пуле. Пуля должна точно подходить к стволу, чтобы вылечить на достаточное расстояние. Если поля больше ствола - она в него не влезет. Если она меньше ствола - при выстреле не создастся достаточного выталкивающего давления воздуха. Так что всегда требуется определенный калибр.

Ну или по той же схеме попробовать засосать объект. Если объект идеально подходит к трубке, то будет проще понизить давление и всосать его.

Можно вообще отсортировать объекты по весу. Рассыпаем их на доске, немного наклоняем доску и постукиваем по ней. За счёт разной массы объекты будут подпрыгивать на разную высоту после небольшого удара, и потом падать обратно на доску и закрепляться на ней за счет силы трения,  в итоге после пары ударов они более или менее отсортируются по массе.

Про замок я пока думаю.

Я не до конца понимаю его механизм, думаю, не только я. Ты не дал ни схемы замка, ни примера ключа. Ни уточнил, что именно за замок, как он называется? В итоге у тебя получилась интеллектуальная шарада, а не пример для понимания и разбора.