Нейроподобные сети, смоделированные на основе структуры мозга, скоро откроют новую великую эру в науке. Эпоха искусственного интеллекта, когда машины будут получать знания быстрее и использовать их более эффективно, чем люди.
Никто не любит удивляться собственному компьютеру. С раздражением реагируем на загадочную информацию об ошибках, появляющуюся на экране, и упрекаем предмет в злобе. На самом деле, однако, поведение нашего ПК полностью предсказуемо и понятно - не обязательно для серого пользователя, но для программиста - да. В классическом подходе AI (искусственный интеллект) поведение и реакции «силиконового обучающегося» определяются алгоритмами. Их автор - «учитель», или программист, умеет шаг за шагом проследить путь рассуждений машины..
Однако вскоре это может измениться. Уже разработаны обучающие системы - нейроподобные сети, смоделированные на основе структуры мозга, - которые после прохождения курса превосходят навыки своих учителей. Так как же они работают? В течение многих лет компьютер был метафорой интеллекта. Классические символьные модели обработки информации основывались на поиске подходящих алгоритмов для выполнения каждой задачи - машина, действующая в соответствии с ними, должна решать любую проблему, если у нее есть запрограммированное соответствующее правило. Другими словами, как только мы разложим задачу на соответствующие логические условия и назначим им соответствующее действие, задача будет решена. Если есть A, сделайте B, если не A, то проверьте, не является ли это C или D. Если да, сделайте E или F. Эти типы правил - это то, что мы называем алгоритмами. При их соответствующем количестве и сложности можно запрограммировать очень сложные последовательности поведения. Есть даже поговорка, что интеллект - это «100 миллионов правил». Проблема в том, что даже с таким числом алгоритмов недостаточно, чтобы распознать даже дерево..
Это кажется невозможным, потому что это может сделать каждый ребенок, и тем не менее. Если присмотреться к проблеме повнимательнее, она окажется чрезвычайно сложной. Потому что есть определение дерева? Глядя на то, как нам удается отличать деревья от других объектов, можно предположить, что это вообще не нужно. Скорее механизм, который позволяет нам не делать ошибок в таких случаях, заключается в том, что объект нашего внимания выполняет как можно больше условий. Дерево не может двигаться, имеет ствол, много листьев или иголок. Чем большему количеству условий он соответствует, тем лучше. Этот тип категоризации идеален, когда концепции нечеткие, не имеют определения или содержат неполную информацию. Между тем, обычный компьютер в такие моменты совсем не справляется. Иерархия сложных проблем для него совершенно другая, чем для людей - то, что легко для нас, не обязательно легко для компьютера, и наоборот. Откуда взялось это различие, если компьютерная архитектура должна была быть метафорой человеческого разума? Мозг и компьютер
Наука о разуме уже давно локализует когнитивные процессы в мозге. Никто не сомневается, что нервная система отвечает за обработку информации, обучение и другие головоломки ума. Также давно известно, как обучение может происходить в мозге - еще в 1949 году Дональд О. Хебб обнаружил, что нервные клетки, которые вместе посылают электрические импульсы, укрепляют свои связи. Так почему же никто не использовал эти знания в компьютерном дизайне??
Вся трудность заключается в переводе того, что происходит в мозгу, в то, что происходит в уме. Нам давно известно, что мозг состоит из множества клеток, которые взаимодействуют друг с другом. Но как это связано с нашими интроспективными переживаниями, мыслями, последовательность которых мы можем проследить шаг за шагом? Несоответствие между этими уровнями анализа привело Джерри Фодора, философа и исследователя психики, к заключению в начале 1980-х, что когнитивная наука должна рассматривать мышление как последовательность операций над символами. И благодаря этому наши компьютеры работают на основе набора правил - алгоритмов..
В этом есть свои плюсы - компьютер правильный. Само определение алгоритма показывает, что он всегда приводит к успеху. Если бы дерево можно было описать правилами, компьютер никогда бы не классифицировал не-дерево как дерево..
Работа нейронных сетей больше не основана на жестких правилах. Созданные по образцу архитектуры нервной системы, они приобрели гибкость нашего мышления, но в то же время потеряли целостность компьютера. Также как мы делаем ошибки. Но также, как и мы, они могут решать реальные проблемы. Как это работает
Трудности перевода мыслительных процессов в деятельность мозга были связаны прежде всего с невообразимой сложностью протекающих в нем биологических процессов. Сам по себе нейрон - довольно хороший компьютер! Однако нейрофизиологи Уоррен МакКаллох и Уолтер Питтс, создатели самой известной бинарной модели нейрона, показали в 1940-х годах, что работу нервной клетки можно понять, глядя на ее функции, а не на механизмы действия. Если закрыть глаза на сложные правила, регулирующие баланс мембраны нейрона и каскады молекулярных процессов внутри клетки, то окажется, что нейрон является своего рода ретрансляционной станцией. Он собирает сигналы от других нейронов, усиливает или ослабляет их и отправляет дальше. Для простоты Маккалок и Питтс предположили, что состояние нейрона можно правильно описать как степень его возбуждения: если он получает много сигналов от других клеток, он будет сильно возбужден, если нет - слабым. В первом случае он будет пытаться стимулировать другие клетки и послать им сильный сигнал, во втором - попытаться их подавить. Если обобщить эти принципы, то окажется, что основными элементами нервных сетей мозга являются клетки и их связи. И этого достаточно, чтобы создать нейроподобную сеть. Но как ее чему-то научить?
На помощь приходит вышеупомянутый принцип обучения Хебба. Перенеся его с реальных клеток мозга на несколько абстрактный уровень нейронных сетей, можно сказать, что между явлениями, происходящими вместе, образуются прочные связи - ассоциации. Например, мы сильно ассоциируем дерево со стволом и коричневой корой, немного более слабой белой корой, и мы совершенно не помним, что деревья двигались. Используя принцип создания связей между единицами, отвечающими за сосуществующие особенности объектов, мы можем создать нейронную сеть, которая выполняет простую когнитивную задачу - распознавание.
Представьте себе, что наша задача - отличить двух животных друг от друга, например льва от лягушки, и чтобы справиться с этим, мы создаем нейроподобную сеть. Для простоты предположим, что наша сеть будет получать информацию только о трех характеристиках животного: цвет (зеленый), размер (крупный) и волосы на теле (волосатые). Поскольку львы большие и имеют густую гриву, эти два качества должны быть связаны друг с другом - мы создаем между ними сильную, стимулирующую связь. Однако ни один лев не бывает зеленым. Между характеристиками «зеленый» и «грива», а также между характеристиками «зеленый» и «крупный» существует тормозящая связь. Лягушки же не большие и не пушистые, но чаще всего зеленые. Дополнительно мы усиливаем торможение между характеристиками «зеленый» и «грива / большой». Теперь наша сеть готова к решению задачи.
Таким образом, мы завершили первый этап работы сети - этап обучения, который сводится к изменению связей (синаптическая динамика). На втором этапе сеть должна использовать свои навыки распознавания. Связи больше не изменятся, но изменятся состояния ячеек (динамика состояний). В простейшем случае сеть встретит в точности то же животное, которое мы использовали для ее обучения. Если это лев, ее «сенсоры» скажут, что у нее грива и она большая. Ответственные клетки будут стимулироваться. Поскольку между ними и «зеленой» клеткой существуют тормозные связи, эта клетка останется нестимулированной. Точно так же, если мы покажем лягушачьи сети, «зеленая» ячейка будет активирована, а остальные заблокированы..
Но что, если сеть получит на входе неполное изображение? Например, он будет видеть только то, что у животного есть грива, но не сможет увидеть, большая она или маленькая, или какого цвета? Таким образом, будет стимулироваться только клетка «гривы». В этой ситуации, благодаря положительной связи между ним и клеткой, «большое» возбуждение перекинется на другую. Напротив, тормозящая связь с «зеленым» снова гасит возбуждение последней клетки. Таким образом, сеть перейдет в такое же состояние, как если бы она видела полную картину.!
В момент, когда состояния отдельных ячеек перестают изменяться, мы говорим, что сеть достигла устойчивого состояния, называемого аттрактором. Это равносильно распознаванию стимула - стимуляция клеток идентична примерам, в которых была обучена сеть. Модель нейронной сети с таким типом архитектуры и динамики называется сетью аттракторов - ее «воспоминания» - это аттракторы, специфические конфигурации состояний клетки. Демоны в сети
Второй наиболее известный тип нейронных сетей - это многоуровневая сеть. Он смоделирован на основе иерархии обработки информации в мозге, особенно применим на начальных этапах обработки сенсорной информации. Аттракторная сеть - это система единиц, связанных друг с другом, очень часто друг с другом. Стимуляция распространяется во всех направлениях. Между тем, в многоуровневой сети ячейки расположены слоями (по крайней мере, три: вход - соответствует сенсорной информации, скрытый, выход - является ответом сети), и информация течет только в одном направлении - от входа к выходу. Методы обучения такой сети тоже разные. Как простые когнитивные процессы, такие как узнавание, могут происходить в такой структуре?
Хорошим примером многоуровневой сети является модель пандемониума, разработанная в конце 1950-х годов Оливером Селфриджем, исследователем искусственного интеллекта. На самом деле это гипотетическая модель распознавания букв в мозге, но она прекрасно отражает суть обработки информации в многоуровневой сети. Он также показывает, как в иерархической сенсорной системе первых этажей обработки изображений растущая специализация позволяет воспринимать и распознавать сложные формы. И все благодаря нескольким «демонам», как Селфридж называл ячейки своей сети..
Нейрофизиологические данные показывают, что в какой-то момент визуальный анализ букв учитывает распознавание простых форм, таких как прямые линии, кривые и углы. С этой стадии восприятия начинается столпотворение, то есть сеть демонов, распознающих буквы. Первый уровень сети - это демоны, которые реагируют на показ каждой модели. Этот слой символизирует клетки зрительной коры, реагирующие раздражением на появление линий и углов с соответствующим наклоном в их поле восприятия. Итак, у нас есть демон, который активируется, если в показанной букве есть острый восходящий угол, как в A. У нас также есть демон, который реагирует на животоподобную кривую в D, и демон, возбужденный горизонтальной линией..
Эти демоны громко "кричат" (посылают сигнал для пробуждения), если их форма появляется в изображенном письме. Демоны второго уровня, которые являются буквальными демонами, сильно «приставляют уши» к тем демонам первого уровня, которые реагируют на формы в их собственном письме (т.е. получают возбуждение от них). Затем они «кричат» настолько громко, насколько позволяет их возбуждение от предыдущего слоя. Если мы показали A, демон с острым углом и демон с горизонтальной линией будут активированы в первом слое - оба имеют сильные связи с демоном A во втором слое и поэтому будут активировать его сильно. Животный демон не будет возбужден, так что молчи... http://artfrank.ru/users/murmmijha
http://forum.delta-dona.ru/profile.php?action=show&member=14143
https://o-re.com/forum/user/53016/
https://www.instapaper.com/p/murmmijha
http://www.sweden4rus.nu/_rus/members/user?id=73804
https://www.cossa.ru/profile/edit/?ID=173544
http://www.cn.ru/terka/murmmijha/
http://www.cn.ru/forum/member.php?u=376520
http://www.subarulegacy.ru/forum/index.php?showuser=61923
http://realtai.ru/forum/memberlist.php?mode=viewprofile&u=108576
http://volganed.russianitgroup.ru/forum/user/32940/
http://astrozet.net/forum/profile.php?mode=viewprofile&u=8477
https://www.ffforever.info/index.cgi?user=109-1599384868
http://citadelnn.com/forum/index.php?action=profile;u=22339
https://forum.na-svyazi.ru/?showuser=562272
http://www.forum.ximicat.com/profile.php?mode=viewprofile&u=19521
https://forum.neformat.com.ua/members/60600-murmmijha/
https://forumru.asustor.com/memberlist.php?mode=viewprofile&u=3575
https://www.gta5-mods.com/users/murmmijha
http://nyam.ru/users/murmmijha
http://mariupol.quest.ua/Guestbook/Messages.aspx?fmode=gb&topic=295767
https://www.prokoni.ru/forum/members/murmmijha.149075/
Никто не любит удивляться собственному компьютеру. С раздражением реагируем на загадочную информацию об ошибках, появляющуюся на экране, и упрекаем предмет в злобе. На самом деле, однако, поведение нашего ПК полностью предсказуемо и понятно - не обязательно для серого пользователя, но для программиста - да. В классическом подходе AI (искусственный интеллект) поведение и реакции «силиконового обучающегося» определяются алгоритмами. Их автор - «учитель», или программист, умеет шаг за шагом проследить путь рассуждений машины..
Однако вскоре это может измениться. Уже разработаны обучающие системы - нейроподобные сети, смоделированные на основе структуры мозга, - которые после прохождения курса превосходят навыки своих учителей. Так как же они работают? В течение многих лет компьютер был метафорой интеллекта. Классические символьные модели обработки информации основывались на поиске подходящих алгоритмов для выполнения каждой задачи - машина, действующая в соответствии с ними, должна решать любую проблему, если у нее есть запрограммированное соответствующее правило. Другими словами, как только мы разложим задачу на соответствующие логические условия и назначим им соответствующее действие, задача будет решена. Если есть A, сделайте B, если не A, то проверьте, не является ли это C или D. Если да, сделайте E или F. Эти типы правил - это то, что мы называем алгоритмами. При их соответствующем количестве и сложности можно запрограммировать очень сложные последовательности поведения. Есть даже поговорка, что интеллект - это «100 миллионов правил». Проблема в том, что даже с таким числом алгоритмов недостаточно, чтобы распознать даже дерево..
Это кажется невозможным, потому что это может сделать каждый ребенок, и тем не менее. Если присмотреться к проблеме повнимательнее, она окажется чрезвычайно сложной. Потому что есть определение дерева? Глядя на то, как нам удается отличать деревья от других объектов, можно предположить, что это вообще не нужно. Скорее механизм, который позволяет нам не делать ошибок в таких случаях, заключается в том, что объект нашего внимания выполняет как можно больше условий. Дерево не может двигаться, имеет ствол, много листьев или иголок. Чем большему количеству условий он соответствует, тем лучше. Этот тип категоризации идеален, когда концепции нечеткие, не имеют определения или содержат неполную информацию. Между тем, обычный компьютер в такие моменты совсем не справляется. Иерархия сложных проблем для него совершенно другая, чем для людей - то, что легко для нас, не обязательно легко для компьютера, и наоборот. Откуда взялось это различие, если компьютерная архитектура должна была быть метафорой человеческого разума? Мозг и компьютер
Наука о разуме уже давно локализует когнитивные процессы в мозге. Никто не сомневается, что нервная система отвечает за обработку информации, обучение и другие головоломки ума. Также давно известно, как обучение может происходить в мозге - еще в 1949 году Дональд О. Хебб обнаружил, что нервные клетки, которые вместе посылают электрические импульсы, укрепляют свои связи. Так почему же никто не использовал эти знания в компьютерном дизайне??
Вся трудность заключается в переводе того, что происходит в мозгу, в то, что происходит в уме. Нам давно известно, что мозг состоит из множества клеток, которые взаимодействуют друг с другом. Но как это связано с нашими интроспективными переживаниями, мыслями, последовательность которых мы можем проследить шаг за шагом? Несоответствие между этими уровнями анализа привело Джерри Фодора, философа и исследователя психики, к заключению в начале 1980-х, что когнитивная наука должна рассматривать мышление как последовательность операций над символами. И благодаря этому наши компьютеры работают на основе набора правил - алгоритмов..
В этом есть свои плюсы - компьютер правильный. Само определение алгоритма показывает, что он всегда приводит к успеху. Если бы дерево можно было описать правилами, компьютер никогда бы не классифицировал не-дерево как дерево..
Работа нейронных сетей больше не основана на жестких правилах. Созданные по образцу архитектуры нервной системы, они приобрели гибкость нашего мышления, но в то же время потеряли целостность компьютера. Также как мы делаем ошибки. Но также, как и мы, они могут решать реальные проблемы. Как это работает
Трудности перевода мыслительных процессов в деятельность мозга были связаны прежде всего с невообразимой сложностью протекающих в нем биологических процессов. Сам по себе нейрон - довольно хороший компьютер! Однако нейрофизиологи Уоррен МакКаллох и Уолтер Питтс, создатели самой известной бинарной модели нейрона, показали в 1940-х годах, что работу нервной клетки можно понять, глядя на ее функции, а не на механизмы действия. Если закрыть глаза на сложные правила, регулирующие баланс мембраны нейрона и каскады молекулярных процессов внутри клетки, то окажется, что нейрон является своего рода ретрансляционной станцией. Он собирает сигналы от других нейронов, усиливает или ослабляет их и отправляет дальше. Для простоты Маккалок и Питтс предположили, что состояние нейрона можно правильно описать как степень его возбуждения: если он получает много сигналов от других клеток, он будет сильно возбужден, если нет - слабым. В первом случае он будет пытаться стимулировать другие клетки и послать им сильный сигнал, во втором - попытаться их подавить. Если обобщить эти принципы, то окажется, что основными элементами нервных сетей мозга являются клетки и их связи. И этого достаточно, чтобы создать нейроподобную сеть. Но как ее чему-то научить?
На помощь приходит вышеупомянутый принцип обучения Хебба. Перенеся его с реальных клеток мозга на несколько абстрактный уровень нейронных сетей, можно сказать, что между явлениями, происходящими вместе, образуются прочные связи - ассоциации. Например, мы сильно ассоциируем дерево со стволом и коричневой корой, немного более слабой белой корой, и мы совершенно не помним, что деревья двигались. Используя принцип создания связей между единицами, отвечающими за сосуществующие особенности объектов, мы можем создать нейронную сеть, которая выполняет простую когнитивную задачу - распознавание.
Представьте себе, что наша задача - отличить двух животных друг от друга, например льва от лягушки, и чтобы справиться с этим, мы создаем нейроподобную сеть. Для простоты предположим, что наша сеть будет получать информацию только о трех характеристиках животного: цвет (зеленый), размер (крупный) и волосы на теле (волосатые). Поскольку львы большие и имеют густую гриву, эти два качества должны быть связаны друг с другом - мы создаем между ними сильную, стимулирующую связь. Однако ни один лев не бывает зеленым. Между характеристиками «зеленый» и «грива», а также между характеристиками «зеленый» и «крупный» существует тормозящая связь. Лягушки же не большие и не пушистые, но чаще всего зеленые. Дополнительно мы усиливаем торможение между характеристиками «зеленый» и «грива / большой». Теперь наша сеть готова к решению задачи.
Таким образом, мы завершили первый этап работы сети - этап обучения, который сводится к изменению связей (синаптическая динамика). На втором этапе сеть должна использовать свои навыки распознавания. Связи больше не изменятся, но изменятся состояния ячеек (динамика состояний). В простейшем случае сеть встретит в точности то же животное, которое мы использовали для ее обучения. Если это лев, ее «сенсоры» скажут, что у нее грива и она большая. Ответственные клетки будут стимулироваться. Поскольку между ними и «зеленой» клеткой существуют тормозные связи, эта клетка останется нестимулированной. Точно так же, если мы покажем лягушачьи сети, «зеленая» ячейка будет активирована, а остальные заблокированы..
Но что, если сеть получит на входе неполное изображение? Например, он будет видеть только то, что у животного есть грива, но не сможет увидеть, большая она или маленькая, или какого цвета? Таким образом, будет стимулироваться только клетка «гривы». В этой ситуации, благодаря положительной связи между ним и клеткой, «большое» возбуждение перекинется на другую. Напротив, тормозящая связь с «зеленым» снова гасит возбуждение последней клетки. Таким образом, сеть перейдет в такое же состояние, как если бы она видела полную картину.!
В момент, когда состояния отдельных ячеек перестают изменяться, мы говорим, что сеть достигла устойчивого состояния, называемого аттрактором. Это равносильно распознаванию стимула - стимуляция клеток идентична примерам, в которых была обучена сеть. Модель нейронной сети с таким типом архитектуры и динамики называется сетью аттракторов - ее «воспоминания» - это аттракторы, специфические конфигурации состояний клетки. Демоны в сети
Второй наиболее известный тип нейронных сетей - это многоуровневая сеть. Он смоделирован на основе иерархии обработки информации в мозге, особенно применим на начальных этапах обработки сенсорной информации. Аттракторная сеть - это система единиц, связанных друг с другом, очень часто друг с другом. Стимуляция распространяется во всех направлениях. Между тем, в многоуровневой сети ячейки расположены слоями (по крайней мере, три: вход - соответствует сенсорной информации, скрытый, выход - является ответом сети), и информация течет только в одном направлении - от входа к выходу. Методы обучения такой сети тоже разные. Как простые когнитивные процессы, такие как узнавание, могут происходить в такой структуре?
Хорошим примером многоуровневой сети является модель пандемониума, разработанная в конце 1950-х годов Оливером Селфриджем, исследователем искусственного интеллекта. На самом деле это гипотетическая модель распознавания букв в мозге, но она прекрасно отражает суть обработки информации в многоуровневой сети. Он также показывает, как в иерархической сенсорной системе первых этажей обработки изображений растущая специализация позволяет воспринимать и распознавать сложные формы. И все благодаря нескольким «демонам», как Селфридж называл ячейки своей сети..
Нейрофизиологические данные показывают, что в какой-то момент визуальный анализ букв учитывает распознавание простых форм, таких как прямые линии, кривые и углы. С этой стадии восприятия начинается столпотворение, то есть сеть демонов, распознающих буквы. Первый уровень сети - это демоны, которые реагируют на показ каждой модели. Этот слой символизирует клетки зрительной коры, реагирующие раздражением на появление линий и углов с соответствующим наклоном в их поле восприятия. Итак, у нас есть демон, который активируется, если в показанной букве есть острый восходящий угол, как в A. У нас также есть демон, который реагирует на животоподобную кривую в D, и демон, возбужденный горизонтальной линией..
Эти демоны громко "кричат" (посылают сигнал для пробуждения), если их форма появляется в изображенном письме. Демоны второго уровня, которые являются буквальными демонами, сильно «приставляют уши» к тем демонам первого уровня, которые реагируют на формы в их собственном письме (т.е. получают возбуждение от них). Затем они «кричат» настолько громко, насколько позволяет их возбуждение от предыдущего слоя. Если мы показали A, демон с острым углом и демон с горизонтальной линией будут активированы в первом слое - оба имеют сильные связи с демоном A во втором слое и поэтому будут активировать его сильно. Животный демон не будет возбужден, так что молчи... http://artfrank.ru/users/murmmijha
http://forum.delta-dona.ru/profile.php?action=show&member=14143
https://o-re.com/forum/user/53016/
https://www.instapaper.com/p/murmmijha
http://www.sweden4rus.nu/_rus/members/user?id=73804
https://www.cossa.ru/profile/edit/?ID=173544
http://www.cn.ru/terka/murmmijha/
http://www.cn.ru/forum/member.php?u=376520
http://www.subarulegacy.ru/forum/index.php?showuser=61923
http://realtai.ru/forum/memberlist.php?mode=viewprofile&u=108576
http://volganed.russianitgroup.ru/forum/user/32940/
http://astrozet.net/forum/profile.php?mode=viewprofile&u=8477
https://www.ffforever.info/index.cgi?user=109-1599384868
http://citadelnn.com/forum/index.php?action=profile;u=22339
https://forum.na-svyazi.ru/?showuser=562272
http://www.forum.ximicat.com/profile.php?mode=viewprofile&u=19521
https://forum.neformat.com.ua/members/60600-murmmijha/
https://forumru.asustor.com/memberlist.php?mode=viewprofile&u=3575
https://www.gta5-mods.com/users/murmmijha
http://nyam.ru/users/murmmijha
http://mariupol.quest.ua/Guestbook/Messages.aspx?fmode=gb&topic=295767
https://www.prokoni.ru/forum/members/murmmijha.149075/
Комментарии
Отправить комментарий