Рапидо / Нейронная сеть лотерея

История появления нейронных сетей

Нейронная сеть лотерея I

Определение понятия «нейронная сеть» появилось в середине ХХ века. Первые работы, в которых первые плоды главного фронта были награждены первыми, были сделаны МакКаллохом и Питтом. В 1943 году они создали компьютерную модель нейронной сети, основанную на математических методах и теории мозговой деятельности. Они согласны с тем, что нейроны могут быть упрощены как устройства, работающие с двоичными числами, и назвали эту модель «пороговой логикой». Как и их собственная биомодель, МакКаллок - нейроны Питта первой могут учиться, регулируя характеристики, которые представляют синаптическую проводимость. Исследователи предложили спроектировать сеть электрических нейронов и показали, что подобная сеть может фактически выполнять по крайней мере некоторые возможные числовые или логические операции. Маккаллох и Питтс предположили, что такая сеть также способна учиться, распознавать виды, обобщать, то есть обладать всеми особенностями ума.

Эта модель заложила основы для двух разных подходов к исследованию нейронных сетей. Один подход был сосредоточен на реальном изучении биологических процессов в головном мозге, второй - на внедрении нейронных сетей как метода искусственного интеллекта для решения различных проблем.

В 1949 году канадский физиолог и психолог Хебб прокомментировал природу связи нейронов мозга и их взаимодействия. Он был первым, кто ввел это обучение, прежде всего, в настройке силы синаптических связей. Теория Хебба упоминается как обычный случай самообучения, при котором тестовая система самопроизвольно учится выполнять заданную задачу без вмешательства экспериментатора. В более поздних версиях теория Хебба была основой для описания явления долгосрочного подкрепления.

В 1954 году в Массачусетском технологическом университете с внедрением компьютеров Фарли и Кларк создали имитацию сети Хебба. Исследования нейронных сетей с использованием предыдущих компьютерных симуляций были также проведены Рочестером, Голландией, Хебитом и Дудой в 1956 году.

В 1957 году Розенблатт первым создал математическую и компьютерную модель восприятия информации мозгом на основе двухслойной обучающей нейронной сети. В обучении эта сеть использовала арифметические операции сложения и вычитания. Розенблатт также описал схему не только основного персептрона, но и логическую схему сложения. В 1958 году ему предложили модель электрического устройства, имитирующего процессы человеческого мышления, а через два года была показана первая работающая машина, способная научиться распознавать некоторые буквы на карточках, которые приводили его в «глаза», вспоминая пленочные камеры.

Энтузиазм к исследованию нейронных сетей истек после публикации статьи о машинном обучении в Минске и Пейперте в 1968 году. У них возникли серьезные вычислительные трудности, возникающие при компьютерной реализации искусственных нейронных сетей. Первая проблема заключалась в том, что однослойные нейронные сети не могли выполнять «добавление по модулю 2», то есть выполнять функцию «исключающего ИЛИ». Вторая необходимая проблема заключалась в том, что компьютерам не хватало вычислительной мощности, чтобы справиться с огромным количеством вычислений, необходимых для огромных нейронных сетей.

Исследования нейронных сетей замедлились до такой степени, что компьютеры обладали огромной вычислительной мощностью. Одним из основных шагов, которые стимулировали предстоящие исследования, была разработка на Verbos в 1975 году. Методы распространения циркулирующих ошибок, которые позволили идеально решить проблему обучения многослойных сетей и решить проблему «сложения по модулю -2».

В 1975 году Фукусима создала когнитрон, который стал одной из первых многослойных нейронных сетей. Практическая структура сети и методы, используемые в когнитроне для вариантов относительных весов ссылок, различались в зависимости от стратегии. Люба от стратегии имела свои преимущества и недостатки. Сети могут распространять информацию только по одному фронту или отправлять информацию с одного конца на другой, пока все узлы не станут активными и сеть не вернется в свое естественное состояние. Достижение двунаправленной передачи информации между нейронами произошло только в сети Хопфилда (1982), и специализация этих узлов для конкретных целей была введена в первых гибридных сетях.

Метод параллельной обработки данных, рассредоточенный в середине 1980-х годов, стал широко известен как связность. В 1986 году использование коннективизма для компьютерного моделирования нервных процессов было использовано в работах Rummelhart и McClelland.

Несмотря на большую заинтересованность научного сообщества в разработке метода обратного распространения ошибок, это также вызвало многочисленные споры о том, можно ли на самом деле проводить такое обучение в мозге. Это было отчасти связано с тем, что устройство для передачи сигнала обратной связи не было естественным в то время, потому что не было очевидного источника обучающих и мотивационных сигналов. Тем не менее, в 2006 году было предложено несколько неконтролируемых функций нейронных сетей с одним или несколькими уровнями с использованием так называемых методов глубокого обучения. Эти методы могут использоваться для изучения промежуточных представлений, как с выходным сигналом, так и без него, чтобы понять основные характеристики распределения сенсорных сигналов в любом слое нейронной сети.

Как и многие другие варианты, проблемы с большей сложностью требуют реализации не одного, а нескольких методов их решения или синтеза. Все без исключения и искусственные нейронные сети. С самого начала этого столетия работа различных исследователей интенсивно описывала нейронно-нечеткие сети, модели клеточно-нейронных сетей. Нейронные сети также используются, например, для дополнительной характеристики нечетких систем управления. В общем, нет сомнений в предстоящей интеграции методов искусственного разума между собой и других способов решения проблем.