Реферат: «разработка, применение и перспективы развития нейрокомпьютеров»

Компактный нейронный сопроцессор

Компания Movidius, принадлежащая Intel и занимающаяся разработкой визуальных процессоров для интернета вещей, представила миниатюрное компактное устройство Neural Compute Stick. Новинка позиционируется как вычислительный сопроцессор с функциональностью искусственного интеллекта, позволяющий добавить возможность машинного обучения подключенному ПК простым подключением к порту USB.

Ключевая особенность устройства заключается в том, что для процесса машинного обучения или развертывания новой нейронной сети с применением Neural Compute Stick не требуется подключение к интернету: USB-сопроцессор функционирует совершенно автономно.

В сентябре 2016 г. компания Movidius была приобретена Intel за неназванную сумму. По итогам сделки в Intel объявили о планах использовать технологии Movidius при разработке устройств интернета вещей, дополненной, виртуальной и совмещенной реальности, таких как роботах, дронах, автоматических цифровых камерах безопасности и т.д.

Впервые USB-сопроцессор Neural Compute Stick был представлен в качестве прототипа под рабочим названием Fathom в апреле 2016 г. – тогда еще независимой компанией Movidius. Некоторое время после приобретения компании новости о разработках Movidius исчезли со страниц новостных сайтов. Теперь Neural Compute Stick коммерциализирован и официально поступает в продажу, однако технологическая идея устройства претерпела минимальные изменения по сравнению с Fathom.

USB-сопроцессор Movidius Neural Compute Stick

Устройство Neural Compute Stick выполнено на базе точно такого же процессора, который используется во множестве устройств с машинным зрением — например, автономном дроне DJI. Потребителю или производителю техники, желающему усилить возможности искусственного интеллекта своей системы, достаточно подключить один или несколько сопроцессоров Neural Compute Stick к порту (портам) USB.

НКИ и нейропротезирование

Нейропротезирование — область неврологии, занимающаяся созданием и имплантацией искусственных устройств для восстановления нарушенных функций нервной системы или сенсорных органов (нейропротезов или нейроимплантов). Наиболее часто используется кохлеарный нейроимплантат, которым пользуется около 100 000 человек по всему миру (по данным на 2006 год). Существуют также нейропротезы для восстановления зрения, например, имплантаты сетчатки.

Основное отличие НКИ от нейропротезирования заключается в особенностях их применения: нейропротезы чаще всего «подключают» нервную систему к имплантированному устройству, в то время как НКИ обычно соединяет мозг (или нервную систему) с компьютерной системой. На практике нейропротез может быть подсоединен к любой части нервной системы, например, к периферическим нервам, в то время как НКИ представляет собой более узкий класс систем, взаимодействующих с центральной нервной системой.
Термины нейропротезирование и НКИ могут быть взаимозаменяемыми, поскольку оба подхода преследуют одну цель — восстановление зрения, слуха, двигательных способностей, способности общаться и других когнитивных функций. Кроме того, в обоих подходах используются аналогичные экспериментальные методы, включая хирургическое вмешательство.

Избыточность — это хорошо или плохо?

Во-первых, обучать систему с минимальным числом связей труднее и дольше, чем систему с избыточностью.

Во-вторых, увеличение избыточности нейронной
системы повышает ее надежность. Приведу пример. Обучаю нейроимитатор EYE
(10 нейронов, 100 связей) распознавать четыре японских иероглифа
(солнце, собака, мужчина, женщина). Весовые коэффициенты связей
распределились в установленных пределах: от -1 до 1. Добавляю к весовым
коэффициентам связей случайные числа, равномерно распределенные между
-0,1 и 0,1. Распознавание нарушилось. Доучиваю сеть и снова добавляю
случайные возмущения — пока не появятся ошибки, потом снова доучиваю и
т. д. Через несколько циклов устойчивость сети к возмущениям становится
фантастической, даже подозрительно фантастической — если человек впервые
наблюдает этот эффект, ему хочется проверить: а нет ли здесь
какого-нибудь надувательства? Но нет, все чисто, а сеть выдерживает
случайные возмущения весовых коэффициентов связей до 50-80%, и это —
благодаря избыточности.

В-третьих, после такой процедуры обучения для
реализации нейронной сети можно использовать элементы с большим
случайным разбросом параметров, а также с характеристиками,
нестабильными во времени. Другой вопрос — кому это нужно? Где нам
встречались такие системы?

Вспомним АВМ — аналоговые вычислительные машины.
Точность у них была небольшая, зато быстродействие отменное, и
параллелизм достигался высокий. Да и возраст у них почтенный — еще в
1876 году (да-да, одна тысяча восемьсот… — это не опечатка) в трудах
Королевского Научного общества Томпсоном были описаны параллельные
аналоговые системы с обратной связью.

Старые АВМ были неуниверсальны — они умели решать
только дифференциальные уравнения, да и то не любые, а лишь те, для
которых удавалось собрать систему интеграторов. А что если на аналоговых
элементах реализовать нейронные сети? Универсальность и устойчивость к
ошибкам обеспечит нейросетевая технология, а быстродействием эти
элементы уже обладают. Кроме того, они очень дешевы. Почему бы не
попробовать? Люди и попробовали. В Японии и России, в США и Бразилии и
много еще где. Результаты вдохновляют. Быстродействие аналоговых
нейронных сетей лимитируется лишь скоростью света. Нейронные сети обычно
решают задачи за несколько тактов, поэтому в целом решение даже сложных
задач обученной сетью занимает малое время — наносекунды. А это уже —
новые горизонты технологии.

История

Термины нейрокибернетика, нейроинформатика, нейрокомпьютеры вошли в научный обиход недавно — в середине 80-х годов XX века. Однако электронный и биологический мозг постоянно сравнивались на протяжении всей истории существования вычислительной техники. Знаменитая книга Н. Винера «Кибернетика» () имеет подзаголовок «Управление и связь в животном и машине».

Первыми нейрокомпьютерами были перцептроны Розенблатта: Марк-1 () и Тобермори (—), а также Адалин, разработанный Уидроу (англ.)русск. и Хоффом () на основе дельта-правила (формулы Уидроу). В настоящее время Адалин (адаптивный сумматор, обучающийся по формуле Уидроу) является стандартным элементом многих систем обработки сигналов и связи. В этом же ряду первых нейрокомпьютеров находится программа «Кора», разработанная в 1961 году под руководством М. М. Бонгарда.

Большую роль в развитии нейрокомпьютинга сыграла монография Розенблатта ().

Идея нейро-бионики (создания технических средств на нейро-принципах) стала интенсивно реализовываться в начале 1980-х гг. Импульсом было следующее противоречие: размеры элементарных деталей компьютеров сравнялись с размерами элементарных «преобразователей информации» в нервной системе, было достигнуто быстродействие отдельных электронных элементов в миллионы раз большее, чем у биологических систем, а эффективность решения задач, особенно связанных задач ориентировки и принятия решений в естественной среде, у живых систем пока недостижимо выше.

Другой импульс развитию нейрокомпьютеров дали теоретические разработки 1980-х годов по теории нейронных сетей (сети Хопфилда, сети Кохонена, метод обратного распространения ошибки).

Презентация на тему: » Бионика в архитектуре и технике. Основные разделы бионики Биокоммуникация Нейробионика. Сенсоры. (Нейронные сети,нейрокомпьютеры, биоэлектроника, биосенсоры)» — Транскрипт:

1

Бионика в архитектуре и технике

2

Основные разделы бионики Биокоммуникация Нейробионика. Сенсоры. (Нейронные сети,нейрокомпьютеры, биоэлектроника, биосенсоры) Системы ориентации, локации и навигации Наземные локомоции (органы движения животных и человека, экзоскелетоны, манипуляторы, ползающие и шагающие машины) Биогидродинамика (Гидродинамика животных, моделирование механизмов адаптации к быстрому плаванию, действующие системы) Биоаэродинамика (Приспособления к полету у птиц, приспособления к полету у насекомых. Теория машущего полета, действующие системы) Механика биологических жидкостей и газов Биомеханика естественных и искусственных органов (Биомеханика естественных органов, биомеханика искусственных органов, механика ортопедических устройств) Механические аспекты биоматериалов (Механика, реология) Биотехнические системы (Технические решения для инвалидов, биоэлектрическое управление, протезы, искусственные органы, биоэнергетические системы) Прикладные вопросы бионики (Архитектура, дизайн)

3

Движение тел в жидкости Осборн Рейнольдс ламинарный — турбулентный ,1 0,

4

Планирующий полет Поиски путей Отто Лилиенталь Первый полет 1891 Альбатрос

5

Планирующий полет Поиски путей Орвилл Райт Уилбер Райт Первый полет Планер Первый самолет

6

Планирующий полет Пути разошлись Полет орла Полет А-380

7

Управление движением Устойчивое «панцирь»-крыло Панцирные рыбы Появление – лет Транспортный космический корабль Х-33 (США)

8

Управление движением Гидродинамические рули Акула (хордовые) Сверхзвуковой истребитель

9

Управление движением Активные рули Окунь (костистоперые) Установка для маневрирования в космосе MMU (США)

10

Управление движением Механизация крыла и реверс тяги Голубь в полете Голубь «идет на посадку» Двигатель с реверсом тяги

11

Управление движением Зависание и маневрирование Вертолет Конвертоплан СВВП

12

Машущий полет Полет стрекозы (Яндекс-видео)

13

Машущий полет Полет саранчи (Вейс-Фо и Йенсен) Угол отклонения крыла (рад) от времени (мс) 1 – заднее крыло 2 – переднее крыло 1 – взмах вверх 2 – взмах вниз Угол закрутки средней хорды крыла и его прогиб за один период

14

Машущий полет Полет саранчи (Вейс-Фо и Йенсен) A B A B А – два передних крыла В – два задних крыла Подъемная сила (в долях от среднего значения) в зависимости от долей периода одного цикла Тяга (в долях от среднего значения) в зависимости от долей периода одного цикла

15

Машущий полет Система регулирования РИМОРПС Нервная система Мышцы Корпус стрекозы РецепторыМозг x x yzφw ОР ИМ ПС Р + «Гироскоп» Р — регулятор ИМ – исполнительный механизм ОР – объект регулирования ПС – преобразователь сигнала Y – кодированный нервный импульс Z – форма, амплитуда, и координация крыла φ – угол отклонения корпуса относительно головы Х – кодированный нервный импульс W – задающий сигнал (намерение стрекозы) v V – возмущающее воздействие (ветер)

16

Ограничения использования бионики Махолет (по сравнению с альбатросом) 1.Более высокие числа Рейнольдса 2.Отсутствие рецепторов к местным потокам и нагрузкам крыла 3.Сложность использования нулевой статической балансировки 4.Закон «квадрата-куба-пятой степени» (линейный размер аппарата — площадь крыла и подъемная сила – масса – момент инерции) Махолет Ильина «Икар-1» 1958 Если муху увеличить в 200 раз (до размера человека), то увеличатся: — площадь крыльев в раз, — масса в раз Фрагмент крыла стрекозы

17

Применение результатов исследований бионики Искусственное ухо Микрофон – процессор – имплантированные электроды – слуховой нерв

18

Применение результатов исследований бионики Искусствен- ное зрение

19

Применение результатов исследований бионики Протезирование конечностей

20

Применение результатов исследований бионики

21

Заключение «Утилитарная часть бионики, ее тяжелая артиллерия, как она ни важна, — второй эшелон. Фронт поисков должен быть расширен внедрением физических методов исследования, математического и технического моделирования во все отрасли классической биологии и палеонтологии… … труд инженера и биолога поможет разобраться в работе Машины Машин – биосферы и в том лабиринте загадок, который называется эволюцией». Знание-сила, 3/1968

Попытки создания

В нейрохирургическом центре в Кливленде в 2004 году был создан первый искусственный кремниевый чип — аналог гиппокампа, который в свою очередь был разработан в университете Южной Калифорнии в 2003 году. Кремний обладает возможностью соединять неживую материю с живыми нейронами, а окруженные нейронами транзисторы получают сигналы от нервных клеток, одновременно конденсаторы отсылают к ним сигналы. Каждый транзистор на чипе улавливает малейшее, едва заметное изменение электрического заряда, которое происходит при «выстреле» нейрона в процессе передачи ионов натрия.

Новая микросхема способна получать импульсы от 16 тысяч мозговых нейронов биологического происхождения и посылать обратно сигналы к нескольким сотням клеток. Так как при производстве чипа нейроны были выделены из окружающих их глиальных клеток, то пришлось добавить белки, которые «склеивают» нейроны в мозге, также образуя дополнительные натриевые каналы. Увеличение числа натриевых каналов повышает шансы на то, что транспорт ионов преобразуется в электрические сигналы в чипе.

Достижения исследовательской работы

Первый в истории НКИ был создан Филлипом Кеннеди и его коллегами с использованием электродов, имплантированных в кору головного мозга обезьян.
В 1999 году исследователи под руководством Яна Дэна из Университета Калифорнии расшифровали сигналы нейронов зрительной системы кошки и использовали эти данные для воспроизведения изображений, воспринимаемых подопытными животными. В этих экспериментах были использованы электроды, вживленные в таламус (структура среднего мозга, передающая в кору сенсорные сигналы от всех органов чувств). С их помощью было исследовано 177 клеток в латеральном коленчатом теле в таламусе и расшифрованы сигналы, приходящие от сетчатки. Кошкам демонстрировали восемь коротких фильмов, в течение которых проводили запись активности нейронов. Используя математические фильтры, исследователи расшифровали сигналы для воспроизведения образов, которые видели кошки и были способны воспроизвести узнаваемые сцены и двигающиеся объекты. Схожие результаты на человеке были получены исследователями из Японии.

Для повышения эффективности управления НКИ Мигель Николесис предложил регистрировать электрическую активность одновременно с помощью нескольких электродов, вживленных в удаленные области головного мозга. За первыми исследованиями на крысах, которые в девяностых годах проводили Николелис и его коллеги, последовали аналогичные эксперименты на обезьянах. В результате был создан НКИ, с помощью которого сигналы нервных клеток обезьян были расшифрованы и использованы для управления движениями робота.
Именно обезьяны оказались идеальными испытуемыми для такого рода работ, поскольку у них хорошо развиты двигательные и манипуляционные навыки, и, соответственно, высоко развиты структуры головного мозга, отвечающие за реализацию моторных функций.
К 2000 году группа Николелиса создала НКИ, который воспроизводил движения передних конечностей обезьян во время манипуляций джойстиком или во время захвата пищи. Данная система работала в режиме реального времени и была использована для дистанционного управления движениями робота посредством интернет-связи. При этом обезьяна не имела возможности увидеть движения собственных конечностей и не получила какой-либо другой информации для обратной связи.

Позднее группа Николесиса использовала результаты экспериментов с макаками-резус для создания алгоритма движения робота, имитирующего движения руки человека. Для управления движениями робота использовали информацию, полученную при записи нейронной активности обезьян после декодирования. Обезьяны были обучены указывать на объекты на экране компьютера, манипулируя джойстиком. Движения конечности обезьян-операторов были воспроизведены движениями робота.

В России с 2009 года действует проект NeuroG, целью которого является создание универсальных алгоритмов для распознавания зрительных образов человеком. 25 апреля 2011 года в Политехническом музее Москвы проектом NeuroG была проведена первая в мире демонстрация эксперимента по распознаванию воображаемых образов.

9 июля 2015 года российская «Объединённая приборостроительная корпорация» приступила к испытаниям неинвазивного нейроинтерфейса «мозг-компьютер», позволяющего силой мысли управлять биологическими роботизированными экзопротезами. На данный момент нейроинтерфейс проходит испытания. После их завершения будет принято решение о серийном выпуске роботизированных экзопротезов. По заявлению пресс-службы, ориентировочно серийный выпуск протезов должен был быть начат в 2016 году.

Что один графический процессор делает быстрее другого?

Лучший показатель производительности графического процессора — комбинация пропускной способности, FLOPS и Tensor Cores.

Чтобы углубить ваше понимание и помочь сделать осознанный выбор, расскажу о том, какие части аппаратного обеспечения ускоряют работу GPU для двух наиболее важных тензорных операций: перемножения матриц и свертки.

Простой и эффективный способ думать о матричном умножении — это то, что оно ограничено пропускной способностью

То есть пропускная способность памяти является наиболее важной особенностью GPU, если вы хотите использовать LSTM и другие рекуррентные сети, которые выполняют многократное умножение матриц

Для сверточных нейронных сетей имеет значение скорость обучения. Таким образом, TFLOP на графическом процессоре — лучший показатель производительности ResNet и других сверточных архитектур.

Тензорные сердечники слегка меняют уравнение. Это очень простые специализированные вычислительные блоки, которые могут ускорить вычисления — но не пропускную способность памяти — и, таким образом, наибольшее преимущество можно увидеть для сверточных сетей, которые с тензорными ядрами быстрее примерно на 30-100% .

В целом, правило выбора GPU для машинного обучения следующее:

• смотрите на показатели пропускной способности, если вы работаете с RNN;
• смотрите на показатели FLOPS, если вы работаете со сверткой;
• используйте тензорные ядра, если можете себе позволить.

Нормализованные исходные данные производительности графических процессоров и TPU. Чем выше — тем лучше. RTX 2080 Ti примерно в два раза быстрее GTX 1080 Ti: 0,77 против 0,4.

Примечания

1. Дунин-Барковский В. Л., Нейрокибернетика, Нейроинформатика, Нейрокомпьютеры, В кн.: neuroschool.narod.ru/books/neurinf.html Нейроинформатика / А. Н. Горбань, В. Л. Дунин-Барковский, А. Н. Кирдин и др. — Новосибирск: Наука. Сибирское предприятие РАН, 1998. — 296 с. ISBN 5020314102
2. Винер Н., grachev62.narod.ru/cybern/contents.htm Кибернетика, или Управление и связь в животном и машине. / Пер. с англ. И. В. Соловьева и Г. Н. Поварова; Под ред. Г. Н. Поварова. — 2-е издание. — М.: Наука, 1983. — 344 с.
3. Королев Л. Н. v-school.narod.ru/DSP-NCC/NCC/ncc-1.htm Нейрокомпьютинг, нейросети и нейрокомпьютеры
4. Уидроу Б., Стирнс С., Адаптивная обработка сигналов. – М.: Радио и связь, 1989. — 440 c.
5. Савельев А. В., Нейроускоритель. Neural Network accelerator // Свид. о регистрации программы для ЭВМ № 2003610307, заявка 2002612174, 2003.
6. Применение нейрокомпьютеров в ракетно-космической технике. Сборник статей. Ефимов В. В. (ред). — М.: Радиотехника, 2006. 144 с
7. Россиев Д. А., Медицинская нейроинформатика, В кн.: neuroschool.narod.ru/books/neurinf.html Нейроинформатика / А. Н. Горбань, В. Л. Дунин-Барковский, А. Н. Кирдин и др. — Новосибирск: Наука. Сибирское предприятие РАН, 1998. — 296 с.
8. Терехов С. А., Нейросетевые информационные модели сложных инженерных систем, В кн.: neuroschool.narod.ru/books/neurinf.html Нейроинформатика / А. Н. Горбань, В. Л. Дунин-Барковский, А. Н. Кирдин и др. — Новосибирск: Наука. Сибирское предприятие РАН, 1998. — 296 с ISBN 5020314102
9. Dorrer M.G., Gorban A.N., Kopytov A.G., Zenkin V.I., Psychological Intuition of Neural Networks. Proceedings of the 1995 World Congress On Neural Networks, A Volume in the INNS Series of Texts, Monographs, and Proceedings, Vol. 1, 1995, 193—196.

Эта страница использует содержимое раздела Википедии на русском языке. Оригинальная статья находится по адресу: Нейрокомпьютер. Список первоначальных авторов статьи можно посмотреть в истории правок. Эта статья так же, как и статья, размещённая в Википедии, доступна на условиях CC-BY-SA .

Описание

Нейронные процессоры относятся к вычислительной технике и используются для аппаратного ускорения эмуляции работы нейронных сетей и цифровой обработки сигналов в режиме реального времени. Как правило, нейропроцессор содержит регистры, блоки памяти магазинного типа, коммутатор и вычислительное устройство, содержащее матрицу умножения, дешифраторы, триггеры и мультиплексоры.

На современном этапе (по состоянию на 2017 год) к классу нейронных процессоров могут относится разные по устройству и специализации типы чипов, например:

• Нейроморфные процессоры — построенные по кластерной асинхронной архитектуре, разработанной в Корнеллском университете (принципиально отличающейся от фон Неймановской и Гарвардской компьютерных архитектур, используемых последние 70 лет в IT-отрасли). В отличие от традиционных вычислительных архитектур, логика нейроморфных процессоров изначально узкоспециализирована для создания и разработки разных видов искусственных нейронных сетей. В устройстве используются обычные транзисторы, из которых строятся вычислительные ядра (каждое ядро, как правило, содержит планировщик заданий, собственную память типа SRAM и маршрутизатор для связи с другими ядрами), каждое из ядер эмулирует работу нескольких сотен нейронов и, таким образом, одна интегральная схема, содержащая несколько тысяч таких ядер, алгоритмически может воссоздать массив из нескольких сотен тысяч нейронов и на порядок больше синапсов. Как правило, такие процессоры применяются для алгоритмов глубокого машинного обучения.
• Тензорные процессоры — устройства, как правило, являющиеся сопроцессорами, управляемыми центральным процессором, оперирующие тензорами — объектами, которые описывают преобразования элементов одного линейного пространства в другое и могут быть представлены как многомерные массивы чисел, обработка которых осуществляется с помощью таких программных библиотек, как, например TensorFlow. Они, как правило, оснащаются собственной встроенной оперативной памятью и оперируют низкоразрядными (8-битными) числами, и узкоспециализированы для выполнения таких операций, как матричное умножение и свёртка, используемая для эмуляции свёрточных нейронных сетей, которые используются для задач машинного обучения.
• Процессоры машинного зрения — во многом похожи на тензорные процессоры, но они узкоспециализированы для ускорения работы алгоритмов машинного зрения, в которых используются методы свёрточных нейронных сетей (CNN) и масштабно-инвариантная трансформация признаков (SIFT). В них делается большой акцент на распараллеливание потока данных между множеством исполнительных ядер, включая использование модели блокнотной памяти (англ.)русск. — как в многоядерных цифровых сигнальных процессорах, и они так же, как тензорные процессоры, используются для вычислений c низкой точностью, принятой при обработке изображений.

2.2 Военная техника и нейрокомпьютеры

Применение нейрокомпьютеров
в военной технике всегда вызывало
интерес в первую очередь благодаря 
их преимуществам в быстродействии,
небольшим габаритам и массам,
а также малому энергопотреблению.
Нейрокомпьютеры позволяют решать
сложные и сверхсложные задачи, не возникавшие до недавнего
времени просто из-за невозможности их
решения с помощью линейных вычислительных
средств. Применение нейросетевого логического
базиса позволило перейти к новому отношению
производительность – стоимость, за счет
резкого повышения первой, основанной
на автоматизации исследования предметной
области, создании алгоритмов, моделирования,
обучении моделей по принципу проб и ошибок.

Фирмами промышленно 
развитых страны мира, в первую очередь 
США, Великобритании и Японии, ведется интенсивное исследование
и применение нейрокомпьютерной технологии
при создании военной техники. Первая
программа подобного рода была выполнена
США в 1987-1988 годах Лабораторией Линкольна
Массачусетского института за счет военного
бюджета

Особое внимание к данной сфере
Президента США Дж.Буша позволило на начало
90-х годов достигнуть существенного прогресса,
выражаемого в росте компаний разрабатывающих
подобные средства

Предыстория

Изучение оснований, на которых базируется нейро-компьютерный интерфейс, уходит корнями в учение И. П. Павлова об условных рефлексах и регулирующей роли коры. Это научное направление возникло в самом начале XX века в Институте экспериментальной медицины (Санкт-Петербург)[источник не указан 1824 дня]. Развивая эти идеи, П. К. Анохин с 1935 года показал, что принципу обратной связи принадлежит решающая роль в регулировании как высших приспособительных реакций человека, так и его внутренней среды. В результате была разработана теория функциональных систем, потенциал использования которой в нейро-компьютерных интерфейсах далеко не исчерпан[источник не указан 1824 дня]. Большой вклад[источник не указан 1824 дня] внесли работы Н. П. Бехтеревой с по гг. по расшифровке мозговых кодов психической деятельности, продолжающиеся до настоящего времени её последователями, в том числе, с позиций нейрокибернетики и офтальмонейрокибернетики.

Исследования нейро-компьютерного интерфейса начались в -х годах в Калифорнийском университете в Лос-Анджелесе (UCLA). После многолетних экспериментов на животных в середине девяностых годов в организм человека были имплантированы первые устройства, способные передавать биологическую информацию от тела человека к компьютеру. С помощью этих устройств удалось восстановить поврежденные функции слуха, зрения, а также утраченные двигательные навыки.
В основе успешной работы НКИ лежит способность коры больших полушарий к адаптации (свойство пластичности), благодаря которому имплантированное устройство может служить источником биологической информации.

Чем занимается НейроКомп?

Это — традиционный вопрос. НейроКомп — группа
красноярских исследователей, программистов, инженеров и пользователей,
занимающаяся теоретическими исследованиями в области нейроинформатики и
разрабатывающая программное обеспечение для решения конкретных
прикладных задач. Кроме того, НейроКомп ведет работы по конструированию
новых нейрокомпьютеров.

Как состав группы, так и ее «юридическое лицо» —
состав и форма соучаствующих в работе организаций — со временем
меняются. Хотя все началось в академических институтах, постепенно
возрастает роль различных фирм и вузов.

Исследования по нейроинформатике начались в
Красноярске с открытия В. А. Охониным (Институт биофизики СО РАН)
принципа двойственности для обучения нейронных сетей (опубликовано в
1986 г.).
Описание этого принципа заслуживает отдельной статьи. Если же говорить
коротко, то его суть состоит в следующем. При обучении нейронной сети
необходимо вычислять поправки к ее параметрам — весовым коэффициентам
связей. Фактически решается задача оптимизации в пространстве очень
большой размерности. Эта размерность долго была проклятием для
разработчиков: нетрудно реализовать нейронную сеть так, чтобы все
нейроны работали параллельно, однако для ее обучения приходится
использовать другие системы и решать задачу оптимизации обычным — очень
длительным — путем. Принцип двойственности позволяет вычислять поправки к
параметрам с помощью той же системы связей, но имеющей обратную
ориентацию (сигналы меняют направление движения). Если к возможностям
нейронной сети добавить двойственное функционирование (с обращением
движения сигнала и некоторыми другими дополнениями), то нейронная сеть
начинает сама себя учить!

После этого группа НейроКомп несколько лет с
переменным успехом соревновалась со всем миром в скорости обучения
нейронных сетей. Удалось ускорить обучение на четыре порядка (по
сравнению с исходными алгоритмами, основанными на принципе
двойственности и методе обратного распространения ошибки). Создано
несколько новых архитектур искусственных нейронных сетей, разработано
прикладное программное обеспечение, заканчивается подготовка
электронного учебника для студентов и школьников, готовится к выпуску
новая серия универсальных прикладных программ.

Много времени ушло на пробную эксплуатацию
нейроимитаторов и отработку технологии для решения различных прикладных
задач: от обработки аэрокосмической информации до экономических и
медицинских приложений.

Применение в медицине требует особого внимания.
Использование компьютеров в этой области всегда вызывает вопросы: кто
принимает решения и кто отвечает за ошибку? Оказалось, что новые
программные средства в руках медиков породили новые способы работы —
такие, о которых заранее никто не подозревал. Высокопрофессиональные
медики общаются с нейроимитаторами как с интересными собеседниками,
вместе ставят вопросы (выяснилось, что удачная постановка вопросов
зачастую важнее ответов), вместе сомневаются. В результате такой работы
специалист приобретает дополнительные знания, а обучаемые нейронные сети
превращаются в новый отчуждаемый продукт — нейронный эксперт, который
уже без дальнейшего обучения может быть использован как советчик
практикующего врача.

Нейронные сети применялись нами для изучения и
диагностики иммунодефицитных состояний, для прогнозирования
возникновения или усугубления застойной сердечной недостаточности у
больных с нарушениями ритма сердца, для прогнозирования последствий
имплантации электрокардиостимулятора, для выявления накопленной дозы
радиоактивного облучения по иммунологическим, гормональным и
биохимическим параметрам крови.

Интересной оказалась работа с политическими
предсказаниями. Мы набрались смелости и опубликовали прогноз последних
президентских выборов в США до их проведения. Логика этого поступка
проста: если мы предлагаем нейросетевых советчиков врачам, то должны
доверить и свою репутацию нейропредсказателю. Наш прогноз оправдался:
выбрали Клинтона.

Сотрудники группы НейроКомп много преподают — и у
себя в Красноярске, и в других городах. Мы продолжаем распространять
простейшие нейроимитаторы и книгу «Обучение нейронных сетей» за
символическую плату (увы, принципы педагогики вступают в противоречие с
коммерческим интересом). Мечтаем сделать регулярной Всероссийскую
олимпиаду молодежи, студентов и школьников по нейроинформатике. Начали
проводить ежегодные семинары «Нейроинформатика и ее приложения». Время
проведения семинаров — конец первой недели октября, место — красноярский
Академгородок.

Применения[править | править код]

1. Управление в реальном времени, в том числе:
   • самолётами и ракетами,
   • технологическими процессами непрерывного производства (в энергетике, металлургии и др.),
   • гибридным (электробензиновым) двигателем автомобиля,
   • пневмоцилиндром,
   • сварочным аппаратом ,
   • электропечью,
   • турбогенератором.
2. Распознавание образов:
   • изображений, человеческих лиц, букв и иероглифов, отпечатков пальцев в криминалистике, речи, сигналов радара и сонара,
   • элементарных частиц и происходящих с ними физических процессов (эксперименты на ускорителях или наблюдение за космическими лучами),
   • заболеваний по симптомам (в медицине),
   • местностей, где следует искать полезные ископаемые (в геологии, по косвенным признакам),
   • признаков опасности в системах безопасности,
   • свойств химических соединений по структуре (в хемоинформатике)
3. Прогнозирование в реальном времени:
   • погоды,
   • курса акций (и других финансовых показателей),
   • исхода лечения,
   • политических событий (результатов выборов, международных отношений и др.),
   • поведения противника (реального или потенциального) в военном конфликте и в экономической конкуренции,
   • устойчивости супружеских отношений.
4. Оптимизация — поиск наилучших вариантов:
   • при конструировании технических устройств,
   • при выборе экономической стратегии,
   • при подборе команды (от сотрудников предприятия до спортсменов и участников полярных экспедиций),
   • при лечении больного.
5. Обработка сигналов при наличии больших шумов.
6. Протезирование («умные протезы») и усиление естественных функций, в том числе — за счёт прямого подключения нервной системы человека к компьютерам (Нейро-компьютерный интерфейс).
7. Психодиагностика
8. Телекоммуникационное мошенничество, его обнаружение и предотвращение с помощью нейросетевых технологий — по мнению некоторых специалистов являются одной из самых перспективных технологий в области защиты информации в телекоммуникационных сетях.
9. Информационная безопасность

Заключение

Я вижу две основные стратегии, которые имеют смысл: выбрать графический процессор серии RTX 20, чтобы получить быстрое обновление, или выбрать дешевый графический процессор серии GTX 10 и обновить его, как только RTX Titan станет доступен.

Если вы менее серьезно относитесь к производительности или она просто не нужна вам, например, в случае с Kaggle и прототипированием, вы можете значительно выиграть от дешевых графических процессоров серии GTX 10. При этом, если вы выбираете графический процессор серии GTX 10, будьте осторожны, чтобы объем памяти графического процессора соответствовал вашим требованиям.

Читайте: Как попасть в топ 2% соревнования Kaggle