[john74 0]

Ребята, а кто-нибудь пытался реализовать нечто подобное, ну скажем на ПЛИС?

Изменено 17 апреля, 2008 пользователем john74

[DRUID3 0]

Ребята, а кто-нибудь пытался реализовать нечто подобное, ну скажем на ПЛИС?

А их реально только на них и следует "мастерить". Это истинно параллельные системы да еще с древовидной многоуровневой структурой(ну от конкретной сети зависит разумеется). Нейросети на универсальных процессорах или даже DSP - это больше забава или акадэмические исследования.

 

Но я не мастерил, т.к. на ПЛИС вообще не мастерю :) ...

[Aesthete Animus 0]

А стоит ли вообще их мастерить? Какие высокие задачи могут решить нейросети, чего нельзя сделать без них?

[john74 0]

А стоит ли вообще их мастерить? Какие высокие задачи могут решить нейросети, чего нельзя сделать без них?

 

Распознование голоса (команд), идентификация по голосу. Конечно, речь идет лишь о предварительной обработке, остальное в комп.

[DRUID3 0]

А стоит ли вообще их мастерить? Какие высокие задачи могут решить нейросети, чего нельзя сделать без них?

1) задачи сжатия данных с потерями в реальном времени - видео, изображения, голос...

 

2) распознавания образов...

 

3) адаптивная фильтрация - видео, изображения, голос...

 

Все случаи - беспрецедентная возможность распаралеливания - супер почва для ПЛИС. Именно потому то и применяют, НС, а не потому, что есть задачи с которыми не справится x51 контроллер + классический аппарат ЦОС.

 

4) возможность обучения и самообучения (несравнимо больше обобщенная, чем случай адаптивной фильтрации)

 

Но помимо огромного выигрыша в скорости работы, еще есть унифицирование единицы - т.е. плисер разрабатывает тот или иной нейрон, а потом, в зависимости от задачи объединяет их в ту или иную сеть.

 

Распознование голоса (команд), идентификация по голосу. Конечно, речь идет лишь о предварительной обработке, остальное в комп.

Ну такое, я Вам и без ПЛИС и нейросетей сделаю...

[Aesthete Animus 0]

1) задачи сжатия данных с потерями в реальном времени - видео, изображения, голос...

 

2) распознавания образов...

 

3) адаптивная фильтрация - видео, изображения, голос...

 

4) возможность обучения и самообучения (несравнимо больше обобщенная, чем случай адаптивной фильтрации)

И вы знаете много систем которые решают подобные задачи, в первую очередь, задачи распознавания образов (меня самого сильно заботить эта тема)? И много из них работают хорошо? И сколько из них сделаны на нейросетях?

 

P.S. Еще не хватало приплести сюда искуственный интеллект... :(

[DRUID3 0]

И вы знаете много систем которые решают подобные задачи, в первую очередь, задачи распознавания образов (меня самого сильно заботить эта тема)? И много из них работают хорошо? И сколько из них сделаны на нейросетях?

Ну, начнем с того, что я не спец ни по ПЛИС, ни по образам... Но когда-то я читал отличный учебник по НС "Нейронные сети для обработки информации" Станислав Осовский. Обратил внимание, что многие модели нейрона - те же инстар, аутстар Гроссберга очень напоминают корреляторы(ну аутстар скорее синтезатор по корреляционной функции). А их сети - по сути структура корреляторов. Я не знаю какие образы распознаете лично Вы, но если это нечто большее чем печатный текст, то Вам придется делать мсасштабирующий коррелятор по n-направлениям(ну сколько там задано). И если распознавать нужно довольно точно, то вские трюки с быстрой корреляцией через FFT отпадут ввиду редких случаев приведения масштаба изображения(например) к степени 2-ки. И в конце-концов структура станет очень похожей на нейросеть - только в профиль. :) Тем более, что если отпали модели с быстрой математикой, Вы захотите распаралелить задачу...

 

А работающих систем я незнаю ни одной, потому как не работаю в этой области... Но такой подход это чистой воды ретроградство. Так наверное Эдисон говорил Николе Тесле когда тот предлагал идею асинхронника переменного тока... А много ли... Какое мне дело, до заблуждений других? :)

 

И еще раз повторю - там очень важную роль играет универсальность подхода и параллельность. Эти сети пришли к нам из бионики, а не из радиоэлектроники и потому некоторые вещи там названы не совсем понятными электронщикам именами - но речь о том же, и та же проблема как соединить нейроны чтобы распознавать те или иные образы - это как создать систему параллельных корреляторов, но сказанное по-другому...

 

P.S. Еще не хватало приплести сюда искуственный интеллект... :(

Так ИИ это надсистема над распознавалками образов и адаптивными фильтрами...

Может Вы имели ввиду искусственный разум? Так и он - надсистемма над ИИ :) ...

[Aesthete Animus 0]

А работающих систем я незнаю ни одной, потому как не работаю в этой области...

А я работаю в смежной области... И знаете, я тоже не знаю ни одной системы, построенной на нейросетях (а я их искал)! И это притом, что над ними бьются очень много инженеров, ученых... Я считаю что это направление совершенно тупиковое, на нем угробилось уже не одно поколение математиков!

 

И еще раз повторю - там очень важную роль играет универсальность подхода и параллельность. Эти сети пришли к нам из бионики, а не из радиоэлектроники и потому некоторые вещи там названы не совсем понятными электронщикам именами - но речь о том же, и та же проблема как соединить нейроны чтобы распознавать те или иные образы - это как создать систему параллельных корреляторов, но сказанное по-другому...

Хоть убейте, но я не вижу там подхода! В чем заключается парадигма нейросетей? В том, что мы скопируем физику мозга: просуммируем сигналы, помноженные на синаптические коэффициенты, вычислим функцию от них и пошлем сигнал в аксон? Ну и что? Почему-то бытует такое заблуждение, что если мы возьмем достаточно запутанную и большую нейросеть, то она начнеи и образы распознавать и сигналы будет фильтровать и вообще, будет уметь делать много полезных вещей, а что не умеет, тому сможет научиться :01: :( Когда-то (как гласят легенды) было схожее заблуждение, что если сделаем болшой и мощный компутер, то он будет думать...

 

Опять таки, с чего Вы взяли, что эти сети пришли к нам из бионики? Да кто-то открыл способ работы нейрона, и что с того? Что теперь, пытаться повторить мозг, все больше и больше углубляясь в микроскопический уровень? И это веместо того, чтобы заняться анализом, целостной системы...

 

Ну, начнем с того, что я не спец ни по ПЛИС, ни по образам... Но когда-то я читал отличный учебник по НС "Нейронные сети для обработки информации" Станислав Осовский. Обратил внимание, что многие модели нейрона - те же инстар, аутстар Гроссберга очень напоминают корреляторы(ну аутстар скорее синтезатор по корреляционной функции). А их сети - по сути структура корреляторов. Я не знаю какие образы распознаете лично Вы, но если это нечто большее чем печатный текст, то Вам придется делать мсасштабирующий коррелятор по n-направлениям(ну сколько там задано). И если распознавать нужно довольно точно, то вские трюки с быстрой корреляцией через FFT отпадут ввиду редких случаев приведения масштаба изображения(например) к степени 2-ки. И в конце-концов структура станет очень похожей на нейросеть - только в профиль. :) Тем более, что если отпали модели с быстрой математикой, Вы захотите распаралелить задачу...

И сколько тот автор построил систем управления или информационных систем (не обязательно на нейросетях)? Как правило, эти книжки пишутся академиками, которые в жизни не щупали железяки. Сколько приходилось видеть книжки по обратным задачам динамики, теории... Все это имеет к реальной жизни, к реальным (в смысле осуществимым) системам такое же отношение, как насморк моего хомячка к решению о списании внешних долгов Ливии...

 

Так ИИ это надсистема над распознавалками образов и адаптивными фильтрами...

Может Вы имели ввиду искусственный разум? Так и он - надсистемма над ИИ :) ...

Вообще-то мое замечание насчет ИИ было больше стебным и риторическим... В любом случае, вы бросаетесь такими терминами, как адаптивный фильтр, так легко говорите, о том, что является чьей надсистемой, как-будто это все уже реализовано и есть какое-то устаявшееся и признанное мнение в умах ученых и инженеров...

[DRUID3 0]

...

Прочел...подумаю как Вам это доказать.

 

Просьба к администрации перенести тему сюда воД: http://electronix.ru/forum/index.php?showforum=164

Так как нейросети далеко не флемовая тема. Кстати, посмотрел на http://www.opencores.org/browse.cgi/by_category - ни одного проекта на НС. По-моему отличный повод молодым и начинающим энтузиастам проявить себя...

[Aesthete Animus 0]

Прочел...подумаю как Вам это доказать.

Зачем вам кому-то что-то доказывать? Я лишь говорю, что знаю: нейросети себя нигде не оправдали и надо искать другие пути. Я знаю, что нигде не буду их применять. Только и всего.

 

Также мне известно много бесплодных попыток применения нейросеток. Я к примеру не видел алгоритмов на нейросетях, которые могли бы отфильтровать сигнал с наложенным на него шумом большой амплитуды и частоты (этакая "борода"). Поэтому довольно жестко критикую нейросети как таковые, а "начинающим энтузиастам" советую найти другое поприще для самопроявления.

[john74 0]

А я работаю в смежной области... И знаете, я тоже не знаю ни одной системы, построенной на нейросетях (а я их искал)! И это притом, что над ними бьются очень много инженеров, ученых...

 

Я тоже искал. И знаете что любопытно, лет эдак 5 назад информации по нейросетям было валом. Были вполне конкретные разработки - платы расширения для ПК, стоили правда как параход. Сейчас пытаюсь найти инфу - очень сложно. Теория на уровне 20-ти летней давности есть, а вот новой информации почему-то нет. И это при том, что "над ними бьются очень много инженеров, ученых..."

 

Готовых проектов тоже не видел, поэтому есть желания попробовать, а в идеале найти единомышленников.

[Aesthete Animus 0]

Я тоже искал. И знаете что любопытно, лет эдак 5 назад информации по нейросетям было валом. Были вполне конкретные разработки - платы расширения для ПК, стоили правда как параход. Сейчас пытаюсь найти инфу - очень сложно. Теория на уровне 20-ти летней давности есть, а вот новой информации почему-то нет. И это при том, что "над ними бьются очень много инженеров, ученых..."

 

Готовых проектов тоже не видел, поэтому есть желания попробовать, а в идеале найти единомышленников.

Да в том то и дело, что давно поняли, что дело это бесперспективное и положили на него "балъшой надэжда" (С). Теория есть только двадцатилетней давности потому, что она уже двадцать лет назад показала свою полную несостоятельность! Теорий написали кучу, а только попытались воплотить в жизнь, как поняли, что это все очень далеко от физики реального мира.

 

Вы конечно можите поискать единомышленников, можите заняться собственными изысканиями, но прежде трижды подумайте, стоит ли оно того. Не лучше ли подойти к той же проблеме распознавания образов с несколько нестандартной стороны. Для начала кстати полезно иметь четкое представление, что понимается под "образом".

[DRUID3 0]

..Идея нейронной сети интересна, прежде всего, как альтернатива доминирующей идее «бегущей точки». В темной комнате луч лазерной указки носится по стенам.

Собственно, это современная парадигма программирования..

 

Построение/моделирование нейросети с помощью «лазерной указки», порочно (неэффективно) в принципе и может иметь только академический интерес.

Создание специальных микросхем более интересно, но, пока что, тоже тупиково..

 

Потому что «лужайка» вокруг представления о формальном нейроне уже вполне вытоптана, а новые «поляны» еще не открыты.. :)

н...я не понял...

[Aesthete Animus 0]

..Идея нейронной сети интересна, прежде всего, как альтернатива доминирующей идее «бегущей точки». В темной комнате луч лазерной указки носится по стенам.

Собственно, это современная парадигма программирования..

 

Построение/моделирование нейросети с помощью «лазерной указки», порочно (неэффективно) в принципе и может иметь только академический интерес.

Создание специальных микросхем более интересно, но, пока что, тоже тупиково..

 

Потому что «лужайка» вокруг представления о формальном нейроне уже вполне вытоптана, а новые «поляны» еще не открыты.. :)

Бррр... Что-то я не понял, что это за идея бегущей точки? Поясните нам, тоесть мне, сирому и убогому...

 

Во-первых, я не вижу, чтобы нейросеть давала какие-то альтернативы уже имеющимся парадигмам программирования - не в нейросетках надо эти альтернативы искать. Во-вторых, что за уверенность, что нейросеть сама по себе что-то дает и что-то может сделать?

 

"Построение/моделирование нейросети с помощью «лазерной указки», порочно (неэффективно)". Еще более порочна идея с помощью нейронов собрать мозг и надеятся, что он будет "работать"? Мозг это всего лишь вычислитель и на чем вы его сделаете - не имеет никакого значения. Важно то, как он обрабатывает внешние воздействия. Да, имеется проблема топологии в системах, применяемых повсеместно: например, стандартные компьютеры мало пригодны для построения систем управления. Таким образом для оригинальных задач приходится менять топологию системы, и нейросеть кстати принципиально отлична топологически от "алгебраической" машины фон Неймана. Но эти изменения должны определтсья не какой-то сверху взятой парадигмой, будь то нейронные сети или (нейро)нечеткие алгоритмы, они в первую очередь диктуются самой задачей или классом задач.

[Aesthete Animus 0]

..Всякая программа, пусть написанная на языке с высоким уровнем абстракции, в итоге, приводится к ассемблерной:

..инвертировать 5-й бит в регистре А;

..поместить регистр А в аккумулятор..

 

То есть, сводится к последовательному выполнению некоторых элементарных действий.

Именно последовательное выполнение процессором простейших действий, из заранее установленного списка, я назвал идеей «бегущей точки» или «лучом лазерной указки»

Это обычно называется конечным автоматом, или машиной состояний (что суть одно и тоже), коей и является машина фон Неймана, применяемая ныне повсеместно.

 

Базовая идея формального нейрона и её развитие в виде различных сетей и алгоритмов их обучения, представляет совершенно другой подход.

Желаемая реакция выхода сети на вход достигается изменением некоторых параметров (коэффициентов) в «теле» всей сети. То есть, некое изменение, новая информация, возникает и существует одновременно и параллельно, рапределенно.

А не в форме перезаписи конкретных локальных регистров.

Если посмотрите внимательно, то увидите, что всего того же можно добиться и без приславутых нейросетей. Естественно, здесь классическим конечным автоматом не обойтись. Поэтому я и говорю о проблеме топологии имеющихся вычислительных систем.

 

Да, надо искать новые топологии. Да, надо систему "растягивать", "дробить", "склеивать", "вырезать" из не ленты Мебиуса, "выдувать" бутылки Клйена. Но при этом топология вычислительной системы должна быть гомеоморфна топологии системы физической, топологии задачи. Но нельзя зацикливаться на этих нейросетях. Забудьте, что существует некое великое общее решение, оставьте поиски философского камня и святого грааля в обработке информации - все уникально и исключительно ввиду многообразия мира. Поэтому необходимо всякий раз искать исключительные, оригинальные решения - относитесь к сему как к искусству!..