Перейти к публикации

Рекомендованные сообщения

Где-то я слышал, что чтобы НС обучить простейшей таблицы умножения, требуется пару дней. Что же будет с газодинамикой.? НС - это все-таки апроксимация, невозможно получить результат неученный ранее, то есть невозможно получить остаток от деления не показав пример? Так? Или нет? А общие законы сохранения все-таки едины для всего и ожидать от них можно все что угодно, тем самым найти какое-то новое решение, неизученное (людьми) до сих пор явление??.

НС, как мне известно, широко используют в прогнозирование, например, предсказание исхода футбольного матча или катировок акций на рынке, где множество объективных и субъективных входных параметров, вклад которых в конечную цель (значение функции) тяжело оценить?? А газодинамика - точная наука. Мне кажется, что НС можно использовать, как предсказатель возможного результата, который все равно надо проверять на CFD, результат на CFD, в свою очередь, необходимо проврять натурным опытом, то есть замкнутый круг. Говорят, что опытный специалист, с ошибкой в 30-40%, навскидку, может выдать результат решаемой задачи?? Человек - лучший апроксиматор. :rolleyes:

Ссылка на сообщение
Поделиться на других сайтах


Где-то я слышал, что чтобы НС обучить простейшей таблицы умножения, требуется пару дней. Что же будет с газодинамикой.? НС - это все-таки апроксимация, невозможно получить результат неученный ранее, то есть невозможно получить остаток от деления не показав пример? Так? Или нет? А общие законы сохранения все-таки едины для всего и ожидать от них можно все что угодно, тем самым найти какое-то новое решение, неизученное (людьми) до сих пор явление??.

НС, как мне известно, широко используют в прогнозирование, например, предсказание исхода футбольного матча или катировок акций на рынке, где множество объективных и субъективных входных параметров, вклад которых в конечную цель (значение функции) тяжело оценить?? А газодинамика - точная наука. Мне кажется, что НС можно использовать, как предсказатель возможного результата, который все равно надо проверять на CFD, результат на CFD, в свою очередь, необходимо проврять натурным опытом, то есть замкнутый круг. Говорят, что опытный специалист, с ошибкой в 30-40%, навскидку, может выдать результат решаемой задачи?? Человек - лучший апроксиматор. :rolleyes:

Прочитав Ваш пост я вспомнил одно определение - эклектика, советую посмотреть филосовский словарь.

В ненаучных но популярных массмедиа тех, кто занимается нейросетями, представляют этакими чукотскими шаманами с бубнами, гипнотически действующими на толпу оленеводов, подогретых 40-градусной огненной водой.

Советую Вам перейти к ознакомлению с серьезной литературой по НС, т.к. это один из разделов математики, науки даже более точной и строгой , чем гидродинамика!

Заметьте также, что ни один исследователь НС (и я в том числе) нигде не утверждал, что НС позволяют делать открытия новых законов природы. Использование НС для задач прогнозирования не больше чем иное приложение математической статистики (см. определение), более удобное и универсальное для ряда практических приложений.

Что касается CFD то отмечу, что НС - хороший аппроксиматор области решения и в отличие от интерполятора может достаточно правильно экстраполировать решение на область, которая не входила в диапазон обучения. Математически это вполне понятно и шаманский бубен здесь нипричем.

Еще одно замечание.

Решение задачи "о буре в стакане воды" с помощью CFD не есть высшее достижение для практики. Для практических инженеров применение современных кодов CFD всегда сопряжено с огромными трудностями (построение сеток, граничные условия, стыковки областей и пр.). А ведь ему надо быстро решить свою практическую задачу, а не писать диссертацию. Современные коды CFD ему этого не дают!

Надо сделать иной инструмент, похожий, например, на детскую игру PUZZLE, когда из готовых примитивных "загогулин" ребенок может собирать сложные картинки и образы. Именно такими PUZZLE я и занимаюсь.

Ссылка на сообщение
Поделиться на других сайтах

А может проще реализовать явный решатель и потом, годиков через 5, на кластере с 100 ядерными процессароми начать считать?

Ссылка на сообщение
Поделиться на других сайтах

А можно посмотреть на beta версию. Заодно и потестить?

Нет проблем. Результаты мои, что хочу то и делаю с ними. Файл в формате *.nsp, требуется соответствующая программа(Neurosolution) для операций с ним.

Программу передавать не имею права (защищена лицензией), но Вы можете купить ее на фирме-производителе (NeuroDimension).

Ссылка на сообщение
Поделиться на других сайтах

А может проще реализовать явный решатель и потом, годиков через 5, на кластере с 100 ядерными процессароми начать считать?

К тому времени нейропроцессоры будут, я думаю, давать эффективное быстродействие раз в сто больше чем такие кластеры.

Если уже сейчас выпускаются ПЛИСы до 3 500 000 вентилей, то при раскладе по 1000 вентилей на 1 персептрон (это я с бооольшим запасом!), то считайте 3500 нейропроцессоров уже сейчас в одной микросхеме можно поиметь!

Понятно и ежу, что процессорам общего назначения, даже многоядерным, не угнаться за нейро! Но если для Пней и Амудей написана туча софта, то для нейро - кот наплакал. Но дело быстро выправляется. Число публикаций по нейро (год назад я цитировал здесь 3 500 000) на сегодня уже 5,463,000 (см. <noindex>http://search.lycos.com/index.php?src=sf&query=neural)</noindex>

Все-таки Академик Виктор Михайлович Глушков рано умер, его идеи опережали время на полвека точно, а может и больше!

С его смертью, как это всегда у нас было (см. про Королева, Лавочкина, и тд и тп) его последователе быстро заклевали и заплевали, а дело похерили.

Ссылка на сообщение
Поделиться на других сайтах

Понятно и ежу, что процессорам общего назначения, даже многоядерным, не угнаться за нейро!

Это-то понятно, что процессорам общего назначения не угнаться. Так на них гонки не устраивают. Помню в Советском Союзе было принято сравнивать экономические показатели с 1913 годом. Если уж проводить сравнение, то с процессорами специАААльного назначения. А что будет через 50 лет так это пожуем – увидим.
Ссылка на сообщение
Поделиться на других сайтах

Это-то понятно, что процессорам общего назначения не угнаться. Так на них гонки не устраивают. Помню в Советском Союзе было принято сравнивать экономические показатели с 1913 годом. Если уж проводить сравнение, то с процессорами специАААльного назначения. А что будет через 50 лет так это пожуем – увидим.

Я и сейчас сравнил бы с 1913 годом многое. Например затраты на содержание царской семьи с нынешними на содержание аппарата президента, или потребление водки на душу населения, или производство продуктов питания на ту же душу, да и многое другое из "вечных ценностей".

Совсем не уверен, что сравнение будет в пользу современной России.

К процессорам.

Путь экстенсивного наращивания количественных показателей процессоров тупиковый.

В начале развития ВТ бытовало мнение что ЭВМ быстро перерешают все насущные задачи и дальше уже нечего будет решать. Сегодня над этим потешаются. Есть только четырехядерные процы, а у г-на Щеляева уже есть задачи для 100-ядерного! Для удовлетворения аппетитов должен быть качественный скачек, переход на иную архитектуру вычислений. Вполне вероятно, что прототипом будет нейро, а может быть и сам мозг человека?

Ссылка на сообщение
Поделиться на других сайтах

Какова же процедура набора задачи из НС-примитивов.

Опять же рассмотрим простую задачу течения воды в обогреваемой трубе произвольной длины.

Предположим, что до этого мы обучили НС-примитив метровой (сантиметровой, дециметровой) длины.

Имея на входе параметры потока в первом примитиве, мы стыкуем между собой два НС-примитива, причем выход первого НС-примитива является входом второго. Имея ограниченный набор длин НС-примитивов мы из них можем набрать сложную конструкцию.

Теперь давайте пойдем дальше. В сеточных аппроксимациях задач матфизики (куда относится и ГД) используется ограниченный, весьма бедный набор элементарных ячеек (конечных элементов, конечных объемов ит.п.).

Представьте теперь, что Вы создали и обучили НС-примитивы сеточных аналогов, но формы их гораздо сложнее по геометрии. после чего "набирать" сложную геометрию объекта из таких "puzzle" будет гораздо проще, а расчеты будут идти гораздо быстрее, а памяти нужно гораздо меньше! Ведь "puzzle" Вы уже обучили чему надо ранее!

Интересно

а теорию расчета пограничного слоя тоже можно построить с помощью нейросети

Эта задача по сложности соизмерима с системой труб?

У Wolfram под Mathematica случайно нет сторонних приложений для работы с НС?

Ссылка на сообщение
Поделиться на других сайтах

Почитал статью, из которой понял, что данный подход хорош для аппроксимации и интерполяции табличных значений.

Уравнения гидродинамики описывают процесс в точке. Задача состоит лишь в том, чтобы получить решение в пространстве.

Аддитивный подход здесь не проходит. Например, возьмите две трубы разного диаметра. Какое будет общее решение, всем известно.

Уж никак не сумма двух отдельных решений. То есть, набор примитивов ничего не дает.

Хотя не буду утверждать, что я что-то понял в предлагаемой идее.

Ссылка на сообщение
Поделиться на других сайтах

Есть только четырехядерные процы

Видимо у кого-то есть только 4-х ядерные

Для удовлетворения аппетитов должен быть качественный скачек, переход на иную архитектуру вычислений.

Так я и говорю про иную архитектуру вычислений. Она уже давно существует и развитие не стоит на месте. Только сранение с ней не будет в пользу нейросетей. Пока не будет. И по этой причине народ не торопится вкладывать время и деньги в предлагаемый подход.
Ссылка на сообщение
Поделиться на других сайтах

Интересно

а теорию расчета пограничного слоя тоже можно построить с помощью нейросети

Эта задача по сложности соизмерима с системой труб?

У Wolfram под Mathematica случайно нет сторонних приложений для работы с НС?

НС не строят теории. НС - математический аппарат приближения (аппроксимации) обобщенных функций, в т.ч. дифференциальных и интегральных уравнений, стохастических фукнкций и многого другого.

Пролистайте книгу С. Хайкина по НС. Очень полезно для понимания места и возможностей НС:

Скачать можно здесь (PDF, ~ 100Mb)

1 часть <noindex>http://natahaus.ifolder.ru/538731</noindex>

2 часть <noindex>http://natahaus.ifolder.ru/538732</noindex>

3 часть <noindex>http://natahaus.ifolder.ru/538733</noindex>

4 часть <noindex>http://natahaus.ifolder.ru/538730</noindex>

Не теорию, а саму методику расчета погранслоя можно сделать на НС.

Под MatLAB точно есть приложения для НС, про Mathematica не скажу точно.

Почитал статью, из которой понял, что данный подход хорош для аппроксимации и интерполяции табличных значений.

Уравнения гидродинамики описывают процесс в точке. Задача состоит лишь в том, чтобы получить решение в пространстве.

Аддитивный подход здесь не проходит. Например, возьмите две трубы разного диаметра. Какое будет общее решение, всем известно.

Уж никак не сумма двух отдельных решений. То есть, набор примитивов ничего не дает.

Хотя не буду утверждать, что я что-то понял в предлагаемой идее.

Мы сочленяем две трубы разного диаметра.. С одного конца среда входит с известными параметрами, с другого выходит с неизвестными. Для первой трубы на выходе перед сочленением НС дает значения выходных параметров среды, которые тут же используются той же НС как входные параметры для второй трубы. И так далее. Вот и весь процесс расчета!
Ссылка на сообщение
Поделиться на других сайтах

Так я и говорю про иную архитектуру вычислений. Она уже давно существует и развитие не стоит на месте. Только сранение с ней не будет в пользу нейросетей. Пока не будет. И по этой причине народ не торопится вкладывать время и деньги в предлагаемый подход.

1. Я. заметьте, нигде и никогда не утверждал что сравнение будет однозначно в пользу НС. Особенно "про будущее"!

2. Про народ, который не торопится.

С одной стороны: Festina lente, говаривал еще император Август.

С другой стороны многие художники продавали свои полотна за гроши, поддаваясь мнению толпы о своих низких способностях, а те кто понял раньше других их ценность, потом наживали на этих полотнах миллионы!

Ссылка на сообщение
Поделиться на других сайтах

Для более сложных случаев есть и более универсальный механизм: рекуррентные нейросети.

Введение рекурсии позволяет обучать НС с дополнительными способностями: запаздывание-опережение, сдвиг по фазе и многое другое.

Наверно совсем глупый вопрос задам

Где гарантия что при конструировании НС из кубиков с обратными связями

мы не получил генератора вместо аппроксиматора

В кубике это наверное можно контролировать при обучении а в системе из кубиков этого я думаю не получится

Ссылка на сообщение
Поделиться на других сайтах

Для удовлетворения аппетитов должен быть качественный скачек, переход на иную архитектуру вычислений. Вполне вероятно, что прототипом будет нейро, а может быть и сам мозг человека?

Качественно нового скачка в развитии проецссорных технологий ждут уже давно. Раньше думалось (когда у всех были 200-ые пни), что будь уменя 1000 МГц, винды, будут не загружатся, а просто выпригивать... :clap_1: , к сожелению такого не просходит. Проблема в том, что длину волны оптического луча невозмоно уменьшать до бесконечноти, таким образом ограничивается ширина "дорожек", тем самым тактовая частота. Единственный выход - многядерность. Альтернативы пока не существует, кроме утопических идей об вжевление чипа в мозг, прямотаки голова профессора Доуля. Все может. Ничего не просит. Интим не предлагать. :rolleyes:

Просто пока что у людей достачно скептическое и недоверительное отношение к НС, ввиду их небольшой популярности. Мне кажется, что НС не дадут такого скачка, как вы обещаете. Их разрабатывали давным-давно, потом забыли, так как сами тоже требуют не малых ресурсов, которых в то время не было. Сейчас, когда ВТ общедоступна и мощна, НС обрела новую жизнь, и появилось много прикладных программ, типа упомянутого NeroSolutions, но дело в том, что я ни разу не видел ни одной популярной НС? Почему? У всех плохо получается? Или в чем проблема? Почему не построить, например, Nero Excel, или еще что-нибудь?

Ссылка на сообщение
Поделиться на других сайтах

Наверно совсем глупый вопрос задам

Где гарантия что при конструировании НС из кубиков с обратными связями

мы не получил генератора вместо аппроксиматора

В кубике это наверное можно контролировать при обучении а в системе из кубиков этого я думаю не получится

В одном монастыре в Тибете монахи бездумно и бессистемно перебирают кубики с буквами, получая какие-то слова. Иногда получается что-то вразумительное, а обычно - полная чушь.

Но человек с высшим специальным образованием не должен уподобляться тем монахам и должен понимать цель обучения НС и методику использования обученной НС. Разьве это трудно понять?

Вот я и второй раз утверждаю, что НС не бубен шамана, а строгая наука, где если уж вы берете интеграл от экспоненты, то тангенс точно не получится!

Ссылка на сообщение
Поделиться на других сайтах

Качественно нового скачка в развитии проецссорных технологий ждут уже давно. Раньше думалось (когда у всех были 200-ые пни), что будь уменя 1000 МГц, винды, будут не загружатся, а просто выпригивать... :clap_1: , к сожелению такого не просходит. Проблема в том, что длину волны оптического луча невозмоно уменьшать до бесконечноти, таким образом ограничивается ширина "дорожек", тем самым тактовая частота. Единственный выход - многядерность. Альтернативы пока не существует, кроме утопических идей об вжевление чипа в мозг, прямотаки голова профессора Доуля. Все может. Ничего не просит. Интим не предлагать. :rolleyes:

Просто пока что у людей достачно скептическое и недоверительное отношение к НС, ввиду их небольшой популярности. Мне кажется, что НС не дадут такого скачка, как вы обещаете. Их разрабатывали давным-давно, потом забыли, так как сами тоже требуют не малых ресурсов, которых в то время не было. Сейчас, когда ВТ общедоступна и мощна, НС обрела новую жизнь, и появилось много прикладных программ, типа упомянутого NeroSolutions, но дело в том, что я ни разу не видел ни одной популярной НС? Почему? У всех плохо получается? Или в чем проблема? Почему не построить, например, Nero Excel, или еще что-нибудь?

Почитайте Хайкина, хотябы введение и исторический экскурс.

Про то как математик с мировым именем, Марвин Минский в своем совместном труде с не менее известным Сэмом Пайпертом - "Perceptrones", Сambridge, MIT Press, 1969 предрек полную непригодность нейронных сетей с многослойными персептронами для задач аппроксимации.

Многие математики сразу бросили заниматься "делом без будущего" и ушли в другие разделы математики.

Однако несколько идиотов (Руммельхарт, Хинтон, Вильямс и др.) этого труда не читали и по незнанию разработали теорию обучения многослойных персептронов на основе BackProp - метода обратного распространения ошибки ( чем многие сейчас и пользуются на практике!).

Если Вы "...разу не видел ни одной популярной НС", порсмотрите:

<noindex>http://forex.kbpauk.ru/ubbthreads.php</noindex>

<noindex>http://www.neuroschool.narod.ru/links.html</noindex>

чтобы убедиться как у других получается с НС

Кстати в NeroSolutions есть и NeuroExel.

Ссылка на сообщение
Поделиться на других сайтах

1. Я. заметьте, нигде и никогда не утверждал что сравнение будет однозначно в пользу НС. Особенно "про будущее"!

Сравнения, положим, никакого не было. Даже на простых примерах. И даже для пней.

А ведь сравнивать нужно с векторными и матричными процессорами, а не с 1913 годом.

Ссылка на сообщение
Поделиться на других сайтах

Есть только четырехядерные процы, а у г-на Щеляева уже есть задачи для 100-ядерного!

Для удовлетворения аппетитов должен быть качественный скачек, переход на иную архитектуру вычислений. Вполне вероятно, что прототипом будет нейро, а может быть и сам мозг человека?

Есшли вы не заметили (или не хотите замечать), то архитектура вычислений меняется уже давно и неоднократно.

Последний писк моды это вычисление с помощью процессоров видеокарт, которые на специальных задачах кладут общевойсковые процессоры на лопатки. Многоядерные процессоры с числом ядер близким к сотне в лаборатириях уже гоняются во всю.

80-ядерный процессор Интел был недавно представлен, как мы все помним. Процессор Cell уже вовсю трудится в игровых приставках. Ну а про матричные процессор лаборатори Крей ресерч уж не знать то срамотно.

Именно архитектура подобных процессоров и является архитектурой вычислений.

Если завтра вам дадут подобные процессоры, то УЖЕ ИМЕЮЩИЙСЯ софт можно с минимальными доработками на уровне поддержки ОС использовать в полной мере. И ничего создавать не надо.

Просто помимо научных интересов есть еще и рыночные. Если контора не получает прибыль, контора закрывается.

Ссылка на сообщение
Поделиться на других сайтах

Есшли вы не заметили (или не хотите замечать), то архитектура вычислений меняется уже давно и неоднократно.

Последний писк моды это вычисление с помощью процессоров видеокарт, которые на специальных задачах кладут общевойсковые процессоры на лопатки. Многоядерные процессоры с числом ядер близким к сотне в лаборатириях уже гоняются во всю.

80-ядерный процессор Интел был недавно представлен, как мы все помним. Процессор Cell уже вовсю трудится в игровых приставках. Ну а про матричные процессор лаборатори Крей ресерч уж не знать то срамотно.

Именно архитектура подобных процессоров и является архитектурой вычислений.

Если завтра вам дадут подобные процессоры, то УЖЕ ИМЕЮЩИЙСЯ софт можно с минимальными доработками на уровне поддержки ОС использовать в полной мере. И ничего создавать не надо.

Просто помимо научных интересов есть еще и рыночные. Если контора не получает прибыль, контора закрывается.

Только не надо говорить что Вы один про это знаете. На векторно-конвейерной CONVEX C4600 я работал, гогда Вы еще в школу ходили (или в ясли?). Не передергивайте когда я говорю о новой архитектуре я не имею в виду разработко 30-ти летней давности.

Сразу два кирпича класть в стену придумал Чарли Чаплин (см. фильм 30-х годов прошлого века), а потом у него украли идею параллельной архитектуры.

Это ведь все равно количественное развитие а не качественный скачек.

Да 100 ядер лучше чем одно, да 100 компов лучше чем 10! Но это Вам скажет и первокласник-двоешник, разбуди его ночью!

Что такое качественный скачек?

Это когда вы привозите в Хиросиму десять пароходов тола и пытаетесь ее уничтожить, или сбрасываете атомную бомбу несозмеримо меньшую чем 10 пароходов, но горадо более мощьную.

А когда каждые полгода появляется пень с 2-4-8-...80 ядрами где здесь качественный скачек. Это называется эволюцией!

Ссылка на сообщение
Поделиться на других сайтах

Присоединяйтесь к обсуждению

Вы можете опубликовать сообщение сейчас, а зарегистрироваться позже. Если у вас есть аккаунт, войдите в него для написания от своего имени.
Примечание: вашему сообщению потребуется утверждение модератора, прежде чем оно станет доступным.

Гость
Ответить в тему...

×   Вставлено в виде отформатированного текста.   Вставить в виде обычного текста

  Разрешено не более 75 эмодзи.

×   Ваша ссылка была автоматически встроена.   Отобразить как ссылку

×   Ваш предыдущий контент был восстановлен.   Очистить редактор

×   Вы не можете вставить изображения напрямую. Загрузите или вставьте изображения по ссылке.

  • Сейчас на странице   0 пользователей

    Нет пользователей, просматривающих эту страницу.




×
×
  • Создать...