Другая Cfd

[Alexey88 0]

Eugeen, здравсвуйте, расскажите о ваших успехах за 5 лет, прочитал вашу тему, интересно и непонятно, но хочется новой дозы =)

[Eugeen 6]

Eugeen, здравсвуйте, расскажите о ваших успехах за 5 лет, прочитал вашу тему, интересно и непонятно, но хочется новой дозы =)

Главное достижение за эти годы - вскрытие полезных свойств нейросетей и последующее приложение этого знания в практике.

Простой пример. Предположим у Вас есть некая система или устройство, которое Вы умеете рассчитывать с помощью программы, реализующей закны сохранения (энергии, массы, импульса и т.п.). Однако Ваша программа считает хотя и точно, но очень медленно, а Вам надо просчитать много вариантов. Я заметил, что используя для обучения нейросети такую программу, можно получить другую программу, реализующую нейросетевой алгоритм, но считающую гораздо быстрее.

Или, наприме, Вы обсчитываете некую систему на грубых сетках, но у Вас есть обученная НС (на мелкой сетке). В этом случае, поскольку НС обладает свойствами интерполяции и экстраполяции, Вы можете транслировать результаты на такую грубую сетку. Это очень полезно при разработке различных тренажеров и имитаторов, как программы контроля состояния систем или устройств, в которых проводятся измерения некоторых параметров, по которым надо оперативно определить, например техническое состояние, или даже прогнозировать отказ.

Моя область приложения - процессы и устройства для ядерной энергетики (ссылку на одну из опубликованных работ я дал выше), но похожие проблемы могут возникать и в других отраслях.

[Alexey88 0]

Главное достижение за эти годы - вскрытие полезных свойств нейросетей и последующее приложение этого знания в практике.

Простой пример. Предположим у Вас есть некая система или устройство, которое Вы умеете рассчитывать с помощью программы, реализующей закны сохранения (энергии, массы, импульса и т.п.). Однако Ваша программа считает хотя и точно, но очень медленно, а Вам надо просчитать много вариантов. Я заметил, что используя для обучения нейросети такую программу, можно получить другую программу, реализующую нейросетевой алгоритм, но считающую гораздо быстрее.

Или, наприме, Вы обсчитываете некую систему на грубых сетках, но у Вас есть обученная НС (на мелкой сетке). В этом случае, поскольку НС обладает свойствами интерполяции и экстраполяции, Вы можете транслировать результаты на такую грубую сетку. Это очень полезно при разработке различных тренажеров и имитаторов, как программы контроля состояния систем или устройств, в которых проводятся измерения некоторых параметров, по которым надо оперативно определить, например техническое состояние, или даже прогнозировать отказ.

Моя область приложения - процессы и устройства для ядерной энергетики (ссылку на одну из опубликованных работ я дал выше), но похожие проблемы могут возникать и в других отраслях.

С проблемами вычислительной области я уже сталкивался и не раз, действительно тема довольно таки актуальная, но вопрос в другом, как переписать существующий софт на алгоритм нейросетей?

Я не беру частные примеры рассмотренные выше труба и т.д., а глобальнее например моделирование гидродинамической модели месторождений или анализ морских сооружений, где модели каждый раз очень разнятся по входным параметрам и иногда используются разные алгоритмы

[Eugeen 6]

С проблемами вычислительной области я уже сталкивался и не раз, действительно тема довольно таки актуальная, но вопрос в другом, как переписать существующий софт на алгоритм нейросетей?

Я не беру частные примеры рассмотренные выше труба и т.д., а глобальнее например моделирование гидродинамической модели месторождений или анализ морских сооружений, где модели каждый раз очень разнятся по входным параметрам и иногда используются разные алгоритмы

В основе применения НС лежит теорема академика Колмогорова, завершившая его серию исследований для непрерывных функций: «Каждая непрерывная функция N переменных, заданная на единичном кубе N-мерного пространства, представима с помощью операций сложения, умножения и суперпозиции из непрерывных функций одного переменного» [1]. На этом фоне совершенно неожиданно выглядит тот факт, что любой многочлен от многих переменных может быть получен из одного произвольного нелинейного многочлена от одного переменного с помощью линейных операций и суперпозиции. Доказательство этой теоремы дано в [2].

1. Колмогоров А.Н. «О представлении непрерывных функций нескольких переменных суперпозициями непрерывных функций меньшего числа переменных». Докл. АН СССР, 1956. Т. 108, №. 2 С.179-182.

2. Горбань А.Н. «Обобщенная аппроксимационная теорема и вычислительные возможности нейронных сетей». Вычислительный центр СО РАН в г.Красноярске, 1993.Теория нейронных сетей

Ведь что Вы делаете, решая уравнения, напр., гидродинамики на некой сетке? Фактически Вы делаете аппроксимацию некой функции, являющейся решением этих уравнений.

В подавляющем числе практических расчетов нас интересует не поле рассчитываемых переменных, а вполне частный результат из всего поля, напр., подъемная сила крыла, или мксимальное напряжение в конструкции и т.п.

Обучив НС на всем поле, мы можем ее использовать только для получения ответов на частные вопросы. Все это регулируется при обучении НС по принципу черного ящика со входами и выходами. Фактически обученная НС есть достаточно сложная функциональная зависимость выходов от входов. Количество выходов и входов Вы определяете сами.

У меня НС после обучения и проверки на точность, представляет собой код на С++ (подпрограмму), где по входным параметрам вычисляются выходные. Чем больше примеров Вы привлекли к обучению НС, тем большим "знанием" она обладает.

В Ваших примерах это означает, что имея разные модели для своих объектов, на которых можно "проигрывать" различные ситуации, Вы сможете обучить НС рассчитывать (распознавать, интерполировать, экстраполировать) те случаи, которых у Вас в ваших обучающих множествах не было!

[HFL 34]

Или, наприме, Вы обсчитываете некую систему на грубых сетках, но у Вас есть обученная НС (на мелкой сетке). В этом случае, поскольку НС обладает свойствами интерполяции и экстраполяции, Вы можете транслировать результаты на такую грубую сетку

Вы изобрели FAS Multigrid ? Поздравляю

[Eugeen 6]

Вы изобрели FAS Multigrid ? Поздравляю

Я не присваиваю себе изобретение метода, а лишь пишу об одном из полезных свойств НС. Pourquoi pas, если само в руки идет?

[HFL 34]

Я не присваиваю себе изобретение метода, а лишь пишу об одном из полезных свойств НС. Pourquoi pas, если само в руки идет?

НС как концепт используются в CFD но совсем не так как вы описываете.

Действительно можно применять НС для аппроксимации но только для тех методов, которые используют метод аппроксимации например тот же самый DG. Там даже алгоритмы схожи с теми что применяются в НС. Могу ссылочку поискать на эту тему, где то валялась. Проблема в том что на данный момент не существует строгого доказательства даже существования и гладкости решения уравнений Навье-Стокса (сие доказательство - одна из тн "задач тысячелетия") так что из возможности использования НС для построения аппроксимации любой гладкой функции автоматически не следует возможности использования НС для аппроксимации решения FNS. А уж до практических реализаций как пешком до луны.

А как некий междисциплинарный концепт это пожалуйста.

Изменено 1 декабря 2012 пользователем HFL

[Eugeen 6]

НС как концепт используются в CFD но совсем не так как вы описываете.

Действительно можно применять НС для аппроксимации но только для тех методов, которые используют метод аппроксимации например тот же самый DG. Там даже алгоритмы схожи с теми что применяются в НС. Могу ссылочку поискать на эту тему, где то валялась. Проблема в том что на данный момент не существует строгого доказательства даже существования и гладкости решения уравнений Навье-Стокса (сие доказательство - одна из тн "задач тысячелетия") так что из возможности использования НС для построения аппроксимации любой гладкой функции автоматически не следует возможности использования НС для аппроксимации решения FNS. А уж до практических реализаций как пешком до луны.

А как некий междисциплинарный концепт это пожалуйста.

Сначала разложим мух и котлет по разным тарелкам.

Мухи - это методы обучения НС. Например Метод Опорных Векторов (SVM, support vector machine) — набор схожих алгоритмов вида «обучение с учителем». Этот метод может также рассматриваться как специальный случай регуляризации по А. Н. Тихонову.

Таким образом анализ задачи и выбор метода обучения НС решает проблему (практически), как впрочем и прямые методы численного интегрирования тех же уравнений Н-С.

Котлеты: Хотя всем здесь известно что, "... на данный момент не существует строгого доказательства даже существования и гладкости решения уравнений Навье-Стокса (сие доказательство - одна из тн "задач тысячелетия") " никто не обращает на это внимания (кроме, может быть Вас) при использовании различных пакетов CFD в своих расчетах. Мало того, множественное сравнение расчетных и экспериментальных данных иногда просто потрясает своей точностью.

В приведенной мною публикации вообще решается сопряженная 3D задача двухфазной неравновесной гидродинамики, теплообмена и нейтронной кинетики, где, выражаясь Вашими словами же "...на данный момент не существует вообще никакого доказательства существования и гладкости решения уравнений (сие доказательство - одна из тн "задач миллионолетия") .

Тем не менее обсчет всех benchmarks, рекомендованных IAEA, показал прекрасное совпадение.

Еще раз предлагаю прочитать мой пост <noindex>http://fsapr2000.ru/index.php?s=&showt...st&p=169463</noindex>

т.к. если твердо (твердолобо!) придерживаться мнения непререкаемых авторитетов, можно вместе с водой выплеснуть и ребенка.

[HFL 34]

Для начала.

Обещаная ссылка про связь DG и RBF

<noindex>http://lib.uni-dubna.ru/search/files/stat_...ssion_6/6_4.htm</noindex>

Сначала разложим мух и котлет по разным тарелкам.

Мухи - это методы обучения НС. Например Метод Опорных Векторов (SVM, support vector machine) — набор схожих алгоритмов вида «обучение с учителем». Этот метод может также рассматриваться как специальный случай регуляризации по А. Н. Тихонову.

Таким образом анализ задачи и выбор метода обучения НС решает проблему (практически), как впрочем и прямые методы численного интегрирования тех же уравнений Н-С.

Котлеты: Хотя всем здесь известно что, "... на данный момент не существует строгого доказательства даже существования и гладкости решения уравнений Навье-Стокса (сие доказательство - одна из тн "задач тысячелетия") " никто не обращает на это внимания (кроме, может быть Вас) при использовании различных пакетов CFD в своих расчетах. Мало того, множественное сравнение расчетных и экспериментальных данных иногда просто потрясает своей точностью.

Находять (при этом не всегда) приближенное (SIC!) решение.

Все копья как раз и ломаются вокруг точности этого приближения (см. например <noindex>http://aaac.larc.nasa.gov/tsab/cfdlarc/aiaa-dpw/)</noindex>

В приведенной мною публикации вообще решается сопряженная 3D задача двухфазной неравновесной гидродинамики, теплообмена и нейтронной кинетики, где, выражаясь Вашими словами же "...на данный момент не существует вообще никакого доказательства существования и гладкости решения уравнений (сие доказательство - одна из тн "задач миллионолетия") .

Тем не менее обсчет всех benchmarks, рекомендованных IAEA, показал прекрасное совпадение.

Ну а куда им деваться то

PS: Мне сложно что либо судить о материалах, изложенных в вышеприведенной статье. Я там не увидел ни одного гидродинамического уравнения

Изменено 1 декабря 2012 пользователем HFL

[Eugeen 6]

PS: Мне сложно что либо судить о материалах, изложенных в вышеприведенной статье. Я там не увидел ни одного гидродинамического уравнения

Да нет проблем! Смотрите описание во вложении.

ModelsMethods_21A.pdf

[vl 327]

Мы немного экспериментировали с решением краевых задач с помощью НС.

Статические задачи с уравнением Лапласа.

Для той же точности получили очень медленную сходимость. В смысле сеть долго обучалась, прежде чем выдать нужную точность.

Хотя там могли быть косяки в реализации, так что продолжим еще работы.

Для динамической задачи использовали НС с клеточными автоматами.

Там все замечательно, все летает, но задача по разбиению соответствовала МКР, поэтому мне была не особо интересна.

Так что здесь вопрос дальнейших исследований, для каких задач НС годятся. Годятся в смысле лучше чем текущие методы - МКЭ, МКО, бессеточные и т.д.

[Eugeen 6]

Для той же точности получили очень медленную сходимость. В смысле сеть долго обучалась, прежде чем выдать нужную точность.

Мы пользуем программу Neurosolution (6 версия). Там реализован метод Левенберга-Маквардета на CUDA. Считает примерно в 6 раз быстрее чем на i-3930 тем же методом. Вообще прога очень удобная и постоянно развивается, что немаловажно. Теперь охватывает практически все виды НС.

[_serge 24]

Не думаю, что в области гидродинамики нужно идти этим путем. В широком смысле.

Много нелинейных явлений и неожиданных эффектов.

Которые методами интерполяции достоверно непредсказуемы.

Это как-то напоминает переход от функции Больцмана к функции состояний Гиббса.

Не представляю потребных ресурсов ЭВМ, которая хотя бы с инженерной точностью позволила такую функцию научить (создать) и хранить. Возможно в области химических технологий - в пробирке это реализуемо.

А в гидродинамике НС модели имеют крайне ограниченную область применения.

Хотя помню диссертацию по оптимизации формы, но, опять же узкого класса изделий и режимов, где использовались НС модели. Так, что это уже реализовано.

[Eugeen 6]

А в гидродинамике НС модели имеют крайне ограниченную область применения.

Стакан наполовину пуст, или наполовину полон?

Если сейчас применение НС ограничено, то самое время эти границы раздвигать

[_serge 24]

Кстати, вспомнил:

<noindex>Выпуск 2678, Применение искусственных нейронных сетей в задачах прикладной аэродинамики</noindex>,

<noindex>Выпуск 2686, Применение искусственных нейронных сетей для быстрой оценки характеристик аэродинамических профилей</noindex>.

[Eugeen 6]

Кстати, вспомнил:

<noindex>Выпуск 2678, Применение искусственных нейронных сетей в задачах прикладной аэродинамики</noindex>,

<noindex>Выпуск 2686, Применение искусственных нейронных сетей для быстрой оценки характеристик аэродинамических профилей</noindex>.

Ну вот, а Вы говорите - ограничено! А народ работает! И это есть хорошо

[a_schelyaev 371]

А в гидродинамике НС модели имеют крайне ограниченную область применения.

Ну мне казалось, что НС это из области создания суррогатных моделей и, по сути, к тому, что они собой подменяют отношения имеют постольку поскольку.

То, что они имеют ограниченную область применения, то только потому, что спрос не сформирован и технологическая платформа под них.

Например, в части задач проектирования ЛА суррогатные омдели очень даже в ходу.

[CNР 0]

Любой оптимайзер, iSIGHT, modeFrontier, VisualDOC имеет кучу методов построения поверхностей отклика, в том числе и с помощью нейросетей (не сказать, что это самый универсальный и лучший способ на все случаи жизни). IOSO так вообще внутри себя содержит кучу моделей поверхностей отклика и играет ими в процессе оптимизации. Этим активно и давно все пользуются.

Самая большая проблема для моделей поверхности отклика - если вы пытаетесь построить такую модель на большом пространстве области поиска и при этом у вас куча переменных (многомерная функция), то в реальные удобоворимые сроки вы такую модель с достаточной точностью не построите. Если функция имеет сложную топологию промахнетесь мимо экстремумов как пить дать.

[vl 327]

Самая большая проблема для моделей поверхности отклика - если вы пытаетесь построить такую модель на большом пространстве области поиска и при этом у вас куча переменных (многомерная функция), то в реальные удобоворимые сроки вы такую модель с достаточной точностью не построите. Если функция имеет сложную топологию промахнетесь мимо экстремумов как пить дать.

все верно.

Но смысл исследований применимости НС как раз и состоит в поиске топологии сети, активационной функции и другого, так чтобы результат работы НС был удовлетворительным.

Причем речь идет не просто о построении функции путем аппроксимации на готовых результатах. Идея такая же, как и в МКЭ, точнее в Галеркене, в минимизации функционала, описанного ДУ, с помощью некоторых функций форм. Причем в силу того, что функции в НС могут быть весьма нелинейными, то и аппроксимируемая поверхность также может быть довольно сложной. Плюс не надо сетки КЭ, достаточно разбиения области по точкам. Хотя вокруг этого разбиения тоже идут танцы - как, что, где, вплоть до усреднения решения для разных разбиений.

Надо изначально понимать, что решение с помощью НС скорее всего (на текущем этапе развития теории) будет гораздо медленнее, чем стандартными методами (что и подтверждают, к примеру, наши эксперименты). Но определенные виды задач (особенно. где сетка сильно модифицируется или вовсе разрушается) плюс использование спец.железа (параллельные процессоры, теже GPU или специальные нейронные процессоры) могут дать им преимущество по сравнению с классическими методами за счет отсутствия привязки к сетке и хорошей параллелизации.

В любом случае это все далекий НИР и требует серъезных исследований.

[a_schelyaev 371]

Ну так и и алгоритмы с которых НС будет "обезъяничать", то же не стоят на месте и также растут в скорострельности исполнения на обычном железе.

Так что, гонка может оказаться вечной.

:)