chatGPT, или что ждёт инженера в будущем

[grOOmi 323]

Собственно попробовал chatGPT, по итогам выводы простые:

1. 2-3 года и специалистов по CAM можно будет готовить намного меньше. Та самая большая зелёная кнопка появится.

2. Программистам уже надо искать сферы куда пойти.

3. Многие задачи по созданию текстов решаются достаточно профессионально и быстро

 

Вывод простой человеков надо будет меньше, но скилл их должен быть очень высоким.

[Fedor 1 630]

А еще надувных женщин делают с ИИ  https://news.ru/technology/razrabotchiki-vnedrili-iskusstvennyj-intellekt-v-seks-robotov/    :) 

[GS 2 326]

1 час назад, AlexKaz сказал:

скорее всего та же самая унылая Alpaca

Не буду спорить , но пишут что - Llama 

и 

версию GPT-4 по ссылкам от 12.04.23 -  (см выше)

Скрытый текст

 

Идем сюда  и выбираем подходящую нам модель формата ggml:

— LLaMA — исходная слитая модель от Meta. Не обучена и практически без цензуры;
— Alpaca — самая привлекательная модель, дотренированная на данных с инструкциями версия LLaMA. Рекомендуем GPT4xAlpaca;
— Vicuna — та же LLaMA, но тренировали ее на диалогах с ChatGPT. Максимально на него похожа, в том числе цензурой.

Учтите, что у моделей разное количество параметров (7B, 13B и т.д.) — чем их больше, тем лучше, но чат-бот будет отвечать дольше. Кроме того, возрастет и нагрузка на процессор и ОЗУ. Загружаем понравившуюся модель с помощью торрента.

13B ~ 7.5 Gb

 

так никто не поставил ??

==

==

А унылая - зависит от размера версии ??

===

ЗЫ

На Дзене коммент -

===

===

Ну тады - ой! (с)

 

Изменено 19 апреля 2023 пользователем GS

[AlexKaz 1 851]

1 час назад, GS сказал:

А унылая - зависит от размера версии ??

Имею в виду, по сравнению с коммерческим чат-ботом от openai. Будет медленно и только в текстовом формате. Картинки не примет.

1 час назад, GS сказал:

13B ~ 7.5 Gb

А, ну это лучше, чем минималка на 4 ГБ. Минимальная база данных довольно несвязно генерит тексты.

1 час назад, GS сказал:

На Дзене коммент -

Ага, как писал выше, у меня без видеокарты пара Xeon 2667v4 генерят на 30B 10-15 слов в секунду, на 13В вроде в два раза быстрее, но не для всех запросов. На Xeon получается быстрее, чем на intel 12900. На ноуте или 2-4 ядерной рабочей машинке всё будет весьма медленно. Как придут купленные на мегараспродаже пара 14-ядерных 2690v4 - отпишусь...

13 минут назад, AlexKaz сказал:

10-15 слов в секунду

ээ, не слов, а символов =)

Изменено 19 апреля 2023 пользователем AlexKaz

[GS 2 326]

===

"Мечты, мечты, Где ваша сладость?"

(с) Пушкин А.С.

=====

17.04.2023 в 17:19, fantom.ul сказал:

Вы хотите сказать, что к мелкомяхким сетка не имеет никакого отношения?

===

===

(с) Datacenterdynamics 

тыц

===

Скрытый текст

 

Напомнило - "И я не удивлюсь, если завтра выяснится, что ваш муж тайно посещает любовницу!"

===

https://www.youtube.com/watch?v=KcjAElP8Qz8

 

 

 

[GS 2 326]

17.04.2023 в 16:50, fantom.ul сказал:

Вы разработчик этого сервиса, чтобы так уверенно заявлять о безопасности? 

===

 

Цитата

 

Итак, насколько же велика опасность того, что злоумышленники будут использовать ChatGPT?
 

• В рамках первого сценария — советов по взлому — с ChatGPT, безусловно, удобно. Она даёт неплохие советы. Но инструкции по взлому есть и в интернете, включая курсы по этичному хакингу и тестированию на проникновение. Как правило, там можно найти гораздо более точную информацию — без фактических ошибок. Кроме того, надо помнить, что знания ChatGPT ограничены осенью 2021 года.

 

Цитата

В общем, пока что ChatGPT не даёт большого преимущества злоумышленникам. Это — уже хорошая новость для специалистов по информационной безопасности.

 

====

Спокуха(c) - "Доктор разрешил" качать утилиту с ГитХаба (Касперский о GPT)

https://habr.com/ru/companies/kaspersky/articles/725730/

[AlexKaz 1 851]

Alpaca определённо что-то знает

[AlexKaz 1 851]

Для сравнения, выше была выборка 13B, ниже 30B. IMHO, 13B здесь адекватнее.

[AlexKaz 1 851]

Хм, если поменять температуру с 0 на 0.1 (Temperature (Температура) — определяет, насколько свободно отвечает ИИ. Меньшие числа приводят к более жёстким ответам, в то время как более высокие числа дают более творческий подход. ):

13B

30B

[AlexKaz 1 851]

Трафоний наконец позволил, качнул 65B квантованную модель отсюда https://huggingface.co/CRD716/ggml-LLaMa-65B-quantized

Работает только с самой свежей llama.cpp (git clone https://github.com/ggerganov/llama.cpp)

 

Ответы прям внушают.

температура 0

 

температура 0.01

[GS 2 326]

Цитата

 

!!!

Энтузиасты собрали список (https://github.com/LiLittleCat/awesome-free-chatgpt) бесплатных сайтов-копий ChatGPT, чтобы вы могли пользоваться нейронкой без необходимости включать прокси или VPN.

Среди тех, что мы успели опробовать, лучше всего себя показали chatbot.theb.ai, fastgpt.app  — это все зеркала ChatGPT

для китайцев, у которых нейросеть запрещена. 

 

(с)ТГ 

====

===

- это ответ chatbot.theb.ai

========

а этот (ниже) - 

---

===

ответ от fastgpt.app 

работает раза в 1.5 - 2 быстрее первого

===

Вопросы можно задавать на русском (как видно)

Еще раз - не надо ничего ставить и что-то платить-- это сайты!

Полный список сайтов аналогов chatgpt - тут на Гитхабе

---

Из минусов - не понятны характеристики чатов, нельзя задать "температуру" чата (для художественности ответа)

и , наверное, еще что-то, одним словом - Китай.

[AlexKaz 1 851]

10 часов назад, GS сказал:

Еще раз - не надо ничего ставить и что-то платить-- это сайты!

На некоторых сайтах могут стоять баны на подобные вопросы, и ограничиваться количество вопросов. Список хороший.

Изменено 30 апреля 2023 пользователем AlexKaz

[GS 2 326]

====

0:00 Ученые предупреждают о рисках искусственного интеллекта

3:12 Студент написал диплом с помощью нейросети

5:21 Как устроена нейросеть?

9:49 Чем хорош Chat GPT?

15:56 Безопасны ли бесплатные телеграм-боты с чатом GPT?

21:11 Конкуренты чата GPT от Google, Alibaba и Илона Маска

22:39 Нейронка в музыке и рекламе

24:21 Эксперимент «Редакции»: арт-баттл иллюстратора и нейрохудожника

27:00 Вытеснит ли нейрокино традиционный кинематограф?

30:10 Нейросеть создает фотографии

31:16 Фейковый коллаб рэпера Дрейка и The Weekend, в который все поверили

33:47 Виртуальные ведущие и нейроновости - будет ли такая журналистика настоящей?

36:02 Графист «Редакции.Ньюс» сделал новость с помощью нейросети

39:00 Российский ответ чату GPT от Яндекса и Сбера

44:22 Как создаются дипфейки?

51:14 Нейросети в медицине

54:54 Искусственный интеллект анализирует воды Байкала

55:41 Профессии, которые уже может заменить Chat GPT

57:37 Как государство и спецслужбы используют нейросети?

01:00:51 Почему Илон Маск и Стив Возняк просят приостановить обучение нейросетей?

 

[GS 2 326]

====

Встречайте: YandexGPT — новая нейросеть от Яндекса, которая уже встроена в «Алису».

Нейросеть интегрирована в «Алису». Теперь Алиса умеет предлагать идеи и писать готовые тексты.

Фича ещё тестируется, но уже доступна по команде: «Алиса, давай придумаем!».

Работает в приложении Яндекс, в Яндекс Браузере, на Станциях и в телевизорах с Алисой

===

Функция пока в бете: Алиса не запоминает контекст диалога и может слегка "галлюцинировать".

(c) ТГ

[GS 2 326]

====

====

Главные новости

2023

Яндекс добавил в Алису нейросеть нового поколения

Яндекс первым в мире внедрил большую языковую модель нового поколения в виртуального помощника — в Алису. Благодаря нейросети YandexGPT Алиса научилась писать тексты и предлагать идеи почти так же хорошо, как разбирающийся в теме человек. 

Новая возможность доступна в приложении Яндекс, Браузере, Станциях и умных телевизорах с Алисой. Достаточно сказать «Алиса, давай придумаем!» — и можно ставить ей задачи. Виртуальный помощник напишет сценарий для выпускного, составит деловое письмо, предложит план путешествия и варианты подарка на свадьбу. Пока технология работает в режиме тестирования: Алиса может ошибаться в фактах, что не мешает ей создавать новое — с помощью своей эрудиции и умения делать выводы.

Как обучали YandexGPT

Встроенную в Алису нейросеть YandexGPT обучали на суперкомпьютерах Яндекса, самых мощных в России и Восточной Европе. Обучение проходило в два этапа. Чтобы нейросеть впитала в себя знания о мире, сначала ей показали общедоступные тексты —  материалы книг, сайтов, статей. Они были отобраны с помощью поисковых технологий Яндекса, которые позволяют находить среди миллиардов документов наиболее полезные.  

В отличие от предыдущих языковых моделей, нейросеть YandexGPT дообучили на сотнях тысяч примеров содержательных и хорошо написанных ответов. Именно поэтому она отвечает так же просто и понятно, как знающий человек. Для сбора и подготовки таких примеров Яндекс задействовал свои технологии краудсорсинга и команду AI-тренеров.

Что дальше

Сегодняшний запуск — это первый шаг. Нейросеть постоянно обучается, поэтому с каждым днём Алиса будет становиться умнее. Например, сейчас она отвечает на вопрос, не обращая внимания на предыдущие реплики, а в будущем научится учитывать контекст беседы. Яндекс будет внедрять нейросети нового поколения и в другие свои продукты, прежде всего в поиск.
----
Контакты
Пресс-служба компании «Яндекс»

https://yandex.ru/company/press_releases/2023/17-05-2

[ART 519]

При этом она вдруг разучилась напоминалки ставить. Она и раньше со второго раза это делала, а сегодня вообще отвалились.

[Ветерок 2 155]

2 минуты назад, ART сказал:

При этом она вдруг разучилась напоминалки ставить.

Чего ты хочешь от женщины? Да ещё с искусственным интеллектом :)

[IgorT 399]

Стесняюсь спросить, а проверить чертёж на достаточность размеров этот ИИ может?

 Может кто проверить?

[Ветерок 2 155]

51 минуту назад, IgorT сказал:

Может кто проверить?

А сам? Или тоже стесняешься спросить даже у ИИ?

[GS 2 326]

35 минут назад, IgorT сказал:

проверить чертёж

Машинное зрение GPT4

Цитата

Если ролики не врут, GPT4 - это отвал башки

===

===

Может за раз выдавать/обрабатывать(?) до 25 килознаков текста! Боже!

https://kvisaz.livejournal.com/1324450.html 

===

такой вот отвал башки 

===

говорилка + текстописАлка (даа с Питоном и G-кодом! )

10 линий + 2 картинки распознавалка 

<<<<<<<<<<<<Вы находитесь здесь >>>>>>>>>>>>>>>

из базы геометрию доставалка (а базы Пушкин будет набирать?)

Ждем, когда производители CADCAMCAE отдадут свои базы в GPT - нееет !

Ждем , когда п-дители cadcamcae сами встроят ИИ в свой софт - дааа!!!

===

Пока только в GPT встроен Wolfram 

https://habr.com/ru/companies/jetinfosystems/articles/727170/ - пользуйтесь !

или Ждите или - Пишите сами ! (плагины)

 

[Ветерок 2 155]

2 минуты назад, GS сказал:

п-дители cadcamcae

это про форумчан :)