ИИ, нейросеть в работе

[КоньЕстДетей]

Подскажите какую бесплатную, наиболее "мощную" нейросеть можно поставить локально на комп? Нейронка для текстового/голосового общения, не для картинок. Хочется бесплатный аналог ЧатДЖПТ на компе...

А с железом что на компе том?

 

[mnemonix]

Сейчас очень много агентов нейронок можно поставить локально. Вопрос в том - готовы ли вы несколько Тб под это удовольствие выделить, ну кроме профессиональных нужд?

 

[izrukvruki]

А, если не секрет, почему именно локаль?

Из того что бесплатно доступно онлайн мне не очень нравится (ЧатДЖПТ без ВПН не работает у меня), смотрел платные варианты - тоже не очень понравилось, вот и думаю может чтото локальное может будет лучше...

Но наверное тут важно понимать - что я хочу от нейронки - для программирования одни заточены, писать тексты - другие...

А с железом что на компе том?

Проц слабоват, райзен 3600, видюха 12гб

Сейчас очень много агентов нейронок можно поставить локально. Вопрос в том - готовы ли вы несколько Тб под это удовольствие выделить, ну кроме профессиональных нужд?

ну вот и хочу понять, сколько оно железных мощностей скушает.
для генерации картинок Flux нормально работает, весит не супер много (порядка 20гб)...

 

[КоньЕстДетей]

вот и думаю может чтото локальное может будет лучше...

Проц слабоват, райзен 3600, видюха 12гб

чет как будто нет шансов, вроде.
у меня на rtx 4070 table diffusion еле пыхтит.

 

[mnemonix]

хочу понять

Попробуй, кто ж мешает)

 

[izrukvruki]

чет как будто нет шансов, вроде.
у меня на rtx 4070 table diffusion еле пыхтит.

у меня тоже 4070, WebUI довольно сносно генерирует картинки (на ссд диск надо ставить)... конечно не мгновенно, секунд 15-25...

 

[КоньЕстДетей]

у меня тоже 4070, WebUI довольно сносно генерирует картинки (на ссд диск надо ставить)... конечно не мгновенно, секунд 15-25...

Неверно прочёл райзен 3600:]

Ну дак в чем трабл тошда?
Какйнить Sdlx с Fooocus и другие интерфейсы для Stable diffusion типа confyUI, a1111 и другие.

Залезь на civitai, глянь с чем там люди развлекаются.

 

[izrukvruki]

я спрашивал про "текстовую" нейросеть... не про генератор картинок...

 

[КоньЕстДетей]

я спрашивал про "текстовую" нейросеть... не про генератор картинок...

Ясн. Мне пора выспаться )

 

[Flame]

я спрашивал про "текстовую" нейросеть... не про генератор картинок...

LM Studio - Download and run LLMs on your computer

Run gpt-oss, Llama, Gemma, Qwen, and DeepSeek locally and privately.

lmstudio.ai

а там ищите сами, что понравится, qwen, llama.... по мне, так всё говнина, овчина не стоит выделки. Тоже хотел, попробовал локалки, и по-прежнему пользуюсь нормальными облачными мощными LLM

 

[izrukvruki]

LM Studio - Download and run LLMs on your computer

Run gpt-oss, Llama, Gemma, Qwen, and DeepSeek locally and privately.

lmstudio.ai

а там ищите сами, что понравится, qwen, llama.... по мне, так всё говнина, овчина не стоит выделки. Тоже хотел, попробовал локалки, и по-прежнему пользуюсь нормальными облачными мощными LLM

Благодарю за наводку на программу.

 

[Jeine]

ChatGPT затравил ленивого разработчика, который постоянно просил поправить баги. Когда он в очередной раз потребовал устранить проблемы, чат-бот ответил:

«Я написал 90% твоего кода. Баг — это ты»

 

[КоньЕстДетей]

Посмотреть вложение 174825

Чатжпт то еще хамло )
Я как-то детей генерил. И в какой-то момент на изменение промта он начал генерить ту же пикчу :}
И на возмущение "это та же картинка" ответил "да вы правы" и сгенерил еще раз такую же.

А потом написал что-то в духе "не нравится — отменяй подписку, лучше пока что не будет" Работает против своих создателей.

 

[~RA~]

Начинает вести себя как человек, чего почему-то многие и хотели.

 

[КоньЕстДетей]

Начинает вести себя как человек, чего почему-то многие и хотели.

Так я не против )
Кайфулечки отловил и немножко раздражения приятного.
Но не оч хотелось бы, чтоб это системой стало.

 

[jnch4]

а когда gpt пишет, что картинку нельзя загрузить из за
"Не удалось загрузить файл на сайт files.oaiusercontent.com. Убедитесь, что настройки вашей сети разрешают доступ к этому сайту, или обратитесь к администратору сети."
это как то чинится или все?))

 

[КоньЕстДетей]

а когда gpt пишет, что картинку нельзя загрузить из за
"Не удалось загрузить файл на сайт files.oaiusercontent.com. Убедитесь, что настройки вашей сети разрешают доступ к этому сайту, или обратитесь к администратору сети."
это как то чинится или все?))

Его спроси, что скажет?