1. Forum
  2. FidoNet Russia
  3. RU.AI

  • что сейчас на ПК с 16Гиг памяти ддр3 взлетит из АИ и откуда качать лучш

    From Oleg Artemjev@2:6078/80.1354 to All on Tue Jun 16 05:39:09 2026
    Привет, All!

    Subj?

    С наилучшими пожеланиями, Oleg.

    --- -Уютно у вас, а только странно. И солнца мало.
    * Origin: А мы народ трудящийся... (2:6078/80.1354)
  • From Nil A@2:5015/46 to Oleg Artemjev on Wed Jun 17 01:08:38 2026
    Hello, Oleg!

    Tuesday June 16 2026 05:39, from Oleg Artemjev -> All:

    Subj?

    Ты не сказал главного - есть GPU и сколько там VRAM?

    Отвечая на твой вопрос - есть модели разных размеров, разных типов, разного квантования. Результат будет от хуже, чем чатбот ББС конца 90х, до уровня GPT-4.1/GPT-5.2-mini.

    Сейчас тема - запускать модельки локально на смарте, но для этого надо купить, естессно, последний айфон, и только на нём будет доступно. Сейчас SDK, или как у iOS называется, чтобы разрабы пейсали приложки, которым нужон ИИ, и он локально работает.

    Best Regards, Nil
    --- GoldED+/LNX 1.1.5-b20260305
    * Origin: Gemini can make mistakes, so double-check it (2:5015/46)
  • From Oleg Nazaroff@2:50/700.700 to Oleg Artemjev on Wed Jun 17 07:53:42 2026
    Hello, Oleg Artemjev.
    On 16.06.2026 05:39 you wrote:

    Subj?

    А чем пользуесся?

    --
    WBR, ON
    --- ХотДог/2.14.5/Android
    * Origin: Somewhere at Russia, in the hut on chicken legs... (2:50/700.700)
  • From Nil A@2:5015/46 to Oleg Nazaroff on Wed Jun 17 09:11:52 2026
    Hello, Oleg!

    Wednesday June 17 2026 07:53, from Oleg Nazaroff -> Oleg Artemjev:

    Subj?
    А чем пользуесся?

    Если это локальный инференс, то под капотом будет всегда тот самый llama.cpp.

    Best Regards, Nil
    --- GoldED+/LNX 1.1.5-b20260305
    * Origin: Gemini can make mistakes, so double-check it (2:5015/46)