1. Forum
  2. FidoNet Russia
  3. RU.AI

  • Reasoning effort, reasoning tokens

    From Nil A@2:5015/46 to Oleg Nazaroff on Sat Aug 8 20:17:30 2026
    Hello, Oleg!

    Friday August 07 2026 22:26, from Oleg Nazaroff -> Oleg Artemjev:

    что за входящие и исходящие в АИ?
    у как, научились не только на токены народ разводить, еще считают
    скока ты спросил и какого размера ответ ;)

    Хотел ещё добавить, что почти все LLM'ки имеют параметр - уровень мышления, в API называется reasoning.effort="high", thinking, thinkingLevel="high", thinkingBudget=8096, ...
    Как же влияет уровень мышления на стоимость запроса, если отдельно в прайс-листе не указывается это, а просто цена за токены?
    Когда модель начинает размышлять (reasoning), то она генерирует reasoning tokens (thinking tokens), которые не попадут в финальный ответ, но за которые придётся заплатить по прейскуранту как выходные токены.
    В ответе API либо отельно указывается количество reasoning tokens, либо общие число токенов и сколько использовано в финальном ответе (разница и будет те самые токены размышления).
    екоторые провайдеры дополнительно позволяют получить все эти мыслительные процессы, какие-то провайдеры выход мысленных токенов не дают.

    Best Regards, Nil
    --- GoldED+/LNX 1.1.5-b20260305
    * Origin: Gemini can make mistakes, so double-check it (2:5015/46)
  • From Cheslav Osanadze@2:6078/80 to Nil A on Sat Aug 8 19:41:01 2026
    Привет Nil!

    08 Авг 26 20:17, Nil A -> Oleg Nazaroff:

    отельно указывается количество reasoning tokens, либо общие число
    токенов и сколько использовано в финальном ответе (разница и будет те самые токены размышления). екоторые провайдеры дополнительно
    позволяют получить все эти мыслительные процессы, какие-то провайдеры выход мысленных токенов не дают.

    Хех. а голову учёного одеваем "аналлизатор" и оцениваем стоимость оплаты его труда - по числу "используемых токенов".:)



    Cheslav.


    ... Крылья, ноги... Главное - ost
    ---
    * Origin: ,,, (2:6078/80)
  • From Nil A@2:5015/46 to Cheslav Osanadze on Sat Aug 8 21:59:16 2026
    Hello, Cheslav!

    Saturday August 08 2026 19:41, from Cheslav Osanadze -> Nil A:

    отельно указывается количество reasoning tokens, либо общие число
    токенов и сколько использовано в финальном ответе (разница и
    будет те самые токены размышления). екоторые провайдеры
    дополнительно позволяют получить все эти мыслительные процессы,
    какие-то провайдеры выход мысленных токенов не дают.

    Хех. а голову учёного одеваем "аналлизатор" и оцениваем стоимость
    оплаты его труда - по числу "используемых токенов".:)

    В 2026ом уже все ЛЛМ модельки с reasoning. Иначе полная туфта на выходе, если сразу гнать промпт в финальный ответ.

    По аналогии с людьми, если тебя ночью разбудить, и спросить, ты без ризонинга (я ХЗ как перевести) ответишь идите.. ну или что-то такое, не сильно интеллектуальное.
    А если ты, например, сам себе задаёшь промт - хочу купить самую лучшую палатку для кемпинга. И начинаешь сам с собой разговаривать, типа, как часто я езжу, на сколько человек рассчитывать, такой у меня бюджет, нет это совсем китайцы ноунейм и на две поездки, я могу потратить чуть больше.... и ты уже столько жжжёг своих выходных токенов, которые калории, ведь мозг - самый потребляемый орган. Можно даже спортом не заниматься, тупо сидеть и вручную кодить, без ИИ, и будешь мега худой, как дрищь, и токены не израсходованы.

    Best Regards, Nil
    --- GoldED+/LNX 1.1.5-b20260305
    * Origin: Gemini can make mistakes, so double-check it (2:5015/46)
  • From Oleg Nazaroff@2:50/700.700 to Nil A on Sun Aug 9 23:57:10 2026
    Hello, Nil A.
    On 08.08.2026 20:17 you wrote:

    Хотел ещё добавить, что почти все LLM'ки имеют параметр - уровень мышления, в API называется
    reasoning.effort="high", thinking, thinkingLevel="high", thinkingBudget=8096, ... Как же
    влияет уровень мышления на стоимость запроса, если отдельно в прайс-листе не указывается это,
    а просто цена за токены? Когда модель начинает размышлять (reasoning), то она генерирует
    reasoning tokens (thinking tokens), которые не попадут в финальный ответ, но за которые
    придётся заплатить по прейскуранту как выходные токены. В ответе API либо отельно указывается
    количество reasoning tokens, либо общие число токенов и сколько использовано в финальном
    ответе (разница и будет те самые токены размышления). екоторые провайдеры дополнительно
    позволяют получить все эти мыслительные процессы, какие-то провайдеры выход мысленных токенов
    не дают.

    екоторым ИИ вообще лучше жевать ;)

    --
    WBR, ON
    --- ХотДог/2.14.5/Android
    * Origin: Somewhere at Russia, in the hut on chicken legs... (2:50/700.700)
  • From Oleg Nazaroff@2:50/700.700 to Cheslav Osanadze on Sun Aug 9 23:59:43 2026
    Hello, Cheslav Osanadze.
    On 08.08.2026 19:41 you wrote:

    Хех. а голову учёного одеваем "аналлизатор" и оцениваем стоимость оплаты его труда - по
    числу "используемых токенов".:)

    ;)) там немного иначе расчет ведется ;( сколько дать чтоб врагам секреты не продал.

    --
    WBR, ON
    --- ХотДог/2.14.5/Android
    * Origin: Somewhere at Russia, in the hut on chicken legs... (2:50/700.700)