Как и для чего нейросети используют память?

@Павел Писичкин, ну если совсем субьективно, тесты я не проводил, на глазок, на треть где то ускорилась обработка токенов, при увеличении обьема памяти с 32 до 128 гиг) ллм llama, модель gpt-oss120b

@shorry, на примере твоей любимой, просто сравнение, вопрос апгрейда, пол терабайта ддр3 или что то нормальное, пока без гпу, соло, автономно и без цензуры

@Павел Писичкин, зависит от ллмки)

шори поясни за авэикс инструкции в1 в2 512 и без таковых в ллмках, по токенам или субъективно

Плюсую. Потом посмотрю )

то есть иногда проканывал трюк, но не со всеми играми, а только с более легковесными

у меня друг одно время виндовс 95 сам себе постоянно удалял, чтобы игру какую-нибудь, одну хотя бы установить, - вот это я понимаю был дефицит памяти))...

у меня первым из друзей появился комп - 900 атлон с джифорс 2, 128 озу и 80 гб винтом, а потом другу родители где-то через знакомых достали пентиум 1 или 2, с винчестером на 2 гигабайта, (а на самом деле меньше), большую часть объема которого занимала непосредственно система. и для того, чтобы освободить немного места, он ковырялся в системных папках и удалял файлы, которые могли показаться ему менее важными для работы системы, чем другие, и которые собственно поддавались удалению.

но, как правило, если ему и везло не удалить никаких файлов, без которых виндовс смог бы продолжать нормально работать, то места всё равно было не достаточно, отчего он тупо удалял всё что можно было, устанавливал игру и играл до первого выключения компуктера, после которого он уже не загружался, и нужно было идти к соседке-компьютерщику, которая ему всегда накатывала по новой, так как сами мы в то время это делать не умели

но так долго эта канитель, конечно же, не могла продолжаться, и родители приобрели ему потом уже селерон 633 с винтом то ли на 40, то ли на 80 гб