это файнтюн sberai ruGPT3 small (125 млн параметров) на отредактированных пупах, сделанных из нуждиков (фить хах, джунгли, жуждики; всего около 30 минут, транскрибированные через openai whisper large). размер блока при файнтюне 1024, 25 эпох. все скрипты по инференсу модели тут
https://github.com/ai-forever/ru-gpts, через transformers вполне себе работает на 4 гб видеопамяти, на 2 думаю тоже заработает.
set_seed(32)
generator = pipeline('text-generation', model="4eJIoBek/ruGPT3_small_nujdiki_fithah", do_sample=True, max_length=350)
generator("Александр Сергеевич Пушкин известен также благодаря своим сказкам, которые включают в себя: ")
Что примечательно, эта модель иногда выдаёт такие перформансы, что результаты иногда даже прревосходят по саркастичности оригинальные нуждики, например:
Психика женщины состоит из двух элементов: возбуждения аппетита (хочу есть)и страха смерти(пытаюсь запихнуть себя в шкафчик). Если вы боитесь умереть от переохлаждения или перегрева тела естественным путем при купании на пляже то лучше не надо делать этого ибо потом сгоришь заживо вместе со стулом который будете ставить рядом друг другу так чтоб он касался ваших ступней ног но это будет совсем другая история чем ваши стоны по телефону зная что у вас дрожат руки берите топор острием вниз падайте сверху блин ну если уж очень хочется мяса налейте кипятка под крышку кастрюли залейте кастрюлю крышкой переверните варенье ставьте ёлку поставите бутылку водки накройте всё крышками закрой дверь полотенцем лёг спать сейчас принесу велосипед тёплый снился мне сегодня приснился умер дедушка я родился 25 июня был убитый ножом отца моего брата деда вазелина красная жидкость застыла
