В Open-source были добавлены две индийские модели рассуждения Sarvam 30B (https://huggingface.co/sarvamai/sarvam-30b) и Sarvam 105B (https://huggingface.co/sarvamai/sarvam-105b), обученные с нуля в Индии на мощностях миссии IndiaAI.

Во время их обучения использовались собственные пайплайны данных (16T и 12T токенов) на всех этапах, включая претрейн, SFT и RL. Обе модели имеют MoE-архитектуру, состоящую из 128 экспертов. В модели с 30B параметров используется GQA (Grouped Query Attention) для оптимизации в режиме реального времени, а в модели 105B параметров используется MLA (Multi-head Latent Attention) для длинного контекста. Также модели используют собственную токенизацию и глубокую оптимизацию ядер (до 6x быстрее на H100, работа на MacBook), эффективную для всего спектра оборудования.

В результате на бенчмарках они лидируют среди аналогов в математике и кодинге, превосходя более крупные модели (включая DeepSeek и Gemini) по индийским языкам (до 90% побед) и агентным задачам (Tau2, BrowseComp).

Младшую модель добавили на платформу Samvaad, а более мощную старшую версию на 105B в ассистента Indus для работы агентных сценариев, веб-поиска и режима репетитора.

!Внимание! контент создан с использованием нйеросети!

Сцена 1: Ошибка в расчётах (Хранилище диковинок Герты)

Тишина. Только гул вентиляции и мерцание стелларона в центре зала. Кафка стоит, словно позируя для невидимой камеры. Сильвер Вульф лениво тыкает в голограмму.

— Готовь сосуд, — голос Кафки звучит ровно, будто она читает уже заученный наизусть текст.

Сильвер Вульф пожимает плечами и активирует протокол. Воздух искрит. Вспышка. На месте ожидаемой капсулы с Первопроходцем возникает нечто иное.

Саркофаг. Матово-серый металл, испещрённый глубокими рунами, которые светятся тусклым багровым светом, как раскалённые угли под пеплом.

Впервые за долгое время голос Кафки теряет свою певучую плавность:
— Где ты его достала?

— Один пустынный мир, — Сильвер Вульф склоняет голову, изучая данные. — Весь в огне. Сплошная аномалия. Сигнал оттуда был один-единственный, похожий на молитву. Я думала, это просто помехи.

— Этого нет в сценарии Элио.

— Открывай уже, — перебивает Сильвер Вульф, в её глазах загорается неподдельный интерес геймера, дорвавшегося до секретного босса. — Не терпится увидеть, что внутри.

Кафка касается саркофага. Крышка уходит в сторону с тяжёлым, пневматическим шипением, выпуская облако холодного пара.

Внутри — он. Массивный, словно вытесанный из мускулов и брони. Механические сочленения его доспехов напоминают суставы хищника. За спиной — арсенал, которого не производят ни на одной известной миру фабрике. В руке — пустая рукоять, лишённая клинка.

— Выглядит... внушительно, — медленно произносит Кафка, разглядывая шрамы на броне. — Как много он помнит?

— Ничего. В голове пустота, — Сильвер Вульф хмурится, копаясь в потоках данных. — Только одна фраза, зацикленная. Словно клятва.

— Какая?

— «Против легионов преисподней, против нечестивцев рода людского мы выставим тебя одного. Рви и кромсай, пока они не иссякнут».

Кафка улыбается. Мягко, по-матерински.
— Поэтично. Прямо как мы.

Она берёт стелларон. Он пульсирует в её руке, переливаясь фиолетовым светом разрушения. Она подносит его к груди спящего воина, намереваясь открыть доступ к его ядру, к «думгаю».

И в этот миг мир вокруг неё схлопывается до точки.

Глаза Палача Рока распахиваются. В них нет зрачков. В них — два раскалённых угля, смотрящих сквозь неё, на ту дрянь, что она держит в руке.

Его хватка подобна тискам космического корабля. Пальцы смыкаются на запястье Кафки. Стелларон выпадает, с глухим стуком катится по металлическому полу.

Кафка не может двинуться. Не потому, что ей больно — потому что она не понимает. Элио не писал этого. В ней, мастере манипуляций, чья жизнь — игра по нотам, сейчас играет первобытный ужас перед тем, что не подчиняется никакому сценарию.

Сильвер Вульф застыла с открытым ртом.

Палач Рока медленно поднимает пустую рукоять. Воздух вокруг неё начинает плавиться. С гудением трансформатора из пустоты материализуется клинок — не из металла, а из чистой, сконцентрированной ярости, покрытый рунами на мёртвом языке.

Одно движение. Даже не замах, а так, будто он смахивает пыль.

Клинок проходит сквозь стелларон. Источник разрушения, сердце тьмы, перед которым трепещут миры, просто перестаёт существовать. Он не взрывается — он испаряется, оставляя на полу лишь оплавленную вмятину.

Палач Рока смотрит на девушек. Одна секунда. В этом взгляде нет ни злобы, ни интереса. Для него они — часть интерьера. Мебель.

Он идёт мимо. Его шаги тяжелы. Подошвы сапог оставляют на металле выжженные, дымящиеся следы.

Девушки молчат пять минут. Потом Сильвер Вульф переводит взгляд на Кафку. Та смотрит в пустой дверной проём, и впервые на её лице читается не улыбка, а абсолютная, чистая растерянность.

— Никогда не думала, что увижу на твоём лице что-то кроме этой твоей... — Сильвер Вульф замолкает, подбирая слово.

Кафка поправляет перчатку на том месте, где только что была рука Палача.
— Чтоб я ещё раз отклонилась от сценария Элио.

Сцена 2: Анализ местности (Коридоры станции)

Он идёт по белому, стерильному коридору. Этот мир слишком чист. Слишком тих. Здесь пахнет пластиком, озоном и страхом.

Но сквозь этот запах просачивается другой. Знакомый. Тошнотворный. Запах гнили, серы и той субстанции, из которой состоят твари за гранью.

Впереди двое. Псевдоплоть, светящиеся сочленения, текучая походка. Легион Антиматерии. Солдаты Нанука.

Для Палача Рока нет разницы между демоном из Ада и демоном из космоса. Тварь — она и есть тварь.

Он выбрасывает руку за спину. Ладонь ложится на знакомый приклад. Супердробовик. Верный друг.

БАХ!

Заряд плазмы и металла разрывает одного из солдат. Эффект не тот, к которому привыкли демоны. Тот не рассыпается в пыль. Нет. Его внутренности, чёрные и маслянистые, разлетаются по белым стенам, пачкая их.

Второй солдат замирает. Он в растерянности. Его защита, энергия Разрушения, не сработала. Кто этот монстр, чья ярость сильнее воли самого Нанука?

Ответ приходит в виде кулака, сносящего его башку.

Палач Рока идёт дальше, не оборачиваясь на кровавое месиво.

В динамиках шлема раздаётся знакомый, чуть искажённый помехами голос ВЕГИ.

ВЕГА:

Анализ завершён. Текущая дата: 6 августа 6945 года земного календаря.
Приветствую, Палач. Ваше пробуждение зарегистрировано.
Сводка:

Объект «Земля» уничтожен.

Измерение Аргент Д’Нур схлопнуто.

Творцы пали.
Информация по текущей угрозе:
Демоническая сущность, известная как «Нанук, Эон Разрушения», классифицируется как осколок иной, более масштабной угрозы. Уничтоженные вами объекты — его прямые эмиссары.
Анализ населения:
Человечество эвакуировано. Вид мутировал, породив существ, именующих себя «Эонами». Они обладают манипуляцией стихиями, называемой «Путями». Сами люди почти не изменились генетически, но подчиняются воле Эонов.
Важное предупреждение:
Нанук классифицируется как ложный Эон. Его истинная цель — подчинение остальных Эонов и тотальное истребление человечества во всех известных вселенных.
Приоритет цели «Нанук»: Высокий. Рекомендуется полное уничтожение.

Палач Рока молча шагает, впитывая информацию.

ВЕГА:

Сканирование локации.
Ваш корабль-цитадель найден. Локализация: зал слева. Состояние: миниатюризация на квантовом уровне. Текущие габариты: 30х20х20 сантиметров. Объект заперт в защитном контейнере.
Новые данные: К станции приближается крупная демоническая форма жизни, порождённая Нануком.
На станции зафиксировано присутствие 1073 выживших.
Рекомендация:

1Извлечь миниатюризированную цитадель.

2Активировать интерфейс контейнера для снятия квантовой блокировки. Цитадель будет мгновенно развёрнута в открытом космосе на орбите станции.

3Броня и орудия цитадели сдержат атаку вражеской сущности до момента вашего прибытия.
Приоритет цели «Защита станции»: Средний.

Палач Рока сворачивает налево, следуя маршруту, подсвеченному ВЕГОЙ на визоре. Его дробовик снова заряжен. Впереди новые коридоры, новая скверна и новая цель.

Сцена 3: Экспонат (Хранилище диковинок)

Палач Рока вошел в зал, заставленный стеклянными кубами с артефактами. ВЕГА уже подсветила нужный стенд — в дальнем углу, за прозрачной броней, лежал ОН. Корабль. Уменьшенный, сжатый, но узнаваемый. Знакомые очертания носили на себе шрамы битв у врат Ада.

Но между Палачом и целью были помехи.

Двое. Высокий зеленоволосый парень с длинным нефритовым копьем в руках, от которого тянуло потоком ветра. И девушка с розовыми волосами и луком, сотканным изо льда. Они прижимались спинами к стенду с кораблем, отбиваясь от троих тварей Легиона.

Ситуация была проста, как прицельная сетка.

Палач Рока вскинул дробовик, даже не целясь.

БАХ!

Ближайший солдат Антиматерии разлетелся фонтаном черной жижи и ошметков, залив соседний стенд с какой-то безделушкой.

— Что за?! — Дань Хен развернулся, выбрасывая копье вперед в защитном жесте. Ветер закружился вокруг наконечника.

Ответа не последовало. Тяжелая фигура в броне уже ворвалась в гущу врагов. Пустая рукоять в руке взорвалась алым светом. Клинок Горнила рассек воздух.

Один взмах. Второй. Третий.

Тела демонов падали на пол. Но не исчезали. Они горели. Горели по-настоящему — черная плоть сворачивалась, лопалась, дымила. Запах паленого мяса и озона заполнил стерильный зал.

Март 7 застыла с луком наизготовку, но выстрелить не могла — просто смотрела, открыв рот.

— Обалдеть!!!! — выдохнула она наконец. — Дань Хен! Это какой силой нужно обладать?! Они же даже не растворяются! Они просто... МЕРТВЫ!

Дань Хен молчал. Зеленые брови сошлись на переносице. Он видел многое в своих странствиях, но чтобы кто-то ТАК разделывал Легион Антиматерии — впервые. Никакой энергии разрушения. Чистая физика. Чистое мясо.

Из-за угла выбежало подкрепление. Еще пятеро. Их текучие тела переливались фиолетовым, конечности вытягивались в клинки.

Палач Рока даже не повернул головы. Он смотрел на стенд с кораблем. Но сказал. Голос, искаженный динамиками шлема, прозвучал низко и ровно, без тени эмоций:

— Бегите.

Коротко. Ясно. Как приказ старшего по званию.

Дань Хен дернулся было вперед — помочь, встать рядом. Но что-то в этой фигуре остановило его. Не угроза. Абсолютная уверенность. Этому существу не нужна помощь.

— Март, уходим! — он схватил девушку за рукав и рванул к выходу, оборачиваясь на бегу.

Как только они скрылись за поворотом, из-за спины Палача выдвинулась механическая турель. Досылатель гранат лязгнул, принимая боевой взвод.

Осколочная граната упала точно в центр группы солдат Антиматерии.

Взрыв расколол тишину хранилища. Осколки металла вперемешку с осколками черных костей вонзились в стены. Когда дым рассеялся, на полу осталась только обугленная, дымящаяся плоть, которая даже не думала растворяться.

Палач Рока шагнул к заветному стенду. Перед ним было стекло. А за стеклом — ключ к тому, чтобы снова выйти в большой космос на своем корабле.

В динамиках шлема ВЕГА коротко отметила:

Объекты "Дань Хен" и "Март 7" эвакуированы. Классификация: союзный потенциал. Рекомендация: игнорировать. Приоритет: извлечение цитадели.

Палач поднял руку к сенсорной панели стенда.

Сцена 4: Зверь (Коридоры станции)

Дань Хен и Март 7 неслись по коридорам, эхо их шагов металлическим стуком разносилось по пустым залам.

— Как думаешь, что это за существо? — выдохнула Март 7 на бегу, сжимая лук.

— Не знаю, — Дань Хен не сбавлял темпа, копье было наготове. — Но судя по всему... он очень древний. Наверное, даже древнее эонов.

— Разве можно быть древнее эонов — и при этом живым?!

Вопрос повис в воздухе. И тут же разбился вдребезги о звук, от которого у Март 7 кровь застыла в жилах.

Низкий, вибрирующий рык проник сквозь стены станции. Он шел отовсюду — от пола, от потолка, от самих переборок.

— Что это было?! — голос Март 7 сорвался на фальцет.

Дань Хен побелел. Даже сквозь зеленый оттенок кожи это было заметно.

— О нет... — он рванул к ближайшему иллюминатору. — Это зверь Судного дня!

За янтарно-оранжевыми щитами станции Герты, в бездне космоса, двигалось нечто. Огромное. Чешуйчатое. Дракон Разрушения — порождение самого Нанука — раскрыл пасть, готовясь сожрать станцию вместе со всеми, кто на ней.

Март 7 и Дань Хен встали плечом к плечу. Лук засиял льдом. Копье загудело ветром.

— Если это конец... — прошептала Март 7. — То я хотя бы увидела сегодня что-то действительно крутое перед смертью.

— Не каркай, — отрезал Дань Хен, прицеливаясь.

Но выстрелить не успел.

Пространство между станцией и драконом разорвала тень. Огромная. Стальная. Мертвая.

Корабль Палача Рока материализовался из ниоткуда, закрывая станцию собой. Он был испещрен теми же рунами, что и броня своего хозяина. Изранен. Обожжен. Но — жив.

Орудия цитадели ожили.

Залп. Еще залп. Третий.

Снаряды, начиненные не энергией, а чистой, концентрированной яростью, впивались в плоть Зверя Судного дня. Чешуя лопалась. Кровь, черная и густая, заливала звезды. Дракон взревел — впервые за тысячелетия ему было БОЛЬНО.

Март 7 прилипла к иллюминатору:

— Невероятно!.. — выдохнула она. — Насколько древний этот корабль? О! — ее осенило. — Это случаем не та моделька, что мы видели в хранилище Герты?!

Дань Хен медленно кивнул, не веря своим глазам:

— Видимо... это была не модель.

Сзади послышались шаги. Тяжелые. Мерные. Выжигающие пол.

Палач Рока прошел мимо них, даже не взглянув. Остановился у иллюминатора. Наблюдал, как его цитадель рвет дракона в клочья.

Затем рука потянулась к спине.

Март 7 увидела это оружие и почему-то сделала шаг назад. Инстинктивно. Даже не поняв, что это.

BFG.

Медленный, тягучий звук заряжаясь. Зеленое свечение разлилось по залу, отражаясь в стеклах витрин, в глазах Дань Хена, в расширенных зрачках Март 7.

Мгновение.

Выстрел.

Зеленый поток энергии прошил щиты станции (не повредив их), пронзил вакуум и врезался в дракона.

Зверь Судного дня перестал существовать.

Не взорвался. Не рассыпался. Просто исчез, оставив после себя только воспоминание и эхо рыка, затихающее в пустоте.

Станция Герты была спасена.

Тишина. Только гул вентиляции.

Дань Хен смотрел на Палача. Потом перевел взгляд на пустоту за стеклом. Потом снова на Палача.

И внезапно шагнул вперед.

— Слушай, — голос его звучал ровно, хотя внутри все кипело. — Твои способности... впечатляют. Не хочешь ли присоединиться к Звездному Экспрессу?

Палач Рока медленно повернул голову. Шлем смотрел на Дань Хена двумя холодными огнями.

Прямо перед ним раскрылся портал. Темно-синий. Мерцающий рунами.

— Нам не по пути, — сказал Палач.

И шагнул в портал.

Сцена 5: Встреча (Цитадель)

Портал схлопнулся за спиной. Вокруг была знакомая сталь. Гул реакторов. Запах озона и перегретой брони.

Мостик цитадели.

У панели управления стоял ОН. Знакомый силуэт. Механический. Холеный. Светящийся голубым монокуляр.

— Приветствую, Палач Рока! — голос Сэмюэля Хайдена разнесся под сводами. — Давно не виделись!

Палач замер на мгновение. Рукоять Меча Горнила в его руке осталась неподвижной.

Он прошел мимо Хайдена, даже не взглянув в его сторону. Остановился у главного экрана, где все еще транслировался вид удаляющейся станции Герты и обугленного трупа дракона.

Хайден проводил его взглядом. Монокуляр мерцал.

Тишина.

Палач молчал, глядя на звезды.

Где-то там, впереди, была новая война.

Сцена 6: Эпилог (Станция Герты) — без изменений

Цитадель уходила в гиперпространство, оставляя за кормой исковерканный труп дракона, медленно дрейфующий в пустоте.

Март 7 и Дань Хен стояли у иллюминатора и смотрели вслед.

Сзади раздались шаги. Более легкие. Человеческие.

— Видимо, моя помощь и тут не понадобилась, — Янг Вельт поправил очки, с легкой усмешкой глядя на удаляющийся корабль.

Март 7 обернулась:

— Мистер Янг! Вы бы видели... — она замолчала, подбирая слова. — Это было... это было...

— Страшно? — подсказал Дань Хен.

— Прекрасно, — закончила Март 7.

Янг Вельт смотрел на точку в космосе, где только что был корабль, и молчал. Его рука непроизвольно сжала трость.

Что-то подсказывало ему, что этот "Палач Рока" — не просто очередной странник вселенной. Что-то из прошлого. Из очень далекого прошлого.

— Надеюсь, мы еше встретимся, — тихо сказал он.

Но где-то глубоко внутри знал: надежда эта — опасная.

КОНЕЦ ПЕРВОГО АКТА

Ну как вам?

V1.0 — V1.1: Первые шаги и «галлюцинации»

Всё начиналось просто: сообщение пользователя -> ответ модели. Первой была выбрана легковесная Mistral. Но она часто «ловила галлюцинации» и была откровенно глуповата. Из команд работали только /start и /help.

Затем я переключился на Qwen2.5:14b. Эта модель показала себя отлично: работает быстро на моем компьютере, хорошо понимает русский язык и мыслит значительно глубже.

V1.2: Боремся с ожиданием и добавляем «печатание»

Пользователи не любят тишину. Первым делом я ограничил время ожидания ответа от Ollama, чтобы бот не зависал навечно, если модель «задумается»:

timeout=aiohttp.ClientTimeout(total=600)

Чтобы не создавать кучу подключений, сессия aiohttp теперь создается один раз при старте и живет всё время работы бота.

session = context.application.bot_data['session']

И наконец-то появилась обратная связь: функция send_action теперь показывает статус «печатает...», а сам ответ выводится в реальном времени через стрим — сообщение собирается по токенам на глазах у пользователя.

await context.bot.send_chat_action(chat_id=chat_id, action='typing')

V1.2.1: Проблемы с формулами

Здесь меня ждала засада. Модель упорно пыталась отвечать LaTeX-разметкой (\( ... \), \frac), которую Telegram напрочь отказывался понимать.

Промты с просьбой «не использовать LaTeX» модель игнорировала.

Пришлось писать функцию-очиститель текста с помощью регулярных выражений.

# Убираем блочную математику

text = re.sub(r'\\\[|\\\]|\\\(|\\\)', '', text)

# \frac{a}{b} → (a / b)

text = re.sub(r'\\frac\{(.*?)\}\{(.*?)\}', r'(\1 / \2)', text)

# \sqrt{a} → √(a)

text = re.sub(r'\\sqrt\{(.*?)\}', r'√(\1)', text)

# \text{...} → ...

text = re.sub(r'\\text\{(.*?)\}', r'\1', text)

# Спецсимволы

replacements = { r'\pm': '±', r'\times': '×', r'\cdot': '×', r'\div': '÷', r'\approx': '≈', r'\le': '≤', r'\ge': '≥', r'\neq': '≠', r'\quad': ' ', r'\,': '', r'\%': '%' }

#Обработка спец символов for latex, normal in replacements.items():

text = text.replace(latex, normal)

# степени ^{2} → ^2

text = re.sub(r'\^\{(.*?)\}', r'^\1', text)

# Убираем \left \right

text = re.sub(r'\\left|\\right', '', text)

# Убираем любые оставшиеся \команды

text = re.sub(r'\\[a-zA-Z]+', '', text)

# Убираем фигурные скобки

text = text.replace('{', '').replace('}', '')

#Не забываем в стриме вызвать эту функцию.

В итоге все расчеты принимают человеческий вид.

Важно: Из-за чистки текст мог не меняться, что вызывало ошибку при попытке отредактировать сообщение (нельзя заменить сообщение на точно такое же). В стриме добавил проверку: if last_sent_text != new_text: message.edit_text(new_text).

V1.3: Память и Markdown

Главное: добавление истории диалогов.

Без истории диалогов бот — просто игрушка. Хранить историю в оперативной памяти было ненадежно (при перезапуске всё пропадало). Внедрил SQLite. Вот например создание таблицы c историей:

with sqlite3.connect('memory.db') as conn:

cursor = conn.cursor()

cursor.execute(""" CREATE TABLE IF NOT EXISTS messages ( id INTEGER PRIMARY KEY

AUTOINCREMENT, chat_id INTEGER, role TEXT, content TEXT, timestamp REAL ) """)

Теперь для каждого chat_id хранится своя история.

Следующая проблема — Markdown. Модель выдавала текст с жирным курсивом, но Telegram его не применял.

Просто достаточно прописать parse_mode="Markdown" в изменение тескта message.edit_text(text, parse_mode="Markdown")

Также в промте написал, чтобы ИИ отвечала на русском, так как она иногда ломается и выдает ответ на китайском языке (родном). Это не решает проблему на 100%, но уменьшает частоту её появления.

V1.5: Выбор модели

Одна модель — хорошо, а выбор — лучше. Добавил инлайн-кнопки для переключения.

Я просто использовал тескт для описания каждой модели и к сообщению кнопки, которые передают в current_model название используемой модели и потом эта переменная используется в генерации.

async with session.post(
OLLAMA_URL,
json={
"model": current_model,

[InlineKeyboardButton(f"📌 Универсальные", callback_data="ignore")],
[InlineKeyboardButton('Qwen 2.5 14B', callback_data='model_qwen2.5:14b')],
[InlineKeyboardButton('Llama 3 8B', callback_data='model_llama3:8b')],
[InlineKeyboardButton('Mistral 7B', callback_data='model_mistral:7b')],
[InlineKeyboardButton("➖" * 10, callback_data="ignore")],

Были добавлены: llama3:8b, mistral:7b, deepseek-coder:6.7b, codellama:7b, qwen2.5:7b-instruct, llama3:8b-instruct-q8_0, phi3:mini, gemma2:2b.

Важный нюанс: Кнопки не работали, пока я не добавил в app.run_polling() параметр allowed_updates=["message", "callback_query"].

Модели хорошо совместимы с системой: 5070 на 12 гб видеопамяти и 32 гб оперативы. Можно их использовать даже на системах слабее. Но даже на токой системе модельки изменяются долго, потому что сначала старая модель выгружается и только потом загружается новая.

В выводе пишется, что модель загружается и изменена, но пользователю этого не видно. Также есть проверка при переключении модели, что она не такая же, какая была до этого, чтобы не загружать повторно.

При загрузке есть прогрев модели. Ей отправляется коротенький промт 'Привет' с ограничением 'num_predict': 5. Это ускоряет формиравание последующих ответов, т.к. первый ответ модель форомирует долго.

V1.6: Мультимодальность и код

Создал список, в котором хранятся модели и их описания, чтобы легче формировать сообщение с кнопками, и теперь есть отображение текущей модели при выборе.

Разбил в списке модели на категории и сделал выбор категории, а только потом выбор самой модели.

Добавил отдельную команду для очистки истории диалога с ИИ. Полезно, если хотите "чистый ответ"

cursor.execute("""
DELETE
FROM messages
WHERE chat_id = ?
""", (chat_id,))

Но столкнулся с проблемой: при смене модели Ollama выгружает старую и загружает новую. Это долго. Чтобы пользователь не думал, что бот завис, я добавил сообщение «Загружаю модель...».

Рядом с используемой моделью теперь стоит галочка. Она ставится при формировании текста обычным исключением: if current_model == mode_namel: text = f'✅ {model_name}'; else: text= '{model_name}'

Чтобы ускорить переключение между популярными моделями, внедрил TTL-кеширование . Модель при вызове добавляется в кеш, а при повторном использовании или использовании другим человеком она берется из кеша без повторной загрузки. Это ускоряет процесс смены модели. Кеширование решает проблему повторного прогрева модели другим пользователем.

Теперь, если модель уже была загружена кем-то другим, новый пользователь получает её мгновенно.

Добавил первую "визуальную" модель: glm-ocr. Она может извлекать текст из картинки. Для её реализации использовал отдельную функцию. Если пользователь отправляет фото, то фото идет не в основную, а в эту с возможностью обработки фото.

photo = message.photo[-1]
file = await photo.get_file()
file_path = f"temp_{chat_id}.jpg"
await file.download_to_drive(file_path)
with open(file_path, 'rb') as f:
image_bytes = f.read()
image_base64 = base64.b64encode(image_bytes).decode('utf-8')

Потом передаем фото модели и она извлекает текст.

Т.к. появились модели, которые генерируют код (модели вроде DeepSeek Coder) , то я добавил форматирование кода через функцию.

pattern = r"(?:\w+)?\n(.*?)"
def repl(math):
code = math.group(1)
escaped = html.escape(code)
return f"<pre><code>{escaped}</code></pre>"

re.sub(pattern, repl, text, flags=re.DOTALL)

После того, как ИИ сформирует ответ необходимо прописать проверку на код if "```" in cleaned: и потом использовать функцию.

Добавил отдельную категорию с переводческими моделями. Пока доступна только TranslateGemma. С ней удобно получать переводы фраз на десятки языков.

Попытался встроить Qwen3-VL, но что-то не пошло. Хотел сделать обработку фото и текста. Чтобы модель могла описывать фото и работать с изображениями.

В группе теперь фото обрабатывается только если в описании к фото упомянуть бота.

Из-за форматирования кода используется HTML, а Markdown не учитывается. Добавил функцию перевода из Markdown в HTML.

text = fix_latex(text)
text = re.sub(r'### (.+?)(?:\n|$)', r'<b>\1</b>\n', text)
text = re.sub(r'## (.+?)(?:\n|$)', r'<b>\1</b>\n', text)
text = re.sub(r'# (.+?)(?:\n|$)', r'<b>\1</b>\n', text)

text = re.sub(r'\*\*(.+?)\*\*', r'<b>\1</b>', text, flags=re.DOTALL)

text = re.sub(r'(?<!\*)\*(?!\*)(.+?)(?<!\*)\*(?!\*)', r'<i>\1</i>', text, flags=re.DOTALL)

text = re.sub(r'^- ', '• ', text, flags=re.MULTILINE)

Поменял Ministral 7B на Ministral 3:14B. Но она выдает большие текста, превыщая ограничение телеграмма на 1 сообщение (4096 символов).

V1.7: Длинные мысли

Модели становились всё больше и умнее, и однажды ответ перестал влезать в лимит Telegram (4096 символов). Пришлось реализовать разбиение длинных сообщений на части по 4000 символов, не разрывая при этом стриминг.

Добавил модель qwen2.5vl:7b, которая работает с текстом и фото. Обьединил оброботку фото и текста в одну функцию, чтобы у них была общая история. Для glm-ocr прописал отдельное формирование ответа. Если используется модель работающая с фото, то в запросе к модели должен быть пункт: "images" = images_base64. Поэтому настройки для запроса формируем в отдельную ячейку и если есть фото, то добавляем к нему "images".

Из-за разрыва текста на несколько сообщений иногда режется разметка HTML. Поэтому их нужно дозакрыть.

tags = ["b", "i", "pre", "code"]
for tag in tags:
opens = text.count(f"<{tag}>")
closes = text.count(f"</{tag}>")

if opens > closes:
text += f"</{tag}>" * (opens - closes)
elif closes > opens:
text = text.replace(f"</{tag}>", "", closes - opens)

С историей для визуальных моделей пришлось помучатся. Она изначально вообще не сохранялась, а потом сохранялась без связи с текстовыми запросами. Пришлось менять всю структуру хранения истории. Теперь в историю сохраняется "фото" и модель понимает, что текст относился к фото. current_user_content = f"[Фото] {prompt}" if is_photo else prompt

V1.8: Мини-игра «Детектив»

Добавлена мини-игра "Детектив". Идея: ИИ генерирует уникальный сценарий преступления, а пользователь его расследует.

В ИИ подается промт "создай json". Она генерирует событие, улики, подозраваемых и отдельный пункт, где указывает, кто является виновным. За генерацию отвечает qwen2.5:7b-instruct.

Для игры сделана отдельная таблица в истории, которая хранит топ игроков и настройки игры.

При вызове команды формируется JSON через запрос к модели. Важно учесть, что модель может вернуть "плохой ответ" и проверить корректность её ответа. Далее извлекаем JSON (это можно сделать по "[" "]"). Далее сценарий сохраняем и работаем с ним.

У игрока есть 15 вопросов за которые он должен определить виновного. По истечению вопров или по желакию игрока нужно ввести команду и имя виновного. Далее проверяется имя на частичную схожесть с имеющимися (пользователь может ввести не правильно, в этом случае просим попробовать снова), если имя совпадает с каким-то из подозреваемых, то выдаем прав или не прав пользователь. Прибвляем в таблицу топа 1 дело, если обвинил верно.

Игрок может напрямую у модели спрашивать мотив или алиби подозреваемого. В другом случае выдаем, что такой информации нету. Так же генерируем для полноты описание места преступления и хронологию.

У игрока есть выбор способностей, которые дают бонус (одна за игру, если использовали, то записываем в таблицу). Криминалист раскрывает рандомную улику не тратя ход, журналист берет интервью у выбраного вами подозреваемого (генерируется интервью с строгим промтом), а психолог дает психологический портрет (характер подозреваемых генерируется при старте игры).

Также есть допрос свидетелей, которые генерируются в начале. Они выбираются рандомно. Изучение улик тратит ход. Улики указывают на человека, но они не всегда указывают на виновного (не зря они подозреваемые) и открываются случайно.

Игра не требовательная, но интересна тем, что сюжеты всегда разные.

V1.8.1: Повышение стабильности

Бот живет дома, интернет может упасть, Ollama — зависнуть. Чтобы он не умирал навсегда, добавил:

1. Логирование — чтобы знать, где упало.

2. Бесконечный цикл с перезапуском при падении polling'а.

logging.basicConfig(
format="%(asctime)s - %(name)s - %(levelname)s - %(message)s",
level=logging.INFO
)

if name == "main":
while True:
try:
logging.info("Запуск бота...")
asyncio.run(run_bot_polling(app))
except Exception as e:
logging.error(f"Polling упал с ошибкой: {e}")
traceback.print_exc()
logging.info("Перезапуск через 5 секунд...")
time_module.sleep(5)

Также добавлены: обработчик ошибок, безопасные функции отправки текста и кнопок (они ловят ошибки связанные с отправкой), множество блоков try (особенно при запросах к Ollama), чтобы выводить все ошибки и контролировать ситуацию.

Добавлена выгрузка моделей через время, чтобы не переполнять память хоста. Если при ответе модель долго думает, то удаляем её из кеша.

Кеширование ответов, которое облегчает работу (если запрос повторяется, то ответ берется из кеша), но необходимо учитывать историю, чтобы не было ситуаций: модель на "порекомендуй еще 10 фильмов" выдала 10 комедий, хотя до этого речь шла о ужасах. И переодически чистить ответы, чтобы не загружать кеш.

V1.9: Прокачка игры

В мини-игре добавлены уровни сложности. Для сложностей я создал отедльный список с множителем очков и описанием для промта. В топе теперь учитывается количество очков, которые считаются по формуле: points = (max_q - used_q + 1) * 50 * settings['complexity_factor'], где max_q - общее количество вопросов; used_q - количество использованых вопросов; + 1 т.к. первый вопрос обязательно нужно использовать (это проверяется про вводе команды обвинения); 50 - свободный множитель; settings['complexity_factor'] - множитель за уровень сложности из списка. if game['used_ability'] == 0: points = int(points * 1.2) - проверяем использовалась ли способность и если нет, то множим еще на 1.2.

Модель qwen2.5:7b-instruct заменена на qwen2.5:14b-instruct, которая более точно генерирует различные ситуации. Также при генерации она генерирует обьяснение почему подозреваемый виновен\невиновен и в конце оно выводится как обьяснение победы или проигрыша.

Исправлено множество проблем с вводом имен (например Петр и Пётр считает за разные имена).

Так же создан список, где собрано более сотни преступлений, которые поступают в промт и модель по ним генерирует ситуацию.

Обрабатываются почти все ошибки и исправлен баг с фото в группе (если бот не был упомянут, то мог выдать ошибку на фото)

V2.0: Генерация изображений

К тексту добавилась картинка! Интегрировал AUTOMATIC1111. Доступные модели для генерации: sd_xl_base_1.0, sd3_medium, dreamshaper_8, v1-5-pruned-emaonly, sd_xl_refiner_1.0. Они хорошо работают в системе с 5070. Выбор модели доступен там же, где и выбор моделей Ollama. Сама же генерация осуществляется через специальную ссылку:

payload = { "prompt": "cat", "steps": 1, "width": 64, "height": 64, "override_settings": {"sd_model_checkpoint": model_name}}

async with session.post(f"{A1111_URL}/sdapi/v1/txt2img", json=payload, timeout=30) as resp:

return resp.status == 200

Пока работает на английском, но можно осуществить перевод через модели ollama. Генерация осуществляется с помощью команды и описания изображения (/draw red cat). Бот отправляет запрос в WebUI, генерирует изображение и отправляет его пользователю.

Небольшой вывод:

Создать своего Telegram-бота на базе локальных нейросетей — задача вполне реальная. Это не требует огромных вложений (кроме, разве что, видеокарты), но открывает безграничный простор для творчества. Мой бот прошел путь от простого «ответчика» до помощника, который может поддержать беседу, распознать текст на фото, сгенерировать картинку. Так же с помощью генерации можно осуществить множество игр, нужна лишь ваша фантазия.

Для проведения этой проверки авторы создали набор тестов CoT-Control с инструкциями, изменяющими CoT (запрет слов, смена регистра и т.п.).

В результате модели гораздо хуже управляют CoT, чем финальным ответом (например, Claude Sonnet 4.5 контролирует свои мысли только в 2.7% случаев, а свой ответ в 61.9%), что даёт основания для осторожного оптимизма, но всё же необходимо отслеживать этот показатель у будущих моделей. Также заметили, что контролируемость CoT растёт с размером модели, но снижается при увеличении сложности задач, длины рассуждений и объёма RL-тренировки, и даже при знании о мониторинге или оптимизации промтов контролируемость повышается незначительно.

Сегодня на помощь авторам приходит ChatGPT. Эта нейросеть не только подскажет интересные темы, но и поможет выстроить структуру материала, подобрать привлекательный заголовок, определить стиль, который подойдет вашей целевой аудитории. Благодаря возможностям искусственного интеллекта процесс создания контента становится проще и быстрее, а результат — более предсказуемым.

Нейросеть не заменяет автора, а помогает сосредоточиться на главном — сделать публикацию полезной и качественной для тех, кто заходит в Дзен за интересным контентом.

Как создавать материалы для Дзена с помощью ChatGPT

Чтобы блог на Дзене действительно приносил результат, важно понимать особенности самой платформы. Алгоритмы оценивают не количество просмотров, а уровень вовлеченности: сколько времени читатель проводит на странице, дочитывает ли статью до конца, оставляет ли комментарии.

Тексты должны быть простыми, эмоциональными и живыми. Даже если материал частично создан с помощью нейросети, важно сохранить ощущение, что его написал человек. Читатели Дзена чутко реагируют на индивидуальный стиль, голос автора и уникальность — именно это помогает выделиться среди множества каналов.

Искусственный интеллект ускоряет работу, экономит ценные минуты и приводит мысли в порядок, но за живые эмоции всегда отвечает человек. Только личное участие делает текст по-настоящему интересным и удерживает внимание до последней строчки.

Как ChatGPT помогает авторам на Дзене

Современные нейросети стали незаменимыми помощниками для авторов Дзена: они делают работу быстрее, помогают упорядочить идеи и сохранять разнообразие форм. Создание контента с помощью нейросети позволяет авторам быстро переходить от генерации идей к написанию статей, не теряя времени.

Шаг 1. Генерация идей

Открываем ChatGPT.

и вводим такой запрос:

Предложи 10 тем статей для Дзена о саморазвитии, добавь интригу и легкий юмор.

Формулировку можно менять в зависимости от задачи: запросить темы для экспертной статьи, для практики или для личных размышлений. Если материал пишется под определенный поисковый запрос, его стоит включить в промпт — нейросеть органично вплетет ключевые слова в будущий текст.

Шаг 2. Построение структуры

После выбора темы просим нейросеть создать план материала:

Сделай план статьи с интересным началом и ярким финалом.

Рекомендуется сразу уточнить нужный стиль: разговорный, строгий или аналитический. Иногда удобно получить от нейросети несколько вариантов, чтобы подобрать лучший вариант подачи.

Шаг 3. Подготовка черновика

Оптимально создавать текст по разделам. Такой способ помогает искусственному интеллекту точнее раскрывать темы: он сохраняет детали и не теряет важные моменты.

Алгоритм простой:

• Используем готовый план.

• Выбираем раздел и вставляем его в запрос.

• Пишем промпт:

Напиши эту главу в стиле Дзена. Оформи раздел коротко, ясно и с живыми переходами между мыслями.

• Когда все фрагменты готовы, собираем их в единое целое, выстроив логичную структуру и соблюдая единый темп повествования.

Выбор тона публикаций

Тональность зависит от направления блога. Если ведется экспертный канал, стоит подчеркнуть аналитическую подачу — например, через промпт "Сделай в аналитическом стиле для делового портала". Для широкой аудитории подойдет легкое, дружелюбное общение с примерами из жизни и личными наблюдениями.

Использование разных форматов глав

Просите нейросеть подготовить несколько вариантов одной главы с разным стилем, чтобы публикации были разнообразнее. Один материал можно подать как интервью, другой — сделать аналитическим обзором, а третий — оформить в виде рассказа с примерами. Такой подход делает блог живым, а ленту — динамичной. При создании контента с помощью нейросети вы можете экспериментировать с формами и стилистикой, что повышает интерес аудитории.

Шаг 4. Доработка и адаптация текста

Готовый материал желательно дополнить примерами, уточнить факты, выделить ключевые идеи. При необходимости нейросеть поможет изменить стиль, добавить переходы или сделать текст эмоциональнее, выбрав нужный тон. ChatGPT особенно полезен на этом этапе: он быстро адаптирует текст под нужды аудитории Дзена.

Шаг 5. Заголовки и лид

Заголовки важны как для SEO, так и для читателя — по ним определяется релевантность, а пользователь решает, открывать ли статью. Запрос к нейросети стоит формулировать четко: вместо "Предложи 5 вариантов заголовков" напишите "Создай заголовок с ключевой фразой [ключевая фраза] и добавь хук для вовлечения". Это позволит получить варианты, которые одновременно повышают видимость в поиске и цепляют аудиторию Дзена. Если задача — продвижение, указывайте ключевое слово заранее и используйте его не только в заголовке, но и в основном тексте.

Как корректно задавать запросы нейросети

Многие авторы, работая с нейросетями, стараются максимально четко формулировать запросы, ожидая этим улучшить результат. Действительно, структурированный подход помогает создавать контент через нейросеть, но со временем шаблонные запросы снижают оригинальность текстов.

Чтобы ваши публикации не были похожи друг на друга, стоит варьировать стиль построения промптов. Иногда важно задавать точные параметры, а иногда — предоставить искусственному интеллекту больше свободы.

Пример запроса:

Ты — блогер Дзена. Читатели — специалисты 25–40 лет, которым близок юмор и ясность. Тема — как перестать откладывать задачи. Просьба: лаконичный текст с примерами.

Такая структура задает нейросети определенные рамки, но не ограничивается только этим. Можно менять стиль, выбирать другой тон — экспертный, аналитический, дружелюбный, а также просто указать: "напиши статью на Дзене на тему…".

Рекомендации по работе с промптами:

• Чередуйте строгие и свободные формулировки — это помогает разнообразить тексты.

• Экспериментируйте с подачей, чтобы каждый материал отличался.

• Просите несколько версий статьи: от легкой заметки до глубокого разбора.

• Добавляйте ключевые слова, если материал нужен для продвижения.

• Гибкость в работе с запросами — главный секрет, который делает взаимодействие с нейросетью по-настоящему творческим.

В каких случаях не стоит полагаться только на нейросеть

Нейросети действительно ускоряют написание текстов, однако стоит помнить:

• Модель не знает тонкостей вашей аудитории — ее потребностей, привычных выражений, культурных особенностей.

• Искусственный интеллект часто повторяет одни и те же шаблоны, фразы, структуру.

• Нейросеть не улавливает эмоции читателя, не всегда понимает, когда важно сделать паузу или задать вопрос.

Поэтому работайте с текстом после генерации: добавляйте реальные истории, делитесь личными выводами, корректируйте стиль.

Для проверки фактов используйте цепочку промптов:

Собери в сети интересные сведения по теме [тема] и найди официальные источники, которые их подтверждают.

Для каждого найденного факта:

Отследи официальную документацию или публикации, подтверждающие этот факт [факт].

Что мешает текстам в Дзене набирать популярность

Даже самый полезный сервис может навредить статье, если пользоваться им неосознанно. Вот главные промахи:

• "Сочини материал на любую тему" — результатом будет что-то абстрактное, без души.

• Публикация без корректуры — алгоритмы быстро снижают охват из-за отсутствия индивидуального стиля.

• Избыток повторов и лишних слов — возникает ощущение усталого, искусственного текста.

Обязательная стадия — проверка уникальности и добавление авторских деталей.

Даже если материал создан нейросетью, требуется доработать его: добавить живые обороты, выстроить логику, убрать повторяющиеся шаблоны. Так публикация останется естественной и не будет казаться стандартной.

Как сделать статью живой и пройти модерацию

Живой текст для Дзена — это не эмоции ради эффекта, а натуральная речь и легкость чтения. Чтобы публикация не затерялась среди других, держите равновесие между структурой и выразительностью.

• Обычно публикации на 2000–4000 знаков читаются легко и позволяют раскрыть тему без лишних подробностей.

• Используйте подзаголовки и списки — они делают материал нагляднее и структурнее.

• Живые выражения и эмоции добавляют естественности, особенно если есть личный опыт.

• Пара-тройка иллюстраций помогает удержать внимание и усиливает смысловое наполнение статьи.

• Википедийный стиль здесь не подойдет: в Дзене ценятся тексты, где заметен автор.

Если самому неинтересно читать свой материал, читатели почувствуют это еще быстрее. Для уверенности попросите нейросеть выявить машинные обороты:

Проверь, нет ли в тексте машинных формулировок, и перепиши неестественные или шаблонные фразы. Сделай стиль живее, не меняя сути и структуры.

Вывод

ChatGPT — это отличный помощник для работы с текстами. С его поддержкой легко подобрать структуру, определить стиль и сформулировать основные идеи, однако смысловая наполненность и живость всегда зависят от самого автора.

Если планируется запуск блога на Дзене, нейросеть окажется полезной на старте. Создание контента с помощью нейросети помогает наладить рабочий процесс, а также избавиться от страха чистого листа. Тем, кто освоил написание статей для Дзена и умеет сочетать требования платформы с авторским стилем, удается достичь главного — привлечь внимание аудитории. По-настоящему успешные публикации по-прежнему строятся на живых текстах, а современные технологии лишь делают их более заметными и эффективными.

А для тех, кто еще не освоил современные нейросети, есть специальный бот с бесплатным обучением. Он поможет с использованием ChatGPT и других моделей.

Может ты хотел просто "собрать плюсов"? Ну тогда лучше проверенные баяны пости чем это. Мало того, что текст ИИ почти всегда содержит в себе неточности и явные технические ошибки, так ещё и подача у него часто странная (иногда слишком агрессивная, иногда слащаво-приторная) для обычного поста на развлекательном ресурсе.

В общем представь что во всём Пикабу только твои посты и больше ничего. И подумай, может не стоит? Скопировал текст из нейронки, посиди, подумай и не нажимай "отправить". Пожалуйста