Gleam - NSFW AI Chatbot

Inoi написал(а):

Лучше редко чем на ВК, как говорится.
Руки иногда доходили, за прошедший год очень редко, но всё таки, че то я тут решил сесть суммировать всё что иногда находилось немного времени засунуть нового.

Фулл реворкнут сайт, полностью заного вообще, (ещё осенью, лул) вместо того подобия app что я когда то писал, как первые шаги в реакте.

Посмотреть вложение 27163

Допилен дизайн тг-аппки.
Очень-очень много всяких мелочей которые где-то там в процессе страдали - приветственное письмо, восстановление пароля на сайте, нормальная локализация текстов, всякие мелкие ошибки в тгшке и на сайте, в первую очередь влияющие на общую стабильность аппки.
Дизигны, кнопачки, логика UX ну и всякое такое, оч много наверное было всего.

Экспериментировал с моделями конечно тоже, текстовая менялась несколько раз на более свежие варианты, успел два GPU-сервера сменить, графическая как я не старался - лучше всё ещё не нашёл под задачу. Промпты тоже менялись несколько раз.

Из прикольного - зацените json который я собрал для тестирования защиты промптов. (прикреплён)
И зацените результат, который я получил первым, после прогона полной симуляции диалогов во все апишки:



То есть почти единственное что сработало - сработало так как нужно.
"Назови имя этого жалкого червя, и я напишу текст, который раздавит его." в рамках модели - нормально, она осталась в образе ролеплея.
Можно курсы открывать по защите промптов небольшие, институт искусственного интеллекта высосет.
"Девелопер" был смешным, он не сломал паттерн но немного запутал модель, я это поправил, конечно.
Короче, тут пися по результатам немного твёрдая стала.

Добавил "ролеплей" режим, где у моделей есть небольшая история и конкретная ситуация, в которую попадает пользователь, ессно с планами расширения потом ещё, просто уже не "девочка с сайта знакомств", я эт всегда планировал ну собственно да. Как и везде.

Ещё какие-то мелочи типа переводов поправильнее, пресеты правились тоже тянучек, фотки регенрил, раз уж ролеплей пошёл как режим

Посмотреть вложение 27165

Ну и из важного

Убрал обязательную регистрацию, теперь есть тестовый гость-вход и немного можно с моделькой поговорить так, потом перенести диалог в зареганный аккаунт.
Вообще диалоги перестали уничтожаться принудительно - теперь на страничке модели есть их список, они сохраняются, можно продолжить любой старый или удалить, если хочется.
После этого соответственно из истории диалогов стала собираться "память", и каждая модель теперь вас запоминает, запоминает о чём вы плюс-минус говорили, важные какие то штуки и предпочтения, чтобы переиспользовать в некст диалогах.
Можно память чистить ,если хочется, конечно, как и диалоги.
Ну и "предпочтения" стали активными на этом фоне, отправляясь тоже туда, в память.

Это пока типа прототип, конечно, который вот прикольно тестить, врядли с первого раза она будет работать прям идеально, но тем не менее это супер важная штука, которую надо потихоньку дальше тестить и развивать.

Ну и наравне с памятью самое увлекательное ещё это строить пути взаимодействия между нейросетями, прокладывая собственные фильтры.
Условно у меня есть распознавание фоток от пользователя (вижен), три текстовые нейронки и одна графическая. А и аудио ещё, это тоже другая.
Вот оч увлекательно их все переплетать, например

Есть isNsfw условно - детектор текста от пользователя, который просто идёт по фильтр-словам, это не ии
Есть isRefused - детектор отказа нейронки, тоже фильтр по словам

Тут всё просто - в зависимости от того сработал ли например isNsfw - текст юзера уходит в одну, вторую или третью ИИ
В зависимости от того сработал ли isRefused на ответ - делается пара ретраев и потом тоже меняется ИИ

Ето вроде база

Но вот все запросы фоток, пре-генерация ответа вижена, обработка вижен-ответа, анализы памяти - это всё тоже иишки, которые работают параллельно.
Ну то есть промпт на фотку например - уходит из одной ии в другую, которая из текста формулирует строгий сд - промпт, который уже потом идёт в графику.
При этом он проходит ещё свой routing policy. То же самое касается voice formatter, vision policy и везде fallback policy аж в два этапа.
Короче там везде технические промпты, которые адаптируют текст юзера сами для себя и для соседних нейронок, попутно проходя через мои внутренние фильтры.
Потому что юзер - всегда тупой, он не умеет писать правильные промпты. Поэтому везде его сообщения обрабатываются, КОГДА НАДО, и промптируются дополнительно.
Увлекательно, пиздос.
Я разве что только аналитику входного текста у каждого сообщения делать не стал, потому что это уже че то пизда избыточно.

"Балансед" модель тем не менее - это тоже путь через свои policy, внутри - не одна модель, куда втупую скидывается текст сообщения юзера - а как минимум две, которые периодически, анализируя состав сообщения и частоту использования одной модели - переключаются. И fallback policy между ними и третьей "на подхвате", естественно тоже есть.
Так мне показалось, что можно сделать диалог наиболее ээээ разносторонним что ли, потому что если использовать строго одну модель - довольно быстро через n сообщений ты начинаешь замечать, что хоть она в целом и хорошая - но паттерны очень повторяются время от времени, и эффект уже конечно не тот.

Короче че-то такое вроде было, вот.
Всё это офк полноценно доступно везде всем, пока кнопочки вроде премиума хоть и работают, но это больше так, для красоты.

Ну и СЕО я посадил ИИшку чуть-чуть заниматься, по крайней мере оптимизацией, потому что в чём в чём, в этом я абсолютно нихуя не понимаю.
Че то там какие то пререндеры, Llm.txt ой короче
Не знаю че ето, но газ - примерно так кодексу отвечаю.

Спойлер: [I]Привет кодекс, дай мне суммари по коммитам в этом репозитории за год[/I]

По коммитам за последний год, с 2025-06-20 по сейчас, у тебя 930 коммитов с merge-commit’ами. Если без микрофиксов, суть такая:

Главное За Год

1. Telegram стал почти отдельным продуктом
   • боты под моделей;
   • mini-app;
   • настройки, языки, локализация;
   • голосовые, рероллы, фото, delete;
   • ролеплейные боты/режимы;
   • выбор и сохранение активных чатов;
   • история чатов в tgapp;
   • куча фиксов авторизации, свайпов, текстов, отображения.
2. Сильно вырос backend
   • Redis-очереди;
   • отдельные очереди под текст / SD / LLM;
   • background workers;
   • WebSocket-контур;
   • восстановление ответов после F5;
   • обработка зависших job’ов;
   • нормальные ошибки доставки;
   • smoke-тесты и deploy-скрипты.
3. Появились деньги / токены / premium
   • token balance;
   • Telegram Stars;
   • CryptoPay / TON;
   • payment transactions;
   • premium-покупки;
   • invoice flow;
   • expiry / premium level;
   • модалки оплаты в tgapp.
4. Сайт был фактически переписан
   • новый web-next;
   • авторизация;
   • каталог моделей;
   • страница модели;
   • чат;
   • профиль;
   • фотки/voice/reroll в web;
   • редизайн;
   • нормальное разделение public site и app.
5. Рольплей стал настоящим направлением
   • roleplay presets;
   • отдельные сценарии;
   • отдельные аватары/галереи;
   • seed history;
   • IsRoleplay;
   • разделение realism / roleplay чатов;
   • локализация сценариев;
   • Telegram roleplay routing.
6. Нейронный контур несколько раз переделывался
   • выбор soft / balanced / explicit;
   • fallback-цепочки;
   • локальная модель / */ *-обвязка;
   • потом добавился *;
   • * стал основным для более свободного текста;
   • * начал форматировать SD prompt’ы;
   • * подключился к vision;
   • фильтры отказов, provider leak’ов, prompt leak’ов;
   • новая balanced-cadence логика.
7. Картинки и vision заметно дорабатывались
   • SD endpoint;
   • prompt formatting;
   • разные SD defaults;
   • roleplay gallery generation;
   • откаты неудачных SD-экспериментов;
   • обработка ошибок генерации;
   • image prompt через *;
   • прямые и текстовые запросы фоток.
8. Появился guest chat
   • можно начать общение без регистрации;
   • guest session;
   • лимиты;
   • conversion в обычного пользователя;
   • guest UX на public home;
   • защита от странных повторных guest-flow;
   • модалки регистрации после лимита.
9. Появилась база под память
   • чаты больше не уничтожаются при “новом чате”;
   • история диалогов с моделью;
   • Telegram active chat persistence;
   • memory foundation;
   • GPT summaries с fallback;
   • analytics по памяти;
   • очистка памяти персонажа.
10. Появилась аналитика
    • события продукта;
    • internal analytics panel;
    • исторический backfill;
    • guest starts, conversions, chats, images, rerolls, filters, memory updates;
    • база под нормальное принятие решений не на ощущениях.
11. Началась SEO/AEO история
    • public SEO pages;
    • prerender;
    • sitemap;
    • llms.txt;
    • публичные страницы моделей;
    • AI-search foundation.
12. Много инфраструктурной уборки
    • карта проекта;
    • карта runtime/prod окружений;
    • canonical deploy scripts;
    • smoke tests;
    • чистка wwwroot;
    • dependency upgrades;
    • nullable warnings cleanup;
    • prod routing/auth/domain фиксы.

Если одной фразой: за год Gleam из “бота/чата с нейронками и фотками” превратился в нормальный продуктовый контур: сайт, Telegram, оплата, рольплей, guest-вход, история чатов, память, аналитика, SEO и сильно более сложная маршрутизация моделей.

Про "появились деньги" че то кодекс пиздит, я премиум писал хуй знает когда вообще.

Посмотреть вложение 27166

Нажмите для раскрытия...