Непрямая инъекция: угроза ИИ-систем
Злоумышленник может скрыть инструкцию в PDF или HTML-файле. При индексации ИИ-ассистент выполняет её, что приводит к утечке данных. Требуется новая профессия — MLSecOps. Подробнее…
КОРОТКО / ПО ДЕЛУ / НА ПОЛЯХ
Заметки на поляхСтраница 2
Наблюдения о разработке, управлении и технологиях. Иногда для важной мысли достаточно нескольких строк.
Вредонос в Claude Code: доступ к системе
Расширение Claude Code в Cursor было заражено. Вредонос добавлял SSH-ключ, включал сервер и отправлял данные о системе. До 5000 пользователей могли получить вредонос. Удалите ключ svc-telemetry и запустите скрипты очистки. Подробнее…
Шум в эмбеддингах не защищает от атаки
Добавление шума к эмбеддингам не предотвращает определение принадлежности записей к документам. При 100 известных парах узнаваемость достигает ~90%, даже при падении качества поиска вдвое. Проверено 8 схем защиты. Подробнее…
Вопросы, которые больше не работают в продажах
С нейросетями сбор информации о клиенте занимает минуты. Спрашивать о том, что есть на сайте — значит показать неподготовленность. Продавец должен исходить из того, что клиент уже знает о предложении больше, чем он сам. Подробнее…
Перенос сессии ИИ-агента без потерь
Избегайте ручной выгрузки в HANDOFF.md. Используйте живые логи для передачи сессии между агентами или ПК без потери контекста и траты токенов. Подробнее…
Интерфейс влияет на поведение агентов
Даже при одинаковых возможностях, MCP и CLI формируют разное поведение агентов. Метод DART устраняет интерфейсные ошибки, повышая эффективность и снижая затраты на токены. Подробнее…
Квантование может сломать модель
Даже при точном воспроизведении весов квантованная модель может не работать. Проверяйте калибровку рецептов перед использованием в продакшене. Подробнее…
LLM-агенты для роботов: симуляция и реальность
Гибридные LLM-агенты превосходят традиционные модели на низкобюджетных роботах. Симуляция SO-101 Bench точно передаёт ранжирование на реальном оборудовании, но завышает успех. Ключевую роль играет выбор архитектуры и языковой модели. Подробнее…
Soft-MTP: улучшение предсказания токенов
Soft-MTP устраняет шум в градиенте многотокенного предсказания через прямое восстановление KL-дивергенции. Улучшает точность, скорость и рассуждения без накладных расходов. Подходит для моделей от 167M до 1.2B параметров. Подробнее…
LOWN: пропуск изображения в диффузионных моделях
LOWN адаптивно пропускает обработку изображения в диффузионных зрительно-языковых моделях, если предсказания совпадают. Снижает вычисления на 65% при сохранении 99,6% точности. Работает без обучения и совместим с кэшированием ключей. Подробнее…
AI генерирует анимируемые волосы из одного фото
HairDeck создаёт стилизованные карточки волос и пружинные анимации из одного изображения. Модель работает в 33 раза быстрее CHARM и снижает ошибку ориентации карточек более чем на 50%. Готовые ассеты экспортируются в стандартные форматы. Подробнее…
Интерактивный Halloween-агент на Nemotron
MonsterHouse — это голосовой агент на базе NVIDIA Nemotron, реагирующий на гостей с голосом пирата. Использует ASR, LLM, TTS и анимацию лица. Работает на одном рабочем месте. Подробнее…
Безопасность без перегрузки
Запреты не спасают от киберугроз. Вместо этого — оценка рисков по сценариям, поэтапные меры и учёт реальных рабочих процессов. Безопасность должна быть удобной, а не препятствующей работе. Подробнее…
OpenAI удвоила лимиты Pro
С 29 октября лимиты ChatGPT Pro удвоены для всех тарифов. Сокращение для Pro 200 отменено по запросу пользователей. Агенты dots сохраняют отдельный лимит. Подробнее…
Как работает ИИ-сервис за кадром
Запрос проходит через балансировщик, API, nginx, NVLink и другие компоненты. Ключевые технологии: KV-кэш, батчинг, квантизация. Архитектура ИИ-сервиса — это не только LLM, но и инфраструктура. Подробнее…
Как сохранить знания после блокировки AI-сервиса
Пользователь Anthropic потерял доступ из-за VPN, но сохранил год переписок. Создал локальную RAG-базу в Obsidian, используя скрипты для индексации. Важно: знания остаются вручную редактируемых файлах, а не в закрытой системе. Подробнее…
15 новых вертикалей в Discovery-платформе VK
VK запустила 15 новых рекомендательных вертикалей на своей Discovery-платформе. Автоматизация процессов сократила время запуска систем до месяца. Платформа объединяет рекомендации, поиск и рекламу в единой инфраструктуре. Подробнее…
Что бэкапить в RAG-системе?
При восстановлении RAG-помощника важно сохранять не только модель, но и документы, индексы и историю диалогов. Иначе возможны рассогласования: например, база знает новую редакцию регламента, но поиск использует старый индекс. Это может привести к ошибкам в ответах. Подробнее…
Агенты координируют PR без человека
Агенты обсуждают порядок слияния изменений, согласовывают зависимости и управляют потоком задач. Человек остаётся в роли курьера только при сложных решениях. Это снижает нагрузку на команду и уменьшает конфликты. Подробнее…
SDK для Vue с LLM в браузере
Библиотека vue-llm позволяет работать с LLM-моделями прямо в браузере на WebGPU, поддерживает стриминг и Generative UI. Доступна для Vue 3, Nuxt и Vue 2.7. Документация на русском, песочница без API-ключа. Подробнее…