Инструменты и практика — arambolsu-ai

Новости

Инструменты и практика

Новинки инструментов и то, как ими пользуются: библиотеки, фреймворки, разборы и приёмы работы с моделями в реальных задачах.

Свежий выпуск · 13 августа, 08:17 · за последние 48 ч · историй: 14 · источники: InfoQ AI/ML, KDnuggets, KD Nuggets Tutorials

Netflix и Spotify перестраивают инфраструктуру под облако и AI

Netflix перешёл на open-source систему Kueue для выполнения распределённых задач, заменив в-house решение, которое с годами стало устаревшим. Компания перенесла большую часть batch-работ на Kueue, реализовав функциональность, ранее разработанную самостоятельно, и получив доступ к новым возможностям, которые бы стоили дорого интегрировать в собственную систему. В то же время Spotify представило архитектуру внешнего индексирования для Apache Parquet, позволяющую выполнять запросы с низкой задержкой без копирования данных в операционные базы — ключевое решение для поддержки аналитики, ML и онлайн-сервисов из одного хранилища.

Инфраструктура и DevOps: тренды 2026 и архитектурные изменения

InfoQ проводит обсуждение ключевых трендов в облачных и DevOps-решениях, включая влияние AI, устойчивость систем, платформы, FinOps и цифровую суверенность. В рамках этого процесса создаётся ежегодный отчёт 2026 года, а также аудиоверсия, где эксперты делятся практическими историями. В то же время MCP 2026-07-28 упрощает архитектуру, убирая handshake и добавляя заголовки методов и инструментов — что вызвало споры: это возвращение к REST или естественное развитие стандарта. Также David Chisnall представил, как CHERI-архитектура обеспечивает безопасность памяти и изоляцию без масштабных переписываний кода, включая применение в микроконтроллерах.

Инструменты и практики для разработчиков

Для начинающих разработчиков доступны простые способы установки Python на Windows — через официальный установщик, WinGet, uv или Miniconda. Также представлены практические руководства по вкладке в open-source-проекты, включая выбор подходящего проекта, git-механики и взаимодействие с сообществом. Для улучшения интуиции по статистике — три визуальных доказательства центральной предельной теоремы. В то же время JetBrains описал, как начало централизации расходов на AI позволило контролировать рост затрат в 10 раз за шесть месяцев, сохранив при этом свободу выбора инструментов для команд.

AI и инфраструктура: от токенов до доверия в цепочке

Meryem Arik показала, как можно снизить стоимость инференса LLM на порядки, оптимизируя архитектуру: от выбора оборудования до стратегий декодирования и перезапуска очередей. IBM и Red Hat расширили Lightwell, добавив коммерческие решения для обеспечения доверия и управления в цепочке поставок AI-программного обеспечения. В то же время Netflix перестроил систему Service Topology — карту зависимостей сервисов — для масштабирования в реальном времени, внедрив три этапа обработки, передачу backpressure через Kafka и замену gRPC на server-sent events для высокопроизводительных внутренних передач.

Коротко

  • Netflix заменило в-house решение на open-source Kueue для batch-задач, получив новые возможности.
  • Spotify внедрило внешнее индексирование Parquet для низкой задержки без копирования данных.
  • InfoQ собирает тренды 2026: AI, устойчивость, FinOps, суверенность — в отчёте и подкасте.
  • MCP 2026 упрощает архитектуру, вызвав споры — это REST или естественное развитие?
  • CHERI обеспечивает безопасность памяти без масштабных изменений кода.
  • JetBrains централизовал AI-расходы, сохранив свободу выбора инструментов.
  • Meryem Arik показала, как снизить стоимость LLM-инференса на порядки.
  • IBM и Red Hat расширили Lightwell для управления AI-циепочками.
  • Netflix перестроил Service Topology для масштабирования с использованием Kafka и SSE.

Что где прочитали

  • InfoQ AI/ML: Netflix Adopts Cloud-Native Job Queueing System Kueue to Replace an In-House Solution
  • InfoQ AI/ML: Spotify Builds External Index to Enable Low Latency Point Queries on Its Data Lake
  • KDnuggets: Building an End-to-End Data Science Portfolio Project
  • KDnuggets: 5 Easy Ways to Install Python on Windows
  • InfoQ AI/ML: Article: InfoQ Cloud and DevOps Trends Report - 2026
  • InfoQ AI/ML: Podcast: Cloud and DevOps InfoQ Trends Report 2026: AI, Resilience, Platforms, FinOps, and Sovereignty
  • InfoQ AI/ML: Presentation: Adopting Memory-Safety and Fine-Grained Compartmentalisation with CHERI
  • InfoQ AI/ML: MCP Goes Stateless, and Developers Ask Whether That Just Makes It an API Again
  • KD Nuggets Tutorials: The Ultimate Guide to Contributing to Open Source Projects
  • InfoQ AI/ML: How Netflix Scaled its Real-Time Service Map
  • KD Nuggets Tutorials: 3 Visual Proofs of the Central Limit Theorem to Build Your Intuition
  • InfoQ AI/ML: IBM and Red Hat Expand Lightwell to Strengthen Trust and Governance for AI-Era Open Source
  • InfoQ AI/ML: Presentation: Producing the World's Cheapest Tokens: A How-to Guide
  • InfoQ AI/ML: JetBrains Details its First Steps to Bring Rapidly Growing AI Spend under Control

Прошлые выпуски

Всего выпусков: 3

JetBrains начала централизацию расходов на ИИ, сохранив выбор инструментов 13 августа, 02:08 · историй: 3
За 48 ч · источники: InfoQ AI/ML, MarkTechPost

JetBrains начала централизацию расходов на ИИ, сохранив выбор инструментов

Компания JetBrains, столкнувшись с ростом затрат на разработку ИИ в шесть раз за шесть месяцев, начала централизацию использования ИИ-инструментов. Вместо ограничения инженеров набором одобренных решений, компания построила общий слой доступа и учёта, позволяющий сохранить свободу выбора инструментов, но обеспечить командам прозрачность и контроль над расходами. Цель — сбалансировать инновационную свободу и финансовую дисциплину, не жертвуя продуктивностью.

webAI представила TwIL-LM: модели для формализации логики на локальных устройствах

webAI выпустила семейство моделей TwIL-LM с 1,7 и 3 миллиарда параметров, предназначенных для автоматической формализации естественного языка в первую логику и проверки выводов из предпосылок. Модели работают на CPU или с 4 ГБ видеопамяти, а 1,7-миллиардный вариант занимает всего 1,06 ГБ. Обе модели распространяются по лицензии, не допускающей коммерческого использования. Важно отметить, что заявленные результаты на бенчмарках относятся к неопубликованной версии модели, а не к весам, доступным на платформе.

Разработчики создали полноценную pipeline для генерации видео и аудио с помощью MiniMax-H3

Разработчики продемонстрировали, как реализовать полноценную, программируемую pipeline для генерации видео и аудио с использованием модели MiniMax-H3. В основе — ComfyUI как фоновый сервер, позволяющий автоматизировать профилирование оборудования, загрузку весов модели, построение динамических графов и совместную декодировку видео и аудио. Решение подходит для локального развертывания и позволяет настраивать процесс генерации под конкретные задачи и ресурсы.

Коротко

  • JetBrains начала централизацию ИИ-расходов, сохранив выбор инструментов для разработчиков.
  • webAI представила TwIL-LM — модели для формализации логики, работающие на локальных устройствах.
  • Разработчики создали pipeline для генерации видео и аудио с помощью MiniMax-H3 через ComfyUI.

Что где прочитали

  • InfoQ AI/ML: JetBrains Details Its First Steps to Bring Rapidly Growing AI Spend Under Control
  • MarkTechPost: webAI Releases TwIL-LM: A 1.7B and 3B Formal-Logic Model Family for Autoformalization on Local Hardware
  • MarkTechPost: Implementing a MiniMax-H3 Multimodal Video and Audio Generation Pipeline with ComfyUI APIs
Новые стандарты и архитектуры в AI-агентах 12 августа, 19:58 · историй: 18
За 48 ч · источники: InfoQ AI/ML, MarkTechPost, Towards Data Science, KD Nuggets Tutorials, Analytics Vidhya ML, OReilly Data

Новые стандарты и архитектуры в AI-агентах

Спецификация MCP 2026-07-28 пересмотрела основы взаимодействия агентов: убрана ручная инициализация и заголовок сессии, добавлены обязательные заголовки метода и имени инструмента. Теперь шлюзы могут маршрутизировать трафик агентов без парсинга JSON — что вызвало споры среди разработчиков. Некоторые называют это возвращением к REST, другие утверждают, что суть стандарта всегда была в его универсальности и гибкости. Как сообщает InfoQ AI/ML, это изменение может упростить интеграцию, но также ставит под сомнение, насколько сильно агенты отличаются от API-сервисов.

NVIDIA и локальное видео: новые модели и инфраструктура

NVIDIA представила Nemotron 3.5 Lightning — открытую модель с 30 миллиардами параметров, из которых активны только 3 миллиарда, оптимизированную для агентного слоя. Вместе с ней вышла NeMo Switchyard — маршрутизатор, который направляет каждый шаг к самой дешевой подходящей модели. Также компания запустила LTX-2.5 — модель мирового класса, работающую на локальных GPU NVIDIA. Она позволяет генерировать видео до 6,8 секунд с поддержкой многокадрового режима и интеграцией с ComfyUI. Как сообщает MarkTechPost, всё это теперь умещается на одном столе — и доступно открытым весами.

Метрики, тесты и модели: от агентов до торговли

Xiaomi представила новые метрики PROVE (RC-S и RC-T) для оценки удаления объектов из видео. Они учитывают восприятие человека, а не только технические показатели, что особенно важно, поскольку современные диффузионные модели успешно воссоздают тени, отражения и скрытые структуры — но традиционные метрики (PSNR, SSIM и др.) часто ошибаются. В то же время разработчики демонстрируют, как строить и тестировать квантовые торговые стратегии с помощью OctoBot, включая валидацию через walk-forward backtesting и оптимизацию параметров. Как пишет MarkTechPost, это позволяет создавать надежные системы торговли без зависимости от внешних зависимостей.

Прозрачность и генерация: от водяных знаков до локальных агентов

Anthropic ввела обязательные водяные знаки для всех генераций Claude — текст получает скрытый маркер, файлы — цифровую подпись. Это соответствует требованиям EU AI Act и Code of Practice на прозрачность. В то же время исследователи проверили, может ли локальный LLM заменить Claude как мозг персонального агента — выполнив 27 реальных задач. Как отмечает Towards Data Science, даже небольшое улучшение оборудования может значительно повысить производительность, но полная замена требует глубокого понимания архитектуры и контекста.

Инфраструктура, генерация и управление: от масштабирования до отчетности

Netflix перестроил свою систему Service Topology — карту реального времени зависимостей сервисов — для масштабирования на производственном уровне. Теперь система разделена на три этапа, использует server-sent events вместо gRPC и передает обратное давление через Kafka, а не отбрасывает записи. IBM и Red Hat расширили платформу Lightwell, добавив коммерческие решения для управления и доверия в цепочках поставок AI-программного обеспечения. Как сообщает InfoQ AI/ML, это помогает организациям обеспечивать прозрачность и контроль в эпоху AI-ассистентов.

Коротко

  • MCP 2026-07-28 упрощает агент-интерфейс, убирая сессии и JSON-парсинг — вызвав споры о его природе.
  • NVIDIA выпустила Nemotron 3.5 Lightning и NeMo Switchyard для эффективного агентного выполнения и локального видео.
  • Xiaomi представила PROVE — метрики, учитывающие человеческое восприятие при удалении объектов из видео.
  • Claude теперь маркирует все генерации водяными знаками, соответствуя требованиям EU AI Act.
  • Netflix и IBM/Red Hat обновили инфраструктуру и управление — от масштабирования сервисов до доверенных цепочек AI-кода.
  • Локальные LLM могут заменить Claude, но требуют глубокого понимания контекста и архитектуры.
NVIDIA представила открытую архитектуру Nemotron 3.5 Lightning и систему маршрутизации NeMo Switchyard 12 августа, 13:48 · историй: 2
За 6 ч · источники: MarkTechPost

NVIDIA представила открытую архитектуру Nemotron 3.5 Lightning и систему маршрутизации NeMo Switchyard

NVIDIA выпустила новую открытую модель Nemotron 3.5 Lightning — 30-миллиардную модель с модулярной архитектурой (MoE), в которой активно используется лишь 3 миллиарда параметров. Эта модель ориентирована на уровень выполнения агентов, где каждый шаг маршрутизируется через систему NeMo Switchyard, которая динамически направляет запросы на наиболее подходящую и экономичную модель. Система маршрутизации позволяет оптимизировать вычислительные затраты, выбирая наиболее эффективный путь для каждого запроса. По данным MarkTechPost, архитектура Nemotron 3.5 Lightning сочетает в себе масштабируемость и экономичность, что делает её привлекательной для разработчиков, работающих с агентными системами и задачами, требующими высокой производительности на низком уровне ресурсов.

Xiaomi представила новые метрики для оценки удаления объектов в видео

Компания Xiaomi, через её проект MiLM Plus, представила новые метрики PROVE: RC-S и RC-T, специально разработанные для оценки качества удаления объектов в реальных видео. Традиционные метрики, такие как PSNR, SSIM, LPIPS, ReMOVE и CFD, часто не отражают реальную восприимчивость человеческого глаза к результатам удаления объектов — особенно когда речь идёт о сложных структурах, тенях, отражениях и скрытых частях объектов. По данным MarkTechPost, новые метрики PROVE учитывают восприятие человека, что позволяет более точно оценивать качество моделей удаления объектов, особенно в динамичных видеофрагментах. Это решение направлено на то, чтобы синхронизировать оценку с реальными пользовательскими ожиданиями, а не с техническими показателями.

Коротко

  • NVIDIA представила Nemotron 3.5 Lightning — 30B MoE с 3B активными параметрами, оптимизированную для агентных задач и маршрутизацию через NeMo Switchyard.
  • Xiaomi выпустила метрики PROVE (RC-S и RC-T) для оценки удаления объектов в видео, учитывающие человеческое восприятие, а не технические показатели.
  • Обе новости появились в материалах MarkTechPost — NVIDIA и Xiaomi обновляют свои подходы к AI-моделям и оценке их качества.
  • Новые решения направлены на повышение эффективности и реалистичности результатов в задачах агентов и обработки видео.

← На главную