В значительном шаге вперед для обработки AI на границе, компания NTT анонсировала революционный чип AI для вывода, который может обрабатывать видеопоток в режиме реального времени 4K при 30 кадрах в секунду, потребляя менее 20 ватт энергии. Этот новый чип большой интеграции (LSI) стал первым в мире, который достиг такой высокой производительности AI-видео анализа в условиях ограниченной мощности, что делает его прорывом для приложений вычислений на границе.
Чип был представлен на саммите Upgrade 2025 NTT в Сан-Франциско и разработан специально для внедрения в устройствах на границе — аппаратных средствах, расположенных физически близко к источнику данных, таким как дроны, умные камеры и датчики. В отличие от традиционных AI-систем, которые зависят от облачных вычислений, этот чип приносит мощные возможности AI прямо на край, существенно сокращая задержки и устраняя необходимость передачи ультравысококачественного видео на централизованные облачные серверы для анализа.
Вычисление на границе против облачного вычисления: почему это важно
В традиционном облачном вычислении данные от устройств, таких как дроны или камеры, отправляются в удаленные дата-центры — часто находящиеся сотни или тысячи миль вдали — где они обрабатываются и анализируются. Хотя такой подход предлагает практически неограниченную вычислительную мощность, он приводит к задержкам из-за передачи данных, что является проблемой для приложений в реальном времени, таких как автономная навигация, мониторинг безопасности и принятие решений в реальном времени.
В отличие от этого, вычисления на границе обрабатывают данные локально, на устройстве или рядом с ним. Это снижает задержки, сохраняет пропускную способность и позволяет получать информацию в реальном времени, даже в условиях ограниченного или прерывистого интернет-соединения. Кроме того, это повышает конфиденциальность и безопасность данных, минимизируя необходимость передачи чувствительных данных по публичным сетям.
Новый AI-чип NTT полностью поддерживает эту философию первенства границы — предоставляя анализ видео в реальном времени 4K непосредственно внутри устройства, без зависимости от облака.
Новая эра для AI в реальном времени на дронах и устройствах
С установленным этим чипом, дрон может обнаруживать людей или объекты с расстояния до 150 метров (492 фута) — это законный предел высоты для дронов в Японии. Это значительно улучшает традиционные AI-системы в реальном времени, которые, как правило, ограничены диапазоном в 30 метров из-за более низкого разрешения или скорости обработки.
Этот прогресс открывает множество новых случаев использования, включая:
-
Проверки инфраструктуры в труднодоступных местах
-
Ответ на стихийные бедствия в районах с ограниченным подключением
-
Мониторинг сельского хозяйства на больших полях
-
Безопасность и наблюдение без постоянных облачных соединений
Все это достигается с помощью чипа, который потребляет менее 20 ватт — значительно меньше, чем сотни ватт, требуемые AI-серверами, питаемыми GPU, которые непрактичны для мобильных или работающих от батареи систем.
Внутри чипа: собственный AI-движок вывода NTT
Производительность LSI зависит от разработанного NTT AI-движка вывода, который обеспечивает высокую скорость и точные результаты при минимальном потреблении энергии. Ключевые инновации включают:
-
Корреляция между кадрами: Сравнивая последовательные кадры видео, чип снижает количество избыточных вычислений, улучшая эффективность.
-
Динамическое управление точностью бит: Эта техника регулирует числовую точность, необходимую на лету, используя меньше бит для простых задач, сохраняя энергию без ущерба для точности.
-
Нативное выполнение YOLOv3: Чип поддерживает прямое выполнение You Only Look Once v3, одного из самых быстрых алгоритмов обнаружения объектов в реальном времени в машинном обучении.
Сочетание этих функций позволяет чипу обеспечивать надежную производительность AI в условиях, которые ранее считались слишком ограниченными по мощности или пропускной способности для продвинутого вывода.
Путь к коммерциализации и видение IOWN
NTT планирует коммерциализировать чип в течение финансового года 2025 через свою операционную компанию, NTT Innovative Devices Corporation.
Исследователи уже исследуют его интеграцию в Инновационную оптическую и беспроводную сеть (IOWN) — видение инфраструктуры следующего поколения NTT, направленное на реорганизацию цифровой основу современного общества. В рамках Инфраструктуры, ориентированной на данные (DCI), чип воспользуется All-Photonics Network для ультранизкой задержки и высокоскоростной связи, дополняя локальную вычислительную мощность, которую он предоставляет устройствам на границе.
NTT также сотрудничает с NTT DATA, Inc, чтобы объединить возможности чипа с его технологией шифрования на основе атрибутов (ABE), которая обеспечивает безопасный, точный контроль доступа к чувствительным данным. Вместе эти технологии будут поддерживать AI-приложения, которые требуют как скорости, так и безопасности — такие как в сфере здравоохранения, умных городах и автономных системах.
Наследие инноваций и видение будущего
Этот чип AI вывода является последним примером миссии NTT по созданию устойчивого, интеллектуального общества через глубокие технологические инновации. Как глобальный лидер с доходом более 92 миллиардов долларов, 330 000 сотрудников и 3,6 миллиарда долларов ежегодных затрат на НИОКР, NTT обслуживает более 75% компаний Fortune Global 100 и миллионы потребителей в 190 странах.
Будь то дроны, летающие за пределами видимости, камеры, обнаруживающие события в реальном времени без зависимости от облака, или защита потоков данных с помощью шифрования на основе атрибутов, новый чип NTT создает основу для следующего рубежа в AI на границе — там, где интеллект встречается с немедленностью.
Запись NTT представила прорывный AI чип для вывода, предназначенный для обработки видео 4K в реальном времени на границе впервые появилась на Unite.AI.
