Intel создала масштабную нейроморфную систему, повышающую эффективность ИИ
Hala Point является развитием и продолжением более ранней модификации Pohoiki Springs. Изменения касаются архитектуры системы. В новой системе нейронов стало в 10 раз больше, производительность повышена в 12 раз и доходит до 20 квадрлн операций в секунду, на каждый ватт потребляемой энергии приходится более 15 трлн. 8-битных операций в секунду. Также для Hala Point характерна интегрированная память, нейроны общаются друг с другом напрямую, а не через память, что снижает общее энергопотребление.
По этим показателям новая платформа существенно превосходит все существующие системы, основой для которых были центральные (CPU) или графические (GPU) процессоры. Эксперты полагают, что с внедрением Hala Point обучение больших языковых моделей можно будет проводить непрерывно, в режиме реального времени. Это же относится к решению задач в части проектирования, логистики. Под постоянным контролем можно держать даже инфраструктуру населенных пунктов. Еще один возможный вариант применения — расшифровка речи в режиме реального времени, обеспечение связи или обработка потокового видео.
Подобно значительной части биологических аналогов нейросети (и система Hala Point) может работать в режиме как полной, так и частичной мощности. При этом вся сеть включает 1,15 млрд нейронов. При минимальной мощности сеть решает самые сложные задачи быстрее, чем человек, в 20 раз. Если же перейти в режим полной мощности, то разница в скорости обработки данных будет равна уже 200. Нейробиологическое моделирование не является одним из предназначений новой сети Hala Point. Если говорить об ее нейронной емкости, то ее можно сравнить с мозгом совы или обезьяны-капуцина.
Компьютеры и системы на основе процессоров Loihi можно использовать для работы с искусственным интеллектом. Если сравнивать их с системами на базе центральных или графических процессоров, то потребление электроэнергии снижается в 100 раз, а скорость увеличивается в 50 раз.
Соединения в новой системе являются разреженными — 10:1. Активируется система под воздействием некоторых событий. На основании первых опытов с Hala Point можно сделать выводы, что эффективность доходит до 15 TOPS/Вт. Такие показатели характерны для глубоких нейронных сетей. При этом данные на входе можно не паковать в пакеты, что просто необходимо при работе с центральными или графическими процессорами. Именно за счет отсутствия упаковки данных обрабатывать их можно значительно быстрее, в том числе работать в режиме реального времени. Это важно, например, при приемке и обработке данных в системе видеонаблюдения и т. д. Нейроморфную систему Hala Point уже используют и для их обучения, в том числе в непрерывном режиме. Выгода от подобных действий очевидна. Можно экономить гигаватты электроэнергии. Да и модели не приходится переобучать с некоторой периодичностью даже при условии, что наборы данных постоянно увеличиваются. Возможности Hala Point уже оценили в лаборатории Sandia National Laboratories, принадлежащей Министерству энергетики США. Здесь планируют проверить, может ли система работать аналогично человеческому мозгу, в таких же масштабах. Планируется, что при помощи Hala Point эксперты будут решать задачи из физики устройств, архитектуры вычислительной техники, информатики и т. д.
На текущий момент времени Hala Point скорее относят к прототипам, на базе которого можно будет строить системы коммерческого типа с самыми широкими возможностями. В Intel полагают, что Hala Point смогут использовать даже студенты, занимающиеся обработкой значительных объемов данных. Повсеместное широкое использование Hala Point позволит значительно быстрее обучать модели разного типа.
Эксперты Intel полагают, что повсеместное внедрение Hala Point позволит существенно расширить границы применения искусственного интеллекта и нейроморфных технологий. И в этом его поддерживают члены Intel Neuromorphic Research Community, в числе которых значатся академики, исследовательские лаборатории и институты в самых разных странах.