Разработчики Raspberry Pi сообщают, что в продажу поступил модуль AI Kit, предназначенный для Raspberry Pi 5. Модуль создан совместно с компанией Hailo и содержит нейропроцессор ее производства, облегчающий работу над проектами, связанными с ИИ, нейросетями и машинным обучением.
Компания рассказывает, что AI Kit представлен в формате карты расширения HAT+ (Hardware Attached on Top). Новинка разработана совместно компанией Hailo и построена на нейропроцессоре Hailo-8L (урезанная версия чипа Hailo-8, анонсированного ранее в этом году). Модуль представлен в форм-факторе M.2, то есть его можно легко подключить к HAT+.
Напомним, что компания Hailo специализируется на чипах, предназначенных для выполнения рабочих нагрузок ИИ на периферийных устройствах, например, в автомобилях, умных камерах, а теперь и на Raspberry Pi.
Сообщается, что после подключения AI Kit к Raspberry Pi 5 устройство сможет выполнять 13 TOPS (триллионов операций в секунду). Это не слишком много, по сравнению с GPU Nvidia или ИИ-ноутбуками, с такими процессорами как Intel Lunar Lake на 40+ TOPS, однако решение получается экономичным и работает со штатным блоком питания Raspberry Pi на 27 Вт.
По словам технического директора Hailo Ави Баума (Avi Baum), чип потребляет около одного ватта на каждые три TOPS (и не более пяти ватт). А для обычной нагрузки, вроде обработки видео на 60 FPS в реальном времени, требуется порядка одного-двух ватт.
Что касается софта, последняя версия Raspberry Pi OS автоматически обнаруживает модуль Hailo, поэтому его сразу могут использовать ОС и соответствующие приложения.
Кроме того, Raspberry Pi обновила набор приложений для работы с камерой. Теперь, к примеру, можно использовать камеру для обнаружения объектов («Это автомобиль»), семантической сегментации («Эти три объекта — движущиеся автомобили»), сегментации объектов («Эти три движущихся автомобиля — грузовик, красный автомобиль и синий автомобиль»), определения поз и разметки лиц.
При этом подчеркивается, что чип Hailo можно применять и для задач, не связанных с камерой.
AI Kit поступят в продажу в самое ближайшее время и будут распространяться через «глобальную сеть одобренных реселлеров Raspberry Pi» по цене 70 долларов США.
Руководитель Raspberry Pi Foundation, Эбен Аптон (Eben Upton), отмечает, что многие большие языковые модели (LLM) сложно запустить даже на мощных ПК, а некоторые работы все равно придется выполнять в облаке. И хотя пока для AI Kit нет широкого спектра вариантов использования, Аптон ожидает, что его доступная цена приведет к «экспоненциальному росту» приложений и решений в области ИИ.
Фото: Tom's Hardware
