В Apple нашли способ запуска ИИ-модели на смартфонах без использования «облака»
Apple Inc. создала новый метод, который позволяет эффективно использовать большие языковые модели (LLM) на устройствах с ограниченной памятью.
Это означает, что Apple может расширить применение искусственного интеллекта (ИИ) непосредственно на своих смартфонах iPhone, а не полагаться на мощные облачные центры обработки данных.
Большие языковые модели, такие как ChatGPT, обычно требуют значительных вычислительных ресурсов и работают в облаке. Однако исследователи Apple предложили новый подход, который использует флэш-память вместе с традиционной динамической памятью DRAM. Они назвали это прорывом, который позволит расширить доступность LLM и повысить их применимость в условиях ограниченных ресурсов.
Эта новая технология может значительно увеличить скорость работы ИИ-ассистентов и позволить им функционировать офлайн. Кроме того, отсутствие необходимости передавать данные в облако повысит уровень конфиденциальности, что является важным аспектом для Apple.
Ранее Google представила свою ИИ-модель Gemini, которая уже внедрена в смартфоны Pixel 8 Pro. Другие компании, включая Samsung, также планируют выпустить ИИ-смартфоны в ближайшем будущем.
Согласно прогнозам исследовательской компании Counterpoint, к 2024 году поставки смартфонов, основанных на ИИ, превысят 100 миллионов единиц, а доля таких устройств среди новинок достигнет 40% к 2027 году. Это свидетельствует о растущем интересе к применению ИИ в мобильных устройствах и о потенциальных возможностях, которые они могут предоставить пользователям.