Чип A20 Pro
Новый iPhone 18 Pro на чипе A20 Pro смог запустить локальную ИИ-модель Bonsai 27B примерно в два раза быстрее, чем iPhone 17 Pro с A19 Pro. Тест провел разработчик Адриен Гронден, показавший работу модели непосредственно на смартфоне без подключения к облачным серверам.
Bonsai 27B — большая ИИ-модель с 27 млрд параметров. В обычном виде она занимает около 54 ГБ памяти. Протестированный на iPhone вариант специально сжат до нескольких гигабайт, поэтому смартфон вообще способен запустить его локально. В тесте Грондена iPhone 18 Pro генерировал ее ответы вдвое быстрее, чем iPhone 17 Pro.
Одной из причин такого результата стал новый Neural Engine в A20 Pro. В iPhone 18 Pro он получил два блока по 16 ядер, которые Apple использует для ускорения операций искусственного интеллекта. Кроме того, смартфон оснащен 12 ГБ более быстрой оперативной памяти LPDDR5X, а пропускная способность памяти достигает 115,2 ГБ/с.
Сам результат важен прежде всего для локального ИИ: iPhone способен выполнять все больше операций непосредственно на устройстве, не отправляя запросы на удаленные серверы. Это может быть полезно для работы с ИИ без интернета и для задач, где важна конфиденциальность данных.
Ранее мы писали, что энтузиаст превратил смартфон Pixel 7 в карманный компьютер для запуска языковых моделей без интернета.
Источник новости: hi-tech.mail.ru
