Почему Microsoft следует беспокоиться о MacBook M5

Mac Mini от Apple стали фаворитами для управления локальным искусственным интеллектом. Новейшие MacBook Pro от Apple с новыми чипами Apple M5 Pro и Apple M5 Max могут еще больше очаровать разработчиков.

На этой неделе Apple представила свои новые MacBook Pro, сочетающие в себе пару 3-нм процессорных кристаллов и межсоединение между ними. Джейсон Кросс из Macworld отметил, что конструкция с двумя кристаллами не нова; Процессоры AMD, такие как Ryzen 9 5950X или 7950X3D, используют пару чиплетов, соединенных с помощью межсоединения Infinity Fabric.

Что нового в чипах Apple M5, так это наличие «суперядер» и «производительных ядер». Некоторые из них — переименованные в «суперядра» — являются брендингом, как отмечает Джейсон. Другие элементы, такие как новые ядра производительности, остаются неизвестными. Но что действительно интересно, так это то, что они работают в паре с 20- и 40-ядерными графическими процессорами, каждый из которых имеет встроенный нейронный ускоритель, а также колоссальные 128 ГБ настраиваемой унифицированной памяти. Это то, чего не делает ваш ПК с Windows, и это дает клиентам Apple несколько преимуществ.

На данный момент мы не знаем некоторых подробностей о последних чипах Apple, которые можно будет раскрыть при глубоком погружении, возможно, на конференции по чипам Hot Chips в августе этого года. Но только нисходящие функции говорят нам достаточно, чтобы мы могли восхищаться тем, что делает Apple.

Память имеет значение, и MacBook M5 Max обеспечивает ее превосходно.

Давайте сразу поговорим о самом впечатляющем аспекте: памяти. Чип Apple M5 Max включает в себя 48 ГБ унифицированной памяти, вплоть до колоссальных 128 ГБ. Страница конфигурации Apple немного сбивает с толку, но похоже, что все 16-дюймовые ноутбуки MacBook Pro можно настроить на эту мощность, хотя и за колоссальную цену в 4399 долларов. Но это унифицированная конфигурация памяти.

В течение многих лет ноутбуки с Windows на базе чипов AMD и Intel включали выделенную видеопамять: половину доступной системной памяти в ноутбуке Intel, а также фиксированную версию в ноутбуке Ryzen. Когда AMD анонсировала процессор Ryzen AI Max для локального искусственного интеллекта, она доработала свое программное обеспечение Adrenalin, чтобы пользователи могли настраивать VRAM на лету. В августе прошлого года Intel представила функцию «Shared GPU Memory Override», которая по сути делала то же самое. Qualcomm, чьи процессоры Arm наиболее близки к M5 Pro и Max с точки зрения архитектуры, не предлагает такой возможности.

Чипы Apple M5 используют то, что они называют MLX, структуру массивов с открытым исходным кодом, которая, похоже, выводит локальный искусственный интеллект на новый уровень. MLX, как объясняет Apple, не требует от пользователя определения того, сколько памяти ему выделить. Он не обязательно даже делает выбор сам. Вместо этого MLX со встроенной поддержкой обучения и вывода нейронных сетей, включая генерацию текста и изображений, может «работать как на процессоре, так и на графическом процессоре без необходимости перемещать память». Если использовать старое клише, это просто работает.

Модели искусственного интеллекта поглощают самую быструю память, доступную на вашем ПК, обычно это видеопамять, связанная с вашим графическим процессором. лучший Модели ИИ, как правило, самые сложные: чем больше, тем лучше, а модели ИИ используют количество параметров в качестве общего показателя того, насколько они хороши. Но этим моделям также требуется много памяти для работы — точно так же, как Windows не будет работать на ПК с жалкими 2 ГБ оперативной памяти, и почему Adobe Photoshop требует значительно больше.

Итак, подведем итог: новые MacBook Pro M5 от Apple включают до 128 ГБ доступной памяти, большая часть которой доступна для графического процессора — в данном случае для механизма искусственного интеллекта. Это намного больше, чем локальная видеопамять самой мощной видеокарты для ПК, Nvidia RTX 5090, к которой подключено 32 ГБ видеопамяти. И если вы думаете, что 4399 долларов — это слишком много для платы за блок искусственного интеллекта, MacBook Pro за 3099 долларов в стандартной комплектации включает 48 ГБ унифицированной памяти. Вы поняли идею.

Таким образом, MacBook от Apple должен иметь возможность загружать и запускать локальные модели искусственного интеллекта, которые обычно должны работать в облаке. Это означает отсутствие задержек, отсутствие затрат на подписку и отсутствие данных, покидающих устройство для приложений, регулируемых строгими законами о конфиденциальности. Собственные оценки Apple (ниже) показывают сравнение памяти различных популярных моделей, и они должны легко работать на MacBook. Удвойте выделение памяти в модели Qwen3, и станет возможной модель с 70 миллиардами параметров. Еще круче то, что Apple опубликовала несколько строк кода для квантования или сжатия модели до более низкой точности. Это ловко.

Но дизайн Apple также имеет впечатляющие характеристики производительности. Процессоры AMD, Intel и Qualcomm оснащены выделенным унифицированным графическим процессором. Apple этого не делает: вместо этого она помещает внутрь NPU (или, по крайней мере, «нейронный ускоритель»). каждый ядер графического процессора. Мы знаем, что эти нейронные ускорители выполняют специальные операции умножения матриц, необходимые для машинного обучения, и что у Apple также есть отдельный 16-ядерный нейронный движок, который, по-видимому, является названием специального NPU. Мы на самом деле не знаем, как все это взаимодействует друг с другом.

Тем не менее, Apple утверждает, что «время получения первого токена» (то, как быстро LLM реагирует на ваши входные данные) значительно быстрее, как в таблице выше, так и в таблице ниже.

Лично мое использование LLM на самом деле не зависит от того, насколько быстро работает LLM. Мне нравится быстрый ответ, но способ генерации текста в стиле матричного принтера может затруднить его чтение. Сложный ответ имеет большее значение.

Сможет ли мир Windows идти в ногу со временем?

Честно говоря, у Microsoft есть нечто похожее по концепции: Windows ML, которая использует преимущества самого мощного процессора, доступного на ПК, для запуска локальных приложений искусственного интеллекта. По сути, там говорится, что вам не нужен NPU, а нужен самый мощный и доступный компонент вашего ПК. Какой подход лучше? Честно говоря, я не знаю, хотя правильное тестирование должно дать ответ.

AMD Ryzen AI Max+ — это мощный инструмент искусственного интеллекта и, вероятно, ближайший конкурент Apple. AMD использует 80 МБ кэш-памяти для решения проблемы искусственного интеллекта с помощью AI Max+ 395, и добавление памяти в процессоры было стратегией, которую она использовала с отличным эффектом.

Тем не менее, я видел отдельные сообщения о том, что сотрудники Apple Store были шокированы выходом Mac Mini за дверь. Но маленькие, компактные коробочки оказались весьма полезными для разработчиков, желающих запускать LLM или агентный ИИ локально, не тратя ни тонны энергии, ни подписку на токены ИИ. Новые MacBook Pro от Apple просто добавляют экран.

Однако, насколько я могу судить, Mini не был разработан с учетом ИИ. Теперь, когда руководство Apple осознает, что Mini является предпочтительным устройством с искусственным интеллектом, будет интересно посмотреть, что произойдет с ожидаемым Apple Mac Mini 2026 года с чипом M5 внутри. Все это, безусловно, устанавливает высокую планку для AMD, Intel и Qualcomm.