что такое m 2 optane genie
Использование Optane Memory для ускорения накопителей разных типов, включая и твердотельные
Оглавление
Технологии Optane Memory мы посвятили достаточно большое количество материалов, так что, казалось бы, закрыли вопрос с ней полностью. То, что началось с теоретического описания работы новой технологии кэширования, в конце концов вылилось в семь статей — своеобразный мини-цикл:
Однако во всех случаях Optane Memory (равно как и предыдущую разработку компании) мы использовали по прямому назначению — для ускорения работы винчестера. В то же время, раз за разом некоторые читатели просили проверить, что будет, если «оптанизировать» не классический магнитный накопитель, а медленный твердотельный. В конечном итоге победила идея, что лучше один раз такое тестирование провести, нежели регулярно объяснять, почему оно лишено смысла. К тому же, раз мы в конце прошлого года логически завершили цикл материалов использованием «быстрого» настольного и «медленного» ноутбучного винчестера, а в начале этого познакомились с Samsung 860 Qvo емкостью 1 ТБ на базе QLC-памяти, как раз нацеленным в промежуток между жесткими дисками и массовыми SSD, есть смысл подвергнуть и этот накопитель такой же экзекуции. Так сказать, для полноты картины.
Впрочем, идея впрячь в одну телегу коня и трепетную лань пришла в голову также и Intel. Хотя «наше всё» Пушкин А. С. и утверждал, что таковое неможно, но классик просто не успел познакомиться с гибридными винчестерами. Теперь же стараниями Intel на рынок выходит и первый гибридный SSD — Optane Memory H10, где 16 или 32 ГБ памяти 3D XPoint на плате М.2 2280 соседствуют с 256, 512 или 1024 ГБ «обычной» 3D QLC NAND. Понятно, что логика работы Н10 будет отличаться от гибридизации на базе чипсета, но предыдущие наработки компании в области кэширования наверняка стали базой данной разработки. Заодно и посмотрим, что́ можно было бы переделать: это нам поможет, когда будем тестировать накопитель Intel. Пока же он только объявлен, но еще не поставляется — а вот Optane Memory в связке с SSD на QLC можно протестировать прямо сейчас.
Участники тестирования
В упомянутой выше последней статье цикла об Optane Memory среди прочих участников присутствовали относительно старый ноутбучный терабайтник WD Blue WD10JPVX 1 ТБ и топовый nearline-винчестер Seagate IronWolf Pro 14 ТБ. Понятно, что оказаться в обычном ПК хоть «в гордом одиночестве», хоть в паре с Optane Memory без прочих накопителей ему «не светит», но для получения оценки сверху — вполне подойдет: остальные модели на пластинах 3,5″ как минимум не быстрее. Опять же: а вдруг и при использовании такого накопителя просто для хранения данных есть смысл «пришпорить» его кэшем? Вот этот вопрос уже вполне практический, поскольку на фоне стоимости винчестеров на 10-14 ТБ цены модулей Optane Memory (особенно младших модификаций) заметными не кажутся. Поэтому мы и проверили, как это работает с модулями на 32 и 64 ГБ, благо таковые использовались и совместно с WD Blue.
И их же мы возьмем в путь сегодня — но уже вместе с Samsung 860 Qvo. Тоже синтетический вариант (чем возиться с кэшированием — проще потратить деньги на Evo или Pro той же емкости), но раз уж некоторым он интересен. Почему бы и нет? 🙂
Таким образом, у нас получилось девять конфигураций: три испытуемых в трех вариантах — «без ничего», с 32 ГБ и с 64 ГБ. Больше никто из накопителей нам сегодня не понадобится.
Тестирование
Методика тестирования
Методика подробно описана в отдельной статье. Там можно познакомиться с используемым аппаратным и программным обеспечением. Единственное, что нам пришлось в очередной раз сделать — переключить режим работы дискового контроллера и установить Intel RST.
Поскольку сегодняшнее тестирование достаточно специфичное, мы не стали заносить результаты тестов в общую таблицу, они доступны в отдельном файле в формате Microsoft Excel. Так что желающие покопаться в цифрах (тем более, что не все они попадают на диаграммы) могут скачать его и удовлетворить любопытство.
Производительность в приложениях
В общем-то, на этом тему можно закрывать. Производительность тестов высокого уровня зависит от кэшируемого накопителя (что мы уже знаем), так что QLC+Optane оказывается самой быстрой конфигурацией, но. Но и одного 860 Qvo на практике более чем достаточно для того, чтобы производительность начала определяться другими компонентами системы вместо накопителя, а ускорить его можно менее чем на 5%. Очевидно, что заметить это невооруженным взглядом не сможет никто. Настольные же винчестеры «пришпориваются» в удачных условиях в полтора раза, а ноутбучные — во все два. Вот это уже ощущается очень хорошо.
Потенциально позиции связки QLC+Optane еще более привлекательны, однако относительно «голого» SSD кэширование увеличивает производительность лишь в 3-4 раза — а не в 25-35 раз, как в случае винчестеров. За второе можно и доплатить (вдруг пригодится), а за первое — не имеет смысла.
Предыдущая версия пакета оперирует более «легкими» нагрузками, да еще и операций записи в ней меньше, но принципиально результаты не меняются. Сами по себе винчестеры являются очень медленными накопителями, а ноутбучные модели — вообще очень-очень-очень медленны. Но при помощи Optane Memory, если повезет, и от них можно получить даже более высокую производительность, чем обеспечивает бюджетный SSD. Правда, последнему «везет» всегда, а кэширование может промахнуться — это основное различие. Сам по себе «бюджетный SSD» тоже можно ускорить подобным образом, но уже лишь количественно, а не качественно. Нет эффекта низкой базы — нет и вау-эффекта.
Последовательные операции
Специфика работы низкоуровневых утилит такова, что «рабочий» файл они создают непосредственно перед использованием — так что с большой вероятностью он окажется именно в кэше. В итоге до самого́ «основного» накопителя есть шансы не добраться, и для этого достаточно модуля на 32 ГБ. Во всяком случае, это справедливо при выбранном нами «рабочем объеме» в 16 ГБ («умолчальный» для этих утилит 1 ГБ позволит наслаждаться высоким количеством попугаев и владельцам модулей на 16 ГБ). А вот дальнейшее увеличение «рабочего объема», напротив, может устранить эффект от кэширования. Но поскольку сами модули Optane Memory на данный момент не так чтоб совсем «реактивные» (из-за интерфейса PCIe x2), драматично это только для винчестеров, причем медленных ноутбучных: их производительность в этом сценарии на порядок ниже, чем у кэширующего накопителя. Для «хорошего» же SSD разница сокращается до двух-трех раз — тоже немало, но уже не столь принципиально.
С записью же все еще интереснее. Модули Optane Memory на 32 ГБ в этом сценарии пишут лишь около 300 МБ/с. Это намного больше, чем «может» WD Blue, но уже лишь сопоставимо с быстрыми настольными винчестерами и меньше, чем скорость записи в SLC-кэш Samsung 860 Qvo (а его у представителей этой линейки — несколько десятков гигабайт). Соответственно, для 860 Qvo «внешнее» кэширование даже вредно (при использовании более быстрых модулей на 64 ГБ — тоже практически бесполезно). Повторимся: нет эффекта низкой базы — нет и вау-эффекта.
Случайный доступ
Задержки у памяти типа 3D XPoint ниже, чем у NAND-флэш, так что весомый прирост производительности от кэширования есть и здесь. Но не настолько радикальный, как у винчестеров — все-таки латентность NAND в сравнении с ними тоже уменьшается раз в 20, так что и ускорение получается в разы, а уже не на порядки. С одной стороны, лишним не будет. С другой — зачем увеличивать производительность, когда ее и так на практике хватает. «Возня» с винчестерами же имеет смысл именно потому, что им не хватает. Но и простое снижение задержек со сменой носителя уже снимает эту проблему — дальше можно не напрягаться. Тем более, что есть и тревожные звоночки: из-за увеличившихся накладных расходов (поскольку ПО кэширования пытается балансировать нагрузку) производительность оказывается более низкой, чем дают «оптанизированные винчестеры» (в случае которых ПО ничего такого сделать не пытается).
А при записи и от ускорения на коротких очередях ничего не остается — «собственный» SLC-кэш 860 Qvo справляется с работой лучше, чем «внешний» Optane.
При чтении разными блоками, но с единичной очередью в очередной раз наблюдаем, что сама по себе технология явно оптимизирована именно на работу с винчестерами в качестве «основных» накопителей. «Выжимать максимум» из тандема с SSD никто и не старался. Конечно, ускорение все равно есть, но если уж хочется наблюдать красивые цифры, лучше взять винчестер — дешевле обойдется 🙂 А на практике сравнение результатов «голых» накопителей показывает, почему винчестеры полезно ускорять кэшированием и почему это не нужно делать с SSD.
Работа с большими файлами
Как и следовало ожидать, кэширование нам тут ничем помочь не может. Более того, в паре с SSD в многопоточном режиме кэширующий модуль может даже помешать, поскольку анализ дисковых операций (на предмет не стоит ли перенести эти данные в кэш) тоже не бесплатен с точки зрения системных ресурсов. Винчестеры с такими операциями справляются очень медленно, так что им — не мешает. А вот твердотельному накопителю, практически упирающемуся в таких сценариях в ограничения интерфейса — уже может.
Запись больших объемов данных — слабое место SSD на базе QLC-памяти. К сожалению, помочь ему кэшированием почти невозможно — именно потому, что объемы большие. При наличии Optane Memory на 64 ГБ (сейчас это официальный максимум для поставляемых кэширующих модулей, но не для технологии) система пытается «схитрить» (особенно в многопоточном режиме), записывая часть данных в кэш, но результирующий эффект невелик. Увеличить его можно, разве что используя кэширующий модуль принудительно и всегда (так работала технология Smart Response в режиме Maximized), однако для этого его объем нужно будет увеличить еще больше. Тогда уж проще (да и дешевле) емкость SLC-кэша наращивать.
Запись одновременно с чтением, да еще и по (псевдо)случайным адресам — очень плохой сценарий для винчестеров. Настолько плохой, что тут даже кэшированием части операций можно заметно увеличить производительность. Но 860 Qvo справляется с такой нагрузкой в 3-5 раз быстрее — и этого достаточно, чтобы ничего улучшить уже было нельзя (собственно, и «оптанизированный» винчестер до такого уровня не дотягивает). «Слабым местом» подобных SSD нужно считать, скорее, невысокую производительность на смешанных операциях с последовательным доступом — но на них и винчестеры-то никак «подстегнуть» не удается, не говоря уже о SSD.
Рейтинги
В принципе, некоторые операции ускорить кэшированием удается: если «подменить» основной накопитель более быстрым кэширующим, получатся и более высокие результаты. Но это если повезет. Причем, как мы видели выше, иногда производительность может по тем или иным причинам даже снизиться. С винчестерами такое почти не случалось, поскольку их собственное быстродействие в любых сценариях ниже (и намного), чем у Optane Memory. Для твердотельного же накопителя это справедливо не всегда — а вот накладные расходы растут всегда, и иногда могут стать заметными. Усредненный результат — да, улучшается. Однако винчестеры можно ускорить (хотя бы теоретически) в 25-50 раз, и это будет заметно — опять же, не всегда это будет выполняться, но удачных случаев окажется достаточно, чтобы вообще возиться с кэшированием. А вот SSD в лучшем случае ускорится в пару раз, и платить за это уже совершенно не интересно: можно просто купить всюду (и стабильно) более быстрый SSD.
Эта диаграмма еще более наглядна. Винчестерам кэширование нужно, чтоб «дотянуться» до уровня бюджетных твердотельных накопителей. SSD (даже самым дешевым) это не требуется — они как раз и есть те самые [бюджетные] твердотельные накопители. Ускорить их работу в части сценариев, впрочем, можно — но это всегда будет количественным (и не всегда заметным) улучшением, а не качественным.
Итого
Ускорять твердотельные накопители внешним кэшированием — значит, ремонтировать то, что и не ломалось. В части сценариев у них с производительностью все и без того неплохо, а где не слишком хорошо — там и кэш не поможет (собственно, «не хорошо» зачастую как раз потому, что не справляется «внутреннее» SLC-кэширование). Соответственно, нет смысла тратить деньги на ускорение медленного SSD — лучше уж пустить бюджет на приобретение быстрого.
Из этого, однако, не стоит делать выводы о бесполезности гибридных SSD — в них можно использовать другие алгоритмы работы, благо все компоненты изначально рассчитаны на совместную работу. В частности, память 3D XPoint может использоваться как замена SLC-кэша — бесплатного, но не всесильного. Возможна и оптимизация распределения данных по областям. Но все это будет иметь смысл проверить на практике, когда к нам попадет гибридный Optane Memory H10. Вопрос же использования модулей Optane Memory для ускорения системы с «обычным» SATA SSD, как нам кажется, можно закрывать.
Что такое Intel Optane? Часть 1. Optane Memory
Этим постом я хотел бы открыть небольшую серию статей, посвященных продуктам Intel Optane на базе технологии 3D XPoint. Мой беглый обзор русскоязычных источников показал, что хороших материалов по этому вопросу нет; кроме того, из комментариев к нашим анонсам я убедился, что существует глубокое непонимание того, зачем все это вообще нужно и почему реализовано именно таким образом.
Технология 3D XPoint
Начнем с краткой информации по самой технологии 3D XPoint (читается как «три-ди кросс-поинт»). Сразу прошу извинений — детальную информацию о технологии мы на данный момент не раскрываем. Кроме того, фокус обзоров будет именно на конечных продуктах, нежели чем на самой технологии.
Во-первых, хотя технология является совместной разработкой компаний Intel и Micron, реализация технологии в виде продуктов находится в раздельном ведении каждого из вендоров. Таким образом, всё, что я буду рассказывать о продуктах на базе 3D XPoint, имеет отношение только к продуктам Intel.
Во-вторых, 3D XPoint – это не NAND, это не NOR, это не DRAM, а совершенно другой зверь. Не раскрывая деталей физической реализации памяти, опишу ключевые характеристики, а также отличия 3D XPoint от NAND и от DRAM.
Intel Optane
На данный момент, официально анонсировано и выпущено на рынок 2 принципиально разных продукта: Intel Optane Memory – для клиентских моделей использования — и Intel® Optane SSD DC P4800X – для серверного использования. В данной статье мы подробнее разберем клиентский продукт, серверный же будет темой следующего обзора.
Итак, Intel Optane Memory. Первое, что стоит понять об этом продукте – несмотря на название, это не DRAM, а NVMe SSD в форм-факторе M.2 2280-S3-B-M.
Вид сверху – под наклейкой 1 чип 3D XPoint (это версия 16ГБ, на 32ГБ расположены 2 чипа 3D XPoint – площадки под второй чип видны):
Модуль односторонний, так что обратная сторона пустая:
Устройство соответствует спецификации NVM Express 1.1. На данный момент на рынок выпущены емкости 16ГБ (используется один чип памяти 3D XPoint емкостью 16ГБ) и 32ГБ (используются два чипа памяти 3D XPoint емкостью 16ГБ каждый). Из интересных деталей дизайна:
Тест производительности
Теперь о производительности
(производительность версии 32ГБ выше из-за того, что используются 2 чипа памяти 3D XPoint против одного чипа у версии 16ГБ)
Казалось бы, производительность в плане пропускной способности и IOPS не впечатляет – однако, собака зарыта совсем не тут. Вся штука в том, что эти данные производительности замерялись при глубине очереди (queue depth) равной 4 – в отличие от прочих SSD, которые обычно замеряются с глубиной очереди 32 и выше. Именно на неглубоких очередях более всего заметно превосходство Optane. Для наглядности, вот график производительности разных типов устройств на разной глубине очереди*:
При этом, как показывают наши внутренние тесты, подавляющее большинство задач, с которыми сталкивается обычный пользователь дома или в офисе, имеют глубину очереди от 1 до 4 (более подробно – см. ниже), а спецификации SSD пишутся с использованием нагрузок с глубиной очереди 32 (для SATA) и более (для NVMe). Разница весьма наглядна.
Однако, Intel не позиционирует использование Optane Memory в качестве обычного SSD по понятным причинам – емкости устройств не хватит для пользовательских задач (за исключением некоторых интересных вариантов, как, например, небольшой, но быстрый и надежный загрузочный накопитель для Linux, или scratch disk для Adobe Photoshop, или небольшой, но быстрый кэш вместе с Intel Cache Acceleration Software, или интересное решение, описанное вот тут). Вся сила маркетингового аппарата Intel направлена на продвижение новой технологии ускорения (грубо говоря – кэширования, но это не совсем точное определение) медленного SATA-накопителя (будь то жесткий диск, твердотельный накопитель или даже некоторые гибридные модели) быстрым модулем Optane Memory.
Эта модель использования накладывает ограничения на поддерживаемые железо и ОС:
И да, Intel провел громадную работу с производителями плат – все платы, которые поддерживают Optane Memory, имеют на коробке вот такой шильдик:
Принцип работы
Также немного поговорим о том, как это все работает.
Во-первых, в момент активации Optane Memory, RST драйвер перенесет файлы, необходимые для загрузки ОС, а также файловую таблицу на быстрый Optane Memory накопитель. Ключевое здесь – именно перенесет, а не скопирует. Механика работы RST драйвера такова, что не все данные, лежащие в кэше на быстром устройстве, будут в обязательном порядке скопированы на медленное устройство. Это увеличивает общее быстродействие системы и, кроме того, решает проблему синхронизации данных. Однако, как можно понять, физический сбой Optane Memory с большой вероятностью приведет к потере доступа к данным на SATA-диске. Из-за того, что перенос данных происходит сразу в момент активации Optane Memory, уже первая же загрузка системы будет быстрее, чем до Optane Memory (особенно это заметно, если ускорялся жесткий диск, нежели чем SATA SSD – однако, и в последнем случае стоит ожидать увеличения производительности системы хранения).
Во-вторых, во время работы системы RST драйвер будет непрерывно производить кэширование. И здесь существует одно важное различие между модулями Optane Memory разной емкости – на устройстве емкостью 16ГБ поддерживается только кэширование на уровне блоков, на устройстве емкостью 32ГБ – кэширование на уровне блоков и кжширование на уровне файлов (оба работают одновременно). В случае блочного кэширования, решение о кэшировании того или иного блока происходит мгновенно в момент запроса на ввод-вывод. В случае файлового кэширования, драйвер мониторит частоту доступа к файлам и кладет все это в специальную таблицу, которую затем (в момент простоя системы или по расписанию пользователя) использует для определения того, какие файлы остаются в кэше, какие удаляются, а какие добавляются.
Оба вида кэширования используют довольно умные, на мой взгляд, алгоритмы принятия решения о кэшировании – глубоко описывать я их здесь не могу, но для общего понимания отмечу, что, например, не кэшируются видеофайлы (да, драйвер смотрит на расширение файла), в расчет принимается размер файла, определяется вид нагрузки – предпочтение в кэшировании отдается случайному доступу нежели чем последовательному, что имеет смысл в силу крайне медленной работы жестких дисков на операциях случайного доступа, и т.п. В интернетах я встречал некоторые негативные комментарии на тему того, что «кэш моментально забьется данными», «емкости 16ГБ ни на что не хватит» и тому подобное – как правило, это отзывы от людей, которые никогда не тестировали Optane Memory. Я еще не слышал негативных отзывов о производительности такого решения ни от кого из наших партнеров, с которыми работаю.
Несколько очень важных моментов.
Зачем это нужно
Теперь пришло время подробнее поговорить про то, зачем все это вообще нужно. Начнем с более детального анализа нагрузок, которые испытывают системы обычных пользователей ПК. Еще до окончания разработки продукта Optane Memory, в рамках Intel Product Improvement Program мои коллеги провели исследование на предмет того, что обычные пользователи делают с компьютером дома и на работе. Результаты – количество действий разных типов, производимых пользователями (усредненные данные на 1 день пользования ПК):
Все эти события тесно связаны с производительностью системного диска, причем, как правило, они требуют случайного доступа к данным, с чем жесткие диски справляются крайне плохо. Таким образом, использование Optane Memory может значительно ускорить исполнение каждого из указанных выше действий.
Однако, спросите вы зачем мне покупать Optane Memory для ускорения жесткого диска, если я могу за те же деньги купить SATA SSD емкостью 128ГБ, положить на него ОС и ключевые приложения, а для прочих данных просто использовать жесткий диск? Здесь, с одной стороны, вопрос удобства – если вы имеете хоть какие-то базовые навыки, чтобы уметь выбирать, куда установить ОС/приложения (подозреваю, что все читатели GT попадают в эту категорию, однако, могу вас уверить, что, например, мои родители, как и большинство пользователей ПК, на это не способны), и при этом не будете лениться делать это каждого приложения (особенно проблематично для игр – при нынешних требованиях к дисковому пространству, 128ГБ забьются под ОС и 1-2 игры), то с этой точки зрения гибридная конфигурация SSD+HDD может быть для вас удобнее.
Однако, имейте в виду, что с Optane Memory никакого ручного переноса данных не требуется – как только вы перестаете пользоваться одним приложением и начинаете активнее пользоваться другим, необходимые данные буду довольно быстро добавлены в кэш. С другой стороны, вспомним график, который я привел выше – производительность в зависимости от глубины очереди. На небольших очередях задержки доступа к данным на Optane Memory гораздо ниже по сравнению с SATA SSD. Внутри Intel мы замерили, какая глубина очереди используется различными приложениями – вот результаты:
Глубина очереди при использовании приложений:
Глубина очереди при запуске приложений:
Распределение глубины очереди в течение типичного рабочего дня корпоративного пользователя (замерено на сотрудниках Intel, занимающих разные должности в компании):
Таким образом, распределение глубины очереди разных пользовательских нагрузок:
И мы уже видели, насколько лучше Optane Memory справляется в работой на неглубоких очередях.
Сравнение производительности системы с HDD против такой же системы с HDD + Optane Memory:
Еще одно интересное сравнение – тот же тест, но в системе без Optane Memory в 2 раза больше оперативной памяти:
И, на самом деле, это весьма валидное сравнение. Хотя некоторые виды нагрузок требуют большого количества оперативной памяти, львиная их доля требований к большим объемам памяти не имеет. Таким образом, для многих пользователей может иметь смысл поставить 4 ГБ памяти вместо 8 ГБ, а сэкономленные деньги вложить в ускорение системы хранения.
Заключение
Подводя итог, напомню, что Optane Memory может использоваться как самостоятельный SSD, но это не основная модель использования. Вся магия происходит при его использовании как ускорителя для медленного жесткого диска (или даже SATA SSD) – сравнительно небольшое вложение денег может ускорить быстродействие системы в несколько раз на большинстве пользовательских нагрузок. Это достигается за счет как аппаратной части (Optane Memory имеет ощутимо меньшие задержки доступа по сравнению с другими SSD на рынке, быстродействие на небольших очередях значительно выше альтернативных решений), так и программной – драйвер RST использует достаточно продвинутую логику для осуществления операций кэширования (и в этом отличие от предыдущей технологии – Intel Smart Response Technology). Это делает текущую реализацию отличной от всех тех решений по кэшированию/ускорению жестких дисков, что выспукались на рынок ранее, в том числе нами же.
Я очень заинтересован узнать мнение о продукте и решении в целом из комментариев – однако, хотелось бы избежать негатива во мнениях из-за непонимания работы решения или отсутствия опыта его использования. Если есть сомнения – лучше спросите, прежде чем пускаться в критику.
P.S. в следующей статье мы разберем серверный продукт на базе технологии 3D XPoint — Intel Optane SSD DC P4800X Series – вкупе с программным решением Intel Memory Drive Technology.
* Все тесты, указанные в этой статье, были проведены внутри Intel. Все тесты с Optane Memory были проведены на процессорах Intel Core 7-го поколения, тесты на глубину очереди с использованием процессора Intel Core 6-го поколения. Конфигурация системы, использованной для тестов: