В чем разница между CPU и GPU?
Из этой статьи вы узнаете, в чём разница между CPU и GPU. Разобрали основные отличия и посмотрели на скорость их вычислений..
CPU и GPU — это процессоры. Между ними есть много общего, однако сконструированы они были для выполнения разных задач. В чём конкретно выражается разница между CPU и GPU, вы узнаете из этой статьи.
Примечание Вы читаете улучшенную версию некогда выпущенной нами статьи.
Что такое CPU
CPU — это центральный процессор (англ. central processing unit).
Основная функция — выполнение цепочки инструкций за максимально короткое время.
CPU спроектирован таким образом, чтобы выполнять несколько цепочек одновременно или разбивать один поток инструкций на несколько и, после выполнения их по отдельности, сливать их снова в одну, в правильном порядке. Каждая инструкция в потоке зависит от следующих за ней. Именно поэтому в CPU так мало исполнительных блоков, а весь упор делается на скорость выполнения и уменьшение простоев, что достигается при помощи кэш-памяти и конвейера.
Если вы хотите знать не только что такое CPU, но и как работает процессор, то прочтите эту статью.
Что такое GPU
GPU — это графический процессор (англ. graphics processing unit).
Основная функция — рендеринг 3D-графики и визуальных эффектов.
GPU получает на вход полигоны, а после проведения над ними необходимых математических и логических операций выдаёт координаты пикселей. По сути, работа GPU сводится к оперированию над огромным количеством независимых между собой задач. Поэтому он содержит огромное количество исполнительных блоков — в современных GPU их 2048 и более.
Отличие CPU от GPU
С понятиями разобрались, теперь посмотрим, в чём отличие CPU от GPU.
- Доступ к памяти. В GPU он связанный и легко предсказуемый — если из памяти читается элемент текстуры, то через некоторое время настанет очередь и соседних текселов. С записью ситуация аналогичная.
- Размер кэш-памяти. Графическому процессору, в отличие от универсальных процессоров, не нужна кэш-память большого размера. Для текстур требуются лишь 128–256 килобайт.
- Поддержка многопоточности. Центральный процессор исполняет 1–2 потока вычислений на одно ядро, а графический процессор может поддерживать несколько тысяч потоков на каждый мультипроцессор, которых в чипе несколько штук. И если переключение с одного потока на другой для CPU стоит сотни тактов, то GPU переключает несколько потоков за один такт.
- Архитектура. В CPU большая часть площади чипа занята под буферы команд, аппаратное предсказание ветвления и огромные объемы кэш-памяти, а в GPU большая часть площади занята исполнительными блоками.
Схематичное представление CPU и GPU
Почему для майнинга используется GPU, а не CPU
Если CPU принимает решения в соответствии с указаниями программы, то GPU — производит огромное количество однотипных вычислений. Выходит, что если подавать на графический процессор независимые простейшие математические задачи, то он справится значительно быстрее, чем центральный процессор. Этим успешно пользуются майнеры биткоинов.
Суть майнинга заключается в том, что компьютеры решают математические задачи, в результате которых создаются биткоины. Все биткоин-переводы по цепочке передаются майнерам, чья работа состоит в том, чтобы подобрать из миллионов комбинаций один-единственный хэш, подходящий ко всем новым транзакциям и секретному ключу, который и обеспечит майнеру получение награды. Скорость вычисления напрямую зависит от количества исполнительных блоков. Поэтому GPU больше подходят для выполнения данного типа задачи, нежели CPU. Чем больше количество произведенных вычислений, тем выше шанс получить биткоины.
В чём различия между ядрами CUDA, потоковыми процессорами и другими элементами видеокарт
Если вы потратили какое-то время на изучение спецификаций видеокарт, вполне вероятно, что вы уже встречали слова «ядра CUDA» или «потоковые процессоры». Эти два термина и технологии тесно связаны друг с другом, но они не взаимозаменяемы, и понимание разницы между ними может помочь вам принять взвешенное решение при покупке видеокарты.
В этой статье я подробно расскажу о нюансах обоих – и некоторых других «ядрах», которые вы можете найти в видеокартах.
Что такое процессорные ядра
Ядра можно рассматривать как сердце любого процессора. Подобно человеческому сердцу, ядро может делать только одну вещь за раз, но делать это очень быстро и эффективно.
Например, количество ядер в ЦП определяет его общую вычислительную мощность. Процессор с одним ядром немного похож на человека, который может либо дышать, либо говорить, но не то и другое одновременно.
Продолжая эту аналогию, когда одноядерному процессору нужно «дышать», он перестаёт говорить. А когда ему нужно поговорить, он перестаёт дышать. Это отличается от многоядерных процессоров, которые могут делать всё это одновременно.
Наличие нескольких ядер даёт вашему компьютеру возможность выполнять особый тип многозадачности, называемый параллельной обработкой, что позволяет компьютеру более эффективно использовать процессор.
Одноядерный процессор быстрый, но ограниченный. Многоядерный процессор может быть медленнее для каждой задачи, но он может выполнять много задач одновременно.
Вместо процессора с несколькими ядрами представьте себе процессор с тысячами ядер, работающих параллельно для очень специфических задач, в отличие от более общих задач, с которыми сталкивается типичный процессор.
Это то, что представляет собой графический процессор. И именно поэтому графические процессоры намного медленнее центральных процессоров для последовательных вычислений общего назначения, но намного быстрее для параллельных вычислений.
Ядра графического процессора обычно называются «ядрами CUDA» или «потоковыми процессорами».
Разница между ядрами CPU и GPU
Между ядрами ЦП и ядрами графического процессора есть много общего, но у них также есть много различий.
Ядра ЦП предназначены для одновременного выполнения нескольких инструкций. Они предназначены для вычислений общего назначения и имеют широкий спектр применений.
Ядра графического процессора предназначены для одной цели: обработки графики. Они специализированы и очень эффективны в своей работе.
ЦП используют небольшое количество очень мощных ядер, в то время как графические процессоры построены с большим количеством сравнительно менее мощных ядер.
Графический процессор отлично справляется с параллельными задачами, такими как быстрое определение того, как должны выглядеть тысячи пикселей, за доли секунды.
Разница между центральными процессорами и графическими процессорами заключается в том, что каждый из них предназначен для выполнения различных типов обработки.
Что такое ядра CUDA и для чего они используются
«CUDA» – это запатентованная технология, разработанная NVIDIA и расшифровывающаяся как Compute Unified Device Architecture.
Ядра CUDA используются для многих вещей, но главное, для чего они используются, – это обеспечение эффективных параллельных вычислений.
Одно ядро CUDA похоже на ядро ЦП, с основным отличием в том, что оно менее производительно, но реализовано в гораздо большем количестве. Что опять же позволяет проводить отличные параллельные вычисления.
Типичный ЦП содержит от 2 до 32 ядер, но количество ядер CUDA даже в самых простых современных графических процессорах NVIDIA исчисляется сотнями.
Между тем, у высококлассных видеокарт их тысячи.
Но, CUDA представляет собой не просто набор ядер, а интерфейс для доступа к этим ядрам и связи с остальной частью вашей системы. Ядра, которые выполняют эти инструкции, называются ядрами CUDA.
Что такое потоковые процессоры и для чего они используются?
У NVIDIA есть свои ядра CUDA, но у AMD, их главного конкурента, также есть конкурирующая технология под названием «потоковые процессоры».
Эти две технологии и архитектуры графических процессоров соответствующих компаний различаются.
Однако, в целом, они одинаковы, когда речь идёт об их основных функциях и целях, для которых они используются.
Ядра CUDA против потоковых процессоров
Как правило, ядра CUDA от NVIDIA известны как более стабильные и лучше оптимизированные, поскольку аппаратное обеспечение NVIDIA обычно сравнивают с AMD.
Но, в реальных тестах между двумя архитектурами нет заметных различий в производительности или качестве графики.
Поскольку Nvidia долгое время была производителем графических процессоров №1, поддержка ядер CUDA гораздо шире, чем у потоковых процессоров AMD.
В конце концов, архитектура CUDA является проприетарной, и разработка программного обеспечения для неё – громоздкий процесс. Понятно, что разработчики движков рендеринга, разработчики игровых движков или разработчики игр предпочитают разрабатывать и поддерживать аппаратное обеспечение графических процессоров, которое более широко используется.
Но, по своей сути и ядра CUDA, и потоковые процессоры одинаково производительны, если поддержка программного обеспечения находится на одном уровне.
Таким образом, вам не нужно беспокоиться о том, что «лучше», когда речь идёт о ядрах графического процессора, поскольку они практически одинаковы.
Как сравнить графические процессоры
Сравнивать графические процессоры только по их спецификациям очень сложно.
Определения самих ядер NVIDIA и AMD различаются, и их архитектуры ядер также сильно различаются.
Вы не можете просто использовать графический процессор NVIDIA, потому что у него на тысячу ядер CUDA больше, чем у сопоставимой видеокарты AMD, и вы не можете просто использовать графический процессор AMD по тем же причинам.
Лучший и единственный реальный способ сравнить производительность графических процессоров – это результаты реальных тестов.
Что такое тензорные ядра NVIDIA
Впервые представленные в архитектуре NVIDIA Volta, тензорные ядра представляют собой тип ядра, предназначенный для того, чтобы сделать искусственный интеллект и глубокое обучение более доступными и более мощными.
С момента появления графических процессоров CUDA архитектура разрабатывалась с одной важной целью: упростить создание параллельных высокоэффективных программ. И за последнее десятилетие они отлично с этими справились.
Но, благодаря успеху и инновациям, вызванным глубоким обучением, технологией на основе ИИ, которая использует нейронные сети для обучения выполнения задач без явного программирования, NVIDIA пришлось внести некоторые серьёзные изменения, чтобы лучше поддерживать эти передовые технологии.
Новая архитектура NVIDIA – Ampere – привнесла ещё более серьёзные изменения благодаря тензорным ядрам 3-го поколения, которые значительно упростят и ускорят обучение моделей глубокого обучения.
Эти ядра разработаны с учётом «потребностей» глубокого обучения, и они намного эффективнее старых тензорных ядер, которые использовались в архитектурах Volta и Turing до появления Ampere.
Тензорные ядра предназначены для выполнения операций умножения матриц и свёртки, которые являются основой алгоритмов глубокого обучения.
Тензорные ядра NVIDIA 3-го поколения могут работать в 20 раз быстрее, чем старые ядра. Это большая скорость, и есть надежда, что она поможет значительно повысить производительность алгоритмов глубокого обучения.
Одной из технологий, которая использует глубокое обучение нейронных сетей, является собственная технология NVIDIA DLSS!
Это технология, которая использует глубокое обучение и искусственный интеллект для улучшения графики и производительности игр (в настоящее время) без ущерба для визуального качества.
DLSS расшифровывается как Deep Learning Super-Sampling. Когда DLSS включен в поддерживаемых играх, он использует глубокую нейронную сеть для анализа и улучшения стандартных методов повышения качества изображения, используемых традиционным сглаживанием.
Улучшенные изображения, создаваемые DLSS, обычно сопоставимы с изображениями 4K, но визуализируются со значительно более низким разрешением.
Поскольку DLSS – это новая технология, она доступна не во всех играх и не гарантирует своей работоспособность в любой ситуации. Но, NVIDIA постоянно работает с разработчиками над улучшением производительности.
Что такое ядра NVIDIA RT
NVIDIA также представила ещё один новый тип ядра: ядра RT – ядра трассировки лучей.
Эти ядра предназначены для обработки видео и аудио в реальном времени одновременно с глубоким обучением.
Эти ядра помогают с трассировкой лучей – методом рендеринга, целью которого является имитация того, как свет отражается и преломляется при прохождении через различные материалы.
Трассировка лучей использовалась в профессиональном 3D-рендеринге в течение многих лет, но только недавно она стала практичной для рендеринга в реальном времени. Ядра NVIDIA RT являются важной частью этой разработки.
Ядра NVIDIA RT предназначены для ускорения вычислений трассировки лучей и были специально разработаны для этих задач. Их можно использовать для ускорения рендеринга игр и другой 3D-графики на много порядков.
Второе поколение ядер RT, представленное с архитектурой Ampere, также ещё эффективнее и мощнее, чем старые ядра. Новая архитектура NVIDIA – это огромный шаг вперёд в мире глубокого обучения и мультимедиа с искусственным интеллектом.
Новые тензорные ядра и ядра RT позволяют создавать действительно потрясающие приложения. Кто знает, что ждёт эти новые технологии в будущем? Рендеринг в реальном времени с полной трассировкой пути может быть не за горами в будущем, если инновации будут внедряться такими темпами.
Что такое ускорители AMD Ray
Ускорители AMD Ray – это ответ AMD на ядра NVIDIA RT.
AMD присоединилась к соревнованию по трассировке лучей со своей серией RX 6000, и вместе с этим они также представили несколько важных функций в архитектурном дизайне RDNA 2, которые помогают конкурировать с ядрами NVIDIA RT.
Предполагается, что эти «ускорители лучей» повысят эффективность стандартных вычислительных блоков графического процессора в вычислительных рабочих нагрузках, связанных с трассировкой лучей.
Однако, механизм функционирования Ray Accelerators всё ещё относительно неясен и всё ещё находится в зачаточном состоянии, поскольку AMD несколько медленно адаптировалась к революции трассировки лучей в реальном времени.
Что в итоге
Надеюсь, это прояснило для вас ситуацию. Однако, если вы всё ещё чувствуете себя потерянным, вот основные моменты, которые вы должны извлечь из этого.
Потоковые процессоры и ядра CUDA – это фирменные названия одного и того же: параллельного процессора и набора правил его работы.
На практике они принципиально разные, потому что AMD и NVIDIA используют свою собственную уникальную архитектуру. Но, между ними нет большой реальной разницы в производительности.
Попытка напрямую сравнить потоковые процессоры и ядра CUDA друг с другом подобна попытке измерить пробег вашего автомобиля, глядя на размер топливного бака.
Просмотр достоверных данных всегда будет гораздо более ценным, чем сравнение между ядрами CUDA и потоковыми процессорами или любой другой спецификацией по отдельности.
Часто задаваемые вопросы
Сколько ядер нужно в графическом процессоре?
Чем больше, тем веселее. У вас не может быть достаточно ядер на GPU. Но большее количество ядер сопряжено с более высокими затратами, поэтому вам нужно сбалансировать это.
Чем больше ядер, тем лучше производительность?
Да. Это, конечно, не единственное, что определяет производительность графического процессора, но оно играет в ней большую роль, поэтому вы обычно можете предположить, что большее количество ядер (будь то CUDA, потоковые процессоры или что-то ещё) приведёт к лучшей производительности.
Как ядра влияют на производительность 3D-моделирования?
Моделирование обычно является деятельностью, связанной с процессором. Если вы сталкиваетесь с замедлением, когда дело доходит до моделирования, обычно это происходит из-за того, что у вас не хватает оперативной памяти или ваш процессор с трудом справляется со всеми этими полигонами.
Ядра CUDA лучше потоковых процессоров?
Они похожи друг на друга по своим функциям и производительности.
Единственное преимущество, которое CUDA может иметь над потоковыми процессорами, заключается в том, что общеизвестно, что он имеет лучшую программную поддержку. Но, в целом, особой разницы между ними нет.
Есть ли у карт AMD ядра CUDA?
Нет. Ядра CUDA – это проприетарная технология, разработанная NVIDIA, которая доступна только в графических процессорах NVIDIA.
GPU vs CPU: Почему для анализа финансовых данных применяют графические процессоры
В «Европейском физическом журнале» опубликована интересная и очень обширная статья немецкого исследователя об использовании вычислений GPU в эконофизике и статистической физике, в том числе для осуществления анализа информации на фондовом рынке. Мы представляем вашему вниманию основные тезисы этого материала.
Примечание: Статья в журнале датирована 2011 годом, с тех пор появились новые модели GPU-устройств, однако общие подходы к использованию этого инструмента в инфраструктуре для онлайн-трейдинга остались неизменными
Требования к вычислительным мощностям растут в различных сферах. Одна из них — финансовый анализ, который необходим для успешной торговли на фондовом рынке, особенно средствами HFT. Для того, чтобы принять решение о покупке или продаже акций, алгоритм должен проанализировать серьезный объём входных данных — информация о транзакциях и их параметрах, текущих котировках и трендах изменения цены и т.д.
Время, которое пройдет от создания заявки на покупку или продажу до получения ответа о ее успешныом выполнеии от биржевого сервера называется раундтрипом (round-trip, RTT). Участники рынка всеми силами стремятся снизить это время, в частности для этого используются технологии прямого доступа на биржу, а серверы с торговым софтом располагаются на колокации рядом с торговым движком бирж.
Однако технологические возможности по сокращению раундтрипа ограничены, и после их исчерпания перед трейдерами встает вопрос о том, как еще можно ускорить торговые операции. Для этого применяются новые подходы к построению инфраструктуры для онлайн-трейдинга. В частности используются FPGA и GPU. Об ускорении HFT-трейдинга с помощью «программируемого железа» мы писали ранее, сегодня речь пойдет о том, как для этого можно применять графические процессоры.
Что такое GPU
Архитектура современных графических карт строится на основе масштабируемого массива потоковых мультипроцессоров. Один такой мультипроцессор содержит восемь скалярных процессорных ядер, многопоточный модуль инструкций, разделяемую память, расположенную на чипе (on-chip).
Когда программа на C, использующая расширения CUDA, вызывает ядро GPU, копии этого ядра или потоки, нумеруются и распределяются на доступные мультипроцессоры, где уже начинается их выполнение. Для такой нумерации и распределения сеть ядра подразделяется на блоки, каждый из которых делится на различные потоки. Потоки в таких блоках выполняются одновременно на доступных мультипроцессорах. Для управления большим количеством потоков используется модуль SIMT (single-instruction multiple-thread). Этот модуль группирует их в «пачки» по 32 потока. Такие группы исполняются на том же мультипроцессоре.
Анализ финансовых данных на GPU
В финансовом анализе применяется множество мер и показателей, расчет которых требует серьезных вычислительных мощностей. Ниже мы перечислим некоторые из них и сравним быстродействие при их обработке, показанное «обычным» процессоромо Intel Core 2 Quad CPU (Q6700) c тактовой частотой 2,66 ГГц и размером кэша 4096 килобайт, а также популярных графических карт.
Экспонента Херста
Мера, называемая экспонентной Херста, используется в анализе временных рядов. Эта величина уменьшается в том случае, если задержка между двумя одинаковыми парами значений во временном ряду увеличивается. Изначально это понятие применялось в гидрологии для определения размеров плотины на реке Нил в условиях непредсказуемых дождей и засух.
Впоследствии показатель Херста начали применять в экономике, в частности, в техническом анализе для предсказания трендов движения ценовых рядов. Ниже представлено сравнение быстродействия вычисления показателя Херста на CPU и GPU (показатель «ускорения» β = общее время выисления на CPU / общее время вычисления на GPU GeForce 8800 GT):
Модель Изинга и метод Монте-Карло
Еще одним инструментом, перекочевавшим в сферу финансов на этот раз из физики, является модель Изинга. Эта математическая модель статистической физики предназначена для описания намагничивания материала.
Каждой вершине кристаллической решётки (рассматриваются не только трёхмерные, но и одно- и двумерные вариации) сопоставляется число, называемое спином и равное +1 или −1 («поле вверх»/«поле вниз»). Каждому из 2^N возможных вариантов расположения спинов (где N — число атомов решётки) приписывается энергия, получающаяся из попарного взаимодействия спинов соседних атомов. Далее для заданной температуры рассматривается распределение Гиббса — рассматривается его поведение при большом числе атомов N.
В некоторых моделях (например, при размерности > 1) наблюдается фазовый переход второго рода. Температура, при которой исчезают магнитные свойства материала, называется критической (точка Кюри). В ее окрестности ряд термодинамических характеристик расходится.
Изначально модель Изинга использовалась для понимания природы ферромагнетизма, однако позднее получила и более широкое распространение. В частности, она применяется для обобщений в социально-экономических системах. Например, обобщение модели Изинга определяет взаимодействие участников финансового рынка. Каждый из них обладает стратегией поведения, рациональность которой может быть ограничена. Решения о том, продавать или покупать акции и по какой цене, зависят от предыдущих решений человека и их результата, а также от действий других участников рынка.
Модель Изинга используется для моделирования взаимодействия между участниками рынка. Для реализации модели Изинга и имитационного моделирования используется метод Монте-Карло, который позволяет построить математическую модель для проекта с неопределенными значениями параметров.
Ниже представлено сравнение быстродействия моделирования на CPU и GPU (NVIDIA GeForce GTX 280):
Существуют реализации модели Изинга с использованием в ходе анализа различного количества спинов. Мультиспиновые реализации позволяет загружать несколько спинов параллельно.
Ускорение с помощью нескольких GPU
Для ускорения обработки данных также используются кластеры GPU-устройств — в данном случае исследователи собрали кластер из двух карточек Tesla C1060 GPU, коммуникация между которыми осуществлялась через Double Data Rate InfiniBand.
В случае симуляции модели Изинга методом Монте-Карло результаты говорят о том, что производительность повышается практически линейно при добавлении большего количества GPU.
Заключение
Эксперименты показывают, что использование графических процессоров может приводить к существуенному повышению производительности финансового анализа. При этом выигрыш в скорости по сравнению с использованием архитектуры с CPU может достигать нескольких десятков раз. При этом добиться еще большего повышения производительности можно с помощью создания кластеров GPU — в таком случае она растет практически линейно.
Другие материалы о железе и онлайн-трейдинге:
- Использование FPGA и языка DSL для ускорения HFT-торговли
- Алгоритмическая торговля: Поиск эффективного метода обработки данных с помощью FPGA
- Разработка торговых систем под FPGA: Плюсы, минусы и анализ архитектуры существующей библиотеки
Рендеринг на CPU и GPU – чем они отличаются и какой выбрать для своих задач
Вы когда-нибудь задумывались, в чём разница между рендерингом CPU и GPU и какой из них лучше всего соответствует вашим потребностям?
Хотя вы можете подумать, что они похожи, правда в том, что они очень разные.
И я встречал много людей, которые спрашивали, в чём разница между ними. Поэтому я решил написать целую статью, посвященную подробному объяснению именно этого!
Разница между рендерингом CPU и GPU (за и против)
Обычно рекламируется, что рендеринг на GPU быстрее, чем рендеринг на CPU. На самом деле, речь идёт не о том, что быстрее, а о том, что лучше для поставленной задачи.
Прежде всего, давайте разберемся с основами.
«Визуализировать» что-либо – значит обработать сцену, чтобы создать изображение или последовательность изображений.
Это сложный процесс, в котором вы рассчитываете, как выглядит сцена, используя центральный процессор и/или графический процессор для выполнения математических вычислений, чтобы получить окончательное изображение.
В этих вычислениях происходит много трассировки лучей и отбрасывания лучей, и то, как свет отражается вокруг 3D-сцены, очень похоже на то, как это происходит в реальной жизни.
В зависимости от программы, которую вы используете, этот процесс обрабатывается либо CPU (центральным процессором), либо GPU (графическим процессором), либо обоими, если вы используете гибридные механизмы рендеринга, такие как V-Ray или Cycles.
Важно понимать, что оба они, CPU и GPU, одинаково важны.
Графические процессоры отлично справляются с обработкой большого количества очень специфической информации и быстро обрабатывают её параллельно, но центральные процессоры отлично справляются с обработкой большого количества общей информации и обрабатывают её последовательно.
Они оба важны по-своему, и они оба необходимы, чтобы сделать процесс рендеринга максимально быстрым.
Рендеринг на основе CPU и механизмы рендеринга, ориентированные на CPU
Рендеринг на CPU – это метод, при котором изображения рендерятся исключительно с использованием центрального процессора.
Он не ограничен ни количеством или производительностью установленных видеокарт, ни объёмом видеопамяти вашего графического процессора.
Есть несколько преимуществ использования процессорного рендеринга. Наиболее очевидным является то, что вам не нужно тратить деньги на дорогую видеокарту.
Ещё одно преимущество заключается в том, что вы можете быстрее отображать свои изображения, в зависимости от вашего процессора.
В любом случае, есть некоторые ограничения для рендеринга на CPU. Самое большой из них заключается в том, что он, как правило, не такой быстрый, как рендеринг на графическом процессоре.
Хотя это может не быть проблемой, если у вас высокопроизводительный процессор или вы просто рендерите изображение один или два раза, но это может стать реальной проблемой, если вы создаёте анимацию, очень сложные сцены, имеете строгие сроки или хотите повторять чаще, чтобы улучшить качество.
Вот несколько процессорных движков рендеринга и примеры того, что они могут делать.
Arnold Engine
Corona Renderer
Renderman Engine
Имейте в виду, что, несмотря на то, что визуализированные изображения выше выглядят фантастически, вы не можете судить о движке рендеринга, глядя нахудожественное произведение, имеет значение художник, создающий их.
Почти любой движок рендеринга способен создать любой стиль и качество, именно скорость, с которой вы можете это сделать, отличает их друг от друга.
Рендеринг на основе GPU и механизмы рендеринга, ориентированные на GPU
Рендеринг на GPU – это процесс использования одной или нескольких видеокарт для рендеринга 3D-сцен.
Есть несколько преимуществ использования рендеринга на GPU по сравнению с рендерингом CPU.
Во-первых, графические процессоры намного лучше справляются с 3D-рендерингом, чем центральные процессоры, потому что они оптимизированы для графических вычислений и параллельной обработки.
Это означает, что они могут обрабатывать множество задач одновременно, в отличие от CPU, которые работают последовательно.
А поскольку задача рендеринга легко распараллеливается (съёмка лучей, выборка пикселей или просто рендеринг отдельных кадров в последовательности), GPU с тысячами ядер легко вырывается вперед по производительности рендеринга.
Это также означает, что, в отличие от ЦП, вы можете добавлять всё больше и больше графических процессоров на свой компьютер, чтобы получить еще большую производительность (до определенного момента). Так что они очень масштабируемы и гибки в этом отношении.
Из-за их специфической оптимизации графические процессоры могут использоваться для выполнения многих других задач (например, редактирования видео и перекодирования) более эффективно, чем центральные процессоры.
Однако, графические процессоры не лишены недостатков.
Будучи разработанными для очень конкретной цели – графики – они не очень хорошо справляются со многими вещами, с которыми хороши процессоры.
Например, графические процессоры очень плохо справляются с вычислениями с плавающей запятой и поэтому бесполезны для рендеринга или моделирования, требующих большого количества операций с плавающей запятой.
Графические процессоры также не очень хорошо справляются с выполнением большого количества небольших задач последовательно, в то время как процессоры отлично справляются с этим.
Графические процессоры гораздо более ограничены в объёме памяти, чем большинство процессоров. Типичные графические карты имеют доступ к 8-12 ГБ встроенной видеопамяти, в то время как процессоры могут легко получить доступ к системной памяти, которая обычно составляет 16-128 ГБ в современных системах.
Да, графические процессоры также могут использовать системную оперативную память, но для них это происходит намного медленнее, потому что они должны обращаться через шину PCIe, а затем через материнскую плату для доступа к слотам оперативной памяти.
И всем этим также должен управлять CPU, поэтому графические процессоры действительно быстры только в том случае, если они могут использовать данные сцены, которые находятся в их видеопамяти, а не в системной памяти.
Что это значит? Это означает, что вы увидите самое большое ускорение на графических процессорах, которые могут поместить всю вашу 3D-сцену в собственную видеопамять.
Если сцена слишком сложна и перетекает в системную оперативную память, производительность рендеринга серьёзно пострадает.
Вот некоторые механизмы рендеринга на GPU и примеры того, что они могут делать.
Octane Renderer
Движок Redshift
ProRender Engine
Когда использовать рендеринг на CPU или GPU (или на обоих!)
Какой из них быстрее, лучше для вас? Это сложный вопрос, потому что всё зависит от того, каковы ваши варианты использования и что вы визуализируете.
Как правило, GPU будут быстрее, чем CPU, в большинстве задач рендеринга.
Это связано с тем, что графический процессор отлично справляется с обработкой большого количества информации и быстро обрабатывает её на тысячах ядер параллельно. Да, у графического процессора тысячи ядер (у 3090 более 10 000 ядер), а у процессоров «всего» до 64.
Конечно, ядра графического процессора (CUDA, потоковые процессоры, шейдерные ядра, тензорные ядра и т.д.) намного меньше и слабее, чем полноценное ядро CPU. Но, природа рендеринга позволяет легко разделять его на огромное количество очень простых задач, с которыми графические процессоры отлично справляются.
ЦП может быть многоцелевой электростанцией, которая может справиться с любой рабочей нагрузкой, но он становится медленным и быстро отстает по сравнению с графическим процессором, который выполняет оптимизированный под него код.
Вот почему так сложно сравнивать скорость CPU Render Engine и GPU Render Engine. По большей части они работают на совершенно разных кодовых базах. Например, Redshift Engine на основе CUDA просто не может сравниться с Corona, который работает только на CPU.
Однако, недостатком графических процессоров является ограниченный объём видеопамяти.
Если ваша сцена занимает больше памяти, чем может предоставить видеокарта, вы не сможете визуализировать сцену – или вам придётся полагаться на внешние функции, которые могут поддерживаться некоторыми механизмами рендеринга графического процессора.
Это позволяет им перемещать данные в системную оперативную память, если ваша 3D-сцена не помещается в видеопамяти графического процессора. Однако, как обсуждалось выше, это значительно снизит скорость рендеринга.
С другой стороны медали, если вы визуализируете сложную сцену, где точность имеет первостепенное значение – симуляция физики, симуляция воды и т.д., лучше использовать CPU.
Это связано с тем, что ЦП отлично справляется с обработкой большого количества информации и делает это точно и не ограничен VRAM.
CPU использует обычную оперативную память вместо видеопамяти, и её значительно проще и дешевле обновить, чем покупать другой графический процессор каждый раз, когда вы хотите отобразить сложную сцену, требующую памяти.
В симуляциях физики, воды и т.д. вы, как правило, предпочитаете подождать немного дольше и фактически выполнить симуляцию, вместо того, чтобы исчерпать память, и ваша тяжёлая работа пойдет насмарку, потому что симуляция воды не была обработана!
Как правило, большинство крупных студий предпочитают рендеринг на CPU из-за его универсальности и гибкости, но это также, как правило, и самый дорогой вариант.
Но, это не имеет большого значения, когда вы Pixar и создаёте следующий анимационный блокбастер, и вам нужна каждая симуляция, каждая ткань и пылинка, каждая мельчайшая деталь, доведенная до пиксельного совершенства.
И они обычно не заботятся о скорости, потому что на этом уровне у вас есть 10 000 процессоров, которые работают вместе, чтобы создать этот шедевр.
На другом конце спектра всё наоборот. У фрилансеров и независимых разработчиков нет капитала, чтобы инвестировать в такие огромные суперкомпьютеры.
Поэтому они ищут что-то гораздо более доступное, но всё же адаптируемое и пригодное для использования в большинстве ситуаций. Графический рендеринг.
Когда клиент хочет, чтобы проект был выполнен в 9, вам нужно что-то быстрое и незаметное, а не совершенство.
Но, всё по-прежнему зависит от ваших вариантов использования. Даже фрилансеру может быть полезно переключиться на рендеринг CPU, если он часто сталкивается с проблемами памяти на видеокарте.
Используйте рендеринг на CPU, если вы запускаете процессы, требующие много памяти, и не заботитесь о скорости, если у вас есть точность и стабильность.
Используйте рендеринг на GPU, если хотите, чтобы ваши рендеры выполнялись быстро и с очень хорошими результатами, даже если он может быть не самым точным (разница незначительна), и вам не нужны горы памяти для 4K-текстур и 50 миллионов полигонов.
Что выбрать: рендеринг на GPU или CPU
Давайте пройдём всё ещё раз.
Факторы, которые «лишают» вас выбора и подталкивают к рендерингу на GPU или CPU:
- Вы уже владеете кучей лицензий и давно работаете в конкретном движке
- У вас уже есть куча оборудования, которое подходит для одного из двух
- Проекты, над которыми вы работаете или которые даёт клиент, уже настроены в конкретном движке
Всё вышеперечисленное определяет выбор между GPU и CPU за вас. Очевидно, что если вам не платят за преобразование сцены, чтобы заставить её работать с другим движком, вы захотите продолжать работать в движке, для которого сцена уже настроена.
Если у вас уже есть много лицензий или аппаратного обеспечения, подходящего для определенного движка, переход на другой обойдётся вам дорого, если только вы не уверены, что это принесёт вам пользу в долгосрочной перспективе.
Переход с одного движка на другой всегда связан со снижением качества или увеличением времени, затрачиваемого на достижение определенного уровня качества, пока вы не освоитесь с новым движком.
Если у вас нет времени на такой переход для проекта, над которым вы работаете, изучите новый движок, который может быть более подходящим для вас, в свободное время. Переключитесь, когда вы достигнете того же качества с теми же временными затратами.
Если вы не связаны вышеуказанными факторами, вот что может подтолкнуть вас в том или ином направлении:
Графический рендеринг
- Как правило, быстрее, чем рендеринг на CPU для большинства сцен, учитывая, что видеопамять достаточно велика, чтобы уместить сцену
- Более быстрая итерация проекта (и чаще) благодаря быстрому интерактивному предварительному рендерингу, который повышает качество проектов и делает вас более конкурентоспособными
- Может легче масштабироваться с точки зрения аппаратного обеспечения. Просто вставьте кучу графических процессоров в ПК без необходимости приобретать второй компьютер
- Лучший выбор для фрилансеров и небольших студий, которые могут иметь много графических процессоров на своих рабочих станциях без необходимости приобретать рендер-ферму
Процессорный рендеринг
- Доступ к легко обновляемой системной оперативной памяти, емкость которой обычно выше, чем видеопамять. Даёт возможность обрабатывать безумно сложные сцены
- Набор функций в CPU Render Engines обычно шире. Процессорные движки существуют дольше, и процессоры отлично справляются со всеми видами вычислений
- Может быть лучшим выбором для крупных студий, которые занимаются сложными проектами, требующими множества функций движка и программного обеспечения для 3D
Гибридный рендеринг
Хотя большинство движков поддерживают только рендеринг CPU или GPU, некоторые поддерживают и то, и другое.
V-Ray от Chaos и Cycles от Blender – два таких рендер-движка. Они могут одновременно использовать CPU и GPU.
Хотя это звучит как шикарная функция, ускорение обычно незначительное. Код, используемый для поддержки обоих аппаратных компонентов, должен где-то идти на компромисс и редко оптимизируется для обеих сторон.
Поскольку рендеринг на графическом процессоре сам по себе уже требует значительной вычислительной мощности ЦП, обычно не так много остаётся, чтобы сделать добавленную производительность ЦП заметной.
Однако, если вы уже используете один из этих гибридных движков рендеринга в режиме только CPU, вам легко переключиться на гибридный или только GPU, поскольку вы уже знакомы с ним.
Это также поможет использовать полную производительность ваших компонентов, если вы хотите сократить время рендеринга.
Однако, лично мне нравится использовать механизмы рендеринга только для GPU, и мой процессор не используется настолько сильно, чтобы я больше не мог работать на своей рабочей станции.
Рендеринг только на графическом процессоре оставляет некоторые ресурсы CPU свободными, что позволяет мне выполнять композитинг, некоторое редактирование видео и другие задачи, пока я жду завершения рендеринга, и мне не мешает медленный ПК.
Облачный рендеринг и рендер-фермы для рендеринга CPU и GPU
Облачный рендеринг – это форма удаленного рендеринга, в которой используются удаленные серверы рендеринга для распределения рабочей нагрузки между несколькими компьютерами в сети.
Облачный рендеринг становится всё более популярным благодаря доступности рендер-ферм, и он используется многими студиями в индустрии развлечений для рендеринга анимации и визуальных эффектов.
Преимущества облачного рендеринга заключаются в том, что он может снизить затраты за счёт использования вычислительных ресурсов нескольких компьютеров в сети, а также сократить время, необходимое для завершения задачи рендеринга.
Существует множество ферм рендеринга, которые предлагают облачные функции для ускорения рендеринга как на CPU, так и на GPU.
Если у вас есть средства, вы также можете решить создать свою собственную рендер-ферму.
Независимо от того, что вы выберете, вы все равно сможете получить максимальную скорость.
Что в итоге
У рендеринга на CPU и на GPU есть своё применение. Поэтому трудно однозначно рекомендовать вам использовать один или другой.
Рендеринг на GPU, как правило, будет намного быстрее, чем на CPU, но у вас могут возникнуть проблемы с управлением памятью.
Если у вас есть доступ к большому количеству памяти и высокопроизводительным процессорам, возможно, лучше использовать рендеринг на CPU.
Вы должны внимательно изучить требования вашего проекта и выяснить, что лучше всего подходит вам.
Так что, надеюсь, эта статья немного облегчила вам принятие этого решения.