ВС с распределенной памятью

13. ВС с распределенной памятью В данном разделе рассматриваются так называемые крупномасштабные системы с распределенной памятью, т.е. каждый процессор имеет свою локальную память (ЛП)– для того чтобы поддерживать большое количество процессоров приходится распределять основную память между ними, в противном случае полосы пропускания памяти просто может не хватить для удовлетворения запросов, поступающих от очень большого числа процессоров. На рис. 13.1 показана структура такой системы. Для простоты на рис. 13.1 в качестве коммуникационной сети (КС) изображена общая шина. P1 кеш ЛП ... P2 кеш КВВ ЛП КВВ Pn кеш ЛП КВВ КС ЛП КВВ Pm кеш Рис. 13.1 Упрощѐнная схема системы МКМД с распределѐнной памятью В таких системах в рамках одной локальной памяти может находится несколько процессоров, тогда такое образование называется вычислительным узлом системы. Распределение памяти между отдельными узлами системы имеет два главных преимущества. Во-первых, это эффективный с точки зрения стоимости способ увеличения полосы пропускания памяти, поскольку большинство обращений могут выполняться параллельно к локальной памяти в каждом узле. Во-вторых, это уменьшает задержку обращения (время доступа) к локальной памяти. Обычно устройства ввода/вывода, так же как и память, распределяются по узлам. На рис. 13.1 КВВ – контроллер ввода/вывода. Таким образом, каждый вычислительный узел представляет собой отдельный компьютер, поэтому такие системы и называются многомашинными. Поскольку физически адресное пространство распределено по вычислительным узлам доступ к «чужой» памяти осуществляется через механизм передачи сообщений. Основные преимущества обмена с помощью передачи сообщений являются. 68 1. Аппаратура может быть более простой, по сравнению с моделью разделяемой памяти. 2. Модели обмена понятны программистам. Однако, основные трудности возникают при работе с сообщениями, которые могут быть неправильно выровнены и сообщениями произвольной длины в системе памяти, которая обычно ориентирована на передачу выровненных блоков данных, организованных как блоки кэш-памяти. При оценке любого механизма обмена критичными являются три характеристики производительности систем обмена: 1. Полоса пропускания – в идеале полоса пропускания механизма обмена будет ограничена полосами пропускания процессора, памяти и системы межсоединений. 2. Задержка – в идеале задержка должна быть настолько мала, насколько это возможно. Для еѐ определения критичны накладные расходы аппаратуры и программного обеспечения, связанные с инициированием и завершением обмена. 3. Упрятывание задержки – насколько хорошо механизм скрывает задержку путем перекрытия обмена с вычислениями или другими обменами.