Технология CPO (co-packaged optoelectronics) существует уже некоторое время, но все еще находится на стадии разработки. Андреас Матисс, старший менеджер по оптическим компонентам и интеграции в Corning Optical Communications, объяснил, какую ключевую роль играет стекло в размещении кремниевых электрооптических преобразователей как можно ближе к кремниевым процессорам.
Сети центров обработки данных быстро развиваются, и этот импульс ускорился с ростом ИИ и широкомасштабным развертыванием кластеров ИИ. Недавний прогресс в этой области был значительным, особенно с развертыванием архитектуры DGX SuperPOD от NVIDIA и кластеров TPU от Google. Этот сдвиг обусловлен потребностью в высокопроизводительных вычислениях для поддержки задач обучения и вывода ИИ. Ожидается, что только NVIDIA будет ежегодно поставлять миллионы оптимизированных для ИИ графических процессоров в течение следующих пяти лет, достигнув значительного масштаба к 2028 году.
Количество приемопередатчиков, необходимых для построения этих сетей, достигнет десятков миллионов в год, и эти устройства должны будут работать на максимальной скорости 1,6 Тбит/с и 3,2 Тбит/с. Отраслевые аналитики прогнозируют, что каждый ускоритель (GPU) в будущем будет оснащен более чем 10 приемопередатчиками, а это означает, что спрос на оптоволоконные соединения увеличится примерно в 10 раз по сравнению с текущим уровнем развертывания.
В типичном центре обработки данных стандартный подключаемый Ethernet-трансивер потребляет примерно 20 Вт электроэнергии. Ожидается, что трансиверы следующего поколения будут потреблять почти вдвое больше энергии. Основываясь на текущих поставках, по оценкам, в 2024 году для питания трансиверов будет развернуто около 200 мегаватт (МВт) электроэнергии. Основываясь на траектории разработки трансиверов и ожидаемом десятикратном увеличении спроса на оптическую связь, прогнозируется, что развертывание электроэнергии для трансиверов вырастет до 2 гигаватт (ГВт) в год, что эквивалентно мощности, вырабатываемой крупной атомной электростанцией. Это не включает в себя энергию, необходимую для питания электроники на стороне хоста и электрических ретаймеров, используемых для передачи данных от интегральных схем к трансиверам на передней панели устройства.
Например, для центра обработки данных ИИ, оснащенного одним миллионом графических процессоров, внедрение технологии CPO может сэкономить центру обработки данных около 150 мегаватт генерирующей мощности. В дополнение к сокращению инвестиций, необходимых для строительства соответствующих объектов генерации электроэнергии, эта технология также значительно снижает эксплуатационные расходы — в зависимости от региональных различий в ценах на электроэнергию, ежегодная экономия электроэнергии может легко превысить 100 миллионов евро. В Китае, с развитием инициативы «Вычисления Восток-Запад», спрос на высокоскоростные оптические соединения с низким энергопотреблением резко возрастает в суперкомпьютерных центрах (таких как Wuxi Sunway TaihuLight) и интеллектуальных вычислительных центрах (таких как вычислительные кластеры ИИ в Пекине и Шэньчжэне). Ожидается, что технология CPO станет ключом к снижению энергопотребления и повышению эффективности графических процессоров отечественного производства. Столкнувшись с этой неустойчивой тенденцией потребления энергии, инновации имеют решающее значение.
Внедрение технологии CPO
CPO — это технология, которая, скорее всего, преодолеет это узкое место потребления энергии в краткосрочной перспективе. Эта технология перемещает модуль электрооптического преобразования из трансивера на передней панели во внутреннюю часть устройства, в идеале интегрируя его непосредственно в подложку пакета ЦП или графического процессора. Это минимизирует потери мощности в медном канале, что приводит к более энергоэффективной связи. По сравнению с подключаемыми трансиверами энергопотребление может быть снижено более чем на 50%, а в некоторых случаях — до 75%. Это преимущество в энергосбережении достигается не только за счет сокращения использования высокопотерьных медных каналов, но и за счет упрощения или даже исключения цифрового сигнального процессора (DSP), необходимого для компенсации потерь при передаче электрических сигналов.
Вкратце, технология CPO обеспечивает высокоскоростную, маломощную и низколатентную оптическую связь. Эти характеристики являются ключевыми для передовых сетей ИИ.
Еще одной альтернативой энергосбережения, которую стоит рассмотреть, является линейный подключаемый оптический модуль (LPO). Устраняя микросхему DSP, он снижает энергопотребление и задержку, сохраняя форм-фактор и экосистему подключаемого трансивера на передней панели. В то время как CPO предлагает лучшую целостность сигнала и меньшую задержку, LPO более экономичен, особенно для приложений с небольшим радиусом действия. Экономическая эффективность и низкое энергопотребление LPO в сочетании с быстрым выходом на рынок могут отсрочить широкое внедрение технологии CPO.
Однако, по мере увеличения скорости соединения до 200G и выше, LPO потребляет больше энергии, чем CPO, и становится значительно сложнее управлять им, чтобы обеспечить высокое качество сигнала. По мере дальнейшего развития технологий ожидается, что CPO станет предпочтительным решением в будущем.
Стекло расширяет возможности технологии CPO
Ожидается, что стекло сыграет ключевую роль в следующем поколении технологии CPO. Чтобы приблизить электрооптические преобразователи (в первую очередь кремниевые фотонные чипы) как можно ближе к фактическим кремниевым процессорам (ЦП и графическим процессорам), требуется новая технология упаковки, которая не только поддерживает большие размеры подложек, но и обеспечивает оптическую связь с кремниевыми фотонными чипами.
В традиционной полупроводниковой упаковке в основном использовались органические подложки. Эти материалы имеют более высокий коэффициент теплового расширения, чем кремний, что ограничивает максимальный размер полупроводниковых корпусов. Поскольку отрасль продолжает стремиться к увеличению размеров подложек корпусов на существующих платформах органических технологий, проблемы надежности (такие как проблемы целостности паяных соединений и повышенный риск расслоения) и производственные проблемы (такие как высококачественные структуры межсоединений с мелким шагом и проводка высокой плотности) стали все более заметными, что привело к увеличению затрат на упаковку и тестирование. Однако благодаря оптимизированной конструкции стекло может достичь коэффициента теплового расширения, который более точно соответствует коэффициенту теплового расширения кремниевых чипов, превосходя традиционные органические подложки. Эта специально обработанная стеклянная подложка обладает исключительной термической стабильностью, снижая механическое напряжение и повреждения во время колебаний температуры. Ее превосходная механическая прочность и плоскостность обеспечивают прочную основу для надежности упаковки чипов. Кроме того, стеклянные подложки поддерживают более высокую плотность межсоединений и более мелкий шаг, улучшая электрические характеристики и уменьшая паразитные эффекты. Эти свойства делают стекло очень надежным и точным выбором для передовой полупроводниковой упаковки. Следовательно, индустрия полупроводниковой упаковки активно разрабатывает передовую технологию стеклянных подложек в качестве технологии подложек следующего поколения.
Стеклянные волноводные подложки
В дополнение к своим превосходным термическим и механическим свойствам, стекло также можно использовать для работы в качестве оптического волновода. Волноводы в стекле обычно создаются с помощью процесса, называемого ионным обменом: ионы в стекле заменяются другими ионами из солевого раствора, тем самым изменяя показатель преломления стекла. Ограничивая свет областями с более высоким показателем преломления, эти модифицированные области могут направлять свет. Эта техника позволяет точно настраивать свойства волновода, что делает его подходящим для различных оптических применений. Следовательно, в оптических волноводах с волокнистыми структурами свет может распространяться вдоль интегрированных стеклянных волноводов и эффективно соединяться с оптическими волокнами или кремниевыми фотонными чипами. Это делает стекло привлекательным материалом для передовых приложений CPO.
Интеграция электрических и оптических межсоединений на одной и той же подложке также помогает решить проблемы плотности межсоединений, с которыми сталкиваются компании при создании больших кластеров ИИ. В настоящее время количество оптических каналов ограничено геометрией оптических волокон — диаметр оболочки типичного оптического волокна составляет 127 микрон, примерно толщину человеческого волоса. Однако стеклянные волноводы обеспечивают более плотное расположение, значительно увеличивая плотность ввода/вывода (I/O) по сравнению с прямыми соединениями волокно-чип.
Интеграция электрических и оптических межсоединений не только решает проблемы плотности, но и улучшает общую производительность и масштабируемость кластеров ИИ. Компактный характер стеклянных волноводов позволяет разместить больше оптических каналов в том же физическом пространстве, тем самым увеличивая пропускную способность и эффективность передачи данных системы. Этот прогресс имеет решающее значение для развития инфраструктуры ИИ следующего поколения — в сценариях, когда системы ИИ должны обрабатывать огромные объемы данных, технология межсоединений высокой плотности является ключом к эффективному управлению.
Интегрируя стеклянные волноводы, можно построить полную оптическую систему на одной и той же подложке, что позволит фотонным интегральным схемам обмениваться данными напрямую через оптические волноводы. Этот процесс устраняет необходимость в оптических волоконных межсоединениях и значительно улучшает пропускную способность и охват межчиповой связи. В системах высокой плотности с многочисленными взаимосвязанными компонентами использование стеклянных волноводов может обеспечить меньшие потери сигнала, более высокую плотность полосы пропускания и большую долговечность по сравнению с дискретными оптическими волокнами. Эти преимущества делают стеклянные волноводы идеальным выбором для высокопроизводительных систем оптических межсоединений.
Применение технологии CPO к центрам обработки данных следующего поколения и сетям суперкомпьютеров ИИ может увеличить пропускную способность чипов, открывая новые возможности для высокоскоростных коммутаторов с высоким основанием 102T и выше. Архитекторы сетей теперь имеют уникальную возможность переосмыслить и перепроектировать сетевые архитектуры. Благодаря увеличению пропускной способности и упрощенным сетевым архитектурам они достигнут превосходной производительности сети, повысив операционную эффективность и оптимизацию процессов.
Заключение
Технология CPO может революционизировать архитектуру межсоединений ИИ на нескольких уровнях. Она может значительно снизить энергопотребление и улучшить устойчивость, делая системы ИИ более экологичными и экономически эффективными. Кроме того, CPO повышает эффективность и масштабируемость систем ИИ, позволяя им легко справляться с более крупными и сложными задачами. Решая проблемы плотности, CPO может увеличить скорость передачи данных, обеспечивая более быструю и надежную связь между компонентами ИИ. Это также поможет уменьшить узкие места в будущих системах ИИ, обеспечивая более плавную и эффективную работу системы.
Ожидается, что будущие межсоединения ИИ представят прямые оптические соединения, устраняя необходимость в вычислительных коммутаторах. Эта инновация расширит полосу пропускания для задач ИИ и повысит скорость и эффективность обработки больших наборов данных. Стекло с его превосходными возможностями передачи данных и масштабируемостью является идеальным материалом для обеспечения этих технологических достижений. Оптические соединения на основе стекла станут критически важным фактором для систем ИИ следующего поколения, формируя незаменимую инфраструктуру для высокопроизводительных вычислений и передовых приложений ИИ.
NEW LIGHT OPTICS TECHNOLOGY LIMITED будет стремиться использовать каждую возможность и вносить свой вклад.
Технология CPO (co-packaged optoelectronics) существует уже некоторое время, но все еще находится на стадии разработки. Андреас Матисс, старший менеджер по оптическим компонентам и интеграции в Corning Optical Communications, объяснил, какую ключевую роль играет стекло в размещении кремниевых электрооптических преобразователей как можно ближе к кремниевым процессорам.
Сети центров обработки данных быстро развиваются, и этот импульс ускорился с ростом ИИ и широкомасштабным развертыванием кластеров ИИ. Недавний прогресс в этой области был значительным, особенно с развертыванием архитектуры DGX SuperPOD от NVIDIA и кластеров TPU от Google. Этот сдвиг обусловлен потребностью в высокопроизводительных вычислениях для поддержки задач обучения и вывода ИИ. Ожидается, что только NVIDIA будет ежегодно поставлять миллионы оптимизированных для ИИ графических процессоров в течение следующих пяти лет, достигнув значительного масштаба к 2028 году.
Количество приемопередатчиков, необходимых для построения этих сетей, достигнет десятков миллионов в год, и эти устройства должны будут работать на максимальной скорости 1,6 Тбит/с и 3,2 Тбит/с. Отраслевые аналитики прогнозируют, что каждый ускоритель (GPU) в будущем будет оснащен более чем 10 приемопередатчиками, а это означает, что спрос на оптоволоконные соединения увеличится примерно в 10 раз по сравнению с текущим уровнем развертывания.
В типичном центре обработки данных стандартный подключаемый Ethernet-трансивер потребляет примерно 20 Вт электроэнергии. Ожидается, что трансиверы следующего поколения будут потреблять почти вдвое больше энергии. Основываясь на текущих поставках, по оценкам, в 2024 году для питания трансиверов будет развернуто около 200 мегаватт (МВт) электроэнергии. Основываясь на траектории разработки трансиверов и ожидаемом десятикратном увеличении спроса на оптическую связь, прогнозируется, что развертывание электроэнергии для трансиверов вырастет до 2 гигаватт (ГВт) в год, что эквивалентно мощности, вырабатываемой крупной атомной электростанцией. Это не включает в себя энергию, необходимую для питания электроники на стороне хоста и электрических ретаймеров, используемых для передачи данных от интегральных схем к трансиверам на передней панели устройства.
Например, для центра обработки данных ИИ, оснащенного одним миллионом графических процессоров, внедрение технологии CPO может сэкономить центру обработки данных около 150 мегаватт генерирующей мощности. В дополнение к сокращению инвестиций, необходимых для строительства соответствующих объектов генерации электроэнергии, эта технология также значительно снижает эксплуатационные расходы — в зависимости от региональных различий в ценах на электроэнергию, ежегодная экономия электроэнергии может легко превысить 100 миллионов евро. В Китае, с развитием инициативы «Вычисления Восток-Запад», спрос на высокоскоростные оптические соединения с низким энергопотреблением резко возрастает в суперкомпьютерных центрах (таких как Wuxi Sunway TaihuLight) и интеллектуальных вычислительных центрах (таких как вычислительные кластеры ИИ в Пекине и Шэньчжэне). Ожидается, что технология CPO станет ключом к снижению энергопотребления и повышению эффективности графических процессоров отечественного производства. Столкнувшись с этой неустойчивой тенденцией потребления энергии, инновации имеют решающее значение.
Внедрение технологии CPO
CPO — это технология, которая, скорее всего, преодолеет это узкое место потребления энергии в краткосрочной перспективе. Эта технология перемещает модуль электрооптического преобразования из трансивера на передней панели во внутреннюю часть устройства, в идеале интегрируя его непосредственно в подложку пакета ЦП или графического процессора. Это минимизирует потери мощности в медном канале, что приводит к более энергоэффективной связи. По сравнению с подключаемыми трансиверами энергопотребление может быть снижено более чем на 50%, а в некоторых случаях — до 75%. Это преимущество в энергосбережении достигается не только за счет сокращения использования высокопотерьных медных каналов, но и за счет упрощения или даже исключения цифрового сигнального процессора (DSP), необходимого для компенсации потерь при передаче электрических сигналов.
Вкратце, технология CPO обеспечивает высокоскоростную, маломощную и низколатентную оптическую связь. Эти характеристики являются ключевыми для передовых сетей ИИ.
Еще одной альтернативой энергосбережения, которую стоит рассмотреть, является линейный подключаемый оптический модуль (LPO). Устраняя микросхему DSP, он снижает энергопотребление и задержку, сохраняя форм-фактор и экосистему подключаемого трансивера на передней панели. В то время как CPO предлагает лучшую целостность сигнала и меньшую задержку, LPO более экономичен, особенно для приложений с небольшим радиусом действия. Экономическая эффективность и низкое энергопотребление LPO в сочетании с быстрым выходом на рынок могут отсрочить широкое внедрение технологии CPO.
Однако, по мере увеличения скорости соединения до 200G и выше, LPO потребляет больше энергии, чем CPO, и становится значительно сложнее управлять им, чтобы обеспечить высокое качество сигнала. По мере дальнейшего развития технологий ожидается, что CPO станет предпочтительным решением в будущем.
Стекло расширяет возможности технологии CPO
Ожидается, что стекло сыграет ключевую роль в следующем поколении технологии CPO. Чтобы приблизить электрооптические преобразователи (в первую очередь кремниевые фотонные чипы) как можно ближе к фактическим кремниевым процессорам (ЦП и графическим процессорам), требуется новая технология упаковки, которая не только поддерживает большие размеры подложек, но и обеспечивает оптическую связь с кремниевыми фотонными чипами.
В традиционной полупроводниковой упаковке в основном использовались органические подложки. Эти материалы имеют более высокий коэффициент теплового расширения, чем кремний, что ограничивает максимальный размер полупроводниковых корпусов. Поскольку отрасль продолжает стремиться к увеличению размеров подложек корпусов на существующих платформах органических технологий, проблемы надежности (такие как проблемы целостности паяных соединений и повышенный риск расслоения) и производственные проблемы (такие как высококачественные структуры межсоединений с мелким шагом и проводка высокой плотности) стали все более заметными, что привело к увеличению затрат на упаковку и тестирование. Однако благодаря оптимизированной конструкции стекло может достичь коэффициента теплового расширения, который более точно соответствует коэффициенту теплового расширения кремниевых чипов, превосходя традиционные органические подложки. Эта специально обработанная стеклянная подложка обладает исключительной термической стабильностью, снижая механическое напряжение и повреждения во время колебаний температуры. Ее превосходная механическая прочность и плоскостность обеспечивают прочную основу для надежности упаковки чипов. Кроме того, стеклянные подложки поддерживают более высокую плотность межсоединений и более мелкий шаг, улучшая электрические характеристики и уменьшая паразитные эффекты. Эти свойства делают стекло очень надежным и точным выбором для передовой полупроводниковой упаковки. Следовательно, индустрия полупроводниковой упаковки активно разрабатывает передовую технологию стеклянных подложек в качестве технологии подложек следующего поколения.
Стеклянные волноводные подложки
В дополнение к своим превосходным термическим и механическим свойствам, стекло также можно использовать для работы в качестве оптического волновода. Волноводы в стекле обычно создаются с помощью процесса, называемого ионным обменом: ионы в стекле заменяются другими ионами из солевого раствора, тем самым изменяя показатель преломления стекла. Ограничивая свет областями с более высоким показателем преломления, эти модифицированные области могут направлять свет. Эта техника позволяет точно настраивать свойства волновода, что делает его подходящим для различных оптических применений. Следовательно, в оптических волноводах с волокнистыми структурами свет может распространяться вдоль интегрированных стеклянных волноводов и эффективно соединяться с оптическими волокнами или кремниевыми фотонными чипами. Это делает стекло привлекательным материалом для передовых приложений CPO.
Интеграция электрических и оптических межсоединений на одной и той же подложке также помогает решить проблемы плотности межсоединений, с которыми сталкиваются компании при создании больших кластеров ИИ. В настоящее время количество оптических каналов ограничено геометрией оптических волокон — диаметр оболочки типичного оптического волокна составляет 127 микрон, примерно толщину человеческого волоса. Однако стеклянные волноводы обеспечивают более плотное расположение, значительно увеличивая плотность ввода/вывода (I/O) по сравнению с прямыми соединениями волокно-чип.
Интеграция электрических и оптических межсоединений не только решает проблемы плотности, но и улучшает общую производительность и масштабируемость кластеров ИИ. Компактный характер стеклянных волноводов позволяет разместить больше оптических каналов в том же физическом пространстве, тем самым увеличивая пропускную способность и эффективность передачи данных системы. Этот прогресс имеет решающее значение для развития инфраструктуры ИИ следующего поколения — в сценариях, когда системы ИИ должны обрабатывать огромные объемы данных, технология межсоединений высокой плотности является ключом к эффективному управлению.
Интегрируя стеклянные волноводы, можно построить полную оптическую систему на одной и той же подложке, что позволит фотонным интегральным схемам обмениваться данными напрямую через оптические волноводы. Этот процесс устраняет необходимость в оптических волоконных межсоединениях и значительно улучшает пропускную способность и охват межчиповой связи. В системах высокой плотности с многочисленными взаимосвязанными компонентами использование стеклянных волноводов может обеспечить меньшие потери сигнала, более высокую плотность полосы пропускания и большую долговечность по сравнению с дискретными оптическими волокнами. Эти преимущества делают стеклянные волноводы идеальным выбором для высокопроизводительных систем оптических межсоединений.
Применение технологии CPO к центрам обработки данных следующего поколения и сетям суперкомпьютеров ИИ может увеличить пропускную способность чипов, открывая новые возможности для высокоскоростных коммутаторов с высоким основанием 102T и выше. Архитекторы сетей теперь имеют уникальную возможность переосмыслить и перепроектировать сетевые архитектуры. Благодаря увеличению пропускной способности и упрощенным сетевым архитектурам они достигнут превосходной производительности сети, повысив операционную эффективность и оптимизацию процессов.
Заключение
Технология CPO может революционизировать архитектуру межсоединений ИИ на нескольких уровнях. Она может значительно снизить энергопотребление и улучшить устойчивость, делая системы ИИ более экологичными и экономически эффективными. Кроме того, CPO повышает эффективность и масштабируемость систем ИИ, позволяя им легко справляться с более крупными и сложными задачами. Решая проблемы плотности, CPO может увеличить скорость передачи данных, обеспечивая более быструю и надежную связь между компонентами ИИ. Это также поможет уменьшить узкие места в будущих системах ИИ, обеспечивая более плавную и эффективную работу системы.
Ожидается, что будущие межсоединения ИИ представят прямые оптические соединения, устраняя необходимость в вычислительных коммутаторах. Эта инновация расширит полосу пропускания для задач ИИ и повысит скорость и эффективность обработки больших наборов данных. Стекло с его превосходными возможностями передачи данных и масштабируемостью является идеальным материалом для обеспечения этих технологических достижений. Оптические соединения на основе стекла станут критически важным фактором для систем ИИ следующего поколения, формируя незаменимую инфраструктуру для высокопроизводительных вычислений и передовых приложений ИИ.
NEW LIGHT OPTICS TECHNOLOGY LIMITED будет стремиться использовать каждую возможность и вносить свой вклад.