Новий 3D-чіп долає «стіну пам’яті» в ШІ-обчисленнях

Дослідники запропонували монолітний тривимірний підхід до проєктування чіпів, який радикально змінює взаємодію між пам’яттю та обчисленнями в апаратному забезпеченні штучного інтелекту.

Команди зі Стенфордського університету, CMU, Penn та MIT у співпраці з SkyWater Technology створили перший у США монолітний 3D-чіп. Така архітектура означає «вертикальне укладання надтонких шарів логіки та пам’яті». Це дозволяє даним рухатися значно швидше. Дослідники зафіксували приріст продуктивності на порядок.

Традиційні 2D-чіпи страждають від «стіни пам’яті», тобто «обмеження швидкості передавання даних між пам’яттю та обчислювальними блоками». Навіть за високої обчислювальної потужності затримки накопичуються. Мініатюризація транзисторів також наближається до фізичних меж. Ці два бар’єри стримують розвиток ШІ.

Новий чіп долає ці обмеження за рахунок вертикальних з’єднань. Як пояснює Татхагата Шрімані, «інтеграція пам’яті та логіки у вертикальному вимірі працює як ліфти в хмарочосах». Це підвищує пропускну здатність без збільшення енергетичних втрат. Архітектура дозволяє щільніше розміщувати компоненти.

Важливою особливістю є монолітне виготовлення, тобто «послідовне нарощування шарів в одному процесі». На відміну від стекування готових кристалів, такий метод зменшує вузькі місця. «Це відкриває двері до нової ери виробництва чіпів», — зазначає Субхасіш Мітра. Процес реалізовано на комерційному ливарному заводі в США.

Перші випробування показали чотириразове зростання продуктивності. Моделювання майбутніх версій демонструє до дванадцятикратного прискорення реальних навантажень ШІ. Дослідники вказують на потенціал 100–1000-кратного покращення енергоефективності. Це створює основу для нового етапу розвитку апаратного забезпечення ШІ.