TSMC и ученые из США создали сверхэкономичную память SOT-MRAM
Инженеры Техасского университета в Остине совместно с TSMC изготовили и испытали чипы с магнитной памятью SOT-MRAM, адаптированные для задач искусственного интеллекта. Такая память сочетает высокую скорость, низкое энергопотребление и способность сохранять данные после отключения питания.
В основном для систем ИИ
Изображение сгенерировано Gemini // Источник изображения: Gemini
В экспериментальных чипах переключение одного бита между 0 и 1 занимало около 2 наносекунд и требовало примерно 2 пикоджоулей энергии. Исследователи отмечают, что в некоторых сценариях альтернативные технологии памяти могут работать в разы или даже на порядки медленнее, потребляя при этом сотни пикоджоулей на одну операцию.
Главная особенность SOT-MRAM одновременно долгое время считалась ее недостатком: ячейка может хранить только два состояния — 0 или 1. Для многих ИИ-задач этого недостаточно, поскольку нейросети обычно работают с более сложными представлениями данных. Поэтому исследователям пришлось адаптировать алгоритмы под двоичное представление, сохранив приемлемую точность вычислений.
Экспериментальные чипы протестировали сразу на нескольких задачах — инференс нейросетей, обучение бинарных нейросетей и вероятностное графовое моделирование. Результаты показали, что SOT-MRAM может быть особенно интересна для периферийного ИИ, когда вычисления выполняются непосредственно на конечном устройстве, а не в дата-центре.
Например, роботизированная конечность сможет сама обработать данные от датчиков и практически мгновенно отреагировать на резкое повышение температуры, не отправляя информацию в облако. Это уменьшает задержку и одновременно экономит энергию, которая в противном случае потребовалась бы для передачи данных и последующей обработки на удаленных серверах.
При этом полностью отказаться от облачных вычислений такие системы не смогут. Для задач, требующих высокой точности или значительной вычислительной мощности, устройство по-прежнему сможет передавать данные на серверы с GPU.
В перспективе специализированные ускорители на базе SOT-MRAM могут взять на себя часть локальных ИИ-вычислений, которые сегодня выполняются на CPU. Однако до практического применения технологии еще далеко. Исследователям предстоит повысить стабильность характеристик чипов и уменьшить разброс параметров между отдельными ячейками — сейчас он может снижать точность работы нейросетей.