Apple Neural Engineの内部アーキテクチャを逆解析
Judul asli: Retrospectively Reverse-Engineering Apple's Neural Engine
Mengapa Ini Penting
CNN時代のNPU設計がTransformer時代にどう淘汰されたかを示す実証的な記録として、AI半導体設計の変遷を理解するうえで価値がある。
エンジニアのEileen Yoonが、Apple M1チップのNeural Engine（ANE）を逆解析し、16コア・2048並列MACレーンの内部アーキテクチャを詳細に公開した。
エンジニアのEileen Yoonが、Apple M1チップ搭載のNeural Engine（ANE）を逆解析した詳細レポートを公開した。Yoonは3年前にANEのLinuxドライバー開発を中断していたが、2025年発売のM5チップがANEコアをGPUコア内に統合したことを契機に、「スタンドアロンNPUの終わりの始まり」として本稿をまとめた。
ANEは16個の並列コンピュートコアを持ち、各コアに128レーンのFP16（またはINT8で256レーン）のMAC（Multiply-Accumulate）ユニットを搭載。合計2048並列MACレーンを構成する。Yoonによれば、ANEをCNNに特化させたのはMACの存在ではなく、そのデータフロー設計だという。規則的な再利用パターンを前提とした設計は、2017年のA11 Bionicで初採用された当時のCNNワークロードには最適だったが、Transformerのオートリグレッシブ推論が要求する不規則なアクセスパターンには不向きだった。
AppleがmacOSでANEを定常的に使う用途は、Finderのプレビュー画像のアップサンプリング生成にとどまると指摘。M5での統合判断は、ANEのコンピュートコア自体は有用でも、独立したデータフロー設計の限界を示すものだと分析している。