شکل‌ها و پارامترهای یک CNN

یک شبکه‌ی کانولوشنی به‌صورت جدولی از لایه‌ها داده می‌شود؛ هر سطر [نوع, خروجی, k, s, p]:

• نوع 0: nn.Conv2d با خروجی فیلتر، هسته‌ی $k \times k$، گام $s$ و حاشیه‌ی $p$. پارامترها: $\text{خروجی} \times (C k^2 + 1)$ با $C$ کانال ورودی.
• نوع 1: nn.MaxPool2d(k, stride=s)؛ ستون خروجی بی‌استفاده است. پارامتر ندارد و تعداد کانال‌ها را عوض نمی‌کند.
• نوع 2: لایه‌ی کاملاً متصل با خروجی واحد. اگر ورودی‌اش هنوز سه‌بعدی است، اول صاف می‌شود ($C \times H \times W$ ورودی). پارامترها: $\text{خروجی} \times (\text{ورودی} + 1)$.

برای کانولوشن و ادغام، اندازه‌ی هر محور مکانی $\lfloor (n + 2p - k)/s \rfloor + 1$ است (برای ادغام $p = 0$).

تابع cnn_shapes(input_shape, layers) با input_shape = $[C, H, W]$، شکل خروجی هر لایه را به‌صورت سه عدد $[C, H, W]$ پشت‌سرهم می‌گذارد — برای لایه‌ی کاملاً متصل $[\text{خروجی}, 1, 1]$ — و در آخر تعداد کل پارامترهای شبکه را.

یکی از ورودی‌ها همان شبکه‌ی کتاب ISLP برای CIFAR100 است: چهار بلوک کانولوشن ۳ در ۳ و ادغام، و دو لایه‌ی کاملاً متصل.