前のページ（線形代数）で、行列をかける＝数字の並びを変換することを説明しました。ニューラルネットワーク（Neural Network / NN）は、この変換を何層も重ねた仕組みです。

The previous page (linear algebra) showed that multiplying by a matrix = transforming a row of numbers. A neural network simply stacks many such transformations in layers.

各層では「変換＋非線形な絞り込み」をおこない、それを繰り返すことで、最初はただの数字の集まりだったデータが、最終的に「これは猫」「これは犬」という判断に変わります。

Each layer applies a transform followed by a non-linear squeeze, and repeating this turns a raw collection of numbers into a judgment like "this is a cat" or "this is a dog."

全結合のニューラルネットでは、画像の全ピクセルを一度に扱います。しかし画像には「近いピクセルどうしが関係している」という性質があります。端っこ・線・模様は、局所的な範囲に現れるからです。

A fully connected network processes all pixels at once. But images have a key property: nearby pixels relate to each other. Edges, lines, and textures appear in local regions.

そこで「畳み込み」は、小さい窓（フィルタ）を画像の上でずらしながら、その窓の範囲だけを計算するという方法をとります。

Convolution therefore uses a small window (filter) that slides across the image, computing only within that window at each step.

フィルタ（カーネルとも呼ぶ）は、「どんな特徴を探すか」を決める小さな行列です。

A filter (also called a kernel) is a small matrix that decides what feature to look for.

手で設計することもできますが、深層学習では フィルタの中身（重み）を訓練によって自動で決めるのが特徴です。モデルが「猫を見分けるのに役立つ特徴」を自分で学んでいきます。（訓練の流れは 学習の流れ ページで解説しています。）

Filters can be designed by hand, but the key feature of deep learning is that filter weights are determined automatically through training. The model learns by itself which features help distinguish a cat. (See Visual Guide to the Training Flow for how training works.)

畳み込み層には複数のフィルタがあり、それぞれが異なる特徴を探します。最初の層では「端っこ・線」、深い層では「目・耳」のような複雑な部品を探すようになります。

A convolutional layer has many filters, each looking for a different feature. Early layers find "edges and lines"; deeper layers find complex parts like "eyes and ears."

畳み込みは「近くの情報を見る」のが得意ですが、文章では遠くの単語どうしの関係もとても重要です。たとえば「太郎はケーキを食べた。そのあと彼は寝た」の「彼」が誰を指すかは、前の文まで遡らないとわかりません。

Convolution excels at nearby patterns, but language requires relationships between distant words too. For example, knowing who "he" refers to in "Taro ate the cake. Then he slept" requires reaching back to an earlier sentence.

そのため、現在の大規模言語モデル（LLM）では、畳み込みよりも Attention（注意機構） が中心的な仕組みになっています。Attention は文中の全単語を同時に参照し、関係が深い単語ほど強く注目する仕組みです。GPT・BERT・LLaMA など現代の LLM はほぼすべて、Attention を積み重ねた Transformer アーキテクチャを使っています。

That's why today's large language models (LLMs) rely on Attention rather than convolution. Attention looks at all words in a sentence simultaneously, weighting the most relevant ones more strongly. GPT, BERT, LLaMA and virtually all modern LLMs use the Transformer architecture, which stacks Attention layers.

MIOpen は、AMD GPU で畳み込み・行列演算・プーリングなど DNN の基本計算を高速に実行するためのライブラリです。

MIOpen is AMD's library for running DNN building blocks — convolution, matrix operations, pooling, etc. — at full GPU speed.

PyTorch などの AI フレームワークから「畳み込みを実行してください」と呼ばれると、MIOpen がその GPU に合った最適な計算手順（solver）を選んで実行します。

When an AI framework like PyTorch says "run a convolution," MIOpen selects the optimal computation method (solver) for the specific GPU and executes it.

同じ「畳み込み」でも、GPU の世代・命令セット・入力の形・データ型によって、最も速い計算手順が変わります。MIOpen はそれぞれに対応した solver を登録しており、実行前に「この GPU でこの入力に使えるか？」（IsApplicable()）を確認して最適なものを選びます。

Even for the same "convolution," the fastest computation method varies depending on the GPU generation, instruction set, input shape, and data type. MIOpen registers a solver for each case and checks "can this solver run on this GPU with this input?" (IsApplicable()) before selecting the best one.

gfx900（Vega 世代）は 2017 年の GPU です。最近の GPU にある「行列計算のための専用の近道」の一部を持っていません。名前で言うと xdlops や dot4 です。

gfx900 (Vega generation) is a 2017 GPU. It has neither xdlops (dedicated matrix instructions) nor dot4 (INT8 multiply-accumulate).

そのため、MLIR iGEMM と XDLops 系の solver は使えません。しかし Winograd / ASM v4r1 は今も動作し、MIOpen の Naive solver は常に利用できます。また、Perf DB（性能チューニング済みパラメータ集）に gfx900 向けの 169,182 行のエントリが ROCm 7.2 に収録されており、これが動作を支えています。

As a result, MLIR iGEMM and XDLops solvers are unavailable. But Winograd and ASM v4r1 still work, and the Naive solver is always available. The Perf DB (pre-tuned parameter database) also ships 169,182 gfx900 entries in ROCm 7.2, which underpins continued operation.