こんにちは！ AI技術の「なぜ？」を解き明かす、現役インフラエンジニアのコシです。 前回は、Transformerの内部でSelf-Attentionの後に配置される「Feed-Forward Network（FFN）」について解説しました。 FFNが、Self-Attentionによって得られた文脈情報を、より高次の特徴 ...