ChatGPTの「T」が意味する「トランスフォーマー」の発明から7年。その立役者である研究者たち自身が、いまもこのニューラルネットワーク・アーキテクチャの驚くべき能力がなぜ実現されたのか、その解明に取り組んでいる。 2017年の春、グーグル本社の ...

2017年の春、グーグル本社の「1965棟」の2階にある一室で、インターンとして働く大学生のエイダン・ゴメスは、両手を上げて思いっきり伸びをした。疲れ果てて、くたくただった。時計は午前3時を回っていた。ゴメスと、自然言語処理を専門とする科学者 ...

OpenAIの特許解説シリーズは一休みして、生成AI関連の基本特許中の基本特許、GoogleのTransfomer特許について簡単に解説することにします（先に断わっておきますが結構ややこしいです）。 当該特許は、US10452978B2、発明の名称は"Attention-based sequence transduction neural ...