「セルフアテンション」の検索結果: 3件
同一の文の中で、各単語が他のすべての単語との関連度を計算するアテンションの一種。
複数のアテンションを並列に走らせ、多様な観点から単語間の関係を捉える仕組み。
入力の中で「どこに注目すべきか」を動的に重み付けする仕組み。Transformerの心臓部。