概要
[[attention]]機構を中核とする深層学習アーキテクチャ。現代のLLMの基盤となっている。
詳しい解説
Transformer(トランスフォーマー)は、2017年の論文「Attention Is All You Need」で提案されたのアーキテクチャです。(注意機構)、とりわけを中核とし、文中の離れた単語同士の関係を効率的に捉えられます。並列計算に適しているため大規模化しやすく、GPTやClaudeをはじめとするはほぼすべてTransformerを基盤としています。
💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。
具体例・活用シーン
名前の由来
「GPT」の T は Transformer の頭文字です。現代の生成AIの土台と言える存在です。
関連用語
参考リンク
この説明に誤りや改善点を見つけましたか?
✏️ この説明を改善提案する