活性化関数

活性化関数は、ニューラルネットワークの各ニューロンで、入力の合計をどんな出力に変換するかを決める関数です。最大の役割は「非線形性」を持ち込むことです。これがないと、層をいくら重ねても単純な直線的変換にしかならず、複雑なパターンを学べません。代表的なものに ReLU、シグモイド、tanh などがあります。

💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。