数式 - jprintec @ ウィキ

さぽーと・べくたー・ましん サポート・ベクター・マシン support vector machine サポート・ベクター・マシン(SVM)は,判別関数を求める教師付き学習法のひとつである． 今, N個の属性を持ったデータがM個与えられており,これを, N次元空間R^Nの点a₁,a₂, . . . , a_M R^Nと考える.各点a_j (j = 1, 2, . . . , M)は2種類のクラスのいづれか一方に属しており, 対応する2値のラベルy_j　 {-1, +1}が与えられているとする.このとき,ラベルの値にした がって点を判別する2クラスの判別問題を考える. SVMでは線形関数を用いた判別を行う.　N次元の法線ベクトルwおよび実数bで定まる線 形関数をf (x) =　x^T w - bとすれば,与えられたデータおよびラベルにしたがって, f (a_j ) = a^T_j　w - b >　0 　if　　y_j　= 1, <　0 　if　　y_j　= -1, j　= 1, 2, . . . , M (1) となるベクトルwとスカラbを次に示す最適化問題を解くことで算出する. 一般的には,与えられた点全てに対して式(1)を満たすw, bが存在するとは限らないので,非 負の変数 _j　 (j = 1, 2, . . . , M)を導入し,次の制約条件 a^T_j w - b + _j = 1 　 if　 y_j = 1, a_jw - b - _j = -1 　if　 y_j = -1 (2) のもと, _jの和とwのノルムができるだけ小さくなる線形関数を考える.すなわち,次の二次