SVM（サポートベクターマシン）は、機械学習で広く用いられるアルゴリズムのひとつで、予測・検出・識別タスクに効果的とされています。この記事では、SVMの仕組みや活用例について解説します。
SVM（サポートベクターマシン）とは
SVM（サポートベクターマシン）は、機械学習モデルのうち「教師あり学習」の「分類」タスクで用いられる代表的なアルゴリズムです。比較的少量の教師データでも高い汎化性能を発揮しやすい点が特徴です。
ディープラーニングが世に浸透する前から注目を集めていた技術で、近年ではPythonライブラリ（例：scikit-learn）を用いた実装を通じて多様なシーンで利用されています。
機械学習とSVMの関係性
SVMは「教師あり学習」に内包された「分類」に該当し、説明変数から目的変数を「クラス」で推定する役割を担っています。
例えば、体調不良時の症状において「高熱」や「嘔吐」から病気の有無について推定したり、「長さ」「重さ」「色」から野菜の種類を推定するといったことが可能です。なお、2つの候補から何らかの項目を推定する前者の方法を「2値分類」、多種多様な候補から何らかの項目を推定する後者の方法を「多値分類」と呼びます。
このようにSVMは、入力された特徴量からクラスを推定するうえで重要な手法であることがわかります。
関連記事：AIと機械学習にできることとは？違いや併用による効果を解説
マージン最大化との関係性
SVMにおいては「マージン最大化」という考え方が注目を集めています。マージンとは、決定境界と最も近いデータ点（サポートベクトル）との距離です。マージン最大化は、この距離が最大となるように決定境界を定める考え方です。
仮にマージンが小さい場合、データが微少に動くだけで境界を越えることになります。その結果、分類結果に変動が生じやすく、誤判定リスクが上がる可能性があります。
この課題を踏まえSVMではマージンが最大化する位置に境界線を設け、それぞれのクラスから離れるデータのなかでも正しい分類を目指すことで、ディープラーニングで使用されるニューラルネットワークよりも少量のデータで高い汎化性能を実現しやすくなります。
カーネル法の重要性
SVM知識としてもうひとつ押さえておきたい要素としてカーネル法があります。カーネル法は、非線形データを高次元空間へ写像して線形分離可能にする手法で、線形SVMを拡張して非線形分類を実現します。これまでは平面でしか表せなかったデータを立体的にすることで、タスクの実行精度の向上につながります。
SVMの構造
SVMは、与えられたデータから最適な決定境界（超平面）を見つけ、分類器を構築します。ここからは、分類器を構築する仕組みについて解説します。
SVM分類器の構築が行われる
SVMは、与えられたデータから最適な境界線を見つけ、分類器を構築していきます。構築にあたってはいくつかのステップに分かれており、なかでもマージン最大化とサポートベクトルは構築の核と考えられています。
- 超平面
- サポートベクトル
- マージン
- カーネル・トリック
ここからはそれぞれの詳細について解説します。
超平面
超平面は、2次元では直線、3次元では平面に相当する「高次元空間の分離面」を指します。例えば4次元にも3次元に存在する平坦な空間は作れるものの、その空間を「平面」と呼ぶには齟齬が生じます。そういった場合に超平面と呼ぶことがあります。
サポートベクトル
SVMは与えられたデータを分類する際、データを最も効率よく分けるため超平面を特定します。超平面を引くときはすべてのデータを見るわけではなく、その代わりに超平面に最も近い位置にある、ごく少数のデータ点に焦点を充てます。この点がサポートベクトルです。
マージン
マージンは、サポートベクトルと超平面の間にあるギャップです。SVMではこのマージンを最大化する超平面を特定し、可能な限り安定した分離を作成することにあります。
カーネル・トリック
カーネル・トリックは、データをより高次元の空間にマッピングすることで、元の空間では線形分離が難しかった非線形データを、高次元空間にて線形分離できます。
そのほか教師あり学習分類器との相違点
SVMと他の教師あり学習分類器（例：ナイーブベイズ、ロジスティック回帰）との相違も押さえておきましょう。テキスト分類ではナイーブベイズや線形SVMがよく用いられます。非線形性が強い場合は、カーネルSVMが有利になることがあります。
またロジスティック回帰と比較しても、画像やテキストなど高次元・非構造化データでは高精度が期待できます。ただし、計算コストが高くなる可能性があるため、使用シーンを熟考してから導入検討を進めることをおすすめします。
SVM分類器に存在する種類
SVM分類器は、データの性質や課題の種類に応じるため、いくつかのタイプに分かれています。具体的には下記の通りです。
線形SVM
線形SVMは、データが直線（高次元では超平面）で分離できる場合に用いられるタイプです。計算がシンプルに行えるため、高速作動に期待できます。例えば体重と身長からサイズを2値（または多クラス）に分類するなど、シンプルな線形分離に適しています。
サポートベクトル回帰
サポートベクトル回帰（SVR）は、分類だけでなく回帰問題にもSVMを応用する方法で、連続的な値を予測する際に用いられます。例えば過去の売上データから来月の売上予測を行うなど、連続値の予測タスクに利用できます。
非線形SVM
非線形SVMは、カーネル法を使い複雑な非線形データも分類できるタイプです。現実世界にある問題は非線形であることが多いため、利用頻度が高いという特徴があります。例えば手書きの数字を認識する場合、数字の形は人の筆圧などによって異なることから、複雑かつ非線形な境界線が必要です。
こうしたときに非線形SVMを使用することで、筆圧やクセによって判別しにくい数字も適切に認識できるようになります。
SVMのメリット
SVMがさまざまなシーンで利用されている背景には、下記のようなメリットがあるからです。具体的にどのようなメリットが存在するのか見ていきましょう。
汎化性能に優れている
SVMはマージンを最大化できるという独自の特徴があり、その結果、未知のデータに対しても高い精度を保つことができます。医療分野における疾患分類など、ごく限られたデータで高い精度を求められるシーンでは優れた効果に期待できます。
過学習リスクが低い
モデルの複雑性が限られているからこそ、過学習リスクが低い点もメリットです。ノイズが比較的少ないデータセットでは安定的なパフォーマンスに期待できます。
非線形データへの順応性に優れている
カーネルによって線形的に分離可能な状態に変えられるため、構造が複雑化したデータも柔軟に対応可能です。一例としては画像認識や音声分類で活用されています。
分類・回帰の双方に順応する
SVMは分類分析に加えて回帰分析にも使用できる順応性も持ち合わせています。こうした特徴によって2値分類や多値分類に加えて連続値の予測問題にも対応できます。
多様なカーネル選択が可能
SVMでは線形・RBF・多項式など複数のカーネル関数が存在し、いずれも使用状況に応じて選択できます。必要なカーネルとはなにかについて熟考し、適切に選択することで性能向上に期待できます。
SVMのデメリット
SVMの使用においては下記のデメリットを理解し、適切な対策を講じることが大切です。
計算コストが高額
サンプル数が多い、あるいは次元が高いといった場合、計算負荷が急増するため、学習時間が延びたり、メモリ不足に至る場合があります。こうしたリスクを防ぐためには、次元削減手法など、ほかの手法と併用することをおすすめします。
性能はカーネル選択に依存する
SVMの性能は選択するカーネル関数に大きく依存します。状況に適さないカーネルを選ぶと、学習精度の低下を招く恐れがあります。また、カーネル法を適用するにはデータ特性の理解が必要で、初心者には難しく感じられることがあります。
ハイパラメータ調整が不可欠
SVMにはCやγ（RBFの場合）、カーネル種別などのハイパーパラメータ調整が欠かせません。値を適切に設定しておくことで、モデル性能の向上につながります。例えばGridSearchCVやランダムサーチで最適化するのが一般的ですが、試行回数が増えると計算コストも増加します。
次元の呪い現象への懸念
データが高次元になるにつれて、次元の呪い現象によってモデルの性能が悪化する恐れもあります。こうした問題を解決するためには、PCA（主成分分析）やICA（独立成分分析）をはじめとした次元削減手法を使用することをおすすめします。
学習結果における解釈の複雑性
決定木などと比べてSVMは学習結果がブラックボックス化しやすい傾向にあります。そのため、学習結果における解釈が難しい点もデメリットです。ビジネスシーンで使用する際は抽出データの説明可能性が重視されるため、詳細を問われた際は正確に伝えられないリスクがあります。
SVMモデルを構築する一般的な流れ
ここからは、実際にSVMモデルを構築する一般的な流れについて解説します。
データの前処理を済ませる
まずはデータの前処理を行います。欠損値処理・外れ値対処・正規化（標準化）などを済ませたら次のステップに移りましょう。
カーネルを選択する
用意したデータの性質を踏まえ、ここでは最適なカーネルを選択します。迷ったらまず線形カーネルを試し、非線形性が強ければRBFカーネルを検討するとよいでしょう。
学習
次に、用意したデータでSVMを学習させます。
例：scikit-learnのSVC（分類）やSVR（回帰）を用いると簡便に実装できます。
評価・調整
学習後はテストデータで精度（例：正解率、F1、MSEなど）を評価し、必要に応じてハイパーパラメータ（C、γ、カーネル等）を調整しましょう。
SVMモデルの活用例
SVMは分類能力の高さから、さまざまな分野で活用されています。
さまざまな予測
SVMモデルの特徴を活かし、さまざまな業界での予測立てに使用されています。例えば特定の気象データから作物の収穫量を予測する例です。このほか、あらかじめ土地の傾斜や降水量データなどを学習させれば、土砂崩れのリスクが高い地域を予測することも可能です。
異常検知
製造業では生産ラインの異常検知にSVMが使用されています。また金融分野ではクレジットカードの不正取引検出にも用いられています。通常の教師あり学習に加え、One-Class SVMなどの半教師あり手法を併用することで正常なデータだけを学習し、さまざまな異常検知に役立てられます。
数値認識
SVMは手書きの数字認識にも利用できる特徴があります。こうした技術によって不特定多数の顧客から寄せられたアンケートの集計や、郵便局での郵便番号の自動認識に活用されています。
顔検出
画像の特徴量（ピクセルや抽出特徴）を学習させることで、顔の有無や性別、個人の識別が可能です。実際、入退室管理や犯人の特定などで使用されています。
テキストのパターン化
個人用や業務用のメールボックスに届くさまざまなメールのなかから、スパムメールを検出する技術にもSVMが使用されています。近年増加傾向にあるスパムメールに記載されていることの多い単語やフレーズを学習させることで分類可能です。
まとめ
SVMはマージン最大化とカーネル法の併用により、線形・非線形を問わず多様なデータの分類に対応できるアルゴリズムです。初心者にとってはやや難しい項目ではありますが、仕組みについて理解を深めることで今後のAI技術に新たな価値を付加できるかもしれません。
Peaceful Morningでは、DX推進を加速させるプロ人材を紹介するサービス「DX Boost」を提供しています。グループ600万名を超える人材データベースから、SVMに精通したプロ人材を即日ご提案できるため、スピード感を持ってDXを推進できます。
コメントを残す