教師あり学習は、入力データ(特徴量)とそれに対する出力データ(正解となるラベルや数値)のペアからなる「教師データ」をコンピュータに学習させ、新しい入力に対する出力を予測・分類するモデルを構築する手法です。このプロセスは、大きく分けて「分類(Classification)」と「回帰(Regression)」の2つに分類されます。分類は、メールがスパムかどうか、画像が猫か犬かといった「離散的なカテゴリ」を予測する問題です。一方、回帰は、過去の売上データや天候から将来の売上金額を予測したり、住宅の広さや立地から価格を推定したりといった「連続する数値」を予測する問題です。代表的なアルゴリズムには、線形回帰、ロジスティック回帰、サポートベクターマシン(SVM)、決定木、ランダムフォレストなどがあります。
試験では、「問題と正解(ラベル)のセットを与える」という基本定義のほか、教師あり学習の代表的なアプローチである「分類」と「回帰」の概念の違いについて整理しておくことが求められます。例えば、「売上予測や株価予測は回帰」「画像に写っている動物の判定や迷惑メール判定は分類」といった具体的な事例と手法の紐付けがよく問われます。また、モデルが訓練データに過剰に適合してしまい、未知のデータに対して予測精度が落ちてしまう「過学習(オーバーフィッティング)」という現象とその対策についても頻出です。
分類(離散的なクラスを予測するタスク)、回帰(連続する数値を予測するタスク)、過学習(訓練データに適合しすぎて未知のデータに対応できなくなる現象)。