検証セット比

検証セットは学習に関与しているのに対して、テストセットはまったく関与していない点で、検証セットはテストセットと異なります。テストセットは、学習終了後に一般的なデータセットで最高のパフォーマンスを示すモデルを選択するためにのみ使用されます。

• たとえば、検証セットなしでエポック数の設定を上げると、学習セットに対してオーバーフィッティングモデルになる場合があります。検証セットなしでエポック数の設定を上げて学習を開始すると、学習が終わるまでオーバーフィッティングが生じているかどうかを知ることができません。この場合、最終的に、オーバーフィッティングモデルが最終モデルとして生成されます。

• ただし、検証セットがある場合、学習量が一定に達すると、検証セットのパフォーマンスが学習セットのパフォーマンスより過度に低下した場合にオーバーフィッティングが生じていると判断できます。そして、学習全体が終了した後、オーバーフィッティングが生じる前に生成されたモデルが最終モデルとして選択されます。

• このように、検証セットは学習に直接使用されるのではなく、学習中に目に見えないデータのパフォーマンスをチェックすることでモデルのキャリブレーションに関与しています。