신경망 학습

모든 뷰가 정확하게 라벨링되었으며 학습 이미지와 테스트 이미지로 나뉜 후에, 신경망 학습은 다음 방법으로 실행됩니다:

1. 도구 매개변수를 설정한 후 학습을 시작합니다. 두뇌 아이콘을 눌러 도구를 트레이닝하십시오. 아키텍처가 Focused일 때, 학습에 이용되는 이미지 Set(학습 Set 대화 상자에서 정의됨)의 각 이미지는 지정된 feature 크기를 이용해 전체 범위에서 샘플링됩니다.
2. 그 결과의 샘플이 VisionPro Deep Learning의 딥 신경망에 입력됩니다.
3. 각 샘플마다, 신경망은 특정 응답(도구 유형에 따라 다름)을 생성하며, 이 응답은 학습 이미지 내 샘플의 위치에 연결된 이미지 라벨과 비교됩니다.
4. 샘플이 프로세싱되고 다시 프로세싱되면서 네트워크 내의 최초 가중치는 반복적으로 조정됩니다. 네트워크 트레이닝 시스템은 지속적으로 네트워크 가중치를 조정하는데, 목표는 네트워크의 응답과 사용자가 제공한 라벨 간의 오류(차이 또는 격차)를 줄이는 것입니다.
5. 전체 프로세스는, 모든 트레이닝 이미지의 모든 샘플이 Epoch 횟수에 지정된 횟수 이상 포함될 때까지, 여러 번 반복됩니다.

 

 

1. 샘플링 영역.

2. 사용자가 작성한, 라벨이 지정된 결함 영역.

3. 신경망.

4. 네트워크의 응답.

5. 라벨링 된 결함 (노란색)과 네트워크 응답 (파란색) 간의 불일치, 즉 오류를 줄이기 위해 가중치를 조정하는 반복 프로세스입니다.

 

신경망 학습의 구체적인 특징은 트레이닝 중인 도구 유형에 따라 다릅니다. Green 분류 도구 네트워크 트레이닝의 목표는 라벨이 지정된 클래스와 검출된 클래스 간의 불일치를 줄이는 것입니다. Green 분류 도구는 Deep Learning 도구 중에서도 독특하게 전체 input 이미지에 대해 단일 결과를 만들어냅니다. 이 도구는 다른 도구와 같은 방식으로 이미지 샘플을 수집하지만, 프로세싱 중에 샘플이 통합되며 전체 이미지에 대해 단일의 결과가 나옵니다.

 

• 샘플링 영역과 샘플링 매개변수

  Green 분류 도구 Focused 모드가 사용자가 정의한 샘플링 영역을 가지고 픽셀을 샘플링하는 반면, Green 분류 도구 High Detail 모드과 Green 분류 도구 High Detail Quick 모드은 이미지 전체에서 샘플을 추출하기 때문에 특정한 샘플링 영역도 없고 트레이닝 시 샘플링 매개변수가 필요하지 않습니다.

• 검증(Validation)을 활용한 트레이닝

  Green 분류 도구 High Detail 모드과 Green 분류 도구 High Detail Quick 모드은 거의 같은 아키텍쳐에서 태어났기 때문에 트레이닝(그리고 프로세싱 역시 마찬가지로)에서 수행하는 대부분 과정이 서로 같습니다. 하지만, Green 분류 도구 High Detail 모드은 validation 데이터를 사용해 트레이닝된 각 신경망을 검증하고 이 검증 결과를 사용해 주어진 트레이닝 데이터에서 가장 안정적이면서 성능이 좋은 신경망을 선택하는 반면, Green 분류 도구 High Detail Quick 모드은 이러한 검증 과정이 없습니다. Green 분류 도구 High Detail Quick 모드은 트레이닝 시 신경망 검증(validate)을 수행하지 않는데, 이는 이 도구가 High Detail보다 더 빠르게 트레이닝하도록 만들어졌기 때문입니다.

 

도구 매개변수 설정

Deep Learning 도구를 추가하고 나면, 학습에 앞서 도구 매개변수에 액세스해 도구의 성능을 조정하고, 런타임 작업 중에 도구가 이미지를 어떻게 프로세싱할지 조정할 수 있습니다. VisionPro Deep Learning 도구 매개변수들은 신경망 모델이 트레이닝되는 과정과 도구가 통계값을 계산하는 과정을 제어합니다. 도구 매개변수들은 신경망 모델이 학습되는 과정과 도구가 통계값을 계산하는 과정을 제어합니다.

Green 분류 도구의 아키텍처 매개변수가 'High Detail Quick'으로 설정되면, High Detail과 마찬가지로 전체 이미지를 동등하게 고려하도록 구성됩니다. 이 옵션은 트레이닝과 프로세싱이 더 오래 걸려도 더 정밀한 결과를 얻고 싶을 때 유용합니다.

하지만 Green 분류 도구 High Detail 모드과는 달리, 많은 도구 매개변수를 직접 조정할 필요가 없는데, 이는 Green 분류 도구 High Detail Quick 모드만의 최신 트레이닝 알고리즘 덕택에 매우 적은 매개변수만을 필요로하기 때문입니다. Green 분류 도구의 High Detail Quick 모드 도구 매개변수는 총 2종류입니다. 각 매개변수에 관한 더 자세한 정보를 확인할 수 있습니다.

 

아키텍처 매개변수

아키텍처 매개변수는 사용할 신경망 모델 종류를 결정합니다. 이 옵션은 학습과 프로세싱이 더 오래 걸려도 더 정밀한 결과를 얻고 싶을 때 유용합니다. High Detail과 High Detail Quick 아키텍처는 도구가 이미지 전체를 동일하게 고려하는 반면, Focused 모드는 이미지에서 유용한 정보가 있는 일부분에만 집중합니다. 그러므로, Focused 모드는 네트워크가 정보를 놓칠 수 있으며, 특히 이미지 전체에서 중요한 세부 사항이 있을 경우 그 가능성이 큽니다.

 

트레이닝 매개변수

트레이닝 도구 매개변수는 트레이닝 과정을 제어합니다. 도구를 트레이닝한 후 트레이닝 도구 매개변수를 변경한다면, 해당 트레이닝이 무효화되고 해당 도구를 다시 트레이닝해야 합니다.

매개변수	설명
Epoch 횟수	Train 이미지를 모두 이용하여 학습하는 횟수입니다. 값을 늘릴 수록 반복 횟수가 증가합니다. 1 부터 100000까지의 값을 입력할 수 있습니다. Tip: High Detail Quick 모드에서의 Epoch 횟수의 개념은 Focused 모드의 Epoch 횟수와 다릅니다. 이 때문에 같은 데이터베이스를 사용할 때, High Detail Quick 모드에서는 Focused 모드보다 더 큰 Epoch 횟수를 사용하는 것이 좋습니다.
트레이닝 셋	딥러닝 모델을 생성하기 위해 바탕이 되는 데이터 셋으로, 학습 중에는 Train Set에 포함된 이미지의 특징만을 추출하여 모델이 생성됩니다. 클릭 시 등장하는 트레이닝 Set 대화 상자에서 설정할 수 있습니다.

 

트레이닝 매개변수 상세 정보: Epoch 횟수

Epoch 횟수 매개변수를 이용하면 네트워크 개선을 얼마나 할지 제어할 수 있습니다. 신경망 학습 항목에 설명된대로 학습 프로세스는 네트워크를 통해 입력 샘플을 반복적으로 처리하고 네트워크 결과를 사용자 제공 레이블과 비교 한 다음이 오류를 줄이기 위해 네트워크 가중치를 조정합니다. 네트워크 노드의 수와 이에 따른 가중치의 수가 많으므로, 이 과정은 거의 무한하게 반복되며, 각 반복 단계마다 점진적으로 오류가 개선됩니다. Epoch 횟수 매개변수 설정을 늘리면, 수행하는 트레이닝의 반복 회수가 늘어납니다. 이렇게 하면 이미지 트레이닝 시간이 늘어나는 대신 트레이닝의 네트워크 오류가 줄어듭니다.

하지만, 트레이닝에 사용되는 이미지만이 아니라 모든 이미지에 대해 정확하게 수행하는 것이 네트워크 트레이닝의 목적입니다. Epoch 횟수가 늘어나면, 네트워크는 오버피팅(VisionPro Deep Learning 용어)이 발생할 수 있는데, 이는 학습된 이미지의 오류가 줄어들면서 동시에 학습되지 않은 이미지의 오류가 늘어나는 현상입니다. 이러한 이유로, Epoch 횟수를 조정하면서 모든 이미지에 대한 네트워크 성능을 주의 깊게 지켜봐야 합니다. 데이터셋마다 최적 값이 다르고, 특히 데이터셋의 통계적 다양성에 따라 최적값이 다르기 때문에, 사용하는 데이터셋에 맞는 최적 Epoch를 선택해야 합니다.

 

마지막으로 사용한 매개변수 복원: 매개변수 복원

매개변수 복원 버튼은 도구 파라미터 값을 마지막 트레이닝 작업에서 선택했던 값으로 쉽게 되돌릴 수 있도록 설계되었습니다. 마지막 트레이닝 시 사용된 도구 파라미터의 값을 기억합니다. 값을 변경하고 이 변경 사항을 되돌리려면 버튼을 클릭하여 마지막 트레이닝 시 사용된 도구 파라미터 값으로 돌아갈 수 있습니다. 다만, 도구를 트레이닝 한 적이 없거나 도구 파라미터 값의 초기 세팅에서 변경 사항이 없으면 비활성화 상태로 유지됩니다.

다음은 매개변수 복원의 작동 방식을 설명합니다:

1. 현재 도구가 트레이닝 되지 않은 경우에는 매개변수 복원 버튼은 비활성화 상태로 유지됩니다.

2. 현재의 도구가 학습이 이루어지고, 파라미터의 값을 변경하면 버튼이 활성화됩니다. 파라미터 원복의 체크 포인트가 마지막 트레이닝 시의 파라미터 값으로 설정됩니다.

3. 매개변수 복원 버튼을 클릭하면 변경된 파라미터는 체크 포인트 값으로 되돌아 갑니다.

4. 파라미터를 일부 변경하여 현재 도구를 다시 트레이닝 하면, 파리미터 원복의 체크 포인트가 변경된 트레이닝 값으로 업데이트됩니다. 다시 말하면, 도구 매개 변수의 값을 다시 변경하지 않으면 버튼이 비활성화됩니다.

5. 다른 변경을 한 후 매개변수 복원 버튼을 다시 클릭하면 변경된 값이 업데이트 된 체크 포인트 값으로 되돌아 갑니다.

프로세싱 파라미터의 값을 변경한 후 트레이닝한 도구를 다시 프로세싱(만)하면 파라미터 원복의 체크 포인트가 업데이트되지 않으므로 매개 변수 복원이 활성화됩니다. 체크 포인트는 트레이닝이 완료된 후에만 업데이트됩니다.

비 활성화

활성화

 

신경망 트레이닝 제어

Green 분류 도구 High Detail Quick 모드 학습은 도구 매개변수와 학습 세트를 설정함으로 조정할 수 있습니다.

 

트레이닝 셋

네트워크 학습 단계에 가장 큰 영향을 미치는 요소는 학습 Set 구성입니다. 네트워크 학습 단계를 제어하는 최선의 방법은 해당 도구에 대한 적절한 학습 Set를 구축하는 것입니다. 이렇게 함으로써, 해당 도구가 이미지/뷰를 적절히 일반화하는지 여부를 판단할 수 있도록 이미지/뷰를 범주로 분류할 수 있습니다.