[AWS] Amazon Lookout for Vision 사용해보기 (AWS Workshop)

 

💡 Amazon Lookout for Vision이란?

---

• 산업 환경에서 고객이 생산 단위 및 장비의 외관 결함을 쉽고 비용 효율적으로 감지할 수 있도록 지원하는 AWS의 기계 학습 (ML) 서비스
• 생산 프로세스의 결함을 실시간으로 줄일 수 있으며, 대시보드에서 시각적 이상을 식별하고 보고하므로 더 많은 결함이 발생하지 않도록 신속하게 조치를 취하여 생산 품질을 높이고 비용을 절감할 수 있다고 한다
• 잘 모르는 분야이지만, 일단 워크샵을 보고 따라해봤다

 

📌 Reference

---

• 진행하는 워크샵 - https://lookout-for-vision.workshop.aws/
• https://docs.aws.amazon.com/lookout-for-vision/latest/developer-guide/what-is.html
• https://aws.amazon.com/ko/blogs/korea/amazon-lookout-for-vision-new-machine-learning-service-that-simplifies-defect-detection-for-manufacturing/

 

 

0️⃣ 전반적인 프로세스

---

https://lookout-for-vision.workshop.aws/lab1.html

Lookout for Vision에서 프로젝트를 생성하면 보이는 화면

 

처음엔 위 사진들을 봐도 잘 몰랐지만, 생각보다 간단했다

데이터셋을 넣어주면(라벨링 포함), 훈련하고 검증하는 과정을 거친 뒤 모델을 실행시켜서 실제 데이터들로 확인까지 할 수 있다

 

일단 해보자!

 

 

1️⃣ 사전 준비 (IAM, S3, 데이터셋)

---

1-1) IAM User

대부분의 과정은 콘솔에서 실행할 수 있다

그러나 모델을 시작하고 사용하는 과정은 CLI로만 가능하기 때문에 미리 CLI용 IAM User를 만들어주자

그리고 조금 이따가 훈련할 데이터셋을 받아 S3로 옮길건데, 그것도 CLI로 해버리게 S3용 정책까지 넣어주겠다

(AWSCLIv2가 안깔려있다면 깔고 시작)

 

AWS Console > IAM > 사용자 > 사용자 추가

 

 

이름 대충 정해주고 프로그래밍 방식 액세스를 클릭

정책은 AmazonLookoutVisionFullAccess와 AmazonS3FullAccess 를 추가해주자 (기존 정책 직접 연결)

 

 

ACCESS KEY와 SECRET ACCESS KEY가 나오면 cmd에서 aws configure를 먹여주자

C:\>aws configure
AWS Access Key ID : [본인 액세스 키 ID]
AWS Secret Access Key : [본인 비밀 액세스 키]
Default region name : ap-northeast-2
Default output format : [↵ Enter]

 

빨간색으로 표시한 부분만 입력해주면 된다 (마지막엔 그냥 엔터 치란 뜻)

참고로 리전은 다른 리전 넣어도 되는데, 현재 Lookout for Vision이 지원하는 리전은 아래 7개밖에 없으니 참고하자

• 버지니아 북부 (us-east-1), 오하이오(us-east-2), 오레곤(us-west-2)
• 서울(ap-northeast-2), 도쿄(ap-northeast-1), 프랑크푸르트(eu-central-1), 아일랜드(eu-west-1)

 

 

1-2) S3 버킷 생성

훈련시키고 테스트할 데이터들을 Lookout for Vision으로 쉽게 넣기 위해 S3 버킷에다가 저장해두겠다

(참고로 S3 버킷 아니어도 PC에서 직접 데이터를 업로드하거나 Ground Truth 매니페스트 파일을 갖고 올 수도 있다)

 

S3 버킷을 cli로 만드는 명령은 아래와 같다

본인이 하고싶은 이름 정해서 만들어주자

aws s3 mb s3://[만들 버킷 이름]

 

AWS S3 Console에서도 버킷이 생성된걸 확인할 수 있다

 

 

 

1-3) 데이터셋 준비

AWS에서 실습용으로 준비해둔 데이터셋을 다운받아 사용하겠다

(git이 깔려있어야 한다)

 

git clone https://github.com/aws-samples/amazon-lookout-for-vision

cd amazon-lookout-for-vision

aws s3 cp circuitboard/train s3://[만든 버킷 이름]/train --recursive --quiet
aws s3 cp circuitboard/test s3://[만든 버킷 이름]/test --recursive --quiet

 

 

콘솔에서도 test와 train 데이터셋이 잘 들어온걸 확인할 수 있다

 

여기서 잠깐 데이터셋에 대한 설명을 하고 넘어가겠다

 

 

amazon-lookout-for-vision\circuitboard\로 들어오면 extra_images, test, train 폴더가 있다

test와 train 폴더엔 오른쪽 사진과 같이 anomaly(이상), normal(정상) 폴더가 있으며, 해당 폴더들엔 아래와 같이 각 폴더에 맞는 데이터들이 있다

 

 

train, test 데이터들은 말 그대로 학습을 시킬, 모델의 성능을 평가할 데이터들이다

anomaly(이상)과 normal(정상)라는 정답을 알려주며 훈련을 시키기 때문에 지도학습(Surpervised Learning)이다

 

 

extra_images 폴더엔 정상 데이터와 이상 데이터들이 같이 있으며, 모델 훈련이 끝난 후 성능을 검증하기 위해 추가로 넣어볼 데이터들이다

 

2️⃣ Lookout for Vision 사용

---

2-1) 프로젝트 생성 후 데이터셋 입력

 

 

AWS Console > Amazon Lookout fot Vision > 시작하기

 

프로젝트 파일을 저장할 S3 버킷을 생성해줘야 한다

생성한다고 눌러준 후 프로젝트 생성을 누르자

 

 

이름 대충 정해준 후 프로젝트를 생성해주자

 

 

프로젝트를 바로 확인할 수 있다 -> 바로 데이터 생성을 눌러주자

 

 

데이터 세트 구성을 훈련 데이터 세트 및 테스트 데이터 세트 생성 으로 선택

 

 

훈련/테스트 데이터를 각각 만든 S3 버킷의 train, test 폴더에서 가져오게 한 다음 폴더 이름에 따라 이미지에 레이블 자동 연결을 체크해 자동으로 레이블링할 수 있도록 해준다

 

 

데이터셋 설정이 끝나자 훈련 데이터 40개와 테스트 데이터 40개를 확인할 수 있다

 

 

2-2) 모델 훈련, 평가, 재학습

 

 

바로 모델 훈련을 눌러주자 -> 굳이 머 설정할 것 없이 바로 훈련 시작시키자

 

 

세상에 공짜는 없다,,,훈련 시작부터 비용이 발생한다고 한다

모델이 훈련을 마칠 때 까지 꽤 기다려줘야 한다...딴거 좀 하다 오자

 

 

훈련이 끝났다! 모델을 클릭해보자

 

 

들어가자마자 성능 지표가 눈에 띈다 (매번 다를 수 있다)

성능 지표엔 3가지가 있다

• 정밀도 (Precision)
  • 이상으로 예측된 데이터(참 긍정 + 거짓 긍정) 중 실제 이상 데이터(참 긍정)의 비율
  • Precision value = true positives / (true positives + false positives)
  • 여기선 19/(19+7) = 0.7307
• 재현율 (Recall)
  
  • 실제 이상 데이터(참 긍정 + 거짓 부정) 중 이상으로 예측된 데이터(참 긍정)의 비율
  • Recall value = true positives / (true positives + false negatives)
  • 여기선 19/(19+1) = 0.95
• F1 점수 (F1 score)
  • 정밀도 및 재현율의 가중 평균 -> 정밀도와 재현율이 높을수록 F1 점수도 올라간다
  • F1 score = 2 * (정밀도*재현율) / (정밀도+재현율)
  • 여기선 2 * {(0.73*1.95)/(0.73+0.95)} = 0.8255

 

모델 성능이 별로 좋지 않다고 판단되면, 훈련 데이터 세트나 테스트 데이터 세트에 데이터를 보강해서 재훈련을 할수도 있다

 

난 굳이 데이터를 더 넣진 않고, 맨 오른쪽 상단의 시험 탐지를 바로 실행해보도록 하겠다

 

..trial1로 넣을라 했는데 잘못 넣었다..

 

태스크 이름을 대충 설정하고 이미지를 컴퓨터에서 업로드하는 옵션을 클릭한 후 이상 탐지 > 시험 탐지 실행 을 누르자

 

extra_images 폴더에서 원하는 데이터를 원하는만큼 집어넣자

나는 그냥 이상데이터 1~5, 정상데이터 1~5를 넣어보았다 -> 얘도 다 탐지하려면 좀 걸리니 기다려보자

 

 

시험 탐지가 끝났다! 정상 5개, 이상 5개를 예측했다곤 하지만 벌써 틀린게 몇 개 보인다

얘네들은 내가 직접 다시 알려주자 -> 기계 예측 확인 클릭

 

 

정상인데 이상, 이상인데 정상으로 예측된 데이터들은 부정확읗 눌러주고 잘 예측된 애들은 정확을 눌러주자

데이터들을 모두 확인해줬으면, 훈련 데이터 세트에 확인됨 추가를 눌러주자

 

이렇게 확인됨 으로 추가된 데이터들은 이 모델의 훈련 데이터 세트에 추가된다

 

업데이트된 훈련 데이터 세트가 생겼으니, 모델 훈련을 다시 해줘보겠다 (선택사항)

프로젝트의 데이터 세트 탭으로 들어오니, 훈련 데이터가 50개가 되어있다(40+10) -> 모델 훈련을 눌러주자

 

 

마찬가지로 또 한참 기다린 후, 완료되면 들어가보자

 

 

처음 훈련보다 정밀도가 높아진걸 확인할 수 있다

 

이제 시험 탐지는 끝내고, 모델을 한 번 사용해보도록 하겠다

 

 

2-3) 모델 사용

 

 

마지막으로 훈련시킨 모델에 들어가서, 성능 지표 옆의 모델 사용 탭을 눌러보자

 

 

awscli를 통해 모델을 시작하고, 데이터의 이상을 탐지하고, 중지하는 코드가 나와있다

먼저 모델을 시작해보겠다

cd C:\amazon-lookout-for-vision\circuitboard\extra_images

aws lookoutvision start-model ^
  --project-name lvf-honglab ^
  --model-version 2 ^
  --min-inference-units 1

extra_images 폴더 내의 데이터를 이따가 사용할거라 해당 폴더로 이동하고 시작시켰고, 윈도우에서 실행하느라 \를 ^로 바꿔줬다

아래와 같은 JSON 형식이 출력되면 호스팅이 시작된것이다

{
    "Status": "STARTING_HOSTING"
}

 

 

콘솔에서도 확인해보니 "호스팅 시작 중" 상태이다 -> "호스팅 됨" 상태가 될 때까지 몇 분 기다려주자

 

 

모델이 정상적으로 호스팅되었다면, extra의 이상 이미지와 정상 이미지를 하나씩 넣어보겠다

 

aws lookoutvision detect-anomalies ^
  --project-name lvf-honglab ^
  --model-version 2 ^
  --content-type image/jpeg ^
  --body extra_images-anomaly_10.jpg

aws lookoutvision detect-anomalies ^
  --project-name lvf-honglab ^
  --model-version 2 ^
  --content-type image/jpeg ^
  --body extra_images-normal_10.jpg

 

 

IsAnomalous가 이상 데이터는 true이고, 정상 데이터는 false인게 확인되었다 : 이상 탐지 성공!

 

 

3️⃣ 실습 마무리

---

3-1) 모델 중지

aws lookoutvision stop-model ^
  --project-name lvf-honglab ^
  --model-version 2

 

3-2) 모델 삭제

 

3-3) 프로젝트 삭제

 

3-4) S3 버킷 삭제

버킷 두개 다 비어있음 > 삭제

 

IAM 유저도 지우고싶음 지우자

 

 

 

---

 

머신러닝 훈련을 내가 직접 코드를 짜지 않고 데이터만 넣으면 알아서 해준다는게 비전문가들에겐 딱인거같다

성능이 그렇게 좋은지는,,,,잘 모르겠다 근데 나야 뭐 이쪽으로 아는것도 없으니,,,

그래도 데이터 80~90개밖에 안넣었는데 저정도면 좋은거 아닌가 싶기도 하다

 

끝!