Jetson에서 FP16 결과가 원본과 얼마나 다른지 작은 지표부터 비교한다.
import numpy as np
a = np.load('reference.npy')
b = np.load('fp16.npy')
if a.shape != b.shape:
raise ValueError("입력 결과 배열의 shape가 다릅니다")
print(np.max(np.abs(a - b)))같은 입력에서 얻은 reference.npy와 fp16.npy를 준비한다. 최대 절대 오차 외에 결과 형태와 업무 지표도 맞춰 검증한다.
Python 코드를 example.py로 저장해 python3 example.py로 실행한다. import하는 모듈과 예제에 지정한 입력 파일이 준비돼 있어야 한다.
참고: NumPy absolute
답글 달기