길게 설명할 필요 없이 요즘 온디바이스(on-device) AI 가 핫하다. 사이즈가 큰 모델을 서버에서 돌려 네트워크로 받아오는 것이 아닌, 로컬 디바이스에서 추론을 돌려 네트워크 비용과 보안 이슈를 걱정하지 않고 AI 를 적용하겠다는 것이다. 이에 맞추어 모델을 최적화하고 경량화 하는 프레임워크들이 정말 우후죽순으로 나오고 있다. 대표적인 프레임워크를 살펴보면 다음과 같다. ONNX (Open Neural Network Exchange)설명: 일반적인 모델 최적화 프레임워크. 다른 프레임워크 간 모델 호환성을 제공하는 표준이 된다.특징: PyTorch, TensorFlow 등의 프레임워크에서 모델을 변환하여 다양한 하드웨어에서 실행 가능. (단 기기 별 최적화 효율은 떨어질 수 있음)최적화 프레임..