TAO Toolkit으로 비디오 AI 모델 최적화하기
이 글은 NVIDIA DLI 강의를 수강하며 개인 학습 목적으로 정리한 글입니다. 강의 원문이나 실습 자료를 그대로 옮기기보다는, 학습한 개념을 재구성했습니다. 1. 이번 파트의 핵심 이전 파트에서 DeepStream이 실시간 비디오 AI 파이프라인을 만드는 도구라는 것을 배웠다면, 이번 파트는 그 파이프라인 안에 들어갈 AI 모델을 어떻게 ...
이 글은 NVIDIA DLI 강의를 수강하며 개인 학습 목적으로 정리한 글입니다. 강의 원문이나 실습 자료를 그대로 옮기기보다는, 학습한 개념을 재구성했습니다. 1. 이번 파트의 핵심 이전 파트에서 DeepStream이 실시간 비디오 AI 파이프라인을 만드는 도구라는 것을 배웠다면, 이번 파트는 그 파이프라인 안에 들어갈 AI 모델을 어떻게 ...
1장. Real-Time Video AI란? 1. 개념 Real-Time Video AI는 카메라나 비디오 스트림에서 실시간으로 의미 있는 정보를 뽑아내는 기술이다. 예를 들어 CCTV 영상에서 사람, 차량, 장비, 위험 상황 등을 감지하고 그 결과를 서버나 화면으로 전달하는 구조다. 카메라 / 영상 입력 ↓ 프레임 처리 ↓ AI 모델 추론 ↓...
Pre-trained Model과 Transfer Learning 이해하기 신경망 모델을 직접 처음부터 학습하려면 생각보다 많은 요소를 고려해야 한다. 학습률을 정해야 하고, 몇 개의 layer를 쌓을지 결정해야 하며, 각 layer에 몇 개의 neuron을 둘지도 정해야 한다. 또 어떤 activation function을 사용할지, 얼마나 많...
딥러닝 모델의 성능이 좋지 않을 때 우리는 보통 모델 구조부터 의심한다. 층을 더 쌓아야 하나? 뉴런 수를 늘려야 하나? CNN 구조를 바꿔야 하나? 하지만 항상 모델이 문제인 것은 아니다. 때로는 데이터 자체가 문제일 수 있다. 머신러닝에서 자주 사용되는 말 중 하나가 있다. Garbage in, garbage out. 좋지 않은 데...
이전 실습에서는 Dense Neural Network를 이용해 이미지 분류를 수행했다. Dense Neural Network는 모든 뉴런이 다음 층의 모든 뉴런과 연결되는 구조다. 28×28 픽셀 이미지를 입력으로 사용한다면, 이미지를 784개의 숫자로 펼친 뒤 모델에 넣는다. 28 × 28 = 784 이 방식으로도 어느 정도 성능은 나온다. ...
딥러닝을 처음 공부하면 뉴런, 가중치, 손실 함수, 경사하강법, 활성화 함수 같은 단어가 한꺼번에 나와서 어렵게 느껴진다. 하지만 전체 흐름은 생각보다 단순하다. 모델이 예측한다. 얼마나 틀렸는지 계산한다. 틀린 방향을 조금씩 고친다. 이 과정을 반복하면서 점점 정답에 가까워진다. 이번 글에서는 28×28 픽셀 이미지를 분류하는 신경망 예...
Moved my portfolio to Jekyll (Chirpy theme) and starting to write here. I plan to write about things I learn while working on vision AI, frontend development, and anything else I find interesting.
— YOLO / RT-DETR / Attention / QKV AI 객체 탐지를 공부하다 보면 이런 개념들이 계속 나온다: YOLO / RT-DETR Anchor / Anchor-free NMS / End-to-End Attention / Query Hungarian Matching Q / K / V 👉 이 글 목표: ...
PyTorch 코드 흐름 + ONNX → TensorRT 배포까지 이전 글에서 YOLO vs RT-DETR 구조를 정리했다면, 이번에는 실제로 “모델이 어떻게 돌아가는지 + 어떻게 배포하는지”까지 본다. 👉 목표: RT-DETR 코드 흐름 이해 ONNX 변환 TensorRT 배포 구조 이해 1. RT-DETR 전체 파이프라인 ...
— End-to-End, Anchor-free, Hungarian Matching까지 AI 객체 탐지를 공부하다 보면 꼭 나오는 개념들이 있다. YOLO DETR / RT-DETR Anchor / Anchor-free NMS End-to-End Hungarian Matching 처음 보면 전부 따로 노는 개념 같지만, 사...