쉽게 이해하기
AI 옵저버빌리티는 AI 시스템의 입력, 출력, 추론 과정과 인프라 상태를 통합적으로 가시화하는 접근법이다. New Relic 소개 자료에 따르면 에이전트, LLM, 마이크로서비스를 분리된 뷰가 아니라 하나의 상관 맵으로 묶어 보여준다. 모델과 에이전트의 상호작용을 실시간으로 모니터링하고 정확도와 비용을 동시에 관리한다. 에이전트의 추론 과정을 코드 실행까지 추적해 의도한 동작과 어긋나는 지점을 찾고 할루시네이션을 찾아낸다. 클라우드 네이티브와 K8s 환경의 인프라 건강 상태를 애플리케이션과 연결해 시스템 전체 맥락에서 문제를 파악한다. 로그 데이터를 저장소에 그대로 조회해 비용을 줄이며 취약점을 통합 관리한다. 이를 통해 변동성이 큰 AI 행동을 예측 가능하게 만들고 비즈니스 리스크를 낮춘다. --- 참고 자료: - [New Relic](https://newrelic.com) - [Google News](https://news.google.com) - [CNN: Breaking News, Latest News and Videos](https://www.cnn.com) - [New York Post – Breaking News, Top Headlines ... - NYC](https://nypost.com) - [The New York Times Company](https://www.nytco.com)