Intel: 에이전트 확장은 토큰이 아니라 밀도의 문제입니다

인텔은 오픈 소스 프로파일링 도구인 terminal-bench의 확장 버전을 사용하여 수천 개의 에이전틱 AI 워크로드 실험을 분석하여 엔터프라이즈 성공은 에이전트를 단순한 추론 문제로 간주하는 대신 시스템 문제로 취급하는 것에 달려 있음을 확인했다. 이 연구는 단순한 에이전트 수를 대체하여 용량 계획의 주요 지표로 에이전트 밀도(VCPU당 에이전트)를 설정하고 평균 CPU 사용률 대신 작업 지연 시간을 모니터링하는 것을 강조한다. 이러한 발견은 엔터프라이즈가 기본 LLM을 평가하는 것을 넘어 엄격한 관찰 가능성과 메모리 관리를 구현하여 에이전트를 안정적으로 확장할 수 있음을 시사한다. 비용과 성능을 관리하기 위해 운영자는 확장 아키텍처를 기본으로 사용하고 확장-업은 특정 컴퓨팅 집약적 제약에 대해 예약해야 한다.