Probably, 소형 모델에 베팅해 LLM 환각 문제를 해결하기 위해 $9M 조달
probably는 andreessen horowitz로부터 $9m을 조달해 결정론적 검증기를 사용해 LLM 오류를 잡아내는 시스템을 구축하고 있으며, 이를 통해 비싼 데이터 센터 대신 로컬 하드웨어에서 실행할 수 있게 됩니다.
스타트업은 안드레센 호로위츠가 주도하는 시드 펀딩에서 9백만 달러를 조달하여 지속적인 대규모 언어 모델(LLM) 환각 문제를 새로운 '하네스' 엔지니어링 접근 방식으로 해결할 계획이다. 더 똑똑한 모델에 의존하는 대신, 이 회사는 데이터 세트에 대해 답변을 확인하는 결정론적 검증기를 사용하여 출력이 확인될 때까지 오류를 모델로 다시 반송하여 99.99%의 정확도를 달성한다. 이 아키텍처를 사용하면 시스템이 프론티어 모델보다 훨씬 작은 모델에서 실행될 수 있어 값비싼 데이터 센터 GPU 대신 로컬 데스크톱 하드웨어에서 작동할 수 있으며 토큰 비용을 절감할 수 있다. 이 회사는 데이터 과학 도구로 처음 출시하지만 엔진을 회계 및 의료 서비스로 확장할 계획이다.