하네스 엔지니어링 (Harness Engineering) - 그 뒤에 숨겨진 엔지니어링적 고민
·
AI
요즘 하네스 엔지니어링이 유행을 타고 있습니다.이건 어떤 개념이며, 왜 유행하게 되었을까요? 🤖 AI Agent의 문제점일단 AI Agent가 쓰는 AI 모델부터 생각해봅시다.AI 모델의 결과물은 매번 다르게 생성됩니다. 다음에 올 가장 적절한 단어를 확률적으로 예측하는 엔진이죠. 그래서 우리는 이 제어하기 힘든 AI를 길들이기 위해 '에이전트'라는 프레임워크를 씌우지만, 그 바탕이 확률적이라는 사실은 변하지 않습니다.결국 100% 결정적인 결과를 보장하기란 구조적으로 매우 어렵습니다. 그래서 Agent는 답변마다 스타일이 다르거나, 같은 실수를 반복한다거나 하는 문제가 발생합니다.더 나아가 AI Agent에게 Tool을 쥐어주었을 때는 이 비결정성이 더 위험하게 다가옵니다.사례를 보면 엉뚱한 파일 ..