ChatGPT로 GPT-4 이용하다 보면 종종 할당량 한계까지 달하는 것 때문에 Streamlit과 OpenAI Assistants API를 이용해서 GPT-4 대화창을 만들어 테스트를 해 보았더니, 토큰 소모가 어마어마 하군요.
(대충 할당량 한계에 도달하면, 지금까지 내용을 JSON으로 내려 받아서, Thread 생성 후 초기값으로 넣어주고서 대화를 이어나간다는 식으로...)

어차피 개인 용도로 쓰는 거여서 랭체인이나 파인콘 대신에 그냥 Assistants 썼는데, GPT-4 Turbo 물려주니까, 이 녀석이 생성은 거의 하지도 않으면서 Context에 어마어마하게 할당하나 봅니다.(...)

GPT 대화 기록을 입력하지 않은 상황에서도 저 정도면, 흠...