냉장고를 열고 고르는 추천 — 「식단서랍」 규칙과 언어 모델의 일 나누기
계란, 대파, 두부, 양파. 냉장고에 있는 걸 적으면 만들 수 있는 요리를 골라 주는 칸을 홈에 달았다. 언어 모델에게 레시피 전체를 넘기지 않고, 서버가 먼저 후보를 좁히고 모델은 그 안에서만 고르게 했다. 그러고 나니 원래 있던 규칙 기반 추천도 다시 손봐야 했다.
태그
#OpenAI
글 3 개
버튼 한 번이 얼마인지 몰랐다 — 언어 모델 기능의 예산·공급자·운영
AI 식단 버튼이 처음 제대로 돌던 날, 정작 대답하지 못한 질문은 "이 버튼 한 번에 얼마냐"였다. 수익이 없는 서비스에 사용자 수만큼 늘어나는 청구서를 묶고, 공급자를 재시작 없이 갈아 끼우고, 그 과정에서 null 하나로 기능 하나를 통째로 멈춘 이야기.
한 달 치를 맡겼더니 전부 '자동'이었다 — 「식단서랍」 AI 식단 자동 채우기
한 달 치 점심과 저녁 한 상을 언어 모델에게 맡겼다. 미리보기는 꽉 찼는데 메뉴마다 '자동' 표시가 붙어 있었다. 모델은 한 줄도 고르지 못했고, 화면을 채운 건 서버의 보충 규칙이었다.