거대 모델에 집어넣고 쓰는거 아닙니다

일단 200b~400b 모델이 필요하고 70b 모델 쓸거면 안쓰는게 좋고요 왜 구독형 모델을 안쓰냐?

구독형 모델은 다른방의 설정분활이랑 이런걸 기억을 못합니다

에이전트 설정도 할수가 없고

그래서 방 하나에 다 넣고 돌려야 하는 구독형 모델은 바로 한계가 옵니다

이후 반말/임 습 체로 진행하겠습니다

보면 작가들이 참신한 소재는 많이들고 오는데

이야기가 산으로 가니 당황하다가 연중 때리기 반벅하는게 보임

이런일을 방지하려면

일단 로컬에서 만들어야 하고

검수 에이전트 rag설정 다 붙여야함

뼈대는 작가가 만들고

캐릭터도 작가가 ai와 협업해서 만들어서 따로따로 저장해서 세계관으로 분류하고 캐릭터 시트도 분류 해줘야함

그래야 뼈대를 만들고 스토리 라인 을 모델에게 줬을때

이번화는 여기부터해서 마무리는 이런걸로 해줘 했을때 캐릭터 설정에 따라 스토리라인을 따라서 움직입니다

에이전트의 검수화 수정을 마친 이야기가 뽑혀 나오면

작가는 자신의 스타일이 맞는지 다시 검수해야 하고

수정을 해야함

그후 최종본을 다른폴더에 저장하고 내용은 축약해서 ai한테 스로리 진행상태 로 줘야함

그런식으로 다룰 자신없으면 일단 ai소설은 산으로 감

하드웨어가 최소 500GB VRAM 통합칩 이 달린 맥스튜디오 2대가 병렬연결 되어 있어야함

어중간하게 AI한데 물어보면 70B 모델도 가능하다고 하는데 말그대로 가능만 한거고 문맥이 필력은 개발새발임

그러니 내가 만든 세계관을 끝까지 끌고갈 근성이 있거나

아니면 세계관을 미리 끝까지 다 만들어 놓고

스로리 라인도 전부 뽑아 놓고

대충이라도 사건개요들에 대한 정리를 끝낸 후에

글을 진행하는게 좋음

굉장히 오래걸리고 고통스러움

그런데 그렇게 안하면 AI모델이 뻑 나는순간주터 지금까지 쌓아온 스토리가 내의도완 다르게 살살 다른길로 빠져서 산으로 감

사용자나 작가가 눈치챘을땐 이미 산은 몇개를 넘었을때임