사회복지사 업무 자동화 도구 만들기 2편

사무실에 아무도 안 쓰는 컴퓨터가 한 대 있으면, 거기에 무료 AI를 올려 기관 업무에 쓸 수 있을까요.

1편에서 계획만 세워 두고 미뤄 둔 질문입니다. 설계를 더 그리기 전에 먼저 재 보기로 했고, 이번에 실제로 올려서 쟀습니다.

이 글에 세 가지를 적습니다. 실제로 몇 초 걸렸는지, 어디가 막혔는지, 그리고 그 결과로 계획의 무엇을 뒤집었는지입니다.

---

0단계에서 잰 것은 두 가지뿐입니다

0단계에서 기능을 만들지 않았습니다. 두 가지만 확인했습니다.

1. 유휴 PC가 문서 초안 한 장을 몇 초에 쓰는가
2. 기관 저장장치와 그 PC 사이에 말이 오가는가

이 둘이 안 되면 나머지 계획은 의미가 없어서, 설계를 더 그리기 전에 먼저 쟀습니다.

쓴 장비와 모델은 이렇습니다.

무엇	무엇을 썼나
AI 모델	무료로 공개된 소형 모델(40억 규모). 생각을 길게 늘어놓는 기능은 껐습니다
모델을 돌리는 곳	사무실 유휴 PC — 2코어 CPU, 메모리 16GB, 그래픽 연산장치 없음
자료와 봇 본체	기관 저장장치(NAS). 24시간 켜져 있습니다
값	0원. 둘 다 원래 있던 장비이고 모델은 무료입니다

500자 초안에 52초, 그래서 설계를 뒤집었습니다

처음 잰 값은 500자짜리 초안 한 장에 52초였습니다. 그중 18초는 모델을 메모리에 올리는 시간이었고, 글자를 써 내는 속도는 1초에 6토큰 남짓이었습니다.

기관 저장장치에서 유휴 PC로 물어보고 답을 받아 오는 왕복은 첫 호출이 19.6초, 그다음부터는 오가는 시간이 있으나 마나 한 수준이었습니다. 사무실 안 네트워크라 통신이 병목이 아니었습니다.

모델을 올리는 15초는 통째로 없앨 수 있었습니다. 한 번 올린 모델을 2시간 동안 메모리에 붙들어 두게 했더니, 다음 건은 0.6초만에 시작됐습니다.

이 숫자 때문에 1편에서 쓴 설계 한 줄을 뒤집었습니다. 1편에는 이렇게 적었습니다.

즉시 답을 받는 방식이 아니라 맡겨 두고 나중에 확인하는 방식으로 써야 합니다.

재 보니 장부 조회나 실적 입력 같은 짧은 일은 1분 안에 끝났습니다. 맡겨 두고 나중에 받을 이유가 없어서, 그 자리에서 바로 답하게 바꿨습니다.

문서 초안만 예외로 뒀습니다. 실제 결과보고서 한 건을 시켜 보니 총 142.7초가 걸렸습니다. 뜯어 보면 이렇습니다.

무엇을 하는 시간	걸린 시간
참고할 과거 문서를 읽는 시간(590토큰)	48.4초
초안을 써 내는 시간(412토큰)	76.8초
모델을 메모리에 올리는 시간	17.2초
합계	142.7초 · 결과 733자

2분 넘게 화면을 붙들고 기다리게 할 수는 없습니다. 그래서 문서 초안만 「맡았습니다」를 먼저 답하고, 다 되면 채널에 올려 주는 방식으로 남겼습니다.

막힌 곳은 모델이 아니라 그 옆이었습니다

정작 시간을 잡아먹은 것은 AI가 아니었습니다.

첫째, 저장장치의 관리 화면에 있는 「터미널」 탭이 껍데기였습니다. 명령을 적어 넣어도 실행되지 않았습니다. 그래서 명령을 파일로 만들어 저장장치에 올려 두고, 그 파일을 실행하게 하는 방식으로 바꿨습니다. 이걸 알아내는 데 든 시간이 모델을 올리는 시간보다 길었습니다.

둘째, 유휴 PC는 사람이 가서 켜야 합니다. 전원 버튼을 누르고, 윈도우 로그인까지 해야 모델이 살아납니다. 자동 로그인을 걸면 사람이 안 가도 되지만, 그건 하지 않기로 했습니다. 사무실 공용 PC에 잠금을 풀어 두는 셈이라서요. 대신 그 PC에는 기관 자료를 아예 두지 않았습니다. 계산만 하고 자료는 저장장치에만 있습니다.

셋째, 아끼려던 방법 하나가 쓸모없었습니다. 같은 질문을 다시 물으면 이전 답을 재사용해 시간을 아끼려 했는데, 이 방식은 질문이 글자 하나까지 똑같을 때만 작동했습니다. 실제 업무에서 그런 일은 없어서 계획에서 뺐습니다.

지금은 이렇게 굴러갑니다

직원은 별도 프로그램을 켜지 않습니다. 기관에서 쓰는 채팅 채널에 평소 말로 한 줄 적으면 됩니다.

여기서 제일 신경 쓴 줄은 미리보기의 「비워 둘 항목」 입니다. 없다고 말한 칸을 아예 자리째 빼는 장치입니다. 자리가 없으면 모델이 채워 넣을 곳도 없습니다.

초안 아래에는 참고한 과거 문서 이름과 걸린 시간을 같이 붙였습니다. 어디서 가져온 문장인지 사람이 확인할 수 있어야 해서입니다. 맨 아래에는 「그대로 쓰지 마시고 사실 관계를 확인한 뒤 쓰세요」가 항상 붙습니다.

모델이 꺼져 있을 때는 이렇게 답합니다.

여기서 중요한 것은 한 대가 죽어도 전부 멈추지는 않는다는 점입니다. 유휴 PC가 꺼져 있어도 장부 입력과 조회는 그대로 됩니다. 사업명과 날짜, 인원과 금액을 뽑는 일은 AI가 아니라 코드가 하기 때문입니다. AI는 애매한 경우에만 부릅니다.

자동 점검은 통과했는데 실제로는 틀렸습니다

솔직하게 적겠습니다. 지금 이 글을 쓰는 시점에 문서 초안 기능은 아직 손보는 중입니다.

코드를 다 짜고 자동 점검을 돌렸을 때는 전부 통과였습니다. 그런데 실제로 채팅 채널에서 시켜 보니 두 군데가 틀렸습니다.

• 근거로 쓸 문서를 고를 때, 결과보고서를 써야 하는데 계획서 문장이 섞여 들어왔습니다
• 두 사람이 동시에 시켰을 때 나가는 거절 문구가 어색했습니다

자동 점검은 제가 정해 둔 조건만 확인합니다. 실제로 시켜 보는 것과 같지 않습니다. 이번에 얻은 교훈은 이겁니다. 점검이 통과했다는 말은 「고쳤다」가 아니라 「아직 안 틀린 것만 확인했다」입니다. 실기 한 번을 반드시 해야 합니다.

이럴 땐 안 만드는 게 낫습니다

여기까지 읽고 해 볼 만하다고 느끼셨다면, 안 되는 조건부터 보셔야 합니다.

즉답을 기대하는 업무라면 맞지 않습니다. 문서 초안은 2분 넘게 걸립니다. 상용 AI 서비스의 속도에 익숙한 직원에게는 답답할 수 있습니다.

사람이 켜야 하는 부분이 남습니다. 자동으로 살아나게 하려면 보안을 하나 풀어야 하고, 저는 그걸 안 하는 쪽을 골랐습니다.

작은 모델에 판단을 맡기면 안 됩니다. 장부 처리의 큰 갈래 여섯 개를 모델에게 고르게 해 봤더니 그것조차 틀렸습니다. 그래서 갈래는 코드가 고르고, 모델은 문장을 쓰는 일만 합니다. 이 구분을 안 하면 틀린 숫자가 장부에 들어갑니다.

들어가는 시간은 0원이 아닙니다. 장비값과 이용료가 0원이라는 뜻이지, 담당자 시간은 그대로 듭니다. 과거 문서를 정리해 두는 일이 특히 그렇습니다.

든 시간과 돈

돈은 0원 그대로입니다. 장비는 원래 있던 것이고, 모델은 무료이며, 연간 이용료가 없습니다. 전기료만 듭니다.

시간은 이렇습니다. 0단계 측정은 하루에 끝났습니다. 그 뒤 장부 입력과 조회, 문서 초안까지 돌아가게 만드는 데 이틀이 더 들었습니다. 다만 이 숫자는 제가 코드를 직접 짜지 않기 때문에 나온 것입니다. 저는 무엇을 만들지 정하고, 어디서 사람이 승인할지 정하고, 나온 결과가 맞는지 확인했습니다.

가장 많이 쓴 시간은 코드가 아니라 문구를 다듬는 일이었습니다. 되묻는 말, 미리보기, 거절 문구를 몇 번씩 고쳤습니다. 직원이 실제로 마주하는 것은 그 문장들이라서요.

전체 흐름

다음 단계

지금은 문서 초안의 두 군데를 고치고 실기로 다시 확인하는 중입니다. 그게 끝나면 팀별 채널을 나누고, 자기 팀 자료만 보이게 권한을 거는 일이 남았습니다.

그다음이 시범 운영입니다. 1편의 설문에서 손을 든 6명이 실제로 써 보는 단계입니다. 다음 편에서는 그 결과를 적겠습니다. 안 쓰이면 안 쓰였다고 그대로 쓰겠습니다.

자주 묻는 질문

무료 소형 모델로 문서가 써지나요?

문장은 나옵니다. 다만 그대로 쓸 수 있는 완성본이 아니라 손볼 초안입니다. 저는 이 정도면 쓸 만하다고 봤는데, 이유는 이 모델이 백지에서 쓰는 게 아니라 과거에 쓴 같은 사업 문서를 참고해 쓰기 때문입니다. 참고할 문서가 없는 새 사업이면 품질이 확 떨어집니다.

왜 저장장치에서 모델을 같이 돌리지 않나요?

기관 저장장치의 계산 능력이 모델을 돌리기에는 약합니다. 반대로 유휴 PC는 계산은 되지만 늘 켜져 있다고 보장할 수 없습니다. 그래서 24시간 켜져 있어야 하는 것(봇 본체와 자료)은 저장장치에, 계산만 유휴 PC에 뒀습니다.

우리 사무실 컴퓨터로도 되나요?

메모리 16GB에 저장장치가 SSD면 일단 돌아갑니다. 제가 쓴 PC는 CPU가 2코어라 그중 느린 축인데도 위에 적은 속도가 나왔습니다. 다만 두 사람이 동시에 시키면 뒷사람은 앞사람이 끝날 때까지 기다려야 합니다. 그것까지 감당할 수 있는지가 실제 기준입니다.