AI 도입 프로젝트가 끝난 뒤 가장 자주 생기는 질문은 “그래서 이걸 이제 누가 관리하지?”입니다. 초기에는 대표나 AI를 잘 쓰는 직원이 관리하지만 시간이 지나면 프롬프트가 여러 버전으로 흩어지고, 구독 계정이 늘고, 자동화가 누가 만든 것인지 모르게 됩니다.
작은 회사에 전담 AI팀이 꼭 필요한 것은 아닙니다. 대신 누가 어떤 책임을 갖는지 최소 운영 구조는 필요합니다.
AI 운영에서 실제로 관리해야 하는 것
- 승인된 AI 도구 목록
- 계정과 권한
- 결제/사용량
- 데이터 사용 기준
- 공용 프롬프트/워크플로
- 자동화 오류
- 모델/서비스 변경
- 직원 교육
- 성과지표
이것은 IT 관리와 업무혁신이 섞인 역할입니다.
최소 3역할 구조
Business Owner
어떤 업무를 바꿀지 결정하는 사람입니다. 보통 대표, COO, 부서장입니다.
책임:
- 우선순위
- 목표 KPI
- 업무 범위
- 최종 승인
AI Ops Owner
실제 운영 담당자입니다. 전담직원이 아니어도 됩니다.
책임:
- 도구/계정 관리
- 워크플로 버전
- 사용 문의
- 월간 비용
- 장애/변경 관리
Domain Reviewer
각 업무의 품질을 판단하는 실무 담당자입니다.
예를 들어 제안서 자동화라면 영업기획자가 결과 품질을 책임집니다. AI Ops가 모든 업무 내용을 알 필요는 없습니다.
10인 이하 회사라면 겸임해도 된다
대표가 Business Owner, PM이 AI Ops, 각 팀 리더가 Reviewer를 겸하는 식이면 충분합니다.
중요한 것은 직책보다 책임이 비어 있지 않는 것입니다.
월간 운영회의에서 볼 것
30분이면 됩니다.
- 어떤 워크플로가 많이 사용됐는가
- 실패/오류가 많았던 것은
- 비용이 예상보다 증가한 도구는
- 보안/데이터 애매 사례는
- 새로 표준화할 업무는
- 폐기할 워크플로는
프롬프트도 자산처럼 관리
공용 프롬프트에 최소 메타데이터를 붙입니다.
- Owner
- Version
- Updated at
- 대상 업무
- 승인 여부
- 사용 도구
- 입력 금지 데이터
“누가 만들었는지 모르는 프롬프트”는 시간이 지나면 아무도 수정하지 못합니다.
자동화에는 Owner와 Failover를 둔다
자동화가 실패했을 때 누가 알림을 받고 어떻게 수동 처리할지 정합니다.
예:
고객 문의 자동 분류 실패 → 운영 담당 Slack 알림 → 해당 메일은 미분류함으로 이동 → 담당자가 수동 분류
이런 fallback이 있어야 자동화 장애가 업무 중단으로 이어지지 않습니다.
비용 관리
AI SaaS가 늘어나면 직원별 중복 구독이 생깁니다.
분기마다 다음을 정리하세요.
- 서비스명
- 사용자 수
- 월 비용
- 실제 사용 부서
- 핵심 용도
- 유지/통합/해지
언제 외부 운영 파트너가 필요한가
- 내부에 기술 판단 가능한 사람이 없음
- 자동화/API가 여러 시스템에 연결됨
- 보안 기준을 정기 검토해야 함
- 신규 AI 도구 평가가 잦음
- 장애 대응이 필요하지만 전담 개발자를 두기 어려움
이 경우 전담직원을 바로 채용하기보다 월 단위 자문/운영 파트너 구조도 가능합니다.
정리
AI 도입의 지속성은 모델 성능보다 운영 책임에서 결정됩니다.
완주 관점의 핵심: 작은 회사에는 거대한 AI 조직이 아니라 Owner, Reviewer, 운영 주기가 필요합니다.
운영 담당자가 매주 해야 할 일
AI Ops를 거창한 직무로 만들 필요는 없습니다. 주 1~2시간 정기 루틴으로 시작할 수 있습니다.
매주 30분
- 실패한 자동화 확인
- 사용자 문의 확인
- 중요한 프롬프트 변경 기록
매월 60분
- 비용/사용량 확인
- 사용률 낮은 도구 정리
- 신규 자동화 후보 선정
- 보안 예외 사례 검토
분기 1회
- 전체 AI SaaS 목록 정리
- 퇴사자/권한 점검
- 데이터 정책 업데이트
- ROI 리뷰
AI 도구가 많아질수록 ‘표준 스택’을 정한다
직원마다 다른 도구를 쓰면 파일과 지식이 흩어집니다. 회사가 반드시 하나만 써야 하는 것은 아니지만 용도별 기본값을 정하면 좋습니다.
예:
- 범용 생성형 AI: A
- 코드 보조: B
- 회의록: C
- 자동화: D
- 지식 저장: Notion/Drive
새 도구를 도입할 때는 기존 도구로 해결할 수 없는 문제인지 먼저 봅니다.
변경관리(Change Management)가 필요하다
AI 서비스는 모델과 기능이 자주 바뀝니다. 어제 잘 되던 프롬프트가 오늘 결과가 달라질 수 있습니다. 핵심 워크플로라면 변경 후 샘플 5~10건으로 다시 검증하는 절차가 필요합니다.
특히 자동화가 고객에게 직접 결과를 보내는 구조라면 모델 변경을 무심코 적용해서는 안 됩니다.
회사가 커지면 역할을 분리한다
초기에는 한 사람이 겸임하지만 규모가 커지면 다음으로 나뉠 수 있습니다.
- AI Product/Transformation Lead
- Automation Engineer
- Security/Privacy Reviewer
- Department AI Champion
하지만 처음부터 이 조직을 만들 필요는 없습니다. 업무 1~3개가 정착된 뒤 자연스럽게 확장하는 편이 좋습니다.
운영 문서 4개만 유지해도 큰 차이가 난다
- 승인 AI 도구 목록
- AI 데이터 사용 정책
- 공용 워크플로/프롬프트 목록
- 월간 비용·성과표
이 네 문서가 최신이면 작은 회사에서도 AI 운영 상태를 대부분 파악할 수 있습니다.