AI 개발 공장보다 먼저 필요했던 역할

처음 세운 가설은 비개발자가 정해진 기술 안에서 업무 도구를 안전하게 만드는 AI 개발 공장이었다. 생성 단계와 위험 등급, 자동 검수를 한 흐름으로 묶어 확산과 통제를 함께 다루려 했다. 문제를 ‘누가 어떻게 만들게 할 것인가’로 정의한 셈이다.

현장 인터뷰는 이 출발점을 흔들었다. 관계 부서들은 이미 자연어 기반 도구로 필요한 것을 만들고 있었다. 어려움은 그 뒤에 시작됐다. 데이터의 위치를 알기 어렵고, 안전성과 정확성을 검증할 곳이 없으며, 공용 데이터나 외부 연동처럼 혼자 풀 수 없는 문제가 쌓여 있었다.

문제를 다시 정의하기

중앙에서 또 하나의 생성 도구를 제공하면 현장의 선택지만 늘어날 가능성이 컸다. 운영 중인 도구는 흩어진 채 남고, 개인 계정과 저장소의 데이터도 돌아오지 않는다. 검증과 연동 병목 역시 생성 기능만으로는 풀리지 않는다.

핵심 문제를 생성 능력의 부족이 아니라 생성 이후의 책임 공백으로 다시 잡았다. 누가 위험을 판정하고, 반복되는 기능을 공통화하며, 운영 중인 도구의 목소리를 모을 것인가. 플랫폼 하나를 배포하는 것으로 끝낼 일이 아니었다.

선택지를 나눈 기준

기준은 현장이 스스로 할 수 있는 일과 조직 차원의 권한이 필요한 일을 가르는 것이었다. 제작은 이미 현장에서 일어났다. 반면 데이터의 위치를 회사 통제 아래 두고 접근 권한과 공용 연동을 정리하는 일은 개별 제작자에게 맡기기 어려웠다.

되돌리기 비용도 달랐다. 생성 방식은 필요에 따라 바꿀 수 있지만, 민감한 데이터가 흩어지거나 검증 없는 도구가 널리 쓰인 뒤에는 수습 비용이 커진다. 사용량을 늘리는 것보다 위험도에 맞는 검증과 실제 업무 성과를 확인하는 편이 우선이었다.

내린 결정과 실행

방향은 멀리서 구조를 설계해 건네는 모델에서 현장 서비스에 직접 가담하는 모델로 바뀌었다. 요구를 모으고 실제 서비스에 자문과 해결안을 제시하며, 필요하면 개발에도 참여하는 역할이다. 생성을 막거나 대신하지 않고 조직이 감당할 수 있는 형태로 연결하려는 선택이었다.

가담의 깊이는 위험도에 따라 달리 보기로 했다. 데이터 위치와 접근 권한, 키 노출, 외부 API와 LLM 연동을 확인하고, 결제나 정산처럼 위험이 큰 기능에는 별도 승인을 둔다. 민감한 결과가 업무에 반영되기 전에는 사람의 검수를 남긴다. 인터뷰에서 확인된 요구는 검증, 공통 기반, 흩어진 도구의 통합이라는 방향으로 정리됐다.

결과와 남은 문제

확인된 변화는 문제 정의와 역할의 전환이다. ‘공장이 필요한가’라는 가설은 현장 사실과 맞지 않았고, 검증과 공통화에 직접 참여한다는 방향이 문서화됐다. 다만 실행 체계로 자리 잡았거나 성과를 냈다고 말할 근거는 아직 없다.

전담 책임과 투자 규모는 합의 전이며, 성과를 무엇으로 볼지도 열린 문제다. 배포량이나 사용량만으로는 검증의 품질과 업무의 변화를 설명하기 어렵다. 현장 가담이 특정 사람의 지원 업무로 소진되지 않도록 운영 책임과 우선순위를 정하는 일도 남아 있다.

다음에 적용할 원칙

플랫폼을 구상하기 전에 현장이 이미 우회해서 해결한 부분부터 확인한다. 중앙 조직은 현장이 못 만드는 기능보다 혼자 책임질 수 없는 위험과 공통 문제를 맡아야 한다. 생성 속도보다 데이터의 소유, 검증 주체, 운영 인계가 먼저다.

가설을 바꾸려면 가까이에서 실제 도구를 함께 봐야 한다. 배포를 역할의 끝으로 삼지 않는다. 위험도에 맞춰 개입하고, 반복되는 문제를 공통 토대로 옮기며, 결정 뒤의 운영 책임까지 다루는 것이 이 방향의 기준이다.