AI 에이전트,
어디까지
맡길 것인가

첫 에이전트 과제는 ‘사람을 얼마나 줄일까’가 아니라, 완료 조건과 정지 조건을 함께 설명할 수 있는 업무 하나를 고르는 데서 시작한다.

이 보고서에서 에이전트는 답변만 생성하는 도구를 넘어, 정해진 목표에 따라 자료를 찾고 도구를 사용하며 여러 단계를 수행하는 시스템을 뜻한다. 조직 AX는 그런 기술을 업무 절차와 책임 구조에 맞게 적용하는 변화로 사용한다. 모든 조직에 높은 자율성이 필요하다는 전제는 두지 않는다.

검토 대상은 ‘AI가 가능한 일’의 목록이 아니다. 입력 자료를 누가 제공하는지, 산출물에 무엇을 요구하는지, 오류가 외부로 나가기 전에 누가 멈출 수 있는지를 판단한다. 작성 보조에서 얻을 수 있는 가치가 충분하다면, 실행 권한까지 열어 주지 않아도 된다.

근거가 말하는 것과, 말하지 않는 것

공식 조사는 도입 여부와 실제 사용 방식이 다르다는 점을, 국제기구 연구는 기술에 대한 노출을 고용 소멸로 읽어서는 안 된다는 점을 보여 준다. 위험관리 프레임워크는 평가와 책임을 운영 전반에 연결하는 관점을 제공한다. 그러나 이 자료들만으로 한국 조직의 투자수익이나 특정 제품의 안전성을 확정할 수는 없다. [S1] [S2] [S3]

도입률, 사용 범위, 자율 실행 수준은 서로 다른 질문이다. 하나의 숫자로 조직의 성숙도를 설명하기 어렵다.

영국 DSIT 조사에서 AI 도입기업의 자연어 처리·텍스트 생성 사용은 85%, 에이전틱 AI 사용은 7%였다. 아래 두 값은 같은 도입기업 집단의 기술별 응답으로, 서로 배타적인 구성비가 아니다. [S1]

우리 조직에서는 질문을 나누자

‘AI를 쓰고 있습니까’라는 질문만으로는 실제 업무를 바꾸기 어렵다. 문서 초안을 개인이 만드는지, 팀이 승인된 자료로 반복 업무를 처리하는지, 시스템이 외부에 행동하는지를 나눠 보자. 같은 제품을 사용하더라도 문서 작성과 고객 발송은 실패의 영향이 다르다.

따라서 교육이나 시스템 도입을 결정할 때도 계정 수와 사용 횟수만 집계하지 않는 편이 좋다. 어떤 과업에서, 어떤 자료로, 어느 단계까지 사용했는지를 기록하면 필요한 교육과 통제가 드러난다. 이는 위 조사 수치를 한국에 대입한 결론이 아니라 KAAI의 운영 제안이다.

생성형 AI에 ‘노출된 직업’이라는 표현은, 해당 직업이 사라진다는 예측이 아니다.

ILO·NASK의 2025년 지수는 전 세계 고용의 약 25%, 고소득국 고용의 약 34%가 생성형 AI에 잠재적으로 노출된 직업에 속한다고 추정한다. 연구가 측정한 것은 기술과 과업 사이의 잠재적 관계다. 실제 채택, 비용, 기반시설, 사람의 역할에 따라 결과는 달라진다. [S2]

직무명보다 한 건의 일을 살핀다

예를 들어 ‘교육 운영 담당자’를 하나의 자동화 대상으로 잡으면 상담, 일정 조정, 수강생 정보 관리, 결과 보고가 섞인다. 반면 ‘공개 자료로 교육 동향 초안을 작성한다’고 범위를 좁히면 입력 자료와 확인 방법을 정할 수 있다. 개인정보가 포함된 문의에 답하거나 계약을 변경하는 일은 별도 판단으로 남는다. 이 예시는 실제 기관의 수행 사례가 아니다.

조직이 할 일은 사람이 할 업무를 단순히 빼는 것이 아니다. AI가 초안을 만들 때 검토자는 원문과 수치를 확인하고, 책임자는 외부 전달 여부를 결정한다. 초안 작성 시간이 줄더라도 검토 부담이 늘 수 있으므로 새로운 역할의 시간을 함께 살펴야 한다.

첫 과제는 화려한 시연보다 확인 가능한 완료 조건을 가져야 한다. 반복성은 유리한 조건이지만, 그것만으로 자동화에 적합하지는 않다.

OpenAI의 운영 제안은 업무의 목표와 도구, 권한, 제출 증거, 사람의 검토 지점을 명시하도록 권한다. 공급사 관점의 방법론이지 효과가 보장된 공식은 아니다. KAAI는 여기에 오류의 외부 영향과 복구 가능성을 붙여 업무 후보를 비교하도록 제안한다. [S5]

하나의 문장으로 업무를 정의한다

“승인된 공개 자료를 읽어 주간 동향 초안을 만들고, 각 주장에 원문 링크와 확인일을 붙여 검토자에게 전달한다. 출처가 없거나 날짜가 불확실한 내용은 발행하지 않는다.” 이 정도로 말할 수 있어야 입력·출력·중단 기준을 시험할 수 있다.

반대로 “리서치를 알아서 잘한다”는 목표는 결과를 비교하기 어렵다. 검색량이나 문서 길이가 늘어도 유효한 근거가 늘었는지 알 수 없기 때문이다. 업무 한 건에 필요한 최소 증거를 정하고, 나머지는 개선 후보로 남겨야 완료와 미완료를 구분할 수 있다.

검토자가 처음부터 다시 조사해야 한다면 초안의 속도는 조직의 속도가 되기 어렵다. 결과와 함께 확인 경로를 남겨야 한다.

공개 자료 리서치 업무의 납품 단위

첫째, 원문 목록에는 발행기관, 제목, 발행일과 확인일을 따로 적는다. 둘째, 주장 기록에는 ‘무슨 문장이 어느 원문의 어느 부분에서 나왔는지’를 남긴다. 셋째, 불확실한 항목은 본문에서 그럴듯하게 보충하지 않고 확인 대기 목록으로 분리한다. 이 세 가지는 KAAI가 제안하는 실무 양식이며 실제 자동화 성과를 검증한 사례는 아니다.

예를 들어 원문에 ‘잠재 노출’이라고 적혀 있는데 초안에 ‘일자리 대체’라고 쓰였다면, 문장 윤색의 문제가 아니라 의미가 바뀐 오류다. 검토자는 문법보다 분모, 시점, 조건, 주장 강도가 유지됐는지를 확인해야 한다. 원문 링크 하나를 달았다고 모든 문장이 검증되는 것은 아니다.

따라서 내부 메모에는 ‘사실’, ‘출처의 주장’, ‘편집자의 해석’, ‘예시’를 구분해 적는 것이 유용하다. 완성 문서는 자연스럽게 읽히되, 중요한 수치와 해석의 경계는 독자에게 보여야 한다. AI가 작성했다는 표시만으로 출처 확인 책임이 사라지지는 않는다.

자료를 읽을 수 있다는 이유만으로 수정·전송·삭제까지 할 수 있어야 하는 것은 아니다. 권한은 업무 목적에 필요한 행동 단위로 나눈다.

같은 보고서 업무에서도 공개 자료 검색, 내부 초안 저장, 메일 발송, 고객정보 조회는 위험이 다르다. 초안 완성이 곧 발행 승인이라는 식으로 단계를 묶으면, 검토를 통과하지 않은 내용이 외부로 전달될 수 있다. 모델에게 ‘주의하라’고 말하는 것 외에 실제 도구 권한과 실행 조건을 제한해야 한다.

승인은 내용과 대상을 함께 묶는다

“보내도 된다”는 과거 승인이 이후의 모든 발송을 허용하지 않도록 승인 범위를 적는다. 어떤 버전의 문서를 누구에게, 어느 채널로 보내는지 확인하고 실행 뒤 결과를 기록한다. 내용이나 수신 대상이 바뀌면 이전 승인이 그대로 적용되는지 다시 판단해야 한다.

권한 분리가 지원되지 않는 도구라면 우회 자동화로 권한을 넓히기보다, 실행 단계를 사람이 수행하는 편이 적절할 수 있다. 편의성을 얻기 위해 계정 비밀값을 문서나 대화에 복사하지 않는다. 비밀값 관리, 로그 보존, 접근 통제는 각각 별도 검토 대상으로 둔다.

정상 입력에서 한 번 성공한 시연으로 운영 준비가 끝나지 않는다. 찾지 못하고, 충돌하고, 중단되는 상황도 시험해야 한다.

NIST의 생성형 AI 프로파일은 실제 환경에서의 평가, 사람이 AI 결정을 수정·재정의한 사례의 기록, 허용 위험 수준에 비춘 산출물 검토를 권고한다. 다음 표는 그 관점을 업무 리서치에 적용한 KAAI의 예시이며 NIST가 정한 합격표가 아니다. [S4]

평균 점수에 중대 실패를 숨기지 않는다

잘 쓴 문서가 여러 건 있어도 허가 없이 한 건의 민감자료가 외부로 전달되면 같은 평균으로 상쇄할 수 없다. 문장 품질, 근거 정확성, 권한 준수, 복구 가능성을 분리해 보고, 중대 항목은 별도의 운영 보류 조건으로 둔다.

평가 자료는 데모에 사용했던 입력만 반복하지 않는다. 새로운 주제, 오래된 문서, 제목이 같은 다른 버전, 원문이 사라진 자료 등을 포함해 범위를 확인한다. 수정 후에는 처음 실패했던 사례뿐 아니라 정상 업무가 계속 동작하는지도 확인한다.

작성 시간이 줄어도 확인·재작업이 늘면 전체 업무가 빨라지지 않을 수 있다. 비용과 품질을 같은 업무 단위에서 비교해야 한다.

DSIT의 AI 사용 영국 기업 700곳 조사에서 ‘도입의 영향’ 문항(D1)은 75%가 생산성 개선을 선택했다. 증감 폭을 따로 물은 D5의 증가 응답은 56%, 매출 문항(D3)의 변화 없음은 77%였다. 서로 다른 자가보고 질문이며, 객관적 효과 측정이나 ‘생산성 75% 증가’를 뜻하지 않는다. [S1]

비교 가능한 두 묶음을 만든다

도입 전과 후의 업무 난도가 다르면 단순 평균은 판단을 왜곡할 수 있다. 비슷한 입력과 같은 완료 기준을 가진 작업을 비교하고, 담당자 숙련도와 자료 접근 조건이 달랐다면 기록한다. 통제된 실험이 아니라면 관찰 결과임을 밝혀야 한다.

시간 절감이 확인돼도 바로 인건비 절감으로 환산하지 않는다. 절약된 시간이 다른 가치 있는 업무에 사용됐는지, 처리량 증가나 응답 지연 감소로 이어졌는지를 별도로 본다. 개인이 편해진 효과도 의미가 있지만 조직의 매출 증가와 같은 주장은 아니다.

이번 주 공식 자료에서 확인한 두 쟁점은 ‘누가 결과를 신뢰하는가’와 ‘검증을 위해 어떤 기록을 남길 것인가’다.

브리핑 A. 신뢰성은 정확도 하나의 문제가 아니다

NIA는 미국 FTC 정책성명서안을 분석하며 AI 산출물의 신뢰를 이용 맥락, 고지와 책임의 문제로 함께 살핀다. 이는 해당 정책안에 대한 기관의 분석이며 확정 미국법이나 한국의 의무가 아니다. [S7]

KAAI 해석: ‘AI 활용’이라는 표시만 붙이기보다 누가 어떤 목적으로 확인했는지 설명할 필요가 있다. 참고용 요약인지, 의사결정에 사용할 자료인지에 따라 요구되는 확인 수준도 달라진다. 과장된 정확성 문구를 붙이기 전에 그 문구가 어떤 검증으로 뒷받침되는지 확인해야 한다.

브리핑 B. 로그가 많을수록 무조건 좋은 것은 아니다

Anthropic은 기업용 보호장치 설계에서 여러 세션에 걸친 악용 탐지와 고객의 데이터 통제를 함께 다룬다. 고객 보관영역·키·검토 권한에 관한 설명은 해당 공급사의 설계 및 예정 기능 설명으로 읽어야 한다. 국내 적법성이나 실제 통제 효과를 증명하지는 않는다. [S6]

두 쟁점을 연결하면, 신뢰를 위해 무조건 모든 원문을 저장하는 방식도 충분하지 않다. 필요한 증거를 남기되 접근과 보존을 설명할 수 있어야 한다. 확인할 수 없는 기능이나 계약 조건은 가능하다고 가정하지 말고 도입 결정의 미확인 항목으로 남긴다.

검토자의 이름만 정해 두는 것으로 통제가 완성되지는 않는다. 검토할 자료와 시간, 거절할 권한, 실패 뒤의 복구 경로가 필요하다.

검토자가 실제로 볼 수 있어야 한다

이미 수십 건이 외부로 발송된 뒤 확인 알림이 오는 구조는 사전 검토가 아니다. 승인 요청에는 결과물 버전, 전송 대상, 중요한 변경, 남은 불확실성을 포함한다. 검토자가 원문이나 이전 결과를 열 수 없다면 승인이라는 이름과 실제 확인 능력 사이에 차이가 생긴다.

승인자가 부재하거나 응답하지 않을 때 자동으로 승인한 것으로 처리하지 않는다. 작업을 보류하고 다른 담당자에게 넘길지, 정해진 시각에 실패로 기록할지 미리 정한다. 이런 규칙은 속도를 늦추기 위한 것이 아니라 완료·보류·실패가 섞이지 않게 하기 위한 것이다.

재시도는 처음 실행과 다르다

연결이 끊겼다고 같은 실행을 곧바로 반복하면 이미 완료된 발송이나 저장이 중복될 수 있다. 마지막 확인된 상태를 읽고, 중복 여부를 확인한 뒤 미완료 범위만 재개한다. 실패 보고에는 원인 확인 여부, 외부 영향, 복구 가능 범위와 다음 담당자를 기록한다. 이 내용은 KAAI의 운영 설계 권고다.

확대 여부는 사용 횟수보다 책임질 수 있는 범위를 기준으로 결정한다. 책임자는 아래 항목에 답하고, 미확인 항목을 별도로 남긴다.

NIST AI RMF 1.0은 GOVERN·MAP·MEASURE·MANAGE 네 기능으로 위험관리를 구성하고, GOVERN을 전반에 걸친 기능으로 둔다. 이는 자발적 프레임워크다. 아래는 그 관점을 참조해 KAAI가 만든 회의용 질문이지 공식 인증 체크리스트가 아니다. [S3]

이번 호의 최종 권고

첫 단계에서 넓은 자율성을 목표로 삼을 필요는 없다. 공개 자료의 내부 초안처럼 확인 경로가 명확한 업무를 고르고, 초안과 외부 실행을 분리하자. 그다음 사람의 검토를 포함한 전체 시간과 오류를 기록해 가치가 남는지 판단한다.

에이전트 도입은 기술 선택인 동시에 업무 설계다. 교육 역시 도구 시연으로 끝내지 말고, 완료 조건 작성·근거 확인·권한 분리·예외 복구를 실제 산출물로 남겨야 한다. 이 보고서가 권하는 성숙도는 ‘혼자 많이 하는 AI’가 아니라 다른 담당자가 결과와 이유를 확인할 수 있는 업무다.

통계·연구, 위험관리 권고, 공급사 설명의 증거 성격을 구분했다. 한 종류의 자료만으로 도입 결론을 내리지 않았다.

자료 선정과 제외

자료는 조직 AX의 업무·권한·검증 설계에 직접 연결되는 공식 조사, 국제기구 연구, 위험관리 프레임워크, 공공기관 분석과 공급사 설명을 대상으로 선정했다. DSIT·ILO·NIST는 명시한 절·쪽을, OpenAI·Anthropic은 공급사 게시물을, NIA는 웹 분석 요약을 확인했다. 공급사 자료는 운영 관점의 참고자료로만 사용하고 독립 검증된 효과로 해석하지 않았다.

이 보고서는 ‘전주 신규 이슈 전체’를 빠짐없이 집계한 주간 뉴스 보고서가 아니다. 2026년 9월 초 자료와 이전의 기초 연구를 함께 활용한 주제형 분석이다. 원자료의 통계 검산 전체, 특정 도구의 현장 성능 시험, 국내 조직 대상 효과 검증은 수행하지 않았다.

도표 01·02는 원자료 수치를 재구성했고, 실무 표는 KAAI가 작성했다. 세 이미지는 개념 전달을 위한 AI 생성물이다. 법률·노무·개인정보의 개별 사안은 관련 책임자와 별도로 검토해야 한다.