AI 에이전트에서 Autonomous Organisation으로: 에이전틱 기업이 빠뜨린 것

에이전틱 기업은 에이전트가 행동하는 회사입니다. Autonomous Organisation은 에이전트가 무엇을 결정했는지 설명할 수 있는 회사입니다. 이 한 문장이 전부이며, 이 글 전체는 그 차이가 에이전트 숫자보다 왜 더 중요한지에 대한 논증입니다.

2026년 1월, 대한민국은 인공지능 기본법(Framework Act on AI)을 시행했습니다. 아시아에서 최초로 발효된 포괄적 국가 AI 법률입니다. EU AI Act보다 적용 범위에서 먼저 움직인 것이 아니라, 실제로 먼저 시행된 것입니다. 준비 중인 나라가 아닙니다. 이미 입법을 완료한 나라입니다.

이 사실이 중요한 이유는 법률 자체의 내용 때문만이 아닙니다. 한국의 기업 환경이 이 법률이 요구하는 변화와 정확히 같은 지점에서 마찰을 겪고 있기 때문입니다. 재벌 그룹의 결재 문화, 금융위원회와 금융감독원의 AI 거버넌스 기대치, 그리고 삼성SDS, SK C&C, LG CNS 같은 시스템 통합 업체들이 이미 대규모로 배포하고 있는 에이전트 시스템. 이 세 가지가 동시에 작용하는 곳은 세계에서 한국밖에 없습니다.

AI 에이전트가 설명하는 것, 그리고 설명할 수 없는 것

AI 에이전트는 능력으로 정의됩니다. 목표를 받아 단계를 계획하고, 도구를 호출하고, 세상에 행동하고, 결과에 따라 조정합니다. 2026년 현재 이것은 예측이 아닙니다. 에이전트는 고객 유지 제안을 협상하고, 네트워크 트래픽을 재라우팅하고, 신용을 사전 심사하고, 구매 주문을 실행합니다. 이 능력은 실재하며 복리로 성장하고 있습니다.

그러나 이 용어가 설명할 수 없는 것은 결과에 대한 모든 것입니다. AI 에이전트는 행동할 수 있지만 책임질 수는 없습니다. 에이전트는 자기 결정의 결과를 직접 감당함으로써 축적되는 직관을 쌓지 못하며, 책임(accountability)은 에이전트에게 위임할 수 있는 속성이 아닙니다. 그 글이 남긴 질문이 바로 이 글이 답하는 것입니다. 에이전트가 책임을 질 수 없다면 조직이 져야 합니다. 그리고 조직은 기계의 속도와 규모로 그 책임을 감당할 구조가 필요합니다.

에이전틱 기업은 상태이지 목적지가 아닙니다

"에이전틱 기업"이라는 표현은 에이전트를 판매하는 벤더들이 만들었으며, 그 표현이 측정하는 것에는 유용합니다. 얼마나 많은 워크플로에 에이전트가 들어 있는가. 얼마나 많은 운영이 사람 없이 돌아가는가. 이 기준으로 보면 대부분의 대기업은 이미 에이전틱 기업이며, 의도적으로 그렇게 된 것이 아니라 워크플로 하나씩, 하나씩 그렇게 되었습니다. 산업별 현황에서 이 과정을 상세히 다루었습니다.

문제는 커버리지가 진보의 척도인 만큼 노출의 척도이기도 하다는 점입니다. 에이전트가 진입하는 모든 워크플로는 어떤 결재 프로세스도 감당하도록 설계되지 않은 속도로 약속을 만들어내는 워크플로가 됩니다. 시간당 1,000건의 맞춤형 고객 유지 제안은 시간당 1,000건의 약속입니다. 쓰기 권한을 가진 가격 엔진은 회사가 청구하는 금액을 변경할 수 있는 상시 권한입니다.

에이전틱 기업은 그 권한을 나눠준 상태를 말합니다. 그 권한이 제한되었는지, 결정이 기록되었는지, 일주일 뒤에 누군가가 그 결정을 재구성할 수 있는지에 대해서는 아무것도 말하지 않습니다.

한국의 결재 문화가 정확히 이 지점에서 충돌합니다

한국 기업의 결재 문화(決裁文化)는 세계에서 가장 체계화된 승인 체계 중 하나입니다. 담당자에서 팀장, 본부장, 경영진까지 단계별로 올라가는 결재 라인은 한국 기업 운영의 근간입니다. 이 문화는 통제의 관점에서 큰 강점이었습니다. 모든 결정이 명시적 승인 경로를 거칩니다.

그런데 이 강점이 정확히 에이전트 시대의 병목이 됩니다.

에이전트가 시간당 수천 건의 결정을 생성할 때, 그 각각을 결재 라인에 올릴 수는 없습니다. 승인 게이트는 결정 수에 비례하여 선형으로 확장됩니다. 에이전트는 그렇지 않습니다. 삼성SDS, SK C&C, LG CNS가 제조, 금융, 유통, 물류 전반에 걸쳐 에이전트를 배포하고 있는 상황에서, 결재 문화를 그대로 유지하면서 에이전트를 확장하는 것은 구조적으로 불가능합니다.

이것이 바로 아래에서 설명하는 "2단계 정체"입니다. 한국 기업은 문화적으로 승인 게이트에 최적화되어 있기 때문에, envelope 기반 거버넌스로의 전환이 다른 나라보다 어렵습니다. 그러나 동시에, 이 전환이 다른 나라보다 더 절실합니다.

에이전틱 기업이 빠뜨린 세 가지

벤더의 언어를 걷어내면, 오늘날 대부분의 기업에서 에이전틱 기업이 실제로 존재하는 형태에는 세 가지가 빠져 있습니다. 각각은 이사회가 결국 물을 질문이며, 현재 어떤 파일에도 답이 없습니다.

Authority envelope (시스템이 결정할 수 있는 범위의 명시적 경계). 이 에이전트가 정확히 무엇을 할 수 있고, 어디까지가 한계입니까? 무엇을 하도록 만들어졌는가는 능력의 문제이고, 무엇을 하도록 허가받았는가는 거버넌스의 문제입니다. 모델 위험 관리는 모델이 건전한지 묻습니다. 행동이 허가되었는지는 묻지 않습니다. 완벽하게 검증된 모델이 권한을 초과한 에이전트 안에서 작동하면, 깨끗한 모델 위험 보고서와 사고가 동시에 발생합니다. 이 문제가 만들어내는 다섯 가지 위험 클래스를 에이전틱 AI 위험에서, envelope 자체의 실제 사례를 AI가 구매할 때의 권한 한계에서 다루었습니다.

Decision record (의사결정 기록). 회사가 사후에 그 결정을 재구성할 수 있습니까? 어떤 입력을 가졌고, 어떤 추론을 따랐고, 어떤 이탈이 있었고, 누가 승인했다면 그 사람이 누구입니까? 인간의 결정에 대해서는 그 답이 항상 대략적으로 "아니오"였고, 인간의 결정이 인간의 속도로 일어났기 때문에 아무도 개의치 않았습니다. 에이전트의 속도에서 기록의 부재는 불편함이 아닙니다. 법정에, 언론에, 또는 규제 기관의 증거 요청에 나타나기 전까지 어떤 재무제표에도 등장하지 않는 미계상 부채입니다. 이것이 EU AI Act의 기록 보관 조항이 고위험 시스템에 대해 모범 관행에서 법적 의무로 전환시키는 의무이며, 한국의 인공지능 기본법 역시 같은 방향을 가리키고 있습니다.

의사결정 단위 비용. 기계가 내린 결정 하나의 비용은 얼마이며, 어떤 AI 투자가 실제로 더 나은 결정으로 보상받고 있습니까? 대부분의 재무 조직은 AI 지출을 원 단위까지 말할 수 있지만, 그 지출의 단 1원도 하나의 결정에 연결하지 못합니다. 에이전틱 기업에는 비용 항목과 생산성 서사가 있고, 그 사이에는 아무것도 없습니다.

이 세 가지 중 어느 것도 능력에 관한 것이 아닙니다. 업계 최고의 에이전트를 보유하고도 세 가지 중 하나도 없을 수 있습니다. 바로 이것이 에이전틱 기업과 Autonomous Organisation이 다른 이유입니다.

Autonomous Organisation의 정의

Autonomous Organisation은 에이전틱 기업이 의도하지 않게 향하고 있는 목적지입니다. 의사결정의 점점 더 많은 부분이 기계에 의해 이루어지고 실행되지만, 그 모든 결정이 인간의 권한 아래에 남아 있으며, 경계가 정해져 있고, 기록되고, 비용이 산정되는 회사입니다. 사람을 제거한 기업이 아닙니다. 사람이 개별 결정을 내리는 것을 멈추고, 결정을 내리는 시스템을 거버닝하기 시작하는 기업입니다.

그 차이를 가장 명확하게 보여주는 것은 자율성의 사다리이며, 자율성 사다리에서 상세히 설명했습니다. 로드맵은 이 단계들 위에 구축됩니다.

1. Assisted (보조). 인간이 결정하고 행동합니다. AI는 추천합니다. 안전은 루프 안의 사람에게서 옵니다.
2. Augmented (증강). 시스템이 행동하지만, 승인이 있어야만 가능합니다. 모든 행동이 여전히 인간의 게이트를 통과합니다.
3. Supervised autonomous (감독된 자율). 시스템이 명시적 한계 안에서 결정하고 행동합니다. 인간은 경계를 설정하고 예외적으로 개입합니다.
4. Autonomous Organisation. 루프가 돌아갑니다. 리더십은 개별 행동이 아닌 authority envelope과 결과를 거버닝합니다.

대부분의 에이전틱 기업은 1단계와 2단계에 있으며, 아무도 공식적으로 승격시키지 않은 3단계 시스템이 여기저기 흩어져 있습니다. 행동이 허가된 네트워크 최적화기, 쓰기 권한을 받은 가격 엔진 같은 것들입니다. 이 기업들을 자율적이 아닌 에이전틱으로 만드는 것은, 3단계 시스템이 3단계가 요구하는 구조 없이 도착했다는 점입니다. 아무도 기록하지 않은 한계 안에서 행동하고, 아무도 설계하지 않은 기록을 남깁니다.

2단계에서 3단계로: 모든 것을 결정하는 도약

사다리에서 2단계에서 3단계로의 전환이 가장 중요합니다. 인간이 각 행동의 경로에서 빠지는 단계이기 때문입니다. 2단계까지는 안전이 사람입니다. 3단계부터는 안전이 아키텍처여야 합니다. 더 이상 안전의 역할을 할 사람이 없기 때문입니다.

이것이 대부분의 에이전틱 기업이 정체하는 지점이며, 그 정체에는 알아볼 수 있는 형태가 있습니다. 2단계의 승인 게이트는 결정 수에 비례하여 선형으로 확장됩니다. 에이전트가 더 많은 결정을 생성할수록 승인자가 병목이 됩니다. 회사는 선택에 직면합니다. 게이트를 제거하고 아무도 보지 못한 결정을 수용하거나, 게이트를 유지하고 에이전트가 투자 비용을 결코 회수하지 못할 것을 수용하거나.

한국 기업에서 이 정체는 더욱 구조적입니다. 결재 라인 자체가 2단계 게이트의 제도화된 형태이기 때문입니다. 어떤 리더십 팀에게 마지막 에이전트 롤아웃을 정체시킨 원인을 물어보십시오. "확장에 대해 아무도 결재하지 않으려 했다"는 변주를 듣게 될 것입니다. 그 문장은 3단계로 갈 방법이 없는 2단계 기업의 소리입니다.

돌파구는 더 나은 승인자가 아닙니다. 승인자를 에이전틱 기업이 빠뜨린 세 가지로 대체하는 것입니다. Authority envelope은 거부했을 행동을 에이전트가 할 수 없게 만들어, 거부하기 위해 그 자리에 있을 필요가 없게 합니다. Decision record는 에이전트가 envelope 안에서 했지만 그래도 의문을 제기했을 행동에 대해, 무엇을 왜 했는지 사후에, 자신의 속도로 볼 수 있게 합니다. 비용은 어떤 envelope이 자율성의 대가를 벌고 있고 어떤 것이 벌지 못하는지 알려줍니다. 이 세 가지가 함께 사람이 경로에서 빠져도 경로가 무관리 상태가 되지 않게 합니다. 그 구조의 실제 설계, 법률, 통제, 순서는 에이전틱 AI 거버넌스 프레임워크에 있습니다.

규제의 바닥이 같은 일정으로 도착하고 있습니다

이 모든 것을 경영진의 취향의 문제로 다룰 수도 있을 것입니다. 규제 기관이 가만히 있다면 말입니다. 가만히 있지 않습니다.

한국의 인공지능 기본법은 2026년 1월에 시행되었습니다. 고위험 AI 시스템의 투명성, 안전성, 윤리적 운영에 대한 원칙을 법률 수준으로 격상시켰습니다. 금융위원회(KFSC)와 금융감독원(FSS)은 금융 기관의 AI 활용에 대한 거버넌스 기대치를 지속적으로 강화하고 있으며, 이는 단순한 가이드라인이 아니라 감독 실무에 반영되는 기준입니다.

EU AI Act는 고위험 시스템에 대한 기록 보관 의무를 포함하며, 결정이 사후에 추적될 수 있도록 설계되었습니다. 그 기한과 개정 사항을 면밀히 추적해 왔습니다. PRA에서 MAS까지 금융 감독 기관들은 모델에 대해 발표한 원칙을 이제 에이전트에 대해 읽고 있습니다. 관할권을 불문하고 패턴은 같습니다. 규제 기관은 행동이 허가되었는지, 결정이 재구성될 수 있는지 알고 싶어합니다.

멀티 에이전트 시나리오는 긴급성을 더합니다. 여러 에이전트가 서로에게 행동할 때, 현대의 네트워크 운영이나 트레이딩 시스템에서 이미 그러하듯, 어떤 단일 승인으로도 원칙적으로 잡을 수 없었을 효과가 에이전트 사이에서 발생합니다. 멀티 에이전트 실행 거버넌스에서 그 메커니즘을 다루었습니다. 그 시점에서 2단계 게이트는 병목이 아닙니다. 허구입니다. Envelope과 기록만이 에이전트 함대를 거버닝합니다.

이 목록을 빠뜨린 세 가지에 대조해 보십시오. Authority envelope, decision record, 의사결정 단위 비용. 셋 중 둘은 법적 의무가 되어가고 있으며, 셋째는 앞의 둘이 존재하면 CFO가 요구할 것입니다. Autonomous Organisation은 에이전틱 기업의 목적지일 뿐만 아니라, 법이 요구하기 시작한 것을 요청에 따라 제시할 수 있는 회사의 형태입니다.

기업이 그곳에 도달하는 방법

에이전틱 기업에서 Autonomous Organisation으로의 여정은 플랫폼 마이그레이션이 아닙니다. 순서가 있으며, 각 단계가 다음 단계에 필요한 것을 생산하기 때문에 그 순서가 곧 순서입니다. 다섯 개의 스테이션으로 구성되며, 기업은 어느 스테이션에서든 합류할 수 있습니다.

1. 귀사의 AI는 실제로 무엇을 결정하고 있습니까? (Assess.) 대부분의 기업은 자사의 3단계 시스템을 열거하지 못합니다. 아무도 그것들을 승격시키지 않았기 때문입니다. AI Value Review는 모든 AI 이니셔티브를 매핑하고, 비용이 얼마인지, 어떤 결정을 실제로 개선하는지 파악하여, 기업 역사상 최초의 의사결정 단위 비용 기준선을 제공합니다.
2. 무엇이 자동화되어야 합니까? (Frame.) 어떤 결정은 2단계를 떠나서는 안 됩니다. 어떤 결정이 그러한지를, 기계에 넘기기 전에 결정하는 것은 구성 단계가 아니라 이사회 수준의 비판적 사고 행위입니다.
3. 명시적 법칙은 무엇입니까? (Govern.) Authority envelope을 작성하십시오. Decision record를 결정의 부산물이 아닌 기본 출력으로 만드십시오. 승인자를 대체하는 구조가 구축되는 곳이 이 단계입니다.
4. 하나의 워크플로에서 증명할 수 있습니까? (Prove.) 단일 고가치 결정을 속도, 감사 가능성, 리더십 확신을 기준으로 측정하며 전체 루프를 통과시키십시오. 확장 전에. 컴플라이언스와 이사회는 발표 자료를 사지 않습니다. 하나의 실제 결정에 대한 하나의 완전한 추적을 삽니다.
5. 확장해도 패턴이 유지됩니까? (Scale.) 새로운 에이전트마다 관리되지 않는 위험을 추가하는 대신 거버닝된 구조를 상속하므로, 결정당 감독 비용은 자율성이 성장해도 일정하게 유지됩니다. 그 일정한 선이 Autonomous Organisation의 재무적 서명입니다.

이 순서가 중요한 것은, 2단계 정체에 대한 답이기도 하기 때문입니다. 리더십에게 에이전트 확장 일반에 대한 결재를 요청하지 마십시오. 하나의 envelope, 하나의 기록, 하나의 알려진 비용에 대한 결재를 요청하고, 그 추적 결과를 보여주십시오. 신뢰는 봉인된 하나의 결정씩 축적됩니다. 주시할 가치가 있는 척도는 delegation ratio입니다. 기업이 기계에게 독자적으로 내리도록 허용하는 중대한 결정의 비율입니다. 신뢰만큼 빠르게 올라가고 그보다 빠르지는 않으며, 자율성이 제 값을 하고 있는지 이사회에 알려주는 단일 숫자입니다.

한국이 먼저 도달할 수 있는 이유

인공지능 기본법이 시행된 한국은 규제 프레임워크를 이미 갖추고 있습니다. EU AI Act의 고위험 시스템 기한이 아직 다가오고 있는 반면, 한국은 이미 법 앞에 서 있습니다.

한국 기업이 가진 또 다른 이점은 역설적이게도 결재 문화 자체입니다. 승인 프로세스가 이미 형식화되어 있다는 것은, 그 프로세스를 authority envelope으로 전환할 때 출발점이 명확하다는 뜻입니다. 결재 라인이 없는 곳에서는 먼저 결재 라인을 만들어야 합니다. 결재 라인이 있는 곳에서는 그것을 기계가 읽을 수 있는 envelope으로 변환하면 됩니다. 전환은 어렵지만, 무에서 시작하는 것보다 낫습니다.

디지털 인프라 역시 준비되어 있습니다. 한국의 기업용 클라우드 채택률, 디지털 결제 인프라, AI 인력 규모는 에이전트 배포가 이미 고속으로 진행되고 있음을 의미합니다. 문제는 에이전트를 배포할 수 있는가가 아닙니다. 에이전트가 결정한 것에 대해 답할 수 있는가입니다.

금융 부문에서 금융위원회와 금융감독원의 AI 거버넌스 기대치는 authority envelope과 decision record의 방향과 정확히 일치합니다. 모델 위험 관리를 넘어 에이전트 위험 관리로, 모델의 건전성을 넘어 행동의 허가와 기록으로. 금융 기관이 이 전환을 먼저 완수하면, 그것이 다른 산업의 표준이 됩니다. 한국의 금융 감독 체계가 그 선례를 만들 위치에 있습니다.

결론

에이전틱 기업과 Autonomous Organisation의 차이는 기업이 운영하는 에이전트의 수가 아닙니다. 기업이 에이전트에 대해 답할 수 있는지 여부입니다. 이것은 모든 이사회가 받게 될 질문입니다. 규제 기관에게, 거래 상대방에게, 또는 사고에 의해서. 그리고 그 답을 구축할 유일한 좋은 시점은 질문이 도착하기 전입니다.

한국은 그 질문이 도착한 나라입니다. 인공지능 기본법이 시행되었습니다. 금융 감독 기관의 기대치가 구체화되고 있습니다. 에이전트는 이미 대규모로 배포되어 있습니다. 남은 것은, 에이전트가 행동하는 회사에서 에이전트가 결정한 것을 설명할 수 있는 회사로의 전환뿐입니다.

Delegation ratio를 측정하십시오. 하나의 envelope에서 시작하십시오. 신뢰는 봉인된 하나의 결정씩 축적됩니다.

자주 묻는 질문

에이전틱 기업과 Autonomous Organisation의 차이는 무엇입니까? 커버리지 대 책임입니다. 에이전틱 기업은 사람 없이 돌아가는 워크플로의 수를 셉니다. Autonomous Organisation은 그 워크플로가 내린 결정을 재구성할 수 있는지 묻습니다. 누가 허가했는지, 무엇을 할 수 있었는지, 비용이 얼마였는지. 첫 번째 척도에서 높은 점수를 받으면서 두 번째는 전혀 없을 수 있습니다.

Autonomous Organisation이 되는 것은 사람을 기계로 대체하는 것입니까? 정반대입니다. 사람은 각 행동을 승인하는 것을 멈추고, 행동을 생산하는 시스템을 거버닝하기 시작합니다. 역할이 게이트키퍼에서 아키텍트로 바뀝니다. Authority envelope을 설정하고, decision record를 검토하고, 신뢰가 축적됨에 따라 한계를 조정합니다. 인원수는 리소싱의 문제이고, Autonomous Organisation은 거버넌스의 문제입니다. 이 둘을 혼동하는 것이 이 아이디어가 가장 흔하게 오독되는 방식입니다.

대부분의 기업이 승인 게이트 단계에서 정체하는 이유는 무엇입니까? 승인 게이트가 결정 수에 비례하여 선형으로 확장되는 반면, 그 뒤의 에이전트는 그렇지 않기 때문입니다. 기업은 이항 선택에 직면합니다. 게이트를 제거하고 아무도 보지 못한 결정을 수용하거나, 게이트를 유지하고 에이전트가 비용을 결코 회수하지 못할 것을 수용하거나. 돌파구는 루프 안의 사람을 아키텍처로 대체하는 것입니다. 승인자가 거부했을 것을 방지하는 authority envelope과, 사후에 자신의 속도로 검토할 수 있게 하는 기록입니다.

인공지능 기본법은 Autonomous Organisation과 어떤 관련이 있습니까? 인공지능 기본법은 고위험 AI 시스템의 투명성과 안전성에 대한 원칙을 법률로 격상시켰습니다. 이것은 Autonomous Organisation의 세 가지 요소 중 최소 두 가지, authority envelope과 decision record를 더 이상 경영진의 선택이 아닌 법적 기대치로 만듭니다. 법의 시행은 전환의 시작점이 아니라 마감 기한입니다.