시리즈: “AI를 넘어서 — 사이버네틱스로 가는 길” (2/5)
1편에서 사이버네틱스의 개념과 핵심 원리를 살펴봤습니다. 이번 편에서는 그 원리를 실제 시스템으로 구현할 때 필요한 전체 구조를 다룹니다. 업무와 산업에 상관없이 적용 가능한 범용 사이버네틱스 플랫폼을, 6개 레이어 아키텍처로 풀어봅니다.
왜 “범용” 아키텍처인가
기업마다, 업무마다 시스템은 다릅니다. 마케팅 자동화와 공장 자동화는 전혀 다른 도메인처럼 보입니다. 그런데 사이버네틱스의 관점에서 보면, 둘 다 본질적으로 같은 구조입니다.
환경을 감지하고 → 판단하고 → 실행하고 → 결과를 확인하고 → 수정한다
마케팅이면 고객 행동을 감지하고 광고를 조정하는 것이고, 공장이면 센서 데이터를 감지하고 공정을 조정하는 것입니다. 감지하는 대상과 실행하는 행동만 다를 뿐, 시스템의 골격은 동일합니다.
이것이 범용 아키텍처가 가능한 이유입니다. 피드백 루프의 구조는 업무에 독립적입니다. 바뀌는 것은 루프 안에 흘러가는 데이터의 종류, AI가 내리는 판단의 내용, 실행되는 액션의 형태뿐입니다. 그래서 골격을 한 번 잘 만들어 놓으면, 안에 채워 넣는 내용만 바꿔서 어떤 업무에든 적용할 수 있습니다.
이 범용 골격을 6개의 레이어로 나눠 설명하겠습니다.
전체 구조: 한눈에 보는 6개 레이어
먼저 전체 그림을 보고, 이후 각 레이어를 하나씩 파고 들어가겠습니다.
데이터가 아래(감각)에서 위(인터페이스)로 올라가고, 피드백이 다시 아래로 내려와 순환합니다. 이 순환이 끊어지지 않고 자동으로 돌아가는 것이 사이버네틱 시스템의 본질입니다.
이제 각 레이어를 하나씩 살펴보겠습니다.
① 감각 계층 (Sense Layer) — 시스템의 눈과 귀
역할
사이버네틱 시스템이 작동하려면 먼저 세상에서 무슨 일이 일어나고 있는지를 알아야 합니다. 감각 계층은 외부 세계의 모든 신호를 수집하고, 시스템이 이해할 수 있는 형태로 정규화하는 역할을 합니다. 사람의 눈, 귀, 피부에 해당하는 계층입니다.
핵심 구성 요소
이벤트 스트리밍은 이 계층의 중추 신경입니다. 어딘가에서 무언가가 발생하면 — 고객이 버튼을 클릭하든, 센서가 온도를 측정하든, 결제가 완료되든 — 그 이벤트가 실시간으로 시스템에 흘러들어옵니다. Apache Kafka나 Apache Pulsar 같은 이벤트 스트리밍 플랫폼이 이 역할을 합니다. 핵심은 “실시간”입니다. 어제의 데이터를 오늘 분석하는 것이 아니라, 지금 일어나는 일을 지금 감지하는 것. 피드백 루프가 빠르게 돌려면 감각도 빨라야 합니다.
범용 커넥터 허브는 이 계층의 확장성을 담당합니다. 기업 환경에는 ERP, CRM, 이메일, 슬랙, 외부 API, IoT 센서 등 수십 가지 데이터 소스가 있습니다. 새로운 소스가 추가될 때마다 처음부터 연동을 개발하면 시간과 비용이 끝없이 들어갑니다. 대신 플러그인 방식의 어댑터를 만들어 놓으면, 새 소스를 꽂기만 하면 됩니다. USB 포트에 장치를 꽂듯이.
통합 데이터 모델은 이 계층에서 가장 중요하면서도 가장 간과되기 쉬운 요소입니다. 마케팅팀은 고객을 이메일 주소로 식별하고, 영업팀은 전화번호로, 개발팀은 UUID로 식별합니다. 이렇게 서로 다른 언어를 쓰면 시스템 간 피드백이 성립하지 않습니다. 통합 데이터 모델은 모든 데이터를 하나의 공통 언어(스키마)로 변환합니다. 이것이 없으면 나머지 5개 레이어를 아무리 잘 만들어도 무용지물입니다.
데이터 레이크는 정규화된 데이터의 저장소입니다. 실시간 스트림 데이터와 배치 데이터를 모두 보관하며, AI 학습의 원천 데이터 역할을 합니다. S3, BigQuery, Snowflake 같은 기술이 여기에 해당합니다. 단순한 저장소가 아니라, 피드백 루프의 기억 장치입니다. 과거에 어떤 판단을 내렸고 어떤 결과가 나왔는지를 기억하고 있어야, 시스템이 같은 실수를 반복하지 않습니다.
왜 이 계층이 중요한가
감각이 무디면 피드백 루프 전체가 무디어집니다. 데이터가 느리게 들어오면 판단도 늦고 실행도 늦습니다. 데이터가 부정확하면 판단도 부정확합니다. “쓰레기가 들어가면 쓰레기가 나온다(Garbage In, Garbage Out)”는 원칙은 사이버네틱 시스템에서 더욱 치명적입니다. 왜냐하면 잘못된 데이터가 잘못된 판단을 낳고, 잘못된 실행이 잘못된 결과를 만들고, 그 결과가 다시 잘못된 피드백으로 들어와 시스템 전체를 오염시키기 때문입니다. 자기 강화적 오류의 악순환이 만들어질 수 있습니다.
② 인지 계층 (Brain Layer) — 시스템의 두뇌
역할
감각 계층이 수집하고 정규화한 데이터를 받아서, “그래서 무엇을 해야 하는가?”를 판단하는 계층입니다. 사이버네틱 시스템의 두뇌에 해당합니다. 1편에서 말한 “AI는 뛰어난 두뇌를 만드는 기술”이라는 것, 그 두뇌가 바로 여기에 위치합니다.
핵심 구성 요소
LLM 오케스트레이션은 이 계층의 핵심이자, 범용 사이버네틱스 플랫폼을 현실적으로 가능하게 만드는 열쇠입니다. 왜 열쇠일까요?
기존의 ML 모델은 특정 업무에 맞춰 수개월간 학습시켜야 합니다. 수요 예측 모델, 이탈 예측 모델, 감성 분석 모델을 각각 따로 만들어야 합니다. 하지만 LLM은 다릅니다. 프롬프트만 바꾸면 다른 업무에 바로 적용할 수 있습니다. “이 고객 데이터를 보고 이탈 가능성을 판단해줘”라고 쓰면 이탈 예측이 되고, “이 재고 데이터를 보고 발주 필요 여부를 판단해줘”라고 쓰면 재고 관리가 됩니다. 업무 정의를 자연어로 입력하면 AI가 해당 업무의 판단을 수행하는 구조. 이것이 “범용성”의 실체입니다.
물론 LLM만으로 모든 것을 해결할 수는 없습니다. 정밀한 수치 예측이나 대규모 패턴 인식에는 전통적인 ML 모델이 여전히 강합니다. 그래서 ML 모델 서빙 인프라도 함께 필요합니다. 여러 모델을 동시에 운영하고, A/B 테스트로 성능을 비교하고, 더 나은 모델로 무중단 교체하는 체계입니다. MLflow, Kubeflow 같은 도구가 이 역할을 합니다.
멀티 에이전트 시스템은 복잡한 판단을 처리하는 방법입니다. 하나의 만능 AI가 모든 것을 판단하는 것이 아니라, 역할별로 전문화된 에이전트들이 협력합니다. 예를 들어, 데이터 분석 에이전트가 현황을 파악하고, 전략 에이전트가 대안을 제시하고, 검증 에이전트가 위험을 평가하는 식입니다. 마치 회사의 의사결정 회의처럼, 서로 다른 관점을 가진 에이전트들이 토론하고 합의에 도달합니다.
컨텍스트 메모리는 에이전트들의 공유 기억입니다. 과거에 어떤 판단을 내렸고, 그 결과가 어떠했는지를 기록합니다. 벡터 데이터베이스(Vector DB)나 Redis 같은 기술로 구현되며, 이것이 있어야 에이전트들이 과거 경험을 바탕으로 더 나은 판단을 내릴 수 있습니다. 기억이 없는 두뇌는 매번 같은 실수를 반복합니다.
왜 이 계층이 중요한가
두뇌가 없는 시스템은 반사적으로만 행동합니다. “온도가 26도 이상이면 냉방을 켠다” 같은 단순한 규칙은 두뇌 없이도 가능하지만, “이 고객이 이탈할 것 같으니 맞춤형 혜택을 제공하되, 마진을 5% 이상 유지하면서 경쟁사 가격보다 10% 이내로 설정한다” 같은 복합적 판단은 지능이 필요합니다. 인지 계층이 강력할수록 시스템은 더 복잡한 환경에서 더 정교한 자율 행동이 가능해집니다.
③ 실행 계층 (Action Layer) — 시스템의 손과 발
역할
인지 계층이 “무엇을 할 것인가”를 판단했으면, 실제로 해야 합니다. 실행 계층은 판단을 현실 세계의 행동으로 전환하는 계층입니다. 두뇌의 명령을 받아 손과 발이 움직이는 것에 해당합니다.
핵심 구성 요소
의사결정 라우터는 이 계층의 관문입니다. AI의 판단 결과를 받아서 세 가지 경로 중 하나로 보냅니다.
첫 번째는 자율 실행입니다. 확신도가 높고, 위험이 낮고, 사전 정의된 범위 안에 있는 판단이면 사람의 승인 없이 바로 실행합니다. 가격 조정 ±3% 이내, 정형화된 고객 응대 같은 것이 여기에 해당합니다.
두 번째는 사람 승인입니다. 확신도가 낮거나, 영향 범위가 크거나, 사전 정의된 범위를 벗어나는 판단이면 사람에게 확인을 요청합니다. 대규모 예산 변경, 신규 전략 실행 같은 것입니다.
세 번째는 보류입니다. 데이터가 부족하거나, 판단 근거가 불분명하거나, 이전에 없던 상황이면 실행을 보류하고 추가 데이터를 수집합니다.
이 세 경로의 분기 기준을 어떻게 설정하느냐가 시스템의 자율성 수준을 결정합니다. 처음에는 대부분 “사람 승인”으로 흘러가다가, 시스템에 대한 신뢰가 쌓이면 점차 “자율 실행”의 범위를 넓혀갑니다.
워크플로우 엔진은 복잡한 실행 흐름을 관리합니다. 현실의 액션은 단일 동작이 아닌 경우가 많습니다. “고객에게 할인 쿠폰을 발송한다”는 단순해 보이지만, 실제로는 대상 고객을 필터링하고 → 쿠폰 코드를 생성하고 → 이메일을 발송하고 → 발송 결과를 확인하고 → 실패 건은 재시도하는 여러 단계의 흐름입니다. Temporal이나 Airflow 같은 워크플로우 엔진이 이런 다단계 흐름의 조건 분기, 병렬 처리, 재시도, 타임아웃을 체계적으로 관리합니다.
범용 액션 블록은 이 계층의 범용성을 담당합니다. “이메일 발송”, “API 호출”, “DB 업데이트”, “슬랙 알림”, “파일 생성” 같은 실행 단위를 표준화된 블록으로 미리 만들어 놓습니다. AI가 판단 결과에 따라 이 블록들을 레고처럼 조합해서 사용합니다. 새로운 업무에 시스템을 적용할 때, 실행 로직을 처음부터 개발하는 것이 아니라 기존 블록을 조합하는 것으로 해결합니다.
API 게이트웨이는 외부 세계와의 접점입니다. 실행의 최종 결과는 대부분 외부 시스템에 반영됩니다. 이메일 서비스에 발송 요청을 하고, ERP에 발주를 넣고, 광고 플랫폼에 예산을 변경합니다. API 게이트웨이가 이 모든 외부 연동을 표준화된 방식으로 관리합니다. 인증, 속도 제한, 로깅, 에러 처리를 한 곳에서 통합합니다.
왜 이 계층이 중요한가
판단만 하고 실행하지 않으면 아무 일도 일어나지 않습니다. 그런데 실행은 판단보다 훨씬 위험합니다. 잘못된 판단은 무시하면 그만이지만, 잘못된 실행은 현실에 영향을 미칩니다. 잘못된 가격이 노출되고, 잘못된 이메일이 발송되고, 잘못된 발주가 나갑니다. 그래서 실행 계층에서는 의사결정 라우터의 분기 로직이 특히 중요합니다. “언제 자율적으로 실행하고, 언제 사람에게 물어볼 것인가”의 경계를 신중하게 설계해야 합니다.
④ 피드백 계층 (Feedback Layer) — 사이버네틱스의 심장 ★
역할
여기가 사이버네틱스를 사이버네틱스답게 만드는 핵심입니다. 실행의 결과를 관찰하고, 목표와 비교하고, 시스템 스스로를 수정하는 계층입니다. 1편에서 설명한 피드백 루프가 실제로 구현되는 곳입니다.
이 계층이 없으면 나머지 5개 레이어를 아무리 잘 만들어도 그것은 “고급 자동화”일 뿐 사이버네틱 시스템이 아닙니다. 피드백 없는 시스템은 열린 루프(Open Loop)이고, 피드백이 있는 시스템이 닫힌 루프(Closed Loop)이며, 사이버네틱스는 닫힌 루프를 만드는 학문입니다.
핵심 구성 요소
성과 측정 엔진은 가장 기본적인 구성 요소입니다. 실행된 모든 액션의 결과를 자동으로 측정하고, 사전에 정의된 목표(KPI)와의 차이(Gap)를 계산합니다. 여기서 중요한 것은 KPI를 사용자가 자유롭게 정의할 수 있어야 한다는 점입니다. 마케팅이면 전환율, 물류면 배송 시간, 고객 서비스면 만족도 점수. 업무마다 성공의 기준이 다르므로, 범용 플랫폼이려면 KPI 정의의 유연성이 필수입니다.
단순히 “좋아졌다/나빠졌다”가 아니라, 왜 차이가 발생했는지를 분석하는 것도 이 엔진의 역할입니다. 전환율이 떨어진 것이 광고 소재 때문인지, 랜딩 페이지 때문인지, 가격 때문인지를 구분할 수 있어야 다음 행동을 올바르게 수정할 수 있습니다.
자동 재학습 파이프라인은 피드백을 AI 모델의 개선으로 직접 연결하는 장치입니다. 성과 측정 엔진이 “성과가 떨어지고 있다”고 감지하면, 최신 데이터를 수집하여 모델을 자동으로 재학습시키고, 검증하고, 문제가 없으면 자동으로 배포합니다. 사람이 “모델 성능이 떨어진 것 같은데 재학습시켜야 하나?” 하고 고민하는 단계를 없애는 것입니다.
이 파이프라인의 핵심은 트리거 조건입니다. 언제 재학습을 시작할 것인가? 성과가 특정 임계값 아래로 떨어졌을 때, 데이터 분포가 유의미하게 변했을 때(데이터 드리프트), 일정 기간이 경과했을 때 등의 조건을 설정합니다. 그리고 재학습된 모델이 기존 모델보다 정말 나은지를 자동으로 검증하는 단계도 반드시 포함해야 합니다. 재학습이 항상 개선을 보장하지는 않기 때문입니다.
메타 피드백 루프는 이 계층의, 아니 전체 시스템의 가장 상위 개념입니다. 앞의 두 구성 요소가 “개별 피드백 루프를 잘 돌리는 것”이라면, 메타 피드백 루프는 “피드백 루프 자체가 잘 작동하는지를 감시하고 수정하는 것”입니다.
예를 들어, 마케팅 자동화 루프가 돌아가고 있는데, 3개월째 개선이 없다고 합시다. 이때 메타 피드백 루프가 질문합니다. “이 루프의 KPI 설정이 잘못된 것은 아닌가?”, “피드백 주기가 너무 긴 것은 아닌가?”, “측정하는 지표 자체가 실제 목표와 어긋나 있는 것은 아닌가?” 개별 루프 안에서는 볼 수 없는 문제를 한 단계 위에서 관찰하고 수정합니다.
1편에서 설명한 2차 사이버네틱스의 “시스템이 자기 목표까지 수정하는 단계”가 바로 이것입니다. 메타 피드백은 현실에서 완전 자동화하기 가장 어려운 부분이지만, 사이버네틱 시스템이 단순한 자동화를 넘어 진정한 자기 진화에 도달하기 위해 반드시 필요한 요소입니다.
왜 이 계층이 중요한가
반복하지만, 이 계층이 사이버네틱스의 전부입니다. 나머지 계층은 사실 이 피드백 루프를 돌리기 위한 인프라입니다. 감각 계층은 피드백에 필요한 데이터를 모으는 것이고, 인지 계층은 피드백을 바탕으로 더 나은 판단을 내리는 것이고, 실행 계층은 수정된 판단을 행동으로 옮기는 것이고, 안전 계층은 피드백 루프가 폭주하지 않게 지키는 것이고, 인터페이스 계층은 사람이 피드백 루프를 관찰하는 것입니다. 모든 것이 피드백을 중심으로 돌아갑니다.
⑤ 안전 계층 (Safety & Governance Layer) — 시스템의 면역 체계
역할
자율적으로 작동하는 시스템은 강력하지만 위험할 수도 있습니다. 잘못된 피드백이 증폭되면 시스템이 폭주할 수 있고, AI가 예상 밖의 판단을 내릴 수 있고, 외부 데이터가 오염될 수 있습니다. 안전 계층은 이런 위험으로부터 시스템을 보호하는 면역 체계입니다.
이 계층은 다른 계층과 달리 수평적으로 존재합니다. 감각, 인지, 실행, 피드백 모든 계층을 관통하며 감시하고 개입합니다.
핵심 구성 요소
권한 경계 시스템은 각 에이전트와 자동화 프로세스가 할 수 있는 행동의 범위를 정의합니다. 가격 조정 에이전트는 ±5%까지만 변경 가능, 하루 최대 3회 변경 가능, 특정 상품군에만 적용 가능 같은 식입니다. 이 경계를 코드가 아니라 설정으로 관리하는 것이 중요합니다. 코드를 수정하려면 개발과 배포가 필요하지만, 설정이라면 즉시 변경할 수 있습니다. 상황이 급변할 때 빠르게 대응할 수 있어야 하기 때문입니다.
이상 탐지와 킬 스위치는 최후의 방어선입니다. 시스템이 비정상적인 패턴을 보일 때, 예를 들어 가격이 비정상적으로 급변하거나, 같은 액션이 비정상적으로 반복되거나, 데이터 입력량이 갑자기 폭증하거나 급감하면, 해당 루프를 자동으로 중지하고 사람에게 알립니다. 킬 스위치는 시스템 전체를 한 번에 멈출 수 있는 비상 정지 장치입니다. 자율주행차의 비상 브레이크와 같습니다.
감사 로그는 모든 판단과 실행의 이력을 빠짐없이 기록합니다. 어떤 데이터를 보고, 어떤 근거로, 어떤 판단을 내렸고, 그 결과가 어떠했는지. 이것이 없으면 문제가 발생했을 때 원인을 추적할 수 없고, 규제 대응도 불가능합니다. “AI가 왜 이런 결정을 했지?”라는 질문에 답할 수 있는 유일한 방법이 감사 로그입니다.
버전 관리와 롤백도 빠뜨릴 수 없습니다. 시스템이 스스로 수정한다는 것은 좋지만, 잘못 수정했을 때 이전 상태로 되돌릴 수 있어야 합니다. 모델 버전, 규칙 버전, 설정 버전을 전부 추적하고, 문제가 생기면 즉시 이전 버전으로 롤백할 수 있는 체계가 필요합니다.
왜 이 계층이 중요한가
안전 장치 없는 자율 시스템은 폭탄입니다. 피드백 루프가 양성 피드백에 빠져 폭주하면 — 가격을 계속 내리고, 내린 가격이 매출 감소로 이어지고, 매출 감소를 보고 더 내리고 — 사람이 개입하기 전에 이미 큰 손실이 발생할 수 있습니다. 안전 계층은 이런 폭주를 감지하고 멈추는 역할입니다. 자율성과 안전성은 트레이드오프가 아니라, 안전성이 확보되어야 자율성을 높일 수 있는 전제 조건입니다.
⑥ 인터페이스 계층 (Interface Layer) — 사람과의 접점
역할
사이버네틱 시스템이 완전 자율이라 해도, 사람이 시스템을 관찰하고 목표를 설정하고 필요할 때 개입할 수 있어야 합니다. 인터페이스 계층은 사람과 시스템 사이의 접점입니다.
핵심 구성 요소
통합 대시보드는 시스템 전체의 상태를 한눈에 보여줍니다. 각 피드백 루프가 정상 작동하는지, KPI 대비 성과는 어떤지, 이상 징후는 없는지를 실시간으로 관제합니다. 비행기의 조종석 계기판과 같은 역할입니다. 모든 것이 자동으로 돌아가더라도, 파일럿은 계기판을 통해 상태를 파악하고 있어야 합니다.
노코드/로우코드 설정 도구는 범용 플랫폼의 사용성을 결정합니다. 새로운 업무에 시스템을 적용할 때, 개발자 없이도 “이런 데이터를 보고 → 이런 판단을 하고 → 이런 실행을 하라”를 시각적으로 설정할 수 있어야 합니다. 이것이 없으면 매번 개발팀에 의뢰해야 하고, 그러면 “범용” 플랫폼이 아니라 “매번 커스텀 개발이 필요한” 플랫폼이 됩니다.
에스컬레이션 UX는 AI가 사람에게 도움을 요청하는 인터페이스입니다. 실행 계층의 의사결정 라우터가 “사람 승인” 경로로 보낸 건들이 여기에 도착합니다. 단순한 알림이 아니라, AI가 왜 이런 판단을 내렸는지, 어떤 대안이 있는지, 각 대안의 예상 결과가 어떤지를 함께 제시해야 합니다. 사람이 빠르고 정확하게 의사결정을 내릴 수 있도록 돕는 것이 이 인터페이스의 목표입니다.
왜 이 계층이 중요한가
인터페이스의 질은 시스템에 대한 사람의 신뢰를 결정합니다. 시스템이 잘 작동하더라도, 사람이 “지금 무슨 일이 일어나는지 모르겠다”고 느끼면 신뢰하지 않습니다. 신뢰하지 않으면 자율성을 높여주지 않습니다. 자율성을 높여주지 않으면 시스템은 영원히 “사람이 매번 승인하는” 반자동 상태에 머물게 됩니다. 투명하고 직관적인 인터페이스가 자율성 확대의 전제 조건입니다.
순환 흐름: 6개 레이어가 함께 작동하는 방법
6개 레이어를 각각 살펴봤으니, 이제 전체가 어떻게 함께 돌아가는지를 하나의 시나리오로 따라가 보겠습니다.
시나리오: 이커머스의 가격 자동 최적화
① 감각 — 이벤트 스트리밍이 실시간으로 데이터를 수집합니다. 고객의 상품 페이지 방문, 장바구니 추가, 구매 완료, 이탈 이벤트. 동시에 경쟁사 가격 API, 재고 수량, 시간대별 트래픽 패턴이 통합 데이터 모델을 거쳐 데이터 레이크에 흘러들어갑니다.
② 인지 — LLM 오케스트레이션이 이 데이터를 받아 판단합니다. “상품 A는 경쟁사 대비 8% 비싼데 전환율이 15% 하락했다. 3% 할인을 적용하면 전환율이 회복되면서 마진을 5% 이상 유지할 수 있다.” ML 모델이 가격 탄력성을 계산하고, LLM이 마진·재고·경쟁 상황을 종합적으로 고려하여 최종 가격을 제안합니다.
③ 실행 — 의사결정 라우터가 이 제안을 분류합니다. 3% 할인은 사전 설정된 자율 실행 범위(±5%) 안이므로, 사람 승인 없이 바로 실행합니다. 워크플로우 엔진이 가격 변경 → 상품 페이지 업데이트 → 광고 소재 동기화의 흐름을 처리합니다. API 게이트웨이를 통해 쇼핑몰 플랫폼에 새 가격이 반영됩니다.
④ 피드백 — 가격 변경 후 2시간이 지났습니다. 성과 측정 엔진이 결과를 집계합니다. 전환율이 12% 회복되었지만 예상(15%)에는 못 미쳤습니다. 이 Gap 데이터가 자동으로 인지 계층으로 전달되고, AI는 다음 판단 시 이 결과를 반영합니다. 만약 이런 패턴이 반복되어 모델의 가격 탄력성 예측 정확도가 떨어지고 있다면, 자동 재학습 파이프라인이 최신 데이터로 모델을 재학습시킵니다.
한 달 후, 메타 피드백 루프가 작동합니다. “가격 최적화 루프가 한 달간 마진율을 0.5% 개선했지만, 고객 재방문율은 오히려 2% 하락했다.” 단기 매출에 집중하느라 장기 고객 충성도를 해친 것입니다. 메타 피드백 루프가 이를 감지하고, KPI 설정을 “전환율 + 재방문율 복합 지표”로 수정하도록 제안합니다.
⑤ 안전 — 이 모든 과정에서 안전 계층이 감시합니다. 가격이 원가 이하로 내려가려 하면 권한 경계가 차단합니다. 같은 상품의 가격이 하루에 10번 이상 변경되려 하면 이상 탐지가 알림을 보냅니다. 모든 가격 변경 이력과 그 근거가 감사 로그에 기록됩니다.
⑥ 인터페이스 — 운영자는 대시보드에서 이 모든 것을 실시간으로 관찰합니다. 메타 피드백이 KPI 수정을 제안하면, 에스컬레이션 UX를 통해 운영자에게 알림이 갑니다. 운영자가 승인하면 새 KPI가 적용되고, 시스템은 수정된 목표를 향해 다시 최적화를 시작합니다.
이것이 6개 레이어가 함께 돌아가는 하나의 사이버네틱 순환 사이클입니다.
범용성을 만드는 세 가지 설계 원칙
6개 레이어의 구조를 관통하는 설계 원칙이 세 가지 있습니다. 이 원칙이 지켜져야 “범용” 플랫폼이 됩니다.
원칙 1: 모듈화
모든 구성 요소가 독립적으로 교체 가능해야 합니다. 데이터 소스를 Kafka에서 Pulsar로 바꾸든, AI 모델을 GPT에서 Claude로 바꾸든, 실행 방식을 이메일에서 슬랙으로 바꾸든, 다른 부분에 영향 없이 교체할 수 있는 구조. 이것이 레고 블록처럼 조합 가능한 시스템을 만듭니다.
원칙 2: 선언적 정의
“어떻게 할 것인가(How)”가 아니라 “무엇을 원하는가(What)”를 정의하면 시스템이 알아서 실행하는 방식입니다. “전환율이 떨어지면 가격을 조정하되, 마진 5% 이상을 유지하라”고 목표를 선언하면, AI가 구체적인 방법을 스스로 결정합니다. 이 방식이 업무 독립성을 만듭니다. 업무가 바뀌면 선언(목표)만 바꾸면 되고, 시스템의 구조는 그대로입니다.
원칙 3: 점진적 자율성
모든 루프가 사람 승인 모드에서 시작합니다. AI가 추천하고 사람이 승인하는 단계. 시스템이 일정 기간 동안 일관되게 좋은 판단을 내리면, 자율성을 한 단계 높입니다. AI가 실행하고 사람이 사후 검토하는 단계. 신뢰가 더 쌓이면 다시 한 단계. AI가 실행하고 이상 시에만 사람이 개입하는 단계. 최종적으로는 AI가 실행하고 자체 수정까지 수행하는 완전 자율 단계로 갑니다.
이 4단계를 정리하면 다음과 같습니다.
레벨 1: AI 추천 → 사람 승인 → 실행
레벨 2: AI 실행 → 사람 사후 검토
레벨 3: AI 실행 → 이상 시에만 사람 개입
레벨 4: AI 실행 + 자체 수정 (완전 자율)
모든 업무가 레벨 4까지 갈 필요는 없습니다. 업무의 특성과 위험도에 따라 적절한 레벨에서 멈추는 것이 현실적입니다. 이것은 4편에서 더 상세히 다루겠습니다.
다음 편 예고
이번 편에서는 범용 사이버네틱스 플랫폼의 전체 그림을 6개 레이어로 나눠 살펴봤습니다. 각 레이어의 역할, 핵심 구성 요소, 왜 중요한지를 개괄적으로 다뤘습니다.
다음 편 “감각과 두뇌 — 데이터 수집부터 AI 판단까지”에서는 레이어 1(감각)과 레이어 2(인지)를 기술적으로 깊이 파고듭니다. Kafka 아키텍처의 설계 패턴, Schema Registry의 운영 방법, LLM 오케스트레이션의 프롬프트 관리 전략, RAG 파이프라인 설계, 멀티 에이전트 간 통신 프로토콜까지. 구체적인 기술 선택과 구현 방법을 상세히 다룹니다.
핵심 정리
- 범용 아키텍처가 가능한 이유: 피드백 루프의 구조는 업무에 독립적이다. 바뀌는 것은 데이터 종류, 판단 내용, 실행 형태뿐이다
- 6개 레이어: 감각(Sense) → 인지(Brain) → 실행(Action) → 피드백(Feedback) → 안전(Safety) → 인터페이스(Interface)
- 핵심은 ④ 피드백 계층: 나머지 5개 계층은 피드백 루프를 돌리기 위한 인프라이다
- 메타 피드백 루프: 개별 루프가 아닌 루프 자체의 효과를 감시하고 수정하는 최상위 조절 장치
- 의사결정 라우터: 자율 실행 / 사람 승인 / 보류의 분기가 시스템의 자율성 수준을 결정한다
- 3가지 설계 원칙: 모듈화(교체 가능), 선언적 정의(목표 중심), 점진적 자율성(신뢰 기반 확대)
- 4단계 자율성 레벨: 사람 승인 → 사후 검토 → 이상 시 개입 → 완전 자율