AI가 답하는 시대를 넘어 스스로 검색하고 판단하고 행동하는 시대로 들어서고 있다.
문제는 그 다음이다. AI가 잘못 판단했을 때 실제 행동까지 이어진다면 어떻게 막을 것인가. 잘못된 판단을 어디에서 걸러내고, 누가 실행을 허가하며, 그 과정은 나중에 다시 확인할 수 있는가. RAG로 근거를 보완하고 Guardrail로 경계를 세우며 Human in the loop를 통해 사람이 개입하는 이유도 결국 여기에 있다.
그렇다면 이처럼 흩어진 장치들을 하나의 흐름으로 묶을 수는 없을까.
바로, SCL(Structured Cognitive Loop·구조인지루프)이 주목 받는 지점이다.
‘잘 답하는 AI’에서 ‘통제되는 AI’로
SCL은 더 거대한 언어모델을 만드는 기술과는 출발점이 다르다.
LLM(Large Language Model)은 판단에 집중시키되 검색과 통제, 실행, 기억을 각각 분리해 하나의 순환 구조 안에서 움직이게 한다. AI가 판단했다고 곧바로 행동으로 넘어가지 않도록 판단과 실행 사이에 별도의 통제 단계를 두는 방식이다.
2025년 9월 25일 서울 프레스센터에서 열린 SCL 기술 발표에서도 이러한 구조적 접근이 핵심으로 제시됐다. 기본 흐름은 Retrieval, Cognition, Control, Action, Memory다.
필요한 정보를 찾고, AI가 판단한다. 그러나 거기서 끝나지 않는다. Control 단계가 판단과 실행 조건을 다시 확인한 뒤 허용된 행동만 실행하고, 그 결과는 다시 Memory에 남는다.
답을 얼마나 잘 만들어 내느냐 못지않게 그 답이 실제 행동으로 넘어가는 과정을 어떻게 관리할 것인가에 무게를 둔 것이다.
첫 번째 특허... 판단과 실행 사이에 브레이크
이 같은 개념은 특허기술로도 구체화됐다.
첫 번째는 특허 제10-2964902호「다단계 판단에 따른 실행 흐름을 제어하는 인공지능 루프 제어 장치 및 이를 이용한 방법」이다. 2025년 7월 15일 출원된 이 기술은 자연어 입력을 받은 LLM 기반 판단 엔진이 사용자 의도와 수행할 행동, 필요한 정보 등을 추론하면 이를 구조화하고 단계적인 판단을 거쳐 외부 도구의 실행 흐름을 제어하도록 설계됐다.
쉽게 말하면 AI가 “이렇게 행동하겠다”고 판단했다고 바로 실행시키지 않는 것이다.
판단과 실행 사이에 또 하나의 구조를 둔다. 무엇을 하려는지 확인하고, 필요한 정보를 점검하고, 실행이 허용되는지를 거쳐 다음 단계로 넘긴다. AI에게 단순한 안전 문구 하나를 붙이는 것이 아니라 판단과 실행의 흐름 자체에 브레이크를 거는 셈이다.
SCL이 말하는 ‘구조적 통제’가 기술의 형태로 나타나는 대목이다.
그런데 여기서 끝이 아니다.
두 번째 특허... 위험한 행동은 실행 직전에 다시 멈춘다
한 단계 더 들어간 특허가 있다.
특허 제10-2982822호「도구의 위험도 판별에 따른 동적 인터셉션과 비동기 인지 상태 동결·복원을 이용한 AI 에이전트 제어 장치 및 이를 이용한 방법」이다. 2026년 2월 19일 출원돼 같은 해 6월 23일 등록됐다. 명칭은 길지만 핵심은 오히려 선명하다.
AI 에이전트가 외부 도구를 호출하려 할 때 실행에 앞서 위험도를 판별한다.
안전한 도구라면 정해진 절차에 따라 진행한다. 그러나 위험한 도구로 판단되면 실행 직전에 해당 호출을 가로챈다. 여기서 한 번 더 멈춘다. 진행 중이던 AI의 인지 상태를 저장하고 실행을 일시 정지한다. 이후 사용자가 승인하면 저장했던 상태를 복원해 작업을 이어가고, 거절하면 실행하지 않는다.
승인된 도구만 별도의 실행 샌드박스를 통해 작동하도록 하는 구조도 담겼다.
첫 번째 특허가 AI의 판단에서 실행까지 이어지는 전체 흐름에 브레이크를 걸었다면, 두 번째 특허는 위험한 도구가 실제로 움직이기 직전 다시 한번 멈춰 세우는 방식이다. 판단하고, 위험을 가려내고, 멈추고, 사람에게 묻고, 허가된 행동만 실행한다.
특히 AI 에이전트가 외부 프로그램이나 API, 각종 업무도구를 직접 다루는 시대로 접어들수록 이 차이는 작지 않다. 오답을 잡는 문제를 넘어 오작동을 실행 이전에 차단하려는 접근이기 때문이다. 두 건의 특허는 ‘주식회사 더트루아이’를 중심으로 확보된 기술이다.
특허 두 건이 곧 AI 통제 문제의 완성을 뜻하는 것은 아니다. 다만 첫 번째 특허에 이어 두 번째 특허까지 판단과 실행, 위험도 판별, 인간 승인이라는 통제 절차가 보다 구체화됐다는 점은 눈여겨볼 만하다.
특허에서 실제 AI 툴로
이제 관건은 이 구조를 실제 AI 시스템 안에서 어떻게 작동시키느냐다.
FORHU가 접목하고 있는 SCL 구조에는 기존 Retrieval, Cognition, Control, Action, Memory 흐름에 사람의 개입을 의미하는 Human Intervention이 들어간다. AI가 판단한 결과를 Control에서 검증하고, 위험하거나 중요한 실행에는 사람이 개입하며, 허가된 행동만 다음 단계로 넘기는 방식이다.
FORHU는 이러한 방향을 ‘Glassbox AI’와 연결하고 있다. 결과만 보여주는 AI가 아니라 어떤 자료를 근거로 판단했고, 어떤 통제 과정을 거쳤으며, 누가 실행을 승인했는지를 확인할 수 있는 AI를 지향하는 것이다.
김명호 박사와 FORHU 신준 대표 등은 SCL과 관련한 워크숍과 교류를 이어왔으며,
2025년 9월 프레스센터에서 바월드(현, 더트루아이)가 개최한 ‘SCL 혁신 기술 발표’ 당시에도 신 대표가 기조 발표를 한 바 있다.
더트루아이의 미국법인 FORHU는 올해 6월 파리 VivaTech 2026에서 SCL 기반 서비스를 선보이는 등 이후 SCL 관련 기술을 자사의 AI 툴과 서비스에 접목하는 작업을 진행해 왔다.
SCL이 기존 RAG나 Guardrail을 대체한다고 볼 필요도 없다. RAG가 근거를 보완하고 Guardrail이 경계를 세운다면 SCL은 그 장치들을 판단과 실행의 순서 안에서 어떻게 작동시킬 것인가에 더 가깝다. 기능 하나를 더 얹는 것이 아니라 흐름을 만드는 것이다.
메타콤(주), 이제 기술을 시장으로
기술의 다음 단계는 결국 시장이다.
FORHU와 메타콤(주)은 AI 플랫폼 공동 상용화와 시장 확대를 위한 협력 체계를 구축하고 있다. FORHU가 AI 플랫폼과 시스템 적용, 기술 고도화를 맡는다면 메타콤은 서비스 운영과 시장 적용, 마케팅, 회원 관리와 제휴 생태계 확대 등을 담당하는 구조다.
여행과 의료·헬스케어, 법률, 문화·팬덤 등 AI가 실제 사람과 서비스를 연결하는 영역으로 적용 범위를 넓혀간다는 구상이다. 메타콤이 맡게 될 역할도 바로 여기에 있다. SCL이라는 기술을 설명하는 데 머무르지 않고 실제 이용자가 존재하는 시장에서 작동시키는 일이다.
특허가 있다고 시장이 열리는 것은 아니다.
FORHU의 AI 툴 역시 실제 서비스 환경에서 더 많은 검증이 필요하고, SCL 역시 다양한 산업과 데이터 환경 속에서 통제 구조의 효과를 입증해야 한다. 그래서 오히려 지금부터가 중요하다. 첫 번째 특허는 판단과 실행 사이에 브레이크를 세웠다. 그리고 두 번째 특허는 위험한 도구가 움직이기 직전 다시 한번 멈춰 세웠다. 그 뒤에는 사람의 판단이 있다.
AI가 강해질수록 통제 역시 강해져야 한다는 명제. SCL은 그 답을 모델의 크기가 아니라 ‘구조’에서 찾고 있다. 특허에서 AI 툴로, 다시 실제 서비스와 시장으로.
메타콤(주)의 실험도 이제 그 지점에서 본격화되고 있다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
