도입 검토
신뢰를 만드는 4가지 장치
일반 LLM 챗봇은 환각을 완전히 막지 못하고, 보안 사고를 예방하기 어렵고, 답변의 근거를 설명하지 못하며, 틀려도 스스로 나아지지 않습니다. aisight는 이 네 가지 약점을 검증·격리·추적·보정이라는 통제 장치로 구조 자체에 새겨 넣습니다.
| 장치 | 핵심 | 설명 |
|---|---|---|
| 검증 · Verification | 같은 질문엔 같은 답 — LLM이 로직을 상상하지 못하게 | LLM은 종종 비즈니스 로직을 그때그때 지어내 답합니다. aisight는 의도 그래프(Intent Graph)를 따라 실행 경로를 결정론적으로 산출하고, 관리자가 미리 등록·검증한 스킬과 SQL 템플릿만 실행하게 해 이를 막습니다. 같은 질문에는 항상 같은 답이 나옵니다. |
| 격리 · Isolation | LLM이 위험 쿼리를 만들어도 실제 데이터엔 닿지 못하게 | LLM이 위험한 쿼리를 만들어내더라도 실제 데이터에는 닿지 못하게 막습니다. SELECT/WITH 구문만 통과시키는 5단계 안전 게이트로 INSERT·UPDATE·DELETE·DROP을 차단하고, LIMIT을 자동으로 걸며, 모든 조회를 READ ONLY·10초 타임아웃으로 강제합니다. |
| 추적 · Traceability | "이 숫자 어디서 왔지?"에 항상 답할 수 있도록 | "이 숫자는 어디서 왔는가"라는 질문에 항상 답할 수 있어야 합니다. 질의·SQL·도구 호출·응답을 하나의 trace_id로 묶어 전부 기록하고, KPI·테이블·답변의 의존 관계를 계보 그래프로 재구성해 규제 컴플라이언스 요건을 충족합니다. |
| 보정 · Correction | 실패 신호가 자동 학습으로 이어지는 통제된 개선 루프 | 실패가 반복돼도 시스템이 나아지지 않는 문제를 막습니다. 매칭 실패·저신뢰·실행 오류·사용자 거부 같은 신호가 감지되면, 동의어나 오탈자는 곧바로 학습하고 새로운 의도(Intent)는 검토 대기 상태로 올라오며, 핵심 규칙 변경은 담당자가 최종 승인합니다. |