4. 함부로 실행하지 않는 Agent
이 트랙을 마치면
승인 없이는 되돌릴 수 없는 일을 하지 못하는 Agent 를 설계하고, 검증 범위를 정확히 말할 수 있습니다.
되돌릴 수 없는 일 앞에 사람을 세웁니다.
차시 9개
-
1무엇을 보안이라 부를 것인가
보안 특화 Agent 의 네 기준을 알고, 지시가 아니라 구조로 막는다는 뜻을 설명합니다.
-
2어떤 작업에 승인을 붙일까
어떤 작업에 사람 승인을 붙일지 '되돌릴 수 있는가'로 판단합니다.
-
3승인과 실행 기록을 담을 자리
승인·재시도·실행기록을 담을 자리를 State 에 먼저 만듭니다.
-
4Agent 가 닿을 수 있는 범위 좁히기
Agent 가 닿을 수 있는 범위를 코드 상수로 고정합니다.
-
5승인 없이는 못 지나가는 그래프
승인 화면에 보인 값만 실행되는 그래프를 조립합니다.
-
6"검증했다"는 말을 의심하기
'검증했다'는 말이 무엇까지 확인한 것인지 구분해 말합니다.
-
7실제로 쓰기 전에 바꿀 것
학습용 코드를 운영으로 옮길 때 반드시 바꿀 곳을 찾아냅니다.
-
8직접 돌려 보기
검증을 직접 재현하고, 자기 프로젝트에 옮긴 뒤 다시 확인합니다.
-
9구조로 막을 수 없는 공격
구조로 막을 수 없는 위협이 있음을 알고, 피해 범위를 좁히는 방법을 씁니다.
이 트랙에서 처음 나오는 용어
본문에서 점선이 그어진 낱말에 마우스를 올리면 같은 뜻이 뜹니다. 키보드로는 탭 키로 옮겨 가면 됩니다.
| 용어 | 뜻 |
|---|---|
| 승인 게이트 | 위험한 일 앞에서 사람 승인을 받는 관문 |
| 멱등성 | 같은 작업을 여러 번 해도 한 번만 수행되는 성질 |
| idempotency key | 같은 작업인지 알아보기 위한 식별값 |
| 감사 로그 | 누가 무엇을 언제 했는지 남기는 기록 |
| 권한 최소화 | 꼭 필요한 만큼만 할 수 있게 범위를 좁히는 것 |
| prompt injection | 모델이 읽는 자료에 지시를 숨겨 조종하는 공격 |
| durable | 프로그램을 껐다 켜도 남아 있는. 영속적인 |
| py_compile | 실행하지 않고 문법 오류만 확인하는 도구 |