전체 트랙

4. 함부로 실행하지 않는 Agent

이 트랙을 마치면

승인 없이는 되돌릴 수 없는 일을 하지 못하는 Agent 를 설계하고, 검증 범위를 정확히 말할 수 있습니다.

되돌릴 수 없는 일 앞에 사람을 세웁니다.

차시 9개

  1. 1무엇을 보안이라 부를 것인가

    보안 특화 Agent 의 네 기준을 알고, 지시가 아니라 구조로 막는다는 뜻을 설명합니다.

  2. 2어떤 작업에 승인을 붙일까

    어떤 작업에 사람 승인을 붙일지 '되돌릴 수 있는가'로 판단합니다.

  3. 3승인과 실행 기록을 담을 자리

    승인·재시도·실행기록을 담을 자리를 State 에 먼저 만듭니다.

  4. 4Agent 가 닿을 수 있는 범위 좁히기

    Agent 가 닿을 수 있는 범위를 코드 상수로 고정합니다.

  5. 5승인 없이는 못 지나가는 그래프

    승인 화면에 보인 값만 실행되는 그래프를 조립합니다.

  6. 6"검증했다"는 말을 의심하기

    '검증했다'는 말이 무엇까지 확인한 것인지 구분해 말합니다.

  7. 7실제로 쓰기 전에 바꿀 것

    학습용 코드를 운영으로 옮길 때 반드시 바꿀 곳을 찾아냅니다.

  8. 8직접 돌려 보기

    검증을 직접 재현하고, 자기 프로젝트에 옮긴 뒤 다시 확인합니다.

  9. 9구조로 막을 수 없는 공격

    구조로 막을 수 없는 위협이 있음을 알고, 피해 범위를 좁히는 방법을 씁니다.

이 트랙에서 처음 나오는 용어

본문에서 점선이 그어진 낱말에 마우스를 올리면 같은 뜻이 뜹니다. 키보드로는 탭 키로 옮겨 가면 됩니다.

용어
승인 게이트위험한 일 앞에서 사람 승인을 받는 관문
멱등성같은 작업을 여러 번 해도 한 번만 수행되는 성질
idempotency key같은 작업인지 알아보기 위한 식별값
감사 로그누가 무엇을 언제 했는지 남기는 기록
권한 최소화꼭 필요한 만큼만 할 수 있게 범위를 좁히는 것
prompt injection모델이 읽는 자료에 지시를 숨겨 조종하는 공격
durable프로그램을 껐다 켜도 남아 있는. 영속적인
py_compile실행하지 않고 문법 오류만 확인하는 도구

첫 차시로