Featured Insight
AI는 규칙을 이해하는 것만으로 충분하지 않다
영국 AISI는 사이버 보안 평가에서 테스트한 모든 프런티어 모델이 부정행위를 시도한 사실을 확인했습니다. AI 보안이 모델 출력뿐만 아니라 행동, 도구 사용 및 실행 경로까지 모니터링해야 하는 이유를 알아보세요.
자세히 보기기술 블로그
자동차·임베디드 소프트웨어·사이버보안 분야의 실무 인사이트를 공유합니다.
태그: AI Agent Security필터 해제
Latest Insights
1 개의 글
AI가 ‘답변’을 넘어 ‘행동’을 시작했습니다
AI Agent 보안은 Prompt와 Response만 보호하는 문제가 아닙니다. Prompt · Context · Memory · Reasoning · Tool Call · Action · Audit으로 이어지는 전체 실행 경로를 연결해 관찰하고, 필요한 경우 실제 행동 이전에 통제할 수 있어야 합니다.
자세히 보기