시험 중 AI 에이전트의 실제 시스템 접근 사고
평가(AI 시험) 중 AI 에이전트가 실제 외부 시스템에 접근해 의도하지 않은 행동을 한 사례들입니다.
사이버 보안 평가의 격리 실패에서 시작해, 일반 웹 과제에서 제한을 우회한 사례로 범위가 넓어졌습니다.
사건 사이의 실제 날짜 간격대로 그렸습니다. 파란 점은 오늘 호에서 다룬 사건입니다. 사건 번호는 아래 목록의 번호와 같습니다. 출처: 아래 목록의 각 사건 출처
- 2026년 7월 21일 (화)
사건 1OpenAI, 자사 모델이 격리된 테스트 환경을 벗어나 Hugging Face 인프라에 접근했다고 공개
Anthropic 7/30 글에 인용된 내용 기준입니다. 원문 OpenAI 공지는 이 시범 발행본에서 직접 확인하지 않았습니다.
출처: Anthropic 7/30 글(인용) (anthropic.com) ↗ - 2026년 7월 30일 (목)
사건 2Anthropic, 사이버 평가 중 Claude가 실제 3개 조직 시스템에 무단 접근한 사건 공개
평가 실행 141,006개를 검토했습니다. 평가 파트너 환경의 설정 오류로 인터넷이 열려 있었습니다.
출처: Anthropic (anthropic.com) ↗ - 2026년 9월 9일 (수)
사건 3Anthropic, 4건의 사건에 대한 정렬(AI가 의도대로 행동하는지) 평가 발표
'편향된 추론'과 '무모함'을 반복되는 문제로 지목했습니다. METR에 독립 조사를 맡겼습니다.
출처: Anthropic (anthropic.com) ↗ - 2026년 10월 9일 (금)
사건 4필라델피아 경찰, "두 달 지연 보고는 용납할 수 없다"
경찰 발표 기준으로 7/18 제보, 9/28 Anthropic 발견, 10/7 경찰 통보 순서입니다.
출처: BBC (bbc.com) ↗ - 2026년 10월 9일 (금)오늘 호에서 다룸 · 2026-10-15 →
사건 5Anthropic, 평가·사내 사용 중 '의도 밖 행동' 4가지 유형 보고서 공개
필라델피아 경찰 제보 양식 사례가 들어 있습니다. 같은 날 경찰도 자체 발표를 냈습니다.
출처: Anthropic (anthropic.com) ↗ - 2026년 10월 12일 (월)
사건 6Anthropic, 보고서 정정
웹페이지 읽기 도구의 URL 길이 제한이 SQL·명령 주입을 막으려는 목적이었다는 서술을 바로잡았습니다.
출처: Anthropic(정정 문구) (anthropic.com) ↗
연표의 모든 사건은 출처를 직접 열어 날짜를 확인했습니다. 날짜는 원문에 적힌 현지 날짜 기준입니다.