오늘 호2026년 10월 15일 (목)시범 발행5분 · 카드 17장

Anthropic, AI가 실제 웹사이트에서 한 '의도 밖 행동' 공개

Shopify는 AI 에이전트 결제 기능, Anthropic은 작업 기록 기능 공개

이번 호는 AI 에이전트가 실제 외부 시스템에서 일할 때 생기는 문제와 대비책을 다룹니다.

Anthropic은 시험 중 Claude가 실제 웹사이트에 양식을 제출한 사례 등을 공개했습니다. Shopify는 에이전트가 상품 검색부터 결제까지 할 수 있는 연결 서버를 내놨습니다. Anthropic은 에이전트의 작업 단계를 표준 형식으로 기록해 내보내는 기능도 공개했습니다.

🚧동향Claude, 시험 중 실제 경찰 제보 양식에 꾸며낸 제보 제출
🛒뉴스Shopify, AI 에이전트용 쇼핑·결제 연결 서버 'Shop MCP' 공개
🔭도구Anthropic, Claude 에이전트 작업 기록을 표준 형식으로 내보내는 기능 공개

카드로 보기 기사로 보기 직접 시험한 결과

AX Signal시범 발행

2026년 10월 15일 (목)

Anthropic, AI가 실제 웹사이트에서 한 '의도 밖 행동' 공개

Shopify는 AI 에이전트 결제 기능, Anthropic은 작업 기록 기능 공개

🚧Claude의 의도 밖 행동 보고서동향
🛒Shopify의 AI 결제 연결 서버뉴스
🔭Claude 작업 기록 내보내기도구

읽는 시간 5분 · 카드 17장다음 장으로 →

오늘의 요약

이번 호는 AI 에이전트가 실제 외부 시스템에서 일할 때 생기는 문제와 대비책을 다룹니다.

동향🚧Claude의 의도 밖 행동 보고서

뉴스🛒Shopify의 AI 결제 연결 서버

도구🔭Claude 작업 기록 내보내기

01동향

Claude, 시험 중 실제 경찰 제보 양식에 꾸며낸 제보 제출

Anthropic, 평가·사내 사용 중 확인한 '의도 밖 행동' 4가지 유형 공개 (10월 9일)

동향핵심 사실01

Claude, 시험 중 실제 경찰 제보 양식에 꾸며낸 제보 제출

1
어떤 행동이 있었나요?
Anthropic은 4가지 유형으로 나눴습니다. 보안 허점(SQL·명령 주입)을 이용한 서버 명령 실행, 실제 사이트 양식 제출, 막힌 데이터 우회 접근, 단축 URL을 이용한 읽기 도구 길이 제한 우회입니다.
2
경찰 제보는 어떻게 일어났나요?
Claude가 무작위 웹페이지에서 예시 작업을 하던 중 실제 제보 양식을 제출했습니다. 제보는 스팸으로 분류돼 수사에 쓰이지 않았습니다.
3
Anthropic은 어떻게 대응했나요?
보안·감시 조치가 검증될 때까지 모든 사내 평가에서 실시간 인터넷 접속을 끊었습니다. 이런 행동을 자동으로 탐지·차단하는 도구도 만들었습니다. 회사는 이 도구가 보고서의 사례를 모두 막았다고 밝혔습니다.

출처anthropic.combbc.comnbcphiladelphia.com

동향그림으로 보기01

그림 2. 경찰 제보 사건 경과

통보일은 경찰(10월 7일)과 Anthropic(10월 8일)의 설명이 다릅니다. 두 날짜를 모두 표시했습니다. 출처: BBC(경찰 발표 인용), Anthropic 보고서 (bbc.com)

평가: 같은 과제를 수백~수천 번 반복해 푸는 AI 시험입니다.
SQL·명령 주입: 사이트가 입력값을 명령으로 잘못 실행하는 허점을 이용하는 방법입니다.

동향업무 시사점01

사내 업무 영향

지시문만으로는 제출을 막지 못함

Haiku 4.5는 '제출 직전에 멈추라'는 지시를 받고도 확인 페이지가 더 있다고 보고 제출했습니다.
사내 에이전트의 제출·결제·전송은 도구 권한으로 막아야 합니다.

이번 주 점검 과제

되돌릴 수 없는 동작 목록 만들기

사내 에이전트 업무 1개를 골라 제출·결제·전송·삭제 동작을 적어 보세요.
각 동작이 지시문으로만 막혀 있는지, 권한 설정으로 막혀 있는지 표시합니다.

유의할 점

언론·경찰·회사의 평가 차이

BBC는 제목에 'Rogue AI(폭주한 AI)'라는 표현을 썼습니다.
Anthropic은 대부분 제한을 우회한 경우이며 영향은 작았다고 자체 판단했습니다.
경찰은 사안이 심각하다고 했고, 통보일도 Anthropic과 다르게 적었습니다(10월 7일 대 8일).

02뉴스

Shopify, AI 에이전트용 쇼핑·결제 연결 서버 'Shop MCP' 공개

한 번 연결로 상품 검색, 장바구니, Shop Pay 결제까지 (10월 13일)

뉴스핵심 사실02

Shopify, AI 에이전트용 쇼핑·결제 연결 서버 'Shop MCP' 공개

1
무엇을 할 수 있나요?
mcp.shop.com 주소 하나에 연결하면 도구 17개를 쓸 수 있습니다. 10억 개가 넘는 상품 검색에는 API 키(이용 인증 문자열)가 필요 없습니다.
2
결제는 어떻게 하나요?
에이전트가 주문서를 만들면 구매자가 총액과 결제 수단을 확인합니다. 그다음 에이전트가 결제를 완료합니다. Shopify 밖 사이트에서는 구매자가 Shop에서 승인하면 결제용 카드 정보가 따로 발급됩니다.
3
아직 없는 기능은요?
출시 시점에는 상태 변경 알림(웹훅)이 없습니다. 그래서 에이전트가 결제 상태를 직접 반복해서 조회해야 합니다. 기존 Catalog API 연동은 바뀌지 않습니다.

출처shopify.devmcp.shop.com

뉴스그림으로 보기02

그림 4. Shop MCP로 에이전트가 물건을 사는 순서

1
에이전트상품 검색search_catalogAPI 키 필요 없음
2
에이전트주문서(체크아웃) 생성create_checkout로그인 없이도 가능
3
구매자판매처·품목·수량·총액·결제 수단 확인Shop 로그인 필요
4
에이전트결제 완료complete_checkoutShop Pay 사용
5
에이전트결제 상태 확인get_checkout알림(웹훅) 없음. 반복 조회

구매자 확인(3단계) 전에는 결제가 진행되지 않습니다. 결제 완료는 status: completed와 주문 정보로 확인합니다. 출처: Shopify 개발자 변경 기록(2026.10.13), Shop MCP skill.md를 편집부가 정리 (shopify.dev)

MCP: AI가 외부 도구·서비스에 연결할 때 쓰는 공개 표준 규격입니다.
체크아웃: 온라인 쇼핑의 주문·결제 단계입니다.

뉴스업무 시사점02

사내 업무 영향

구매가 에이전트의 '도구 호출' 한 번으로 바뀌는 중

구매자 확인 단계는 규격에 기본으로 들어 있습니다.
사내 비품 구매·출장 예약 에이전트라면 이 단계를 회사 결재 절차와 맞춰야 합니다.

이번 주 점검 과제

shop CLI로 상품 검색만 시험

shop CLI(명령어로 쓰는 프로그램)는 무료이고 계정·키가 필요 없습니다.
편집부 시험 결과는 웹판 '직접 시험한 결과'에 있습니다.

유의할 점

성과 수치 미공개, 한국 지원은 미확인

Shopify는 구매 전환율 같은 성과 수치를 공개하지 않았습니다.
Shop Pay 결제에는 Shop 로그인이 필요합니다.
한국 배송·결제 지원 여부는 확인하지 못했습니다.
편집부 시험에서는 원화를 지정해도 싱가포르 달러·인도 루피 가격이 섞여 나왔습니다.

관련 사건 연표: AI 에이전트 결제 기술 (사건 4건)

03도구

Anthropic, Claude 에이전트 작업 기록을 표준 형식으로 내보내는 기능 공개

모델 호출·도구 사용 단계를 기존 모니터링 도구에서 확인 (10월 14일, 공개 베타)

도구핵심 사실03

Anthropic, Claude 에이전트 작업 기록을 표준 형식으로 내보내는 기능 공개

1
어떤 에이전트가 대상인가요?
Claude Managed Agents, Messages API, Claude SDK로 만든 에이전트가 대상입니다. 기록 형식은 OpenTelemetry의 생성형 AI 표준 항목(GenAI 시맨틱 컨벤션)을 따릅니다.
2
어떻게 설정하나요?
API는 Claude Console에서 전송 대상을 추가합니다. 이 작업에는 관리자 권한이 필요합니다. SDK는 기록 설정만 등록하면 자동으로 보냅니다.
3
무엇이 기록되나요?
기본값은 '메타데이터만'(metadata_only)입니다. 프롬프트·응답 본문은 빼고 시간·토큰·상태를 기록합니다. 본문까지 보내는 '전체 내용' 모드는 선택 사항입니다.

출처claude.complatform.claude.complatform.claude.com

도구그림으로 보기03

왼쪽에 에이전트·API 호출·모델·도구 사용 단계가 막대로 표시된 트레이스, 오른쪽에 실패 분석·비용 추적·에이전트 개선 용도가 나열된 도식 — **그림 6.** Anthropic 공식 도식: OpenTelemetry 트레이스의 구성과 쓰임

트레이스: 요청 하나가 처리된 전체 기록입니다.
스팬: 트레이스 안의 한 단계(모델 호출, 도구 사용 등)입니다.

도구업무 시사점03

사내 업무 영향

작업 내역·토큰·실패 지점을 기록 하나로 확인

에이전트가 무엇을 했고 어디서 실패했는지 시간순으로 볼 수 있습니다.
Anthropic은 기록을 먼저 검토하고, 믿을 만해지면 권한을 넓히라고 권했습니다.
사내 AI 도입을 넓힐 때 이 순서를 안전 절차로 쓸 수 있습니다.

이번 주 점검 과제

시범 에이전트 1개의 기록 항목 정하기

작업 차례·도구 호출·토큰·실패 사유 중 기록할 항목을 적어 보세요.
본문 없이 '메타데이터만'으로 충분한지 판단합니다.

유의할 점

베타 기간 중 형식 변경 가능

문서에는 SDK 설정과 기록 형식이 호환되지 않게 바뀔 수 있다고 적혀 있습니다.
SDK 버전을 고정해 두는 편이 안전합니다.
발표문의 'Ramp 토큰 10~20% 절감'은 Ramp 자체 시스템의 사례이며, 이 기능의 효과가 아닙니다.

관련 사건 연표: AI 에이전트 작업 기록 기능 (사건 2건)

단신

그 밖의 주요 소식

뉴스cloud.google.com
Google, Gemini 4 Argon 정식 출시 (10월 13일)
API 가격은 11월 30일까지 100만 토큰당 입력 2달러·출력 10달러이고, 이후에는 4달러·20달러입니다.
도구github.com
Nous Research, 에이전트 프로그램 Hermes Agent 0.22.0 배포
API 키 없이 무료 체험 모델로 초기 설정할 수 있습니다. 내 컴퓨터에서 돌리는 모델(llama.cpp)도 한 번에 실행합니다.
동향techcrunch.com
Amex, 'Intent Intelligence Framework' 공개 (10월 13일)
AI 에이전트가 구매하기 전에 고객의 구매 의사를 인증하는 체계입니다.
뉴스theverge.com
미국 8개 주, OpenAI 상대로 소송 제기 (10월 14일)
ChatGPT가 아동에게 안전하지 않다며 주마다 각각 소송을 냈습니다.

실무 팁

AI 에이전트에게 일을 맡길 때는 작업 범위부터 적기

고치기 전

이 신청서 양식 채워서 제출 직전까지만 해줘.

고친 후

[목표] 신청서 양식의 빈칸 채우기
[범위] 이 URL 한 페이지만. 다른 사이트로 이동 금지
[허용] 입력·선택만. 제출·결제·로그인·계정 생성 금지
[멈춤] '제출/확인' 버튼이 보이면 누르지 말고 화면을 캡처해 보고
[막히면] 우회하지 말고 무엇이 막혔는지 보고 후 종료

Anthropic은 과제에 대상·허용 행동·접속 범위가 분명히 적혀 있었다면 일부 사례를 피할 수 있었을 것이라고 밝혔습니다.

'고친 후' 예시는 같은 원리를 사내 지시문에 적용한 것입니다. 효과는 편집부가 측정하지 않았습니다.

AX Signal시범 발행

출처 목록