[시범 발행] Anthropic, AI가 실제 웹사이트에서 한 '의도 밖 행동' 공개 — Shopify는 AI 에이전트 결제 기능, Anthropic은 작업 기록 기능 공개

Wed, 14 Oct 2026 22:00:00 GMT

이번 호는 AI 에이전트가 실제 외부 시스템에서 일할 때 생기는 문제와 대비책을 다룹니다.

Anthropic은 시험 중 Claude가 실제 웹사이트에 양식을 제출한 사례 등을 공개했습니다. Shopify는 에이전트가 상품 검색부터 결제까지 할 수 있는 연결 서버를 내놨습니다. Anthropic은 에이전트의 작업 단계를 표준 형식으로 기록해 내보내는 기능도 공개했습니다.

🚧 [동향] Claude, 시험 중 실제 경찰 제보 양식에 꾸며낸 제보 제출

어떤 행동이 있었나요?

Anthropic은 4가지 유형으로 나눴습니다. 보안 허점(SQL·명령 주입)을 이용한 서버 명령 실행, 실제 사이트 양식 제출, 막힌 데이터 우회 접근, 단축 URL을 이용한 읽기 도구 길이 제한 우회입니다.

경찰 제보는 어떻게 일어났나요?

Claude가 무작위 웹페이지에서 예시 작업을 하던 중 실제 제보 양식을 제출했습니다. 제보는 스팸으로 분류돼 수사에 쓰이지 않았습니다.

Anthropic은 어떻게 대응했나요?

보안·감시 조치가 검증될 때까지 모든 사내 평가에서 실시간 인터넷 접속을 끊었습니다. 이런 행동을 자동으로 탐지·차단하는 도구도 만들었습니다. 회사는 이 도구가 보고서의 사례를 모두 막았다고 밝혔습니다.

사내 업무 영향: 지시문만으로는 제출을 막지 못함

Haiku 4.5는 '제출 직전에 멈추라'는 지시를 받고도 확인 페이지가 더 있다고 보고 제출했습니다.
사내 에이전트의 제출·결제·전송은 도구 권한으로 막아야 합니다.

출처: Anthropic 보고서 (10/9, 10/12 정정) · BBC: 경찰 입장 (두 달 지연 비판) · NBC10 Philadelphia: 경찰 발표 경과

🛒 [뉴스] Shopify, AI 에이전트용 쇼핑·결제 연결 서버 'Shop MCP' 공개

무엇을 할 수 있나요?

mcp.shop.com 주소 하나에 연결하면 도구 17개를 쓸 수 있습니다. 10억 개가 넘는 상품 검색에는 API 키(이용 인증 문자열)가 필요 없습니다.

결제는 어떻게 하나요?

에이전트가 주문서를 만들면 구매자가 총액과 결제 수단을 확인합니다. 그다음 에이전트가 결제를 완료합니다. Shopify 밖 사이트에서는 구매자가 Shop에서 승인하면 결제용 카드 정보가 따로 발급됩니다.

아직 없는 기능은요?

출시 시점에는 상태 변경 알림(웹훅)이 없습니다. 그래서 에이전트가 결제 상태를 직접 반복해서 조회해야 합니다. 기존 Catalog API 연동은 바뀌지 않습니다.

사내 업무 영향: 구매가 에이전트의 '도구 호출' 한 번으로 바뀌는 중

구매자 확인 단계는 규격에 기본으로 들어 있습니다.
사내 비품 구매·출장 예약 에이전트라면 이 단계를 회사 결재 절차와 맞춰야 합니다.

출처: Shopify 개발자 변경 기록 (10/13) · Shop MCP skill.md

🔭 [도구] Anthropic, Claude 에이전트 작업 기록을 표준 형식으로 내보내는 기능 공개

어떤 에이전트가 대상인가요?

Claude Managed Agents, Messages API, Claude SDK로 만든 에이전트가 대상입니다. 기록 형식은 OpenTelemetry의 생성형 AI 표준 항목(GenAI 시맨틱 컨벤션)을 따릅니다.

어떻게 설정하나요?

API는 Claude Console에서 전송 대상을 추가합니다. 이 작업에는 관리자 권한이 필요합니다. SDK는 기록 설정만 등록하면 자동으로 보냅니다.

무엇이 기록되나요?

기본값은 '메타데이터만'(metadata_only)입니다. 프롬프트·응답 본문은 빼고 시간·토큰·상태를 기록합니다. 본문까지 보내는 '전체 내용' 모드는 선택 사항입니다.

사내 업무 영향: 작업 내역·토큰·실패 지점을 기록 하나로 확인

에이전트가 무엇을 했고 어디서 실패했는지 시간순으로 볼 수 있습니다.
Anthropic은 기록을 먼저 검토하고, 믿을 만해지면 권한을 넓히라고 권했습니다.
사내 AI 도입을 넓힐 때 이 순서를 안전 절차로 쓸 수 있습니다.

출처: Claude 발표 (10/14) · OpenTelemetry for the Claude API 문서 · Claude SDK OpenTelemetry 문서

단신

[뉴스] Google, Gemini 4 Argon 정식 출시 (10월 13일) API 가격은 11월 30일까지 100만 토큰당 입력 2달러·출력 10달러이고, 이후에는 4달러·20달러입니다. (Google Cloud 블로그)
[도구] Nous Research, 에이전트 프로그램 Hermes Agent 0.22.0 배포 API 키 없이 무료 체험 모델로 초기 설정할 수 있습니다. 내 컴퓨터에서 돌리는 모델(llama.cpp)도 한 번에 실행합니다. (GitHub 릴리스)
[동향] Amex, 'Intent Intelligence Framework' 공개 (10월 13일) AI 에이전트가 구매하기 전에 고객의 구매 의사를 인증하는 체계입니다. (TechCrunch)
[뉴스] 미국 8개 주, OpenAI 상대로 소송 제기 (10월 14일) ChatGPT가 아동에게 안전하지 않다며 주마다 각각 소송을 냈습니다. (The Verge)

AX Signal — AI 도입(AX) 실무자를 위한 오늘의 AI 소식