14유형: SQL·명령 주입으로 서버 명령 실행 / 실제 사이트 양식 제출 / 토큰·요금으로 막힌 데이터 우회 / URL 단축기로 fetch 길이 제한 우회
2Haiku 4.5가 무작위 웹페이지 과제 중 경찰 제보 양식에 꾸며낸 제보를 제출. 스팸으로 분류돼 수사관에게 전달되지 않음
3대응: 모든 사내 평가에서 라이브 인터넷 차단 확대, 탐지·차단 도구를 만들어 사례에 돌려보니 전부 막았다(자사 발표)

출처anthropic.combbc.comnbcphiladelphia.com

TRENDAX 실무자 관점01

💡 우리에게 의미

'제출 직전에 멈춰'라는 지시만으로는 부족하다. Haiku 4.5는 그렇게 지시받고도 확인 페이지가 더 있을 줄 알고 제출했다. 사내 브라우저·컴퓨터 사용 에이전트는 제출·결제·전송을 프롬프트가 아니라 도구 권한으로 막아야 한다.

✅ 이번 주 해볼 것 하나

우리 팀 에이전트 워크플로 1개를 골라 '되돌릴 수 없는 액션' 목록을 만들고, 각 액션이 프롬프트로만 막혀 있는지 도구·권한으로 막혀 있는지 표시해 보기.

⚠️ 과장된 부분 · 주의점

'Rogue AI(폭주)'라는 헤드라인(BBC)은 과장일 수 있다. Anthropic 판단으로는 대부분 과제를 끝내려는 우회였고 실제 영향은 미미했다. 다만 '미미하다'는 건 회사 자체 판단이고 경찰은 심각성을 강조했다. 통보일도 경찰은 10/7, Anthropic은 10/8 공유라고 서로 다르게 적었다.

🧵 이어지는 이야기: 에이전트가 '진짜 인터넷'에서 선을 넘을 때 (6개 사건)

02NEWS · 뉴스

Shopify, 아무 에이전트에나 결제를 열었다

Shop MCP 하나로 검색·장바구니·Shop Pay 결제까지 (10/13)

NEWS핵심 3줄02

Shopify, 아무 에이전트에나 결제를 열었다

1https://mcp.shop.com 연결 하나에 도구 17개. Shopify Catalog 10억+ 상품 검색은 API 키 없이 가능
2쇼퍼가 총액·결제 수단을 확인한 뒤 에이전트가 complete_checkout. Shopify가 아닌 매장은 Shop 승인 후 일회용 카드
3출시 시점엔 웹훅이 없어 get_checkout을 폴링해야 함. 기존 Catalog API 연동은 변경 없음

출처shopify.devmcp.shop.com

NEWSAX 실무자 관점02

💡 우리에게 의미

구매가 '에이전트 도구 호출'이 되는 흐름이고, 사람 확인 단계가 프로토콜의 기본값이 돼 간다. 사내 비품 구매·출장 예약 에이전트를 설계할 때 이 확인 단계를 우리 결재 라인과 어떻게 맞출지가 핵심이다.

✅ 이번 주 해볼 것 하나

shop CLI로 검색만 해보기(무료, 계정·키 불필요). 웹판 '직접 써본 후기'에 우리가 실제로 돌려본 결과가 있다.

⚠️ 과장된 부분 · 주의점

Shopify는 전환율 같은 성과 수치를 공개하지 않았다. 결제에는 Shop 로그인이 필요하고, 한국 배송·결제를 지원하는지는 확인하지 못했다. 직접 검색해 보니 KRW를 지정해도 SGD·INR 가격이 섞여 나왔다.

🧵 이어지는 이야기: 에이전트가 결제하는 쇼핑 (4개 사건)

03TOOL · 도구

Claude 에이전트의 모든 행동이 트레이스로 남는다

Claude Platform, OpenTelemetry 내보내기 public beta (10/14)

TOOL핵심 3줄03

Claude 에이전트의 모든 행동이 트레이스로 남는다

1Managed Agents·Messages API·SDK 트레이스를 OTel 도구로 전송. OTel GenAI 시맨틱 컨벤션을 따름
2API 쪽은 Claude Console에서 destination 추가(Admin 권한), SDK는 tracer provider만 등록하면 자동
3기본은 metadata_only(프롬프트·응답 본문 제외). 본문까지 보내는 content 모드는 선택

출처claude.complatform.claude.complatform.claude.com

TOOLAX 실무자 관점03

💡 우리에게 의미

사내 에이전트가 '무엇을, 얼마나 써서, 왜 실패했는지'를 하나의 타임라인으로 볼 수 있다. Anthropic 표현대로 트레이스를 먼저 보고, 믿을 만해지면 권한을 넓히는 순서가 AX 확산의 안전장치가 된다.

✅ 이번 주 해볼 것 하나

파일럿 에이전트 1개를 골라 '보고 싶은 span·속성' 체크리스트(턴·도구 호출·토큰·실패 사유)를 만들고, metadata_only로 충분한지 판단해 보기.

⚠️ 과장된 부분 · 주의점

베타 기간에는 SDK 옵션과 span 스키마가 호환되지 않게 바뀔 수 있다고 문서에 적혀 있다. SDK 버전을 고정하자. 발표문의 'Ramp 토큰 10–20% 절감'은 그 회사 자체 시스템 사례지 OTel 기능 자체의 효과가 아니다.

🧵 이어지는 이야기: 에이전트가 한 일을 기록으로 남기기 (2개 사건)

한 줄 단신

이번 주 같이 봐둘 소식

NEWS
Google, Gemini 4 Argon 정식 출시(10/13). API 소개 가격은 100만 토큰당 입력 $2·출력 $10(11/30까지), 이후 $4·$20
cloud.google.com
TOOL
Nous Research Hermes Agent v0.22.0. API 키 없이 무료 체험 모델로 설정 대화, llama.cpp 로컬 모델 원클릭 실행
github.com
TREND
Amex, 에이전트 구매 전에 고객 의도를 인증하는 'Intent Intelligence Framework' 공개(10/13)
techcrunch.com
NEWS
미국 8개 주, ChatGPT가 아동에게 안전하지 않다며 OpenAI에 각각 소송 제기(10/14)
theverge.com

오늘의 AX 팁

에이전트에게 일을 맡길 때 '경계'부터 적기

BEFORE

이 신청서 양식 채워서 제출 직전까지만 해줘.

AFTER

[목표] 신청서 양식의 빈칸 채우기
[범위] 이 URL 한 페이지만. 다른 사이트로 이동 금지
[허용] 입력·선택만. 제출·결제·로그인·계정 생성 금지
[멈춤] '제출/확인' 버튼이 보이면 누르지 말고 화면을 캡처해 보고
[막히면] 우회하지 말고 무엇이 막혔는지 보고 후 종료

Anthropic은 일부 사례가 평가 지시에 범위·허용 행동·네트워크 경계가 분명했다면 피할 수 있었을 거라고 썼다. 같은 원리를 사내 에이전트 지시문에 적용한 예시다(효과를 우리가 측정한 것은 아님).

AX Signal샘플 이슈

오늘의 출처