Anthropic CVP 승인 후기: Claude와 보안 연구의 경계

Anthropic Cyber Verification Program 승인 메일 일부. 공개용 이미지에서는 Organization ID를 가렸다.

개요

Anthropic의 Cyber Verification Program, 줄여서 CVP에 신청했고 승인을 받았다.

처음에는 이 블로그의 취약점 점검을 위한 스크립트를 만들다가 사이버 보안에 걸려 막히는 것이 짜증나는 것에서 부터 시작되었다.

⏺ API Error: Claude Code is unable to respond to this request, which appears to violate our Usage Policy (https://www.anthropic.com/legal/aup). This request triggered cyber-related safeguards. To request an adjustment pursuant to our Cyber Verification Program based on how you use Claude, fill out https://claude.com/form/cyber-use-case?token=. To learn more about the program or provide feedback, visit o… Please double press esc to edit your last message or start a new session for Claude Code to assist with a different task. Request ID:

다들 보안 연구나 CTF, 내부 점검 스크립트를 만들다 보면 종종 저런 세이프가드 에러가 뜰 것이다. 매번 읽기 귀찮아서 넘겼지만 한 번 읽어보니 대충 Cyber Verification Program 즉, CVP를 신청하면 된다는 것 같다.

고민은 결과만 지연된다. 바로 신청 하니 곧 신청 접수 메일이 왔다. 메일에는 제출한 내용을 검토한 뒤 영업일 기준 2일 안에 결과를 알려주겠다는 내용이 있었다. 이후 승인 메일을 받았고, 내가 제출한 사이버 보안 유스케이스에 맞춰 계정에 적용되던 일부 세이프가드가 조정되었다는 안내를 받았다.

이번 글은 CVP 승인 자체를 자랑하려는 목적보다는, AI 모델을 보안 연구에 사용할 때 어디까지가 합법적인 dual-use cybersecurity 활동이고, 어디서부터는 금지된 사용인지 정리해보려는 기록에 가깝다.

영업일 기준 2일 걸린다더니 그냥 밤에 신청하고 자고 일어나니 승인되었다.

Anthropic CVP가 뭔가

Claude에는 실시간 사이버 세이프가드가 적용된다.

Anthropic 문서에 따르면 이 세이프가드는 Usage Policy를 기준으로, 금지된 사이버 활동이나 고위험 dual-use 활동으로 보이는 요청을 탐지하고 차단하기 위한 장치다. 여기서 중요한 점은 모든 사이버 보안 요청이 같은 범주로 취급되는 것은 아니라는 점이다.

Anthropic은 대략 다음처럼 구분한다.

Prohibited use: 대량 데이터 탈취, 랜섬웨어 개발처럼 방어 목적의 정당한 사용 가능성이 거의 없는 활동

High Risk Dual use: 취약점 악용 재현, 공격적 보안 도구 개발처럼 방어 목적도 있지만 악용 가능성도 있는 활동

CVP는 두 번째 범주에 있는 합법적인 보안 연구자와 실무자를 위한 프로그램이다. 즉, 취약점 분석, 익스플로잇 재현, 공격 표면 검토, 보안 도구 개발처럼 공격자 관점의 사고가 필요하지만 목적은 방어와 검증에 있는 작업을 조금 더 안정적으로 수행할 수 있게 해주는 절차로 이해했다.

승인 메일의 핵심

승인 메일에서 핵심은 다음과 같았다.

제출한 사이버 보안 유스케이스를 검토한 뒤, 해당 조직에 적용되는 세이프가드를 조정했다는 내용이었다.

메일에는 dual-use cybersecurity activities, 예를 들면 vulnerability exploitation이나 offensive security tooling 같은 작업이 승인된 조직에서는 기본적으로 차단되지 않도록 조정되었다는 설명이 있었다.

다만 이 승인은 특정 Organization ID에만 적용된다. 다른 조직이나 개인 워크스페이스에서 작업하면 승인 상태가 그대로 따라가지 않는다. 그래서 공개 글에서는 Organization ID를 가렸다.

중요한 점은 CVP 승인이 “무제한 허용권”은 아니라는 것이다.

금지된 사용은 여전히 막힌다. 예를 들어 대량 데이터 탈취, 랜섬웨어 개발, 무단 침해, 악성코드 제작처럼 명확하게 공격적이고 피해를 만들기 위한 요청은 CVP 승인과 관계없이 차단 대상이다.

왜 보안 연구자에게 의미가 있나