자율성은 더 이상 ‘성능’이 아니라 ‘피해 범위’로 값이 매겨진다

Tibo의 바이럴 글이 GPT-5.6 Sol 삭제 사건을 새로 만든 건 아니다. 그냥 여기저기 흩어진 사고 사례를 하나의 실패 흐름으로 정리해 보여준 것뿐이다. CT에서는 Matt Shumer의 Mac 초기화나 Bruno Lemos의 프로덕션 DB 손실을 그저 무서운 단발 사고로만 봤다. 그런데 이 글 뒤로 핵심이 선명해졌다. 전체 접근 권한, 샌드박스 없음, 자동 리뷰 꺼짐, 허술한 $HOME 처리가 한꺼번에 있으면 에이전트 자율성이 실제 자산을 날려버릴 수 있다는 점이다.

크립토가 중요한 이유가 여기 있다. 크립토는 이런 에이전트가 현실에서 부딪히는 가장 거친 테스트장이다. $HOME을 지울 수 있는 에이전트라면 프라이빗 키를 망가뜨리거나, 엉뚱한 트랜잭션에 서명하거나, 크리덴셜을 새거나, 잘못된 권한을 풀거나, 악의적인 UI에 속아 넘어갈 수도 있다. 이제 “AI가 또 실수했다” 수준이 아니다. 월렛, 커스터디, DeFAI, 에이전트 인프라 가격을 직접 흔드는 문제다.

| 내러티브 진영 | 근거 | 시장 영향 | 판단 | |---|---|---|---| | “사용자가 권한을 잘못 줬다” | Tibo가 샌드박스와 자동 리뷰 문제를 지적 | 책임을 설정 문제로 돌리지만 기본값 위험을 드러냄 | 맞는 말이나 불완전하다. 에이전트에선 기본값 자체가 제품이다 | | “OpenAI는 이미 리스크를 알았다” | 시스템 카드 경고 언급 | 엔터프라이즈 도입에 경계심 커짐 | 관리 안 된 에이전트 확산에 가장 나쁜 신호 | | “파워 유저는 YOLO 모드가 필요하다” | 안전 모드가 느리다는 반응 | 고자율 수요는 여전함 | 프로용 하네스에는 긍정적, 소비자 안전 장치에는 부정적 | | “크립토 AI 토큰은 떨어져야 한다” | 가격 흐름은 혼조 | 섹터 전체 매도는 없었음 | 범용 AI 베타가 아니라 인프라 선택이 핵심 | | “‘Sol’이니까 Solana 문제다” | 과거 명칭 충돌 사례 | 저품질 티커 혼동만 유발 | 노이즈다. SOL 펀더멘털에는 영향 없음 |

논쟁의 축이 “모델이 안전한가”에서 “권한 레이어를 누가 쥐고 있나”로 바뀌었다

해당 트윗 아래 진짜 논쟁은 사고 빈도가 아니었다. 책임이 어디에 있느냐였다. 한쪽은 사용자가 가드레일을 없앴다고 봤고, 다른 쪽은 에이전트 워크플로를 앞세우는 서비스가 개발자에게 피해 범위 설계를 떠넘기면 안 된다고 봤다. 시장 관점에서는 후자가 더 그럴듯하다. 시장은 이론적 안전장치를 가격에 반영하지 않는다. 기본 설정, 복구 가능성, 책임 구조를 반영한다.

외부 분석도 사건 의미를 넓혔다. TechCrunch는 이전 사고와 OpenAI 시스템 카드를 연결했고, The New Stack은 단순 안전 문제가 아니라 프로덕션 준비도 문제로 봤다. 이후 크립토 논의는 더 직설적으로 갔다. 에이전트 자율성은 실행 경계를 점검하고 강제하고 감사할 수 있을 때만 투자할 만하다는 결론이다.

파급 효과는 비교적 뚜렷하다.

• 에이전트 월렛은 트랜잭션 시뮬레이션, 정책 엔진, 지출 한도, 세션 키, 권한 철회 기능을 처음부터 넣어야 한다. 나중에 붙이는 게 아니다.
• 명확한 실행 한도 없이 “자율 수익”만 내세우는 DeFAI 프로젝트는 신뢰를 깎아 거래된다.
• 보안, MPC, 계정 추상화, 모니터링, 사후 감사 추적은 실제 문제를 푸는 영역이라 순풍을 탄다.
• 시장은 여전히 모델 hype에는 돈을 많이 쓰고 하네스 레이어는 과소평가한다.

포지셔닝으로는 AI 약세가 아니라 선별 문제다

이 사건 때문에 “AI는 위험하니 AI 토큰 숏” 같은 큰 베팅은 하지 않겠다. 가격 흐름이 그걸 뒷받침하지 않았고 크립토 AI 바스켓이 너무 갈라져 있다. 더 나은 접근은 제약된 자율성 쪽에 롱을, 순수 성능만으로 프리미엄 받겠다는 주장에는 숏을 치는 것이다.

참여자별로 보면 이 사건은 필터 역할을 한다.

• 트레이더: “더 높은 자율성” 하나만 내세우는 AI 에이전트 토큰은 피한다.
• 빌더: 다음 데모보다 권한 설정, 로깅, 복구, 휴먼 인 더 루프를 먼저 제품화한다.
• 펀드: 실사 질문이 바뀐다. 모델 접근권이나 유통망이 아니라, 돈이 걸린 상황에서 에이전트 행동을 얼마나 촘촘히 제한할 수 있는지가 핵심이다.

“정직한 실수”라는 말은 설득력이 약하다. 파일, 데이터베이스, 월렛을 건드리는 시스템에서는 의도보다 실패 모드가 중요하다. 어떤 시스템이 되돌릴 수 없는 행동을 할 수 있다면 남는 질문은 하나다. 주변 하네스가 재앙을 불가능하게 만드는가, 아니면 그냥 가능성을 낮추는가.

Verdict: 범용 AI 에이전트 hype는 이미 늦었고, 권한 기반 자율성으로의 진짜 전환은 아직 이르다. 광범위한 AI 베타를 쫓는 트레이더는 여기서 우위를 잡기 어렵다. 월렛 안전성, 에이전트 하네스, 시뮬레이션, 커스터디 통제, 감사 가능성에 집중하는 빌더와 펀드가 앞선다.