핵심 요지

Demis Hassabis는 AGI가 몇 년 안에 현실이 될 수 있다고 보고 있다. 고도화된 AI 모델이 시장에 나오기 전에 미국이 주도하는 기구가 안전성을 먼저 검증해야 한다는 입장이다.

요약

Google DeepMind를 이끄는 Demis Hassabis는 AGI가 생각보다 가까이 왔고, 그 영향이 과거 기술 전환보다 클 수 있다고 본다. 문제는 기업과 국가 간 경쟁 속도가 사회가 리스크를 제도화하는 속도보다 빠르다는 점이다.

그가 내놓은 해법은 FINRA를 참고한 미국 발 표준·검증 기구다. 최상위 모델이 배포되기 전에 안전성을 점검하고, 위험 역량을 측정할 공통 벤치마크를 만드는 역할을 맡긴다.

분석

이번 발언에서 눈에 띄는 건 단순한 AGI 전망이 아니라, 짧은 AGI 타임라인과 구체적인 거버넌스 설계가 함께 나왔다는 점이다.

Hassabis의 접근은 규제 문서 작성보다는 실제 기술 검증에 가깝다. 이를 운영하려면 몇 가지 조건이 필요하다.

• 지속적으로 업데이트되는 테스트 체계
• 충분한 컴퓨트 접근권
• 외부 전문가 참여
• 위험 역량을 측정할 공통 기준

구조적으로는 처음엔 자율 참여에 가깝지만, 미국 내 모델부터 점차 의무화되는 형태가 될 수 있다. 그래서 두 극단 사이를 겨냥한 제안이다.

| 구분 | 접근 방식 | 핵심 리스크 | |---|---|---| | 자율규제 | 기업이 자체적으로 안전성 판단 | 기준 불일치와 이해상충 | | 전면 라이선스 | 정부가 강하게 허가권 행사 | 혁신 저해와 진입장벽 확대 | | Hassabis 제안 | 표준 기구가 사전 검증과 벤치마크 제공 | 운영 독립성과 적용 범위가 관건 |

특히 오픈소스 진영까지 포함하고, 폐쇄형과 공개형 모델 모두에 규칙을 적용하겠다는 방향이 핵심 쟁점이다. 강력한 AI를 통제하면서도 스타트업·대학·오픈 리서치 생태계를 너무 압박하지 않는 게 관건이다.

프런티어 랩 입장에서는 비용과 운영 부담이 커질 가능성이 높다. 요구사항이 다음 영역으로 늘어날 수 있다.

• 보안 체계
• 모델 문서화
• 인력 검증
• 안전성 연구
• 역량 테스트

다만 이 부담이 동시에 모델 출시 기준을 더 명확하게 만드는 효과도 있다. 시장에 무엇이 출시 가능한 모델인지에 대한 공통선이 생길 수 있다는 뜻이다.

영향 평가

중요도: 높음

분류: AI 정책, AI 안전성, 산업 트렌드

Verdict: 이 내러티브는 아직 초기 단계다. 우위는 단기 트레이더가 아니라 규제 대응력과 컴퓨트·보안 인프라를 갖춘 대형 빌더 쪽에 있다.