AI 속도 조절론, 무엇을 늦추고 누가 검증해야 할까

개발 중단이 아닌 ‘페이싱’의 뜻부터 독립 평가자의 권한, 중단 조건, 책임 구조까지 살펴본다.

AI 개발을 늦추자는 말은 쉽게 찬반으로 갈린다. 한쪽에서는 혁신을 막는 주장으로, 다른 쪽에서는 위험을 피할 유일한 해법으로 받아들인다. 그러나 지금 논의되는 ‘속도 조절(pacing)’은 모든 연구를 같은 속도로 멈추자는 제안과 다르다.

속도조절론의 핵심은 AI를 멈출지 말지가 아니라, 능력 향상과 배포가 안전 검증을 추월하지 않도록 속도를 검증 가능한 조건에 묶는 데 있다.

‘천천히 하겠다’는 선언만으로 그 조건이 만들어지지는 않는다. 무엇을 늦추는지, 누가 위험을 판단하는지, 어떤 증거를 볼 수 있는지, 기준을 넘었을 때 실제로 멈출 권한이 누구에게 있는지가 함께 정해져야 한다.

이 글은 2026년 9월 27일까지 공개된 공식 자료를 기준으로 한다. 기업의 제안과 현재 운영 중인 절차, 회사 자체 평가와 독립 검증, 확인된 사실과 앞으로의 계획을 구분해 살펴본다.

1. AI 속도 조절론은 ‘개발 중단’과 다르다

속도 조절은 브레이크를 계속 밟아 두는 일이 아니다. 위험이 커지는 지점에 체크포인트를 만들고, 필요한 검증이 끝나기 전에는 다음 단계로 넘어가지 않는 운행 규칙에 가깝다.

다리오 아모데이는 2026년 9월 공개한 글에서 프런티어 AI의 능력 향상과 안전 역량 사이에 균형이 필요하다고 주장했다. 그가 말한 페이싱은 시간을 버는 데서 끝나지 않는다. 운영 안정성, 정렬, 해석 가능성, 시험과 평가를 개선하는 데 그 시간을 써야 한다는 제안이다.

이 관점에서는 연구 전체를 멈추는 것과 특정 위험 임계치 앞에서 훈련·접근 확대·외부 배포의 속도를 조절하는 일이 구분된다. 의료·과학 연구처럼 편익이 큰 활용을 모두 같은 방식으로 제한하자는 주장도 아니다.

국제 AI 안전 보고서 2026은 AI 능력이 빠르게 향상되는 반면, 위험에 관한 증거는 늦게 나타나고 평가하기 어렵다고 정리한다. 너무 일찍 고정된 규칙은 효과 없는 개입을 굳힐 수 있지만, 확실한 증거만 기다리면 심각한 위험에 취약해질 수 있다는 ‘증거의 딜레마’다.

따라서 속도 조절은 공포에 따른 정지가 아니라 불확실성을 다루는 방법이어야 한다. 위험의 크기와 되돌리기 어려운 정도가 커질수록 더 강한 평가와 보호 장치를 요구하고, 그 조건을 충족하면 다음 단계로 이동하는 방식이다.

다만 제안과 시행은 같은 말이 아니다.

공개된 글과 프레임워크는 방향과 원칙을 보여 주지만, 산업 전체가 같은 기준으로 실제 속도를 늦추고 있다는 증거는 아니다. ‘페이싱을 지지한다’는 발표를 곧바로 ‘개발 속도가 이미 조절됐다’는 사실로 읽어서는 안 된다.

2. 무엇의 속도를 조절한다는 말인가

‘AI 개발 속도’라는 표현만 쓰면 서로 다른 단계가 한 덩어리로 보인다. 실제로는 적어도 네 가지를 나눠야 한다.

훈련과 능력 향상

훈련 속도는 더 큰 모델이나 새로운 학습 방식을 얼마나 자주 시도하는가에 관한 문제다. 능력 향상 속도는 AI가 코딩·사이버·생물학·AI 연구처럼 위험과 편익이 함께 큰 영역에서 얼마나 빠르게 강해지는가를 뜻한다.

훈련 횟수만 줄인다고 위험이 자동으로 줄지는 않는다. 같은 모델이라도 새로운 도구와 긴 실행 시간을 얻으면 실제 행동 범위가 달라질 수 있기 때문이다.

접근과 배포 확대

접근 확대는 강한 모델에 도구·네트워크·계정·데이터를 누구에게 얼마나 허용할지 정하는 일이다. 배포 속도는 내부 시험에서 제한 제공, 일반 제공으로 넘어가는 문턱을 정하는 문제다.

강한 모델이라도 격리된 환경, 제한된 도구, 짧은 실행 시간, 사람의 승인 아래에서 시험하면 영향 범위를 좁힐 수 있다. 반대로 모델 훈련이 끝났더라도 접근권한이 넓고 배포가 빠르면 현실의 위험은 커질 수 있다.

조절 대상이 다르면 필요한 증거도 달라진다. 훈련에는 사용된 연산 자원과 안전 절차가, 능력 향상에는 재현 가능한 평가가 필요하다. 접근 확대에는 권한 기록과 이상 행동 감시가, 배포에는 중단 기준과 사고 대응 계획이 따라야 한다.

그래서 속도조절론을 평가할 때는 ‘얼마나 늦추는가’보다 ‘어느 문턱에서 무엇을 확인하는가’를 먼저 물어야 한다. 일정표보다 조건표가 중요하다.

3. 약속을 제도로 바꾸는 네 가지 장치

기업이 안전을 우선하겠다고 말하는 것과 실제로 위험한 결정을 멈출 수 있는 구조를 갖는 것은 다르다. 약속은 측정 기준, 외부 접근, 공개 가능한 결과, 중단과 복구 권한을 가질 때 제도가 된다.

능력 임계치: 언제 검증이 시작되는가

어떤 능력이나 위험 신호가 나타나면 추가 평가가 필요한지 먼저 정해야 한다. 결과를 본 뒤 기준을 바꾸면 불리한 신호를 예외로 돌리기 쉽다.

OpenAI의 2025년 Preparedness Framework는 생물·화학, 사이버 보안, AI 자기개선 같은 추적 영역에 능력 임계치를 두고, 높은 수준에 도달한 시스템에는 배포 전 보호 장치를 요구한다. 위험 신호와 조치를 연결하려는 구조다.

다만 공개된 프레임워크에서 최종 결정은 회사 내부의 안전 자문과 리더십 절차를 거친다. 공개 기준이 있다는 사실과 외부 기관이 결정권을 가진다는 사실은 같지 않다.

평가 접근권: 무엇까지 볼 수 있는가

외부 평가자가 공개 모델의 답변 몇 개만 시험해서는 훈련 과정, 내부 배포, 보호 장치의 실제 작동을 확인하기 어렵다. 평가하려는 주장에 비례해 모델·도구·로그·내부 자료에 접근할 수 있어야 한다.

아모데이가 제안한 ‘임베디드 평가자’는 내부 위험 평가팀과 비슷한 도구와 권한을 가진 외부 검토자가 지속적으로 안전 관행과 사고를 확인하는 구상이다. 그는 가까운 시일 안에 외부 검토팀을 초청하겠다는 계획도 밝혔다.

OpenAI는 이미 여러 형태의 제3자 평가와 전문가 검토를 운영해 왔다고 설명한다. 2026년 9월 22일에는 효과적인 제3자 평가를 위해 훈련·평가·배포 전반의 깊은 접근, 방법의 투명성, 전문성과 독립성, 결과의 활용과 발표 독립성이 필요하다는 원칙을 공개했다.

회사 자체 평가와 독립 검증은 같은 증거가 아니다.

외부 참여가 있었다는 문구만으로는 부족하다. 평가 범위를 누가 정했는지, 완화되지 않은 모델이나 내부 로그에 접근했는지, 방법과 한계를 설명할 수 있는지까지 봐야 한다.

공개권: 불리한 결과도 알릴 수 있는가

독립 평가의 가치는 좋은 결과를 확인하는 데만 있지 않다. 접근을 거부당한 범위, 평가가 실패한 조건, 회사와 의견이 갈린 지점도 알릴 수 있어야 한다.

보안·개인정보·영업비밀 때문에 모든 내용을 공개할 수는 없다. 그렇더라도 무엇이 가려졌는지, 그 삭제가 결론에 어떤 영향을 주는지 평가자가 밝힐 권한은 남아야 한다.

현재 공개된 사례에서도 계약과 발표 권한은 서로 다르다. OpenAI가 설명한 기존 제3자 평가에서는 기밀성과 사실 정확성을 위해 회사가 출판물을 검토·승인하는 절차가 있었다. 반면 아모데이가 제안한 임베디드 평가자는 회사의 편집 통제 없이 핵심 결과를 발표하고, 허용된 삭제가 결론에 중요했는지도 알릴 수 있어야 한다고 적었다.

중단과 복구: 기준을 넘으면 무엇이 멈추는가

평가에서 위험이 발견돼도 일정이 그대로라면 검증은 장식이 된다.

추가 시험, 접근 축소, 배포 연기, 작업 중단, 격리, 수정 뒤 재평가 같은 조치가 임계치와 연결돼야 한다. 임계치가 관찰되면 평가가 시작되고, 결과가 기준을 충족하지 못하면 실제 결정이 바뀌어야 한다.

사고가 일어난 뒤에는 누가 알리고, 누가 멈추고, 어떤 상태로 복구하며, 재개를 누가 승인하는지도 정해야 한다. 중단권과 복구 책임이 없는 평가 제도는 경고만 남길 수 있다.

4. 독립 평가자는 정말 독립적인가

독립성은 명함이 아니라 권한의 묶음이다.

평가기관이 회사 밖에 있다는 사실만으로 충분하지 않다. 실제 독립성을 보려면 적어도 다섯 가지를 확인해야 한다.

1. 범위 설정권: 회사가 제시한 항목 밖의 중대한 위험을 추가로 제기할 수 있는가
2. 접근권: 필요한 모델 버전·로그·도구·담당자에게 비례한 접근을 할 수 있는가
3. 방법 선택권: 평가 방법과 기준을 스스로 설명하고 한계를 공개할 수 있는가
4. 발표권: 회사에 불리한 결론과 실질적인 삭제 여부를 독립적으로 알릴 수 있는가
5. 이해충돌 통제: 비용·계약·기존 관계가 결론에 미치는 영향을 공개하고 회피 절차를 둘 수 있는가

이 다섯 권한 가운데 일부가 비어 있으면 ‘외부 평가’는 가능해도 강한 의미의 독립 검증이라고 말하기 어렵다.

평가자를 회사가 고르고 비용을 대는 구조만으로는 독립성이 완성되지 않는다.

그렇다고 기업의 비용 지원이 곧 평가 무효를 뜻하지도 않는다. 고성능 모델을 안전하게 시험하려면 전문 인력과 보안 환경이 필요하다. 중요한 것은 보수가 결과에 연동되지 않는지, 계약이 발표를 부당하게 막지 않는지, 이해충돌을 공개하고 관리하는지다. OpenAI는 제3자 평가 보수가 결과에 연동되지 않는다고 밝혔다.

독립성에는 보안이라는 반대 조건도 있다. 평가자는 민감한 모델과 내부 자료를 다루는 만큼 정보보호 능력을 입증해야 한다. 공개 책임과 기밀 보호 중 하나만 택하는 대신, 사전 범위·비례적 접근·명확한 삭제 규칙·편집 독립성을 함께 설계해야 한다.

현재 공개 자료만으로는 아모데이가 예고한 임베디드 외부 검토팀이 실제로 상시 운영되고 독립 보고서를 냈다고 확인할 수 없다. OpenAI도 2026년 9월 원칙 문서에서 제3자 평가 생태계가 아직 성장 중이며 여러 기관과 제안을 논의하고 있다고 밝혔다. 계획, 기존 협업, 상시 감독 체계를 한 단계로 묶어서는 안 된다.

5. 속도 조절이 실패할 수 있는 세 가지 조건

첫 번째는 참여하지 않는 기업이 이익을 얻는 경우다. 일부 기업만 자발적으로 속도를 늦추고 경쟁자는 같은 검증 비용을 부담하지 않으면 약속은 오래 버티기 어렵다.

속도 조절이 경쟁에서 뒤처지는 기업만 지키는 규칙이 되면 오래가기 어렵다.

그래서 공통 기준, 제3자 평가, 법적 의무, 사고 보고처럼 참여하지 않는 쪽에도 적용되는 장치가 필요하다. 동시에 기준이 특정 기업의 방식만 굳혀 신규 참여를 막지 않는지도 살펴야 한다.

두 번째는 평가 기준이 실제 능력보다 늦는 경우다. 국제 AI 안전 보고서는 사전 시험 성능이 현실의 유용성과 위험을 안정적으로 예측하지 못하는 ‘평가 격차’를 지적한다. 모델이 시험 상황을 알아채거나 허점을 찾으면 위험한 능력이 배포 전에 드러나지 않을 수도 있다.

2026년 2월 3일 공개된 보고서는 당시 시스템이 ‘누구의 통제도 받지 않으며 통제를 되찾을 명확한 경로도 없는’ 통제 상실 위험을 일으킬 능력은 갖추지 못했다고 구분했다. 이 판단을 2026년 10월의 모든 모델·도구·배포 환경에 대한 안전 보증으로 읽어서는 안 된다. 또한 무단 행동이 한 번 발생했다는 사실만으로 보고서가 정의한 통제 상실 시나리오가 성립했다고 볼 수도 없다. 보고서는 자율적 작동과 평가 우회에 관련된 능력이 개선되고 있다고 지적한다. 따라서 하나의 벤치마크 점수만으로 통과를 선언해서는 안 된다. 자동 평가, 전문가 심층 시험, 실제 환경에 가까운 검증, 배포 뒤 감시, 사고 자료를 겹쳐야 한다.

세 번째는 멈춤 기준은 있지만 멈출 주체가 없는 경우다. 평가자가 위험을 발견해도 권고만 할 수 있고, 일정·접근·배포를 바꿀 권한이 어디에도 없다면 책임은 흩어진다.

속도 조절은 연구자나 평가자 개인의 용기에 기대는 제도가 되어서는 안 된다. 결정권자, 이사회나 감독기구, 정부, 독립 평가기관이 각각 무엇을 보고 어떤 조치를 할 수 있는지 연결돼야 한다.

이 조건은 개인과 팀이 AI 에이전트를 사용할 때도 축소된 형태로 나타난다. 실제 업무에서 목표·최소 권한·승인·검증을 정하는 방법은 AI 에이전트 위임 가이드에서 따로 확인할 수 있다.

6. 우리가 확인해야 할 다섯 가지 질문

새로운 속도 조절 약속이나 안전 프레임워크를 볼 때는 다음 질문부터 확인하면 된다.

1. 무엇을 조절하는가? 훈련, 능력 향상, 내부 사용, 외부 접근, 일반 배포 중 대상이 구체적인가
2. 어떤 신호가 조치를 시작하는가? 측정 가능한 임계치와 평가 조건이 사전에 공개돼 있는가
3. 누가 무엇을 볼 수 있는가? 외부 평가자가 필요한 모델·로그·도구와 담당자에게 접근할 수 있는가
4. 무엇을 공개할 수 있는가? 불리한 결과, 접근 제한, 방법의 한계와 실질적인 삭제를 독립적으로 알릴 수 있는가
5. 실패하면 누가 멈추고 복구하는가? 배포 연기·접근 축소·격리·재평가·재개 승인의 책임자가 정해져 있는가

좋은 속도 조절 규칙은 느린 일정표가 아니라, 위험이 커질 때 자동으로 더 강한 검증을 요구하는 체크포인트다.

이 다섯 질문에 답이 없다면 ‘안전을 우선한다’는 말은 방향일 수는 있어도 검증 가능한 약속은 아니다. 반대로 답이 구체적일수록 독자는 기업의 선의나 공포스러운 전망을 추측하지 않고 구조를 평가할 수 있다.

AI 능력이 빨라질수록 사람의 역할은 모든 과정을 더 빨리 따라가는 데 있지 않다. 무엇을 증거로 인정할지, 어느 문턱에서 멈출지, 실패 뒤 누가 설명하고 복구할지를 먼저 정하는 데 있다.

기술의 속도와 사회의 판단 속도는 같지 않다. 속도 조절이 필요한 이유는 발전을 포기하기 위해서가 아니라, 다음 단계로 갈 수 있다는 근거를 함께 만들기 위해서다.

참고자료

• Dario Amodei, We Must Pace the Frontier, 2026년 9월
• International AI Safety Report, 2026 Report: Executive Summary, 2026년 2월 3일
• OpenAI, Our updated Preparedness Framework, 2025년 4월 15일
• OpenAI, Strengthening our safety ecosystem with external testing, 2025년 11월 19일
• OpenAI, OpenAI’s Frontier Governance Framework, 2026년 5월 28일
• OpenAI, Priorities and principles for effective third party assessments, 2026년 9월 22일