AI가 너무 잘해서 위험하다? 생산성 폭주 속 붕괴되는 인프라와 보안

생산성이라는 이름의 폭발이 지금 IT 산업 전반을 흔들고 있다. AI 에이전트라 불리는, 스스로 판단하고 작업을 이어가는 인공지능이 rapidly 급속도로 퍼지면서, 인간의 속도를 압도하는 작업량이 쏟아지고 있다. 코드 생성부터 문서 작성까지, AI가 자동으로 처리하는 일이 늘어나며 업무의 지형도가 바뀌고 있지만, 이와 함께 인프라와 보안 체계는 점점 더 붕괴 직전으로 밀려나고 있다.

토큰이라는 단어가 새로운 성과 지표로 떠올랐다. AI가 처리하는 텍스트 단위인 토큰은 이제 단순한 계량을 넘어서, 기업 내부의 performance metric 성과 척도가 되고 있다. 정보기술 매체 더 인포메이션에 따르면, 마이크로소프트 산하 깃허브의 연간 코드 커밋 횟수는 1년 만에 14배 가까이 뛰어올라, 올해만 140억 건에 이를 전망이다. 주간 기준으로도 2억 7500만 건에 달하며, 매주 최고치를 갱신 중이다. 이 모든 것은 AI가 인간을 대신해 코드를 쓰고 수정하는 시스템 덕분이다.

엔비디아 최고경영자 젠슨 황은 “엔지니어에게 기본 연봉 외에 토큰 기반 보상을 줄 것”이라며, 토큰 사용량이 곧 생산성이라는 인식을 명확히 했다. 메타는 직원 간 토큰 사용량을 비교하는 leaderboard 리더보드까지 도입해 내부 경쟁을 부추기고 있다. 그러나 문제는 이 폭주하는 생산성의 반대편에, 따라오지 못하는 인프라 부담과 커지는 위험이 놓여 있다는 점이다.

트래픽 급증으로 인해 깃허브는 API 접근 제한과 서버 장애를 반복하고 있으며, 서버를 확충해도 수요 증가 속도를 따라가기 어렵다. AI 스타트업 앤스로픽은 자사의 AI 모델 '클로드'가 외부 에이전트에 반복적으로 호출되며 computing resource 연산 자원이 고갈되자, 결국 추가 사용에 대해 별도 과금을 도입했다. 생산성의 뒷받침은커녕, 생존을 위한 비용 통제로 전환되고 있는 현실이다.

더 큰 문제는 코드 과잉과 보안 사각지대다. 뉴욕타임스 보도에 따르면, 한 금융사는 AI 도입 후 월간 코드 생산량이 10배 늘었지만, 검토해야 할 코드는 100만 줄 이상 쌓였다. 품질은 뒷전이고, verification system 검증 체계는 속도를 따라가지 못한다. 더 위험한 것은 AI가 공격의 수단이 되고 있다는 사실이다. 사이버보안 업체 맨디언트 보고서에 따르면, AI 에이전트는 취약점이 공개되자마자 자동 공격을 실행할 수 있으며, 실패하면 스스로 공격 전략을 수정하는 수준에 이르렀다.

결국 기업들은 수비에 나서고 있다. 앤스로픽은 자사의 최고급 AI 모델 '미토스'의 프리뷰 버전 접근 권한을 일반에게는 비공개하고, 마이크로소프트, 구글, 애플, 엔비디아를 포함한 40여 개 기업·기관에만 방어 목적으로 제한 제공하기로 했다. 이는 AI의 발전이 self-defeating paradox 자기 스스로를 위협하는 역설 속에 있다는 증거다. 양적 팽창의 끝에는 질적 구조적 위기가 도사리고 있으며, 이에 대한 대비는 여전히 뒷수습 수준에 머물러 있다.