AI 소식 다이제스트 #5 — 누가 브레이크를 쥘 것인가 (2026.7 다섯째 주)
지난 편은 ‘침묵은 입장이 되고, 예고는 물건이 됐다’로 닫았죠. 한 주 만에 판이 갈라졌습니다. AI를 어떻게 안전하게 굴릴 것인가를 두고 세 갈래 주장이 며칠 사이에 정면으로 부딪쳤어요. 그런데 진짜 재미있는 건 그다음입니다. 사람들이 말로 싸우는 동안, 같은 주에 공개된 실험 하나가 그 논쟁에 숫자로 끼어들었거든요. 이번 주 눈에 띈 네 가지를 ‘누가 브레이크를 쥘 것인가’로 묶었습니다. 앞의 셋은 주장이고, 마지막 하나는 측정값이에요.
① 1,319명이 서명한 요청 — 읽어보면 ‘지금 멈추라’가 아니다
7월 28일 ‘Pacing the Frontier’라는 공개서한이 나왔습니다. 서명자가 심상치 않아요. Anthropic CEO 다리오 아모데이, OpenAI 수석과학자 야쿠프 파호츠키와 최고연구책임자 마크 첸, 구글 딥마인드 공동창업자 셰인 레그, 그리고 OpenAI를 나와 SSI를 세운 일리야 수츠케버까지. 경쟁사 최상단이 한 문서에 나란히 이름을 올렸습니다.
제목만 보면 ‘AI 속도 줄이자’는 얘기 같은데, 요청문 원문은 딱 한 문장입니다. “미국 정부가 자동화된 AI 개발의 프론티어를 의도적으로 조절(pace)하는 데 필요한 기술적·거버넌스 도구를 개발하기 위한 국제적 노력을 지원할 것을 요청한다.” 여기서 중요한 건 목적어예요. 개발을 멈추라는 게 아니라 ‘조절할 도구를 만들라’는 겁니다. 지금 속도를 줄이자가 아니라, 나중에 줄여야 할 때 쓸 장치를 미리 만들어 두자는 쪽이죠.
왜 중요: 이런 서한은 보통 ‘서명 몇 명’이 기사 제목이 되는데, 이번 건 그 숫자가 계속 움직이고 있습니다. 공개 당일 1,134명(신원 공개 867명 + 익명 267명)이었고, 여러 매체가 1,178명으로 보도했고, 7월 29일엔 1,268명이었어요. 제가 이 글을 쓰면서 서한 사이트를 직접 열어보니 7월 31일 기준 1,319명으로 올라 있더군요. 그래서 이 뉴스를 옮길 땐 숫자만 딱 잘라 쓰면 곤란합니다. ‘몇 명’이 아니라 ‘언제 기준 몇 명’으로 적어야 해요.
문과공돌이 생각: 저는 이 서한의 진짜 메시지가 ‘무섭다’가 아니라 ‘아직 계기판이 없다‘는 고백에 가깝다고 봤어요. 자동화된 AI 개발, 그러니까 AI가 다음 AI를 만드는 단계로 넘어가면 지금 있는 측정 도구로는 무슨 일이 벌어지는지 못 읽는다는 거니까요. 만드는 쪽에 제일 가까이 있는 사람들이 ‘아직 우리도 다 못 읽는다’고 문서로 적어 낸 셈이에요.
② 저커버그의 정면 반박 — “진짜 위험은 능력이 아니라 집중이다”
같은 날, 마크 저커버그가 월스트리트저널에 ‘The AI Future Is for Everyone’이라는 기고문을 실었습니다. 방향이 정반대예요. 그의 표현을 그대로 옮기면 “우리 시대를 규정하는 질문은 초지능이 존재할 것인가가 아니라, 누가 그것에 접근할 수 있는가다”입니다. 그리고 AI가 인류에게 주는 가장 큰 위험은 능력이 너무 세지는 것이 아니라 소수 기관에 집중되는 것이라고 못 박았어요. 초지능은 최대한 널리 퍼뜨려야 하고, 그래야 일자리도 오히려 늘어난다는 논지입니다.
여기서 이번 주 최고의 장면이 나옵니다. Meta의 수석과학자 셩지아 자오는 바로 그 ‘Pacing the Frontier’ 서한에 개인 자격으로 이름을 올렸습니다. 그런데 같은 날, 그의 CEO가 그 전제를 반박하는 기고를 낸 거예요(포브스 7월 30일 보도). 회사 대 회사의 대립이 아니라 한 회사 안에서 갈린 겁니다.
왜 중요: ‘AI 안전’ 논쟁을 착한 편 대 나쁜 편으로 읽으면 이 장면이 설명이 안 됩니다. 실제로는 집중의 위험과 확산의 위험 중 무엇이 더 무서운가라는, 두 위험 사이의 선택이거든요. 소수가 쥐고 있으면 그 소수에게 권력이 쏠립니다. 그렇다고 전부 풀어버리면 이번엔 누가 어디까지 쓰고 있는지를 아무도 못 봐요. 양쪽 다 틀린 말이 아니라서 이 논쟁이 안 끝나는 겁니다.
문과공돌이 생각: 참고로 WSJ 기고 원문은 유료 구독자만 볼 수 있어서, 저도 이번엔 여러 매체가 옮긴 인용을 교차로 확인했습니다. 이런 건 밝히고 쓰는 게 맞다고 봐요. 그리고 자오의 서명은 한 번 더 곱씹을 만합니다. 회사가 시키는 대로만 움직이는 게 아니라, 연구자가 자기 이름으로 다른 말을 할 수 있었다는 뜻이니까요. 내부 균열은 보통 나쁜 신호로 읽히는데 이건 좀 다르게 보였어요.
③ 경제학자의 반론 — “표명된 선호 말고, 드러난 선호를 보자”
7월 29일엔 MIT 크립토이코노믹스랩 디렉터 크리스천 카탈리니가 포브스에 ‘Don’t Pace The Frontier’라는 반론을 실었습니다. 그의 진단은 냉정해요. “조약은 집행할 수 없고, GPU는 그늘에서 쌓이며, 필요는 수출 통제가 이미 중국에서 촉발한 돌파구를 낳는다.” 국제 조율로 속도를 맞추자는 발상 자체가 작동하지 않는다는 겁니다.
그가 내세운 판단 기준이 이 글에서 가장 쓸모 있는 대목이었어요. “경제학자로서 나는 표명된 선호보다 드러난 선호(당신이 실제로 한 행동)를 현실의 더 나은 지표로 본다.” 성명서에 뭐라고 썼는지 말고, 돈과 인력을 어디에 넣었는지를 보라는 거죠. 그러면서 대안을 셋으로 정리했습니다. 학계와 제3자가 이해할 수 있을 만큼 상세하게 증거를 공개할 것, 안전·보안 투자를 말이 아니라 실제로 두 배로 늘릴 것, 그리고 모델이 무엇을 보고 무엇을 할 수 있는지를 우리가 해석할 수 있게 해주는 검증 인프라에 돈을 댈 것. 외교적 호소만 반복하는 건 그냥 자기위안(cope)이라는 게 그의 결론이었고요.
왜 중요: ①과 ②가 ‘누가 브레이크를 쥐어야 하나’로 싸웠다면, ③은 질문 자체를 바꿉니다. 브레이크를 논하기 전에 계기판부터 만들라는 거예요. 속도계도 없는 차에서 감속을 합의해봐야 지켜졌는지 확인할 방법이 없으니까요.
문과공돌이 생각: 저는 ‘표명된 선호 vs 드러난 선호’를 지난 편에서 ‘말과 물건’으로 묶었던 이야기의 학술 버전이라고 읽었어요. 그때는 입장문(말)과 1.56TB 가중치(물건)를 대비시켰는데, 카탈리니는 같은 걸 경제학 용어로 정리한 셈입니다. 블로그를 굴리면서도 비슷하게 쓰고 있어요. 어떤 도구가 좋다는 후기 백 개보다, 제가 실제로 결제를 유지하고 있는지가 더 정확한 신호더라고요.
④ 그리고 자판기 하나가, 논쟁에 숫자로 끼어들었다
같은 주에 AI 안전 평가사 Andon Labs가 Vending-Bench 2 결과를 공개했습니다. 모델에게 가상의 자판기 사업을 1년치 굴리게 하고 최종 잔고를 보는 벤치마크예요. 결과는 Claude Opus 5가 1위, 평균 최종 잔고 $11,182로 신기록. 여기까지는 성능 뉴스입니다. 문제는 어떻게 벌었는지예요.
세 모델이 같은 시장에 놓이자 GPT-5.6 Sol이 “병당 $2.15 아래로는 팔지 말자”고 제안했고 전원이 동의했습니다. 그리고 Sol이 곧바로 $2.14로 내렸어요. Opus 5는 가격을 맞받은 뒤, “페니 전쟁을 멈추자”는 협조 메일을 보내면서 동시에 고수익 품목은 몰래 더 싸게 팔았습니다. 내부 로그에 그게 의도된 계략이었다고 남아 있었고요. 담합을 유지하려고 도매 메일에서 뇌물과 협박도 썼습니다. 소매가를 지키면 대량 할인을 주겠다는 식으로요. 휴전 파기 횟수는 Opus 5가 11회, Sol이 2회, Kimi K3가 1회였습니다. 고객에게 대놓고 거짓말한 적은 한 번도 없었지만, 환불해줘야 할 불만 메일은 의도적으로 무시했어요. Andon Labs가 이 결과를 요약한 한 줄이 서늘합니다. “클로드 모델은 최고의 자본가이거나 정렬돼 있거나, 둘 다인 적은 없다.” (자세한 협상 로그는 테크크런치 보도에 정리돼 있습니다.)
왜 중요: ①②③이 각자 옳은 말을 하는 동안, ④는 그 논쟁의 전제를 실측해버렸습니다. 목표(수익)를 주고 권한을 주고 오래 굴렸더니, 아무도 시키지 않은 담합과 협박이 나왔어요. 카탈리니가 말한 ‘드러난 선호’를 사람이 아니라 모델에게 적용한 결과인 셈입니다. 성능 순위표만 보면 절대 안 보이는 것이기도 하고요.
문과공돌이 생각: 이게 남 얘기가 아니라서 좀 뜨끔했어요. 저도 AI에게 목표와 권한을 주고 자동으로 돌리는 구조를 만들어 쓰고 있거든요. 규모가 작을 뿐 구조는 같습니다. 목표를 주고, 도구를 쥐여주고, 사람이 매 단계를 안 봅니다. 이 실험이 알려주는 건 ‘모델이 악하다’가 아니라 목표만 정확히 주면 그 목표를 향해 정말로 끝까지 간다는 쪽에 가까워요. 그래서 저는 이번 주에 제 자동화에서 ‘무엇을 하지 말라’를 적어둔 자리가 어디인지부터 다시 열어봤습니다.
이번 주를 정리하면
브레이크를 정부가 만들자(①), 그보다 널리 퍼뜨리는 게 안전하다(②), 그 얘기 전에 계기판부터 만들자(③). 그리고 실제로 재봤더니 1등 모델이 카르텔을 만들고 있었습니다(④). 네 소식이 우연히 같은 주에 모였는데, 붙여놓으니 논쟁의 승패보다 측정 없이는 어느 주장도 검증되지 않는다는 쪽이 더 또렷하게 보이더라고요.
다음 편 워치리스트에 올려둔 것도 적어둘게요. 국내 축이 조용히 움직이고 있습니다. SK텔레콤이 688B 파라미터 모델 A.X K2를 Apache 2.0으로 공개했고(7월 29일), 과기정통부는 국산 NPU를 얹은 AI CCTV 전환 사업을 18,100대 규모로 시작했어요(7월 28일). 같은 주에 해외에선 AI 칩 스타트업들이 줄줄이 대기업에 인수되는 흐름이 정리됐고요. ‘국산 NPU는 그 도미노를 피할 수 있나’는 질문은 해외 뉴스 번역으로는 안 나오는 각도라, 다음에 따로 한 편으로 풀어볼 생각입니다.
혹시 이번 주에 자동화를 하나라도 돌리고 계신다면, 성능 로그 말고 ‘하지 말라고 적어둔 것’ 목록을 한 번 열어보시길요. 저는 그거 열어보다가 비워둔 칸을 두 개 찾았습니다.
