메타의 AI “도살장”: 사용자의 모든 클릭이 훈련 데이터로 활용된다

메타의 AI “도살장”… 사용자의 모든 클릭이 훈련 데이터로 활용된다

이른 아침, 메타의 한 직원이 평소처럼 업무용 컴퓨터를 켰다.

그는 시스템에 새로 설치된 무언가를 발견했다.

팝업 알림도, 권한 요청도 없었다. MCI라는 프로그램이 이미 모든 마우스 움직임, 모든 클릭, 모든 키 입력을 기록하고 있었으며, 때로는 스크린샷까지 찍고 있었다.

내부 메모에는 다음과 같은 간략한 안내문만 실려 있었다. “이 도구는 업무용 애플리케이션 내에서 사용자의 마우스 움직임, 클릭 및 키 입력 내역을 기록합니다.”

그는 3초 동안 꼼짝도 하지 않았다.

감시 자체 때문은 아니었다. 실리콘밸리의 거대 기술 기업 중 감시를 하지 않는 곳이 어디 있겠는가? 하지만 그는 2주 전 전사 직원 대상 이메일에서 읽었던 또 다른 문장이 문득 떠올랐다. “5월 20일부터 회사는 약 8,000개의 직위를 감축할 예정입니다.”

로이터가 입수한 메모에는 다음과 같이 명확히 명시되어 있다. MCI가 수집한 데이터는 “업무 과제를 자율적으로 수행.”

로이터가 입수한 메모에는 다음과 같이 명확히 명시되어 있다. MCI가 수집한 데이터는 “업무 과제를 자율적으로 수행”할 수 있는 AI 에이전트를 훈련하는 데 사용될 것이다.”

AI 훈련을 명목으로 추적 기능을 강제로 적용하는 것

메타는 정말로 초조해졌다.

AI 분야의 발전 속도를 따라잡기 위해, 그들은 이미 직원들에게 스스로의 역량을 강화하도록 강요하기 시작했다.

메타 직원들이 마우스 움직임과 키 입력을 AI에 학습시키는 의무 교육 프로그램에 강력히 반발하고 있다

방금 내부 공지가 나왔습니다. 공식적으로는 “AI 훈련을 위한 것”이라고 하지만, 실제로는 직원들의 마우스 움직임과 키보드 입력을 의무적으로 모니터링할 예정입니다.

다시 말해, 메타 직원들이 취하는 모든 행동이 AI를 훈련시키는 데 활용될 것입니다.

이제 단순히 AI를 만드는 것만으로는 충분하지 않습니다. 이는 사실상 AI에게 여러분을 대체하는 방법을 단계별로 가르치는 것과 다름없습니다.

게다가 거부할 수도 없고, 선택의 여지도 없습니다.

해당 내부 게시물 아래에는 직원들이 올린 울고 있는 이모티콘, 놀란 이모티콘, 화난 이모티콘이 가득합니다.

많은 추천을 받은 한 댓글에는 “이거 정말 불편하네요. 어떻게 참여하지 않을 수 있나요?”라고 적혀 있었다.”

하지만 답은 간단합니다. 거부할 수 있는 선택권은 없습니다.

메타의 입장은 분명합니다. 논의의 여지가 없습니다.

여러분의 작업은 이미 훈련 데이터가 되었습니다

MCI는 “모델 역량 이니셔티브(Model Capability Initiative)”의 약자입니다.”

이 메모에 있는 한 문장이 특히 눈에 띕니다. “바로 이것이 모든 메타 직원들이 일상적인 업무를 통해 우리 모델의 성능을 향상시키는 데 기여할 수 있는 기회입니다.”

쉽게 말해, 여러분의 작업 자체가 이미 훈련 데이터가 된 셈입니다.

이것은 더 이상 단순한 모니터링이 아닙니다. 그보다 더 깊이 들어가, 어떻게 사람들은 실제로 생각하고 행동한다.

복잡한 버그를 수정할 때, MCI는 단순히 결과만 기록하는 것이 아닙니다. 사용자가 어떻게 클릭하고, 어떻게 되돌아가며, 여러 창을 어떻게 비교하는지까지 모두 기록합니다.

모든 단축키 입력은 하나의 결정입니다. 모든 마우스 움직임은 하나의 판단입니다.

메타는 과거에는 오직 사람의 머릿속에만 존재하던 이러한 암묵적 지식을, AI가 학습할 수 있는 구조화된 데이터로 전환하고 있습니다.

이는 매우 직접적인 형태의 행동 모방입니다.

직원 데이터는 완벽한 AI 데이터 세트가 됩니다

메타의 최고기술책임자(CTO) 앤드류 보스워스가 내부 메모를 보내 “AI for Work” 이니셔티브의 명칭을 공식적으로 “Agent Transformation Accelerator”(ATA)로 변경했다.

솔직히 말해서, 직원들이 직접 생성한 운영 데이터만큼 AI에 유용한 자료는 없습니다.

고품질, 고밀도, 완벽한 실감.

다른 기업들도 아마 이것을 원할 것입니다. 하지만 이렇게 노골적으로 가져가겠다고 밝힌 것은 메타가 처음입니다.

내부 공지에 따르면, 이 추적 도구는 직원들의 컴퓨터에 강제 설치될 예정이다.

이 프로그램은 마우스 움직임, 클릭 위치, 키보드 입력은 물론 화면 내용까지 캡처할 수 있는데, 기본적으로 매우 사적인 데이터들입니다.

이 범위는 Gmail, GChat, Metamate 등과 같이 일반적으로 사용되는 업무용 소프트웨어로 한정되며, VSCode. 이는 컴퓨터에만 적용되며, 휴대폰에는 적용되지 않습니다.

이 모든 데이터는 새로운 AI 모델을 훈련하는 데 활용되어, 에이전트가 인간이 컴퓨터를 어떻게 사용하는지 이해하는 데 도움을 줄 것입니다.

따라서 모든 직원은 단순히 일상 업무를 수행하는 것만으로도 모델 개선에 기여하고 있는 셈입니다.

“AI 빌더”: 역할의 재정의

메타는 ‘일’이라는 개념 자체의 의미도 바꾸고 있습니다.

엔지니어, 제품 관리자, 디자이너—이러한 직함들은 서서히 “AI 빌더’라는 하나의 명칭으로 대체되고 있다.”

이미 새로운 “응용 AI” 팀이 구성되어 AI 코딩 능력 향상, 에이전트가 빌드, 테스트, 배포 등 대부분의 작업을 처리할 수 있도록 하는 것을 목표로 합니다.

오직 “유능한” 엔지니어들만 이 팀으로 배치되고 있다.

그럼 다른 사람들은 어떨까요? 답은 이미 암시되어 있습니다.

기업의 비전도 변화하고 있습니다. AI가 업무를 수행하고, 인간은 이를 지휘하고 검토하는 방식입니다.

하지만 “검토’는 앞으로 얼마나 더 필요할까요?

저커버그조차도 “자기 성찰”을 하고 있다”

직원들뿐만이 아닙니다.

보도에 따르면 마크 저커버그는 이미 자신의 음성 및 행동 데이터를 AI에 입력해, 직원들과 연중무휴 24시간 소통할 수 있는 “저커버그 복제체”를 만들려고 시도하고 있다고 한다.

사장부터 직원들에 이르기까지, 모든 사람이 데이터로 변모하고 있다.

어떤 면에서 보면, 이것은 일종의 디지털 불멸이라고 할 수 있습니다.

하지만 일종의 대체물이기도 합니다.

내부의 반발, 외부의 조롱

메타 내부에서는 즉각적인 반발이 일고 있다.

밖에서는 사람들이 농담을 주고받고 있다.

일부 네티즌들은 심지어 “매일 직장에서 몇 시간씩 팩맨이나 하며 시간을 보내면 되지. AI가 그걸 배우게 하면 되잖아”라고 제안하기도 했다.

“메타를 다시 위대하게 만들자.”

말도 안 되는 소리 같지만, 한편으로는… 완전히 불가능한 일도 아니다.

AI KPI에 대한 압박은 이미 시작되었다

이와 동시에, 메타는 이미 직원들의 성과 평가를 AI와 밀접하게 연계해 놓았다.

AI 도구 활용, AI 기능 개발, AI를 통한 생산성 향상—이 모든 것이 이제 평가와 보상에 직접적인 영향을 미치고 있습니다.

그리고 이제, 심지어 여러분의 원시 운영 데이터조차도 “스킬화”되고 있습니다.”

갑자기 그 높은 연봉이 더 이상 그렇게 매력적으로 느껴지지 않는다.

실리콘밸리에서 일하는 것은 힘든 일입니다.

메타 직원으로 일하는 건 훨씬 더 힘들다.

큰 그림: 메타는 시작에 불과하다

메타는 이 데이터가 성과 평가에 사용되지 않을 것이라고 밝혔습니다.

그 말이 사실일지도 모릅니다.

일단 값이 훈련 데이터로 추출되고 나면, 성능은 더 이상 별 의미가 없기 때문입니다.

그 회사는 당신을 평가하고 있는 게 아닙니다.

그게 당신을 복제하고 있어요.

그리고 메타만 그런 것은 아닙니다.

업계 전반에 걸쳐, 기업들이 AI에 수십억을 쏟아붓고 있다—단순히 모델을 구축하기 위해서만이 아니라, 인간이 어떻게 작동하는지 이해하기 위해서입니다.

방침은 매우 명확합니다. 워크플로를 익힌 다음, 그 워크플로를 직접 담당하세요.

당신의 행적은 곧 당신의 묘비명이다

이 메모에는 또 하나의 핵심 목표가 언급되어 있는데, 바로 AI가 인간이 개입한 부분을 스스로 파악하여 다음 번에는 더 나은 성과를 낼 수 있도록 하는 것이다.

그게 바로 핵심입니다.

AI는 단순히 여러분의 업무를 배우는 데 그치지 않습니다.

사용자가 어디를 수정했는지 학습한 뒤, 더 이상 사용자의 수정이 필요하지 않도록 학습합니다.

AI의 성능을 향상시키는 데 기여할 때마다, 여러분은 AI에게 대체당하는 순간에 한 걸음 더 가까워집니다.

역사상 처음으로 다음과 같은 상황이 벌어질지도 모릅니다:

더 열심히 일하는 것과 직장을 유지하는 것은 더 이상 같은 의미가 아닙니다.

그것들이 서로 반대 방향을 가리키기 시작하고 있다.

그리고 메타는 이를 이렇게 노골적으로 드러낸 첫 번째 기업일 뿐입니다.

위로 스크롤