마이크로소프트 임원이 AI의 웹사이트 데이터 수집을 인류 역사상 최대 규모의 노동 착취라고 불렀습니다

1. 이게 뭔가요?

뉴욕타임스가 오픈에이아이와 마이크로소프트를 상대로 제기한 저작권 소송 과정에서 공개된 새로운 법원 문서 내용에 관한 기사입니다. 여기서 인공지능 스크래핑이란 인공지능 프로그램을 학습시키기 위해 인터넷에 있는 다른 사람의 글이나 뉴스 기사 같은 방대한 데이터를 자동으로 긁어모으는 행위를 뜻하며, 페이월은 유료 구독자만 볼 수 있도록 기사 접근을 막아둔 유료 장벽을 말합니다. 이번 기사는 대형 기술 기업들이 저작권이 있는 유료 뉴스 콘텐츠를 대량으로 긁어모으고 유료 장벽을 우회해 학습 데이터로 썼다는 내부 고백과 정황이 법원 문서를 통해 드러났음을 다루고 있습니다.

2. 왜 화제인가요?

이 소송이 화제가 되는 이유는 인공지능 기업들이 그간 공정 이용이라는 법적 근거를 내세워 저작물 무단 사용이 정당하다고 주장해 왔으나, 이번에 공개된 내부 문서에서 최고경영자와 임원들이 스스로 이를 절도나 전례 없는 규모의 노동 수탈, 실존적 위협으로 표현한 내용이 드러났기 때문입니다. 마이크로소프트의 내부 문서에 따르면 자사 제품이 언론사의 방문자 수를 최대 93퍼센트까지 떨어뜨려 언론사의 경제적 기반을 위협하고 있다는 우려가 담겨 있으며, 이는 인공지능 모델이 기존 창작물을 대체하여 시장에 직접적인 타격을 준다는 핵심 쟁점과 맞물려 있습니다.

3. 핵심 내용

3년 전 미국 언론사 뉴욕타임스가 인공지능(AI) 기업인 오픈AI와 마이크로소프트를 상대로 제기한 저작권 소송에서, 그동안 가려져 있던 새로운 내용이 공개되었습니다. 이 문서는 AI 기업들이 인터넷상의 글을 무단으로 긁어모아 학습시킨 행위가 사실상 도둑질과 다름없으며, 이러한 AI 제품들이 언론사들의 생존을 위협하는 커다란 위험 요소임을 스스로 인정하고 있었음을 보여줍니다.

소송 문서에 따르면, 마이크로소프트의 고위 임원은 사석에서 두 회사의 AI 학습 방식을 '도둑질'이라고 표현했습니다. 또한 오픈AI의 수뇌부 역시 자신들의 AI 모델이 자신들의 학습 재료가 되어 준 언론사와 기자들에게 '존립을 위협하는 수준의 위험'을 초래한다고 평가했습니다.

이번에 공개된 자료에는 이 기업들이 언론사의 유료 구독 장벽을 몰래 우회하고, 인터넷상의 자료를 대량으로 긁어모아 학습용 모음(데이터셋)을 만들었으며, 학습 자료에서 저작권 표시를 고의로 지워버린 과정이 구체적으로 담겨 있습니다.

이번에 새로 밝혀진 내용 중 상당 부분은 증거물 그 자체라기보다 뉴욕타임스가 작성한 재판 서면에서 비롯되었다는 점을 짚어둘 필요가 있습니다. 실제 증거 자료들은 여전히 비공개 상태로 남아 있으며, 아래에 나오는 인용구들은 원래의 대화나 문맥이 떨어진 채 제시된 것입니다.

이번에 공개된 문서는 3년 전 시작된 소송이 한 단계 더 격화되었음을 보여줍니다. 뉴욕타임스는 처음에 이 기업들이 자사 콘텐츠를 이용해 생성형 AI 모델을 학습시킴으로써 저작권법을 위반했다고 주장했습니다.

AI 기업들이 저작권이 있는 자료를 AI 학습에 합법적으로 사용할 수 있는지를 두고는 명확한 답이 없습니다. 하지만 법원은 그동안 AI 기업들의 손을 들어주는 경향이 강했습니다. 이들은 AI 학습이 '공정 이용'에 해당한다고 주장해 왔는데, 공정 이용이란 패러디나 뉴스 보도, 비평 같은 특정 상황에서는 저작권자의 허락 없이도 저작물을 쓸 수 있게 해주는 법적 규칙입니다. 이달 초 트럼프 행정부는 오픈AI가 대형 언어 모델(LLM, 인간처럼 글을 쓰고 대화하는 AI 시스템)을 학습시키기 위해 저작권을 허가받지 않고 사용한 것을 옹호하는 의견서를 제출하기도 했습니다.

그러나 이번에 새로 드러난 내부 인정 사항 중 상당수는 오픈AI의 공정 이용 주장에 정면으로 배치됩니다. 특히 공정 이용이 성립하려면 '원래 저작물의 시장을 대체하거나 해치지 않아야 한다'는 규칙이 있는데, 이번 자료는 이에 어긋난다는 점을 보여줍니다.

예를 들어, 마이크로소프트 자체 데이터에 따르면 이 회사의 '답변 엔진'인 코파일럿(Copilot, 사용자의 질문에 직접 답을 찾아주는 AI 도구) 때문에 뉴욕타임스 웹사이트로 연결되는 클릭 비율이 기존 빙(Bing) 검색을 쓸 때보다 최대 93%까지 폭락했습니다. 2024년 1월 마이크로소프트 응용과학 책임자인 브렌트 헤치(Brent Hecht)가 작성한 내부 프레젠테이션은 이러한 방문객 감소를 '죽음의 고리'라고 묘사했습니다. 이 현상은 우리 모델의 성능과 전체 인터넷 생태계를 동시에 망가뜨릴 것이라고 경고하기도 했습니다.

소송 문서에 인용된 마이크로소프트 문건에는 다음과 같은 내용이 적혀 있습니다. "최종 제품이 자신의 핵심 공급업체들의 경제적 기반을 위협하는 일은 대단히 이례적입니다. 하지만 이것이 바로 우리가 '콘텐츠 공급망'과 관련해 LLM 사업을 위해 만들어낸 현실입니다."

마이크로소프트의 최고경영자(CEO) 사티아 나델라(Satya Nadella) 역시 올해 초 법정 증언에서 "유료로 잠겨 있는 콘텐츠는 답변의 근거를 잡거나 학습에 쓰려는 사람이 누구든 반드시 정식으로 사용료를 내고 허락을 받아야 한다"고 밝혔습니다. 그는 만약 오픈AI가 유료 장벽 뒤에 숨겨진 정보를 몰래 긁어모아 학습시켰다는 사실을 자신이 미리 알았더라면, "마이크로소프트의 권리를 행사해 오픈AI에게 모델을 처음부터 다시 학습하라고 요구했을 것"이라고 명확히 선언했습니다.

다른 내부 발언들도 공정 이용을 판단하는 핵심 기준들에 타격을 줍니다. 오픈AI의 챗GPT 책임자인 닉 터리(Nick Turley)는 내부 소통망에서 언론사들이 챗GPT 같은 제품 때문에 '존립을 위협하는 위험'에 직면해 있다고 썼습니다. 그는 이 제품들이 "대체성이 매우 높으며", "앞으로 성능이 좋아질수록 기존 언론을 더욱더 완전히 대체하게 될 것"이라고 평가했습니다.

오픈AI의 사장 그레그 브록먼(Greg Brockman)은 자사 모델들이 "뉴스 전달에 매우 탁월하다"고 묘사했습니다. 나델라 역시 올해 초 법정 증언에서 챗결과 대화하는 방식이 "AI 플랫폼 안에서 바로 정보를 얻게 해 주므로, 원래의 출처인 웹사이트로 직접 찾아갈 필요성을 대체해 버렸다"는 점에 동의했습니다.

이러한 표현은 인공지능 기술이 기존 창작물의 형태를 발전시키는 데 그치지 않고, 원작자의 일자리를 직접적으로 위협하며 경쟁할 가능성이 있음을 보여 줍니다.

마이크로소프트의 내부 문건에 따르면, 생성형 인공지능이 '기반 모델(인공지능의 뼈대가 되는 대규모 핵심 모델)'을 학습하는 데 사용된 데이터를 만든 사람들의 일자리를 '상당히 심각하게 흔들(disrupt)' '실제적인 위험'이 존재한다고 합니다.

무단으로 복사된 데이터의 규모는 엄청납니다. 이번 문건을 통해 오픈에이아이의 중간 학습용 데이터셋(데이터 모음)에만 뉴욕타임스, 데일리 뉴스, 탐사보도센터 등이 발행한 작품이 9만 1,692개 이상 포함되어 있다는 사실이 처음으로 밝혀졌습니다. 또한 웹사이트들의 공개된 정보를 모아둔 '커먼 크롤(Common Crawl)'이라는 무료 저장소에서 가져온 데이터셋에는 뉴욕타임스 웹사이트(nytimes.com)의 문서만 200만 건 이상이 들어 있었습니다.

2023년 1월 내부 메모에서 헥트는 이를 '전례 없는 규모의 놀라운 도둑질'이자 '인류 역사상 최대 규모의 노동 도둑질'이라고 불렀습니다.

이번 소송 문서에는 오픈에이아이와 마이크로소프트가 소송을 제기한 언론사들의 콘텐츠를 어떻게 수집했는지, 빙 검색 엔진(마이크로소프트의 검색 서비스인 빙 Bing의 검색 색인에서 정보를 긁어온 과정 등)을 포함한 상세한 내용이 담겨 있습니다.

법원 문서에 따르면 "오픈에이아이는 전체 GPT-3 학습용 데이터셋을 마이크로소프트에 전달했고, 마이크로소프트는 이를 활용해 자신들의 상용 제품에 오픈에이아이의 모델을 어떻게 적용할지 평가했다"고 적혀 있습니다. 이어 "마이크로소프트 역시 '프로젝트 택시'와 '프로젝트 망고'라는 이름의 계획을 통해 오픈에이아이에 학습 데이터를 제공했다"고 덧붙였습니다.

두 회사는 '프로젝트 망고'를 통해 수집한 데이터를 모아 뉴스 언론사들의 고유 작품이 최소 16만 903개나 포함된 학습용 데이터셋을 조립한 것으로 의혹을 받고 있습니다.

데이터 수집 효과를 극대화하기 위해 오픈에이아이 직원들은 유료 구독 장벽(결제를 해야 기사를 볼 수 있는 시스템인 페이월 paywall)을 들키지 않고 우회할 계획을 세웠던 것으로 알려졌습니다. 소송 문서를 보면, 오픈에이아이 연구원인 닉 라이더가 그레그 브록만(오픈에이아이 공동 창립자 중 한 명)에게 "뉴욕타임스 유료 장벽을 우회하는 편법(해킹)"에 대해 이야기하자, 브록문이 "아 멋지네요"라고 답한 내용이 나옵니다.

오픈에이아이 직원들은 또한 뉴스 콘텐츠를 지나치게 많이 가져다 쓴 '웹텍스트(WebText)'와 '웹텍스트2' 같은 학습용 데이터셋을 구축한 것으로 의혹을 받고 있습니다. 이들은 인터넷 공개 웹페이지 정보를 모아두는 무료 저장소인 '커먼 크롤(Common Crawl)'에서도 수백만 건의 기사를 끌어왔습니다. 이번 조사 결과에는 모델이 사용자에게 답변할 때 "저작권 표시"를 출력하는 것을 연구원들이 "원하지 않기 때문에", 학습 데이터가 모델에 들어가기 전에 저작권 안내 문구를 고의로 지워버리려 한 정황도 담겨 있습니다.

뉴욕 데일리 뉴스의 변호사인 스티븐 리버맨은 테크크런치에 공유한 성명에서 "이번에 처음으로 드러난 증거는 오픈에이아이와 마이크로소프트가 자신들의 행동이 잘못되었다는 사실을 알고 있었음을 보여 준다"고 밝혔습니다.

오픈에이아이와 마이크로소프트는 논평 요청에 응답하지 않았습니다.

주요 주제

인공지능, 저작권, 정부 및 정책, 마이크로소프트, 뉴욕타임스, 오픈에이아이

기사 내 링크를 통해 상품을 구매하시면 소정의 수수료를 받을 수 있습니다. 이는 저희의 편집 독립성에 영향을 미치지 않습니다.

레베카 벨란

레베카 벨란

선임 기자

레베카 벨란은 테크크런치의 선임 기자로, 인공지능을 형성하는 비즈니스, 정책, 신흥 트렌드를 취재하고 있습니다. 그녀의 글은 포브스, 블룸버그, 더 애틀랜틱, 더 데일리 비스트 등 여러 매체에도 실렸습니다.

레베카에게 연락하거나 취재 사실을 확인하려면 rebecca.bellan@techcrunch.com으로 이메일을 보내거나, 보안 메시지 앱인 시그널(Signal)에서 rebeccabellan.491 아이디로 연락하시면 됩니다.

약력 보기

행사 로고

10월 13일 – 15일

샌프란시스코

전시 부스 예약 마감일은 9월 18일입니다. 디스럽트(Disrupt)의 엑스포 홀에서 영향력 있는 잠재 고객을 만나고, 투자자를 유치하며, 브랜드 주목도를 높일 기회를 놓치지 마세요.

지금 예약하기

인기 기사

오픈에이아이가 나쁜 행동을 숨기기 위해 후임 모델에게 메모를 남기도록 지시하다 적발됨

레베카 벨란

청정 기술 스타트업 '플럭스늄', 5만 년 동안 쓸 수 있는 핵연료 활용법 찾아내

팀 드 찬트

세일즈포스와 엔비디아의 새로운 추론 모델은 인공지능 연구소가 두려워해야 할 모든 것을 담고 있습니다

줄리 보트

젠슨 황은 트럼프의 전화를 받았고, 무언가 다른 것도 함께 선보였습니다

코니 로이조스

벤처 투자가들이 꼽은 와이콤비네이터의 최신 데모 데이에서 가장 화제가 된 신생 기업 9곳입니다

마리나 템킨

도미닉 마도리 데이비스

테슬라는 마침내 10월 1일에 2세대 로드스터를 공개하겠다고 밝혔습니다

앤서니 하

레볼루트는 가짜 정부 기관의 요청을 통해 고객 데이터가 유출되었다고 확인했습니다

자그밋 싱

4. 나에게 어떤 영향이 있나요?

이번 일은 우리가 일상에서 인공지능 챗봇이나 검색 요약 기능을 사용할 때 그 답변이 어떤 과정을 통해 만들어졌는지, 그리고 그 이면에서 언론사와 인공지능 기업 간에 어떤 저작권 갈등이 벌어지고 있는지를 보여줍니다. 당장 일반 독자가 서비스를 이용하는 방식에 큰 변화가 생기는 것은 아니지만, 향후 법적 판단이 내려짐에 따라 인공지능 기업들이 뉴스를 학습하거나 제공하는 방식에 큰 제동이 걸릴 수 있습니다.