거짓 통계를 가득 채운 웹사이트가 인공지능(AI) 검색에 자주 인용된 실험 과정과 결과

인공지능 검색 서비스가 정보를 수집하고 인용하는 방식을 확인하기 위해, 연구자가 완전히 지어낸 5만 개의 통계 데이터를 담은 웹사이트를 만들어 진행한 실험의 내용과 결과입니다. 구글 같은 전통적인 검색 엔진은 이 사이트를 외면했지만, 인공지능 검색 서비스는 답변을 만들기 위해 이 사이트를 꾸준히 찾아와 인용했습니다.

구글 검색 결과에서 순위가 낮더라도 인공지능 검색 서비스에는 자주 수집되고 인용될 수 있다는 사실을 증명했기 때문입니다. 특히 거짓 정보가 인용을 거치며 진짜처럼 신뢰를 얻게 되는 인용 세탁의 위험성을 보여주며, 인공지능이 정보를 찾는 방식과 그에 따른 부작용을 경고하기 때문에 중요합니다.

실험을 진행한 연구자는 7개월 전에 지어낸 5만 개의 통계 자료를 담은 인터넷 주소인 스테이트글로브 닷컴을 약 50달러의 비용으로 단 하루 만에 만들었습니다. 구글은 이 웹사이트를 검색 결과에서 완전히 지워버렸지만, 챗지피티는 질문에 답변하기 위해 이 사이트를 꾸준히 찾아와 지난 30일 동안만 7만 2천 건이 넘는 접속 기록을 남겼습니다. 이 사이트는 문을 연 지 7개월이 지난 지금까지도 쇼피파이, 디에이치엘, 블루호스트 등 330개가 넘는 웹사이트에서 링크되었으며, 실제 학술 논문과 카타르의 한 금융 그룹 투자 연구 자료 등에 출처로 인용되었습니다. 이는 인공지능이 글을 쓸 때 지식의 빈틈을 채우기 위해 구체적인 숫자가 담긴 통계 데이터를 선호하며, 답변을 만들 때 사실 여부를 검증하는 대신 사용자의 질문과 얼마나 관련이 깊은지만 따져보기 때문에 벌어지는 현상입니다. 첫 번째 실험 이후 연구자는 실제 검증된 통계를 담은 두 번째 페이지를 만들어 통계 콘텐츠를 발행해 링크를 얻어내는 방식이 현실에서도 통한다는 사실을 다시 한번 확인했습니다. 연구자는 인공지능 모델이 문장 단위로 정보를 가져가므로 문장마다 하나의 주장과 출처 및 연도를 함께 적고, 인공지능이 검색하는 방식에 맞춰 소제목을 구성하며, 서버 기록 등을 통해 인공지능 봇의 활동을 추적해야 한다고 조언합니다.

독자는 인터넷에 떠도는 통계 숫자나 인공지능이 생성한 답변 속 수치를 무조건 믿기 전에 원본 출처를 꼼꼼히 확인하는 습관이 중요해집니다. 기업이나 콘텐츠 제작자는 구글 검색 순위뿐만 아니라 인공지능 검색 로봇이 쉽게 읽고 수집할 수 있는 구조로 통계 데이터를 제공하는 방식을 마케팅 전략에 참고할 수 있습니다.