Proofsource 시스템이 AI 가시성을 측정하는 방식.
Proofsource 서비스는 AI 가시성을 구매자가 묻는 방식 그대로 ChatGPT, Perplexity, Claude 및 Google AI Overviews에 물었을 때 실제 AI 답변 가운데 브랜드를 언급한 비율로 측정합니다. 모든 백분율에는 95% Wilson 구간이 붙고, 모든 수치에서 근거 답변을 열어 볼 수 있으며, 아직 충분한 근거가 없는 수치는 추정하지 않고 표시하지 않습니다.
모든 숫자에 적용되는 세 가지 규칙
모든 퍼센트에 Wilson 구간을 붙여, 실제 비율이 측정값에서 얼마나 떨어져 있을 수 있는지 보여 줍니다.
Wilson(1927), 비율에 대한 표준 구간같은 질문을 받은 엔진: ChatGPT, Perplexity, Claude 및 Google AI Overviews.
무료 체험을 포함한 모든 요금제수치 중 그 뒤의 답변으로 바로 열리는 비율입니다. 전체 텍스트와 각 엔진이 인용한 모든 페이지가 함께 나옵니다.
모든 요금제에서 모든 리포트Proofsource 서비스는 무엇을 세나요?
- 언급률: 한 질문에 대한 답변 중 우리 브랜드를 언급한 비율. 엔진별, 전체 기준.
- 대신 언급된 브랜드: 같은 답변에 나온 다른 모든 브랜드를 등장 빈도순으로.
- 순위: 우리 브랜드가 언급될 때 답변의 몇 번째에 나오는지.
- 인용: 각 엔진이 출처로 제시한 웹 페이지와, 그중 우리를 언급하는 페이지.
모든 답변은 전문과 출처와 함께 보관되므로, 각 수치를 그 수치가 집계한 답변까지 거슬러 올라가 확인할 수 있습니다. 용어는 AI 가시성 용어집에 정의되어 있습니다.
질문은 어떤 방식으로 하나요?
구매자 질문 세트를 승인합니다: "X에 가장 좋은 도구는?" 같은 비브랜드 카테고리 질문과, 브랜드를 언급하는 질문 몇 개. 각 질문은 구성된 모든 엔진에서 똑같은 표현으로 물어, 엔진끼리 비교할 수 있게 합니다.
매일 요금제에서는 모든 질문이 매일 엔진마다 한 번씩 실행되고, 매주·매월 요금제는 그보다 덜 자주 실행됩니다. 무료 체험은 스캔 2회를 오늘과 내일 실행하며, 엔진마다 질문 25개를 묻습니다. 진짜 시험대는 브랜드명이 없는 질문입니다. 브랜드명이 들어간 질문은 엔진이 우리를 알든 모르든 그 브랜드를 언급하기 마련입니다.
각 수치는 얼마나 확실한가요?
AI 엔진은 같은 질문에 1분 간격으로 서로 다른 답을 내놓을 수 있습니다. 그래서 답변 하나는 사실이 아니라 표본입니다. 답변 몇 개로 만든 비율은 실제 비율과 크게 다를 수 있습니다.
Proofsource 서비스는 모든 백분율에 95% Wilson 점수 구간을 붙입니다. 답변 20개 중 6개에서 언급되면 30%이고, 구간은 약 14.5%~51.9%입니다. 200개 중 60개도 30%지만, 구간은 약 24.1%~36.7%로 좁아집니다. 구간을 좁히는 것은 매일의 샘플링이며, 변화는 구간을 넘을 때만 표시됩니다.
Wilson 구간은 1927년에 처음 소개되었고(Wilson, Journal of the American Statistical Association), 0%나 100% 근처에서도 정직한 값을 주기 때문에 작은 표본의 비율에 쓰는 표준 방법입니다. 쉬운 설명, 공식, 이 방법을 권장하는 논문은 95% 구간의 의미에서 볼 수 있습니다.
대표 점수는 어떻게 계산되나요?
각 리포트는 영역마다 0~100점의 점수 하나를 보여 줍니다. 각 점수는 측정된 항목들의 가중 평균입니다. 측정할 수 없었던 항목은 0점으로 처리하지 않고 제외하며 그 이름을 밝힙니다. 근거가 너무 적으면 점수는 “데이터 부족”으로 표시됩니다.
기술 점수
공식. round( sum(가중치 x 영역 점수) / sum(측정된 영역의 가중치) ), 각 영역 점수 = round(100 x (통과 + 0.5 x 경고) / 판정된 점검 수)
- 크롤링과 색인 (가중치 25). 사이트 점검의 영역 점수. 관문: 가져오거나, 표준화하거나, 색인할 수 없는 페이지는 순위에 오를 수도 인용될 수도 없습니다.
- 링크와 구조 (가중치 10). 사이트 점검의 영역 점수. 내부 링크가 크롤러가 도달하는 페이지를 결정합니다. 깨진 링크는 색인되지 않는 페이지보다 손실이 작습니다.
- 구조화 데이터와 공유 (가중치 15). 사이트 점검의 영역 점수. 기계가 추측하지 않고 페이지를 읽는 방식.
- 성능 (가중치 15). 사이트 점검의 영역 점수. 속도와 Core Web Vitals는 순위와 이탈에 직접 영향을 주며, 측정됩니다.
- 보안과 신뢰 (가중치 10). 사이트 점검의 영역 점수. 대부분의 사이트가 통과하는 신뢰 기준이라 사이트 간 차이를 거의 만들지 않습니다.
- 온페이지와 콘텐츠 (가중치 15). 사이트 점검의 영역 점수. 제목, 설명, 헤딩, 본문이 페이지를 매칭하는 기준입니다.
- AI 검색 접근성 (가중치 10). 사이트 점검의 영역 점수. AI 크롤러가 사이트를 읽을 수 있는지, llms.txt가 있는지.
누락된 데이터. 판정된 점검이 3개 미만인 영역은 제외하고 가중치를 다시 정규화합니다. 가중치 100점 중 60점 미만만 측정되었거나 크롤링·색인 영역이 없으면, 리포트는 데이터 부족으로 표시하고 점수를 보여 주지 않습니다.
불확실성. 점검은 샘플이 아니라 크롤링한 페이지 전체를 조사하는 것이므로 샘플링 구간이 없습니다. 범위는 결정론적 한계입니다. 판정되지 않은 점검이 모두 실패했을 때의 점수와 모두 통과했을 때의 점수입니다.
SEO 점수
공식. round( sum(가중치 x 항목 점수) / sum(측정된 항목의 가중치) ), 측정된 항목만
- 검색 가시성: 순위에 오른 키워드 (가중치 10). log10(1 + 순위에 오른 키워드 수), 키워드 10,000개면 100점. 사이트가 얼마나 넓게 검색되는지. 로그 척도.
- 검색 가시성: 순위 구간 (가중치 15). 순위 구간별 순위 키워드의 평균 클릭 가중치, 0.25면 100점. 검색되는 곳에서 사이트가 얼마나 높은 순위에 오르는지.
- 검색 가시성: 예상 월 방문 수 (가중치 20). log10(1 + 예상 방문 수), 100,000이면 100점. 순위의 결과. 업체 추정치입니다.
- 권위: 참조 도메인 대 지정한 경쟁사 (가중치 25). 50 x 브랜드 참조 도메인 수 / 지정한 경쟁사의 중앙값, 최대 100. 링크는 가장 강력한 오프페이지 신호이며, 고객이 지정한 경쟁사와 비교해 판단합니다.
- 온페이지 (가중치 20). 사이트 점검의 온페이지·콘텐츠 영역 점수. 페이지가 쿼리와 매칭되는 방식 중 사이트가 통제할 수 있는 부분.
- 콘텐츠 품질 (가중치 10). 페이지 품질 판정기의 평균 검증 점수, 완전한 실행이 있을 때만. 일부 페이지 샘플에 대한 선택형 LLM 판정으로, 가장 덜 결정론적인 입력입니다.
누락된 데이터. 측정되지 않은 항목은 추측하지 않고 제외하며, 나머지는 다시 정규화합니다. 검색 가시성 항목이 측정되지 않았거나 가중치 100점 중 50점 미만이면 리포트는 데이터 부족으로 표시합니다.
불확실성. 순위, 트래픽, 백링크 수는 특정 시점의 업체 추정치이므로 샘플링 구간을 계산하거나 암시하지 않습니다. 각 항목에 출처와 기준 날짜를 표시합니다.
AEO 점수
공식. round( (35 x 언급 + 25 x 인용 + 25 x 점유율 + 15 x 순위) / 100 ), 각 항목 0~100, 측정된 항목만
- 언급률 (가중치 35). 브랜드를 언급한 답변의 비율, 50%면 100점. 구매자에게 가장 먼저 필요한 것이며, 다른 모든 구성 요소의 전제입니다.
- 인용률 (가중치 25). 브랜드 사이트를 인용한 답변의 비율, 40%면 100점. 가시성에서 트래픽으로 이어지는 측정 가능한 단계.
- 점유율(상위 10개 기준) (가중치 25). 가장 많이 언급된 업체 10곳 중 브랜드의 점유율, 25%면 100점. 함께 언급된 업체와 비교한 브랜드의 위치.
- 언급될 때의 평균 순위 (가중치 15). 100 x (20 - 순위) / 19, 1위면 100점. 앞 순위일수록 먼저 읽힙니다. 근거가 되는 답변이 가장 적어 가중치가 가장 낮습니다.
누락된 데이터. 답변이 10개 미만이면 데이터 부족으로 점수가 없습니다. 점유율은 업체 언급 10개, 순위는 위치가 있는 언급 답변 5개가 필요하며, 그렇지 않으면 해당 항목은 제외하고 나머지를 다시 정규화합니다.
불확실성. 답변은 샘플링되므로, 점수는 각 비율의 Wilson 구간에서 구한 95% 범위(몬테카를로, 고정 시드, 보수적 의존성 가정)와 함께 표시하며, 다섯 가지 대체 가중치로 계산한 점수도 함께 보여 주어 가중치의 영향을 확인할 수 있습니다.
브랜드 언급 분류기는 얼마나 정확한가요?
답변이 브랜드를 언급하는지 판단하는 분류기의 정밀도, 재현율, 정확도를 사람이 붙인 라벨과 비교해 엔진별로 측정합니다. 각 라벨은 실제 수집된 답변을 가리키며, 분류기의 현재 판정은 리포트 생성 시점에 다시 연결됩니다.
모든 판정은 엔진별로 사람이 라벨링한 답변과 대조합니다. 라벨링된 데이터가 최소 건수를 넘은 수치만 여기에 공개하므로, 각 숫자에는 충분한 근거가 있습니다.
정밀도와 재현율은 엔진, 주제, 브랜드별로 층화한, 사람이 라벨링한 골드 세트를 기준으로 측정합니다. 각 라벨은 실제로 저장된 답변을 가리키며, 분류기의 현재 판정은 리포트 생성 시점에 다시 연결되므로 모델이나 프롬프트가 바뀌어도 다시 라벨링하지 않고 반영됩니다. 최소 라벨 수에 못 미치는 수치는 공개하지 않습니다.
이 수치는 매 배포 전에 가장 최근의 라벨링된 실행에서 다시 생성됩니다.
이 방법의 한계는 무엇인가요?
- 실버 라벨은 초기 일치도를 잡는 데 쓰이지만 사람이 검증한 정답은 아닙니다. 사람이 검증한 것은 이 페이지의 골드 세트 수치뿐입니다.
- 감성은 3개 클래스에 대한 일치도 수치이며, 클래스별 정밀도/재현율이 아닙니다.
- 엔진은 나열된 모델 버전으로 샘플링합니다. 제공업체가 예고 없이 모델을 바꾸면 다음 보정 실행이 이를 기록하기 전에 수치가 달라질 수 있습니다.
- 인용까지 걸리는 시간은 Proofsource가 관리하는 페이지(고유 토큰 프로브)에 대해서만 측정하며, 임의의 고객 페이지는 측정하지 않습니다.
Proofsource 측정 방식에 대해 사람들이 묻는 것
Proofsource 시스템은 AI 가시성을 어떻게 측정하나요?
구매자가 묻는 질문을 ChatGPT, Perplexity, Claude 및 Google AI Overviews에 던지고, 모든 답변을 읽어 우리 브랜드가 언급됐는지, 누구와 나란히 언급됐는지, 어떤 페이지가 인용됐는지 기록합니다. 언급률은 우리를 언급한 답변의 비율이며, 각 비율에는 95% Wilson 구간이 붙습니다.
질문은 얼마나 자주 하나요?
요금제에서 정한 주기대로: 매일 또는 매주, 실행마다 질문과 엔진별로 한 번씩. 무료 체험은 2회 스캔을 오늘과 내일 실행하며, 엔진마다 25개 질문을 묻습니다.
모든 수치에 구간을 붙이는 이유는?
같은 질문이라도 1분 뒤에 다른 답변이 나올 수 있기 때문입니다. 답변 20개로 낸 언급률은 실제 비율과 크게 다를 수 있고, 구간은 그 차이가 얼마나 될지 보여 줍니다. Proofsource 시스템은 변화가 구간을 벗어날 때만 표시하므로, 노이즈가 많은 하루가 추세로 보고되지 않습니다.
브랜드 언급 분류기는 얼마나 정확한가요?
정밀도와 재현율은 사람이 라벨링한 답변을 기준으로 엔진별로 측정하며, 라벨링 세트가 정직하게 말할 수 있을 만큼 커지면 이 페이지에 공개합니다. 그 전까지는 추정치를 내지 않고 수치를 보류합니다.
숫자 뒤의 답변을 확인할 수 있나요?
예. 모든 수치는 계산에 쓰인 답변으로 이어지며, 전문과 각 엔진이 인용한 출처가 함께 있어 직접 다시 셀 수 있습니다.