Applebot에 관하여

Apple의 웹 크롤러인 Applebot에 대해 알아봅니다.

Applebot은 Apple의 웹 크롤러로 Siri 및 Spotlight 제안과 같은 제품에 사용됩니다.

Applebot 식별하기

Applebot에서 발생한 트래픽은 해당 사용자 에이전트로 식별되며, 역방향 DNS에는 *.applebot.apple.com 도메인으로 표시되고 17.0.0.0 넷 블록 주소를 사용합니다.

트래픽이 Applebot에서 발생한 것인지 확인하기

macOS에서는 호스트 명령을 사용하여 IP 주소가 Applebot의 일부인지 확인할 수 있습니다. 다음 예는 호스트 명령과 그 결과를 보여 줍니다.

$ host 17.58.101.179
179.101.58.17.in-addr.arpa domain name pointer 17-58-101-179.applebot.apple.com.

호스트 명령을 사용하여 DNS가 동일한 IP 주소를 가리키는지 확인할 수도 있습니다.

$ host 17-58-101-179.applebot.apple.com
17-58-101-179.applebot.apple.com has address 17.58.101.179.

Applebot 사용자 에이전트 확인하기

User-agent 문자열에는 'Applebot' 및 기타 정보가 포함되어 있습니다. 포맷은 다음과 같습니다. 

Mozilla/5.0 (Device; OS_version) AppleWebKit/WebKit_version (KHTML, like Gecko)
Version/Safari_version Safari/WebKit_version (Applebot/Applebot_version)

데스크탑의 예:

Mozilla/5.0 (Macintosh; Intel Mac OS X 10_10_1) AppleWebKit/600.2.5
(KHTML, like Gecko) Version/8.0.2 Safari/600.2.5 (Applebot/0.1)
Mozilla/5.0 (Macintosh; Intel Mac OS X 10_14_5) AppleWebKit/605.1.15
(KHTML, like Gecko) Version/12.1.1 Safari/605.1.15 (Applebot/0.1)

모바일의 예:

Mozilla/5.0 (iPhone; CPU iPhone OS 8_1 like Mac OS X) AppleWebKit/600.1.4
(KHTML, like Gecko) Version/8.0 Mobile/12B410 Safari/600.1.4 (Applebot/0.1;
+http://www.apple.com/go/applebot)
Mozilla/5.0 (iPhone; CPU iPhone OS 13_4_1 like Mac OS X) AppleWebKit/605.1.15Z
(KHTML, like Gecko) Version/13.1 Mobile/15E148 Safari/604.1 (Applebot/0.1)

robot.txt 규칙 사용자화하기

Applebot은 Applebot을 대상으로 하는 표준 robots.txt 명령을 따릅니다. 이 예에서는 Applebot이 /private/ 또는 /not-allowed/ 아래에 있는 문서는 크롤링하려고 시도하지 않습니다.

User-agent: Applebot         # apple
Allow: /                     # Allow everything (also true if omitted)
Disallow: /private/          # disallow this directory
User-agent: *                # any robot
Disallow: /not-allowed/      # disallow this directory

로봇 명령에 Applebot 대신 Googlebot이 나오는 경우 Apple 로봇은 Googlebot 명령을 따릅니다.

 

렌더링 및 로봇 규칙

Applebot은 브라우저 내에서 웹 사이트의 콘텐츠를 렌더링할 수 있습니다. JavaScript, CSS 및 기타 리소스가 robots.txt를 통해 차단되는 경우 Applebot이 콘텐츠를 제대로 렌더링하지 못할 수 있습니다. 여기에는 페이지에 필요할 수 있는 XHR, JS 및 CSS가 포함됩니다.

Applebot이 페이지에 가장 적합한 콘텐츠를 인덱싱하게 하려면 사용자가 페이지를 렌더링하는 데 필요한 모든 것을 Applebot이 사용 가능한지 확인합니다. 또는 일부 리소스를 사용할 수 없는 경우에도 웹 사이트가 깔끔하게 렌더링되는지 확인합니다. 이를 흔히 단계적 기능 축소라고 합니다.

Applebot의 인덱싱 규칙 사용자화하기

Applebot은 HTML 문서에서 robots 메타 태그를 지원합니다. 메타 태그로 로봇 규칙을 지정하려면 다음과 같이 태그를 문서의 <head> 섹션에 입력합니다.

<html><head>
 <meta name="robots" content="noindex"/>
 ...
 </head>
 <body>...</body>
 </html>

Applebot은 다음과 같은 명령도 지원합니다.

  • noindex: Applebot이 해당 페이지를 인덱싱하지 않으므로 Spotlight 또는 Siri 제안에 표시되지 않습니다.
  • nosnippet: Applebot이 페이지에 대한 설명이나 웹 답변을 생성하지 않습니다. URL 방문 제안에 페이지의 제목만 포함됩니다.
  • nofollow: Applebot이 페이지에 있는 어떠한 링크도 따라가지 않습니다.
  • none: Applebot이 위에서 설명한 대로 페이지를 인덱싱하지 않고 설명을 생성하지 않으며 페이지에 있는 링크를 따라가지 않습니다.
  • all: Applebot이 제안을 위해 문서를 제공하고 콘텐츠에 대한 설명을 생성하므로 페이지에 대한 간단한 설명이 대표 이미지 옆에 표시될 수 있습니다. Applebot이 더 많은 제안을 제공하기 위해 페이지에 있는 링크를 따라갈 수 있습니다.

메타 태그 하나에 명령을 여러 개 입력하려면 쉼표로 구분된 목록 또는 여러 메타 태그를 사용합니다. 예를 들면 다음과 같습니다.

<meta name="robots" content="nosnippet, noindex”>
<meta name="robots" content=“noindex">
<meta name="robots" content=“nosnippet">

검색 순위에 관하여

Apple 검색에서는 웹 검색 결과의 순위를 지정할 때 다음 사항을 고려할 수 있습니다.

  • 검색 결과를 통해 집계된 사용자 참여
  • 검색어가 웹 페이지 주제 및 콘텐츠와 관련이 있고 일치하는 정도
  • 웹에 있는 다른 페이지의 링크 수 및 품질
  • 사용자 위치 기반 신호(근사치 데이터)
  • 웹 페이지 디자인의 특성 

검색 결과에 위의 요인이 사용되며 미리 정해진 순위는 중요하지 않습니다. 검색 사용자에게는 Siri 제안, 검색 및 개인 정보 보호에 나와 있는 개인정보 처리방침이 적용됩니다.

Apple에 문의하기

질문이나 우려 사항이 있는 경우 applebot@apple.com으로 문의하십시오.

Apple이 제조하지 않은 제품에 관한 정보 또는 Apple의 관리 또는 테스트 대상이 아닌 독립적인 웹 사이트는 권장 또는 보증 없이 제공되는 것입니다. Apple은 타사 웹 사이트 또는 제품에 대한 선택, 성능 및 사용과 관련하여 발생하는 결과에 대해 책임을 지지 않습니다. Apple은 타사 웹 사이트의 정확성 또는 신뢰도에 대해 어떠한 언급도 하지 않습니다. 자세한 내용은 해당 업체에 문의하시기 바랍니다.

게시일: