Googlebot
Googlebot — це пошуковий робот, створений Google, який збирає документи з інтернету для будівництва пошукового індексу пошуковика Google.
Якщо вебмайстер бажає обмежити інформацію на своєму сайті для Googlebot, він може використати файл robots.txt або метатег noindex.[1]
Googlebot ідентифікує себе через стрічку user agent, в якій міститься слово googlebot.
- ↑ Webmaster Tools. Архів оригіналу за 16 лютого 2009. Процитовано 27 жовтня 2018.
Googlebot FAQ [Архівовано 15 червня 2013 у Wayback Machine.]