Коротка вiдповiдь
Google-Extended — це не окремий HTTP-сканер, а продуктовий токен у robots.txt, який керує певними застосуваннями Gemini для навчання та привʼязки до джерел.
Гiд по ШI-краулерах
Google-Extended — це не окремий HTTP-сканер, а продуктовий токен у robots.txt, який керує певними застосуваннями Gemini для навчання та привʼязки до джерел.
Коротка вiдповiдь
Google-Extended — це не окремий HTTP-сканер, а продуктовий токен у robots.txt, який керує певними застосуваннями Gemini для навчання та привʼязки до джерел.
Факти про краулер
Токен user-agent
Google-Extended
Оператор
Група KI-Console
Автономний краулер: дозвольте доступ, тримайте публiчний контент читабельним i стежте за логами.
robots.txt
Документацiя
Вiдкрити джерельну документацiюGoogle завантажує сторінки своїми звичними агентами. Google-Extended потім визначає, чи можна використати вже зібраний Google вміст для задокументованих цілей Gemini.
У KI-Console це група «навчання», точніше — керівний токен для навчання та привʼязки. Google зазначає, що Google-Extended не керує включенням у Google Search і не є сигналом ранжування.
Блокування Google-Extended може зменшити те, як системи Google бачать, iндексують, використовують для навчання або отримують ваш публiчний контент. Дозвiл покращує технiчний доступ, але нiколи не гарантує сканування, рейтинг, цитату чи позитивну ШI-вiдповiдь.
Використовуйте в robots.txt саме токен Google-Extended. Його блокування зменшує придатність для перелічених застосувань Gemini, але не блокує Googlebot.
Використовуйте точний токен Google-Extended у robots.txt. Приватнi шляхи блокуйте окремо, якщо доступною має бути лише частина сайту.
Дозволити :bot
User-agent: Google-Extended
Allow: /
Заблокувати :bot
User-agent: Google-Extended
Disallow: /
Чіткі відповіді
KI-Console не продає магічну видимість. Ми робимо ваш вебсайт читабельнішим для ШІ-систем і показуємо докази там, де це дозволяють логи.
Google-Extended це краулер або керуючий robots.txt-токен оператора Google. Факти вище показують призначення, поведiнку robots.txt i точнi правила дозволу або блокування.
Використайте User-agent: Google-Extended i Disallow: /. robots.txt це директива для сумлiнних краулерiв, а не технiчна перепона доступу.
Це може зменшити видимiсть у системах Google, якщо вони бiльше не можуть сканувати, iндексувати, навчатися на вашому контентi або отримувати його. Ефект залежить вiд типу бота i продукту.
Перевірте свій вебсайт
Спершу запустіть безкоштовне сканування. З обліковим записом ви можете верифікувати домен, зберігати історію, генерувати файли та документувати візити краулерів із часом.