网站可以检测到何时在chromedriver中使用硒吗？

我一直在使用Chromedriver测试Selenium，但我注意到有些页面可以检测到您正在使用Selenium，即使根本没有自动化。即使当我只是通过Selenium和Xephyr使用chrome手动浏览时，我也经常得到一个页面，指出检测到可疑活动。我已经检查了用户代理和浏览器指纹，它们与普通的chrome浏览器完全相同。

当我以普通的chrome浏览到这些站点时，一切正常，但是当我使用Selenium时，我被检测到。

从理论上讲，chromedriver和chrome在任何Web服务器上看起来都应该完全相同，但是它们可以通过某种方式检测到它。

如果您想要一些测试代码，请尝试以下方法：

from pyvirtualdisplay import Display
from selenium import webdriver

display = Display(visible=1, size=(1600, 902))
display.start()
chrome_options = webdriver.ChromeOptions()
chrome_options.add_argument('--disable-extensions')
chrome_options.add_argument('--profile-directory=Default')
chrome_options.add_argument("--incognito")
chrome_options.add_argument("--disable-plugins-discovery");
chrome_options.add_argument("--start-maximized")
driver = webdriver.Chrome(chrome_options=chrome_options)
driver.delete_all_cookies()
driver.set_window_size(800,800)
driver.set_window_position(0,0)
print 'arguments done'
driver.get('http://stubhub.com')

如果浏览stubhub，您将在一个或两个请求中被重定向和“阻止”。我一直在对此进行调查，无法弄清楚他们如何分辨用户正在使用Selenium。

他们是怎么做到的呢？

编辑更新：

我在Firefox中安装了Selenium IDE插件，当我在普通的Firefox浏览器中仅使用附加插件访问stubhub.com时就被禁止了。

编辑：

当我使用Fiddler来回查看HTTP请求时，我注意到“假浏览器”的请求通常在响应标头中具有“ no-cache”。

编辑：

像这样的结果是否有办法从Javascript检测到我在Selenium Webdriver页面中，这表明应该没有办法检测何时使用Webdriver。但这证据表明并非如此。

编辑：

该站点将指纹上载到他们的服务器，但是我检查了一下，硒的指纹与使用chrome时的指纹相同。

编辑：

这是它们发送到服务器的指纹有效载荷之一

{"appName":"Netscape","platform":"Linuxx86_64","cookies":1,"syslang":"en-US","userlang":"en-US","cpu":"","productSub":"20030107","setTimeout":1,"setInterval":1,"plugins":{"0":"ChromePDFViewer","1":"ShockwaveFlash","2":"WidevineContentDecryptionModule","3":"NativeClient","4":"ChromePDFViewer"},"mimeTypes":{"0":"application/pdf","1":"ShockwaveFlashapplication/x-shockwave-flash","2":"FutureSplashPlayerapplication/futuresplash","3":"WidevineContentDecryptionModuleapplication/x-ppapi-widevine-cdm","4":"NativeClientExecutableapplication/x-nacl","5":"PortableNativeClientExecutableapplication/x-pnacl","6":"PortableDocumentFormatapplication/x-google-chrome-pdf"},"screen":{"width":1600,"height":900,"colorDepth":24},"fonts":{"0":"monospace","1":"DejaVuSerif","2":"Georgia","3":"DejaVuSans","4":"TrebuchetMS","5":"Verdana","6":"AndaleMono","7":"DejaVuSansMono","8":"LiberationMono","9":"NimbusMonoL","10":"CourierNew","11":"Courier"}}

硒和铬相同

编辑：

VPN只能使用一次，但是在加载第一页后会被检测到。显然，正在运行一些JavaScript来检测Selenium。

对于Mac用户

cdc_使用Vim或Perl 替换变量

您可以使用vim，或如@Vic Seedoubleyew在@ Erti-Chris Eelmaa的答案中指出的那样perl，替换中的cdc_变量chromedriver（请参阅@ Erti-Chris Eelmaa的帖子以了解有关该变量的更多信息）。使用vim或perl防止您不得不重新编译源代码或使用十六进制编辑器。chromedriver在尝试编辑原件之前，请确保对其进行复印。另外，以下方法也在上进行了测试chromedriver version 2.41.578706。

使用Vim

vim /path/to/chromedriver

在上面的代码行之后，您可能会看到一堆乱码。请执行下列操作：

1. cdc_通过键入/cdc_并按进行搜索return。
2. 按启用编辑a。
3. 删除任意数量的，$cdc_lasutopfhvcZLmcfl然后用相等数量的字符替换删除的内容。如果您不这样做，chromedriver将会失败。
4. 编辑完成后，按esc。
5. 要保存更改并退出，请键入:wq!并按return。
6. 如果您不想保存更改，但要退出，请键入:q!并按return。
7. 你完成了。

转到更改后的chromedriver双击。terminal应打开一个窗口。如果killed在输出中看不到，则说明您成功更改了驱动程序。

使用Perl

下面的行替换cdc_为dog_：

perl -pi -e 's/cdc_/dog_/g' /path/to/chromedriver

确保替换字符串的字符数与搜索字符串的字符数相同，否则chromedriver将失败。

Perl说明

s///g 表示您要搜索一个字符串并将其全局替换为另一个字符串（替换所有出现的字符串）。

例如， s/string/replacment/g

所以，

s/// 表示搜索并替换字符串。

cdc_ 是搜索字符串。

dog_ 是替换字符串。

g 是全局键，它将替换每次出现的字符串。

如何检查Perl替代品是否有效

以下行将打印每次出现的搜索字符串cdc_：

perl -ne 'while(/cdc_/g){print "$&\n";}' /path/to/chromedriver

如果没有返回任何内容，cdc_则已被替换。

相反，您可以使用以下代码：

perl -ne 'while(/dog_/g){print "$&\n";}' /path/to/chromedriver

查看替换字符串，dog_现在是否在chromedriver二进制文件中。如果是这样，替换字符串将被打印到控制台。

转到更改后的chromedriver双击。terminal应打开一个窗口。如果killed在输出中看不到，则说明您成功更改了驱动程序。

包起来

更改chromedriver二进制文件后，请确保更改后的二进制文件的名称chromedriver为chromedriver，并且原始二进制文件已从其原始位置移动或重命名。

我对这种方法的经验

以前，我在尝试登录时在网站上被检测到我，但是用cdc_相同大小的字符串替换后，我得以登录。但是就像其他人所说的那样，如果已经被检测到，则可能会被阻止即使使用此方法后，还有其他原因。因此，您可能必须尝试使用​​VPN，其他网络或具有什么功能的站点访问检测到您的站点。

基本上，硒检测的工作方式是，它们检测与selenium一起运行时出现的预定义javascript变量。僵尸程序检测脚本通常会在任何变量中（在窗口对象上）查找包含单词“ selenium” /“ webdriver”的内容，并记录名为$cdc_和的变量$wdc_。当然，所有这些取决于您所使用的浏览器。所有不同的浏览器都公开不同的内容。

对我来说，我使用了chrome，所以，我要做的就是确保$cdc_不再存在作为文档变量，然后瞧瞧（下载chromedriver源代码，修改chromedriver并$cdc_以不同的名称重新编译。）

这是我在chromedriver中修改的功能：

call_function.js：

function getPageCache(opt_doc) {
  var doc = opt_doc || document;
  //var key = '$cdc_asdjflasutopfhvcZLmcfl_';
  var key = 'randomblabla_';
  if (!(key in doc))
    doc[key] = new Cache();
  return doc[key];
}

（注意评论，我所做的我转过身$cdc_来randomblabla_。

这是一个伪代码，演示了僵尸网络可能使用的一些技术：

runBotDetection = function () {
    var documentDetectionKeys = [
        "__webdriver_evaluate",
        "__selenium_evaluate",
        "__webdriver_script_function",
        "__webdriver_script_func",
        "__webdriver_script_fn",
        "__fxdriver_evaluate",
        "__driver_unwrapped",
        "__webdriver_unwrapped",
        "__driver_evaluate",
        "__selenium_unwrapped",
        "__fxdriver_unwrapped",
    ];

    var windowDetectionKeys = [
        "_phantom",
        "__nightmare",
        "_selenium",
        "callPhantom",
        "callSelenium",
        "_Selenium_IDE_Recorder",
    ];

    for (const windowDetectionKey in windowDetectionKeys) {
        const windowDetectionKeyValue = windowDetectionKeys[windowDetectionKey];
        if (window[windowDetectionKeyValue]) {
            return true;
        }
    };
    for (const documentDetectionKey in documentDetectionKeys) {
        const documentDetectionKeyValue = documentDetectionKeys[documentDetectionKey];
        if (window['document'][documentDetectionKeyValue]) {
            return true;
        }
    };

    for (const documentKey in window['document']) {
        if (documentKey.match(/\$[a-z]dc_/) && window['document'][documentKey]['cache_']) {
            return true;
        }
    }

    if (window['external'] && window['external'].toString() && (window['external'].toString()['indexOf']('Sequentum') != -1)) return true;

    if (window['document']['documentElement']['getAttribute']('selenium')) return true;
    if (window['document']['documentElement']['getAttribute']('webdriver')) return true;
    if (window['document']['documentElement']['getAttribute']('driver')) return true;

    return false;
};

根据用户@szx，也可以在十六进制编辑器中简单地打开chromedriver.exe，然后手动进行替换，而无需进行任何编译。

正如我们已经在问题和发布的答案中弄清楚的那样，这里有一个反Web 爬网和一个名为“ Distil Networks”的Bot检测服务。而且，根据公司首席执行官的采访：

即使他们可以创建新的机器人，我们还是想出了一种方法来识别Selenium，即他们正在使用的工具，因此，无论Selenium在该机器人上迭代多少次，我们都将阻止它。我们现在使用Python和许多不同的技术来做到这一点。一旦我们发现一种类型的漫游器出现了某种模式，那么我们就会对他们使用的技术进行反向工程并将其识别为恶意软件。

要了解它们如何精确地检测硒，需要时间和其他挑战，但是目前我们可以肯定地说些什么：

• 它与您对硒采取的措施无关-一旦导航到该站点，便会立即被发现并被禁止。我尝试在动作之间添加人为的随机延迟，在页面加载后暂停-没有任何帮助
• 这也不是关于浏览器指纹的-在具有干净配置文件而不是隐身模式的多个浏览器中尝试过-没有任何帮助
• 因为根据采访中的提示，这是“逆向工程”，所以我怀疑这是通过在浏览器中执行一些JS代码完成的，这表明这是通过Selenium Webdriver自动化的浏览器

决定将其发布为答案，因为显然：

网站可以检测到何时在chromedriver中使用硒吗？

是。

另外，我还没有尝试过使用较旧的硒和较旧的浏览器版本-从理论上讲，Distil Networks僵尸检测程序当前依赖于某个特定点，硒中可能实现或添加了某些东西。然后，如果是这种情况，我们可能会检测到（是的，让我们检测检测器）在哪个点/版本上进行了相关更改，调查变更日志和变更集，并且可能会为我们提供有关在哪里查看的更多信息。以及它们用于检测由Webdriver驱动的浏览器的功能。这只是一个需要检验的理论。

在wellsfargo.com上如何实施的示例：

try {
 if (window.document.documentElement.getAttribute("webdriver")) return !+[]
} catch (IDLMrxxel) {}
try {
 if ("_Selenium_IDE_Recorder" in window) return !+""
} catch (KknKsUayS) {}
try {
 if ("__webdriver_script_fn" in document) return !+""

混淆JavaScript结果

我已经检查了chromedriver源代码。这会将一些javascript文件注入浏览器。
此链接上的每个javascript文件都会注入到以下网页： https : //chromium.googlesource.com/chromium/src/+/master/chrome/test/chromedriver/js/

因此，我使用了逆向工程，并通过十六进制编辑来模糊化js文件。现在，我确定不再使用JavaScript变量，函数名称和固定字符串来发现硒的活动。但是仍然有些站点和reCaptcha可以检测到硒！
也许他们检查由chromedriver js执行引起的修改:)

编辑1：

Chrome“导航器”参数修改

我发现“导航器”中有一些参数可以简要介绍chromedriver的使用。这些是参数：

• “ navigator.webdriver”在非自动模式下为'undefined'。在自动模式下，它是“ true”。
• “ navigator.plugins”在无头chrome上的长度为0。因此，我添加了一些假元素来欺骗插件长度检查过程。
• “ navigator.languages”设置为默认镶边值'[“ en-US”，“ en”，“ es”]'。

因此，我需要一个Chrome扩展程序来在网页上运行javascript。我使用本文提供的js代码进行了扩展，并使用另一篇文章将压缩扩展添加到我的项目中。我已经成功更改了值；但是仍然没有改变！

我没有找到其他像这样的变量，但这并不意味着它们不存在。reCaptcha仍然检测到chromedriver，因此应该有更多变量要更改。在下一步应的检测服务，逆向工程，我不想做的事。

现在，我不确定是否值得在此自动化过程上花费更多时间或寻找替代方法！

尝试将selenium与chrome的特定用户配置文件一起使用，以这种方式，您可以将其用作特定用户并定义所需的任何内容。这样做时，它将以“实际”用户身份运行，请使用一些进程浏览器查看chrome进程。您会看到标签的区别。

例如：

username = os.getenv("USERNAME")
userProfile = "C:\\Users\\" + username + "\\AppData\\Local\\Google\\Chrome\\User Data\\Default"
options = webdriver.ChromeOptions()
options.add_argument("user-data-dir={}".format(userProfile))
# add here any tag you want.
options.add_experimental_option("excludeSwitches", ["ignore-certificate-errors", "safebrowsing-disable-download-protection", "safebrowsing-disable-auto-update", "disable-client-side-phishing-detection"])
chromedriver = "C:\Python27\chromedriver\chromedriver.exe"
os.environ["webdriver.chrome.driver"] = chromedriver
browser = webdriver.Chrome(executable_path=chromedriver, chrome_options=options)

chrome标签列表在这里

partial interface Navigator { readonly attribute boolean webdriver; };

Navigator界面的webdriver IDL属性必须返回webdriver-active标志的值，该标志最初为false。

此属性使网站可以确定用户代理受WebDriver的控制，并且可以用于帮助减轻拒绝服务攻击。

直接取自2017年W3C编辑的WebDriver草案。这在很大程度上意味着，至少可以确定硒驱动程序的未来迭代，以防止滥用。最终，如果没有源代码，很难说出到底是什么导致chrome驱动程序可检测到。

据说window.navigator.webdriver === true如果使用webdriver 会设置Firefox 。这是根据较早的规范之一（例如：archive.org）得出的，但是我在新的规范中找不到它，除了附录中一些非常模糊的措词。

对它的测试是在文件fingerprint_test.js中的硒代码中，其末尾的注释显示“当前仅在firefox中实现”，但是我无法通过一些简单的grep方式识别出该方向上的任何代码，在当前（41.0.2）Firefox发行树或Chromium树中。

从2015年1月起，我还发现了有关firefox驱动程序b82512999938中有关指纹的较早提交的评论。Selenium GIT-master仍在昨天下载的Selenium GIT-master中javascript/firefox-driver/extension/content/server.js添加了注释，该注释链接到当前w3c Webdriver规范中措辞略有不同的附录。

除了@ Erti-Chris Eelmaa的出色答案-令人讨厌window.navigator.webdriver，它是只读的。如果将其值更改为它的事件false仍然会存在true。因此，仍然可以检测到由自动化软件驱动的浏览器。 MDN

该变量由--enable-automationchrome中的标志管理。chromedriver使用该标志启动chrome并将chrome设置window.navigator.webdriver为true。你可以在这里找到它。您需要将标记添加到“排除开关”中。例如（golang）：

package main

import (
    "github.com/tebeka/selenium"
    "github.com/tebeka/selenium/chrome"
)

func main() {

caps := selenium.Capabilities{
    "browserName": "chrome",
}

chromeCaps := chrome.Capabilities{
    Path:            "/path/to/chrome-binary",
    ExcludeSwitches: []string{"enable-automation"},
}
caps.AddChrome(chromeCaps)

wd, err := selenium.NewRemote(caps, fmt.Sprintf("http://localhost:%d/wd/hub", 4444))
}

听起来好像它们在Web应用程序防火墙后面。看一下modsecurity和owasp，看看它们是如何工作的。实际上，您要问的是如何进行漫游器检测规避。这不是Selenium Web驱动程序的用途。它用于测试您的Web应用程序，而不打其他Web应用程序。有可能，但基本上，您必须查看WAF在其规则集中查找的内容，并且如果可以的话，特别要避免使用硒。即使那样，它仍然可能无法正常工作，因为您不知道他们在使用什么WAF。您做了正确的第一步，就是伪造用户代理。如果仍然不能解决问题，那么WAF已经到位，您可能需要变得更加棘手。

编辑：点取自其他答案。确保首先正确设置了用户代理。可能是它撞到了本地Web服务器，还是嗅探了流量。

即使您发送了所有正确的数据（例如，Selenium并未显示为扩展名，您也具有合理的分辨率/位深度＆c），但仍有许多服务和工具可以分析访问者的行为，以确定访问者的行为是否演员是用户或自动化系统。

例如，访问一个站点然后立即通过将鼠标直接移到相关按钮上不到一秒钟立即执行一些操作，这实际上是用户不会做的。

作为调试工具，使用https://panopticlick.eff.org/这样的站点来检查浏览器的独特性可能也很有用。它还将帮助您验证是否有任何特定参数表明您正在Selenium中运行。

我所看到的漫游器检测似乎比我在下面的答案中读到的东西更加复杂或至少有所不同。

实验1：

1. 我从Python控制台使用Selenium打开浏览器和网页。
2. 鼠标已经位于特定的位置，我知道该链接将在页面加载后出现。我从不动鼠标。
3. 我按下了鼠标左键一次（这是从运行Python的控制台到浏览器的焦点）。
4. 我再次按下鼠标左键（记住，光标在给定链接的上方）。
5. 链接会正常打开，应该打开。

实验2：

1. 和以前一样，我从Python控制台使用Selenium打开浏览器和网页。

2. 这次，我没有使用鼠标单击，而是使用Selenium（在Python控制台中）单击具有随机偏移量的相同元素。

3. 链接没有打开，但是我被带到了注册页面。

含义：

• 通过Selenium打开网络浏览器并不会阻止我出现人类
• 像人一样移动鼠标并不一定要归类为人
• 通过Selenium单击具有偏移量的内容仍会引发警报

似乎很神秘，但是我想他们可以确定某个动作是否源自Selenium，而他们并不关心浏览器本身是否通过Selenium打开。还是可以确定窗口是否具有焦点？听到有人有任何见识会很有趣。

我发现的另一件事是，某些网站使用检查用户代理的平台。如果该值包含：“ HeadlessChrome”，则在使用无头模式时，该行为可能会很奇怪。

解决方法是覆盖用户代理值，例如在Java中：

chromeOptions.addArguments("--user-agent=Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.86 Safari/537.36");

一些站点正在检测到此：

function d() {
try {
    if (window.document.$cdc_asdjflasutopfhvcZLmcfl_.cache_)
        return !0
} catch (e) {}

try {
    //if (window.document.documentElement.getAttribute(decodeURIComponent("%77%65%62%64%72%69%76%65%72")))
    if (window.document.documentElement.getAttribute("webdriver"))
        return !0
} catch (e) {}

try {
    //if (decodeURIComponent("%5F%53%65%6C%65%6E%69%75%6D%5F%49%44%45%5F%52%65%63%6F%72%64%65%72") in window)
    if ("_Selenium_IDE_Recorder" in window)
        return !0
} catch (e) {}

try {
    //if (decodeURIComponent("%5F%5F%77%65%62%64%72%69%76%65%72%5F%73%63%72%69%70%74%5F%66%6E") in document)
    if ("__webdriver_script_fn" in document)
        return !0
} catch (e) {}

用以下代码编写一个html页面。您将看到，在DOM硒中，在externalHTML中应用了webdriver属性

<html>
<head>
  <script type="text/javascript">
  <!--
    function showWindow(){
      javascript:(alert(document.documentElement.outerHTML));
    }
  //-->
  </script>
</head>
<body>
  <form>
    <input type="button" value="Show outerHTML" onclick="showWindow()">
  </form>
</body>
</html>

我发现这样更改javascript“ key”变量：

//Fools the website into believing a human is navigating it
        ((JavascriptExecutor)driver).executeScript("window.key = \"blahblah\";");

在将Selenium Webdriver和Google Chrome结合使用时，某些网站可以使用，因为许多网站都会检查此变量，以避免被Selenium废弃。

在我看来，使用Selenium做到这一点的最简单方法是拦截XHR，后者将发送回浏览器指纹。

但这是仅硒的问题，因此最好使用其他方法。硒应该使这种事情变得容易，而不是更困难。

您可以尝试使用参数“启用自动化”

var options = new ChromeOptions();

// hide selenium
options.AddExcludedArguments(new List<string>() { "enable-automation" });

var driver = new ChromeDriver(ChromeDriverService.CreateDefaultService(), options);

但是，我想提醒您，此功能已在ChromeDriver 79.0.3945.16中修复。因此，您可能应该使用旧版的chrome。

另外，作为另一个选择，您可以尝试使用InternetExplorerDriver而不是Chrome。对于我来说，IE不会在没有任何黑客的情况下完全阻止。

有关更多信息，请尝试在这里查看：

Selenium Webdriver：修改navigator.webdriver标志以防止硒检测

Chrome v76中无法隐藏“ Chrome正在由自动化软件控制”信息栏