如何在C#中创建一个简单的代理?


143

几周前我已经下载了Privoxy,为了获得乐趣,我很想知道如何完成它的简单版本。

我了解我需要配置浏览器(客户端)以将请求发送到代理。代理将请求发送到网络(假设它是http代理)。代理将收到答案...但是代理如何将请求发送回浏览器(客户端)?

我在网上搜索了C#和http代理,但没有找到让我了解它在幕后如何正常工作的内容。(我相信我不想要反向代理,但我不确定)。

你们中的任何人有一些说明或信息可以让我继续这个小项目吗?

更新资料

这是我的理解(请参见下图)。

步骤1我为要在Proxy侦听端口发送到127.0.0.1的所有请求配置了客户端(浏览器)。这样,请求将不会直接发送到Internet,而是由代理处理。

步骤2代理看到一个新的连接,读取HTTP标头,并查看他必须执行的请求。他执行请求。

步骤3代理收到请求的答复。现在,他必须将答案从网络发送给客户,但是如何?

替代文字

有用的链接

Mentalis代理:我发现这个项目是一个代理(但我想要更多)。我可能会检查源代码,但是我真的想要一些基本的知识来理解更多概念。

ASP代理:我也许也可以在这里获得一些信息。

请求反射器:这是一个简单的示例。

这是带有简单Http代理Git Hub存储库


我没有2015年的2008屏幕快照。对不起。
Patrick Desjardins,2015年

实际上,事实证明archive.org确实有它。抱歉打扰你。
Ilmari Karonen

Answers:


35

您可以使用HttpListener该类构建一个以侦听传入的请求,并使用HttpWebRequest该类构建中继的请求。


我在哪里中继?我如何知道将信息发送回何处?浏览器发送到让说127.0.0.1:9999的客户端在9999获得请求并将其发送到Web。得到答案...比客户做什么?发送到什么地址?
Patrick Desjardins,

2
如果使用的是HttpListener,则只需将响应写入HttpListener.GetContext()。Response.OutputStream。无需关心地址。
OregonGhost

有趣的是,我将以这种方式进行检查。
Patrick Desjardins,

8
我不会为此使用HttpListener。而是,构建一个ASP.NET应用程序并将其托管在IIS中。使用HttpListener时,您将放弃IIS提供的过程模型。这意味着您将丢失诸如流程管理(启动,故障检测,回收),线程池管理等内容。
Mauricio Scheffer

2
也就是说,如果您打算将其用于许多客户端计算机...作为玩具代理HttpListener可以......
Mauricio Scheffer

93

我不会使用HttpListener之类的东西,那样您会遇到很多问题。

最重要的是,要支持它会非常痛苦:

  • 代理保持活动
  • SSL无效(以正确的方式,您会弹出窗口)
  • .NET库严格遵循RFC,这会导致某些请求失败(即使IE,FF和世界上任何其他浏览器都可以使用。)

您需要做的是:

  • 监听TCP端口
  • 解析浏览器请求
  • 提取主机以TCP级别连接到该主机
  • 来回转发所有内容,除非您要添加自定义标头等。

我在.NET中编写了2种不同的HTTP代理,它们具有不同的要求,我可以告诉你这是最好的方法。

Mentalis这样做,但是他们的代码是“委派意大利面条”,比GoTo更糟糕:)


1
您为TCP连接使用了什么类?
卡梅伦

8
@cameron TCPListener和SslStream。
博士 邪恶的

2
您能否分享一下HTTPS为什么不起作用的经验?
Restuta

10
@Restuta为SSL起作用,您应该转发连接,而​​无需在TCP级别实际触摸它,而HttpListener无法做到这一点。您可以阅读SSL的工作原理,并看到它需要对目标服务器进行身份验证。因此,客户端将尝试连接到google.com,但实际上将连接不是google.com的 Httplistener,并且会收到证书不匹配错误,并且由于您的侦听器将不使用签名证书,因此将获得不正确的证书等。您可以修复通过将CA安装到客户端将要使用的计算机来实现。这是一个非常肮脏的解决方案。
博士 邪恶的

1
@ dr.evil:+++ 1感谢出色的技巧,但是我很好奇如何将数据发送回客户端(浏览器),可以说我已经将TcpClient发送给客户端了吗?
saber 2012年

26

我最近使用TcpListenerTcpClient在c#.net中编写了轻量级代理。

https://github.com/titanium007/Titanium-Web-Proxy

它以正确的方式支持安全的HTTP,客户端计算机需要信任代理使用的根证书。还支持WebSockets中继。除流水线外,均支持HTTP 1.1的所有功能。无论如何,大多数现代浏览器都不使用流水线。还支持Windows身份验证(纯文本,摘要)。

您可以通过引用项目来连接应用程序,然后查看并修改所有流量。(请求和响应)。

至于性能,我已经在我的机器上对其进行了测试,并且工作没有明显的延迟。


并一直保持到2020年,感谢分享:)
Mark Adamson

19

代理可以以下方式工作。

步骤1,将客户端配置为使用proxyHost:proxyPort。

代理服务器是一个正在侦听proxyHost:proxyPort的TCP服务器。浏览器打开与代理的连接并发送Http请求。代理解析此请求,并尝试检测“主机”标头。此标题将告诉Proxy在哪里打开连接。

步骤2:代理打开到“主机”标头中指定地址的连接。然后,它将HTTP请求发送到该远程服务器。读取响应。

步骤3:从远程HTTP服务器读取响应后,代理通过与浏览器更早打开的TCP连接发送响应。

示意图如下所示:

Browser                            Proxy                     HTTP server
  Open TCP connection  
  Send HTTP request  ----------->                       
                                 Read HTTP header
                                 detect Host header
                                 Send request to HTTP ----------->
                                 Server
                                                      <-----------
                                 Read response and send
                   <-----------  it back to the browser
Render content

14

如果您只是想拦截流量,则可以使用Fiddler核心来创建代理...

http://fiddler.wikidot.com/fiddlercore

首先使用UI运行小提琴手以查看其功能,它是一个代理,可用于调试http / https通信。它是用c#编写的,具有可构建到自己的应用程序中的核心。

请记住,FiddlerCore对于商业应用程序不是免费的。



5

如果您使用HTTPListener,请同意,您将遇到很多问题,您必须解析请求,并将其用于标头和...

  1. 使用tcp监听器监听浏览器请求
  2. 仅解析请求的第一行,并获取要连接的主机域和端口
  3. 在浏览器请求的第一行上将确切的原始请求发送到找到的主机
  4. 从目标站点接收数据(我在本节中遇到问题)
  5. 将从主机接收的确切数据发送到浏览器

您看到您甚至不需要知道浏览器请求中的内容并进行解析,只需从第一行获取目标站点地址,通常第一行就喜欢此GET http://google.com HTTP1.1或CONNECT facebook.com: 443(用于ssl请求)


4

Socks4是一个非常简单的协议。您侦听初始连接,连接到客户端请求的主机/端口,将成功代码发送给客户端,然后跨套接字转发传出和传入流。

如果您使用HTTP,则必须阅读并可能设置/删除一些HTTP标头,这需要做更多的工作。

如果我没记错的话,SSL可以跨HTTP和Socks代理工作。对于HTTP代理,您可以实现CONNECT动词,该动词的工作原理与上述的socks4十分相似,然后客户端将通过代理的tcp流打开SSL连接。


2

浏览器已连接到代理,因此代理通过Web服务器获取的数据只是通过浏览器启动到代理的相同连接发送。


1

对于它的价值,这是一个基于HttpListenerHttpClient的C#示例异步实现(我使用它能够将Android设备中的Chrome连接到IIS Express,这是我发现的唯一方法...)。

并且,如果您需要HTTPS支持,则不需要更多代码,只需进行证书配置即可:具有HTTPS支持的Httplistener

// define http://localhost:5000 and http://127.0.0.1:5000/ to be proxies for http://localhost:53068
using (var server = new ProxyServer("http://localhost:53068", "http://localhost:5000/", "http://127.0.0.1:5000/"))
{
    server.Start();
    Console.WriteLine("Press ESC to stop server.");
    while (true)
    {
        var key = Console.ReadKey(true);
        if (key.Key == ConsoleKey.Escape)
            break;
    }
    server.Stop();
}

....

public class ProxyServer : IDisposable
{
    private readonly HttpListener _listener;
    private readonly int _targetPort;
    private readonly string _targetHost;
    private static readonly HttpClient _client = new HttpClient();

    public ProxyServer(string targetUrl, params string[] prefixes)
        : this(new Uri(targetUrl), prefixes)
    {
    }

    public ProxyServer(Uri targetUrl, params string[] prefixes)
    {
        if (targetUrl == null)
            throw new ArgumentNullException(nameof(targetUrl));

        if (prefixes == null)
            throw new ArgumentNullException(nameof(prefixes));

        if (prefixes.Length == 0)
            throw new ArgumentException(null, nameof(prefixes));

        RewriteTargetInText = true;
        RewriteHost = true;
        RewriteReferer = true;
        TargetUrl = targetUrl;
        _targetHost = targetUrl.Host;
        _targetPort = targetUrl.Port;
        Prefixes = prefixes;

        _listener = new HttpListener();
        foreach (var prefix in prefixes)
        {
            _listener.Prefixes.Add(prefix);
        }
    }

    public Uri TargetUrl { get; }
    public string[] Prefixes { get; }
    public bool RewriteTargetInText { get; set; }
    public bool RewriteHost { get; set; }
    public bool RewriteReferer { get; set; } // this can have performance impact...

    public void Start()
    {
        _listener.Start();
        _listener.BeginGetContext(ProcessRequest, null);
    }

    private async void ProcessRequest(IAsyncResult result)
    {
        if (!_listener.IsListening)
            return;

        var ctx = _listener.EndGetContext(result);
        _listener.BeginGetContext(ProcessRequest, null);
        await ProcessRequest(ctx).ConfigureAwait(false);
    }

    protected virtual async Task ProcessRequest(HttpListenerContext context)
    {
        if (context == null)
            throw new ArgumentNullException(nameof(context));

        var url = TargetUrl.GetComponents(UriComponents.SchemeAndServer, UriFormat.Unescaped);
        using (var msg = new HttpRequestMessage(new HttpMethod(context.Request.HttpMethod), url + context.Request.RawUrl))
        {
            msg.Version = context.Request.ProtocolVersion;

            if (context.Request.HasEntityBody)
            {
                msg.Content = new StreamContent(context.Request.InputStream); // disposed with msg
            }

            string host = null;
            foreach (string headerName in context.Request.Headers)
            {
                var headerValue = context.Request.Headers[headerName];
                if (headerName == "Content-Length" && headerValue == "0") // useless plus don't send if we have no entity body
                    continue;

                bool contentHeader = false;
                switch (headerName)
                {
                    // some headers go to content...
                    case "Allow":
                    case "Content-Disposition":
                    case "Content-Encoding":
                    case "Content-Language":
                    case "Content-Length":
                    case "Content-Location":
                    case "Content-MD5":
                    case "Content-Range":
                    case "Content-Type":
                    case "Expires":
                    case "Last-Modified":
                        contentHeader = true;
                        break;

                    case "Referer":
                        if (RewriteReferer && Uri.TryCreate(headerValue, UriKind.Absolute, out var referer)) // if relative, don't handle
                        {
                            var builder = new UriBuilder(referer);
                            builder.Host = TargetUrl.Host;
                            builder.Port = TargetUrl.Port;
                            headerValue = builder.ToString();
                        }
                        break;

                    case "Host":
                        host = headerValue;
                        if (RewriteHost)
                        {
                            headerValue = TargetUrl.Host + ":" + TargetUrl.Port;
                        }
                        break;
                }

                if (contentHeader)
                {
                    msg.Content.Headers.Add(headerName, headerValue);
                }
                else
                {
                    msg.Headers.Add(headerName, headerValue);
                }
            }

            using (var response = await _client.SendAsync(msg).ConfigureAwait(false))
            {
                using (var os = context.Response.OutputStream)
                {
                    context.Response.ProtocolVersion = response.Version;
                    context.Response.StatusCode = (int)response.StatusCode;
                    context.Response.StatusDescription = response.ReasonPhrase;

                    foreach (var header in response.Headers)
                    {
                        context.Response.Headers.Add(header.Key, string.Join(", ", header.Value));
                    }

                    foreach (var header in response.Content.Headers)
                    {
                        if (header.Key == "Content-Length") // this will be set automatically at dispose time
                            continue;

                        context.Response.Headers.Add(header.Key, string.Join(", ", header.Value));
                    }

                    var ct = context.Response.ContentType;
                    if (RewriteTargetInText && host != null && ct != null &&
                        (ct.IndexOf("text/html", StringComparison.OrdinalIgnoreCase) >= 0 ||
                        ct.IndexOf("application/json", StringComparison.OrdinalIgnoreCase) >= 0))
                    {
                        using (var ms = new MemoryStream())
                        {
                            using (var stream = await response.Content.ReadAsStreamAsync().ConfigureAwait(false))
                            {
                                await stream.CopyToAsync(ms).ConfigureAwait(false);
                                var enc = context.Response.ContentEncoding ?? Encoding.UTF8;
                                var html = enc.GetString(ms.ToArray());
                                if (TryReplace(html, "//" + _targetHost + ":" + _targetPort + "/", "//" + host + "/", out var replaced))
                                {
                                    var bytes = enc.GetBytes(replaced);
                                    using (var ms2 = new MemoryStream(bytes))
                                    {
                                        ms2.Position = 0;
                                        await ms2.CopyToAsync(context.Response.OutputStream).ConfigureAwait(false);
                                    }
                                }
                                else
                                {
                                    ms.Position = 0;
                                    await ms.CopyToAsync(context.Response.OutputStream).ConfigureAwait(false);
                                }
                            }
                        }
                    }
                    else
                    {
                        using (var stream = await response.Content.ReadAsStreamAsync().ConfigureAwait(false))
                        {
                            await stream.CopyToAsync(context.Response.OutputStream).ConfigureAwait(false);
                        }
                    }
                }
            }
        }
    }

    public void Stop() => _listener.Stop();
    public override string ToString() => string.Join(", ", Prefixes) + " => " + TargetUrl;
    public void Dispose() => ((IDisposable)_listener)?.Dispose();

    // out-of-the-box replace doesn't tell if something *was* replaced or not
    private static bool TryReplace(string input, string oldValue, string newValue, out string result)
    {
        if (string.IsNullOrEmpty(input) || string.IsNullOrEmpty(oldValue))
        {
            result = input;
            return false;
        }

        var oldLen = oldValue.Length;
        var sb = new StringBuilder(input.Length);
        bool changed = false;
        var offset = 0;
        for (int i = 0; i < input.Length; i++)
        {
            var c = input[i];

            if (offset > 0)
            {
                if (c == oldValue[offset])
                {
                    offset++;
                    if (oldLen == offset)
                    {
                        changed = true;
                        sb.Append(newValue);
                        offset = 0;
                    }
                    continue;
                }

                for (int j = 0; j < offset; j++)
                {
                    sb.Append(input[i - offset + j]);
                }

                sb.Append(c);
                offset = 0;
            }
            else
            {
                if (c == oldValue[0])
                {
                    if (oldLen == 1)
                    {
                        changed = true;
                        sb.Append(newValue);
                    }
                    else
                    {
                        offset = 1;
                    }
                    continue;
                }

                sb.Append(c);
            }
        }

        if (changed)
        {
            result = sb.ToString();
            return true;
        }

        result = input;
        return false;
    }
}
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.