百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 编程网 > 正文

三张大图剖析HttpClient和IHttpClientFactory在DNS解析问题上的殊途同归

yuyutoo 2024-12-19 17:33 2 浏览 0 评论

在开发者便利度角度,我们很轻松地使用HttpClient对象发出HTTP请求,只需要关注应用层协议的BaseAddr、Url、ReqHeader、timeout。

实际在HttpClient请求在源码级别是 HttpMessageHandler在躬身前行。

1. 早期.NET HttpClient遇到的Socket滥用/DNS解析问题

早期.NET的HttpClient使用HttpClientHandler[1], 该handler具备完整的async、proxy、dns、Connection pool 请求一条龙能力。

底层Handler又会构建tcp连接池 ,开发者不注意使用场景和底层原理容易造成Socket滥用、主机端口耗尽(参考资料是:tcp4次挥手,主动端开方不会立即释放端口,存在2min的time_wait状态)。

一般实践会采用单例模式,重用HttpClient对象(也即重用HttpClientHandler), 但此时又会遇到DNS解析问题的尴尬(HttpClient仅在创建时为连接解析DNS,不跟踪DNS服务器指令的TTL)。


意识到重用httpClient带上的dns解析副作用之后, .NET团队和.ASP.NETCore团队分别给出了技术路线来尝试解决这个问题,

前者在.NETCore 2.1 引入了具备对连接池中连接做生命周期管理能力的 SocketsHttpHandler;

后者基于ASP.NETCore框架随处可见的DI能力,实现了针对HttpClientHandler实例的缓存工厂。


2. .NET Core2.1+ HttpClient 改造HttpClientHandler证明自己

新版本的思路是哪里有问题, 我就改造哪里。

.NET Core 2.1改造了HttpClient原始的HttpClientHandler源码, 让其underlyingHandler=SocketsHttpHandler,也就是说在.NETCore2.1起HttpClient的核心Handler实质就是SocketsHttpHandler[2], HttpClientHandler只是一个套壳。

看上面的UML图,被改造后的套壳HttpClientHandler内置了一个默认的SocketsHttpHandler来完成一条龙HTTP服务 (Dispose工作也全权交给了SocketsHttpHandler), 当然开发者也可以在构建HttpClient实例时指定handler。

SocketsHttpHandler中与连接生命周期相关的三个关键属性:

var handler = new SocketsHttpHandler
{
PooledConnectionLifetime = TimeSpan.FromMinutes(15), // 限制连接的生命周期,默认无限 Recreate every 15 minutes, 这个配置可用于缓解DNS解析问题
PooledConnectionIdleTimeout = TimeSpan.FromMinutes(2), // 空闲连接在连接池中的存活时间, <=NET5默认2min, >NET6 1min
MaxConnectionsPerServer = 100, // 定义到每个目标服务节点能建立的最大连接数 未设置 = int.MaxValue

};
var sharedClient = new HttpClient(handler);

都聊到此了,在打算重用HttpClient实例时,插入SocketsHttpHandler并调整PooledConnectionLifetime,可缓解DNS解析问题。

3. ASP.NETCore IHttpClientFactory缓存工厂 曲线救国

IHttpClientFactory 充分体现了“计算机领域的任何问题都可以通过增加一个间接的中间层来解决” 这一方法论。

为解决重用HttpClient引起的DNS解析副作用,IHttpClientFactory对实际使用的核心HttpClienthandler开启了缓存工厂模式,在外侧尝试跟踪并控制Handler的存活周期。

① 通过IHttpClientFactory注入的命名的/类型化的HttpClient实例,底层核心的Handler来自缓存字典;

② 缓存字典中的缓存项默认2min,意味着2min时间内产生的命名HttpClient实例都是引用同一个核心HttpMessageHandler实例(LifeTimeTrackingHttpMessageHandler);

public HttpClient CreateClient(string name)
{
ThrowHelper.ThrowIf(name);

HttpMessageHandler handler = CreateHandler(name);
var client = new HttpClient(handler, disposeHandler: false);

HttpClientFactoryOptions options = _optionsMonitor.Get(name);
for (int i = 0; i < options.HttpClientActions.Count; i++)
{
options.HttpClientActions[i](client "i");
}

return client;
}

public HttpMessageHandler CreateHandler(string name)
{
ThrowHelper.ThrowIf(name);

ActiveHandlerTrackingEntry entry = _activeHandlers.GetOrAdd(name, _entryFactory).Value; // 工厂模式,惰性取值

StartHandlerEntryTimer(entry); // 跟踪缓存项的过期时间

return entry.Handler;

}

缓存是用线程安全的字典ConcurrentDictionary以惰性生成的方式实现:

_activeHandlers = new ConcurrentDictionary<string, Lazy<ActiveHandlerTrackingEntry>>(StringComparer.Ordinal);

_entryFactory = (name) => {
return new Lazy<ActiveHandlerTrackingEntry>(() =>
{
return CreateHandlerEntry(name);
}, LazyThreadSafetyMode.ExecutionAndPublication);
};

缓存的是LifeTimeTrackingHttpMessageHandler[3]对象,这是一个托管资源。

③ 每个活跃的核心handler上外挂了存活时间, 一旦到期便从活跃字典中移出, 并移动到过期handler队列[4]

internal sealed class ExpiredHandlerTrackingEntry
{
private readonly WeakReference _livenessTracker;

// IMPORTANT: don't cache a reference to `other` or `other.Handler` here.
// We need to allow it to be GC'
ed.
public ExpiredHandlerTrackingEntry(ActiveHandlerTrackingEntry other)
{
Name = other.Name;
Scope = other.Scope;

_livenessTracker = new WeakReference(other.Handler); // 跟踪LifeTimeTrackingHttpMessageHandler 托管资源
InnerHandler = other.Handler.InnerHandler!; // InnerHandler 是托管资源底层引用的非托管资源
}

public bool CanDispose => !_livenessTracker.IsAlive;

public HttpMessageHandler InnerHandler { get; }

public string Name { get; }

public IServiceScope? Scope { get; }
}

托管资源LifeTimeTrackingHttpMessageHandler 不接受dispose(httpclient)的指引,而是由gc跟踪再无HttpClient引用而被清理。

Q:此时就出现了一个问题, 托管资源已经被gc清理, 那依赖的底层非托管资源什么时候清理的?这个不清理可是有大问题。

A :这里使用了一个C#高级的用法:弱引用WeakReference[5]:能够在不影响gc的情况下,获得对象的“弱引用”, 并据此知道该实例是不是已经被gc清理了;本文是弱引用_livenessTracker跟踪了托管资源LifeTimeTrackingHttpMessageHandler, 该托管资源被gc清理后_livenessTracker会得到感知。

btw,关于弱引用,我会开一新篇章来讲述。

④ 最后由程序内置的定时清理程序来清理底层非托管资源。

if (entry.CanDispose) //跟踪到托管对象已经被gc
{
try
{
entry.InnerHandler.Dispose();
entry.Scope?.Dispose();
disposedCount++;
}
catch (Exception ex)
{
Log.CleanupItemFailed(_logger, entry.Name, ex);
}
}
//注意:InnerHandler并不是托管对象LifeTimeTrackingHttpMessageHandler

具体是通过弱引用entry.CanDispose得知引用被gc之后,再去清理底层的非托管资源:InnerHandler.Dispose()

在使用层面, IHttpClientFactory并非直接管控连接池连接,而是在外层对Handler做存活缓存,故工厂对外只提供了SetHandlerLifetime(TimeSpan.FromMinutes(5)) 这一个配置函数。

IHttpCLientFactory 工厂除了具备 “通过管理HttpClientHandler实例的缓存生存期,避免手动管理 HttpClient 生存期时出现的DNS问题”, 还具有

  • HttpClient实例的产生更符合.NET 框架的调性:DI、 以委托方式配置HttpClient中间件的惯例

  • 中心化配置、 命名或者类型化客户端

  • 提供基于 Polly 的中间件的扩展方法,以利用 HttpClient 中的委托处理程序。

  • (通过 ILogger)添加可配置的记录体验,以处理工厂创建的客户端发送的所有请求。

总结

本文从早期的HttpClient带来的尴尬(重用HttpClient带来的DNS解析问题), 扩展到.NET团队尝试解决该问题的两个思路。

.NET Core 2.1的思路是增强HttpClient库底层的连接池能力,提供了SocketsHttpHandler来控制连接的生命周期,

IHttpClientFactory的思路是绕过HttpClient本身的问题,在上层用存活缓存的思路来使用HttpClientHandler实例, 充分贯彻了“计算机领域的任何问题都可以通过增加一个间接的中间层来解决”的思想。

本篇文字和图片均为原创,读者可结合图片探索源码, 欢迎反馈 ~。。~。

参考资料
[1]

早期.NET的HttpClient使用HttpClientHandler: https://github.com/microsoft/referencesource/blob/51cf7850defa8a17d815b4700b67116e3fa283c2/System/net/System/Net/Http/HttpClientHandler.cs#L917

[2]

SocketsHttpHandler: https://github.com/dotnet/runtime/blob/main/src/libraries/System.Net.Http/src/System/Net/Http/SocketsHttpHandler/SocketsHttpHandler.cs

[3]

LifeTimeTrackingHttpMessageHandler: https://github.com/dotnet/runtime/blob/main/src/libraries/Microsoft.Extensions.Http/src/LifetimeTrackingHttpMessageHandler.cs

[4]

过期handler队列: https://github.com/dotnet/runtime/blob/main/src/libraries/Microsoft.Extensions.Http/src/ExpiredHandlerTrackingEntry.cs

[5]

弱引用WeakReference: https://learn.microsoft.com/en-us/dotnet/api/system.weakreference?view=net-9.0

相关推荐

双十二不用愁了,酷炫的PPT数字滚动动画来了,业绩展示更亮眼

试想一下,当在职场路演融资、业绩展示、公开演讲现场使用下面动画特效是不是非常有视觉冲击力呢?但是不是学习了该技巧就能做出震撼感十足的动画特效呢?答案显然是否定的,小编深知PPT的核心能力不在掌握技巧的...

终于等到你,Android 首个滚动截图工具:咔咔截屏录屏大师

寻觅寻觅,总算在Android平台上找到一款支持滚动截图的应用。从此,分享有趣的QQ、微信聊天记录或网页截图时,再也不用一屏屏截图并手动拼接了。和iOS平台盛名的长图不同,咔咔截屏录屏大师并...

PPT怎样设置图片无限循环滚动,设置方法很简单,新手一学就会

如果我们制作的PPT中的图片是动态图片,会自我进行滚动,是不是会让我们的幻灯片播放的效果变得更加出众呢?这里就向大家介绍设置这一效果的方法。一、插入图片1、依次单击“插入”--“图片”--“来自文件...

微信可以发送滚动字幕了,超简单,看一遍就会了

大家好,最近在和朋友聊天的时候,发现他给我发的消息能在屏幕上滚动,废话不多说,来看下效果吧。如果聊天的时候,消息都变成这样,是不是更有趣了呢!想要实现这样的效果,方法非常简单,需要用到一款小程序,根据...

世界首创!我国开创“车轮”卫星运行模式,隔着云层也能测量地面

在航天发射和卫星监测领域,我国又创造了个世界首次——卫星编组以“车轮式编队”运行。今年3月30日18时50分,我国长征二号丁运载火箭在太原卫星发射中心发射升空,成功将宏图一号01组卫星送入预定轨道,...

利用滚动条来制作动态图表,不会的看过来

现在一份数据,要求根据数据来制作任意3天销量的动态图表。制作过程如下:1、插入----滚动条-----出现“十字”时按住鼠标左键向右拖动绘制滚动条----选中滚动条----右键----设置对象格式--...

微信红包数字跳动表情包 微信红包金额随机跳动动图

最近微信里面很流行随机红包,当我们打开红包的时候可以看到数字在跳动。其实这是一个套路啦。微信红包数字跳动怎么弄呢?下文中详细教教大家。微信红包数字金额随机跳动图片表情包随机红包怎么发1.首先我们选择一...

四屏交错滚动教程,更简单快捷的方法教给你

简单的方法制作四屏交错滚动。·先打开醒图软件,进入醒图,选择拼图,需要几张一组就选几张,我选择三张一组,选择三张图片,选择完成。·选择长图拼接,选择纵向拼接,这样三张图片就拼接成一个长图了。·点右上角...

创意最美早上好动态图片带字 免打字夏日早安问候语动态鲜花图片

1、一万个美丽的未来,抵不上一个温暖的现在;每一个真实的现在,都是我们曾经幻想的未来,愿你爱上现在,梦见未来。早安!2、早安,我永恒的爱人,虽然我尚未起床,但思想已经飞到你的身边来了,忽而高兴,忽而忧...

#安全提示每日一图#滚动摩擦。

#安全提示每日一图#滚动摩擦。????

最后一图逼死强迫症,当你上下滚动屏幕时它还会动

今天学校食堂加餐,我的炒菜里居然还有肉尼玛这不一样的吗为了游戏,命都可以不要这少年才是人生赢家叔叔你在干什么当女孩子问男朋友“我今天哪里不一样”时貌似两个礼物都不错啊我也不知道为什么,今天沙发君自己就...

这个动态甘特图,居然是条件格式制作的,老板看了都夸你厉害

Hello,大家好,今天跟大家分享下我们如何在利用Excel制作一个项目进度表,它的本质其实就是一个甘特图,它最大的特点就是表头是动态的,我们可以通过点击【滚动条】让数据动起来,非常适合用于时间跨度比...

如何使用OLED实现滚动效果

前言这篇文章不过多描述OLED工作原理及驱动过程,仅从实用性出发,如何使用OLED实现滚动效果。这里我们以正点原子战舰板OLED实验例程为基础。(本文配套工程文件,在底部下方供大家学习下载。)对于OL...

12月29日问候大家早上好图片动态表情,问候早晨好表情动态祝福语

用清晨的阳光沐浴,给你舒展;用清新的空气洗漱,给你舒心;伴清莹的雨露散步,给你舒情;向美好的一天欢呼,给你舒怀,用快乐的词汇凝聚,给你祝福,祝你在绚丽的晨光中走好每一天。朋友,早安!新的一天开始了,带...

一款不可或缺的截图软件-ShareX

电脑上截图,相信不少小伙伴都是用的微信或QQ内置的功能,其实Windows系统也有自带的截图工具,快捷键Window+Shift+S。...

取消回复欢迎 发表评论: