关于.net:记一次-NET-某上市工业智造-CPU内存挂死-三高分析

7次阅读

共计 9543 个字符，预计需要花费 24 分钟才能阅读完成。

一：背景

1. 讲故事

上个月有位敌人加 wx 告知他的程序有挂死景象，询问如何进一步剖析，截图如下：

看这位敌人还是有肯定的剖析根底，可能玩的少，不足肯定的剖析教训，当我简略剖析之后，我发现这个 dump 挺有意思的，CPU，内存，挂死 三样全占，程序悲惨莫过于此。。。

既然找到我，我得想方法化解他的苦楚😄😄😄，由易到难咱们逐个剖析这三样都是因为什么起因所致？

二：三高剖析

1. 挂死起因

依据 40+ 的 dump 剖析教训，挂死大多是因为某种状况导致线程卡死，导致后续申请沉积在 threadpool 中，要想验证，能够应用 !tp 命令查看线程池队列。


0:000> !tp
CPU utilization: 81%
Worker Thread: Total: 65 Running: 65 Idle: 0 MaxLimit: 32767 MinLimit: 64
Work Request in Queue: 2831
    Unknown Function: 00007ffffcba1750  Context: 0000022ab04d4a58
    Unknown Function: 00007ffffcba1750  Context: 0000022ab03e4ce8
    ...
    Unknown Function: 00007ffffcba1750  Context: 0000022ab825ec88
    Unknown Function: 00007ffffcba1750  Context: 0000022ab825a458
    Unknown Function: 00007ffffcba1750  Context: 0000022ab8266500
    Unknown Function: 00007ffffcba1750  Context: 0000022ab8268198
    Unknown Function: 00007ffffcba1750  Context: 0000022ab826cb00
    Unknown Function: 00007ffffcba1750  Context: 0000022ab8281578
--------------------------------------
Number of Timers: 0
--------------------------------------
Completion Port Thread:Total: 2 Free: 2 MaxFree: 128 CurrentLimit: 2 MaxLimit: 32767 MinLimit: 64

能够很显著的看到线程池队列有 2831 个工作沉积，这就导致新进来的申请无奈失去解决，所以就呈现了挂死景象，接下来就来看看这些线程都干嘛去了，为啥效率那么低，能够用 ~*e !clrstack 调出所有线程栈，截图如下：

扫了一遍后，发现有很多的 System.Net.HttpWebRequest.GetResponse() 办法，有教训的敌人应该晓得，这又是一个经典的同步 http 申请过慢导致的程序处理不迭的挂死，有些敌人可能好奇，能不能把网址给我扒进去，能够是能够，用 !dso 命令即可。


000000D2FBD3B840 0000023269e85698 System.Text.UTF8Encoding
000000D2FBD3B850 00000236e9dd2cb8 System.String    application/x-www-form-urlencoded
000000D2FBD3B870 0000023269e85698 System.Text.UTF8Encoding
000000D2FBD3B9A8 00000231aa221a38 System.String    uSyncAppxxx
000000D2FBD3B9B8 00000231aa201a70 System.String    VToken={0}&Vorigin={1}&QueryJson={2}
000000D2FBD3B9C0 00000231aa202200 System.String    http://xxx.xxx.com/API/xxx/BusinessCardFolder/Connector/xxx/GetPageList

我去，这 url 还是一个外网地址，🐂👃了，自身同步形式就慢，这地址更是雪上加霜哈。。。难怪不卡死😄

2. cpu 爆高剖析

从下面的 !tp 输入中也看进去了，以后 cpu = 81%，那为什么会这么高呢？依据教训大略就是 lock 锁，GC 触发，死循环等状况，能够用排除法。

  1. 是 lock 锁吗？

能够用命令 !syncblk 看一下同步块表。


0:000> !syncblk
Index SyncBlock MonitorHeld Recursion Owning Thread Info  SyncBlock Owner
  212 0000023ef3cdd028            3         1 0000023ef40efa40 8d70 209   000002396ad93788 System.Object
-----------------------------
Total           297
CCW             3
RCW             4
ComClassFactory 0
Free            139

从输入看，lock 锁没什么问题，接下来用 !mlocks 命令查看下其余类型的锁，看看有没有什么新发现。


0:000> !mlocks
Examining SyncBlocks...
Scanning for ReaderWriterLock(Slim) instances...
Scanning for holders of ReaderWriterLock locks...
Scanning for holders of ReaderWriterLockSlim locks...
Examining CriticalSections...

ClrThread  DbgThread  OsThread    LockType    Lock              LockLevel
------------------------------------------------------------------------------
...
0x49       209        0x8d70      thinlock    000002396ad9ba90  (recursion:0)
0x49       209        0x8d70      thinlock    000002396ad9baa8  (recursion:0)
0x49       209        0x8d70      thinlock    000002396ad9bac0  (recursion:0)
0x49       209        0x8d70      thinlock    000002396ad9bad8  (recursion:0)
0x49       209        0x8d70      thinlock    000002396ad9baf0  (recursion:0)
0x49       209        0x8d70      thinlock    000002396ad9bb08  (recursion:0)
0x49       209        0x8d70      thinlock    000002396ad9bb20  (recursion:0)
0x49       209        0x8d70      thinlock    000002396ad9bb38  (recursion:0)
0x49       209        0x8d70      thinlock    000002396ad9bb50  (recursion:0)
0x49       209        0x8d70      thinlock    000002396ad9bb68  (recursion:0)
0x49       209        0x8d70      thinlock    000002396ad9bb80  (recursion:0)
0xe        152        0x8e68      thinlock    0000023669f7e428  (recursion:0)
0x41       208        0x8fb4      thinlock    00000235e9f6e8d0  (recursion:0)
0x17       161        0x9044      thinlock    00000238ea94db68  (recursion:0)
0x16       159        0x911c      thinlock    000002392a03ed40  (recursion:0)
0x47       206        0x9264      thinlock    000002322af08e28  (recursion:0)

我去，发现有大量的 thinlock，而且 DbgThread=209 线程竟然有 1000 +，截图如下：

有些敌人可能不晓得什么叫 thinlock，简略来说，它就是一种耗 cpu 的内旋锁，相似 SpinLock，接下来轻易抽一个对象，查看它的 !gcroot。


0:000> !gcroot 000002396ad9ba48
Thread 2580:
    000000d2fb0bef10 00007ff806945ab3 System.Threading.ExecutionContext.RunInternal(System.Threading.ExecutionContext, System.Threading.ContextCallback, System.Object, Boolean)
        rbp-80: 000000d2fb0bef50
            ->  0000023769dd4008 System.Threading.Thread
            ->  0000023269e776b8 System.Runtime.Remoting.Contexts.Context
            ->  0000023269e773b8 System.AppDomain
            ...
            ->  0000023269ee1e00 System.Threading.TimerCallback
            ->  0000023269ed2d30 System.Web.Caching.CacheExpires
            ->  0000023269ed2c78 System.Web.Caching.CacheSingle
            ->  0000023269ed2ce0 System.Collections.Hashtable
            ->  000002372ab91d90 System.Collections.Hashtable+bucket[]
            ->  00000239ab32fd10 System.Web.Caching.CacheEntry
            ->  000002396ad93748 System.Collections.Concurrent.ConcurrentDictionary`2[[System.String, mscorlib],[xxx].Application.Entity.BaseManage.UserRelationEntity, xxx.Application.Entity]]
            ->  00000239ab2a8248 System.Collections.Concurrent.ConcurrentDictionary`2+Tables[[System.String, mscorlib],[xxx.Application.Entity.BaseManage.UserRelationEntity, xxx.Application.Entity]]
            ->  000002396ad96b80 System.Object[]
            ->  000002396ad9ba48 System.Object

从输入信息看, 这个 thinlock 来自于 ConcurrentDictionary 字典外部，接下来咱们 dump 出这个字典，应用 !mdt 命令。


0:148> !mdt 000002396ad93748
000002396ad93748 (System.Collections.Concurrent.ConcurrentDictionary`2[[System.String, mscorlib],[xxx.Application.Entity.BaseManage.UserRelationEntity, xxx.Application.Entity]])
    m_tables:00000239ab2a8248 (System.Collections.Concurrent.ConcurrentDictionary`2+Tables[[System.String, mscorlib],[xxx.Application.Entity.BaseManage.UserRelationEntity, xxx.Application.Entity]])
    m_comparer:NULL (System.Collections.Generic.IEqualityComparer`1[[System.__Canon, mscorlib]])
    m_growLockArray:true (System.Boolean)
    m_keyRehashCount:0x0 (System.Int32)
    m_budget:0x213 (System.Int32)
    m_serializationArray:NULL (System.Collections.Generic.KeyValuePair`2[[System.__Canon, mscorlib],[System.__Canon, mscorlib]][])
    m_serializationConcurrencyLevel:0x0 (System.Int32)
    m_serializationCapacity:0x0 (System.Int32)
0:148> !mdt 00000239ab2a8248
00000239ab2a8248 (System.Collections.Concurrent.ConcurrentDictionary`2+Tables[[System.String, mscorlib],[xxx.Application.Entity.BaseManage.UserRelationEntity, xxx.Application.Entity]])
    m_buckets:0000023e9a2477e8 (System.Collections.Concurrent.ConcurrentDictionary`2+Node[[System.String, mscorlib],[xxx.Application.Entity.BaseManage.UserRelationEntity, xxx.Application.Entity]][], Elements: 543997)
    m_locks:000002396ad96b80 (System.Object[], Elements: 1024)
    m_countPerLock:00000239aa8472c8 (System.Int32[], Elements: 1024)
    m_comparer:0000023269e782b8 (System.Collections.Generic.GenericEqualityComparer`1[[System.String, mscorlib]])

从下面信息看，这个字典有 54.3 w 条记录，为啥这么大，而且还有 1024 个 lock，有点意思，咱们扒一下源码看看。

从源码看，外部的确有一个 lock[] 数组，那到底是什么操作引发了遍历 locks[]，要想寻找答案，能够在所有线程栈上寻找 ConcurrentDictionary 关键词。


OS Thread Id: 0x2844 (163)
        Child SP               IP Call Site
000000d2fb83abb8 00007ff80a229df8 [GCFrame: 000000d2fb83abb8] 
000000d2fb83aca0 00007ff80a229df8 [GCFrame: 000000d2fb83aca0] 
000000d2fb83acd8 00007ff80a229df8 [HelperMethodFrame: 000000d2fb83acd8] System.Threading.Monitor.Enter(System.Object)
000000d2fb83add0 00007ff80693ea56 System.Collections.Concurrent.ConcurrentDictionary`2[[System.__Canon, mscorlib],[System.__Canon, mscorlib]].AcquireLocks(Int32, Int32, Int32 ByRef)
000000d2fb83ae20 00007ff806918ef2 System.Collections.Concurrent.ConcurrentDictionary`2[[System.__Canon, mscorlib],[System.__Canon, mscorlib]].AcquireAllLocks(Int32 ByRef)
000000d2fb83ae60 00007ff8069153f9 System.Collections.Concurrent.ConcurrentDictionary`2[[System.__Canon, mscorlib],[System.__Canon, mscorlib]].GetValues()
000000d2fb83aee0 00007ff7ae17d8ec xxx.Util.DataHelper.ToEnumerable[[System.__Canon, mscorlib],[System.__Canon, mscorlib]](System.Collections.Concurrent.ConcurrentDictionary`2<System.__Canon,System.__Canon>)
000000d2fb83af20 00007ff7ad125241 xxx.Application.Code.CacheHelper.GetCaches[[System.__Canon, mscorlib],[System.__Canon, mscorlib]](System.String)
000000d2fb83afa0 00007ff7ad12513b xxx.Application.Code.CacheHelper.GetCaches[[System.__Canon, mscorlib]](System.String)
000000d2fb83b000 00007ff7b10199e5 xxx.Application.Cache.CacheHelper.GetUserRelations()

从线程栈上看，发现了有近 20 处如上的代码，能够看出程序在调用 GetCaches 办法的时候触发了 ConcurrentDictionary 的 lock 锁从而卡住，接下来咱们看一下 xxx.Application.Cache.CacheHelper.GetUserRelations() 源码到底做了什么？


public static IEnumerable<UserRelationEntity> GetUserRelations()
{return xxx.Application.Code.CacheHelper.GetCaches<UserRelationEntity>("xxx.BaseManage-UserRelation");
}

protected static IEnumerable<T> GetCaches<T>(string cacheKeyName)
{return GetCaches<T, string>(cacheKeyName);
}

private static IEnumerable<T> GetCaches<T, TKey>(string cacheKeyName)
{return GetConcurrentDictionaryCache<T, TKey>(cacheKeyName)?.ToEnumerable();}

public static IEnumerable<T> ToEnumerable<TKey, T>(this ConcurrentDictionary<TKey, T> dics)
{return dics.Values;}

从源码逻辑看，程序每次调用缓存最终都会调用 dics.Values , 我很好奇它的框架逻辑是什么样的？截图如下：

大家有没有发现，每次 dict.Values 时都要执行 1024 次 Monitor.Enter(locks[i], ref lockTaken);，也就是 1024 次的内旋锁，这就是 cpu 高的一个关键因素。

3. 内存爆高起因

最初一个问题是内存为啥会爆高？仔细的敌人应该会发现方才那个 GetValues 中有一个奇怪的逻辑，我再贴一下代码：


private ReadOnlyCollection<TValue> GetValues()
{
    int locksAcquired = 0;
    try
    {AcquireAllLocks(ref locksAcquired);
        int countInternal = GetCountInternal();
        if (countInternal < 0)
        {throw new OutOfMemoryException();
        }
        List<TValue> list = new List<TValue>(countInternal);
        for (int i = 0; i < m_tables.m_buckets.Length; i++)
        {for (Node node = m_tables.m_buckets[i]; node != null; node = node.m_next)
            {list.Add(node.m_value);
            }
        }
        return new ReadOnlyCollection<TValue>(list);
    }
    finally
    {ReleaseLocks(0, locksAcquired);
    }
}

有没有发现，每一次 GetValues 时都会生成一个 54.3w 大小的新 List，请留神这个 list 是新生成的，不是 ConcurrentDictionary 上的援用，这就很坑了，每调用一次，LOH 上就会来一个这么大的 List，你说内存暴增不暴增？？？

三：总结

总的来说，这苦逼的三高有上面两个因素造成。

  1. 应用了同步的 HttpRequest 形式并应用了外网 url 导致程序挂死。

优化措施：应用异步形式

  1. 巨坑的 ConcurrentDictionary.Values 导致 内存，cpu 爆高。

我想很多敌人都没想到: ConcurrentDictionary.Values 有这么大的一个坑，这就让我联想起了线程不平安的 Dictionary.Values 是怎么做的？

public ValueCollection Values
{[__DynamicallyInvokable]
    get
    {if (values == null)
        {values = new ValueCollection(this);
        }
        return values;
    }
}

public sealed class ValueCollection
{public ValueCollection(Dictionary<TKey, TValue> dictionary)
    {if (dictionary == null)
        {ThrowHelper.ThrowArgumentNullException(ExceptionArgument.dictionary);
        }
        this.dictionary = dictionary;
    }
}

能够很显著的看到它并没有生成新的 list，所以优化措施如下：

  1. 回绝应用 ConcurrentDictionary.Values，采纳 lock + Dictionary。
  2. 如果硬要用 ConcurrentDictionary，请将 Query 条件送下去，而不是应用 Values 做全量拉取再查问，缩小内存无畏占用。

最初上一个小彩蛋，将剖析后果给了这位敌人之后，敌人想让我上门剖析，第一次遇到。。。太猝不及防啦🤣🤣🤣

正文完
.net
发表至： .net
2021-09-24
 0
关于.net:MASA-Stack-10-发布会讲稿生态篇
关于.net:如何使用-C-在异步代码中处理异常
关于.net:如何使用-C-中的-Tuple
关于.net:ArrayPool-源码解读之-byte-也能池化

站内搜索

-「」