巧用Dictionary實現(xiàn)日志數(shù)據(jù)批量插入
作者：conan5566
對于C#中的Dictionary類相信大家都不陌生，這是一個Collection(集合)類型，可以通過Key/Value(鍵值對的形式來存放數(shù)據(jù)；該類最大的優(yōu)點就是它查找元素的時間復雜度接近O(1)，實際項目中常被用來做一些數(shù)據(jù)的本地緩存，提升整體效率。
背景
最近再做一個需求，就是對站點的一些事件進行埋點，說白了就是記錄用戶的訪問行為。那么這些數(shù)據(jù)怎么保存呢，人家點一下保存一下？顯然不合適，肯定是需要批量保存，提高效率。
問題窺探
首先，我想到的是Dictionary，對于C#中的Dictionary類相信大家都不陌生，這是一個Collection(集合)類型，可以通過Key/Value(鍵值對的形式來存放數(shù)據(jù)；該類最大的優(yōu)點就是它查找元素的時間復雜度接近O(1)，實際項目中常被用來做一些數(shù)據(jù)的本地緩存，提升整體效率。Dictionary是非線程安全的類型，可以實現(xiàn)先添加到內(nèi)存當中，在批量保存進去數(shù)據(jù)庫。
主要代碼實現(xiàn)
1、定義一個Dictionary。
private readonly Dictionary<string, Tuple<ObjectInfo, object>> _storage = new Dictionary<string, Tuple<ObjectInfo, object>>(StringComparer.OrdinalIgnoreCase);2、添加元素，操作的時候需要對其進行線程安全處理，最簡單的方式就是加鎖(lock)。
public bool SaveObject<T>(string path, T value) where T : class {
if (String.IsNullOrWhiteSpace(path))
throw new ArgumentNullException("path");
lock (_lock) {
_storage[path] = Tuple.Create(new ObjectInfo {
Created = DateTime.Now,
Modified = DateTime.Now,
Path = path
}, (object)value);
if (_storage.Count > MaxObjects)
_storage.Remove(_storage.OrderByDescending(kvp => kvp.Value.Item1.Created).First().Key);
}
return true;
}3、定義一個隊列，定時消費日志。
public DefaultEventQueue(ExceptionlessConfiguration config, IExceptionlessLog log, ISubmissionClient client, IObjectStorage objectStorage, IJsonSerializer serializer, TimeSpan? processQueueInterval, TimeSpan? queueStartDelay) {
_log = log;
_config = config;
_client = client;
_storage = objectStorage;
_serializer = serializer;
if (processQueueInterval.HasValue)
_processQueueInterval = processQueueInterval.Value;
_queueTimer = new Timer(OnProcessQueue, null, queueStartDelay ?? TimeSpan.FromSeconds(2), _processQueueInterval);
}這里刪除的時候也需要lock 操作。
public bool DeleteObject(string path) {
if (String.IsNullOrWhiteSpace(path))
throw new ArgumentNullException("path");
lock (_lock) {
if (!_storage.ContainsKey(path))
return false;
_storage.Remove(path);
}
return true;
}public IEnumerable<ObjectInfo> GetObjectList(string searchPattern = null, int? limit = null, DateTime? maxCreatedDate = null) {
if (searchPattern == null)
searchPattern = "*";
if (!maxCreatedDate.HasValue)
maxCreatedDate = DateTime.MaxValue;
var regex = new Regex("^" + Regex.Escape(searchPattern).Replace("\\*", ".*?") + "$");
lock (_lock)
return _storage.Keys.Where(k => regex.IsMatch(k)).Select(k => _storage[k].Item1).Where(f => f.Created <= maxCreatedDate).Take(limit ?? Int32.MaxValue).ToList();
}總結(jié)
1、利用Dictionary。多線程添加數(shù)據(jù)到內(nèi)存；
2、達到一定量的時候，批量保存數(shù)據(jù)。
3、使用lock ，保證Dictionary操作安全。
責任編輯：武曉燕
來源：
程序員編程日記
