暂停同步REST调用,直到第一个完成

时间:2015-10-08 23:17:23

标签: c# multithreading rest block pulse

我们有一个类似于:

的REST API方法
List<item> GetItems(int AccountID)
{
    var x = getFromCache(AccountID);
    if(x==null)
    {
        x = getFromDatabase(AccountID);
        addToCache(AccountID, x);
    }
    return x;
}

这是一个相当昂贵的方法,有一些复杂的数据库调用,我们有一个常见的情况,数百个具有相同AccountId的用户几乎会同时进行调用(他们都通过广播得到通知)。

在该方法中,我们将结果集缓存10秒,因为对于在该窗口内发出请求的每个人来说,近期结果都很好。但是,由于它们都同时进行调用(同样,对于特定的AccountID),缓存永远不会预先填充,因此每个人最终都会调用数据库。

所以我的问题是,在该方法中,如何暂停所有传入的请求以获取特定的accountId 并使它们等待第一个结果集完成,以便其余的调用可以使用缓存的结果集吗?

我已经阅读了一些关于Monitor.Pulse和Monitor.Lock的内容,但是per-accountId锁的实现让我感到厌烦。任何帮助都将受到极大的赞赏。

2 个答案:

答案 0 :(得分:2)

对于具有相同AccountId的请求,您必须锁定同一对象,但对每个AccountId使用不同的对象。下面是如何使用Dictionary来跟踪单个AccountIds的锁定对象的示例。

    Dictionary<int, Object> Locks = new Dictionary<int, object>();

    List<item> GetItems(int AccountID)
    {
        //Get different lock object for each AccountId
        Object LockForAccountId = GetLockObject(AccountID);

        //block subsequent threads until first thread fills the cache
        lock (LockForAccountId)
        {
            var x = getFromCache(AccountID);
            if (x == null)
            {
                x = getFromDatabase(AccountID);
                addToCache(AccountID, x);
            }
            return x;
        }
    }

    private Object GetLockObject(int AccountID)
    {
        Object LockForAccountId;

        //we must use global lock while accessing dictionary with locks to prevent multiple different lock objects to be created for the same AccountId
        lock (Locks)
        {
            if (!Locks.TryGetValue(AccountID, out LockForAccountId))
            {
                LockForAccountId = new Object();
                Locks[AccountID] = LockForAccountId;
            }
        }
        return LockForAccountId;
    }

答案 1 :(得分:0)

您是否考虑过使用Lazy<T>

试试这段代码:

private object _gate = new object();
List<item> GetItems(int AccountID)
{
    lock (_gate)
    {
        var x = getFromCache(AccountID);
        if (x == null)
        {
            x = new Lazy<List<item>>(() => getFromDatabase(AccountID));
            addToCache(AccountID, x);
        }
        return x.Value;
    }
}

您需要更改getFromCache&amp; addToCache具有以下签名:

Lazy<List<item>> getFromCache(int AccountID)
void addToCache(int AccountID, Lazy<List<item>> x)