monitor.enter « Luis Guerrero

23May/091

Como implementar un Singleton concurrente

Bajo este título se encuentra una de los clásicos problemas de concurrencia que seguramente más de uno se haya enfrentado en su vida de programador. En este artículo repasaremos las posibles implementaciones correctas e incorrectas de este patrón de manera concurrente.

Implementación sin concurrencia.

public class Singleton<T> where T : new()
{
    private static T instance = new T();
    public static T Instance
    {
        get
        {
            return instance;
        }
    }
}
public class SingletonV2<T> where T : new()
{
    private static T instance;
    public static T Instance
    {
        get
        {
            if (instance == null)
            {
                instance = new T();
            }
            return instance;
        }
    }
}
public class CacheManager
{
    private static CacheManager instance = new CacheManager();
    public static CacheManager Instance
    {
        get
        {
            return instance;
        }
    }
    private CacheManager()
    {

    }
}

Como se puede ver esta es la implementación para una clase cualquiera y de una manera genérica, en la que el único requisito que pedimos es que sea una referencia y se pueda construir una instancia.

El problema de estas dos implementaciones es que cuando se construye el tipo se inicializa el valor del Singleton, lo que puede resultar en una degradación del rendimiento y solamente se desea implementar cuando se vaya a acceder al valor de la instancia. Para solucionar ese problema se puede implementar un Singleton perezoso que solamente cuando se accede la primera vez se inicializa.

public class CacheManagerV2
{
    private static CacheManagerV2 instance;
    public static CacheManagerV2 Instance
    {
        get
        {
            if (instance == null)
            {
                instance = new CacheManagerV2();
            }
            return instance;
        }
    }
    private CacheManagerV2()
    {

    }
}

Pero llegado a este punto nos encontramos con un problema muy importante, que pasa si dos Threads a la vez intenta acceder al valor de la instancia de cualquiera de nuestros Singletones, el resultado puede ser catastrófico, porque se puede iniciar más de una instancia de la clase o cada uno de los Threas se puede llevar una referencia distinta del singleton haciendo que trabajen con instancias diferentes.

¿Cómo se puede solucionar este problema?

Hay varias maneras de solucionarlo, la primera de todas sería usar un bloqueo para sincronizar el acceso a este recurso. Vamos a ver una serie de ejemplos y porque estos ejemplos están bien o mal implementados.

Utilizando bloqueos

public class BadCacheManager
{
  private static BadCacheManager instance;
  private static object syncRoot = new object();
  public static BadCacheManager Instance
  {
      get
      {
          S0
          if (instance == null)
          {
              S1
              lock (syncRoot)
              {
                  instance = new BadCacheManager();
              }
          }
          return instance;
      }
  }
  private BadCacheManager()
  {

  }
}

BadCacheManager: Mal

Esta implementacion no funcionaría porque puede darse la casualizad de que durante la primera comprobación (S0) y justo antes de que se instancie la clase (S1) puede haber una instrucción y puede darse la casualidad de que se interrumpa el thread (t0) justo en ese instante, lo que otro thread (t1) evaluaria S0 (true, es nulo) adquiriría el bloqueo pero esperaría (t1) porque el otro thread (t0) lo tiene asignado, así que t0 se despertaría crearia el objeto, después t1 haría lo mismo dando como resultado dos instancias. Además de todo esto no se sincroniza el almacenamiento de la variable instance con un memory barrier (fence) marcando la variable como volatile o usando Thread.MemoryBarrier().

public class DoubleLockVolatileCacheManager
{
    private static volatile DoubleLockVolatileCacheManager instance;
    private static object syncRoot = new object();
    public static DoubleLockVolatileCacheManager Instance
    {
        get
        {
            if (instance == null)
            {
                lock (syncRoot)
                {
                    if (instance == null)
                    {
                        instance = new DoubleLockVolatileCacheManager();
                    }
                }
            }
            return instance;
        }
    }
    private DoubleLockVolatileCacheManager()
    {

    }
}

DoubleLockVolatileCacheManager: Bien *

Esta implementación esta bien pero a medias, en la implementacion de .NET el CLR se asegura que independientemente del tipo de reordenacion del procesador, del modelo de memoria y de la atomicidad de las lecturas y escrituras siempre funciona, de hecho es lo que .net utiliza internamente para asegurarse que el constructor estatico (cctor) de un tipo solamente se ejecute una vez. Pero el modelo de memoria de .NET permite reordenaciones de lectura/escritura de variables no volatiles, así que habría que haber marcado la instancia como volatie o insertar un Thread.MemoryBarrier, aquí tenemos la implementacion correcta.

public class DoubleLockCacheManager
{
   private static DoubleLockCacheManager instance;
   private static object syncRoot = new object();
   public static DoubleLockCacheManager Instance
   {
       get
       {
           if (instance == null)
           {
               lock (syncRoot)
               {
                   if (instance == null)
                   {
                       DoubleLockCacheManager tmp = new DoubleLockCacheManager();
                       Thread.MemoryBarrier();
                       instance = tmp;
                   }
               }
           }
           return instance;
       }
   }
   private DoubleLockCacheManager()
   {

   }
}

public class BadLazy<T>
{
  private T internalValue;
  private bool isInitialized;
  private object syncRoot = new object();
  private Func<T> factory;


  public BadLazy(Func<T> factory)
  {
      this.factory = factory;
  }

  public T Value
  {
      get
      {
          lock (syncRoot)
          {
              if (!isInitialized)
              {
                  internalValue = factory();
                  isInitialized = true;
              }
          }
          return internalValue;
      }
  }
}

Todos los ejemplos que hemos utilizado aquí utilizan lock (aka Monitor.Enter) para implementar un sistema de bloqueo en los recursos compartidos del Singleton, pero lo ideal para casi todos los casos es no utilizar bloqueos.

¿Cómo se puede implementar un algoritmo libre de bloqueos?, la respuesta está en la granularidad de la concurrencia, gruesa o fina. Nosotros queremos granularidad fina para hacer que los Threads estén el menos tiempo en un bloqueo haciendo así que todo el sistema responda mucho mejor. Una granularidad fina es mucho más complicada de implementar pero tiene un mejor rendimiento y respuesta del sistema porque hay menos contención.

Ahora vamos a ver como sería el Singleton perezoso sin bloqueos.

public class Lazy<T> where T : class, new()
{
   private T value;
   public T Value
   {
       get
       {
           if (value == null)
           {
               Interlocked.CompareExchange(ref value, new T(), null);
           }
           return value;
       }
   }
}

Como se puede observar se ha simplificado mucho el código y ahora lo único que tenemos es un Interlocked.CompareExchange, en el que se compara el valor de primer argumento con el del último argumento y si son iguales entonces se establece en el primer argumento el valor de segundo parámetro, así que si nuestra instancia es nula entonces se crea la instancia y se establece. Lo interesante de esta forma de implementarlo es que no tenemos que preocuparnos por el modelo de memoria de .net por la reordenación de instrucciones ni por nada, ya que el Interlocked.CompareExchange es atómica a nivel de hardware, es decir nuestro procesador nos asegura que sea instrucción CMPXCHG es atómica.

Como se puede observar la granularidad de este algoritmo es muy fina porque solamente se bloquea en el momento justo de establecer la variable.

Un ejemplo de una granularidad fina en el uso de los bloqueos la podemos observar en la implementación de este diccionario concurrente.

public class ConcurrentDictionary<TKey, TValue> : IDictionary<TKey, TValue>, ICollection<KeyValuePair<TKey, TValue>>, IEnumerable<KeyValuePair<TKey, TValue>>
{
    private ReaderWriterLock rw = new ReaderWriterLock();
    private Dictionary<TKey, TValue> dic = new Dictionary<TKey, TValue>();
    private int timeout = -1;
    public void Add(TKey key, TValue value)
    {
        rw.AcquireWriterLock(timeout);
        try
        {
            if (!dic.ContainsKey(key))
            {
                dic.Add(key, value);
            }
        }
        finally
        {
            rw.ReleaseWriterLock();
        }
    }

    public bool ContainsKey(TKey key)
    {
        bool res = false;
        rw.AcquireReaderLock(timeout);
        try
        {
            res = dic.ContainsKey(key);
        }
        finally
        {
            rw.ReleaseReaderLock();
        }
        return res;
    }

    public ICollection<TKey> Keys
    {
        get
        {
            ICollection<TKey> res = null;
            rw.AcquireReaderLock(timeout);
            try
            {
                Dictionary<TKey, TValue> tmp = new Dictionary<TKey, TValue>(dic);
                res = tmp.Keys;
            }
            finally
            {
                rw.ReleaseReaderLock();
            }
            return res;
        }
    }

    public bool Remove(TKey key)
    {
        bool res = false;
        rw.AcquireWriterLock(timeout);
        try
        {
            res = dic.Remove(key);
        }
        finally
        {
            rw.ReleaseWriterLock();
        }
        return res;
    }

    public bool TryGetValue(TKey key, out TValue value)
    {
        bool res = false;
        rw.AcquireWriterLock(timeout);
        try
        {
            res = dic.TryGetValue(key, out value);
        }
        finally
        {
            rw.ReleaseWriterLock();
        }
        return res;
    }

    public ICollection<TValue> Values
    {
        get
        {
            ICollection<TValue> res = null;
            rw.AcquireReaderLock(timeout);
            try
            {
                Dictionary<TKey, TValue> tmp = new Dictionary<TKey, TValue>(dic);
                res = tmp.Values;
            }
            finally
            {
                rw.ReleaseReaderLock();
            }
            return res;
        }
    }

    public TValue this[TKey key]
    {
        get
        {
            TValue res = default(TValue);
            rw.AcquireReaderLock(timeout);
            try
            {
                if (dic.ContainsKey(key))
                {
                    res = dic[key];
                }
            }
            finally
            {
                rw.ReleaseWriterLock();
            }
            return res;
        }
        set
        {
            if (ContainsKey(key))
            {
                rw.AcquireWriterLock(timeout);
                try
                {
                    dic[key] = value;
                }
                finally
                {
                    rw.ReleaseWriterLock();
                }
            }
        }
    }



    public void Add(KeyValuePair<TKey, TValue> item)
    {
        Add(item.Key, item.Value);
    }

    public void Clear()
    {
        rw.AcquireWriterLock(timeout);
        try
        {
            dic.Clear();
        }
        finally
        {
            rw.ReleaseWriterLock();
        }
    }

    public bool Contains(KeyValuePair<TKey, TValue> item)
    {
        return ContainsKey(item.Key);
    }

    public void CopyTo(KeyValuePair<TKey, TValue>[] array, int arrayIndex)
    {
        throw new NotImplementedException();
    }

    public int Count
    {
        get
        {
            int count = -1;
            rw.AcquireReaderLock(timeout);
            try
            {
                count = dic.Count;
            }
            finally
            {
                rw.ReleaseReaderLock();
            }
            return count;
        }
    }

    public bool IsReadOnly
    {
        get { return false; }
    }

    public bool Remove(KeyValuePair<TKey, TValue> item)
    {
        bool res = false;
        if (ContainsKey(item.Key))
        {
            Remove(item.Key);
        }
        return res;
    }



    public IEnumerator<KeyValuePair<TKey, TValue>> GetEnumerator()
    {
        IEnumerator<KeyValuePair<TKey, TValue>> res = null;
        rw.AcquireReaderLock(timeout);
        try
        {
            Dictionary<TKey, TValue> tmp = new Dictionary<TKey, TValue>(dic);
            res = tmp.GetEnumerator();
        }
        finally
        {
            rw.ReleaseReaderLock();
        }
        return res;
    }



    IEnumerator IEnumerable.GetEnumerator()
    {
        return null;
    }



    IEnumerator<KeyValuePair<TKey, TValue>> IEnumerable<KeyValuePair<TKey, TValue>>.GetEnumerator()
    {
        return null;
    }


}

En el que únicamente cuando se realizan operaciones en el diccionario se intenta bloquear lo menos posible además de que no se utiliza lock (aka Monitor.Enter) sino ReaderWriterLock que permite tener varios lectores y un solo escritor concurrentemente. Se podría haber utilizado ReaderWriterLockSlim que mejora sensiblemente el rendimiento pero esta implementación era para .NET 2.0 y ReaderWriterLockSlim solo funciona con .NET 3.5 además de que en Windows Vista se ha mejorado la implantación nativa.

Os podeis descargar el codigo de ejemplo de aquí

http://www.luisguerrero.net/downloads/Singleton.zip

Espero que os sirva de ayuda.

Saludos. Luis.

Tagged as: concurrent, lock, monitor.enter, readerwirterlock 1 Comment

Luis Guerrero Hablando de .NET, Silverlight, WPF, Windows Phone 7 y depuración

Como implementar un Singleton concurrente

Implementación sin concurrencia.

¿Cómo se puede solucionar este problema?

Utilizando bloqueos

BadCacheManager: Mal

DoubleLockVolatileCacheManager: Bien *

Categorias

Tag Cloud

Archivo

Administración