include/linux/idr.h

   1 /*
   2  * include/linux/idr.h
   3  *
   4  * 2002-10-18  written by Jim Houston jim.houston@ccur.com
   5  *      Copyright (C) 2002 by Concurrent Computer Corporation
   6  *      Distributed under the GNU GPL license version 2.
   7  *
   8  * Small id to pointer translation service avoiding fixed sized
   9  * tables.
  10  */
  11
  12 #ifndef __IDR_H__
  13 #define __IDR_H__
  14
  15 #include <linux/types.h>
  16 #include <linux/bitops.h>
  17 #include <linux/init.h>
  18 #include <linux/rcupdate.h>
  19
  20 /*
  21  * We want shallower trees and thus more bits covered at each layer.  8
  22  * bits gives us large enough first layer for most use cases and maximum
  23  * tree depth of 4.  Each idr_layer is slightly larger than 2k on 64bit and
  24  * 1k on 32bit.
  25  */
  26 #define IDR_BITS 8
  27 #define IDR_SIZE (1 << IDR_BITS)
  28 #define IDR_MASK ((1 << IDR_BITS)-1)
  29
  30 struct idr_layer {
  31         int                     prefix; /* the ID prefix of this idr_layer */
  32         DECLARE_BITMAP(bitmap, IDR_SIZE); /* A zero bit means "space here" */
  33         struct idr_layer __rcu  *ary[1<<IDR_BITS];
  34         int                     count;  /* When zero, we can release it */
  35         int                     layer;  /* distance from leaf */
  36         struct rcu_head         rcu_head;
  37 };
  38
  39 struct idr {
  40         struct idr_layer __rcu  *hint;  /* the last layer allocated from */
  41         struct idr_layer __rcu  *top;
  42         struct idr_layer        *id_free;
  43         int                     layers; /* only valid w/o concurrent changes */
  44         int                     id_free_cnt;
  45         int                     cur;    /* current pos for cyclic allocation */
  46         spinlock_t              lock;
  47 };
  48
  49 #define IDR_INIT(name)                                                  \
  50 {                                                                       \
  51         .lock                   = __SPIN_LOCK_UNLOCKED(name.lock),      \
  52 }
  53 #define DEFINE_IDR(name)        struct idr name = IDR_INIT(name)
  54
  55 /**
  56  * DOC: idr sync
  57  * idr synchronization (stolen from radix-tree.h)
  58  *
  59  * idr_find() is able to be called locklessly, using RCU. The caller must
  60  * ensure calls to this function are made within rcu_read_lock() regions.
  61  * Other readers (lock-free or otherwise) and modifications may be running
  62  * concurrently.
  63  *
  64  * It is still required that the caller manage the synchronization and
  65  * lifetimes of the items. So if RCU lock-free lookups are used, typically
  66  * this would mean that the items have their own locks, or are amenable to
  67  * lock-free access; and that the items are freed by RCU (or only freed after
  68  * having been deleted from the idr tree *and* a synchronize_rcu() grace
  69  * period).
  70  */
  71
  72 /*
  73  * This is what we export.
  74  */
  75
  76 void *idr_find_slowpath(struct idr *idp, int id);
  77 void idr_preload(gfp_t gfp_mask);
  78 int idr_alloc(struct idr *idp, void *ptr, int start, int end, gfp_t gfp_mask);
  79 int idr_alloc_cyclic(struct idr *idr, void *ptr, int start, int end, gfp_t gfp_mask);
  80 int idr_for_each(struct idr *idp,
  81                  int (*fn)(int id, void *p, void *data), void *data);
  82 void *idr_get_next(struct idr *idp, int *nextid);
  83 void *idr_replace(struct idr *idp, void *ptr, int id);
  84 void idr_remove(struct idr *idp, int id);
  85 void idr_free(struct idr *idp, int id);
  86 void idr_destroy(struct idr *idp);
  87 void idr_init(struct idr *idp);
  88
  89 /**
  90  * idr_preload_end - end preload section started with idr_preload()
  91  *
  92  * Each idr_preload() should be matched with an invocation of this
  93  * function.  See idr_preload() for details.
  94  */
  95 static inline void idr_preload_end(void)
  96 {
  97         preempt_enable();
  98 }
  99
 100 /**
 101  * idr_find - return pointer for given id
 102  * @idr: idr handle
 103  * @id: lookup key
 104  *
 105  * Return the pointer given the id it has been registered with.  A %NULL
 106  * return indicates that @id is not valid or you passed %NULL in
 107  * idr_get_new().
 108  *
 109  * This function can be called under rcu_read_lock(), given that the leaf
 110  * pointers lifetimes are correctly managed.
 111  */
 112 static inline void *idr_find(struct idr *idr, int id)
 113 {
 114         struct idr_layer *hint = rcu_dereference_raw(idr->hint);
 115
 116         if (hint && (id & ~IDR_MASK) == hint->prefix)
 117                 return rcu_dereference_raw(hint->ary[id & IDR_MASK]);
 118
 119         return idr_find_slowpath(idr, id);
 120 }
 121
 122 /**
 123  * idr_for_each_entry - iterate over an idr's elements of a given type
 124  * @idp:     idr handle
 125  * @entry:   the type * to use as cursor
 126  * @id:      id entry's key
 127  */
 128 #define idr_for_each_entry(idp, entry, id)                              \
 129         for (id = 0, entry = (typeof(entry))idr_get_next((idp), &(id)); \
 130              entry != NULL;                                             \
 131              ++id, entry = (typeof(entry))idr_get_next((idp), &(id)))
 132
 133 /*
 134  * Don't use the following functions.  These exist only to suppress
 135  * deprecated warnings on EXPORT_SYMBOL()s.
 136  */
 137 int __idr_pre_get(struct idr *idp, gfp_t gfp_mask);
 138 int __idr_get_new_above(struct idr *idp, void *ptr, int starting_id, int *id);
 139 void __idr_remove_all(struct idr *idp);
 140
 141 /**
 142  * idr_pre_get - reserve resources for idr allocation
 143  * @idp:        idr handle
 144  * @gfp_mask:   memory allocation flags
 145  *
 146  * Part of old alloc interface.  This is going away.  Use
 147  * idr_preload[_end]() and idr_alloc() instead.
 148  */
 149 static inline int __deprecated idr_pre_get(struct idr *idp, gfp_t gfp_mask)
 150 {
 151         return __idr_pre_get(idp, gfp_mask);
 152 }
 153
 154 /**
 155  * idr_get_new_above - allocate new idr entry above or equal to a start id
 156  * @idp: idr handle
 157  * @ptr: pointer you want associated with the id
 158  * @starting_id: id to start search at
 159  * @id: pointer to the allocated handle
 160  *
 161  * Part of old alloc interface.  This is going away.  Use
 162  * idr_preload[_end]() and idr_alloc() instead.
 163  */
 164 static inline int __deprecated idr_get_new_above(struct idr *idp, void *ptr,
 165                                                  int starting_id, int *id)
 166 {
 167         return __idr_get_new_above(idp, ptr, starting_id, id);
 168 }
 169
 170 /**
 171  * idr_get_new - allocate new idr entry
 172  * @idp: idr handle
 173  * @ptr: pointer you want associated with the id
 174  * @id: pointer to the allocated handle
 175  *
 176  * Part of old alloc interface.  This is going away.  Use
 177  * idr_preload[_end]() and idr_alloc() instead.
 178  */
 179 static inline int __deprecated idr_get_new(struct idr *idp, void *ptr, int *id)
 180 {
 181         return __idr_get_new_above(idp, ptr, 0, id);
 182 }
 183
 184 /**
 185  * idr_remove_all - remove all ids from the given idr tree
 186  * @idp: idr handle
 187  *
 188  * If you're trying to destroy @idp, calling idr_destroy() is enough.
 189  * This is going away.  Don't use.
 190  */
 191 static inline void __deprecated idr_remove_all(struct idr *idp)
 192 {
 193         __idr_remove_all(idp);
 194 }
 195
 196 /*
 197  * IDA - IDR based id allocator, use when translation from id to
 198  * pointer isn't necessary.
 199  *
 200  * IDA_BITMAP_LONGS is calculated to be one less to accommodate
 201  * ida_bitmap->nr_busy so that the whole struct fits in 128 bytes.
 202  */
 203 #define IDA_CHUNK_SIZE          128     /* 128 bytes per chunk */
 204 #define IDA_BITMAP_LONGS        (IDA_CHUNK_SIZE / sizeof(long) - 1)
 205 #define IDA_BITMAP_BITS         (IDA_BITMAP_LONGS * sizeof(long) * 8)
 206
 207 struct ida_bitmap {
 208         long                    nr_busy;
 209         unsigned long           bitmap[IDA_BITMAP_LONGS];
 210 };
 211
 212 struct ida {
 213         struct idr              idr;
 214         struct ida_bitmap       *free_bitmap;
 215 };
 216
 217 #define IDA_INIT(name)          { .idr = IDR_INIT((name).idr), .free_bitmap = NULL, }
 218 #define DEFINE_IDA(name)        struct ida name = IDA_INIT(name)
 219
 220 int ida_pre_get(struct ida *ida, gfp_t gfp_mask);
 221 int ida_get_new_above(struct ida *ida, int starting_id, int *p_id);
 222 void ida_remove(struct ida *ida, int id);
 223 void ida_destroy(struct ida *ida);
 224 void ida_init(struct ida *ida);
 225
 226 int ida_simple_get(struct ida *ida, unsigned int start, unsigned int end,
 227                    gfp_t gfp_mask);
 228 void ida_simple_remove(struct ida *ida, unsigned int id);
 229
 230 /**
 231  * ida_get_new - allocate new ID
 232  * @ida:        idr handle
 233  * @p_id:       pointer to the allocated handle
 234  *
 235  * Simple wrapper around ida_get_new_above() w/ @starting_id of zero.
 236  */
 237 static inline int ida_get_new(struct ida *ida, int *p_id)
 238 {
 239         return ida_get_new_above(ida, 0, p_id);
 240 }
 241
 242 void __init idr_init_cache(void);
 243
 244 #endif /* __IDR_H__ */