xfs: kill XBF_LOCK
[firefly-linux-kernel-4.4.55.git] / fs / xfs / xfs_trans_buf.c
1 /*
2  * Copyright (c) 2000-2002,2005 Silicon Graphics, Inc.
3  * All Rights Reserved.
4  *
5  * This program is free software; you can redistribute it and/or
6  * modify it under the terms of the GNU General Public License as
7  * published by the Free Software Foundation.
8  *
9  * This program is distributed in the hope that it would be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write the Free Software Foundation,
16  * Inc.,  51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
17  */
18 #include "xfs.h"
19 #include "xfs_fs.h"
20 #include "xfs_types.h"
21 #include "xfs_bit.h"
22 #include "xfs_log.h"
23 #include "xfs_inum.h"
24 #include "xfs_trans.h"
25 #include "xfs_sb.h"
26 #include "xfs_ag.h"
27 #include "xfs_mount.h"
28 #include "xfs_bmap_btree.h"
29 #include "xfs_alloc_btree.h"
30 #include "xfs_ialloc_btree.h"
31 #include "xfs_dinode.h"
32 #include "xfs_inode.h"
33 #include "xfs_buf_item.h"
34 #include "xfs_trans_priv.h"
35 #include "xfs_error.h"
36 #include "xfs_rw.h"
37 #include "xfs_trace.h"
38
39 /*
40  * Check to see if a buffer matching the given parameters is already
41  * a part of the given transaction.
42  */
43 STATIC struct xfs_buf *
44 xfs_trans_buf_item_match(
45         struct xfs_trans        *tp,
46         struct xfs_buftarg      *target,
47         xfs_daddr_t             blkno,
48         int                     len)
49 {
50         struct xfs_log_item_desc *lidp;
51         struct xfs_buf_log_item *blip;
52
53         len = BBTOB(len);
54         list_for_each_entry(lidp, &tp->t_items, lid_trans) {
55                 blip = (struct xfs_buf_log_item *)lidp->lid_item;
56                 if (blip->bli_item.li_type == XFS_LI_BUF &&
57                     blip->bli_buf->b_target == target &&
58                     XFS_BUF_ADDR(blip->bli_buf) == blkno &&
59                     BBTOB(blip->bli_buf->b_length) == len)
60                         return blip->bli_buf;
61         }
62
63         return NULL;
64 }
65
66 /*
67  * Add the locked buffer to the transaction.
68  *
69  * The buffer must be locked, and it cannot be associated with any
70  * transaction.
71  *
72  * If the buffer does not yet have a buf log item associated with it,
73  * then allocate one for it.  Then add the buf item to the transaction.
74  */
75 STATIC void
76 _xfs_trans_bjoin(
77         struct xfs_trans        *tp,
78         struct xfs_buf          *bp,
79         int                     reset_recur)
80 {
81         struct xfs_buf_log_item *bip;
82
83         ASSERT(bp->b_transp == NULL);
84
85         /*
86          * The xfs_buf_log_item pointer is stored in b_fsprivate.  If
87          * it doesn't have one yet, then allocate one and initialize it.
88          * The checks to see if one is there are in xfs_buf_item_init().
89          */
90         xfs_buf_item_init(bp, tp->t_mountp);
91         bip = bp->b_fspriv;
92         ASSERT(!(bip->bli_flags & XFS_BLI_STALE));
93         ASSERT(!(bip->bli_format.blf_flags & XFS_BLF_CANCEL));
94         ASSERT(!(bip->bli_flags & XFS_BLI_LOGGED));
95         if (reset_recur)
96                 bip->bli_recur = 0;
97
98         /*
99          * Take a reference for this transaction on the buf item.
100          */
101         atomic_inc(&bip->bli_refcount);
102
103         /*
104          * Get a log_item_desc to point at the new item.
105          */
106         xfs_trans_add_item(tp, &bip->bli_item);
107
108         /*
109          * Initialize b_fsprivate2 so we can find it with incore_match()
110          * in xfs_trans_get_buf() and friends above.
111          */
112         bp->b_transp = tp;
113
114 }
115
116 void
117 xfs_trans_bjoin(
118         struct xfs_trans        *tp,
119         struct xfs_buf          *bp)
120 {
121         _xfs_trans_bjoin(tp, bp, 0);
122         trace_xfs_trans_bjoin(bp->b_fspriv);
123 }
124
125 /*
126  * Get and lock the buffer for the caller if it is not already
127  * locked within the given transaction.  If it is already locked
128  * within the transaction, just increment its lock recursion count
129  * and return a pointer to it.
130  *
131  * If the transaction pointer is NULL, make this just a normal
132  * get_buf() call.
133  */
134 xfs_buf_t *
135 xfs_trans_get_buf(xfs_trans_t   *tp,
136                   xfs_buftarg_t *target_dev,
137                   xfs_daddr_t   blkno,
138                   int           len,
139                   uint          flags)
140 {
141         xfs_buf_t               *bp;
142         xfs_buf_log_item_t      *bip;
143
144         if (flags == 0)
145                 flags = XBF_MAPPED;
146
147         /*
148          * Default to a normal get_buf() call if the tp is NULL.
149          */
150         if (tp == NULL)
151                 return xfs_buf_get(target_dev, blkno, len,
152                                    flags | XBF_DONT_BLOCK);
153
154         /*
155          * If we find the buffer in the cache with this transaction
156          * pointer in its b_fsprivate2 field, then we know we already
157          * have it locked.  In this case we just increment the lock
158          * recursion count and return the buffer to the caller.
159          */
160         bp = xfs_trans_buf_item_match(tp, target_dev, blkno, len);
161         if (bp != NULL) {
162                 ASSERT(xfs_buf_islocked(bp));
163                 if (XFS_FORCED_SHUTDOWN(tp->t_mountp)) {
164                         xfs_buf_stale(bp);
165                         XFS_BUF_DONE(bp);
166                 }
167
168                 ASSERT(bp->b_transp == tp);
169                 bip = bp->b_fspriv;
170                 ASSERT(bip != NULL);
171                 ASSERT(atomic_read(&bip->bli_refcount) > 0);
172                 bip->bli_recur++;
173                 trace_xfs_trans_get_buf_recur(bip);
174                 return (bp);
175         }
176
177         /*
178          * We always specify the XBF_DONT_BLOCK flag within a transaction
179          * so that get_buf does not try to push out a delayed write buffer
180          * which might cause another transaction to take place (if the
181          * buffer was delayed alloc).  Such recursive transactions can
182          * easily deadlock with our current transaction as well as cause
183          * us to run out of stack space.
184          */
185         bp = xfs_buf_get(target_dev, blkno, len, flags | XBF_DONT_BLOCK);
186         if (bp == NULL) {
187                 return NULL;
188         }
189
190         ASSERT(!bp->b_error);
191
192         _xfs_trans_bjoin(tp, bp, 1);
193         trace_xfs_trans_get_buf(bp->b_fspriv);
194         return (bp);
195 }
196
197 /*
198  * Get and lock the superblock buffer of this file system for the
199  * given transaction.
200  *
201  * We don't need to use incore_match() here, because the superblock
202  * buffer is a private buffer which we keep a pointer to in the
203  * mount structure.
204  */
205 xfs_buf_t *
206 xfs_trans_getsb(xfs_trans_t     *tp,
207                 struct xfs_mount *mp,
208                 int             flags)
209 {
210         xfs_buf_t               *bp;
211         xfs_buf_log_item_t      *bip;
212
213         /*
214          * Default to just trying to lock the superblock buffer
215          * if tp is NULL.
216          */
217         if (tp == NULL) {
218                 return (xfs_getsb(mp, flags));
219         }
220
221         /*
222          * If the superblock buffer already has this transaction
223          * pointer in its b_fsprivate2 field, then we know we already
224          * have it locked.  In this case we just increment the lock
225          * recursion count and return the buffer to the caller.
226          */
227         bp = mp->m_sb_bp;
228         if (bp->b_transp == tp) {
229                 bip = bp->b_fspriv;
230                 ASSERT(bip != NULL);
231                 ASSERT(atomic_read(&bip->bli_refcount) > 0);
232                 bip->bli_recur++;
233                 trace_xfs_trans_getsb_recur(bip);
234                 return (bp);
235         }
236
237         bp = xfs_getsb(mp, flags);
238         if (bp == NULL)
239                 return NULL;
240
241         _xfs_trans_bjoin(tp, bp, 1);
242         trace_xfs_trans_getsb(bp->b_fspriv);
243         return (bp);
244 }
245
246 #ifdef DEBUG
247 xfs_buftarg_t *xfs_error_target;
248 int     xfs_do_error;
249 int     xfs_req_num;
250 int     xfs_error_mod = 33;
251 #endif
252
253 /*
254  * Get and lock the buffer for the caller if it is not already
255  * locked within the given transaction.  If it has not yet been
256  * read in, read it from disk. If it is already locked
257  * within the transaction and already read in, just increment its
258  * lock recursion count and return a pointer to it.
259  *
260  * If the transaction pointer is NULL, make this just a normal
261  * read_buf() call.
262  */
263 int
264 xfs_trans_read_buf(
265         xfs_mount_t     *mp,
266         xfs_trans_t     *tp,
267         xfs_buftarg_t   *target,
268         xfs_daddr_t     blkno,
269         int             len,
270         uint            flags,
271         xfs_buf_t       **bpp)
272 {
273         xfs_buf_t               *bp;
274         xfs_buf_log_item_t      *bip;
275         int                     error;
276
277         if (flags == 0)
278                 flags = XBF_MAPPED;
279
280         /*
281          * Default to a normal get_buf() call if the tp is NULL.
282          */
283         if (tp == NULL) {
284                 bp = xfs_buf_read(target, blkno, len, flags | XBF_DONT_BLOCK);
285                 if (!bp)
286                         return (flags & XBF_TRYLOCK) ?
287                                         EAGAIN : XFS_ERROR(ENOMEM);
288
289                 if (bp->b_error) {
290                         error = bp->b_error;
291                         xfs_buf_ioerror_alert(bp, __func__);
292                         xfs_buf_relse(bp);
293                         return error;
294                 }
295 #ifdef DEBUG
296                 if (xfs_do_error) {
297                         if (xfs_error_target == target) {
298                                 if (((xfs_req_num++) % xfs_error_mod) == 0) {
299                                         xfs_buf_relse(bp);
300                                         xfs_debug(mp, "Returning error!");
301                                         return XFS_ERROR(EIO);
302                                 }
303                         }
304                 }
305 #endif
306                 if (XFS_FORCED_SHUTDOWN(mp))
307                         goto shutdown_abort;
308                 *bpp = bp;
309                 return 0;
310         }
311
312         /*
313          * If we find the buffer in the cache with this transaction
314          * pointer in its b_fsprivate2 field, then we know we already
315          * have it locked.  If it is already read in we just increment
316          * the lock recursion count and return the buffer to the caller.
317          * If the buffer is not yet read in, then we read it in, increment
318          * the lock recursion count, and return it to the caller.
319          */
320         bp = xfs_trans_buf_item_match(tp, target, blkno, len);
321         if (bp != NULL) {
322                 ASSERT(xfs_buf_islocked(bp));
323                 ASSERT(bp->b_transp == tp);
324                 ASSERT(bp->b_fspriv != NULL);
325                 ASSERT(!bp->b_error);
326                 if (!(XFS_BUF_ISDONE(bp))) {
327                         trace_xfs_trans_read_buf_io(bp, _RET_IP_);
328                         ASSERT(!XFS_BUF_ISASYNC(bp));
329                         XFS_BUF_READ(bp);
330                         xfsbdstrat(tp->t_mountp, bp);
331                         error = xfs_buf_iowait(bp);
332                         if (error) {
333                                 xfs_buf_ioerror_alert(bp, __func__);
334                                 xfs_buf_relse(bp);
335                                 /*
336                                  * We can gracefully recover from most read
337                                  * errors. Ones we can't are those that happen
338                                  * after the transaction's already dirty.
339                                  */
340                                 if (tp->t_flags & XFS_TRANS_DIRTY)
341                                         xfs_force_shutdown(tp->t_mountp,
342                                                         SHUTDOWN_META_IO_ERROR);
343                                 return error;
344                         }
345                 }
346                 /*
347                  * We never locked this buf ourselves, so we shouldn't
348                  * brelse it either. Just get out.
349                  */
350                 if (XFS_FORCED_SHUTDOWN(mp)) {
351                         trace_xfs_trans_read_buf_shut(bp, _RET_IP_);
352                         *bpp = NULL;
353                         return XFS_ERROR(EIO);
354                 }
355
356
357                 bip = bp->b_fspriv;
358                 bip->bli_recur++;
359
360                 ASSERT(atomic_read(&bip->bli_refcount) > 0);
361                 trace_xfs_trans_read_buf_recur(bip);
362                 *bpp = bp;
363                 return 0;
364         }
365
366         /*
367          * We always specify the XBF_DONT_BLOCK flag within a transaction
368          * so that get_buf does not try to push out a delayed write buffer
369          * which might cause another transaction to take place (if the
370          * buffer was delayed alloc).  Such recursive transactions can
371          * easily deadlock with our current transaction as well as cause
372          * us to run out of stack space.
373          */
374         bp = xfs_buf_read(target, blkno, len, flags | XBF_DONT_BLOCK);
375         if (bp == NULL) {
376                 *bpp = NULL;
377                 return (flags & XBF_TRYLOCK) ?
378                                         0 : XFS_ERROR(ENOMEM);
379         }
380         if (bp->b_error) {
381                 error = bp->b_error;
382                 xfs_buf_stale(bp);
383                 XFS_BUF_DONE(bp);
384                 xfs_buf_ioerror_alert(bp, __func__);
385                 if (tp->t_flags & XFS_TRANS_DIRTY)
386                         xfs_force_shutdown(tp->t_mountp, SHUTDOWN_META_IO_ERROR);
387                 xfs_buf_relse(bp);
388                 return error;
389         }
390 #ifdef DEBUG
391         if (xfs_do_error && !(tp->t_flags & XFS_TRANS_DIRTY)) {
392                 if (xfs_error_target == target) {
393                         if (((xfs_req_num++) % xfs_error_mod) == 0) {
394                                 xfs_force_shutdown(tp->t_mountp,
395                                                    SHUTDOWN_META_IO_ERROR);
396                                 xfs_buf_relse(bp);
397                                 xfs_debug(mp, "Returning trans error!");
398                                 return XFS_ERROR(EIO);
399                         }
400                 }
401         }
402 #endif
403         if (XFS_FORCED_SHUTDOWN(mp))
404                 goto shutdown_abort;
405
406         _xfs_trans_bjoin(tp, bp, 1);
407         trace_xfs_trans_read_buf(bp->b_fspriv);
408
409         *bpp = bp;
410         return 0;
411
412 shutdown_abort:
413         trace_xfs_trans_read_buf_shut(bp, _RET_IP_);
414         xfs_buf_relse(bp);
415         *bpp = NULL;
416         return XFS_ERROR(EIO);
417 }
418
419
420 /*
421  * Release the buffer bp which was previously acquired with one of the
422  * xfs_trans_... buffer allocation routines if the buffer has not
423  * been modified within this transaction.  If the buffer is modified
424  * within this transaction, do decrement the recursion count but do
425  * not release the buffer even if the count goes to 0.  If the buffer is not
426  * modified within the transaction, decrement the recursion count and
427  * release the buffer if the recursion count goes to 0.
428  *
429  * If the buffer is to be released and it was not modified before
430  * this transaction began, then free the buf_log_item associated with it.
431  *
432  * If the transaction pointer is NULL, make this just a normal
433  * brelse() call.
434  */
435 void
436 xfs_trans_brelse(xfs_trans_t    *tp,
437                  xfs_buf_t      *bp)
438 {
439         xfs_buf_log_item_t      *bip;
440
441         /*
442          * Default to a normal brelse() call if the tp is NULL.
443          */
444         if (tp == NULL) {
445                 ASSERT(bp->b_transp == NULL);
446                 xfs_buf_relse(bp);
447                 return;
448         }
449
450         ASSERT(bp->b_transp == tp);
451         bip = bp->b_fspriv;
452         ASSERT(bip->bli_item.li_type == XFS_LI_BUF);
453         ASSERT(!(bip->bli_flags & XFS_BLI_STALE));
454         ASSERT(!(bip->bli_format.blf_flags & XFS_BLF_CANCEL));
455         ASSERT(atomic_read(&bip->bli_refcount) > 0);
456
457         trace_xfs_trans_brelse(bip);
458
459         /*
460          * If the release is just for a recursive lock,
461          * then decrement the count and return.
462          */
463         if (bip->bli_recur > 0) {
464                 bip->bli_recur--;
465                 return;
466         }
467
468         /*
469          * If the buffer is dirty within this transaction, we can't
470          * release it until we commit.
471          */
472         if (bip->bli_item.li_desc->lid_flags & XFS_LID_DIRTY)
473                 return;
474
475         /*
476          * If the buffer has been invalidated, then we can't release
477          * it until the transaction commits to disk unless it is re-dirtied
478          * as part of this transaction.  This prevents us from pulling
479          * the item from the AIL before we should.
480          */
481         if (bip->bli_flags & XFS_BLI_STALE)
482                 return;
483
484         ASSERT(!(bip->bli_flags & XFS_BLI_LOGGED));
485
486         /*
487          * Free up the log item descriptor tracking the released item.
488          */
489         xfs_trans_del_item(&bip->bli_item);
490
491         /*
492          * Clear the hold flag in the buf log item if it is set.
493          * We wouldn't want the next user of the buffer to
494          * get confused.
495          */
496         if (bip->bli_flags & XFS_BLI_HOLD) {
497                 bip->bli_flags &= ~XFS_BLI_HOLD;
498         }
499
500         /*
501          * Drop our reference to the buf log item.
502          */
503         atomic_dec(&bip->bli_refcount);
504
505         /*
506          * If the buf item is not tracking data in the log, then
507          * we must free it before releasing the buffer back to the
508          * free pool.  Before releasing the buffer to the free pool,
509          * clear the transaction pointer in b_fsprivate2 to dissolve
510          * its relation to this transaction.
511          */
512         if (!xfs_buf_item_dirty(bip)) {
513 /***
514                 ASSERT(bp->b_pincount == 0);
515 ***/
516                 ASSERT(atomic_read(&bip->bli_refcount) == 0);
517                 ASSERT(!(bip->bli_item.li_flags & XFS_LI_IN_AIL));
518                 ASSERT(!(bip->bli_flags & XFS_BLI_INODE_ALLOC_BUF));
519                 xfs_buf_item_relse(bp);
520         }
521
522         bp->b_transp = NULL;
523         xfs_buf_relse(bp);
524 }
525
526 /*
527  * Mark the buffer as not needing to be unlocked when the buf item's
528  * IOP_UNLOCK() routine is called.  The buffer must already be locked
529  * and associated with the given transaction.
530  */
531 /* ARGSUSED */
532 void
533 xfs_trans_bhold(xfs_trans_t     *tp,
534                 xfs_buf_t       *bp)
535 {
536         xfs_buf_log_item_t      *bip = bp->b_fspriv;
537
538         ASSERT(bp->b_transp == tp);
539         ASSERT(bip != NULL);
540         ASSERT(!(bip->bli_flags & XFS_BLI_STALE));
541         ASSERT(!(bip->bli_format.blf_flags & XFS_BLF_CANCEL));
542         ASSERT(atomic_read(&bip->bli_refcount) > 0);
543
544         bip->bli_flags |= XFS_BLI_HOLD;
545         trace_xfs_trans_bhold(bip);
546 }
547
548 /*
549  * Cancel the previous buffer hold request made on this buffer
550  * for this transaction.
551  */
552 void
553 xfs_trans_bhold_release(xfs_trans_t     *tp,
554                         xfs_buf_t       *bp)
555 {
556         xfs_buf_log_item_t      *bip = bp->b_fspriv;
557
558         ASSERT(bp->b_transp == tp);
559         ASSERT(bip != NULL);
560         ASSERT(!(bip->bli_flags & XFS_BLI_STALE));
561         ASSERT(!(bip->bli_format.blf_flags & XFS_BLF_CANCEL));
562         ASSERT(atomic_read(&bip->bli_refcount) > 0);
563         ASSERT(bip->bli_flags & XFS_BLI_HOLD);
564
565         bip->bli_flags &= ~XFS_BLI_HOLD;
566         trace_xfs_trans_bhold_release(bip);
567 }
568
569 /*
570  * This is called to mark bytes first through last inclusive of the given
571  * buffer as needing to be logged when the transaction is committed.
572  * The buffer must already be associated with the given transaction.
573  *
574  * First and last are numbers relative to the beginning of this buffer,
575  * so the first byte in the buffer is numbered 0 regardless of the
576  * value of b_blkno.
577  */
578 void
579 xfs_trans_log_buf(xfs_trans_t   *tp,
580                   xfs_buf_t     *bp,
581                   uint          first,
582                   uint          last)
583 {
584         xfs_buf_log_item_t      *bip = bp->b_fspriv;
585
586         ASSERT(bp->b_transp == tp);
587         ASSERT(bip != NULL);
588         ASSERT(first <= last && last < BBTOB(bp->b_length));
589         ASSERT(bp->b_iodone == NULL ||
590                bp->b_iodone == xfs_buf_iodone_callbacks);
591
592         /*
593          * Mark the buffer as needing to be written out eventually,
594          * and set its iodone function to remove the buffer's buf log
595          * item from the AIL and free it when the buffer is flushed
596          * to disk.  See xfs_buf_attach_iodone() for more details
597          * on li_cb and xfs_buf_iodone_callbacks().
598          * If we end up aborting this transaction, we trap this buffer
599          * inside the b_bdstrat callback so that this won't get written to
600          * disk.
601          */
602         XFS_BUF_DONE(bp);
603
604         ASSERT(atomic_read(&bip->bli_refcount) > 0);
605         bp->b_iodone = xfs_buf_iodone_callbacks;
606         bip->bli_item.li_cb = xfs_buf_iodone;
607
608         trace_xfs_trans_log_buf(bip);
609
610         /*
611          * If we invalidated the buffer within this transaction, then
612          * cancel the invalidation now that we're dirtying the buffer
613          * again.  There are no races with the code in xfs_buf_item_unpin(),
614          * because we have a reference to the buffer this entire time.
615          */
616         if (bip->bli_flags & XFS_BLI_STALE) {
617                 bip->bli_flags &= ~XFS_BLI_STALE;
618                 ASSERT(XFS_BUF_ISSTALE(bp));
619                 XFS_BUF_UNSTALE(bp);
620                 bip->bli_format.blf_flags &= ~XFS_BLF_CANCEL;
621         }
622
623         tp->t_flags |= XFS_TRANS_DIRTY;
624         bip->bli_item.li_desc->lid_flags |= XFS_LID_DIRTY;
625         bip->bli_flags |= XFS_BLI_LOGGED;
626         xfs_buf_item_log(bip, first, last);
627 }
628
629
630 /*
631  * Invalidate a buffer that is being used within a transaction.
632  *
633  * Typically this is because the blocks in the buffer are being freed, so we
634  * need to prevent it from being written out when we're done.  Allowing it
635  * to be written again might overwrite data in the free blocks if they are
636  * reallocated to a file.
637  *
638  * We prevent the buffer from being written out by marking it stale.  We can't
639  * get rid of the buf log item at this point because the buffer may still be
640  * pinned by another transaction.  If that is the case, then we'll wait until
641  * the buffer is committed to disk for the last time (we can tell by the ref
642  * count) and free it in xfs_buf_item_unpin().  Until that happens we will
643  * keep the buffer locked so that the buffer and buf log item are not reused.
644  *
645  * We also set the XFS_BLF_CANCEL flag in the buf log format structure and log
646  * the buf item.  This will be used at recovery time to determine that copies
647  * of the buffer in the log before this should not be replayed.
648  *
649  * We mark the item descriptor and the transaction dirty so that we'll hold
650  * the buffer until after the commit.
651  *
652  * Since we're invalidating the buffer, we also clear the state about which
653  * parts of the buffer have been logged.  We also clear the flag indicating
654  * that this is an inode buffer since the data in the buffer will no longer
655  * be valid.
656  *
657  * We set the stale bit in the buffer as well since we're getting rid of it.
658  */
659 void
660 xfs_trans_binval(
661         xfs_trans_t     *tp,
662         xfs_buf_t       *bp)
663 {
664         xfs_buf_log_item_t      *bip = bp->b_fspriv;
665
666         ASSERT(bp->b_transp == tp);
667         ASSERT(bip != NULL);
668         ASSERT(atomic_read(&bip->bli_refcount) > 0);
669
670         trace_xfs_trans_binval(bip);
671
672         if (bip->bli_flags & XFS_BLI_STALE) {
673                 /*
674                  * If the buffer is already invalidated, then
675                  * just return.
676                  */
677                 ASSERT(XFS_BUF_ISSTALE(bp));
678                 ASSERT(!(bip->bli_flags & (XFS_BLI_LOGGED | XFS_BLI_DIRTY)));
679                 ASSERT(!(bip->bli_format.blf_flags & XFS_BLF_INODE_BUF));
680                 ASSERT(bip->bli_format.blf_flags & XFS_BLF_CANCEL);
681                 ASSERT(bip->bli_item.li_desc->lid_flags & XFS_LID_DIRTY);
682                 ASSERT(tp->t_flags & XFS_TRANS_DIRTY);
683                 return;
684         }
685
686         xfs_buf_stale(bp);
687
688         bip->bli_flags |= XFS_BLI_STALE;
689         bip->bli_flags &= ~(XFS_BLI_INODE_BUF | XFS_BLI_LOGGED | XFS_BLI_DIRTY);
690         bip->bli_format.blf_flags &= ~XFS_BLF_INODE_BUF;
691         bip->bli_format.blf_flags |= XFS_BLF_CANCEL;
692         memset((char *)(bip->bli_format.blf_data_map), 0,
693               (bip->bli_format.blf_map_size * sizeof(uint)));
694         bip->bli_item.li_desc->lid_flags |= XFS_LID_DIRTY;
695         tp->t_flags |= XFS_TRANS_DIRTY;
696 }
697
698 /*
699  * This call is used to indicate that the buffer contains on-disk inodes which
700  * must be handled specially during recovery.  They require special handling
701  * because only the di_next_unlinked from the inodes in the buffer should be
702  * recovered.  The rest of the data in the buffer is logged via the inodes
703  * themselves.
704  *
705  * All we do is set the XFS_BLI_INODE_BUF flag in the items flags so it can be
706  * transferred to the buffer's log format structure so that we'll know what to
707  * do at recovery time.
708  */
709 void
710 xfs_trans_inode_buf(
711         xfs_trans_t     *tp,
712         xfs_buf_t       *bp)
713 {
714         xfs_buf_log_item_t      *bip = bp->b_fspriv;
715
716         ASSERT(bp->b_transp == tp);
717         ASSERT(bip != NULL);
718         ASSERT(atomic_read(&bip->bli_refcount) > 0);
719
720         bip->bli_flags |= XFS_BLI_INODE_BUF;
721 }
722
723 /*
724  * This call is used to indicate that the buffer is going to
725  * be staled and was an inode buffer. This means it gets
726  * special processing during unpin - where any inodes 
727  * associated with the buffer should be removed from ail.
728  * There is also special processing during recovery,
729  * any replay of the inodes in the buffer needs to be
730  * prevented as the buffer may have been reused.
731  */
732 void
733 xfs_trans_stale_inode_buf(
734         xfs_trans_t     *tp,
735         xfs_buf_t       *bp)
736 {
737         xfs_buf_log_item_t      *bip = bp->b_fspriv;
738
739         ASSERT(bp->b_transp == tp);
740         ASSERT(bip != NULL);
741         ASSERT(atomic_read(&bip->bli_refcount) > 0);
742
743         bip->bli_flags |= XFS_BLI_STALE_INODE;
744         bip->bli_item.li_cb = xfs_buf_iodone;
745 }
746
747 /*
748  * Mark the buffer as being one which contains newly allocated
749  * inodes.  We need to make sure that even if this buffer is
750  * relogged as an 'inode buf' we still recover all of the inode
751  * images in the face of a crash.  This works in coordination with
752  * xfs_buf_item_committed() to ensure that the buffer remains in the
753  * AIL at its original location even after it has been relogged.
754  */
755 /* ARGSUSED */
756 void
757 xfs_trans_inode_alloc_buf(
758         xfs_trans_t     *tp,
759         xfs_buf_t       *bp)
760 {
761         xfs_buf_log_item_t      *bip = bp->b_fspriv;
762
763         ASSERT(bp->b_transp == tp);
764         ASSERT(bip != NULL);
765         ASSERT(atomic_read(&bip->bli_refcount) > 0);
766
767         bip->bli_flags |= XFS_BLI_INODE_ALLOC_BUF;
768 }
769
770
771 /*
772  * Similar to xfs_trans_inode_buf(), this marks the buffer as a cluster of
773  * dquots. However, unlike in inode buffer recovery, dquot buffers get
774  * recovered in their entirety. (Hence, no XFS_BLI_DQUOT_ALLOC_BUF flag).
775  * The only thing that makes dquot buffers different from regular
776  * buffers is that we must not replay dquot bufs when recovering
777  * if a _corresponding_ quotaoff has happened. We also have to distinguish
778  * between usr dquot bufs and grp dquot bufs, because usr and grp quotas
779  * can be turned off independently.
780  */
781 /* ARGSUSED */
782 void
783 xfs_trans_dquot_buf(
784         xfs_trans_t     *tp,
785         xfs_buf_t       *bp,
786         uint            type)
787 {
788         xfs_buf_log_item_t      *bip = bp->b_fspriv;
789
790         ASSERT(bp->b_transp == tp);
791         ASSERT(bip != NULL);
792         ASSERT(type == XFS_BLF_UDQUOT_BUF ||
793                type == XFS_BLF_PDQUOT_BUF ||
794                type == XFS_BLF_GDQUOT_BUF);
795         ASSERT(atomic_read(&bip->bli_refcount) > 0);
796
797         bip->bli_format.blf_flags |= type;
798 }