GNU Linux-libre 4.19.211-gnu1
[releases.git] / fs / ubifs / lpt_commit.c
1 /*
2  * This file is part of UBIFS.
3  *
4  * Copyright (C) 2006-2008 Nokia Corporation.
5  *
6  * This program is free software; you can redistribute it and/or modify it
7  * under the terms of the GNU General Public License version 2 as published by
8  * the Free Software Foundation.
9  *
10  * This program is distributed in the hope that it will be useful, but WITHOUT
11  * ANY WARRANTY; without even the implied warranty of MERCHANTABILITY or
12  * FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License for
13  * more details.
14  *
15  * You should have received a copy of the GNU General Public License along with
16  * this program; if not, write to the Free Software Foundation, Inc., 51
17  * Franklin St, Fifth Floor, Boston, MA 02110-1301 USA
18  *
19  * Authors: Adrian Hunter
20  *          Artem Bityutskiy (Битюцкий Артём)
21  */
22
23 /*
24  * This file implements commit-related functionality of the LEB properties
25  * subsystem.
26  */
27
28 #include <linux/crc16.h>
29 #include <linux/slab.h>
30 #include <linux/random.h>
31 #include "ubifs.h"
32
33 static int dbg_populate_lsave(struct ubifs_info *c);
34
35 /**
36  * first_dirty_cnode - find first dirty cnode.
37  * @c: UBIFS file-system description object
38  * @nnode: nnode at which to start
39  *
40  * This function returns the first dirty cnode or %NULL if there is not one.
41  */
42 static struct ubifs_cnode *first_dirty_cnode(const struct ubifs_info *c, struct ubifs_nnode *nnode)
43 {
44         ubifs_assert(c, nnode);
45         while (1) {
46                 int i, cont = 0;
47
48                 for (i = 0; i < UBIFS_LPT_FANOUT; i++) {
49                         struct ubifs_cnode *cnode;
50
51                         cnode = nnode->nbranch[i].cnode;
52                         if (cnode &&
53                             test_bit(DIRTY_CNODE, &cnode->flags)) {
54                                 if (cnode->level == 0)
55                                         return cnode;
56                                 nnode = (struct ubifs_nnode *)cnode;
57                                 cont = 1;
58                                 break;
59                         }
60                 }
61                 if (!cont)
62                         return (struct ubifs_cnode *)nnode;
63         }
64 }
65
66 /**
67  * next_dirty_cnode - find next dirty cnode.
68  * @c: UBIFS file-system description object
69  * @cnode: cnode from which to begin searching
70  *
71  * This function returns the next dirty cnode or %NULL if there is not one.
72  */
73 static struct ubifs_cnode *next_dirty_cnode(const struct ubifs_info *c, struct ubifs_cnode *cnode)
74 {
75         struct ubifs_nnode *nnode;
76         int i;
77
78         ubifs_assert(c, cnode);
79         nnode = cnode->parent;
80         if (!nnode)
81                 return NULL;
82         for (i = cnode->iip + 1; i < UBIFS_LPT_FANOUT; i++) {
83                 cnode = nnode->nbranch[i].cnode;
84                 if (cnode && test_bit(DIRTY_CNODE, &cnode->flags)) {
85                         if (cnode->level == 0)
86                                 return cnode; /* cnode is a pnode */
87                         /* cnode is a nnode */
88                         return first_dirty_cnode(c, (struct ubifs_nnode *)cnode);
89                 }
90         }
91         return (struct ubifs_cnode *)nnode;
92 }
93
94 /**
95  * get_cnodes_to_commit - create list of dirty cnodes to commit.
96  * @c: UBIFS file-system description object
97  *
98  * This function returns the number of cnodes to commit.
99  */
100 static int get_cnodes_to_commit(struct ubifs_info *c)
101 {
102         struct ubifs_cnode *cnode, *cnext;
103         int cnt = 0;
104
105         if (!c->nroot)
106                 return 0;
107
108         if (!test_bit(DIRTY_CNODE, &c->nroot->flags))
109                 return 0;
110
111         c->lpt_cnext = first_dirty_cnode(c, c->nroot);
112         cnode = c->lpt_cnext;
113         if (!cnode)
114                 return 0;
115         cnt += 1;
116         while (1) {
117                 ubifs_assert(c, !test_bit(COW_CNODE, &cnode->flags));
118                 __set_bit(COW_CNODE, &cnode->flags);
119                 cnext = next_dirty_cnode(c, cnode);
120                 if (!cnext) {
121                         cnode->cnext = c->lpt_cnext;
122                         break;
123                 }
124                 cnode->cnext = cnext;
125                 cnode = cnext;
126                 cnt += 1;
127         }
128         dbg_cmt("committing %d cnodes", cnt);
129         dbg_lp("committing %d cnodes", cnt);
130         ubifs_assert(c, cnt == c->dirty_nn_cnt + c->dirty_pn_cnt);
131         return cnt;
132 }
133
134 /**
135  * upd_ltab - update LPT LEB properties.
136  * @c: UBIFS file-system description object
137  * @lnum: LEB number
138  * @free: amount of free space
139  * @dirty: amount of dirty space to add
140  */
141 static void upd_ltab(struct ubifs_info *c, int lnum, int free, int dirty)
142 {
143         dbg_lp("LEB %d free %d dirty %d to %d +%d",
144                lnum, c->ltab[lnum - c->lpt_first].free,
145                c->ltab[lnum - c->lpt_first].dirty, free, dirty);
146         ubifs_assert(c, lnum >= c->lpt_first && lnum <= c->lpt_last);
147         c->ltab[lnum - c->lpt_first].free = free;
148         c->ltab[lnum - c->lpt_first].dirty += dirty;
149 }
150
151 /**
152  * alloc_lpt_leb - allocate an LPT LEB that is empty.
153  * @c: UBIFS file-system description object
154  * @lnum: LEB number is passed and returned here
155  *
156  * This function finds the next empty LEB in the ltab starting from @lnum. If a
157  * an empty LEB is found it is returned in @lnum and the function returns %0.
158  * Otherwise the function returns -ENOSPC.  Note however, that LPT is designed
159  * never to run out of space.
160  */
161 static int alloc_lpt_leb(struct ubifs_info *c, int *lnum)
162 {
163         int i, n;
164
165         n = *lnum - c->lpt_first + 1;
166         for (i = n; i < c->lpt_lebs; i++) {
167                 if (c->ltab[i].tgc || c->ltab[i].cmt)
168                         continue;
169                 if (c->ltab[i].free == c->leb_size) {
170                         c->ltab[i].cmt = 1;
171                         *lnum = i + c->lpt_first;
172                         return 0;
173                 }
174         }
175
176         for (i = 0; i < n; i++) {
177                 if (c->ltab[i].tgc || c->ltab[i].cmt)
178                         continue;
179                 if (c->ltab[i].free == c->leb_size) {
180                         c->ltab[i].cmt = 1;
181                         *lnum = i + c->lpt_first;
182                         return 0;
183                 }
184         }
185         return -ENOSPC;
186 }
187
188 /**
189  * layout_cnodes - layout cnodes for commit.
190  * @c: UBIFS file-system description object
191  *
192  * This function returns %0 on success and a negative error code on failure.
193  */
194 static int layout_cnodes(struct ubifs_info *c)
195 {
196         int lnum, offs, len, alen, done_lsave, done_ltab, err;
197         struct ubifs_cnode *cnode;
198
199         err = dbg_chk_lpt_sz(c, 0, 0);
200         if (err)
201                 return err;
202         cnode = c->lpt_cnext;
203         if (!cnode)
204                 return 0;
205         lnum = c->nhead_lnum;
206         offs = c->nhead_offs;
207         /* Try to place lsave and ltab nicely */
208         done_lsave = !c->big_lpt;
209         done_ltab = 0;
210         if (!done_lsave && offs + c->lsave_sz <= c->leb_size) {
211                 done_lsave = 1;
212                 c->lsave_lnum = lnum;
213                 c->lsave_offs = offs;
214                 offs += c->lsave_sz;
215                 dbg_chk_lpt_sz(c, 1, c->lsave_sz);
216         }
217
218         if (offs + c->ltab_sz <= c->leb_size) {
219                 done_ltab = 1;
220                 c->ltab_lnum = lnum;
221                 c->ltab_offs = offs;
222                 offs += c->ltab_sz;
223                 dbg_chk_lpt_sz(c, 1, c->ltab_sz);
224         }
225
226         do {
227                 if (cnode->level) {
228                         len = c->nnode_sz;
229                         c->dirty_nn_cnt -= 1;
230                 } else {
231                         len = c->pnode_sz;
232                         c->dirty_pn_cnt -= 1;
233                 }
234                 while (offs + len > c->leb_size) {
235                         alen = ALIGN(offs, c->min_io_size);
236                         upd_ltab(c, lnum, c->leb_size - alen, alen - offs);
237                         dbg_chk_lpt_sz(c, 2, c->leb_size - offs);
238                         err = alloc_lpt_leb(c, &lnum);
239                         if (err)
240                                 goto no_space;
241                         offs = 0;
242                         ubifs_assert(c, lnum >= c->lpt_first &&
243                                      lnum <= c->lpt_last);
244                         /* Try to place lsave and ltab nicely */
245                         if (!done_lsave) {
246                                 done_lsave = 1;
247                                 c->lsave_lnum = lnum;
248                                 c->lsave_offs = offs;
249                                 offs += c->lsave_sz;
250                                 dbg_chk_lpt_sz(c, 1, c->lsave_sz);
251                                 continue;
252                         }
253                         if (!done_ltab) {
254                                 done_ltab = 1;
255                                 c->ltab_lnum = lnum;
256                                 c->ltab_offs = offs;
257                                 offs += c->ltab_sz;
258                                 dbg_chk_lpt_sz(c, 1, c->ltab_sz);
259                                 continue;
260                         }
261                         break;
262                 }
263                 if (cnode->parent) {
264                         cnode->parent->nbranch[cnode->iip].lnum = lnum;
265                         cnode->parent->nbranch[cnode->iip].offs = offs;
266                 } else {
267                         c->lpt_lnum = lnum;
268                         c->lpt_offs = offs;
269                 }
270                 offs += len;
271                 dbg_chk_lpt_sz(c, 1, len);
272                 cnode = cnode->cnext;
273         } while (cnode && cnode != c->lpt_cnext);
274
275         /* Make sure to place LPT's save table */
276         if (!done_lsave) {
277                 if (offs + c->lsave_sz > c->leb_size) {
278                         alen = ALIGN(offs, c->min_io_size);
279                         upd_ltab(c, lnum, c->leb_size - alen, alen - offs);
280                         dbg_chk_lpt_sz(c, 2, c->leb_size - offs);
281                         err = alloc_lpt_leb(c, &lnum);
282                         if (err)
283                                 goto no_space;
284                         offs = 0;
285                         ubifs_assert(c, lnum >= c->lpt_first &&
286                                      lnum <= c->lpt_last);
287                 }
288                 done_lsave = 1;
289                 c->lsave_lnum = lnum;
290                 c->lsave_offs = offs;
291                 offs += c->lsave_sz;
292                 dbg_chk_lpt_sz(c, 1, c->lsave_sz);
293         }
294
295         /* Make sure to place LPT's own lprops table */
296         if (!done_ltab) {
297                 if (offs + c->ltab_sz > c->leb_size) {
298                         alen = ALIGN(offs, c->min_io_size);
299                         upd_ltab(c, lnum, c->leb_size - alen, alen - offs);
300                         dbg_chk_lpt_sz(c, 2, c->leb_size - offs);
301                         err = alloc_lpt_leb(c, &lnum);
302                         if (err)
303                                 goto no_space;
304                         offs = 0;
305                         ubifs_assert(c, lnum >= c->lpt_first &&
306                                      lnum <= c->lpt_last);
307                 }
308                 c->ltab_lnum = lnum;
309                 c->ltab_offs = offs;
310                 offs += c->ltab_sz;
311                 dbg_chk_lpt_sz(c, 1, c->ltab_sz);
312         }
313
314         alen = ALIGN(offs, c->min_io_size);
315         upd_ltab(c, lnum, c->leb_size - alen, alen - offs);
316         dbg_chk_lpt_sz(c, 4, alen - offs);
317         err = dbg_chk_lpt_sz(c, 3, alen);
318         if (err)
319                 return err;
320         return 0;
321
322 no_space:
323         ubifs_err(c, "LPT out of space at LEB %d:%d needing %d, done_ltab %d, done_lsave %d",
324                   lnum, offs, len, done_ltab, done_lsave);
325         ubifs_dump_lpt_info(c);
326         ubifs_dump_lpt_lebs(c);
327         dump_stack();
328         return err;
329 }
330
331 /**
332  * realloc_lpt_leb - allocate an LPT LEB that is empty.
333  * @c: UBIFS file-system description object
334  * @lnum: LEB number is passed and returned here
335  *
336  * This function duplicates exactly the results of the function alloc_lpt_leb.
337  * It is used during end commit to reallocate the same LEB numbers that were
338  * allocated by alloc_lpt_leb during start commit.
339  *
340  * This function finds the next LEB that was allocated by the alloc_lpt_leb
341  * function starting from @lnum. If a LEB is found it is returned in @lnum and
342  * the function returns %0. Otherwise the function returns -ENOSPC.
343  * Note however, that LPT is designed never to run out of space.
344  */
345 static int realloc_lpt_leb(struct ubifs_info *c, int *lnum)
346 {
347         int i, n;
348
349         n = *lnum - c->lpt_first + 1;
350         for (i = n; i < c->lpt_lebs; i++)
351                 if (c->ltab[i].cmt) {
352                         c->ltab[i].cmt = 0;
353                         *lnum = i + c->lpt_first;
354                         return 0;
355                 }
356
357         for (i = 0; i < n; i++)
358                 if (c->ltab[i].cmt) {
359                         c->ltab[i].cmt = 0;
360                         *lnum = i + c->lpt_first;
361                         return 0;
362                 }
363         return -ENOSPC;
364 }
365
366 /**
367  * write_cnodes - write cnodes for commit.
368  * @c: UBIFS file-system description object
369  *
370  * This function returns %0 on success and a negative error code on failure.
371  */
372 static int write_cnodes(struct ubifs_info *c)
373 {
374         int lnum, offs, len, from, err, wlen, alen, done_ltab, done_lsave;
375         struct ubifs_cnode *cnode;
376         void *buf = c->lpt_buf;
377
378         cnode = c->lpt_cnext;
379         if (!cnode)
380                 return 0;
381         lnum = c->nhead_lnum;
382         offs = c->nhead_offs;
383         from = offs;
384         /* Ensure empty LEB is unmapped */
385         if (offs == 0) {
386                 err = ubifs_leb_unmap(c, lnum);
387                 if (err)
388                         return err;
389         }
390         /* Try to place lsave and ltab nicely */
391         done_lsave = !c->big_lpt;
392         done_ltab = 0;
393         if (!done_lsave && offs + c->lsave_sz <= c->leb_size) {
394                 done_lsave = 1;
395                 ubifs_pack_lsave(c, buf + offs, c->lsave);
396                 offs += c->lsave_sz;
397                 dbg_chk_lpt_sz(c, 1, c->lsave_sz);
398         }
399
400         if (offs + c->ltab_sz <= c->leb_size) {
401                 done_ltab = 1;
402                 ubifs_pack_ltab(c, buf + offs, c->ltab_cmt);
403                 offs += c->ltab_sz;
404                 dbg_chk_lpt_sz(c, 1, c->ltab_sz);
405         }
406
407         /* Loop for each cnode */
408         do {
409                 if (cnode->level)
410                         len = c->nnode_sz;
411                 else
412                         len = c->pnode_sz;
413                 while (offs + len > c->leb_size) {
414                         wlen = offs - from;
415                         if (wlen) {
416                                 alen = ALIGN(wlen, c->min_io_size);
417                                 memset(buf + offs, 0xff, alen - wlen);
418                                 err = ubifs_leb_write(c, lnum, buf + from, from,
419                                                        alen);
420                                 if (err)
421                                         return err;
422                         }
423                         dbg_chk_lpt_sz(c, 2, c->leb_size - offs);
424                         err = realloc_lpt_leb(c, &lnum);
425                         if (err)
426                                 goto no_space;
427                         offs = from = 0;
428                         ubifs_assert(c, lnum >= c->lpt_first &&
429                                      lnum <= c->lpt_last);
430                         err = ubifs_leb_unmap(c, lnum);
431                         if (err)
432                                 return err;
433                         /* Try to place lsave and ltab nicely */
434                         if (!done_lsave) {
435                                 done_lsave = 1;
436                                 ubifs_pack_lsave(c, buf + offs, c->lsave);
437                                 offs += c->lsave_sz;
438                                 dbg_chk_lpt_sz(c, 1, c->lsave_sz);
439                                 continue;
440                         }
441                         if (!done_ltab) {
442                                 done_ltab = 1;
443                                 ubifs_pack_ltab(c, buf + offs, c->ltab_cmt);
444                                 offs += c->ltab_sz;
445                                 dbg_chk_lpt_sz(c, 1, c->ltab_sz);
446                                 continue;
447                         }
448                         break;
449                 }
450                 if (cnode->level)
451                         ubifs_pack_nnode(c, buf + offs,
452                                          (struct ubifs_nnode *)cnode);
453                 else
454                         ubifs_pack_pnode(c, buf + offs,
455                                          (struct ubifs_pnode *)cnode);
456                 /*
457                  * The reason for the barriers is the same as in case of TNC.
458                  * See comment in 'write_index()'. 'dirty_cow_nnode()' and
459                  * 'dirty_cow_pnode()' are the functions for which this is
460                  * important.
461                  */
462                 clear_bit(DIRTY_CNODE, &cnode->flags);
463                 smp_mb__before_atomic();
464                 clear_bit(COW_CNODE, &cnode->flags);
465                 smp_mb__after_atomic();
466                 offs += len;
467                 dbg_chk_lpt_sz(c, 1, len);
468                 cnode = cnode->cnext;
469         } while (cnode && cnode != c->lpt_cnext);
470
471         /* Make sure to place LPT's save table */
472         if (!done_lsave) {
473                 if (offs + c->lsave_sz > c->leb_size) {
474                         wlen = offs - from;
475                         alen = ALIGN(wlen, c->min_io_size);
476                         memset(buf + offs, 0xff, alen - wlen);
477                         err = ubifs_leb_write(c, lnum, buf + from, from, alen);
478                         if (err)
479                                 return err;
480                         dbg_chk_lpt_sz(c, 2, c->leb_size - offs);
481                         err = realloc_lpt_leb(c, &lnum);
482                         if (err)
483                                 goto no_space;
484                         offs = from = 0;
485                         ubifs_assert(c, lnum >= c->lpt_first &&
486                                      lnum <= c->lpt_last);
487                         err = ubifs_leb_unmap(c, lnum);
488                         if (err)
489                                 return err;
490                 }
491                 done_lsave = 1;
492                 ubifs_pack_lsave(c, buf + offs, c->lsave);
493                 offs += c->lsave_sz;
494                 dbg_chk_lpt_sz(c, 1, c->lsave_sz);
495         }
496
497         /* Make sure to place LPT's own lprops table */
498         if (!done_ltab) {
499                 if (offs + c->ltab_sz > c->leb_size) {
500                         wlen = offs - from;
501                         alen = ALIGN(wlen, c->min_io_size);
502                         memset(buf + offs, 0xff, alen - wlen);
503                         err = ubifs_leb_write(c, lnum, buf + from, from, alen);
504                         if (err)
505                                 return err;
506                         dbg_chk_lpt_sz(c, 2, c->leb_size - offs);
507                         err = realloc_lpt_leb(c, &lnum);
508                         if (err)
509                                 goto no_space;
510                         offs = from = 0;
511                         ubifs_assert(c, lnum >= c->lpt_first &&
512                                      lnum <= c->lpt_last);
513                         err = ubifs_leb_unmap(c, lnum);
514                         if (err)
515                                 return err;
516                 }
517                 ubifs_pack_ltab(c, buf + offs, c->ltab_cmt);
518                 offs += c->ltab_sz;
519                 dbg_chk_lpt_sz(c, 1, c->ltab_sz);
520         }
521
522         /* Write remaining data in buffer */
523         wlen = offs - from;
524         alen = ALIGN(wlen, c->min_io_size);
525         memset(buf + offs, 0xff, alen - wlen);
526         err = ubifs_leb_write(c, lnum, buf + from, from, alen);
527         if (err)
528                 return err;
529
530         dbg_chk_lpt_sz(c, 4, alen - wlen);
531         err = dbg_chk_lpt_sz(c, 3, ALIGN(offs, c->min_io_size));
532         if (err)
533                 return err;
534
535         c->nhead_lnum = lnum;
536         c->nhead_offs = ALIGN(offs, c->min_io_size);
537
538         dbg_lp("LPT root is at %d:%d", c->lpt_lnum, c->lpt_offs);
539         dbg_lp("LPT head is at %d:%d", c->nhead_lnum, c->nhead_offs);
540         dbg_lp("LPT ltab is at %d:%d", c->ltab_lnum, c->ltab_offs);
541         if (c->big_lpt)
542                 dbg_lp("LPT lsave is at %d:%d", c->lsave_lnum, c->lsave_offs);
543
544         return 0;
545
546 no_space:
547         ubifs_err(c, "LPT out of space mismatch at LEB %d:%d needing %d, done_ltab %d, done_lsave %d",
548                   lnum, offs, len, done_ltab, done_lsave);
549         ubifs_dump_lpt_info(c);
550         ubifs_dump_lpt_lebs(c);
551         dump_stack();
552         return err;
553 }
554
555 /**
556  * next_pnode_to_dirty - find next pnode to dirty.
557  * @c: UBIFS file-system description object
558  * @pnode: pnode
559  *
560  * This function returns the next pnode to dirty or %NULL if there are no more
561  * pnodes.  Note that pnodes that have never been written (lnum == 0) are
562  * skipped.
563  */
564 static struct ubifs_pnode *next_pnode_to_dirty(struct ubifs_info *c,
565                                                struct ubifs_pnode *pnode)
566 {
567         struct ubifs_nnode *nnode;
568         int iip;
569
570         /* Try to go right */
571         nnode = pnode->parent;
572         for (iip = pnode->iip + 1; iip < UBIFS_LPT_FANOUT; iip++) {
573                 if (nnode->nbranch[iip].lnum)
574                         return ubifs_get_pnode(c, nnode, iip);
575         }
576
577         /* Go up while can't go right */
578         do {
579                 iip = nnode->iip + 1;
580                 nnode = nnode->parent;
581                 if (!nnode)
582                         return NULL;
583                 for (; iip < UBIFS_LPT_FANOUT; iip++) {
584                         if (nnode->nbranch[iip].lnum)
585                                 break;
586                 }
587         } while (iip >= UBIFS_LPT_FANOUT);
588
589         /* Go right */
590         nnode = ubifs_get_nnode(c, nnode, iip);
591         if (IS_ERR(nnode))
592                 return (void *)nnode;
593
594         /* Go down to level 1 */
595         while (nnode->level > 1) {
596                 for (iip = 0; iip < UBIFS_LPT_FANOUT; iip++) {
597                         if (nnode->nbranch[iip].lnum)
598                                 break;
599                 }
600                 if (iip >= UBIFS_LPT_FANOUT) {
601                         /*
602                          * Should not happen, but we need to keep going
603                          * if it does.
604                          */
605                         iip = 0;
606                 }
607                 nnode = ubifs_get_nnode(c, nnode, iip);
608                 if (IS_ERR(nnode))
609                         return (void *)nnode;
610         }
611
612         for (iip = 0; iip < UBIFS_LPT_FANOUT; iip++)
613                 if (nnode->nbranch[iip].lnum)
614                         break;
615         if (iip >= UBIFS_LPT_FANOUT)
616                 /* Should not happen, but we need to keep going if it does */
617                 iip = 0;
618         return ubifs_get_pnode(c, nnode, iip);
619 }
620
621 /**
622  * pnode_lookup - lookup a pnode in the LPT.
623  * @c: UBIFS file-system description object
624  * @i: pnode number (0 to (main_lebs - 1) / UBIFS_LPT_FANOUT))
625  *
626  * This function returns a pointer to the pnode on success or a negative
627  * error code on failure.
628  */
629 static struct ubifs_pnode *pnode_lookup(struct ubifs_info *c, int i)
630 {
631         int err, h, iip, shft;
632         struct ubifs_nnode *nnode;
633
634         if (!c->nroot) {
635                 err = ubifs_read_nnode(c, NULL, 0);
636                 if (err)
637                         return ERR_PTR(err);
638         }
639         i <<= UBIFS_LPT_FANOUT_SHIFT;
640         nnode = c->nroot;
641         shft = c->lpt_hght * UBIFS_LPT_FANOUT_SHIFT;
642         for (h = 1; h < c->lpt_hght; h++) {
643                 iip = ((i >> shft) & (UBIFS_LPT_FANOUT - 1));
644                 shft -= UBIFS_LPT_FANOUT_SHIFT;
645                 nnode = ubifs_get_nnode(c, nnode, iip);
646                 if (IS_ERR(nnode))
647                         return ERR_CAST(nnode);
648         }
649         iip = ((i >> shft) & (UBIFS_LPT_FANOUT - 1));
650         return ubifs_get_pnode(c, nnode, iip);
651 }
652
653 /**
654  * add_pnode_dirt - add dirty space to LPT LEB properties.
655  * @c: UBIFS file-system description object
656  * @pnode: pnode for which to add dirt
657  */
658 static void add_pnode_dirt(struct ubifs_info *c, struct ubifs_pnode *pnode)
659 {
660         ubifs_add_lpt_dirt(c, pnode->parent->nbranch[pnode->iip].lnum,
661                            c->pnode_sz);
662 }
663
664 /**
665  * do_make_pnode_dirty - mark a pnode dirty.
666  * @c: UBIFS file-system description object
667  * @pnode: pnode to mark dirty
668  */
669 static void do_make_pnode_dirty(struct ubifs_info *c, struct ubifs_pnode *pnode)
670 {
671         /* Assumes cnext list is empty i.e. not called during commit */
672         if (!test_and_set_bit(DIRTY_CNODE, &pnode->flags)) {
673                 struct ubifs_nnode *nnode;
674
675                 c->dirty_pn_cnt += 1;
676                 add_pnode_dirt(c, pnode);
677                 /* Mark parent and ancestors dirty too */
678                 nnode = pnode->parent;
679                 while (nnode) {
680                         if (!test_and_set_bit(DIRTY_CNODE, &nnode->flags)) {
681                                 c->dirty_nn_cnt += 1;
682                                 ubifs_add_nnode_dirt(c, nnode);
683                                 nnode = nnode->parent;
684                         } else
685                                 break;
686                 }
687         }
688 }
689
690 /**
691  * make_tree_dirty - mark the entire LEB properties tree dirty.
692  * @c: UBIFS file-system description object
693  *
694  * This function is used by the "small" LPT model to cause the entire LEB
695  * properties tree to be written.  The "small" LPT model does not use LPT
696  * garbage collection because it is more efficient to write the entire tree
697  * (because it is small).
698  *
699  * This function returns %0 on success and a negative error code on failure.
700  */
701 static int make_tree_dirty(struct ubifs_info *c)
702 {
703         struct ubifs_pnode *pnode;
704
705         pnode = pnode_lookup(c, 0);
706         if (IS_ERR(pnode))
707                 return PTR_ERR(pnode);
708
709         while (pnode) {
710                 do_make_pnode_dirty(c, pnode);
711                 pnode = next_pnode_to_dirty(c, pnode);
712                 if (IS_ERR(pnode))
713                         return PTR_ERR(pnode);
714         }
715         return 0;
716 }
717
718 /**
719  * need_write_all - determine if the LPT area is running out of free space.
720  * @c: UBIFS file-system description object
721  *
722  * This function returns %1 if the LPT area is running out of free space and %0
723  * if it is not.
724  */
725 static int need_write_all(struct ubifs_info *c)
726 {
727         long long free = 0;
728         int i;
729
730         for (i = 0; i < c->lpt_lebs; i++) {
731                 if (i + c->lpt_first == c->nhead_lnum)
732                         free += c->leb_size - c->nhead_offs;
733                 else if (c->ltab[i].free == c->leb_size)
734                         free += c->leb_size;
735                 else if (c->ltab[i].free + c->ltab[i].dirty == c->leb_size)
736                         free += c->leb_size;
737         }
738         /* Less than twice the size left */
739         if (free <= c->lpt_sz * 2)
740                 return 1;
741         return 0;
742 }
743
744 /**
745  * lpt_tgc_start - start trivial garbage collection of LPT LEBs.
746  * @c: UBIFS file-system description object
747  *
748  * LPT trivial garbage collection is where a LPT LEB contains only dirty and
749  * free space and so may be reused as soon as the next commit is completed.
750  * This function is called during start commit to mark LPT LEBs for trivial GC.
751  */
752 static void lpt_tgc_start(struct ubifs_info *c)
753 {
754         int i;
755
756         for (i = 0; i < c->lpt_lebs; i++) {
757                 if (i + c->lpt_first == c->nhead_lnum)
758                         continue;
759                 if (c->ltab[i].dirty > 0 &&
760                     c->ltab[i].free + c->ltab[i].dirty == c->leb_size) {
761                         c->ltab[i].tgc = 1;
762                         c->ltab[i].free = c->leb_size;
763                         c->ltab[i].dirty = 0;
764                         dbg_lp("LEB %d", i + c->lpt_first);
765                 }
766         }
767 }
768
769 /**
770  * lpt_tgc_end - end trivial garbage collection of LPT LEBs.
771  * @c: UBIFS file-system description object
772  *
773  * LPT trivial garbage collection is where a LPT LEB contains only dirty and
774  * free space and so may be reused as soon as the next commit is completed.
775  * This function is called after the commit is completed (master node has been
776  * written) and un-maps LPT LEBs that were marked for trivial GC.
777  */
778 static int lpt_tgc_end(struct ubifs_info *c)
779 {
780         int i, err;
781
782         for (i = 0; i < c->lpt_lebs; i++)
783                 if (c->ltab[i].tgc) {
784                         err = ubifs_leb_unmap(c, i + c->lpt_first);
785                         if (err)
786                                 return err;
787                         c->ltab[i].tgc = 0;
788                         dbg_lp("LEB %d", i + c->lpt_first);
789                 }
790         return 0;
791 }
792
793 /**
794  * populate_lsave - fill the lsave array with important LEB numbers.
795  * @c: the UBIFS file-system description object
796  *
797  * This function is only called for the "big" model. It records a small number
798  * of LEB numbers of important LEBs.  Important LEBs are ones that are (from
799  * most important to least important): empty, freeable, freeable index, dirty
800  * index, dirty or free. Upon mount, we read this list of LEB numbers and bring
801  * their pnodes into memory.  That will stop us from having to scan the LPT
802  * straight away. For the "small" model we assume that scanning the LPT is no
803  * big deal.
804  */
805 static void populate_lsave(struct ubifs_info *c)
806 {
807         struct ubifs_lprops *lprops;
808         struct ubifs_lpt_heap *heap;
809         int i, cnt = 0;
810
811         ubifs_assert(c, c->big_lpt);
812         if (!(c->lpt_drty_flgs & LSAVE_DIRTY)) {
813                 c->lpt_drty_flgs |= LSAVE_DIRTY;
814                 ubifs_add_lpt_dirt(c, c->lsave_lnum, c->lsave_sz);
815         }
816
817         if (dbg_populate_lsave(c))
818                 return;
819
820         list_for_each_entry(lprops, &c->empty_list, list) {
821                 c->lsave[cnt++] = lprops->lnum;
822                 if (cnt >= c->lsave_cnt)
823                         return;
824         }
825         list_for_each_entry(lprops, &c->freeable_list, list) {
826                 c->lsave[cnt++] = lprops->lnum;
827                 if (cnt >= c->lsave_cnt)
828                         return;
829         }
830         list_for_each_entry(lprops, &c->frdi_idx_list, list) {
831                 c->lsave[cnt++] = lprops->lnum;
832                 if (cnt >= c->lsave_cnt)
833                         return;
834         }
835         heap = &c->lpt_heap[LPROPS_DIRTY_IDX - 1];
836         for (i = 0; i < heap->cnt; i++) {
837                 c->lsave[cnt++] = heap->arr[i]->lnum;
838                 if (cnt >= c->lsave_cnt)
839                         return;
840         }
841         heap = &c->lpt_heap[LPROPS_DIRTY - 1];
842         for (i = 0; i < heap->cnt; i++) {
843                 c->lsave[cnt++] = heap->arr[i]->lnum;
844                 if (cnt >= c->lsave_cnt)
845                         return;
846         }
847         heap = &c->lpt_heap[LPROPS_FREE - 1];
848         for (i = 0; i < heap->cnt; i++) {
849                 c->lsave[cnt++] = heap->arr[i]->lnum;
850                 if (cnt >= c->lsave_cnt)
851                         return;
852         }
853         /* Fill it up completely */
854         while (cnt < c->lsave_cnt)
855                 c->lsave[cnt++] = c->main_first;
856 }
857
858 /**
859  * nnode_lookup - lookup a nnode in the LPT.
860  * @c: UBIFS file-system description object
861  * @i: nnode number
862  *
863  * This function returns a pointer to the nnode on success or a negative
864  * error code on failure.
865  */
866 static struct ubifs_nnode *nnode_lookup(struct ubifs_info *c, int i)
867 {
868         int err, iip;
869         struct ubifs_nnode *nnode;
870
871         if (!c->nroot) {
872                 err = ubifs_read_nnode(c, NULL, 0);
873                 if (err)
874                         return ERR_PTR(err);
875         }
876         nnode = c->nroot;
877         while (1) {
878                 iip = i & (UBIFS_LPT_FANOUT - 1);
879                 i >>= UBIFS_LPT_FANOUT_SHIFT;
880                 if (!i)
881                         break;
882                 nnode = ubifs_get_nnode(c, nnode, iip);
883                 if (IS_ERR(nnode))
884                         return nnode;
885         }
886         return nnode;
887 }
888
889 /**
890  * make_nnode_dirty - find a nnode and, if found, make it dirty.
891  * @c: UBIFS file-system description object
892  * @node_num: nnode number of nnode to make dirty
893  * @lnum: LEB number where nnode was written
894  * @offs: offset where nnode was written
895  *
896  * This function is used by LPT garbage collection.  LPT garbage collection is
897  * used only for the "big" LPT model (c->big_lpt == 1).  Garbage collection
898  * simply involves marking all the nodes in the LEB being garbage-collected as
899  * dirty.  The dirty nodes are written next commit, after which the LEB is free
900  * to be reused.
901  *
902  * This function returns %0 on success and a negative error code on failure.
903  */
904 static int make_nnode_dirty(struct ubifs_info *c, int node_num, int lnum,
905                             int offs)
906 {
907         struct ubifs_nnode *nnode;
908
909         nnode = nnode_lookup(c, node_num);
910         if (IS_ERR(nnode))
911                 return PTR_ERR(nnode);
912         if (nnode->parent) {
913                 struct ubifs_nbranch *branch;
914
915                 branch = &nnode->parent->nbranch[nnode->iip];
916                 if (branch->lnum != lnum || branch->offs != offs)
917                         return 0; /* nnode is obsolete */
918         } else if (c->lpt_lnum != lnum || c->lpt_offs != offs)
919                         return 0; /* nnode is obsolete */
920         /* Assumes cnext list is empty i.e. not called during commit */
921         if (!test_and_set_bit(DIRTY_CNODE, &nnode->flags)) {
922                 c->dirty_nn_cnt += 1;
923                 ubifs_add_nnode_dirt(c, nnode);
924                 /* Mark parent and ancestors dirty too */
925                 nnode = nnode->parent;
926                 while (nnode) {
927                         if (!test_and_set_bit(DIRTY_CNODE, &nnode->flags)) {
928                                 c->dirty_nn_cnt += 1;
929                                 ubifs_add_nnode_dirt(c, nnode);
930                                 nnode = nnode->parent;
931                         } else
932                                 break;
933                 }
934         }
935         return 0;
936 }
937
938 /**
939  * make_pnode_dirty - find a pnode and, if found, make it dirty.
940  * @c: UBIFS file-system description object
941  * @node_num: pnode number of pnode to make dirty
942  * @lnum: LEB number where pnode was written
943  * @offs: offset where pnode was written
944  *
945  * This function is used by LPT garbage collection.  LPT garbage collection is
946  * used only for the "big" LPT model (c->big_lpt == 1).  Garbage collection
947  * simply involves marking all the nodes in the LEB being garbage-collected as
948  * dirty.  The dirty nodes are written next commit, after which the LEB is free
949  * to be reused.
950  *
951  * This function returns %0 on success and a negative error code on failure.
952  */
953 static int make_pnode_dirty(struct ubifs_info *c, int node_num, int lnum,
954                             int offs)
955 {
956         struct ubifs_pnode *pnode;
957         struct ubifs_nbranch *branch;
958
959         pnode = pnode_lookup(c, node_num);
960         if (IS_ERR(pnode))
961                 return PTR_ERR(pnode);
962         branch = &pnode->parent->nbranch[pnode->iip];
963         if (branch->lnum != lnum || branch->offs != offs)
964                 return 0;
965         do_make_pnode_dirty(c, pnode);
966         return 0;
967 }
968
969 /**
970  * make_ltab_dirty - make ltab node dirty.
971  * @c: UBIFS file-system description object
972  * @lnum: LEB number where ltab was written
973  * @offs: offset where ltab was written
974  *
975  * This function is used by LPT garbage collection.  LPT garbage collection is
976  * used only for the "big" LPT model (c->big_lpt == 1).  Garbage collection
977  * simply involves marking all the nodes in the LEB being garbage-collected as
978  * dirty.  The dirty nodes are written next commit, after which the LEB is free
979  * to be reused.
980  *
981  * This function returns %0 on success and a negative error code on failure.
982  */
983 static int make_ltab_dirty(struct ubifs_info *c, int lnum, int offs)
984 {
985         if (lnum != c->ltab_lnum || offs != c->ltab_offs)
986                 return 0; /* This ltab node is obsolete */
987         if (!(c->lpt_drty_flgs & LTAB_DIRTY)) {
988                 c->lpt_drty_flgs |= LTAB_DIRTY;
989                 ubifs_add_lpt_dirt(c, c->ltab_lnum, c->ltab_sz);
990         }
991         return 0;
992 }
993
994 /**
995  * make_lsave_dirty - make lsave node dirty.
996  * @c: UBIFS file-system description object
997  * @lnum: LEB number where lsave was written
998  * @offs: offset where lsave was written
999  *
1000  * This function is used by LPT garbage collection.  LPT garbage collection is
1001  * used only for the "big" LPT model (c->big_lpt == 1).  Garbage collection
1002  * simply involves marking all the nodes in the LEB being garbage-collected as
1003  * dirty.  The dirty nodes are written next commit, after which the LEB is free
1004  * to be reused.
1005  *
1006  * This function returns %0 on success and a negative error code on failure.
1007  */
1008 static int make_lsave_dirty(struct ubifs_info *c, int lnum, int offs)
1009 {
1010         if (lnum != c->lsave_lnum || offs != c->lsave_offs)
1011                 return 0; /* This lsave node is obsolete */
1012         if (!(c->lpt_drty_flgs & LSAVE_DIRTY)) {
1013                 c->lpt_drty_flgs |= LSAVE_DIRTY;
1014                 ubifs_add_lpt_dirt(c, c->lsave_lnum, c->lsave_sz);
1015         }
1016         return 0;
1017 }
1018
1019 /**
1020  * make_node_dirty - make node dirty.
1021  * @c: UBIFS file-system description object
1022  * @node_type: LPT node type
1023  * @node_num: node number
1024  * @lnum: LEB number where node was written
1025  * @offs: offset where node was written
1026  *
1027  * This function is used by LPT garbage collection.  LPT garbage collection is
1028  * used only for the "big" LPT model (c->big_lpt == 1).  Garbage collection
1029  * simply involves marking all the nodes in the LEB being garbage-collected as
1030  * dirty.  The dirty nodes are written next commit, after which the LEB is free
1031  * to be reused.
1032  *
1033  * This function returns %0 on success and a negative error code on failure.
1034  */
1035 static int make_node_dirty(struct ubifs_info *c, int node_type, int node_num,
1036                            int lnum, int offs)
1037 {
1038         switch (node_type) {
1039         case UBIFS_LPT_NNODE:
1040                 return make_nnode_dirty(c, node_num, lnum, offs);
1041         case UBIFS_LPT_PNODE:
1042                 return make_pnode_dirty(c, node_num, lnum, offs);
1043         case UBIFS_LPT_LTAB:
1044                 return make_ltab_dirty(c, lnum, offs);
1045         case UBIFS_LPT_LSAVE:
1046                 return make_lsave_dirty(c, lnum, offs);
1047         }
1048         return -EINVAL;
1049 }
1050
1051 /**
1052  * get_lpt_node_len - return the length of a node based on its type.
1053  * @c: UBIFS file-system description object
1054  * @node_type: LPT node type
1055  */
1056 static int get_lpt_node_len(const struct ubifs_info *c, int node_type)
1057 {
1058         switch (node_type) {
1059         case UBIFS_LPT_NNODE:
1060                 return c->nnode_sz;
1061         case UBIFS_LPT_PNODE:
1062                 return c->pnode_sz;
1063         case UBIFS_LPT_LTAB:
1064                 return c->ltab_sz;
1065         case UBIFS_LPT_LSAVE:
1066                 return c->lsave_sz;
1067         }
1068         return 0;
1069 }
1070
1071 /**
1072  * get_pad_len - return the length of padding in a buffer.
1073  * @c: UBIFS file-system description object
1074  * @buf: buffer
1075  * @len: length of buffer
1076  */
1077 static int get_pad_len(const struct ubifs_info *c, uint8_t *buf, int len)
1078 {
1079         int offs, pad_len;
1080
1081         if (c->min_io_size == 1)
1082                 return 0;
1083         offs = c->leb_size - len;
1084         pad_len = ALIGN(offs, c->min_io_size) - offs;
1085         return pad_len;
1086 }
1087
1088 /**
1089  * get_lpt_node_type - return type (and node number) of a node in a buffer.
1090  * @c: UBIFS file-system description object
1091  * @buf: buffer
1092  * @node_num: node number is returned here
1093  */
1094 static int get_lpt_node_type(const struct ubifs_info *c, uint8_t *buf,
1095                              int *node_num)
1096 {
1097         uint8_t *addr = buf + UBIFS_LPT_CRC_BYTES;
1098         int pos = 0, node_type;
1099
1100         node_type = ubifs_unpack_bits(c, &addr, &pos, UBIFS_LPT_TYPE_BITS);
1101         *node_num = ubifs_unpack_bits(c, &addr, &pos, c->pcnt_bits);
1102         return node_type;
1103 }
1104
1105 /**
1106  * is_a_node - determine if a buffer contains a node.
1107  * @c: UBIFS file-system description object
1108  * @buf: buffer
1109  * @len: length of buffer
1110  *
1111  * This function returns %1 if the buffer contains a node or %0 if it does not.
1112  */
1113 static int is_a_node(const struct ubifs_info *c, uint8_t *buf, int len)
1114 {
1115         uint8_t *addr = buf + UBIFS_LPT_CRC_BYTES;
1116         int pos = 0, node_type, node_len;
1117         uint16_t crc, calc_crc;
1118
1119         if (len < UBIFS_LPT_CRC_BYTES + (UBIFS_LPT_TYPE_BITS + 7) / 8)
1120                 return 0;
1121         node_type = ubifs_unpack_bits(c, &addr, &pos, UBIFS_LPT_TYPE_BITS);
1122         if (node_type == UBIFS_LPT_NOT_A_NODE)
1123                 return 0;
1124         node_len = get_lpt_node_len(c, node_type);
1125         if (!node_len || node_len > len)
1126                 return 0;
1127         pos = 0;
1128         addr = buf;
1129         crc = ubifs_unpack_bits(c, &addr, &pos, UBIFS_LPT_CRC_BITS);
1130         calc_crc = crc16(-1, buf + UBIFS_LPT_CRC_BYTES,
1131                          node_len - UBIFS_LPT_CRC_BYTES);
1132         if (crc != calc_crc)
1133                 return 0;
1134         return 1;
1135 }
1136
1137 /**
1138  * lpt_gc_lnum - garbage collect a LPT LEB.
1139  * @c: UBIFS file-system description object
1140  * @lnum: LEB number to garbage collect
1141  *
1142  * LPT garbage collection is used only for the "big" LPT model
1143  * (c->big_lpt == 1).  Garbage collection simply involves marking all the nodes
1144  * in the LEB being garbage-collected as dirty.  The dirty nodes are written
1145  * next commit, after which the LEB is free to be reused.
1146  *
1147  * This function returns %0 on success and a negative error code on failure.
1148  */
1149 static int lpt_gc_lnum(struct ubifs_info *c, int lnum)
1150 {
1151         int err, len = c->leb_size, node_type, node_num, node_len, offs;
1152         void *buf = c->lpt_buf;
1153
1154         dbg_lp("LEB %d", lnum);
1155
1156         err = ubifs_leb_read(c, lnum, buf, 0, c->leb_size, 1);
1157         if (err)
1158                 return err;
1159
1160         while (1) {
1161                 if (!is_a_node(c, buf, len)) {
1162                         int pad_len;
1163
1164                         pad_len = get_pad_len(c, buf, len);
1165                         if (pad_len) {
1166                                 buf += pad_len;
1167                                 len -= pad_len;
1168                                 continue;
1169                         }
1170                         return 0;
1171                 }
1172                 node_type = get_lpt_node_type(c, buf, &node_num);
1173                 node_len = get_lpt_node_len(c, node_type);
1174                 offs = c->leb_size - len;
1175                 ubifs_assert(c, node_len != 0);
1176                 mutex_lock(&c->lp_mutex);
1177                 err = make_node_dirty(c, node_type, node_num, lnum, offs);
1178                 mutex_unlock(&c->lp_mutex);
1179                 if (err)
1180                         return err;
1181                 buf += node_len;
1182                 len -= node_len;
1183         }
1184         return 0;
1185 }
1186
1187 /**
1188  * lpt_gc - LPT garbage collection.
1189  * @c: UBIFS file-system description object
1190  *
1191  * Select a LPT LEB for LPT garbage collection and call 'lpt_gc_lnum()'.
1192  * Returns %0 on success and a negative error code on failure.
1193  */
1194 static int lpt_gc(struct ubifs_info *c)
1195 {
1196         int i, lnum = -1, dirty = 0;
1197
1198         mutex_lock(&c->lp_mutex);
1199         for (i = 0; i < c->lpt_lebs; i++) {
1200                 ubifs_assert(c, !c->ltab[i].tgc);
1201                 if (i + c->lpt_first == c->nhead_lnum ||
1202                     c->ltab[i].free + c->ltab[i].dirty == c->leb_size)
1203                         continue;
1204                 if (c->ltab[i].dirty > dirty) {
1205                         dirty = c->ltab[i].dirty;
1206                         lnum = i + c->lpt_first;
1207                 }
1208         }
1209         mutex_unlock(&c->lp_mutex);
1210         if (lnum == -1)
1211                 return -ENOSPC;
1212         return lpt_gc_lnum(c, lnum);
1213 }
1214
1215 /**
1216  * ubifs_lpt_start_commit - UBIFS commit starts.
1217  * @c: the UBIFS file-system description object
1218  *
1219  * This function has to be called when UBIFS starts the commit operation.
1220  * This function "freezes" all currently dirty LEB properties and does not
1221  * change them anymore. Further changes are saved and tracked separately
1222  * because they are not part of this commit. This function returns zero in case
1223  * of success and a negative error code in case of failure.
1224  */
1225 int ubifs_lpt_start_commit(struct ubifs_info *c)
1226 {
1227         int err, cnt;
1228
1229         dbg_lp("");
1230
1231         mutex_lock(&c->lp_mutex);
1232         err = dbg_chk_lpt_free_spc(c);
1233         if (err)
1234                 goto out;
1235         err = dbg_check_ltab(c);
1236         if (err)
1237                 goto out;
1238
1239         if (c->check_lpt_free) {
1240                 /*
1241                  * We ensure there is enough free space in
1242                  * ubifs_lpt_post_commit() by marking nodes dirty. That
1243                  * information is lost when we unmount, so we also need
1244                  * to check free space once after mounting also.
1245                  */
1246                 c->check_lpt_free = 0;
1247                 while (need_write_all(c)) {
1248                         mutex_unlock(&c->lp_mutex);
1249                         err = lpt_gc(c);
1250                         if (err)
1251                                 return err;
1252                         mutex_lock(&c->lp_mutex);
1253                 }
1254         }
1255
1256         lpt_tgc_start(c);
1257
1258         if (!c->dirty_pn_cnt) {
1259                 dbg_cmt("no cnodes to commit");
1260                 err = 0;
1261                 goto out;
1262         }
1263
1264         if (!c->big_lpt && need_write_all(c)) {
1265                 /* If needed, write everything */
1266                 err = make_tree_dirty(c);
1267                 if (err)
1268                         goto out;
1269                 lpt_tgc_start(c);
1270         }
1271
1272         if (c->big_lpt)
1273                 populate_lsave(c);
1274
1275         cnt = get_cnodes_to_commit(c);
1276         ubifs_assert(c, cnt != 0);
1277
1278         err = layout_cnodes(c);
1279         if (err)
1280                 goto out;
1281
1282         /* Copy the LPT's own lprops for end commit to write */
1283         memcpy(c->ltab_cmt, c->ltab,
1284                sizeof(struct ubifs_lpt_lprops) * c->lpt_lebs);
1285         c->lpt_drty_flgs &= ~(LTAB_DIRTY | LSAVE_DIRTY);
1286
1287 out:
1288         mutex_unlock(&c->lp_mutex);
1289         return err;
1290 }
1291
1292 /**
1293  * free_obsolete_cnodes - free obsolete cnodes for commit end.
1294  * @c: UBIFS file-system description object
1295  */
1296 static void free_obsolete_cnodes(struct ubifs_info *c)
1297 {
1298         struct ubifs_cnode *cnode, *cnext;
1299
1300         cnext = c->lpt_cnext;
1301         if (!cnext)
1302                 return;
1303         do {
1304                 cnode = cnext;
1305                 cnext = cnode->cnext;
1306                 if (test_bit(OBSOLETE_CNODE, &cnode->flags))
1307                         kfree(cnode);
1308                 else
1309                         cnode->cnext = NULL;
1310         } while (cnext != c->lpt_cnext);
1311         c->lpt_cnext = NULL;
1312 }
1313
1314 /**
1315  * ubifs_lpt_end_commit - finish the commit operation.
1316  * @c: the UBIFS file-system description object
1317  *
1318  * This function has to be called when the commit operation finishes. It
1319  * flushes the changes which were "frozen" by 'ubifs_lprops_start_commit()' to
1320  * the media. Returns zero in case of success and a negative error code in case
1321  * of failure.
1322  */
1323 int ubifs_lpt_end_commit(struct ubifs_info *c)
1324 {
1325         int err;
1326
1327         dbg_lp("");
1328
1329         if (!c->lpt_cnext)
1330                 return 0;
1331
1332         err = write_cnodes(c);
1333         if (err)
1334                 return err;
1335
1336         mutex_lock(&c->lp_mutex);
1337         free_obsolete_cnodes(c);
1338         mutex_unlock(&c->lp_mutex);
1339
1340         return 0;
1341 }
1342
1343 /**
1344  * ubifs_lpt_post_commit - post commit LPT trivial GC and LPT GC.
1345  * @c: UBIFS file-system description object
1346  *
1347  * LPT trivial GC is completed after a commit. Also LPT GC is done after a
1348  * commit for the "big" LPT model.
1349  */
1350 int ubifs_lpt_post_commit(struct ubifs_info *c)
1351 {
1352         int err;
1353
1354         mutex_lock(&c->lp_mutex);
1355         err = lpt_tgc_end(c);
1356         if (err)
1357                 goto out;
1358         if (c->big_lpt)
1359                 while (need_write_all(c)) {
1360                         mutex_unlock(&c->lp_mutex);
1361                         err = lpt_gc(c);
1362                         if (err)
1363                                 return err;
1364                         mutex_lock(&c->lp_mutex);
1365                 }
1366 out:
1367         mutex_unlock(&c->lp_mutex);
1368         return err;
1369 }
1370
1371 /**
1372  * first_nnode - find the first nnode in memory.
1373  * @c: UBIFS file-system description object
1374  * @hght: height of tree where nnode found is returned here
1375  *
1376  * This function returns a pointer to the nnode found or %NULL if no nnode is
1377  * found. This function is a helper to 'ubifs_lpt_free()'.
1378  */
1379 static struct ubifs_nnode *first_nnode(struct ubifs_info *c, int *hght)
1380 {
1381         struct ubifs_nnode *nnode;
1382         int h, i, found;
1383
1384         nnode = c->nroot;
1385         *hght = 0;
1386         if (!nnode)
1387                 return NULL;
1388         for (h = 1; h < c->lpt_hght; h++) {
1389                 found = 0;
1390                 for (i = 0; i < UBIFS_LPT_FANOUT; i++) {
1391                         if (nnode->nbranch[i].nnode) {
1392                                 found = 1;
1393                                 nnode = nnode->nbranch[i].nnode;
1394                                 *hght = h;
1395                                 break;
1396                         }
1397                 }
1398                 if (!found)
1399                         break;
1400         }
1401         return nnode;
1402 }
1403
1404 /**
1405  * next_nnode - find the next nnode in memory.
1406  * @c: UBIFS file-system description object
1407  * @nnode: nnode from which to start.
1408  * @hght: height of tree where nnode is, is passed and returned here
1409  *
1410  * This function returns a pointer to the nnode found or %NULL if no nnode is
1411  * found. This function is a helper to 'ubifs_lpt_free()'.
1412  */
1413 static struct ubifs_nnode *next_nnode(struct ubifs_info *c,
1414                                       struct ubifs_nnode *nnode, int *hght)
1415 {
1416         struct ubifs_nnode *parent;
1417         int iip, h, i, found;
1418
1419         parent = nnode->parent;
1420         if (!parent)
1421                 return NULL;
1422         if (nnode->iip == UBIFS_LPT_FANOUT - 1) {
1423                 *hght -= 1;
1424                 return parent;
1425         }
1426         for (iip = nnode->iip + 1; iip < UBIFS_LPT_FANOUT; iip++) {
1427                 nnode = parent->nbranch[iip].nnode;
1428                 if (nnode)
1429                         break;
1430         }
1431         if (!nnode) {
1432                 *hght -= 1;
1433                 return parent;
1434         }
1435         for (h = *hght + 1; h < c->lpt_hght; h++) {
1436                 found = 0;
1437                 for (i = 0; i < UBIFS_LPT_FANOUT; i++) {
1438                         if (nnode->nbranch[i].nnode) {
1439                                 found = 1;
1440                                 nnode = nnode->nbranch[i].nnode;
1441                                 *hght = h;
1442                                 break;
1443                         }
1444                 }
1445                 if (!found)
1446                         break;
1447         }
1448         return nnode;
1449 }
1450
1451 /**
1452  * ubifs_lpt_free - free resources owned by the LPT.
1453  * @c: UBIFS file-system description object
1454  * @wr_only: free only resources used for writing
1455  */
1456 void ubifs_lpt_free(struct ubifs_info *c, int wr_only)
1457 {
1458         struct ubifs_nnode *nnode;
1459         int i, hght;
1460
1461         /* Free write-only things first */
1462
1463         free_obsolete_cnodes(c); /* Leftover from a failed commit */
1464
1465         vfree(c->ltab_cmt);
1466         c->ltab_cmt = NULL;
1467         vfree(c->lpt_buf);
1468         c->lpt_buf = NULL;
1469         kfree(c->lsave);
1470         c->lsave = NULL;
1471
1472         if (wr_only)
1473                 return;
1474
1475         /* Now free the rest */
1476
1477         nnode = first_nnode(c, &hght);
1478         while (nnode) {
1479                 for (i = 0; i < UBIFS_LPT_FANOUT; i++)
1480                         kfree(nnode->nbranch[i].nnode);
1481                 nnode = next_nnode(c, nnode, &hght);
1482         }
1483         for (i = 0; i < LPROPS_HEAP_CNT; i++)
1484                 kfree(c->lpt_heap[i].arr);
1485         kfree(c->dirty_idx.arr);
1486         kfree(c->nroot);
1487         vfree(c->ltab);
1488         kfree(c->lpt_nod_buf);
1489 }
1490
1491 /*
1492  * Everything below is related to debugging.
1493  */
1494
1495 /**
1496  * dbg_is_all_ff - determine if a buffer contains only 0xFF bytes.
1497  * @buf: buffer
1498  * @len: buffer length
1499  */
1500 static int dbg_is_all_ff(uint8_t *buf, int len)
1501 {
1502         int i;
1503
1504         for (i = 0; i < len; i++)
1505                 if (buf[i] != 0xff)
1506                         return 0;
1507         return 1;
1508 }
1509
1510 /**
1511  * dbg_is_nnode_dirty - determine if a nnode is dirty.
1512  * @c: the UBIFS file-system description object
1513  * @lnum: LEB number where nnode was written
1514  * @offs: offset where nnode was written
1515  */
1516 static int dbg_is_nnode_dirty(struct ubifs_info *c, int lnum, int offs)
1517 {
1518         struct ubifs_nnode *nnode;
1519         int hght;
1520
1521         /* Entire tree is in memory so first_nnode / next_nnode are OK */
1522         nnode = first_nnode(c, &hght);
1523         for (; nnode; nnode = next_nnode(c, nnode, &hght)) {
1524                 struct ubifs_nbranch *branch;
1525
1526                 cond_resched();
1527                 if (nnode->parent) {
1528                         branch = &nnode->parent->nbranch[nnode->iip];
1529                         if (branch->lnum != lnum || branch->offs != offs)
1530                                 continue;
1531                         if (test_bit(DIRTY_CNODE, &nnode->flags))
1532                                 return 1;
1533                         return 0;
1534                 } else {
1535                         if (c->lpt_lnum != lnum || c->lpt_offs != offs)
1536                                 continue;
1537                         if (test_bit(DIRTY_CNODE, &nnode->flags))
1538                                 return 1;
1539                         return 0;
1540                 }
1541         }
1542         return 1;
1543 }
1544
1545 /**
1546  * dbg_is_pnode_dirty - determine if a pnode is dirty.
1547  * @c: the UBIFS file-system description object
1548  * @lnum: LEB number where pnode was written
1549  * @offs: offset where pnode was written
1550  */
1551 static int dbg_is_pnode_dirty(struct ubifs_info *c, int lnum, int offs)
1552 {
1553         int i, cnt;
1554
1555         cnt = DIV_ROUND_UP(c->main_lebs, UBIFS_LPT_FANOUT);
1556         for (i = 0; i < cnt; i++) {
1557                 struct ubifs_pnode *pnode;
1558                 struct ubifs_nbranch *branch;
1559
1560                 cond_resched();
1561                 pnode = pnode_lookup(c, i);
1562                 if (IS_ERR(pnode))
1563                         return PTR_ERR(pnode);
1564                 branch = &pnode->parent->nbranch[pnode->iip];
1565                 if (branch->lnum != lnum || branch->offs != offs)
1566                         continue;
1567                 if (test_bit(DIRTY_CNODE, &pnode->flags))
1568                         return 1;
1569                 return 0;
1570         }
1571         return 1;
1572 }
1573
1574 /**
1575  * dbg_is_ltab_dirty - determine if a ltab node is dirty.
1576  * @c: the UBIFS file-system description object
1577  * @lnum: LEB number where ltab node was written
1578  * @offs: offset where ltab node was written
1579  */
1580 static int dbg_is_ltab_dirty(struct ubifs_info *c, int lnum, int offs)
1581 {
1582         if (lnum != c->ltab_lnum || offs != c->ltab_offs)
1583                 return 1;
1584         return (c->lpt_drty_flgs & LTAB_DIRTY) != 0;
1585 }
1586
1587 /**
1588  * dbg_is_lsave_dirty - determine if a lsave node is dirty.
1589  * @c: the UBIFS file-system description object
1590  * @lnum: LEB number where lsave node was written
1591  * @offs: offset where lsave node was written
1592  */
1593 static int dbg_is_lsave_dirty(struct ubifs_info *c, int lnum, int offs)
1594 {
1595         if (lnum != c->lsave_lnum || offs != c->lsave_offs)
1596                 return 1;
1597         return (c->lpt_drty_flgs & LSAVE_DIRTY) != 0;
1598 }
1599
1600 /**
1601  * dbg_is_node_dirty - determine if a node is dirty.
1602  * @c: the UBIFS file-system description object
1603  * @node_type: node type
1604  * @lnum: LEB number where node was written
1605  * @offs: offset where node was written
1606  */
1607 static int dbg_is_node_dirty(struct ubifs_info *c, int node_type, int lnum,
1608                              int offs)
1609 {
1610         switch (node_type) {
1611         case UBIFS_LPT_NNODE:
1612                 return dbg_is_nnode_dirty(c, lnum, offs);
1613         case UBIFS_LPT_PNODE:
1614                 return dbg_is_pnode_dirty(c, lnum, offs);
1615         case UBIFS_LPT_LTAB:
1616                 return dbg_is_ltab_dirty(c, lnum, offs);
1617         case UBIFS_LPT_LSAVE:
1618                 return dbg_is_lsave_dirty(c, lnum, offs);
1619         }
1620         return 1;
1621 }
1622
1623 /**
1624  * dbg_check_ltab_lnum - check the ltab for a LPT LEB number.
1625  * @c: the UBIFS file-system description object
1626  * @lnum: LEB number where node was written
1627  *
1628  * This function returns %0 on success and a negative error code on failure.
1629  */
1630 static int dbg_check_ltab_lnum(struct ubifs_info *c, int lnum)
1631 {
1632         int err, len = c->leb_size, dirty = 0, node_type, node_num, node_len;
1633         int ret;
1634         void *buf, *p;
1635
1636         if (!dbg_is_chk_lprops(c))
1637                 return 0;
1638
1639         buf = p = __vmalloc(c->leb_size, GFP_NOFS, PAGE_KERNEL);
1640         if (!buf) {
1641                 ubifs_err(c, "cannot allocate memory for ltab checking");
1642                 return 0;
1643         }
1644
1645         dbg_lp("LEB %d", lnum);
1646
1647         err = ubifs_leb_read(c, lnum, buf, 0, c->leb_size, 1);
1648         if (err)
1649                 goto out;
1650
1651         while (1) {
1652                 if (!is_a_node(c, p, len)) {
1653                         int i, pad_len;
1654
1655                         pad_len = get_pad_len(c, p, len);
1656                         if (pad_len) {
1657                                 p += pad_len;
1658                                 len -= pad_len;
1659                                 dirty += pad_len;
1660                                 continue;
1661                         }
1662                         if (!dbg_is_all_ff(p, len)) {
1663                                 ubifs_err(c, "invalid empty space in LEB %d at %d",
1664                                           lnum, c->leb_size - len);
1665                                 err = -EINVAL;
1666                         }
1667                         i = lnum - c->lpt_first;
1668                         if (len != c->ltab[i].free) {
1669                                 ubifs_err(c, "invalid free space in LEB %d (free %d, expected %d)",
1670                                           lnum, len, c->ltab[i].free);
1671                                 err = -EINVAL;
1672                         }
1673                         if (dirty != c->ltab[i].dirty) {
1674                                 ubifs_err(c, "invalid dirty space in LEB %d (dirty %d, expected %d)",
1675                                           lnum, dirty, c->ltab[i].dirty);
1676                                 err = -EINVAL;
1677                         }
1678                         goto out;
1679                 }
1680                 node_type = get_lpt_node_type(c, p, &node_num);
1681                 node_len = get_lpt_node_len(c, node_type);
1682                 ret = dbg_is_node_dirty(c, node_type, lnum, c->leb_size - len);
1683                 if (ret == 1)
1684                         dirty += node_len;
1685                 p += node_len;
1686                 len -= node_len;
1687         }
1688
1689         err = 0;
1690 out:
1691         vfree(buf);
1692         return err;
1693 }
1694
1695 /**
1696  * dbg_check_ltab - check the free and dirty space in the ltab.
1697  * @c: the UBIFS file-system description object
1698  *
1699  * This function returns %0 on success and a negative error code on failure.
1700  */
1701 int dbg_check_ltab(struct ubifs_info *c)
1702 {
1703         int lnum, err, i, cnt;
1704
1705         if (!dbg_is_chk_lprops(c))
1706                 return 0;
1707
1708         /* Bring the entire tree into memory */
1709         cnt = DIV_ROUND_UP(c->main_lebs, UBIFS_LPT_FANOUT);
1710         for (i = 0; i < cnt; i++) {
1711                 struct ubifs_pnode *pnode;
1712
1713                 pnode = pnode_lookup(c, i);
1714                 if (IS_ERR(pnode))
1715                         return PTR_ERR(pnode);
1716                 cond_resched();
1717         }
1718
1719         /* Check nodes */
1720         err = dbg_check_lpt_nodes(c, (struct ubifs_cnode *)c->nroot, 0, 0);
1721         if (err)
1722                 return err;
1723
1724         /* Check each LEB */
1725         for (lnum = c->lpt_first; lnum <= c->lpt_last; lnum++) {
1726                 err = dbg_check_ltab_lnum(c, lnum);
1727                 if (err) {
1728                         ubifs_err(c, "failed at LEB %d", lnum);
1729                         return err;
1730                 }
1731         }
1732
1733         dbg_lp("succeeded");
1734         return 0;
1735 }
1736
1737 /**
1738  * dbg_chk_lpt_free_spc - check LPT free space is enough to write entire LPT.
1739  * @c: the UBIFS file-system description object
1740  *
1741  * This function returns %0 on success and a negative error code on failure.
1742  */
1743 int dbg_chk_lpt_free_spc(struct ubifs_info *c)
1744 {
1745         long long free = 0;
1746         int i;
1747
1748         if (!dbg_is_chk_lprops(c))
1749                 return 0;
1750
1751         for (i = 0; i < c->lpt_lebs; i++) {
1752                 if (c->ltab[i].tgc || c->ltab[i].cmt)
1753                         continue;
1754                 if (i + c->lpt_first == c->nhead_lnum)
1755                         free += c->leb_size - c->nhead_offs;
1756                 else if (c->ltab[i].free == c->leb_size)
1757                         free += c->leb_size;
1758         }
1759         if (free < c->lpt_sz) {
1760                 ubifs_err(c, "LPT space error: free %lld lpt_sz %lld",
1761                           free, c->lpt_sz);
1762                 ubifs_dump_lpt_info(c);
1763                 ubifs_dump_lpt_lebs(c);
1764                 dump_stack();
1765                 return -EINVAL;
1766         }
1767         return 0;
1768 }
1769
1770 /**
1771  * dbg_chk_lpt_sz - check LPT does not write more than LPT size.
1772  * @c: the UBIFS file-system description object
1773  * @action: what to do
1774  * @len: length written
1775  *
1776  * This function returns %0 on success and a negative error code on failure.
1777  * The @action argument may be one of:
1778  *   o %0 - LPT debugging checking starts, initialize debugging variables;
1779  *   o %1 - wrote an LPT node, increase LPT size by @len bytes;
1780  *   o %2 - switched to a different LEB and wasted @len bytes;
1781  *   o %3 - check that we've written the right number of bytes.
1782  *   o %4 - wasted @len bytes;
1783  */
1784 int dbg_chk_lpt_sz(struct ubifs_info *c, int action, int len)
1785 {
1786         struct ubifs_debug_info *d = c->dbg;
1787         long long chk_lpt_sz, lpt_sz;
1788         int err = 0;
1789
1790         if (!dbg_is_chk_lprops(c))
1791                 return 0;
1792
1793         switch (action) {
1794         case 0:
1795                 d->chk_lpt_sz = 0;
1796                 d->chk_lpt_sz2 = 0;
1797                 d->chk_lpt_lebs = 0;
1798                 d->chk_lpt_wastage = 0;
1799                 if (c->dirty_pn_cnt > c->pnode_cnt) {
1800                         ubifs_err(c, "dirty pnodes %d exceed max %d",
1801                                   c->dirty_pn_cnt, c->pnode_cnt);
1802                         err = -EINVAL;
1803                 }
1804                 if (c->dirty_nn_cnt > c->nnode_cnt) {
1805                         ubifs_err(c, "dirty nnodes %d exceed max %d",
1806                                   c->dirty_nn_cnt, c->nnode_cnt);
1807                         err = -EINVAL;
1808                 }
1809                 return err;
1810         case 1:
1811                 d->chk_lpt_sz += len;
1812                 return 0;
1813         case 2:
1814                 d->chk_lpt_sz += len;
1815                 d->chk_lpt_wastage += len;
1816                 d->chk_lpt_lebs += 1;
1817                 return 0;
1818         case 3:
1819                 chk_lpt_sz = c->leb_size;
1820                 chk_lpt_sz *= d->chk_lpt_lebs;
1821                 chk_lpt_sz += len - c->nhead_offs;
1822                 if (d->chk_lpt_sz != chk_lpt_sz) {
1823                         ubifs_err(c, "LPT wrote %lld but space used was %lld",
1824                                   d->chk_lpt_sz, chk_lpt_sz);
1825                         err = -EINVAL;
1826                 }
1827                 if (d->chk_lpt_sz > c->lpt_sz) {
1828                         ubifs_err(c, "LPT wrote %lld but lpt_sz is %lld",
1829                                   d->chk_lpt_sz, c->lpt_sz);
1830                         err = -EINVAL;
1831                 }
1832                 if (d->chk_lpt_sz2 && d->chk_lpt_sz != d->chk_lpt_sz2) {
1833                         ubifs_err(c, "LPT layout size %lld but wrote %lld",
1834                                   d->chk_lpt_sz, d->chk_lpt_sz2);
1835                         err = -EINVAL;
1836                 }
1837                 if (d->chk_lpt_sz2 && d->new_nhead_offs != len) {
1838                         ubifs_err(c, "LPT new nhead offs: expected %d was %d",
1839                                   d->new_nhead_offs, len);
1840                         err = -EINVAL;
1841                 }
1842                 lpt_sz = (long long)c->pnode_cnt * c->pnode_sz;
1843                 lpt_sz += (long long)c->nnode_cnt * c->nnode_sz;
1844                 lpt_sz += c->ltab_sz;
1845                 if (c->big_lpt)
1846                         lpt_sz += c->lsave_sz;
1847                 if (d->chk_lpt_sz - d->chk_lpt_wastage > lpt_sz) {
1848                         ubifs_err(c, "LPT chk_lpt_sz %lld + waste %lld exceeds %lld",
1849                                   d->chk_lpt_sz, d->chk_lpt_wastage, lpt_sz);
1850                         err = -EINVAL;
1851                 }
1852                 if (err) {
1853                         ubifs_dump_lpt_info(c);
1854                         ubifs_dump_lpt_lebs(c);
1855                         dump_stack();
1856                 }
1857                 d->chk_lpt_sz2 = d->chk_lpt_sz;
1858                 d->chk_lpt_sz = 0;
1859                 d->chk_lpt_wastage = 0;
1860                 d->chk_lpt_lebs = 0;
1861                 d->new_nhead_offs = len;
1862                 return err;
1863         case 4:
1864                 d->chk_lpt_sz += len;
1865                 d->chk_lpt_wastage += len;
1866                 return 0;
1867         default:
1868                 return -EINVAL;
1869         }
1870 }
1871
1872 /**
1873  * dump_lpt_leb - dump an LPT LEB.
1874  * @c: UBIFS file-system description object
1875  * @lnum: LEB number to dump
1876  *
1877  * This function dumps an LEB from LPT area. Nodes in this area are very
1878  * different to nodes in the main area (e.g., they do not have common headers,
1879  * they do not have 8-byte alignments, etc), so we have a separate function to
1880  * dump LPT area LEBs. Note, LPT has to be locked by the caller.
1881  */
1882 static void dump_lpt_leb(const struct ubifs_info *c, int lnum)
1883 {
1884         int err, len = c->leb_size, node_type, node_num, node_len, offs;
1885         void *buf, *p;
1886
1887         pr_err("(pid %d) start dumping LEB %d\n", current->pid, lnum);
1888         buf = p = __vmalloc(c->leb_size, GFP_NOFS, PAGE_KERNEL);
1889         if (!buf) {
1890                 ubifs_err(c, "cannot allocate memory to dump LPT");
1891                 return;
1892         }
1893
1894         err = ubifs_leb_read(c, lnum, buf, 0, c->leb_size, 1);
1895         if (err)
1896                 goto out;
1897
1898         while (1) {
1899                 offs = c->leb_size - len;
1900                 if (!is_a_node(c, p, len)) {
1901                         int pad_len;
1902
1903                         pad_len = get_pad_len(c, p, len);
1904                         if (pad_len) {
1905                                 pr_err("LEB %d:%d, pad %d bytes\n",
1906                                        lnum, offs, pad_len);
1907                                 p += pad_len;
1908                                 len -= pad_len;
1909                                 continue;
1910                         }
1911                         if (len)
1912                                 pr_err("LEB %d:%d, free %d bytes\n",
1913                                        lnum, offs, len);
1914                         break;
1915                 }
1916
1917                 node_type = get_lpt_node_type(c, p, &node_num);
1918                 switch (node_type) {
1919                 case UBIFS_LPT_PNODE:
1920                 {
1921                         node_len = c->pnode_sz;
1922                         if (c->big_lpt)
1923                                 pr_err("LEB %d:%d, pnode num %d\n",
1924                                        lnum, offs, node_num);
1925                         else
1926                                 pr_err("LEB %d:%d, pnode\n", lnum, offs);
1927                         break;
1928                 }
1929                 case UBIFS_LPT_NNODE:
1930                 {
1931                         int i;
1932                         struct ubifs_nnode nnode;
1933
1934                         node_len = c->nnode_sz;
1935                         if (c->big_lpt)
1936                                 pr_err("LEB %d:%d, nnode num %d, ",
1937                                        lnum, offs, node_num);
1938                         else
1939                                 pr_err("LEB %d:%d, nnode, ",
1940                                        lnum, offs);
1941                         err = ubifs_unpack_nnode(c, p, &nnode);
1942                         if (err) {
1943                                 pr_err("failed to unpack_node, error %d\n",
1944                                        err);
1945                                 break;
1946                         }
1947                         for (i = 0; i < UBIFS_LPT_FANOUT; i++) {
1948                                 pr_cont("%d:%d", nnode.nbranch[i].lnum,
1949                                        nnode.nbranch[i].offs);
1950                                 if (i != UBIFS_LPT_FANOUT - 1)
1951                                         pr_cont(", ");
1952                         }
1953                         pr_cont("\n");
1954                         break;
1955                 }
1956                 case UBIFS_LPT_LTAB:
1957                         node_len = c->ltab_sz;
1958                         pr_err("LEB %d:%d, ltab\n", lnum, offs);
1959                         break;
1960                 case UBIFS_LPT_LSAVE:
1961                         node_len = c->lsave_sz;
1962                         pr_err("LEB %d:%d, lsave len\n", lnum, offs);
1963                         break;
1964                 default:
1965                         ubifs_err(c, "LPT node type %d not recognized", node_type);
1966                         goto out;
1967                 }
1968
1969                 p += node_len;
1970                 len -= node_len;
1971         }
1972
1973         pr_err("(pid %d) finish dumping LEB %d\n", current->pid, lnum);
1974 out:
1975         vfree(buf);
1976         return;
1977 }
1978
1979 /**
1980  * ubifs_dump_lpt_lebs - dump LPT lebs.
1981  * @c: UBIFS file-system description object
1982  *
1983  * This function dumps all LPT LEBs. The caller has to make sure the LPT is
1984  * locked.
1985  */
1986 void ubifs_dump_lpt_lebs(const struct ubifs_info *c)
1987 {
1988         int i;
1989
1990         pr_err("(pid %d) start dumping all LPT LEBs\n", current->pid);
1991         for (i = 0; i < c->lpt_lebs; i++)
1992                 dump_lpt_leb(c, i + c->lpt_first);
1993         pr_err("(pid %d) finish dumping all LPT LEBs\n", current->pid);
1994 }
1995
1996 /**
1997  * dbg_populate_lsave - debugging version of 'populate_lsave()'
1998  * @c: UBIFS file-system description object
1999  *
2000  * This is a debugging version for 'populate_lsave()' which populates lsave
2001  * with random LEBs instead of useful LEBs, which is good for test coverage.
2002  * Returns zero if lsave has not been populated (this debugging feature is
2003  * disabled) an non-zero if lsave has been populated.
2004  */
2005 static int dbg_populate_lsave(struct ubifs_info *c)
2006 {
2007         struct ubifs_lprops *lprops;
2008         struct ubifs_lpt_heap *heap;
2009         int i;
2010
2011         if (!dbg_is_chk_gen(c))
2012                 return 0;
2013         if (prandom_u32() & 3)
2014                 return 0;
2015
2016         for (i = 0; i < c->lsave_cnt; i++)
2017                 c->lsave[i] = c->main_first;
2018
2019         list_for_each_entry(lprops, &c->empty_list, list)
2020                 c->lsave[prandom_u32() % c->lsave_cnt] = lprops->lnum;
2021         list_for_each_entry(lprops, &c->freeable_list, list)
2022                 c->lsave[prandom_u32() % c->lsave_cnt] = lprops->lnum;
2023         list_for_each_entry(lprops, &c->frdi_idx_list, list)
2024                 c->lsave[prandom_u32() % c->lsave_cnt] = lprops->lnum;
2025
2026         heap = &c->lpt_heap[LPROPS_DIRTY_IDX - 1];
2027         for (i = 0; i < heap->cnt; i++)
2028                 c->lsave[prandom_u32() % c->lsave_cnt] = heap->arr[i]->lnum;
2029         heap = &c->lpt_heap[LPROPS_DIRTY - 1];
2030         for (i = 0; i < heap->cnt; i++)
2031                 c->lsave[prandom_u32() % c->lsave_cnt] = heap->arr[i]->lnum;
2032         heap = &c->lpt_heap[LPROPS_FREE - 1];
2033         for (i = 0; i < heap->cnt; i++)
2034                 c->lsave[prandom_u32() % c->lsave_cnt] = heap->arr[i]->lnum;
2035
2036         return 1;
2037 }