GNU Linux-libre 5.4.257-gnu1
[releases.git] / fs / xfs / xfs_iops.c
1 // SPDX-License-Identifier: GPL-2.0
2 /*
3  * Copyright (c) 2000-2005 Silicon Graphics, Inc.
4  * All Rights Reserved.
5  */
6 #include "xfs.h"
7 #include "xfs_fs.h"
8 #include "xfs_shared.h"
9 #include "xfs_format.h"
10 #include "xfs_log_format.h"
11 #include "xfs_trans_resv.h"
12 #include "xfs_mount.h"
13 #include "xfs_inode.h"
14 #include "xfs_acl.h"
15 #include "xfs_quota.h"
16 #include "xfs_attr.h"
17 #include "xfs_trans.h"
18 #include "xfs_trace.h"
19 #include "xfs_icache.h"
20 #include "xfs_symlink.h"
21 #include "xfs_dir2.h"
22 #include "xfs_iomap.h"
23 #include "xfs_error.h"
24
25 #include <linux/xattr.h>
26 #include <linux/posix_acl.h>
27 #include <linux/security.h>
28 #include <linux/iversion.h>
29
30 /*
31  * Directories have different lock order w.r.t. mmap_sem compared to regular
32  * files. This is due to readdir potentially triggering page faults on a user
33  * buffer inside filldir(), and this happens with the ilock on the directory
34  * held. For regular files, the lock order is the other way around - the
35  * mmap_sem is taken during the page fault, and then we lock the ilock to do
36  * block mapping. Hence we need a different class for the directory ilock so
37  * that lockdep can tell them apart.
38  */
39 static struct lock_class_key xfs_nondir_ilock_class;
40 static struct lock_class_key xfs_dir_ilock_class;
41
42 static int
43 xfs_initxattrs(
44         struct inode            *inode,
45         const struct xattr      *xattr_array,
46         void                    *fs_info)
47 {
48         const struct xattr      *xattr;
49         struct xfs_inode        *ip = XFS_I(inode);
50         int                     error = 0;
51
52         for (xattr = xattr_array; xattr->name != NULL; xattr++) {
53                 error = xfs_attr_set(ip, xattr->name, xattr->value,
54                                       xattr->value_len, ATTR_SECURE);
55                 if (error < 0)
56                         break;
57         }
58         return error;
59 }
60
61 /*
62  * Hook in SELinux.  This is not quite correct yet, what we really need
63  * here (as we do for default ACLs) is a mechanism by which creation of
64  * these attrs can be journalled at inode creation time (along with the
65  * inode, of course, such that log replay can't cause these to be lost).
66  */
67
68 STATIC int
69 xfs_init_security(
70         struct inode    *inode,
71         struct inode    *dir,
72         const struct qstr *qstr)
73 {
74         return security_inode_init_security(inode, dir, qstr,
75                                              &xfs_initxattrs, NULL);
76 }
77
78 static void
79 xfs_dentry_to_name(
80         struct xfs_name *namep,
81         struct dentry   *dentry)
82 {
83         namep->name = dentry->d_name.name;
84         namep->len = dentry->d_name.len;
85         namep->type = XFS_DIR3_FT_UNKNOWN;
86 }
87
88 static int
89 xfs_dentry_mode_to_name(
90         struct xfs_name *namep,
91         struct dentry   *dentry,
92         int             mode)
93 {
94         namep->name = dentry->d_name.name;
95         namep->len = dentry->d_name.len;
96         namep->type = xfs_mode_to_ftype(mode);
97
98         if (unlikely(namep->type == XFS_DIR3_FT_UNKNOWN))
99                 return -EFSCORRUPTED;
100
101         return 0;
102 }
103
104 STATIC void
105 xfs_cleanup_inode(
106         struct inode    *dir,
107         struct inode    *inode,
108         struct dentry   *dentry)
109 {
110         struct xfs_name teardown;
111
112         /* Oh, the horror.
113          * If we can't add the ACL or we fail in
114          * xfs_init_security we must back out.
115          * ENOSPC can hit here, among other things.
116          */
117         xfs_dentry_to_name(&teardown, dentry);
118
119         xfs_remove(XFS_I(dir), &teardown, XFS_I(inode));
120 }
121
122 STATIC int
123 xfs_generic_create(
124         struct inode    *dir,
125         struct dentry   *dentry,
126         umode_t         mode,
127         dev_t           rdev,
128         bool            tmpfile)        /* unnamed file */
129 {
130         struct inode    *inode;
131         struct xfs_inode *ip = NULL;
132         struct posix_acl *default_acl, *acl;
133         struct xfs_name name;
134         int             error;
135
136         /*
137          * Irix uses Missed'em'V split, but doesn't want to see
138          * the upper 5 bits of (14bit) major.
139          */
140         if (S_ISCHR(mode) || S_ISBLK(mode)) {
141                 if (unlikely(!sysv_valid_dev(rdev) || MAJOR(rdev) & ~0x1ff))
142                         return -EINVAL;
143         } else {
144                 rdev = 0;
145         }
146
147         error = posix_acl_create(dir, &mode, &default_acl, &acl);
148         if (error)
149                 return error;
150
151         /* Verify mode is valid also for tmpfile case */
152         error = xfs_dentry_mode_to_name(&name, dentry, mode);
153         if (unlikely(error))
154                 goto out_free_acl;
155
156         if (!tmpfile) {
157                 error = xfs_create(XFS_I(dir), &name, mode, rdev, &ip);
158         } else {
159                 error = xfs_create_tmpfile(XFS_I(dir), mode, &ip);
160         }
161         if (unlikely(error))
162                 goto out_free_acl;
163
164         inode = VFS_I(ip);
165
166         error = xfs_init_security(inode, dir, &dentry->d_name);
167         if (unlikely(error))
168                 goto out_cleanup_inode;
169
170 #ifdef CONFIG_XFS_POSIX_ACL
171         if (default_acl) {
172                 error = __xfs_set_acl(inode, default_acl, ACL_TYPE_DEFAULT);
173                 if (error)
174                         goto out_cleanup_inode;
175         }
176         if (acl) {
177                 error = __xfs_set_acl(inode, acl, ACL_TYPE_ACCESS);
178                 if (error)
179                         goto out_cleanup_inode;
180         }
181 #endif
182
183         xfs_setup_iops(ip);
184
185         if (tmpfile) {
186                 /*
187                  * The VFS requires that any inode fed to d_tmpfile must have
188                  * nlink == 1 so that it can decrement the nlink in d_tmpfile.
189                  * However, we created the temp file with nlink == 0 because
190                  * we're not allowed to put an inode with nlink > 0 on the
191                  * unlinked list.  Therefore we have to set nlink to 1 so that
192                  * d_tmpfile can immediately set it back to zero.
193                  */
194                 set_nlink(inode, 1);
195                 d_tmpfile(dentry, inode);
196         } else
197                 d_instantiate(dentry, inode);
198
199         xfs_finish_inode_setup(ip);
200
201  out_free_acl:
202         if (default_acl)
203                 posix_acl_release(default_acl);
204         if (acl)
205                 posix_acl_release(acl);
206         return error;
207
208  out_cleanup_inode:
209         xfs_finish_inode_setup(ip);
210         if (!tmpfile)
211                 xfs_cleanup_inode(dir, inode, dentry);
212         xfs_irele(ip);
213         goto out_free_acl;
214 }
215
216 STATIC int
217 xfs_vn_mknod(
218         struct inode    *dir,
219         struct dentry   *dentry,
220         umode_t         mode,
221         dev_t           rdev)
222 {
223         return xfs_generic_create(dir, dentry, mode, rdev, false);
224 }
225
226 STATIC int
227 xfs_vn_create(
228         struct inode    *dir,
229         struct dentry   *dentry,
230         umode_t         mode,
231         bool            flags)
232 {
233         return xfs_vn_mknod(dir, dentry, mode, 0);
234 }
235
236 STATIC int
237 xfs_vn_mkdir(
238         struct inode    *dir,
239         struct dentry   *dentry,
240         umode_t         mode)
241 {
242         return xfs_vn_mknod(dir, dentry, mode|S_IFDIR, 0);
243 }
244
245 STATIC struct dentry *
246 xfs_vn_lookup(
247         struct inode    *dir,
248         struct dentry   *dentry,
249         unsigned int flags)
250 {
251         struct inode *inode;
252         struct xfs_inode *cip;
253         struct xfs_name name;
254         int             error;
255
256         if (dentry->d_name.len >= MAXNAMELEN)
257                 return ERR_PTR(-ENAMETOOLONG);
258
259         xfs_dentry_to_name(&name, dentry);
260         error = xfs_lookup(XFS_I(dir), &name, &cip, NULL);
261         if (likely(!error))
262                 inode = VFS_I(cip);
263         else if (likely(error == -ENOENT))
264                 inode = NULL;
265         else
266                 inode = ERR_PTR(error);
267         return d_splice_alias(inode, dentry);
268 }
269
270 STATIC struct dentry *
271 xfs_vn_ci_lookup(
272         struct inode    *dir,
273         struct dentry   *dentry,
274         unsigned int flags)
275 {
276         struct xfs_inode *ip;
277         struct xfs_name xname;
278         struct xfs_name ci_name;
279         struct qstr     dname;
280         int             error;
281
282         if (dentry->d_name.len >= MAXNAMELEN)
283                 return ERR_PTR(-ENAMETOOLONG);
284
285         xfs_dentry_to_name(&xname, dentry);
286         error = xfs_lookup(XFS_I(dir), &xname, &ip, &ci_name);
287         if (unlikely(error)) {
288                 if (unlikely(error != -ENOENT))
289                         return ERR_PTR(error);
290                 /*
291                  * call d_add(dentry, NULL) here when d_drop_negative_children
292                  * is called in xfs_vn_mknod (ie. allow negative dentries
293                  * with CI filesystems).
294                  */
295                 return NULL;
296         }
297
298         /* if exact match, just splice and exit */
299         if (!ci_name.name)
300                 return d_splice_alias(VFS_I(ip), dentry);
301
302         /* else case-insensitive match... */
303         dname.name = ci_name.name;
304         dname.len = ci_name.len;
305         dentry = d_add_ci(dentry, VFS_I(ip), &dname);
306         kmem_free(ci_name.name);
307         return dentry;
308 }
309
310 STATIC int
311 xfs_vn_link(
312         struct dentry   *old_dentry,
313         struct inode    *dir,
314         struct dentry   *dentry)
315 {
316         struct inode    *inode = d_inode(old_dentry);
317         struct xfs_name name;
318         int             error;
319
320         error = xfs_dentry_mode_to_name(&name, dentry, inode->i_mode);
321         if (unlikely(error))
322                 return error;
323
324         error = xfs_link(XFS_I(dir), XFS_I(inode), &name);
325         if (unlikely(error))
326                 return error;
327
328         ihold(inode);
329         d_instantiate(dentry, inode);
330         return 0;
331 }
332
333 STATIC int
334 xfs_vn_unlink(
335         struct inode    *dir,
336         struct dentry   *dentry)
337 {
338         struct xfs_name name;
339         int             error;
340
341         xfs_dentry_to_name(&name, dentry);
342
343         error = xfs_remove(XFS_I(dir), &name, XFS_I(d_inode(dentry)));
344         if (error)
345                 return error;
346
347         /*
348          * With unlink, the VFS makes the dentry "negative": no inode,
349          * but still hashed. This is incompatible with case-insensitive
350          * mode, so invalidate (unhash) the dentry in CI-mode.
351          */
352         if (xfs_sb_version_hasasciici(&XFS_M(dir->i_sb)->m_sb))
353                 d_invalidate(dentry);
354         return 0;
355 }
356
357 STATIC int
358 xfs_vn_symlink(
359         struct inode    *dir,
360         struct dentry   *dentry,
361         const char      *symname)
362 {
363         struct inode    *inode;
364         struct xfs_inode *cip = NULL;
365         struct xfs_name name;
366         int             error;
367         umode_t         mode;
368
369         mode = S_IFLNK |
370                 (irix_symlink_mode ? 0777 & ~current_umask() : S_IRWXUGO);
371         error = xfs_dentry_mode_to_name(&name, dentry, mode);
372         if (unlikely(error))
373                 goto out;
374
375         error = xfs_symlink(XFS_I(dir), &name, symname, mode, &cip);
376         if (unlikely(error))
377                 goto out;
378
379         inode = VFS_I(cip);
380
381         error = xfs_init_security(inode, dir, &dentry->d_name);
382         if (unlikely(error))
383                 goto out_cleanup_inode;
384
385         xfs_setup_iops(cip);
386
387         d_instantiate(dentry, inode);
388         xfs_finish_inode_setup(cip);
389         return 0;
390
391  out_cleanup_inode:
392         xfs_finish_inode_setup(cip);
393         xfs_cleanup_inode(dir, inode, dentry);
394         xfs_irele(cip);
395  out:
396         return error;
397 }
398
399 STATIC int
400 xfs_vn_rename(
401         struct inode    *odir,
402         struct dentry   *odentry,
403         struct inode    *ndir,
404         struct dentry   *ndentry,
405         unsigned int    flags)
406 {
407         struct inode    *new_inode = d_inode(ndentry);
408         int             omode = 0;
409         int             error;
410         struct xfs_name oname;
411         struct xfs_name nname;
412
413         if (flags & ~(RENAME_NOREPLACE | RENAME_EXCHANGE | RENAME_WHITEOUT))
414                 return -EINVAL;
415
416         /* if we are exchanging files, we need to set i_mode of both files */
417         if (flags & RENAME_EXCHANGE)
418                 omode = d_inode(ndentry)->i_mode;
419
420         error = xfs_dentry_mode_to_name(&oname, odentry, omode);
421         if (omode && unlikely(error))
422                 return error;
423
424         error = xfs_dentry_mode_to_name(&nname, ndentry,
425                                         d_inode(odentry)->i_mode);
426         if (unlikely(error))
427                 return error;
428
429         return xfs_rename(XFS_I(odir), &oname, XFS_I(d_inode(odentry)),
430                           XFS_I(ndir), &nname,
431                           new_inode ? XFS_I(new_inode) : NULL, flags);
432 }
433
434 /*
435  * careful here - this function can get called recursively, so
436  * we need to be very careful about how much stack we use.
437  * uio is kmalloced for this reason...
438  */
439 STATIC const char *
440 xfs_vn_get_link(
441         struct dentry           *dentry,
442         struct inode            *inode,
443         struct delayed_call     *done)
444 {
445         char                    *link;
446         int                     error = -ENOMEM;
447
448         if (!dentry)
449                 return ERR_PTR(-ECHILD);
450
451         link = kmalloc(XFS_SYMLINK_MAXLEN+1, GFP_KERNEL);
452         if (!link)
453                 goto out_err;
454
455         error = xfs_readlink(XFS_I(d_inode(dentry)), link);
456         if (unlikely(error))
457                 goto out_kfree;
458
459         set_delayed_call(done, kfree_link, link);
460         return link;
461
462  out_kfree:
463         kfree(link);
464  out_err:
465         return ERR_PTR(error);
466 }
467
468 STATIC const char *
469 xfs_vn_get_link_inline(
470         struct dentry           *dentry,
471         struct inode            *inode,
472         struct delayed_call     *done)
473 {
474         struct xfs_inode        *ip = XFS_I(inode);
475         char                    *link;
476
477         ASSERT(ip->i_df.if_flags & XFS_IFINLINE);
478
479         /*
480          * The VFS crashes on a NULL pointer, so return -EFSCORRUPTED if
481          * if_data is junk.
482          */
483         link = ip->i_df.if_u1.if_data;
484         if (!link) {
485                 XFS_ERROR_REPORT(__func__, XFS_ERRLEVEL_LOW, ip->i_mount);
486                 return ERR_PTR(-EFSCORRUPTED);
487         }
488         return link;
489 }
490
491 STATIC int
492 xfs_vn_getattr(
493         const struct path       *path,
494         struct kstat            *stat,
495         u32                     request_mask,
496         unsigned int            query_flags)
497 {
498         struct inode            *inode = d_inode(path->dentry);
499         struct xfs_inode        *ip = XFS_I(inode);
500         struct xfs_mount        *mp = ip->i_mount;
501
502         trace_xfs_getattr(ip);
503
504         if (XFS_FORCED_SHUTDOWN(mp))
505                 return -EIO;
506
507         stat->size = XFS_ISIZE(ip);
508         stat->dev = inode->i_sb->s_dev;
509         stat->mode = inode->i_mode;
510         stat->nlink = inode->i_nlink;
511         stat->uid = inode->i_uid;
512         stat->gid = inode->i_gid;
513         stat->ino = ip->i_ino;
514         stat->atime = inode->i_atime;
515         stat->mtime = inode->i_mtime;
516         stat->ctime = inode->i_ctime;
517         stat->blocks =
518                 XFS_FSB_TO_BB(mp, ip->i_d.di_nblocks + ip->i_delayed_blks);
519
520         if (xfs_sb_version_has_v3inode(&mp->m_sb)) {
521                 if (request_mask & STATX_BTIME) {
522                         stat->result_mask |= STATX_BTIME;
523                         stat->btime.tv_sec = ip->i_d.di_crtime.t_sec;
524                         stat->btime.tv_nsec = ip->i_d.di_crtime.t_nsec;
525                 }
526         }
527
528         /*
529          * Note: If you add another clause to set an attribute flag, please
530          * update attributes_mask below.
531          */
532         if (ip->i_d.di_flags & XFS_DIFLAG_IMMUTABLE)
533                 stat->attributes |= STATX_ATTR_IMMUTABLE;
534         if (ip->i_d.di_flags & XFS_DIFLAG_APPEND)
535                 stat->attributes |= STATX_ATTR_APPEND;
536         if (ip->i_d.di_flags & XFS_DIFLAG_NODUMP)
537                 stat->attributes |= STATX_ATTR_NODUMP;
538
539         stat->attributes_mask |= (STATX_ATTR_IMMUTABLE |
540                                   STATX_ATTR_APPEND |
541                                   STATX_ATTR_NODUMP);
542
543         switch (inode->i_mode & S_IFMT) {
544         case S_IFBLK:
545         case S_IFCHR:
546                 stat->blksize = BLKDEV_IOSIZE;
547                 stat->rdev = inode->i_rdev;
548                 break;
549         default:
550                 if (XFS_IS_REALTIME_INODE(ip)) {
551                         /*
552                          * If the file blocks are being allocated from a
553                          * realtime volume, then return the inode's realtime
554                          * extent size or the realtime volume's extent size.
555                          */
556                         stat->blksize =
557                                 xfs_get_extsz_hint(ip) << mp->m_sb.sb_blocklog;
558                 } else
559                         stat->blksize = xfs_preferred_iosize(mp);
560                 stat->rdev = 0;
561                 break;
562         }
563
564         return 0;
565 }
566
567 static void
568 xfs_setattr_mode(
569         struct xfs_inode        *ip,
570         struct iattr            *iattr)
571 {
572         struct inode            *inode = VFS_I(ip);
573         umode_t                 mode = iattr->ia_mode;
574
575         ASSERT(xfs_isilocked(ip, XFS_ILOCK_EXCL));
576
577         inode->i_mode &= S_IFMT;
578         inode->i_mode |= mode & ~S_IFMT;
579 }
580
581 void
582 xfs_setattr_time(
583         struct xfs_inode        *ip,
584         struct iattr            *iattr)
585 {
586         struct inode            *inode = VFS_I(ip);
587
588         ASSERT(xfs_isilocked(ip, XFS_ILOCK_EXCL));
589
590         if (iattr->ia_valid & ATTR_ATIME)
591                 inode->i_atime = iattr->ia_atime;
592         if (iattr->ia_valid & ATTR_CTIME)
593                 inode->i_ctime = iattr->ia_ctime;
594         if (iattr->ia_valid & ATTR_MTIME)
595                 inode->i_mtime = iattr->ia_mtime;
596 }
597
598 static int
599 xfs_vn_change_ok(
600         struct dentry   *dentry,
601         struct iattr    *iattr)
602 {
603         struct xfs_mount        *mp = XFS_I(d_inode(dentry))->i_mount;
604
605         if (mp->m_flags & XFS_MOUNT_RDONLY)
606                 return -EROFS;
607
608         if (XFS_FORCED_SHUTDOWN(mp))
609                 return -EIO;
610
611         return setattr_prepare(dentry, iattr);
612 }
613
614 /*
615  * Set non-size attributes of an inode.
616  *
617  * Caution: The caller of this function is responsible for calling
618  * setattr_prepare() or otherwise verifying the change is fine.
619  */
620 int
621 xfs_setattr_nonsize(
622         struct xfs_inode        *ip,
623         struct iattr            *iattr,
624         int                     flags)
625 {
626         xfs_mount_t             *mp = ip->i_mount;
627         struct inode            *inode = VFS_I(ip);
628         int                     mask = iattr->ia_valid;
629         xfs_trans_t             *tp;
630         int                     error;
631         kuid_t                  uid = GLOBAL_ROOT_UID, iuid = GLOBAL_ROOT_UID;
632         kgid_t                  gid = GLOBAL_ROOT_GID, igid = GLOBAL_ROOT_GID;
633         struct xfs_dquot        *udqp = NULL, *gdqp = NULL;
634         struct xfs_dquot        *olddquot1 = NULL, *olddquot2 = NULL;
635
636         ASSERT((mask & ATTR_SIZE) == 0);
637
638         /*
639          * If disk quotas is on, we make sure that the dquots do exist on disk,
640          * before we start any other transactions. Trying to do this later
641          * is messy. We don't care to take a readlock to look at the ids
642          * in inode here, because we can't hold it across the trans_reserve.
643          * If the IDs do change before we take the ilock, we're covered
644          * because the i_*dquot fields will get updated anyway.
645          */
646         if (XFS_IS_QUOTA_ON(mp) && (mask & (ATTR_UID|ATTR_GID))) {
647                 uint    qflags = 0;
648
649                 if ((mask & ATTR_UID) && XFS_IS_UQUOTA_ON(mp)) {
650                         uid = iattr->ia_uid;
651                         qflags |= XFS_QMOPT_UQUOTA;
652                 } else {
653                         uid = inode->i_uid;
654                 }
655                 if ((mask & ATTR_GID) && XFS_IS_GQUOTA_ON(mp)) {
656                         gid = iattr->ia_gid;
657                         qflags |= XFS_QMOPT_GQUOTA;
658                 }  else {
659                         gid = inode->i_gid;
660                 }
661
662                 /*
663                  * We take a reference when we initialize udqp and gdqp,
664                  * so it is important that we never blindly double trip on
665                  * the same variable. See xfs_create() for an example.
666                  */
667                 ASSERT(udqp == NULL);
668                 ASSERT(gdqp == NULL);
669                 error = xfs_qm_vop_dqalloc(ip, uid, gid, ip->i_d.di_projid,
670                                            qflags, &udqp, &gdqp, NULL);
671                 if (error)
672                         return error;
673         }
674
675         error = xfs_trans_alloc(mp, &M_RES(mp)->tr_ichange, 0, 0, 0, &tp);
676         if (error)
677                 goto out_dqrele;
678
679         xfs_ilock(ip, XFS_ILOCK_EXCL);
680         xfs_trans_ijoin(tp, ip, 0);
681
682         /*
683          * Change file ownership.  Must be the owner or privileged.
684          */
685         if (mask & (ATTR_UID|ATTR_GID)) {
686                 /*
687                  * These IDs could have changed since we last looked at them.
688                  * But, we're assured that if the ownership did change
689                  * while we didn't have the inode locked, inode's dquot(s)
690                  * would have changed also.
691                  */
692                 iuid = inode->i_uid;
693                 igid = inode->i_gid;
694                 gid = (mask & ATTR_GID) ? iattr->ia_gid : igid;
695                 uid = (mask & ATTR_UID) ? iattr->ia_uid : iuid;
696
697                 /*
698                  * Do a quota reservation only if uid/gid is actually
699                  * going to change.
700                  */
701                 if (XFS_IS_QUOTA_RUNNING(mp) &&
702                     ((XFS_IS_UQUOTA_ON(mp) && !uid_eq(iuid, uid)) ||
703                      (XFS_IS_GQUOTA_ON(mp) && !gid_eq(igid, gid)))) {
704                         ASSERT(tp);
705                         error = xfs_qm_vop_chown_reserve(tp, ip, udqp, gdqp,
706                                                 NULL, capable(CAP_FOWNER) ?
707                                                 XFS_QMOPT_FORCE_RES : 0);
708                         if (error)      /* out of quota */
709                                 goto out_cancel;
710                 }
711         }
712
713         /*
714          * Change file ownership.  Must be the owner or privileged.
715          */
716         if (mask & (ATTR_UID|ATTR_GID)) {
717                 /*
718                  * CAP_FSETID overrides the following restrictions:
719                  *
720                  * The set-user-ID and set-group-ID bits of a file will be
721                  * cleared upon successful return from chown()
722                  */
723                 if ((inode->i_mode & (S_ISUID|S_ISGID)) &&
724                     !capable(CAP_FSETID))
725                         inode->i_mode &= ~(S_ISUID|S_ISGID);
726
727                 /*
728                  * Change the ownerships and register quota modifications
729                  * in the transaction.
730                  */
731                 if (!uid_eq(iuid, uid)) {
732                         if (XFS_IS_QUOTA_RUNNING(mp) && XFS_IS_UQUOTA_ON(mp)) {
733                                 ASSERT(mask & ATTR_UID);
734                                 ASSERT(udqp);
735                                 olddquot1 = xfs_qm_vop_chown(tp, ip,
736                                                         &ip->i_udquot, udqp);
737                         }
738                         inode->i_uid = uid;
739                 }
740                 if (!gid_eq(igid, gid)) {
741                         if (XFS_IS_QUOTA_RUNNING(mp) && XFS_IS_GQUOTA_ON(mp)) {
742                                 ASSERT(xfs_sb_version_has_pquotino(&mp->m_sb) ||
743                                        !XFS_IS_PQUOTA_ON(mp));
744                                 ASSERT(mask & ATTR_GID);
745                                 ASSERT(gdqp);
746                                 olddquot2 = xfs_qm_vop_chown(tp, ip,
747                                                         &ip->i_gdquot, gdqp);
748                         }
749                         inode->i_gid = gid;
750                 }
751         }
752
753         if (mask & ATTR_MODE)
754                 xfs_setattr_mode(ip, iattr);
755         if (mask & (ATTR_ATIME|ATTR_CTIME|ATTR_MTIME))
756                 xfs_setattr_time(ip, iattr);
757
758         xfs_trans_log_inode(tp, ip, XFS_ILOG_CORE);
759
760         XFS_STATS_INC(mp, xs_ig_attrchg);
761
762         if (mp->m_flags & XFS_MOUNT_WSYNC)
763                 xfs_trans_set_sync(tp);
764         error = xfs_trans_commit(tp);
765
766         xfs_iunlock(ip, XFS_ILOCK_EXCL);
767
768         /*
769          * Release any dquot(s) the inode had kept before chown.
770          */
771         xfs_qm_dqrele(olddquot1);
772         xfs_qm_dqrele(olddquot2);
773         xfs_qm_dqrele(udqp);
774         xfs_qm_dqrele(gdqp);
775
776         if (error)
777                 return error;
778
779         /*
780          * XXX(hch): Updating the ACL entries is not atomic vs the i_mode
781          *           update.  We could avoid this with linked transactions
782          *           and passing down the transaction pointer all the way
783          *           to attr_set.  No previous user of the generic
784          *           Posix ACL code seems to care about this issue either.
785          */
786         if ((mask & ATTR_MODE) && !(flags & XFS_ATTR_NOACL)) {
787                 error = posix_acl_chmod(inode, inode->i_mode);
788                 if (error)
789                         return error;
790         }
791
792         return 0;
793
794 out_cancel:
795         xfs_trans_cancel(tp);
796         xfs_iunlock(ip, XFS_ILOCK_EXCL);
797 out_dqrele:
798         xfs_qm_dqrele(udqp);
799         xfs_qm_dqrele(gdqp);
800         return error;
801 }
802
803 int
804 xfs_vn_setattr_nonsize(
805         struct dentry           *dentry,
806         struct iattr            *iattr)
807 {
808         struct xfs_inode        *ip = XFS_I(d_inode(dentry));
809         int error;
810
811         trace_xfs_setattr(ip);
812
813         error = xfs_vn_change_ok(dentry, iattr);
814         if (error)
815                 return error;
816         return xfs_setattr_nonsize(ip, iattr, 0);
817 }
818
819 /*
820  * Truncate file.  Must have write permission and not be a directory.
821  *
822  * Caution: The caller of this function is responsible for calling
823  * setattr_prepare() or otherwise verifying the change is fine.
824  */
825 STATIC int
826 xfs_setattr_size(
827         struct xfs_inode        *ip,
828         struct iattr            *iattr)
829 {
830         struct xfs_mount        *mp = ip->i_mount;
831         struct inode            *inode = VFS_I(ip);
832         xfs_off_t               oldsize, newsize;
833         struct xfs_trans        *tp;
834         int                     error;
835         uint                    lock_flags = 0;
836         bool                    did_zeroing = false;
837
838         ASSERT(xfs_isilocked(ip, XFS_IOLOCK_EXCL));
839         ASSERT(xfs_isilocked(ip, XFS_MMAPLOCK_EXCL));
840         ASSERT(S_ISREG(inode->i_mode));
841         ASSERT((iattr->ia_valid & (ATTR_UID|ATTR_GID|ATTR_ATIME|ATTR_ATIME_SET|
842                 ATTR_MTIME_SET|ATTR_TIMES_SET)) == 0);
843
844         oldsize = inode->i_size;
845         newsize = iattr->ia_size;
846
847         /*
848          * Short circuit the truncate case for zero length files.
849          */
850         if (newsize == 0 && oldsize == 0 && ip->i_d.di_nextents == 0) {
851                 if (!(iattr->ia_valid & (ATTR_CTIME|ATTR_MTIME)))
852                         return 0;
853
854                 /*
855                  * Use the regular setattr path to update the timestamps.
856                  */
857                 iattr->ia_valid &= ~ATTR_SIZE;
858                 return xfs_setattr_nonsize(ip, iattr, 0);
859         }
860
861         /*
862          * Make sure that the dquots are attached to the inode.
863          */
864         error = xfs_qm_dqattach(ip);
865         if (error)
866                 return error;
867
868         /*
869          * Wait for all direct I/O to complete.
870          */
871         inode_dio_wait(inode);
872
873         /*
874          * File data changes must be complete before we start the transaction to
875          * modify the inode.  This needs to be done before joining the inode to
876          * the transaction because the inode cannot be unlocked once it is a
877          * part of the transaction.
878          *
879          * Start with zeroing any data beyond EOF that we may expose on file
880          * extension, or zeroing out the rest of the block on a downward
881          * truncate.
882          */
883         if (newsize > oldsize) {
884                 trace_xfs_zero_eof(ip, oldsize, newsize - oldsize);
885                 error = iomap_zero_range(inode, oldsize, newsize - oldsize,
886                                 &did_zeroing, &xfs_iomap_ops);
887         } else {
888                 /*
889                  * iomap won't detect a dirty page over an unwritten block (or a
890                  * cow block over a hole) and subsequently skips zeroing the
891                  * newly post-EOF portion of the page. Flush the new EOF to
892                  * convert the block before the pagecache truncate.
893                  */
894                 error = filemap_write_and_wait_range(inode->i_mapping, newsize,
895                                                      newsize);
896                 if (error)
897                         return error;
898                 error = iomap_truncate_page(inode, newsize, &did_zeroing,
899                                 &xfs_iomap_ops);
900         }
901
902         if (error)
903                 return error;
904
905         /*
906          * We've already locked out new page faults, so now we can safely remove
907          * pages from the page cache knowing they won't get refaulted until we
908          * drop the XFS_MMAP_EXCL lock after the extent manipulations are
909          * complete. The truncate_setsize() call also cleans partial EOF page
910          * PTEs on extending truncates and hence ensures sub-page block size
911          * filesystems are correctly handled, too.
912          *
913          * We have to do all the page cache truncate work outside the
914          * transaction context as the "lock" order is page lock->log space
915          * reservation as defined by extent allocation in the writeback path.
916          * Hence a truncate can fail with ENOMEM from xfs_trans_alloc(), but
917          * having already truncated the in-memory version of the file (i.e. made
918          * user visible changes). There's not much we can do about this, except
919          * to hope that the caller sees ENOMEM and retries the truncate
920          * operation.
921          *
922          * And we update in-core i_size and truncate page cache beyond newsize
923          * before writeback the [di_size, newsize] range, so we're guaranteed
924          * not to write stale data past the new EOF on truncate down.
925          */
926         truncate_setsize(inode, newsize);
927
928         /*
929          * We are going to log the inode size change in this transaction so
930          * any previous writes that are beyond the on disk EOF and the new
931          * EOF that have not been written out need to be written here.  If we
932          * do not write the data out, we expose ourselves to the null files
933          * problem. Note that this includes any block zeroing we did above;
934          * otherwise those blocks may not be zeroed after a crash.
935          */
936         if (did_zeroing ||
937             (newsize > ip->i_d.di_size && oldsize != ip->i_d.di_size)) {
938                 error = filemap_write_and_wait_range(VFS_I(ip)->i_mapping,
939                                                 ip->i_d.di_size, newsize - 1);
940                 if (error)
941                         return error;
942         }
943
944         error = xfs_trans_alloc(mp, &M_RES(mp)->tr_itruncate, 0, 0, 0, &tp);
945         if (error)
946                 return error;
947
948         lock_flags |= XFS_ILOCK_EXCL;
949         xfs_ilock(ip, XFS_ILOCK_EXCL);
950         xfs_trans_ijoin(tp, ip, 0);
951
952         /*
953          * Only change the c/mtime if we are changing the size or we are
954          * explicitly asked to change it.  This handles the semantic difference
955          * between truncate() and ftruncate() as implemented in the VFS.
956          *
957          * The regular truncate() case without ATTR_CTIME and ATTR_MTIME is a
958          * special case where we need to update the times despite not having
959          * these flags set.  For all other operations the VFS set these flags
960          * explicitly if it wants a timestamp update.
961          */
962         if (newsize != oldsize &&
963             !(iattr->ia_valid & (ATTR_CTIME | ATTR_MTIME))) {
964                 iattr->ia_ctime = iattr->ia_mtime =
965                         current_time(inode);
966                 iattr->ia_valid |= ATTR_CTIME | ATTR_MTIME;
967         }
968
969         /*
970          * The first thing we do is set the size to new_size permanently on
971          * disk.  This way we don't have to worry about anyone ever being able
972          * to look at the data being freed even in the face of a crash.
973          * What we're getting around here is the case where we free a block, it
974          * is allocated to another file, it is written to, and then we crash.
975          * If the new data gets written to the file but the log buffers
976          * containing the free and reallocation don't, then we'd end up with
977          * garbage in the blocks being freed.  As long as we make the new size
978          * permanent before actually freeing any blocks it doesn't matter if
979          * they get written to.
980          */
981         ip->i_d.di_size = newsize;
982         xfs_trans_log_inode(tp, ip, XFS_ILOG_CORE);
983
984         if (newsize <= oldsize) {
985                 error = xfs_itruncate_extents(&tp, ip, XFS_DATA_FORK, newsize);
986                 if (error)
987                         goto out_trans_cancel;
988
989                 /*
990                  * Truncated "down", so we're removing references to old data
991                  * here - if we delay flushing for a long time, we expose
992                  * ourselves unduly to the notorious NULL files problem.  So,
993                  * we mark this inode and flush it when the file is closed,
994                  * and do not wait the usual (long) time for writeout.
995                  */
996                 xfs_iflags_set(ip, XFS_ITRUNCATED);
997
998                 /* A truncate down always removes post-EOF blocks. */
999                 xfs_inode_clear_eofblocks_tag(ip);
1000         }
1001
1002         if (iattr->ia_valid & ATTR_MODE)
1003                 xfs_setattr_mode(ip, iattr);
1004         if (iattr->ia_valid & (ATTR_ATIME|ATTR_CTIME|ATTR_MTIME))
1005                 xfs_setattr_time(ip, iattr);
1006
1007         xfs_trans_log_inode(tp, ip, XFS_ILOG_CORE);
1008
1009         XFS_STATS_INC(mp, xs_ig_attrchg);
1010
1011         if (mp->m_flags & XFS_MOUNT_WSYNC)
1012                 xfs_trans_set_sync(tp);
1013
1014         error = xfs_trans_commit(tp);
1015 out_unlock:
1016         if (lock_flags)
1017                 xfs_iunlock(ip, lock_flags);
1018         return error;
1019
1020 out_trans_cancel:
1021         xfs_trans_cancel(tp);
1022         goto out_unlock;
1023 }
1024
1025 int
1026 xfs_vn_setattr_size(
1027         struct dentry           *dentry,
1028         struct iattr            *iattr)
1029 {
1030         struct xfs_inode        *ip = XFS_I(d_inode(dentry));
1031         int error;
1032
1033         trace_xfs_setattr(ip);
1034
1035         error = xfs_vn_change_ok(dentry, iattr);
1036         if (error)
1037                 return error;
1038         return xfs_setattr_size(ip, iattr);
1039 }
1040
1041 STATIC int
1042 xfs_vn_setattr(
1043         struct dentry           *dentry,
1044         struct iattr            *iattr)
1045 {
1046         int                     error;
1047
1048         if (iattr->ia_valid & ATTR_SIZE) {
1049                 struct inode            *inode = d_inode(dentry);
1050                 struct xfs_inode        *ip = XFS_I(inode);
1051                 uint                    iolock;
1052
1053                 xfs_ilock(ip, XFS_MMAPLOCK_EXCL);
1054                 iolock = XFS_IOLOCK_EXCL | XFS_MMAPLOCK_EXCL;
1055
1056                 error = xfs_break_layouts(inode, &iolock, BREAK_UNMAP);
1057                 if (error) {
1058                         xfs_iunlock(ip, XFS_MMAPLOCK_EXCL);
1059                         return error;
1060                 }
1061
1062                 error = xfs_vn_setattr_size(dentry, iattr);
1063                 xfs_iunlock(ip, XFS_MMAPLOCK_EXCL);
1064         } else {
1065                 error = xfs_vn_setattr_nonsize(dentry, iattr);
1066         }
1067
1068         return error;
1069 }
1070
1071 STATIC int
1072 xfs_vn_update_time(
1073         struct inode            *inode,
1074         struct timespec64       *now,
1075         int                     flags)
1076 {
1077         struct xfs_inode        *ip = XFS_I(inode);
1078         struct xfs_mount        *mp = ip->i_mount;
1079         int                     log_flags = XFS_ILOG_TIMESTAMP;
1080         struct xfs_trans        *tp;
1081         int                     error;
1082
1083         trace_xfs_update_time(ip);
1084
1085         if (inode->i_sb->s_flags & SB_LAZYTIME) {
1086                 if (!((flags & S_VERSION) &&
1087                       inode_maybe_inc_iversion(inode, false)))
1088                         return generic_update_time(inode, now, flags);
1089
1090                 /* Capture the iversion update that just occurred */
1091                 log_flags |= XFS_ILOG_CORE;
1092         }
1093
1094         error = xfs_trans_alloc(mp, &M_RES(mp)->tr_fsyncts, 0, 0, 0, &tp);
1095         if (error)
1096                 return error;
1097
1098         xfs_ilock(ip, XFS_ILOCK_EXCL);
1099         if (flags & S_CTIME)
1100                 inode->i_ctime = *now;
1101         if (flags & S_MTIME)
1102                 inode->i_mtime = *now;
1103         if (flags & S_ATIME)
1104                 inode->i_atime = *now;
1105
1106         xfs_trans_ijoin(tp, ip, XFS_ILOCK_EXCL);
1107         xfs_trans_log_inode(tp, ip, log_flags);
1108         return xfs_trans_commit(tp);
1109 }
1110
1111 STATIC int
1112 xfs_vn_fiemap(
1113         struct inode            *inode,
1114         struct fiemap_extent_info *fieinfo,
1115         u64                     start,
1116         u64                     length)
1117 {
1118         int                     error;
1119
1120         xfs_ilock(XFS_I(inode), XFS_IOLOCK_SHARED);
1121         if (fieinfo->fi_flags & FIEMAP_FLAG_XATTR) {
1122                 fieinfo->fi_flags &= ~FIEMAP_FLAG_XATTR;
1123                 error = iomap_fiemap(inode, fieinfo, start, length,
1124                                 &xfs_xattr_iomap_ops);
1125         } else {
1126                 error = iomap_fiemap(inode, fieinfo, start, length,
1127                                 &xfs_iomap_ops);
1128         }
1129         xfs_iunlock(XFS_I(inode), XFS_IOLOCK_SHARED);
1130
1131         return error;
1132 }
1133
1134 STATIC int
1135 xfs_vn_tmpfile(
1136         struct inode    *dir,
1137         struct dentry   *dentry,
1138         umode_t         mode)
1139 {
1140         return xfs_generic_create(dir, dentry, mode, 0, true);
1141 }
1142
1143 static const struct inode_operations xfs_inode_operations = {
1144         .get_acl                = xfs_get_acl,
1145         .set_acl                = xfs_set_acl,
1146         .getattr                = xfs_vn_getattr,
1147         .setattr                = xfs_vn_setattr,
1148         .listxattr              = xfs_vn_listxattr,
1149         .fiemap                 = xfs_vn_fiemap,
1150         .update_time            = xfs_vn_update_time,
1151 };
1152
1153 static const struct inode_operations xfs_dir_inode_operations = {
1154         .create                 = xfs_vn_create,
1155         .lookup                 = xfs_vn_lookup,
1156         .link                   = xfs_vn_link,
1157         .unlink                 = xfs_vn_unlink,
1158         .symlink                = xfs_vn_symlink,
1159         .mkdir                  = xfs_vn_mkdir,
1160         /*
1161          * Yes, XFS uses the same method for rmdir and unlink.
1162          *
1163          * There are some subtile differences deeper in the code,
1164          * but we use S_ISDIR to check for those.
1165          */
1166         .rmdir                  = xfs_vn_unlink,
1167         .mknod                  = xfs_vn_mknod,
1168         .rename                 = xfs_vn_rename,
1169         .get_acl                = xfs_get_acl,
1170         .set_acl                = xfs_set_acl,
1171         .getattr                = xfs_vn_getattr,
1172         .setattr                = xfs_vn_setattr,
1173         .listxattr              = xfs_vn_listxattr,
1174         .update_time            = xfs_vn_update_time,
1175         .tmpfile                = xfs_vn_tmpfile,
1176 };
1177
1178 static const struct inode_operations xfs_dir_ci_inode_operations = {
1179         .create                 = xfs_vn_create,
1180         .lookup                 = xfs_vn_ci_lookup,
1181         .link                   = xfs_vn_link,
1182         .unlink                 = xfs_vn_unlink,
1183         .symlink                = xfs_vn_symlink,
1184         .mkdir                  = xfs_vn_mkdir,
1185         /*
1186          * Yes, XFS uses the same method for rmdir and unlink.
1187          *
1188          * There are some subtile differences deeper in the code,
1189          * but we use S_ISDIR to check for those.
1190          */
1191         .rmdir                  = xfs_vn_unlink,
1192         .mknod                  = xfs_vn_mknod,
1193         .rename                 = xfs_vn_rename,
1194         .get_acl                = xfs_get_acl,
1195         .set_acl                = xfs_set_acl,
1196         .getattr                = xfs_vn_getattr,
1197         .setattr                = xfs_vn_setattr,
1198         .listxattr              = xfs_vn_listxattr,
1199         .update_time            = xfs_vn_update_time,
1200         .tmpfile                = xfs_vn_tmpfile,
1201 };
1202
1203 static const struct inode_operations xfs_symlink_inode_operations = {
1204         .get_link               = xfs_vn_get_link,
1205         .getattr                = xfs_vn_getattr,
1206         .setattr                = xfs_vn_setattr,
1207         .listxattr              = xfs_vn_listxattr,
1208         .update_time            = xfs_vn_update_time,
1209 };
1210
1211 static const struct inode_operations xfs_inline_symlink_inode_operations = {
1212         .get_link               = xfs_vn_get_link_inline,
1213         .getattr                = xfs_vn_getattr,
1214         .setattr                = xfs_vn_setattr,
1215         .listxattr              = xfs_vn_listxattr,
1216         .update_time            = xfs_vn_update_time,
1217 };
1218
1219 /* Figure out if this file actually supports DAX. */
1220 static bool
1221 xfs_inode_supports_dax(
1222         struct xfs_inode        *ip)
1223 {
1224         struct xfs_mount        *mp = ip->i_mount;
1225
1226         /* Only supported on non-reflinked files. */
1227         if (!S_ISREG(VFS_I(ip)->i_mode) || xfs_is_reflink_inode(ip))
1228                 return false;
1229
1230         /* DAX mount option or DAX iflag must be set. */
1231         if (!(mp->m_flags & XFS_MOUNT_DAX) &&
1232             !(ip->i_d.di_flags2 & XFS_DIFLAG2_DAX))
1233                 return false;
1234
1235         /* Block size must match page size */
1236         if (mp->m_sb.sb_blocksize != PAGE_SIZE)
1237                 return false;
1238
1239         /* Device has to support DAX too. */
1240         return xfs_find_daxdev_for_inode(VFS_I(ip)) != NULL;
1241 }
1242
1243 STATIC void
1244 xfs_diflags_to_iflags(
1245         struct inode            *inode,
1246         struct xfs_inode        *ip)
1247 {
1248         uint16_t                flags = ip->i_d.di_flags;
1249
1250         inode->i_flags &= ~(S_IMMUTABLE | S_APPEND | S_SYNC |
1251                             S_NOATIME | S_DAX);
1252
1253         if (flags & XFS_DIFLAG_IMMUTABLE)
1254                 inode->i_flags |= S_IMMUTABLE;
1255         if (flags & XFS_DIFLAG_APPEND)
1256                 inode->i_flags |= S_APPEND;
1257         if (flags & XFS_DIFLAG_SYNC)
1258                 inode->i_flags |= S_SYNC;
1259         if (flags & XFS_DIFLAG_NOATIME)
1260                 inode->i_flags |= S_NOATIME;
1261         if (xfs_inode_supports_dax(ip))
1262                 inode->i_flags |= S_DAX;
1263 }
1264
1265 /*
1266  * Initialize the Linux inode.
1267  *
1268  * When reading existing inodes from disk this is called directly from xfs_iget,
1269  * when creating a new inode it is called from xfs_ialloc after setting up the
1270  * inode. These callers have different criteria for clearing XFS_INEW, so leave
1271  * it up to the caller to deal with unlocking the inode appropriately.
1272  */
1273 void
1274 xfs_setup_inode(
1275         struct xfs_inode        *ip)
1276 {
1277         struct inode            *inode = &ip->i_vnode;
1278         gfp_t                   gfp_mask;
1279
1280         inode->i_ino = ip->i_ino;
1281         inode->i_state = I_NEW;
1282
1283         inode_sb_list_add(inode);
1284         /* make the inode look hashed for the writeback code */
1285         inode_fake_hash(inode);
1286
1287         i_size_write(inode, ip->i_d.di_size);
1288         xfs_diflags_to_iflags(inode, ip);
1289
1290         if (S_ISDIR(inode->i_mode)) {
1291                 /*
1292                  * We set the i_rwsem class here to avoid potential races with
1293                  * lockdep_annotate_inode_mutex_key() reinitialising the lock
1294                  * after a filehandle lookup has already found the inode in
1295                  * cache before it has been unlocked via unlock_new_inode().
1296                  */
1297                 lockdep_set_class(&inode->i_rwsem,
1298                                   &inode->i_sb->s_type->i_mutex_dir_key);
1299                 lockdep_set_class(&ip->i_lock.mr_lock, &xfs_dir_ilock_class);
1300                 ip->d_ops = ip->i_mount->m_dir_inode_ops;
1301         } else {
1302                 ip->d_ops = ip->i_mount->m_nondir_inode_ops;
1303                 lockdep_set_class(&ip->i_lock.mr_lock, &xfs_nondir_ilock_class);
1304         }
1305
1306         /*
1307          * Ensure all page cache allocations are done from GFP_NOFS context to
1308          * prevent direct reclaim recursion back into the filesystem and blowing
1309          * stacks or deadlocking.
1310          */
1311         gfp_mask = mapping_gfp_mask(inode->i_mapping);
1312         mapping_set_gfp_mask(inode->i_mapping, (gfp_mask & ~(__GFP_FS)));
1313
1314         /*
1315          * If there is no attribute fork no ACL can exist on this inode,
1316          * and it can't have any file capabilities attached to it either.
1317          */
1318         if (!XFS_IFORK_Q(ip)) {
1319                 inode_has_no_xattr(inode);
1320                 cache_no_acl(inode);
1321         }
1322 }
1323
1324 void
1325 xfs_setup_iops(
1326         struct xfs_inode        *ip)
1327 {
1328         struct inode            *inode = &ip->i_vnode;
1329
1330         switch (inode->i_mode & S_IFMT) {
1331         case S_IFREG:
1332                 inode->i_op = &xfs_inode_operations;
1333                 inode->i_fop = &xfs_file_operations;
1334                 if (IS_DAX(inode))
1335                         inode->i_mapping->a_ops = &xfs_dax_aops;
1336                 else
1337                         inode->i_mapping->a_ops = &xfs_address_space_operations;
1338                 break;
1339         case S_IFDIR:
1340                 if (xfs_sb_version_hasasciici(&XFS_M(inode->i_sb)->m_sb))
1341                         inode->i_op = &xfs_dir_ci_inode_operations;
1342                 else
1343                         inode->i_op = &xfs_dir_inode_operations;
1344                 inode->i_fop = &xfs_dir_file_operations;
1345                 break;
1346         case S_IFLNK:
1347                 if (ip->i_df.if_flags & XFS_IFINLINE)
1348                         inode->i_op = &xfs_inline_symlink_inode_operations;
1349                 else
1350                         inode->i_op = &xfs_symlink_inode_operations;
1351                 break;
1352         default:
1353                 inode->i_op = &xfs_inode_operations;
1354                 init_special_inode(inode, inode->i_mode, inode->i_rdev);
1355                 break;
1356         }
1357 }