GNU Linux-libre 4.14.251-gnu1
[releases.git] / net / core / net_namespace.c
1 #define pr_fmt(fmt) KBUILD_MODNAME ": " fmt
2
3 #include <linux/workqueue.h>
4 #include <linux/rtnetlink.h>
5 #include <linux/cache.h>
6 #include <linux/slab.h>
7 #include <linux/list.h>
8 #include <linux/delay.h>
9 #include <linux/sched.h>
10 #include <linux/idr.h>
11 #include <linux/rculist.h>
12 #include <linux/nsproxy.h>
13 #include <linux/fs.h>
14 #include <linux/proc_ns.h>
15 #include <linux/file.h>
16 #include <linux/export.h>
17 #include <linux/user_namespace.h>
18 #include <linux/net_namespace.h>
19 #include <linux/sched/task.h>
20
21 #include <net/sock.h>
22 #include <net/netlink.h>
23 #include <net/net_namespace.h>
24 #include <net/netns/generic.h>
25
26 /*
27  *      Our network namespace constructor/destructor lists
28  */
29
30 static LIST_HEAD(pernet_list);
31 static struct list_head *first_device = &pernet_list;
32 DEFINE_MUTEX(net_mutex);
33
34 LIST_HEAD(net_namespace_list);
35 EXPORT_SYMBOL_GPL(net_namespace_list);
36
37 struct net init_net = {
38         .count          = ATOMIC_INIT(1),
39         .dev_base_head  = LIST_HEAD_INIT(init_net.dev_base_head),
40 };
41 EXPORT_SYMBOL(init_net);
42
43 static bool init_net_initialized;
44
45 #define MIN_PERNET_OPS_ID       \
46         ((sizeof(struct net_generic) + sizeof(void *) - 1) / sizeof(void *))
47
48 #define INITIAL_NET_GEN_PTRS    13 /* +1 for len +2 for rcu_head */
49
50 static unsigned int max_gen_ptrs = INITIAL_NET_GEN_PTRS;
51
52 static struct net_generic *net_alloc_generic(void)
53 {
54         struct net_generic *ng;
55         unsigned int generic_size = offsetof(struct net_generic, ptr[max_gen_ptrs]);
56
57         ng = kzalloc(generic_size, GFP_KERNEL);
58         if (ng)
59                 ng->s.len = max_gen_ptrs;
60
61         return ng;
62 }
63
64 static int net_assign_generic(struct net *net, unsigned int id, void *data)
65 {
66         struct net_generic *ng, *old_ng;
67
68         BUG_ON(!mutex_is_locked(&net_mutex));
69         BUG_ON(id < MIN_PERNET_OPS_ID);
70
71         old_ng = rcu_dereference_protected(net->gen,
72                                            lockdep_is_held(&net_mutex));
73         if (old_ng->s.len > id) {
74                 old_ng->ptr[id] = data;
75                 return 0;
76         }
77
78         ng = net_alloc_generic();
79         if (ng == NULL)
80                 return -ENOMEM;
81
82         /*
83          * Some synchronisation notes:
84          *
85          * The net_generic explores the net->gen array inside rcu
86          * read section. Besides once set the net->gen->ptr[x]
87          * pointer never changes (see rules in netns/generic.h).
88          *
89          * That said, we simply duplicate this array and schedule
90          * the old copy for kfree after a grace period.
91          */
92
93         memcpy(&ng->ptr[MIN_PERNET_OPS_ID], &old_ng->ptr[MIN_PERNET_OPS_ID],
94                (old_ng->s.len - MIN_PERNET_OPS_ID) * sizeof(void *));
95         ng->ptr[id] = data;
96
97         rcu_assign_pointer(net->gen, ng);
98         kfree_rcu(old_ng, s.rcu);
99         return 0;
100 }
101
102 static int ops_init(const struct pernet_operations *ops, struct net *net)
103 {
104         int err = -ENOMEM;
105         void *data = NULL;
106
107         if (ops->id && ops->size) {
108                 data = kzalloc(ops->size, GFP_KERNEL);
109                 if (!data)
110                         goto out;
111
112                 err = net_assign_generic(net, *ops->id, data);
113                 if (err)
114                         goto cleanup;
115         }
116         err = 0;
117         if (ops->init)
118                 err = ops->init(net);
119         if (!err)
120                 return 0;
121
122 cleanup:
123         kfree(data);
124
125 out:
126         return err;
127 }
128
129 static void ops_free(const struct pernet_operations *ops, struct net *net)
130 {
131         if (ops->id && ops->size) {
132                 kfree(net_generic(net, *ops->id));
133         }
134 }
135
136 static void ops_exit_list(const struct pernet_operations *ops,
137                           struct list_head *net_exit_list)
138 {
139         struct net *net;
140         if (ops->exit) {
141                 list_for_each_entry(net, net_exit_list, exit_list)
142                         ops->exit(net);
143         }
144         if (ops->exit_batch)
145                 ops->exit_batch(net_exit_list);
146 }
147
148 static void ops_free_list(const struct pernet_operations *ops,
149                           struct list_head *net_exit_list)
150 {
151         struct net *net;
152         if (ops->size && ops->id) {
153                 list_for_each_entry(net, net_exit_list, exit_list)
154                         ops_free(ops, net);
155         }
156 }
157
158 /* should be called with nsid_lock held */
159 static int alloc_netid(struct net *net, struct net *peer, int reqid)
160 {
161         int min = 0, max = 0;
162
163         if (reqid >= 0) {
164                 min = reqid;
165                 max = reqid + 1;
166         }
167
168         return idr_alloc(&net->netns_ids, peer, min, max, GFP_ATOMIC);
169 }
170
171 /* This function is used by idr_for_each(). If net is equal to peer, the
172  * function returns the id so that idr_for_each() stops. Because we cannot
173  * returns the id 0 (idr_for_each() will not stop), we return the magic value
174  * NET_ID_ZERO (-1) for it.
175  */
176 #define NET_ID_ZERO -1
177 static int net_eq_idr(int id, void *net, void *peer)
178 {
179         if (net_eq(net, peer))
180                 return id ? : NET_ID_ZERO;
181         return 0;
182 }
183
184 /* Must be called from RCU-critical section or with nsid_lock held. If
185  * a new id is assigned, the bool alloc is set to true, thus the
186  * caller knows that the new id must be notified via rtnl.
187  */
188 static int __peernet2id_alloc(struct net *net, struct net *peer, bool *alloc)
189 {
190         int id = idr_for_each(&net->netns_ids, net_eq_idr, peer);
191         bool alloc_it = *alloc;
192
193         *alloc = false;
194
195         /* Magic value for id 0. */
196         if (id == NET_ID_ZERO)
197                 return 0;
198         if (id > 0)
199                 return id;
200
201         if (alloc_it) {
202                 id = alloc_netid(net, peer, -1);
203                 *alloc = true;
204                 return id >= 0 ? id : NETNSA_NSID_NOT_ASSIGNED;
205         }
206
207         return NETNSA_NSID_NOT_ASSIGNED;
208 }
209
210 /* Must be called from RCU-critical section or with nsid_lock held */
211 static int __peernet2id(struct net *net, struct net *peer)
212 {
213         bool no = false;
214
215         return __peernet2id_alloc(net, peer, &no);
216 }
217
218 static void rtnl_net_notifyid(struct net *net, int cmd, int id);
219 /* This function returns the id of a peer netns. If no id is assigned, one will
220  * be allocated and returned.
221  */
222 int peernet2id_alloc(struct net *net, struct net *peer)
223 {
224         bool alloc;
225         int id;
226
227         if (atomic_read(&net->count) == 0)
228                 return NETNSA_NSID_NOT_ASSIGNED;
229         spin_lock_bh(&net->nsid_lock);
230         alloc = atomic_read(&peer->count) == 0 ? false : true;
231         id = __peernet2id_alloc(net, peer, &alloc);
232         spin_unlock_bh(&net->nsid_lock);
233         if (alloc && id >= 0)
234                 rtnl_net_notifyid(net, RTM_NEWNSID, id);
235         return id;
236 }
237
238 /* This function returns, if assigned, the id of a peer netns. */
239 int peernet2id(struct net *net, struct net *peer)
240 {
241         int id;
242
243         rcu_read_lock();
244         id = __peernet2id(net, peer);
245         rcu_read_unlock();
246
247         return id;
248 }
249 EXPORT_SYMBOL(peernet2id);
250
251 /* This function returns true is the peer netns has an id assigned into the
252  * current netns.
253  */
254 bool peernet_has_id(struct net *net, struct net *peer)
255 {
256         return peernet2id(net, peer) >= 0;
257 }
258
259 struct net *get_net_ns_by_id(struct net *net, int id)
260 {
261         struct net *peer;
262
263         if (id < 0)
264                 return NULL;
265
266         rcu_read_lock();
267         spin_lock_bh(&net->nsid_lock);
268         peer = idr_find(&net->netns_ids, id);
269         if (peer)
270                 peer = maybe_get_net(peer);
271         spin_unlock_bh(&net->nsid_lock);
272         rcu_read_unlock();
273
274         return peer;
275 }
276
277 /*
278  * setup_net runs the initializers for the network namespace object.
279  */
280 static __net_init int setup_net(struct net *net, struct user_namespace *user_ns)
281 {
282         /* Must be called with net_mutex held */
283         const struct pernet_operations *ops, *saved_ops;
284         int error = 0;
285         LIST_HEAD(net_exit_list);
286
287         atomic_set(&net->count, 1);
288         refcount_set(&net->passive, 1);
289         get_random_bytes(&net->hash_mix, sizeof(u32));
290         net->dev_base_seq = 1;
291         net->user_ns = user_ns;
292         idr_init(&net->netns_ids);
293         spin_lock_init(&net->nsid_lock);
294
295         list_for_each_entry(ops, &pernet_list, list) {
296                 error = ops_init(ops, net);
297                 if (error < 0)
298                         goto out_undo;
299         }
300 out:
301         return error;
302
303 out_undo:
304         /* Walk through the list backwards calling the exit functions
305          * for the pernet modules whose init functions did not fail.
306          */
307         list_add(&net->exit_list, &net_exit_list);
308         saved_ops = ops;
309         list_for_each_entry_continue_reverse(ops, &pernet_list, list)
310                 ops_exit_list(ops, &net_exit_list);
311
312         ops = saved_ops;
313         list_for_each_entry_continue_reverse(ops, &pernet_list, list)
314                 ops_free_list(ops, &net_exit_list);
315
316         rcu_barrier();
317         goto out;
318 }
319
320 static int __net_init net_defaults_init_net(struct net *net)
321 {
322         net->core.sysctl_somaxconn = SOMAXCONN;
323         return 0;
324 }
325
326 static struct pernet_operations net_defaults_ops = {
327         .init = net_defaults_init_net,
328 };
329
330 static __init int net_defaults_init(void)
331 {
332         if (register_pernet_subsys(&net_defaults_ops))
333                 panic("Cannot initialize net default settings");
334
335         return 0;
336 }
337
338 core_initcall(net_defaults_init);
339
340 #ifdef CONFIG_NET_NS
341 static struct ucounts *inc_net_namespaces(struct user_namespace *ns)
342 {
343         return inc_ucount(ns, current_euid(), UCOUNT_NET_NAMESPACES);
344 }
345
346 static void dec_net_namespaces(struct ucounts *ucounts)
347 {
348         dec_ucount(ucounts, UCOUNT_NET_NAMESPACES);
349 }
350
351 static struct kmem_cache *net_cachep;
352 static struct workqueue_struct *netns_wq;
353
354 static struct net *net_alloc(void)
355 {
356         struct net *net = NULL;
357         struct net_generic *ng;
358
359         ng = net_alloc_generic();
360         if (!ng)
361                 goto out;
362
363         net = kmem_cache_zalloc(net_cachep, GFP_KERNEL);
364         if (!net)
365                 goto out_free;
366
367         rcu_assign_pointer(net->gen, ng);
368 out:
369         return net;
370
371 out_free:
372         kfree(ng);
373         goto out;
374 }
375
376 static void net_free(struct net *net)
377 {
378         kfree(rcu_access_pointer(net->gen));
379         kmem_cache_free(net_cachep, net);
380 }
381
382 void net_drop_ns(void *p)
383 {
384         struct net *ns = p;
385         if (ns && refcount_dec_and_test(&ns->passive))
386                 net_free(ns);
387 }
388
389 struct net *copy_net_ns(unsigned long flags,
390                         struct user_namespace *user_ns, struct net *old_net)
391 {
392         struct ucounts *ucounts;
393         struct net *net;
394         int rv;
395
396         if (!(flags & CLONE_NEWNET))
397                 return get_net(old_net);
398
399         ucounts = inc_net_namespaces(user_ns);
400         if (!ucounts)
401                 return ERR_PTR(-ENOSPC);
402
403         net = net_alloc();
404         if (!net) {
405                 dec_net_namespaces(ucounts);
406                 return ERR_PTR(-ENOMEM);
407         }
408
409         get_user_ns(user_ns);
410
411         rv = mutex_lock_killable(&net_mutex);
412         if (rv < 0) {
413                 net_free(net);
414                 dec_net_namespaces(ucounts);
415                 put_user_ns(user_ns);
416                 return ERR_PTR(rv);
417         }
418
419         net->ucounts = ucounts;
420         rv = setup_net(net, user_ns);
421         if (rv == 0) {
422                 rtnl_lock();
423                 list_add_tail_rcu(&net->list, &net_namespace_list);
424                 rtnl_unlock();
425         }
426         mutex_unlock(&net_mutex);
427         if (rv < 0) {
428                 dec_net_namespaces(ucounts);
429                 put_user_ns(user_ns);
430                 net_drop_ns(net);
431                 return ERR_PTR(rv);
432         }
433         return net;
434 }
435
436 static DEFINE_SPINLOCK(cleanup_list_lock);
437 static LIST_HEAD(cleanup_list);  /* Must hold cleanup_list_lock to touch */
438
439 static void cleanup_net(struct work_struct *work)
440 {
441         const struct pernet_operations *ops;
442         struct net *net, *tmp;
443         struct list_head net_kill_list;
444         LIST_HEAD(net_exit_list);
445
446         /* Atomically snapshot the list of namespaces to cleanup */
447         spin_lock_irq(&cleanup_list_lock);
448         list_replace_init(&cleanup_list, &net_kill_list);
449         spin_unlock_irq(&cleanup_list_lock);
450
451         mutex_lock(&net_mutex);
452
453         /* Don't let anyone else find us. */
454         rtnl_lock();
455         list_for_each_entry(net, &net_kill_list, cleanup_list) {
456                 list_del_rcu(&net->list);
457                 list_add_tail(&net->exit_list, &net_exit_list);
458                 for_each_net(tmp) {
459                         int id;
460
461                         spin_lock_bh(&tmp->nsid_lock);
462                         id = __peernet2id(tmp, net);
463                         if (id >= 0)
464                                 idr_remove(&tmp->netns_ids, id);
465                         spin_unlock_bh(&tmp->nsid_lock);
466                         if (id >= 0)
467                                 rtnl_net_notifyid(tmp, RTM_DELNSID, id);
468                 }
469                 spin_lock_bh(&net->nsid_lock);
470                 idr_destroy(&net->netns_ids);
471                 spin_unlock_bh(&net->nsid_lock);
472
473         }
474         rtnl_unlock();
475
476         /*
477          * Another CPU might be rcu-iterating the list, wait for it.
478          * This needs to be before calling the exit() notifiers, so
479          * the rcu_barrier() below isn't sufficient alone.
480          */
481         synchronize_rcu();
482
483         /* Run all of the network namespace exit methods */
484         list_for_each_entry_reverse(ops, &pernet_list, list)
485                 ops_exit_list(ops, &net_exit_list);
486
487         /* Free the net generic variables */
488         list_for_each_entry_reverse(ops, &pernet_list, list)
489                 ops_free_list(ops, &net_exit_list);
490
491         mutex_unlock(&net_mutex);
492
493         /* Ensure there are no outstanding rcu callbacks using this
494          * network namespace.
495          */
496         rcu_barrier();
497
498         /* Finally it is safe to free my network namespace structure */
499         list_for_each_entry_safe(net, tmp, &net_exit_list, exit_list) {
500                 list_del_init(&net->exit_list);
501                 dec_net_namespaces(net->ucounts);
502                 put_user_ns(net->user_ns);
503                 net_drop_ns(net);
504         }
505 }
506
507 /**
508  * net_ns_barrier - wait until concurrent net_cleanup_work is done
509  *
510  * cleanup_net runs from work queue and will first remove namespaces
511  * from the global list, then run net exit functions.
512  *
513  * Call this in module exit path to make sure that all netns
514  * ->exit ops have been invoked before the function is removed.
515  */
516 void net_ns_barrier(void)
517 {
518         mutex_lock(&net_mutex);
519         mutex_unlock(&net_mutex);
520 }
521 EXPORT_SYMBOL(net_ns_barrier);
522
523 static DECLARE_WORK(net_cleanup_work, cleanup_net);
524
525 void __put_net(struct net *net)
526 {
527         /* Cleanup the network namespace in process context */
528         unsigned long flags;
529
530         spin_lock_irqsave(&cleanup_list_lock, flags);
531         list_add(&net->cleanup_list, &cleanup_list);
532         spin_unlock_irqrestore(&cleanup_list_lock, flags);
533
534         queue_work(netns_wq, &net_cleanup_work);
535 }
536 EXPORT_SYMBOL_GPL(__put_net);
537
538 struct net *get_net_ns_by_fd(int fd)
539 {
540         struct file *file;
541         struct ns_common *ns;
542         struct net *net;
543
544         file = proc_ns_fget(fd);
545         if (IS_ERR(file))
546                 return ERR_CAST(file);
547
548         ns = get_proc_ns(file_inode(file));
549         if (ns->ops == &netns_operations)
550                 net = get_net(container_of(ns, struct net, ns));
551         else
552                 net = ERR_PTR(-EINVAL);
553
554         fput(file);
555         return net;
556 }
557
558 #else
559 struct net *get_net_ns_by_fd(int fd)
560 {
561         return ERR_PTR(-EINVAL);
562 }
563 #endif
564 EXPORT_SYMBOL_GPL(get_net_ns_by_fd);
565
566 struct net *get_net_ns_by_pid(pid_t pid)
567 {
568         struct task_struct *tsk;
569         struct net *net;
570
571         /* Lookup the network namespace */
572         net = ERR_PTR(-ESRCH);
573         rcu_read_lock();
574         tsk = find_task_by_vpid(pid);
575         if (tsk) {
576                 struct nsproxy *nsproxy;
577                 task_lock(tsk);
578                 nsproxy = tsk->nsproxy;
579                 if (nsproxy)
580                         net = get_net(nsproxy->net_ns);
581                 task_unlock(tsk);
582         }
583         rcu_read_unlock();
584         return net;
585 }
586 EXPORT_SYMBOL_GPL(get_net_ns_by_pid);
587
588 static __net_init int net_ns_net_init(struct net *net)
589 {
590 #ifdef CONFIG_NET_NS
591         net->ns.ops = &netns_operations;
592 #endif
593         return ns_alloc_inum(&net->ns);
594 }
595
596 static __net_exit void net_ns_net_exit(struct net *net)
597 {
598         ns_free_inum(&net->ns);
599 }
600
601 static struct pernet_operations __net_initdata net_ns_ops = {
602         .init = net_ns_net_init,
603         .exit = net_ns_net_exit,
604 };
605
606 static const struct nla_policy rtnl_net_policy[NETNSA_MAX + 1] = {
607         [NETNSA_NONE]           = { .type = NLA_UNSPEC },
608         [NETNSA_NSID]           = { .type = NLA_S32 },
609         [NETNSA_PID]            = { .type = NLA_U32 },
610         [NETNSA_FD]             = { .type = NLA_U32 },
611 };
612
613 static int rtnl_net_newid(struct sk_buff *skb, struct nlmsghdr *nlh,
614                           struct netlink_ext_ack *extack)
615 {
616         struct net *net = sock_net(skb->sk);
617         struct nlattr *tb[NETNSA_MAX + 1];
618         struct nlattr *nla;
619         struct net *peer;
620         int nsid, err;
621
622         err = nlmsg_parse(nlh, sizeof(struct rtgenmsg), tb, NETNSA_MAX,
623                           rtnl_net_policy, extack);
624         if (err < 0)
625                 return err;
626         if (!tb[NETNSA_NSID]) {
627                 NL_SET_ERR_MSG(extack, "nsid is missing");
628                 return -EINVAL;
629         }
630         nsid = nla_get_s32(tb[NETNSA_NSID]);
631
632         if (tb[NETNSA_PID]) {
633                 peer = get_net_ns_by_pid(nla_get_u32(tb[NETNSA_PID]));
634                 nla = tb[NETNSA_PID];
635         } else if (tb[NETNSA_FD]) {
636                 peer = get_net_ns_by_fd(nla_get_u32(tb[NETNSA_FD]));
637                 nla = tb[NETNSA_FD];
638         } else {
639                 NL_SET_ERR_MSG(extack, "Peer netns reference is missing");
640                 return -EINVAL;
641         }
642         if (IS_ERR(peer)) {
643                 NL_SET_BAD_ATTR(extack, nla);
644                 NL_SET_ERR_MSG(extack, "Peer netns reference is invalid");
645                 return PTR_ERR(peer);
646         }
647
648         spin_lock_bh(&net->nsid_lock);
649         if (__peernet2id(net, peer) >= 0) {
650                 spin_unlock_bh(&net->nsid_lock);
651                 err = -EEXIST;
652                 NL_SET_BAD_ATTR(extack, nla);
653                 NL_SET_ERR_MSG(extack,
654                                "Peer netns already has a nsid assigned");
655                 goto out;
656         }
657
658         err = alloc_netid(net, peer, nsid);
659         spin_unlock_bh(&net->nsid_lock);
660         if (err >= 0) {
661                 rtnl_net_notifyid(net, RTM_NEWNSID, err);
662                 err = 0;
663         } else if (err == -ENOSPC && nsid >= 0) {
664                 err = -EEXIST;
665                 NL_SET_BAD_ATTR(extack, tb[NETNSA_NSID]);
666                 NL_SET_ERR_MSG(extack, "The specified nsid is already used");
667         }
668 out:
669         put_net(peer);
670         return err;
671 }
672
673 static int rtnl_net_get_size(void)
674 {
675         return NLMSG_ALIGN(sizeof(struct rtgenmsg))
676                + nla_total_size(sizeof(s32)) /* NETNSA_NSID */
677                ;
678 }
679
680 static int rtnl_net_fill(struct sk_buff *skb, u32 portid, u32 seq, int flags,
681                          int cmd, struct net *net, int nsid)
682 {
683         struct nlmsghdr *nlh;
684         struct rtgenmsg *rth;
685
686         nlh = nlmsg_put(skb, portid, seq, cmd, sizeof(*rth), flags);
687         if (!nlh)
688                 return -EMSGSIZE;
689
690         rth = nlmsg_data(nlh);
691         rth->rtgen_family = AF_UNSPEC;
692
693         if (nla_put_s32(skb, NETNSA_NSID, nsid))
694                 goto nla_put_failure;
695
696         nlmsg_end(skb, nlh);
697         return 0;
698
699 nla_put_failure:
700         nlmsg_cancel(skb, nlh);
701         return -EMSGSIZE;
702 }
703
704 static int rtnl_net_getid(struct sk_buff *skb, struct nlmsghdr *nlh,
705                           struct netlink_ext_ack *extack)
706 {
707         struct net *net = sock_net(skb->sk);
708         struct nlattr *tb[NETNSA_MAX + 1];
709         struct nlattr *nla;
710         struct sk_buff *msg;
711         struct net *peer;
712         int err, id;
713
714         err = nlmsg_parse(nlh, sizeof(struct rtgenmsg), tb, NETNSA_MAX,
715                           rtnl_net_policy, extack);
716         if (err < 0)
717                 return err;
718         if (tb[NETNSA_PID]) {
719                 peer = get_net_ns_by_pid(nla_get_u32(tb[NETNSA_PID]));
720                 nla = tb[NETNSA_PID];
721         } else if (tb[NETNSA_FD]) {
722                 peer = get_net_ns_by_fd(nla_get_u32(tb[NETNSA_FD]));
723                 nla = tb[NETNSA_FD];
724         } else {
725                 NL_SET_ERR_MSG(extack, "Peer netns reference is missing");
726                 return -EINVAL;
727         }
728
729         if (IS_ERR(peer)) {
730                 NL_SET_BAD_ATTR(extack, nla);
731                 NL_SET_ERR_MSG(extack, "Peer netns reference is invalid");
732                 return PTR_ERR(peer);
733         }
734
735         msg = nlmsg_new(rtnl_net_get_size(), GFP_KERNEL);
736         if (!msg) {
737                 err = -ENOMEM;
738                 goto out;
739         }
740
741         id = peernet2id(net, peer);
742         err = rtnl_net_fill(msg, NETLINK_CB(skb).portid, nlh->nlmsg_seq, 0,
743                             RTM_NEWNSID, net, id);
744         if (err < 0)
745                 goto err_out;
746
747         err = rtnl_unicast(msg, net, NETLINK_CB(skb).portid);
748         goto out;
749
750 err_out:
751         nlmsg_free(msg);
752 out:
753         put_net(peer);
754         return err;
755 }
756
757 struct rtnl_net_dump_cb {
758         struct net *net;
759         struct sk_buff *skb;
760         struct netlink_callback *cb;
761         int idx;
762         int s_idx;
763 };
764
765 /* Runs in RCU-critical section. */
766 static int rtnl_net_dumpid_one(int id, void *peer, void *data)
767 {
768         struct rtnl_net_dump_cb *net_cb = (struct rtnl_net_dump_cb *)data;
769         int ret;
770
771         if (net_cb->idx < net_cb->s_idx)
772                 goto cont;
773
774         ret = rtnl_net_fill(net_cb->skb, NETLINK_CB(net_cb->cb->skb).portid,
775                             net_cb->cb->nlh->nlmsg_seq, NLM_F_MULTI,
776                             RTM_NEWNSID, net_cb->net, id);
777         if (ret < 0)
778                 return ret;
779
780 cont:
781         net_cb->idx++;
782         return 0;
783 }
784
785 static int rtnl_net_dumpid(struct sk_buff *skb, struct netlink_callback *cb)
786 {
787         struct net *net = sock_net(skb->sk);
788         struct rtnl_net_dump_cb net_cb = {
789                 .net = net,
790                 .skb = skb,
791                 .cb = cb,
792                 .idx = 0,
793                 .s_idx = cb->args[0],
794         };
795
796         rcu_read_lock();
797         idr_for_each(&net->netns_ids, rtnl_net_dumpid_one, &net_cb);
798         rcu_read_unlock();
799
800         cb->args[0] = net_cb.idx;
801         return skb->len;
802 }
803
804 static void rtnl_net_notifyid(struct net *net, int cmd, int id)
805 {
806         struct sk_buff *msg;
807         int err = -ENOMEM;
808
809         msg = nlmsg_new(rtnl_net_get_size(), GFP_KERNEL);
810         if (!msg)
811                 goto out;
812
813         err = rtnl_net_fill(msg, 0, 0, 0, cmd, net, id);
814         if (err < 0)
815                 goto err_out;
816
817         rtnl_notify(msg, net, 0, RTNLGRP_NSID, NULL, 0);
818         return;
819
820 err_out:
821         nlmsg_free(msg);
822 out:
823         rtnl_set_sk_err(net, RTNLGRP_NSID, err);
824 }
825
826 static int __init net_ns_init(void)
827 {
828         struct net_generic *ng;
829
830 #ifdef CONFIG_NET_NS
831         net_cachep = kmem_cache_create("net_namespace", sizeof(struct net),
832                                         SMP_CACHE_BYTES,
833                                         SLAB_PANIC, NULL);
834
835         /* Create workqueue for cleanup */
836         netns_wq = create_singlethread_workqueue("netns");
837         if (!netns_wq)
838                 panic("Could not create netns workq");
839 #endif
840
841         ng = net_alloc_generic();
842         if (!ng)
843                 panic("Could not allocate generic netns");
844
845         rcu_assign_pointer(init_net.gen, ng);
846
847         mutex_lock(&net_mutex);
848         if (setup_net(&init_net, &init_user_ns))
849                 panic("Could not setup the initial network namespace");
850
851         init_net_initialized = true;
852
853         rtnl_lock();
854         list_add_tail_rcu(&init_net.list, &net_namespace_list);
855         rtnl_unlock();
856
857         mutex_unlock(&net_mutex);
858
859         if (register_pernet_subsys(&net_ns_ops))
860                 panic("Could not register network namespace subsystems");
861
862         rtnl_register(PF_UNSPEC, RTM_NEWNSID, rtnl_net_newid, NULL,
863                       RTNL_FLAG_DOIT_UNLOCKED);
864         rtnl_register(PF_UNSPEC, RTM_GETNSID, rtnl_net_getid, rtnl_net_dumpid,
865                       RTNL_FLAG_DOIT_UNLOCKED);
866
867         return 0;
868 }
869
870 pure_initcall(net_ns_init);
871
872 #ifdef CONFIG_NET_NS
873 static int __register_pernet_operations(struct list_head *list,
874                                         struct pernet_operations *ops)
875 {
876         struct net *net;
877         int error;
878         LIST_HEAD(net_exit_list);
879
880         list_add_tail(&ops->list, list);
881         if (ops->init || (ops->id && ops->size)) {
882                 for_each_net(net) {
883                         error = ops_init(ops, net);
884                         if (error)
885                                 goto out_undo;
886                         list_add_tail(&net->exit_list, &net_exit_list);
887                 }
888         }
889         return 0;
890
891 out_undo:
892         /* If I have an error cleanup all namespaces I initialized */
893         list_del(&ops->list);
894         ops_exit_list(ops, &net_exit_list);
895         ops_free_list(ops, &net_exit_list);
896         return error;
897 }
898
899 static void __unregister_pernet_operations(struct pernet_operations *ops)
900 {
901         struct net *net;
902         LIST_HEAD(net_exit_list);
903
904         list_del(&ops->list);
905         for_each_net(net)
906                 list_add_tail(&net->exit_list, &net_exit_list);
907         ops_exit_list(ops, &net_exit_list);
908         ops_free_list(ops, &net_exit_list);
909 }
910
911 #else
912
913 static int __register_pernet_operations(struct list_head *list,
914                                         struct pernet_operations *ops)
915 {
916         if (!init_net_initialized) {
917                 list_add_tail(&ops->list, list);
918                 return 0;
919         }
920
921         return ops_init(ops, &init_net);
922 }
923
924 static void __unregister_pernet_operations(struct pernet_operations *ops)
925 {
926         if (!init_net_initialized) {
927                 list_del(&ops->list);
928         } else {
929                 LIST_HEAD(net_exit_list);
930                 list_add(&init_net.exit_list, &net_exit_list);
931                 ops_exit_list(ops, &net_exit_list);
932                 ops_free_list(ops, &net_exit_list);
933         }
934 }
935
936 #endif /* CONFIG_NET_NS */
937
938 static DEFINE_IDA(net_generic_ids);
939
940 static int register_pernet_operations(struct list_head *list,
941                                       struct pernet_operations *ops)
942 {
943         int error;
944
945         if (ops->id) {
946 again:
947                 error = ida_get_new_above(&net_generic_ids, MIN_PERNET_OPS_ID, ops->id);
948                 if (error < 0) {
949                         if (error == -EAGAIN) {
950                                 ida_pre_get(&net_generic_ids, GFP_KERNEL);
951                                 goto again;
952                         }
953                         return error;
954                 }
955                 max_gen_ptrs = max(max_gen_ptrs, *ops->id + 1);
956         }
957         error = __register_pernet_operations(list, ops);
958         if (error) {
959                 rcu_barrier();
960                 if (ops->id)
961                         ida_remove(&net_generic_ids, *ops->id);
962         }
963
964         return error;
965 }
966
967 static void unregister_pernet_operations(struct pernet_operations *ops)
968 {
969         
970         __unregister_pernet_operations(ops);
971         rcu_barrier();
972         if (ops->id)
973                 ida_remove(&net_generic_ids, *ops->id);
974 }
975
976 /**
977  *      register_pernet_subsys - register a network namespace subsystem
978  *      @ops:  pernet operations structure for the subsystem
979  *
980  *      Register a subsystem which has init and exit functions
981  *      that are called when network namespaces are created and
982  *      destroyed respectively.
983  *
984  *      When registered all network namespace init functions are
985  *      called for every existing network namespace.  Allowing kernel
986  *      modules to have a race free view of the set of network namespaces.
987  *
988  *      When a new network namespace is created all of the init
989  *      methods are called in the order in which they were registered.
990  *
991  *      When a network namespace is destroyed all of the exit methods
992  *      are called in the reverse of the order with which they were
993  *      registered.
994  */
995 int register_pernet_subsys(struct pernet_operations *ops)
996 {
997         int error;
998         mutex_lock(&net_mutex);
999         error =  register_pernet_operations(first_device, ops);
1000         mutex_unlock(&net_mutex);
1001         return error;
1002 }
1003 EXPORT_SYMBOL_GPL(register_pernet_subsys);
1004
1005 /**
1006  *      unregister_pernet_subsys - unregister a network namespace subsystem
1007  *      @ops: pernet operations structure to manipulate
1008  *
1009  *      Remove the pernet operations structure from the list to be
1010  *      used when network namespaces are created or destroyed.  In
1011  *      addition run the exit method for all existing network
1012  *      namespaces.
1013  */
1014 void unregister_pernet_subsys(struct pernet_operations *ops)
1015 {
1016         mutex_lock(&net_mutex);
1017         unregister_pernet_operations(ops);
1018         mutex_unlock(&net_mutex);
1019 }
1020 EXPORT_SYMBOL_GPL(unregister_pernet_subsys);
1021
1022 /**
1023  *      register_pernet_device - register a network namespace device
1024  *      @ops:  pernet operations structure for the subsystem
1025  *
1026  *      Register a device which has init and exit functions
1027  *      that are called when network namespaces are created and
1028  *      destroyed respectively.
1029  *
1030  *      When registered all network namespace init functions are
1031  *      called for every existing network namespace.  Allowing kernel
1032  *      modules to have a race free view of the set of network namespaces.
1033  *
1034  *      When a new network namespace is created all of the init
1035  *      methods are called in the order in which they were registered.
1036  *
1037  *      When a network namespace is destroyed all of the exit methods
1038  *      are called in the reverse of the order with which they were
1039  *      registered.
1040  */
1041 int register_pernet_device(struct pernet_operations *ops)
1042 {
1043         int error;
1044         mutex_lock(&net_mutex);
1045         error = register_pernet_operations(&pernet_list, ops);
1046         if (!error && (first_device == &pernet_list))
1047                 first_device = &ops->list;
1048         mutex_unlock(&net_mutex);
1049         return error;
1050 }
1051 EXPORT_SYMBOL_GPL(register_pernet_device);
1052
1053 /**
1054  *      unregister_pernet_device - unregister a network namespace netdevice
1055  *      @ops: pernet operations structure to manipulate
1056  *
1057  *      Remove the pernet operations structure from the list to be
1058  *      used when network namespaces are created or destroyed.  In
1059  *      addition run the exit method for all existing network
1060  *      namespaces.
1061  */
1062 void unregister_pernet_device(struct pernet_operations *ops)
1063 {
1064         mutex_lock(&net_mutex);
1065         if (&ops->list == first_device)
1066                 first_device = first_device->next;
1067         unregister_pernet_operations(ops);
1068         mutex_unlock(&net_mutex);
1069 }
1070 EXPORT_SYMBOL_GPL(unregister_pernet_device);
1071
1072 #ifdef CONFIG_NET_NS
1073 static struct ns_common *netns_get(struct task_struct *task)
1074 {
1075         struct net *net = NULL;
1076         struct nsproxy *nsproxy;
1077
1078         task_lock(task);
1079         nsproxy = task->nsproxy;
1080         if (nsproxy)
1081                 net = get_net(nsproxy->net_ns);
1082         task_unlock(task);
1083
1084         return net ? &net->ns : NULL;
1085 }
1086
1087 static inline struct net *to_net_ns(struct ns_common *ns)
1088 {
1089         return container_of(ns, struct net, ns);
1090 }
1091
1092 static void netns_put(struct ns_common *ns)
1093 {
1094         put_net(to_net_ns(ns));
1095 }
1096
1097 static int netns_install(struct nsproxy *nsproxy, struct ns_common *ns)
1098 {
1099         struct net *net = to_net_ns(ns);
1100
1101         if (!ns_capable(net->user_ns, CAP_SYS_ADMIN) ||
1102             !ns_capable(current_user_ns(), CAP_SYS_ADMIN))
1103                 return -EPERM;
1104
1105         put_net(nsproxy->net_ns);
1106         nsproxy->net_ns = get_net(net);
1107         return 0;
1108 }
1109
1110 static struct user_namespace *netns_owner(struct ns_common *ns)
1111 {
1112         return to_net_ns(ns)->user_ns;
1113 }
1114
1115 const struct proc_ns_operations netns_operations = {
1116         .name           = "net",
1117         .type           = CLONE_NEWNET,
1118         .get            = netns_get,
1119         .put            = netns_put,
1120         .install        = netns_install,
1121         .owner          = netns_owner,
1122 };
1123 #endif