GNU Linux-libre 4.19.211-gnu1
[releases.git] / net / ipv4 / icmp.c
1 /*
2  *      NET3:   Implementation of the ICMP protocol layer.
3  *
4  *              Alan Cox, <alan@lxorguk.ukuu.org.uk>
5  *
6  *      This program is free software; you can redistribute it and/or
7  *      modify it under the terms of the GNU General Public License
8  *      as published by the Free Software Foundation; either version
9  *      2 of the License, or (at your option) any later version.
10  *
11  *      Some of the function names and the icmp unreach table for this
12  *      module were derived from [icmp.c 1.0.11 06/02/93] by
13  *      Ross Biro, Fred N. van Kempen, Mark Evans, Alan Cox, Gerhard Koerting.
14  *      Other than that this module is a complete rewrite.
15  *
16  *      Fixes:
17  *      Clemens Fruhwirth       :       introduce global icmp rate limiting
18  *                                      with icmp type masking ability instead
19  *                                      of broken per type icmp timeouts.
20  *              Mike Shaver     :       RFC1122 checks.
21  *              Alan Cox        :       Multicast ping reply as self.
22  *              Alan Cox        :       Fix atomicity lockup in ip_build_xmit
23  *                                      call.
24  *              Alan Cox        :       Added 216,128 byte paths to the MTU
25  *                                      code.
26  *              Martin Mares    :       RFC1812 checks.
27  *              Martin Mares    :       Can be configured to follow redirects
28  *                                      if acting as a router _without_ a
29  *                                      routing protocol (RFC 1812).
30  *              Martin Mares    :       Echo requests may be configured to
31  *                                      be ignored (RFC 1812).
32  *              Martin Mares    :       Limitation of ICMP error message
33  *                                      transmit rate (RFC 1812).
34  *              Martin Mares    :       TOS and Precedence set correctly
35  *                                      (RFC 1812).
36  *              Martin Mares    :       Now copying as much data from the
37  *                                      original packet as we can without
38  *                                      exceeding 576 bytes (RFC 1812).
39  *      Willy Konynenberg       :       Transparent proxying support.
40  *              Keith Owens     :       RFC1191 correction for 4.2BSD based
41  *                                      path MTU bug.
42  *              Thomas Quinot   :       ICMP Dest Unreach codes up to 15 are
43  *                                      valid (RFC 1812).
44  *              Andi Kleen      :       Check all packet lengths properly
45  *                                      and moved all kfree_skb() up to
46  *                                      icmp_rcv.
47  *              Andi Kleen      :       Move the rate limit bookkeeping
48  *                                      into the dest entry and use a token
49  *                                      bucket filter (thanks to ANK). Make
50  *                                      the rates sysctl configurable.
51  *              Yu Tianli       :       Fixed two ugly bugs in icmp_send
52  *                                      - IP option length was accounted wrongly
53  *                                      - ICMP header length was not accounted
54  *                                        at all.
55  *              Tristan Greaves :       Added sysctl option to ignore bogus
56  *                                      broadcast responses from broken routers.
57  *
58  * To Fix:
59  *
60  *      - Should use skb_pull() instead of all the manual checking.
61  *        This would also greatly simply some upper layer error handlers. --AK
62  *
63  */
64
65 #define pr_fmt(fmt) KBUILD_MODNAME ": " fmt
66
67 #include <linux/module.h>
68 #include <linux/types.h>
69 #include <linux/jiffies.h>
70 #include <linux/kernel.h>
71 #include <linux/fcntl.h>
72 #include <linux/socket.h>
73 #include <linux/in.h>
74 #include <linux/inet.h>
75 #include <linux/inetdevice.h>
76 #include <linux/netdevice.h>
77 #include <linux/string.h>
78 #include <linux/netfilter_ipv4.h>
79 #include <linux/slab.h>
80 #include <net/snmp.h>
81 #include <net/ip.h>
82 #include <net/route.h>
83 #include <net/protocol.h>
84 #include <net/icmp.h>
85 #include <net/tcp.h>
86 #include <net/udp.h>
87 #include <net/raw.h>
88 #include <net/ping.h>
89 #include <linux/skbuff.h>
90 #include <net/sock.h>
91 #include <linux/errno.h>
92 #include <linux/timer.h>
93 #include <linux/init.h>
94 #include <linux/uaccess.h>
95 #include <net/checksum.h>
96 #include <net/xfrm.h>
97 #include <net/inet_common.h>
98 #include <net/ip_fib.h>
99 #include <net/l3mdev.h>
100
101 /*
102  *      Build xmit assembly blocks
103  */
104
105 struct icmp_bxm {
106         struct sk_buff *skb;
107         int offset;
108         int data_len;
109
110         struct {
111                 struct icmphdr icmph;
112                 __be32         times[3];
113         } data;
114         int head_len;
115         struct ip_options_data replyopts;
116 };
117
118 /* An array of errno for error messages from dest unreach. */
119 /* RFC 1122: 3.2.2.1 States that NET_UNREACH, HOST_UNREACH and SR_FAILED MUST be considered 'transient errs'. */
120
121 const struct icmp_err icmp_err_convert[] = {
122         {
123                 .errno = ENETUNREACH,   /* ICMP_NET_UNREACH */
124                 .fatal = 0,
125         },
126         {
127                 .errno = EHOSTUNREACH,  /* ICMP_HOST_UNREACH */
128                 .fatal = 0,
129         },
130         {
131                 .errno = ENOPROTOOPT    /* ICMP_PROT_UNREACH */,
132                 .fatal = 1,
133         },
134         {
135                 .errno = ECONNREFUSED,  /* ICMP_PORT_UNREACH */
136                 .fatal = 1,
137         },
138         {
139                 .errno = EMSGSIZE,      /* ICMP_FRAG_NEEDED */
140                 .fatal = 0,
141         },
142         {
143                 .errno = EOPNOTSUPP,    /* ICMP_SR_FAILED */
144                 .fatal = 0,
145         },
146         {
147                 .errno = ENETUNREACH,   /* ICMP_NET_UNKNOWN */
148                 .fatal = 1,
149         },
150         {
151                 .errno = EHOSTDOWN,     /* ICMP_HOST_UNKNOWN */
152                 .fatal = 1,
153         },
154         {
155                 .errno = ENONET,        /* ICMP_HOST_ISOLATED */
156                 .fatal = 1,
157         },
158         {
159                 .errno = ENETUNREACH,   /* ICMP_NET_ANO */
160                 .fatal = 1,
161         },
162         {
163                 .errno = EHOSTUNREACH,  /* ICMP_HOST_ANO */
164                 .fatal = 1,
165         },
166         {
167                 .errno = ENETUNREACH,   /* ICMP_NET_UNR_TOS */
168                 .fatal = 0,
169         },
170         {
171                 .errno = EHOSTUNREACH,  /* ICMP_HOST_UNR_TOS */
172                 .fatal = 0,
173         },
174         {
175                 .errno = EHOSTUNREACH,  /* ICMP_PKT_FILTERED */
176                 .fatal = 1,
177         },
178         {
179                 .errno = EHOSTUNREACH,  /* ICMP_PREC_VIOLATION */
180                 .fatal = 1,
181         },
182         {
183                 .errno = EHOSTUNREACH,  /* ICMP_PREC_CUTOFF */
184                 .fatal = 1,
185         },
186 };
187 EXPORT_SYMBOL(icmp_err_convert);
188
189 /*
190  *      ICMP control array. This specifies what to do with each ICMP.
191  */
192
193 struct icmp_control {
194         bool (*handler)(struct sk_buff *skb);
195         short   error;          /* This ICMP is classed as an error message */
196 };
197
198 static const struct icmp_control icmp_pointers[NR_ICMP_TYPES+1];
199
200 /*
201  *      The ICMP socket(s). This is the most convenient way to flow control
202  *      our ICMP output as well as maintain a clean interface throughout
203  *      all layers. All Socketless IP sends will soon be gone.
204  *
205  *      On SMP we have one ICMP socket per-cpu.
206  */
207 static struct sock *icmp_sk(struct net *net)
208 {
209         return *this_cpu_ptr(net->ipv4.icmp_sk);
210 }
211
212 /* Called with BH disabled */
213 static inline struct sock *icmp_xmit_lock(struct net *net)
214 {
215         struct sock *sk;
216
217         sk = icmp_sk(net);
218
219         if (unlikely(!spin_trylock(&sk->sk_lock.slock))) {
220                 /* This can happen if the output path signals a
221                  * dst_link_failure() for an outgoing ICMP packet.
222                  */
223                 return NULL;
224         }
225         return sk;
226 }
227
228 static inline void icmp_xmit_unlock(struct sock *sk)
229 {
230         spin_unlock(&sk->sk_lock.slock);
231 }
232
233 int sysctl_icmp_msgs_per_sec __read_mostly = 1000;
234 int sysctl_icmp_msgs_burst __read_mostly = 50;
235
236 static struct {
237         spinlock_t      lock;
238         u32             credit;
239         u32             stamp;
240 } icmp_global = {
241         .lock           = __SPIN_LOCK_UNLOCKED(icmp_global.lock),
242 };
243
244 /**
245  * icmp_global_allow - Are we allowed to send one more ICMP message ?
246  *
247  * Uses a token bucket to limit our ICMP messages to ~sysctl_icmp_msgs_per_sec.
248  * Returns false if we reached the limit and can not send another packet.
249  * Note: called with BH disabled
250  */
251 bool icmp_global_allow(void)
252 {
253         u32 credit, delta, incr = 0, now = (u32)jiffies;
254         bool rc = false;
255
256         /* Check if token bucket is empty and cannot be refilled
257          * without taking the spinlock. The READ_ONCE() are paired
258          * with the following WRITE_ONCE() in this same function.
259          */
260         if (!READ_ONCE(icmp_global.credit)) {
261                 delta = min_t(u32, now - READ_ONCE(icmp_global.stamp), HZ);
262                 if (delta < HZ / 50)
263                         return false;
264         }
265
266         spin_lock(&icmp_global.lock);
267         delta = min_t(u32, now - icmp_global.stamp, HZ);
268         if (delta >= HZ / 50) {
269                 incr = sysctl_icmp_msgs_per_sec * delta / HZ ;
270                 if (incr)
271                         WRITE_ONCE(icmp_global.stamp, now);
272         }
273         credit = min_t(u32, icmp_global.credit + incr, sysctl_icmp_msgs_burst);
274         if (credit) {
275                 /* We want to use a credit of one in average, but need to randomize
276                  * it for security reasons.
277                  */
278                 credit = max_t(int, credit - prandom_u32_max(3), 0);
279                 rc = true;
280         }
281         WRITE_ONCE(icmp_global.credit, credit);
282         spin_unlock(&icmp_global.lock);
283         return rc;
284 }
285 EXPORT_SYMBOL(icmp_global_allow);
286
287 static bool icmpv4_mask_allow(struct net *net, int type, int code)
288 {
289         if (type > NR_ICMP_TYPES)
290                 return true;
291
292         /* Don't limit PMTU discovery. */
293         if (type == ICMP_DEST_UNREACH && code == ICMP_FRAG_NEEDED)
294                 return true;
295
296         /* Limit if icmp type is enabled in ratemask. */
297         if (!((1 << type) & net->ipv4.sysctl_icmp_ratemask))
298                 return true;
299
300         return false;
301 }
302
303 static bool icmpv4_global_allow(struct net *net, int type, int code)
304 {
305         if (icmpv4_mask_allow(net, type, code))
306                 return true;
307
308         if (icmp_global_allow())
309                 return true;
310
311         return false;
312 }
313
314 /*
315  *      Send an ICMP frame.
316  */
317
318 static bool icmpv4_xrlim_allow(struct net *net, struct rtable *rt,
319                                struct flowi4 *fl4, int type, int code)
320 {
321         struct dst_entry *dst = &rt->dst;
322         struct inet_peer *peer;
323         bool rc = true;
324         int vif;
325
326         if (icmpv4_mask_allow(net, type, code))
327                 goto out;
328
329         /* No rate limit on loopback */
330         if (dst->dev && (dst->dev->flags&IFF_LOOPBACK))
331                 goto out;
332
333         vif = l3mdev_master_ifindex(dst->dev);
334         peer = inet_getpeer_v4(net->ipv4.peers, fl4->daddr, vif, 1);
335         rc = inet_peer_xrlim_allow(peer, net->ipv4.sysctl_icmp_ratelimit);
336         if (peer)
337                 inet_putpeer(peer);
338 out:
339         return rc;
340 }
341
342 /*
343  *      Maintain the counters used in the SNMP statistics for outgoing ICMP
344  */
345 void icmp_out_count(struct net *net, unsigned char type)
346 {
347         ICMPMSGOUT_INC_STATS(net, type);
348         ICMP_INC_STATS(net, ICMP_MIB_OUTMSGS);
349 }
350
351 /*
352  *      Checksum each fragment, and on the first include the headers and final
353  *      checksum.
354  */
355 static int icmp_glue_bits(void *from, char *to, int offset, int len, int odd,
356                           struct sk_buff *skb)
357 {
358         struct icmp_bxm *icmp_param = (struct icmp_bxm *)from;
359         __wsum csum;
360
361         csum = skb_copy_and_csum_bits(icmp_param->skb,
362                                       icmp_param->offset + offset,
363                                       to, len, 0);
364
365         skb->csum = csum_block_add(skb->csum, csum, odd);
366         if (icmp_pointers[icmp_param->data.icmph.type].error)
367                 nf_ct_attach(skb, icmp_param->skb);
368         return 0;
369 }
370
371 static void icmp_push_reply(struct icmp_bxm *icmp_param,
372                             struct flowi4 *fl4,
373                             struct ipcm_cookie *ipc, struct rtable **rt)
374 {
375         struct sock *sk;
376         struct sk_buff *skb;
377
378         sk = icmp_sk(dev_net((*rt)->dst.dev));
379         if (ip_append_data(sk, fl4, icmp_glue_bits, icmp_param,
380                            icmp_param->data_len+icmp_param->head_len,
381                            icmp_param->head_len,
382                            ipc, rt, MSG_DONTWAIT) < 0) {
383                 __ICMP_INC_STATS(sock_net(sk), ICMP_MIB_OUTERRORS);
384                 ip_flush_pending_frames(sk);
385         } else if ((skb = skb_peek(&sk->sk_write_queue)) != NULL) {
386                 struct icmphdr *icmph = icmp_hdr(skb);
387                 __wsum csum = 0;
388                 struct sk_buff *skb1;
389
390                 skb_queue_walk(&sk->sk_write_queue, skb1) {
391                         csum = csum_add(csum, skb1->csum);
392                 }
393                 csum = csum_partial_copy_nocheck((void *)&icmp_param->data,
394                                                  (char *)icmph,
395                                                  icmp_param->head_len, csum);
396                 icmph->checksum = csum_fold(csum);
397                 skb->ip_summed = CHECKSUM_NONE;
398                 ip_push_pending_frames(sk, fl4);
399         }
400 }
401
402 /*
403  *      Driving logic for building and sending ICMP messages.
404  */
405
406 static void icmp_reply(struct icmp_bxm *icmp_param, struct sk_buff *skb)
407 {
408         struct ipcm_cookie ipc;
409         struct rtable *rt = skb_rtable(skb);
410         struct net *net = dev_net(rt->dst.dev);
411         struct flowi4 fl4;
412         struct sock *sk;
413         struct inet_sock *inet;
414         __be32 daddr, saddr;
415         u32 mark = IP4_REPLY_MARK(net, skb->mark);
416         int type = icmp_param->data.icmph.type;
417         int code = icmp_param->data.icmph.code;
418
419         if (ip_options_echo(net, &icmp_param->replyopts.opt.opt, skb))
420                 return;
421
422         /* Needed by both icmp_global_allow and icmp_xmit_lock */
423         local_bh_disable();
424
425         /* global icmp_msgs_per_sec */
426         if (!icmpv4_global_allow(net, type, code))
427                 goto out_bh_enable;
428
429         sk = icmp_xmit_lock(net);
430         if (!sk)
431                 goto out_bh_enable;
432         inet = inet_sk(sk);
433
434         icmp_param->data.icmph.checksum = 0;
435
436         ipcm_init(&ipc);
437         inet->tos = ip_hdr(skb)->tos;
438         sk->sk_mark = mark;
439         daddr = ipc.addr = ip_hdr(skb)->saddr;
440         saddr = fib_compute_spec_dst(skb);
441
442         if (icmp_param->replyopts.opt.opt.optlen) {
443                 ipc.opt = &icmp_param->replyopts.opt;
444                 if (ipc.opt->opt.srr)
445                         daddr = icmp_param->replyopts.opt.opt.faddr;
446         }
447         memset(&fl4, 0, sizeof(fl4));
448         fl4.daddr = daddr;
449         fl4.saddr = saddr;
450         fl4.flowi4_mark = mark;
451         fl4.flowi4_uid = sock_net_uid(net, NULL);
452         fl4.flowi4_tos = RT_TOS(ip_hdr(skb)->tos);
453         fl4.flowi4_proto = IPPROTO_ICMP;
454         fl4.flowi4_oif = l3mdev_master_ifindex(skb->dev);
455         security_skb_classify_flow(skb, flowi4_to_flowi(&fl4));
456         rt = ip_route_output_key(net, &fl4);
457         if (IS_ERR(rt))
458                 goto out_unlock;
459         if (icmpv4_xrlim_allow(net, rt, &fl4, type, code))
460                 icmp_push_reply(icmp_param, &fl4, &ipc, &rt);
461         ip_rt_put(rt);
462 out_unlock:
463         icmp_xmit_unlock(sk);
464 out_bh_enable:
465         local_bh_enable();
466 }
467
468 /*
469  * The device used for looking up which routing table to use for sending an ICMP
470  * error is preferably the source whenever it is set, which should ensure the
471  * icmp error can be sent to the source host, else lookup using the routing
472  * table of the destination device, else use the main routing table (index 0).
473  */
474 static struct net_device *icmp_get_route_lookup_dev(struct sk_buff *skb)
475 {
476         struct net_device *route_lookup_dev = NULL;
477
478         if (skb->dev)
479                 route_lookup_dev = skb->dev;
480         else if (skb_dst(skb))
481                 route_lookup_dev = skb_dst(skb)->dev;
482         return route_lookup_dev;
483 }
484
485 static struct rtable *icmp_route_lookup(struct net *net,
486                                         struct flowi4 *fl4,
487                                         struct sk_buff *skb_in,
488                                         const struct iphdr *iph,
489                                         __be32 saddr, u8 tos, u32 mark,
490                                         int type, int code,
491                                         struct icmp_bxm *param)
492 {
493         struct net_device *route_lookup_dev;
494         struct rtable *rt, *rt2;
495         struct flowi4 fl4_dec;
496         int err;
497
498         memset(fl4, 0, sizeof(*fl4));
499         fl4->daddr = (param->replyopts.opt.opt.srr ?
500                       param->replyopts.opt.opt.faddr : iph->saddr);
501         fl4->saddr = saddr;
502         fl4->flowi4_mark = mark;
503         fl4->flowi4_uid = sock_net_uid(net, NULL);
504         fl4->flowi4_tos = RT_TOS(tos);
505         fl4->flowi4_proto = IPPROTO_ICMP;
506         fl4->fl4_icmp_type = type;
507         fl4->fl4_icmp_code = code;
508         route_lookup_dev = icmp_get_route_lookup_dev(skb_in);
509         fl4->flowi4_oif = l3mdev_master_ifindex(route_lookup_dev);
510
511         security_skb_classify_flow(skb_in, flowi4_to_flowi(fl4));
512         rt = ip_route_output_key_hash(net, fl4, skb_in);
513         if (IS_ERR(rt))
514                 return rt;
515
516         /* No need to clone since we're just using its address. */
517         rt2 = rt;
518
519         rt = (struct rtable *) xfrm_lookup(net, &rt->dst,
520                                            flowi4_to_flowi(fl4), NULL, 0);
521         if (!IS_ERR(rt)) {
522                 if (rt != rt2)
523                         return rt;
524         } else if (PTR_ERR(rt) == -EPERM) {
525                 rt = NULL;
526         } else
527                 return rt;
528
529         err = xfrm_decode_session_reverse(skb_in, flowi4_to_flowi(&fl4_dec), AF_INET);
530         if (err)
531                 goto relookup_failed;
532
533         if (inet_addr_type_dev_table(net, route_lookup_dev,
534                                      fl4_dec.saddr) == RTN_LOCAL) {
535                 rt2 = __ip_route_output_key(net, &fl4_dec);
536                 if (IS_ERR(rt2))
537                         err = PTR_ERR(rt2);
538         } else {
539                 struct flowi4 fl4_2 = {};
540                 unsigned long orefdst;
541
542                 fl4_2.daddr = fl4_dec.saddr;
543                 rt2 = ip_route_output_key(net, &fl4_2);
544                 if (IS_ERR(rt2)) {
545                         err = PTR_ERR(rt2);
546                         goto relookup_failed;
547                 }
548                 /* Ugh! */
549                 orefdst = skb_in->_skb_refdst; /* save old refdst */
550                 skb_dst_set(skb_in, NULL);
551                 err = ip_route_input(skb_in, fl4_dec.daddr, fl4_dec.saddr,
552                                      RT_TOS(tos), rt2->dst.dev);
553
554                 dst_release(&rt2->dst);
555                 rt2 = skb_rtable(skb_in);
556                 skb_in->_skb_refdst = orefdst; /* restore old refdst */
557         }
558
559         if (err)
560                 goto relookup_failed;
561
562         rt2 = (struct rtable *) xfrm_lookup(net, &rt2->dst,
563                                             flowi4_to_flowi(&fl4_dec), NULL,
564                                             XFRM_LOOKUP_ICMP);
565         if (!IS_ERR(rt2)) {
566                 dst_release(&rt->dst);
567                 memcpy(fl4, &fl4_dec, sizeof(*fl4));
568                 rt = rt2;
569         } else if (PTR_ERR(rt2) == -EPERM) {
570                 if (rt)
571                         dst_release(&rt->dst);
572                 return rt2;
573         } else {
574                 err = PTR_ERR(rt2);
575                 goto relookup_failed;
576         }
577         return rt;
578
579 relookup_failed:
580         if (rt)
581                 return rt;
582         return ERR_PTR(err);
583 }
584
585 /*
586  *      Send an ICMP message in response to a situation
587  *
588  *      RFC 1122: 3.2.2 MUST send at least the IP header and 8 bytes of header.
589  *                MAY send more (we do).
590  *                      MUST NOT change this header information.
591  *                      MUST NOT reply to a multicast/broadcast IP address.
592  *                      MUST NOT reply to a multicast/broadcast MAC address.
593  *                      MUST reply to only the first fragment.
594  */
595
596 void __icmp_send(struct sk_buff *skb_in, int type, int code, __be32 info,
597                  const struct ip_options *opt)
598 {
599         struct iphdr *iph;
600         int room;
601         struct icmp_bxm icmp_param;
602         struct rtable *rt = skb_rtable(skb_in);
603         struct ipcm_cookie ipc;
604         struct flowi4 fl4;
605         __be32 saddr;
606         u8  tos;
607         u32 mark;
608         struct net *net;
609         struct sock *sk;
610
611         if (!rt)
612                 goto out;
613
614         if (rt->dst.dev)
615                 net = dev_net(rt->dst.dev);
616         else if (skb_in->dev)
617                 net = dev_net(skb_in->dev);
618         else
619                 goto out;
620
621         /*
622          *      Find the original header. It is expected to be valid, of course.
623          *      Check this, icmp_send is called from the most obscure devices
624          *      sometimes.
625          */
626         iph = ip_hdr(skb_in);
627
628         if ((u8 *)iph < skb_in->head ||
629             (skb_network_header(skb_in) + sizeof(*iph)) >
630             skb_tail_pointer(skb_in))
631                 goto out;
632
633         /*
634          *      No replies to physical multicast/broadcast
635          */
636         if (skb_in->pkt_type != PACKET_HOST)
637                 goto out;
638
639         /*
640          *      Now check at the protocol level
641          */
642         if (rt->rt_flags & (RTCF_BROADCAST | RTCF_MULTICAST))
643                 goto out;
644
645         /*
646          *      Only reply to fragment 0. We byte re-order the constant
647          *      mask for efficiency.
648          */
649         if (iph->frag_off & htons(IP_OFFSET))
650                 goto out;
651
652         /*
653          *      If we send an ICMP error to an ICMP error a mess would result..
654          */
655         if (icmp_pointers[type].error) {
656                 /*
657                  *      We are an error, check if we are replying to an
658                  *      ICMP error
659                  */
660                 if (iph->protocol == IPPROTO_ICMP) {
661                         u8 _inner_type, *itp;
662
663                         itp = skb_header_pointer(skb_in,
664                                                  skb_network_header(skb_in) +
665                                                  (iph->ihl << 2) +
666                                                  offsetof(struct icmphdr,
667                                                           type) -
668                                                  skb_in->data,
669                                                  sizeof(_inner_type),
670                                                  &_inner_type);
671                         if (!itp)
672                                 goto out;
673
674                         /*
675                          *      Assume any unknown ICMP type is an error. This
676                          *      isn't specified by the RFC, but think about it..
677                          */
678                         if (*itp > NR_ICMP_TYPES ||
679                             icmp_pointers[*itp].error)
680                                 goto out;
681                 }
682         }
683
684         /* Needed by both icmp_global_allow and icmp_xmit_lock */
685         local_bh_disable();
686
687         /* Check global sysctl_icmp_msgs_per_sec ratelimit, unless
688          * incoming dev is loopback.  If outgoing dev change to not be
689          * loopback, then peer ratelimit still work (in icmpv4_xrlim_allow)
690          */
691         if (!(skb_in->dev && (skb_in->dev->flags&IFF_LOOPBACK)) &&
692               !icmpv4_global_allow(net, type, code))
693                 goto out_bh_enable;
694
695         sk = icmp_xmit_lock(net);
696         if (!sk)
697                 goto out_bh_enable;
698
699         /*
700          *      Construct source address and options.
701          */
702
703         saddr = iph->daddr;
704         if (!(rt->rt_flags & RTCF_LOCAL)) {
705                 struct net_device *dev = NULL;
706
707                 rcu_read_lock();
708                 if (rt_is_input_route(rt) &&
709                     net->ipv4.sysctl_icmp_errors_use_inbound_ifaddr)
710                         dev = dev_get_by_index_rcu(net, inet_iif(skb_in));
711
712                 if (dev)
713                         saddr = inet_select_addr(dev, 0, RT_SCOPE_LINK);
714                 else
715                         saddr = 0;
716                 rcu_read_unlock();
717         }
718
719         tos = icmp_pointers[type].error ? ((iph->tos & IPTOS_TOS_MASK) |
720                                            IPTOS_PREC_INTERNETCONTROL) :
721                                           iph->tos;
722         mark = IP4_REPLY_MARK(net, skb_in->mark);
723
724         if (__ip_options_echo(net, &icmp_param.replyopts.opt.opt, skb_in, opt))
725                 goto out_unlock;
726
727
728         /*
729          *      Prepare data for ICMP header.
730          */
731
732         icmp_param.data.icmph.type       = type;
733         icmp_param.data.icmph.code       = code;
734         icmp_param.data.icmph.un.gateway = info;
735         icmp_param.data.icmph.checksum   = 0;
736         icmp_param.skb    = skb_in;
737         icmp_param.offset = skb_network_offset(skb_in);
738         inet_sk(sk)->tos = tos;
739         sk->sk_mark = mark;
740         ipcm_init(&ipc);
741         ipc.addr = iph->saddr;
742         ipc.opt = &icmp_param.replyopts.opt;
743
744         rt = icmp_route_lookup(net, &fl4, skb_in, iph, saddr, tos, mark,
745                                type, code, &icmp_param);
746         if (IS_ERR(rt))
747                 goto out_unlock;
748
749         /* peer icmp_ratelimit */
750         if (!icmpv4_xrlim_allow(net, rt, &fl4, type, code))
751                 goto ende;
752
753         /* RFC says return as much as we can without exceeding 576 bytes. */
754
755         room = dst_mtu(&rt->dst);
756         if (room > 576)
757                 room = 576;
758         room -= sizeof(struct iphdr) + icmp_param.replyopts.opt.opt.optlen;
759         room -= sizeof(struct icmphdr);
760
761         icmp_param.data_len = skb_in->len - icmp_param.offset;
762         if (icmp_param.data_len > room)
763                 icmp_param.data_len = room;
764         icmp_param.head_len = sizeof(struct icmphdr);
765
766         /* if we don't have a source address at this point, fall back to the
767          * dummy address instead of sending out a packet with a source address
768          * of 0.0.0.0
769          */
770         if (!fl4.saddr)
771                 fl4.saddr = htonl(INADDR_DUMMY);
772
773         icmp_push_reply(&icmp_param, &fl4, &ipc, &rt);
774 ende:
775         ip_rt_put(rt);
776 out_unlock:
777         icmp_xmit_unlock(sk);
778 out_bh_enable:
779         local_bh_enable();
780 out:;
781 }
782 EXPORT_SYMBOL(__icmp_send);
783
784 #if IS_ENABLED(CONFIG_NF_NAT)
785 #include <net/netfilter/nf_conntrack.h>
786 void icmp_ndo_send(struct sk_buff *skb_in, int type, int code, __be32 info)
787 {
788         struct sk_buff *cloned_skb = NULL;
789         struct ip_options opts = { 0 };
790         enum ip_conntrack_info ctinfo;
791         struct nf_conn *ct;
792         __be32 orig_ip;
793
794         ct = nf_ct_get(skb_in, &ctinfo);
795         if (!ct || !(ct->status & IPS_SRC_NAT)) {
796                 __icmp_send(skb_in, type, code, info, &opts);
797                 return;
798         }
799
800         if (skb_shared(skb_in))
801                 skb_in = cloned_skb = skb_clone(skb_in, GFP_ATOMIC);
802
803         if (unlikely(!skb_in || skb_network_header(skb_in) < skb_in->head ||
804             (skb_network_header(skb_in) + sizeof(struct iphdr)) >
805             skb_tail_pointer(skb_in) || skb_ensure_writable(skb_in,
806             skb_network_offset(skb_in) + sizeof(struct iphdr))))
807                 goto out;
808
809         orig_ip = ip_hdr(skb_in)->saddr;
810         ip_hdr(skb_in)->saddr = ct->tuplehash[0].tuple.src.u3.ip;
811         __icmp_send(skb_in, type, code, info, &opts);
812         ip_hdr(skb_in)->saddr = orig_ip;
813 out:
814         consume_skb(cloned_skb);
815 }
816 EXPORT_SYMBOL(icmp_ndo_send);
817 #endif
818
819 static void icmp_socket_deliver(struct sk_buff *skb, u32 info)
820 {
821         const struct iphdr *iph = (const struct iphdr *) skb->data;
822         const struct net_protocol *ipprot;
823         int protocol = iph->protocol;
824
825         /* Checkin full IP header plus 8 bytes of protocol to
826          * avoid additional coding at protocol handlers.
827          */
828         if (!pskb_may_pull(skb, iph->ihl * 4 + 8)) {
829                 __ICMP_INC_STATS(dev_net(skb->dev), ICMP_MIB_INERRORS);
830                 return;
831         }
832
833         raw_icmp_error(skb, protocol, info);
834
835         ipprot = rcu_dereference(inet_protos[protocol]);
836         if (ipprot && ipprot->err_handler)
837                 ipprot->err_handler(skb, info);
838 }
839
840 static bool icmp_tag_validation(int proto)
841 {
842         bool ok;
843
844         rcu_read_lock();
845         ok = rcu_dereference(inet_protos[proto])->icmp_strict_tag_validation;
846         rcu_read_unlock();
847         return ok;
848 }
849
850 /*
851  *      Handle ICMP_DEST_UNREACH, ICMP_TIME_EXCEEDED, ICMP_QUENCH, and
852  *      ICMP_PARAMETERPROB.
853  */
854
855 static bool icmp_unreach(struct sk_buff *skb)
856 {
857         const struct iphdr *iph;
858         struct icmphdr *icmph;
859         struct net *net;
860         u32 info = 0;
861
862         net = dev_net(skb_dst(skb)->dev);
863
864         /*
865          *      Incomplete header ?
866          *      Only checks for the IP header, there should be an
867          *      additional check for longer headers in upper levels.
868          */
869
870         if (!pskb_may_pull(skb, sizeof(struct iphdr)))
871                 goto out_err;
872
873         icmph = icmp_hdr(skb);
874         iph   = (const struct iphdr *)skb->data;
875
876         if (iph->ihl < 5) /* Mangled header, drop. */
877                 goto out_err;
878
879         switch (icmph->type) {
880         case ICMP_DEST_UNREACH:
881                 switch (icmph->code & 15) {
882                 case ICMP_NET_UNREACH:
883                 case ICMP_HOST_UNREACH:
884                 case ICMP_PROT_UNREACH:
885                 case ICMP_PORT_UNREACH:
886                         break;
887                 case ICMP_FRAG_NEEDED:
888                         /* for documentation of the ip_no_pmtu_disc
889                          * values please see
890                          * Documentation/networking/ip-sysctl.txt
891                          */
892                         switch (net->ipv4.sysctl_ip_no_pmtu_disc) {
893                         default:
894                                 net_dbg_ratelimited("%pI4: fragmentation needed and DF set\n",
895                                                     &iph->daddr);
896                                 break;
897                         case 2:
898                                 goto out;
899                         case 3:
900                                 if (!icmp_tag_validation(iph->protocol))
901                                         goto out;
902                                 /* fall through */
903                         case 0:
904                                 info = ntohs(icmph->un.frag.mtu);
905                         }
906                         break;
907                 case ICMP_SR_FAILED:
908                         net_dbg_ratelimited("%pI4: Source Route Failed\n",
909                                             &iph->daddr);
910                         break;
911                 default:
912                         break;
913                 }
914                 if (icmph->code > NR_ICMP_UNREACH)
915                         goto out;
916                 break;
917         case ICMP_PARAMETERPROB:
918                 info = ntohl(icmph->un.gateway) >> 24;
919                 break;
920         case ICMP_TIME_EXCEEDED:
921                 __ICMP_INC_STATS(net, ICMP_MIB_INTIMEEXCDS);
922                 if (icmph->code == ICMP_EXC_FRAGTIME)
923                         goto out;
924                 break;
925         }
926
927         /*
928          *      Throw it at our lower layers
929          *
930          *      RFC 1122: 3.2.2 MUST extract the protocol ID from the passed
931          *                header.
932          *      RFC 1122: 3.2.2.1 MUST pass ICMP unreach messages to the
933          *                transport layer.
934          *      RFC 1122: 3.2.2.2 MUST pass ICMP time expired messages to
935          *                transport layer.
936          */
937
938         /*
939          *      Check the other end isn't violating RFC 1122. Some routers send
940          *      bogus responses to broadcast frames. If you see this message
941          *      first check your netmask matches at both ends, if it does then
942          *      get the other vendor to fix their kit.
943          */
944
945         if (!net->ipv4.sysctl_icmp_ignore_bogus_error_responses &&
946             inet_addr_type_dev_table(net, skb->dev, iph->daddr) == RTN_BROADCAST) {
947                 net_warn_ratelimited("%pI4 sent an invalid ICMP type %u, code %u error to a broadcast: %pI4 on %s\n",
948                                      &ip_hdr(skb)->saddr,
949                                      icmph->type, icmph->code,
950                                      &iph->daddr, skb->dev->name);
951                 goto out;
952         }
953
954         icmp_socket_deliver(skb, info);
955
956 out:
957         return true;
958 out_err:
959         __ICMP_INC_STATS(net, ICMP_MIB_INERRORS);
960         return false;
961 }
962
963
964 /*
965  *      Handle ICMP_REDIRECT.
966  */
967
968 static bool icmp_redirect(struct sk_buff *skb)
969 {
970         if (skb->len < sizeof(struct iphdr)) {
971                 __ICMP_INC_STATS(dev_net(skb->dev), ICMP_MIB_INERRORS);
972                 return false;
973         }
974
975         if (!pskb_may_pull(skb, sizeof(struct iphdr))) {
976                 /* there aught to be a stat */
977                 return false;
978         }
979
980         icmp_socket_deliver(skb, icmp_hdr(skb)->un.gateway);
981         return true;
982 }
983
984 /*
985  *      Handle ICMP_ECHO ("ping") requests.
986  *
987  *      RFC 1122: 3.2.2.6 MUST have an echo server that answers ICMP echo
988  *                requests.
989  *      RFC 1122: 3.2.2.6 Data received in the ICMP_ECHO request MUST be
990  *                included in the reply.
991  *      RFC 1812: 4.3.3.6 SHOULD have a config option for silently ignoring
992  *                echo requests, MUST have default=NOT.
993  *      See also WRT handling of options once they are done and working.
994  */
995
996 static bool icmp_echo(struct sk_buff *skb)
997 {
998         struct net *net;
999
1000         net = dev_net(skb_dst(skb)->dev);
1001         if (!net->ipv4.sysctl_icmp_echo_ignore_all) {
1002                 struct icmp_bxm icmp_param;
1003
1004                 icmp_param.data.icmph      = *icmp_hdr(skb);
1005                 icmp_param.data.icmph.type = ICMP_ECHOREPLY;
1006                 icmp_param.skb             = skb;
1007                 icmp_param.offset          = 0;
1008                 icmp_param.data_len        = skb->len;
1009                 icmp_param.head_len        = sizeof(struct icmphdr);
1010                 icmp_reply(&icmp_param, skb);
1011         }
1012         /* should there be an ICMP stat for ignored echos? */
1013         return true;
1014 }
1015
1016 /*
1017  *      Handle ICMP Timestamp requests.
1018  *      RFC 1122: 3.2.2.8 MAY implement ICMP timestamp requests.
1019  *                SHOULD be in the kernel for minimum random latency.
1020  *                MUST be accurate to a few minutes.
1021  *                MUST be updated at least at 15Hz.
1022  */
1023 static bool icmp_timestamp(struct sk_buff *skb)
1024 {
1025         struct icmp_bxm icmp_param;
1026         /*
1027          *      Too short.
1028          */
1029         if (skb->len < 4)
1030                 goto out_err;
1031
1032         /*
1033          *      Fill in the current time as ms since midnight UT:
1034          */
1035         icmp_param.data.times[1] = inet_current_timestamp();
1036         icmp_param.data.times[2] = icmp_param.data.times[1];
1037
1038         BUG_ON(skb_copy_bits(skb, 0, &icmp_param.data.times[0], 4));
1039
1040         icmp_param.data.icmph      = *icmp_hdr(skb);
1041         icmp_param.data.icmph.type = ICMP_TIMESTAMPREPLY;
1042         icmp_param.data.icmph.code = 0;
1043         icmp_param.skb             = skb;
1044         icmp_param.offset          = 0;
1045         icmp_param.data_len        = 0;
1046         icmp_param.head_len        = sizeof(struct icmphdr) + 12;
1047         icmp_reply(&icmp_param, skb);
1048         return true;
1049
1050 out_err:
1051         __ICMP_INC_STATS(dev_net(skb_dst(skb)->dev), ICMP_MIB_INERRORS);
1052         return false;
1053 }
1054
1055 static bool icmp_discard(struct sk_buff *skb)
1056 {
1057         /* pretend it was a success */
1058         return true;
1059 }
1060
1061 /*
1062  *      Deal with incoming ICMP packets.
1063  */
1064 int icmp_rcv(struct sk_buff *skb)
1065 {
1066         struct icmphdr *icmph;
1067         struct rtable *rt = skb_rtable(skb);
1068         struct net *net = dev_net(rt->dst.dev);
1069         bool success;
1070
1071         if (!xfrm4_policy_check(NULL, XFRM_POLICY_IN, skb)) {
1072                 struct sec_path *sp = skb_sec_path(skb);
1073                 int nh;
1074
1075                 if (!(sp && sp->xvec[sp->len - 1]->props.flags &
1076                                  XFRM_STATE_ICMP))
1077                         goto drop;
1078
1079                 if (!pskb_may_pull(skb, sizeof(*icmph) + sizeof(struct iphdr)))
1080                         goto drop;
1081
1082                 nh = skb_network_offset(skb);
1083                 skb_set_network_header(skb, sizeof(*icmph));
1084
1085                 if (!xfrm4_policy_check_reverse(NULL, XFRM_POLICY_IN, skb))
1086                         goto drop;
1087
1088                 skb_set_network_header(skb, nh);
1089         }
1090
1091         __ICMP_INC_STATS(net, ICMP_MIB_INMSGS);
1092
1093         if (skb_checksum_simple_validate(skb))
1094                 goto csum_error;
1095
1096         if (!pskb_pull(skb, sizeof(*icmph)))
1097                 goto error;
1098
1099         icmph = icmp_hdr(skb);
1100
1101         ICMPMSGIN_INC_STATS(net, icmph->type);
1102         /*
1103          *      18 is the highest 'known' ICMP type. Anything else is a mystery
1104          *
1105          *      RFC 1122: 3.2.2  Unknown ICMP messages types MUST be silently
1106          *                discarded.
1107          */
1108         if (icmph->type > NR_ICMP_TYPES)
1109                 goto error;
1110
1111
1112         /*
1113          *      Parse the ICMP message
1114          */
1115
1116         if (rt->rt_flags & (RTCF_BROADCAST | RTCF_MULTICAST)) {
1117                 /*
1118                  *      RFC 1122: 3.2.2.6 An ICMP_ECHO to broadcast MAY be
1119                  *        silently ignored (we let user decide with a sysctl).
1120                  *      RFC 1122: 3.2.2.8 An ICMP_TIMESTAMP MAY be silently
1121                  *        discarded if to broadcast/multicast.
1122                  */
1123                 if ((icmph->type == ICMP_ECHO ||
1124                      icmph->type == ICMP_TIMESTAMP) &&
1125                     net->ipv4.sysctl_icmp_echo_ignore_broadcasts) {
1126                         goto error;
1127                 }
1128                 if (icmph->type != ICMP_ECHO &&
1129                     icmph->type != ICMP_TIMESTAMP &&
1130                     icmph->type != ICMP_ADDRESS &&
1131                     icmph->type != ICMP_ADDRESSREPLY) {
1132                         goto error;
1133                 }
1134         }
1135
1136         success = icmp_pointers[icmph->type].handler(skb);
1137
1138         if (success)  {
1139                 consume_skb(skb);
1140                 return NET_RX_SUCCESS;
1141         }
1142
1143 drop:
1144         kfree_skb(skb);
1145         return NET_RX_DROP;
1146 csum_error:
1147         __ICMP_INC_STATS(net, ICMP_MIB_CSUMERRORS);
1148 error:
1149         __ICMP_INC_STATS(net, ICMP_MIB_INERRORS);
1150         goto drop;
1151 }
1152
1153 void icmp_err(struct sk_buff *skb, u32 info)
1154 {
1155         struct iphdr *iph = (struct iphdr *)skb->data;
1156         int offset = iph->ihl<<2;
1157         struct icmphdr *icmph = (struct icmphdr *)(skb->data + offset);
1158         int type = icmp_hdr(skb)->type;
1159         int code = icmp_hdr(skb)->code;
1160         struct net *net = dev_net(skb->dev);
1161
1162         /*
1163          * Use ping_err to handle all icmp errors except those
1164          * triggered by ICMP_ECHOREPLY which sent from kernel.
1165          */
1166         if (icmph->type != ICMP_ECHOREPLY) {
1167                 ping_err(skb, offset, info);
1168                 return;
1169         }
1170
1171         if (type == ICMP_DEST_UNREACH && code == ICMP_FRAG_NEEDED)
1172                 ipv4_update_pmtu(skb, net, info, 0, 0, IPPROTO_ICMP, 0);
1173         else if (type == ICMP_REDIRECT)
1174                 ipv4_redirect(skb, net, 0, 0, IPPROTO_ICMP, 0);
1175 }
1176
1177 /*
1178  *      This table is the definition of how we handle ICMP.
1179  */
1180 static const struct icmp_control icmp_pointers[NR_ICMP_TYPES + 1] = {
1181         [ICMP_ECHOREPLY] = {
1182                 .handler = ping_rcv,
1183         },
1184         [1] = {
1185                 .handler = icmp_discard,
1186                 .error = 1,
1187         },
1188         [2] = {
1189                 .handler = icmp_discard,
1190                 .error = 1,
1191         },
1192         [ICMP_DEST_UNREACH] = {
1193                 .handler = icmp_unreach,
1194                 .error = 1,
1195         },
1196         [ICMP_SOURCE_QUENCH] = {
1197                 .handler = icmp_unreach,
1198                 .error = 1,
1199         },
1200         [ICMP_REDIRECT] = {
1201                 .handler = icmp_redirect,
1202                 .error = 1,
1203         },
1204         [6] = {
1205                 .handler = icmp_discard,
1206                 .error = 1,
1207         },
1208         [7] = {
1209                 .handler = icmp_discard,
1210                 .error = 1,
1211         },
1212         [ICMP_ECHO] = {
1213                 .handler = icmp_echo,
1214         },
1215         [9] = {
1216                 .handler = icmp_discard,
1217                 .error = 1,
1218         },
1219         [10] = {
1220                 .handler = icmp_discard,
1221                 .error = 1,
1222         },
1223         [ICMP_TIME_EXCEEDED] = {
1224                 .handler = icmp_unreach,
1225                 .error = 1,
1226         },
1227         [ICMP_PARAMETERPROB] = {
1228                 .handler = icmp_unreach,
1229                 .error = 1,
1230         },
1231         [ICMP_TIMESTAMP] = {
1232                 .handler = icmp_timestamp,
1233         },
1234         [ICMP_TIMESTAMPREPLY] = {
1235                 .handler = icmp_discard,
1236         },
1237         [ICMP_INFO_REQUEST] = {
1238                 .handler = icmp_discard,
1239         },
1240         [ICMP_INFO_REPLY] = {
1241                 .handler = icmp_discard,
1242         },
1243         [ICMP_ADDRESS] = {
1244                 .handler = icmp_discard,
1245         },
1246         [ICMP_ADDRESSREPLY] = {
1247                 .handler = icmp_discard,
1248         },
1249 };
1250
1251 static void __net_exit icmp_sk_exit(struct net *net)
1252 {
1253         int i;
1254
1255         for_each_possible_cpu(i)
1256                 inet_ctl_sock_destroy(*per_cpu_ptr(net->ipv4.icmp_sk, i));
1257         free_percpu(net->ipv4.icmp_sk);
1258         net->ipv4.icmp_sk = NULL;
1259 }
1260
1261 static int __net_init icmp_sk_init(struct net *net)
1262 {
1263         int i, err;
1264
1265         net->ipv4.icmp_sk = alloc_percpu(struct sock *);
1266         if (!net->ipv4.icmp_sk)
1267                 return -ENOMEM;
1268
1269         for_each_possible_cpu(i) {
1270                 struct sock *sk;
1271
1272                 err = inet_ctl_sock_create(&sk, PF_INET,
1273                                            SOCK_RAW, IPPROTO_ICMP, net);
1274                 if (err < 0)
1275                         goto fail;
1276
1277                 *per_cpu_ptr(net->ipv4.icmp_sk, i) = sk;
1278
1279                 /* Enough space for 2 64K ICMP packets, including
1280                  * sk_buff/skb_shared_info struct overhead.
1281                  */
1282                 sk->sk_sndbuf = 2 * SKB_TRUESIZE(64 * 1024);
1283
1284                 /*
1285                  * Speedup sock_wfree()
1286                  */
1287                 sock_set_flag(sk, SOCK_USE_WRITE_QUEUE);
1288                 inet_sk(sk)->pmtudisc = IP_PMTUDISC_DONT;
1289         }
1290
1291         /* Control parameters for ECHO replies. */
1292         net->ipv4.sysctl_icmp_echo_ignore_all = 0;
1293         net->ipv4.sysctl_icmp_echo_ignore_broadcasts = 1;
1294
1295         /* Control parameter - ignore bogus broadcast responses? */
1296         net->ipv4.sysctl_icmp_ignore_bogus_error_responses = 1;
1297
1298         /*
1299          *      Configurable global rate limit.
1300          *
1301          *      ratelimit defines tokens/packet consumed for dst->rate_token
1302          *      bucket ratemask defines which icmp types are ratelimited by
1303          *      setting it's bit position.
1304          *
1305          *      default:
1306          *      dest unreachable (3), source quench (4),
1307          *      time exceeded (11), parameter problem (12)
1308          */
1309
1310         net->ipv4.sysctl_icmp_ratelimit = 1 * HZ;
1311         net->ipv4.sysctl_icmp_ratemask = 0x1818;
1312         net->ipv4.sysctl_icmp_errors_use_inbound_ifaddr = 0;
1313
1314         return 0;
1315
1316 fail:
1317         for_each_possible_cpu(i)
1318                 inet_ctl_sock_destroy(*per_cpu_ptr(net->ipv4.icmp_sk, i));
1319         free_percpu(net->ipv4.icmp_sk);
1320         return err;
1321 }
1322
1323 static struct pernet_operations __net_initdata icmp_sk_ops = {
1324        .init = icmp_sk_init,
1325        .exit = icmp_sk_exit,
1326 };
1327
1328 int __init icmp_init(void)
1329 {
1330         return register_pernet_subsys(&icmp_sk_ops);
1331 }