GNU Linux-libre 4.14.290-gnu1
[releases.git] / net / ipv4 / icmp.c
1 /*
2  *      NET3:   Implementation of the ICMP protocol layer.
3  *
4  *              Alan Cox, <alan@lxorguk.ukuu.org.uk>
5  *
6  *      This program is free software; you can redistribute it and/or
7  *      modify it under the terms of the GNU General Public License
8  *      as published by the Free Software Foundation; either version
9  *      2 of the License, or (at your option) any later version.
10  *
11  *      Some of the function names and the icmp unreach table for this
12  *      module were derived from [icmp.c 1.0.11 06/02/93] by
13  *      Ross Biro, Fred N. van Kempen, Mark Evans, Alan Cox, Gerhard Koerting.
14  *      Other than that this module is a complete rewrite.
15  *
16  *      Fixes:
17  *      Clemens Fruhwirth       :       introduce global icmp rate limiting
18  *                                      with icmp type masking ability instead
19  *                                      of broken per type icmp timeouts.
20  *              Mike Shaver     :       RFC1122 checks.
21  *              Alan Cox        :       Multicast ping reply as self.
22  *              Alan Cox        :       Fix atomicity lockup in ip_build_xmit
23  *                                      call.
24  *              Alan Cox        :       Added 216,128 byte paths to the MTU
25  *                                      code.
26  *              Martin Mares    :       RFC1812 checks.
27  *              Martin Mares    :       Can be configured to follow redirects
28  *                                      if acting as a router _without_ a
29  *                                      routing protocol (RFC 1812).
30  *              Martin Mares    :       Echo requests may be configured to
31  *                                      be ignored (RFC 1812).
32  *              Martin Mares    :       Limitation of ICMP error message
33  *                                      transmit rate (RFC 1812).
34  *              Martin Mares    :       TOS and Precedence set correctly
35  *                                      (RFC 1812).
36  *              Martin Mares    :       Now copying as much data from the
37  *                                      original packet as we can without
38  *                                      exceeding 576 bytes (RFC 1812).
39  *      Willy Konynenberg       :       Transparent proxying support.
40  *              Keith Owens     :       RFC1191 correction for 4.2BSD based
41  *                                      path MTU bug.
42  *              Thomas Quinot   :       ICMP Dest Unreach codes up to 15 are
43  *                                      valid (RFC 1812).
44  *              Andi Kleen      :       Check all packet lengths properly
45  *                                      and moved all kfree_skb() up to
46  *                                      icmp_rcv.
47  *              Andi Kleen      :       Move the rate limit bookkeeping
48  *                                      into the dest entry and use a token
49  *                                      bucket filter (thanks to ANK). Make
50  *                                      the rates sysctl configurable.
51  *              Yu Tianli       :       Fixed two ugly bugs in icmp_send
52  *                                      - IP option length was accounted wrongly
53  *                                      - ICMP header length was not accounted
54  *                                        at all.
55  *              Tristan Greaves :       Added sysctl option to ignore bogus
56  *                                      broadcast responses from broken routers.
57  *
58  * To Fix:
59  *
60  *      - Should use skb_pull() instead of all the manual checking.
61  *        This would also greatly simply some upper layer error handlers. --AK
62  *
63  */
64
65 #define pr_fmt(fmt) KBUILD_MODNAME ": " fmt
66
67 #include <linux/module.h>
68 #include <linux/types.h>
69 #include <linux/jiffies.h>
70 #include <linux/kernel.h>
71 #include <linux/fcntl.h>
72 #include <linux/socket.h>
73 #include <linux/in.h>
74 #include <linux/inet.h>
75 #include <linux/inetdevice.h>
76 #include <linux/netdevice.h>
77 #include <linux/string.h>
78 #include <linux/netfilter_ipv4.h>
79 #include <linux/slab.h>
80 #include <net/snmp.h>
81 #include <net/ip.h>
82 #include <net/route.h>
83 #include <net/protocol.h>
84 #include <net/icmp.h>
85 #include <net/tcp.h>
86 #include <net/udp.h>
87 #include <net/raw.h>
88 #include <net/ping.h>
89 #include <linux/skbuff.h>
90 #include <net/sock.h>
91 #include <linux/errno.h>
92 #include <linux/timer.h>
93 #include <linux/init.h>
94 #include <linux/uaccess.h>
95 #include <net/checksum.h>
96 #include <net/xfrm.h>
97 #include <net/inet_common.h>
98 #include <net/ip_fib.h>
99 #include <net/l3mdev.h>
100
101 /*
102  *      Build xmit assembly blocks
103  */
104
105 struct icmp_bxm {
106         struct sk_buff *skb;
107         int offset;
108         int data_len;
109
110         struct {
111                 struct icmphdr icmph;
112                 __be32         times[3];
113         } data;
114         int head_len;
115         struct ip_options_data replyopts;
116 };
117
118 /* An array of errno for error messages from dest unreach. */
119 /* RFC 1122: 3.2.2.1 States that NET_UNREACH, HOST_UNREACH and SR_FAILED MUST be considered 'transient errs'. */
120
121 const struct icmp_err icmp_err_convert[] = {
122         {
123                 .errno = ENETUNREACH,   /* ICMP_NET_UNREACH */
124                 .fatal = 0,
125         },
126         {
127                 .errno = EHOSTUNREACH,  /* ICMP_HOST_UNREACH */
128                 .fatal = 0,
129         },
130         {
131                 .errno = ENOPROTOOPT    /* ICMP_PROT_UNREACH */,
132                 .fatal = 1,
133         },
134         {
135                 .errno = ECONNREFUSED,  /* ICMP_PORT_UNREACH */
136                 .fatal = 1,
137         },
138         {
139                 .errno = EMSGSIZE,      /* ICMP_FRAG_NEEDED */
140                 .fatal = 0,
141         },
142         {
143                 .errno = EOPNOTSUPP,    /* ICMP_SR_FAILED */
144                 .fatal = 0,
145         },
146         {
147                 .errno = ENETUNREACH,   /* ICMP_NET_UNKNOWN */
148                 .fatal = 1,
149         },
150         {
151                 .errno = EHOSTDOWN,     /* ICMP_HOST_UNKNOWN */
152                 .fatal = 1,
153         },
154         {
155                 .errno = ENONET,        /* ICMP_HOST_ISOLATED */
156                 .fatal = 1,
157         },
158         {
159                 .errno = ENETUNREACH,   /* ICMP_NET_ANO */
160                 .fatal = 1,
161         },
162         {
163                 .errno = EHOSTUNREACH,  /* ICMP_HOST_ANO */
164                 .fatal = 1,
165         },
166         {
167                 .errno = ENETUNREACH,   /* ICMP_NET_UNR_TOS */
168                 .fatal = 0,
169         },
170         {
171                 .errno = EHOSTUNREACH,  /* ICMP_HOST_UNR_TOS */
172                 .fatal = 0,
173         },
174         {
175                 .errno = EHOSTUNREACH,  /* ICMP_PKT_FILTERED */
176                 .fatal = 1,
177         },
178         {
179                 .errno = EHOSTUNREACH,  /* ICMP_PREC_VIOLATION */
180                 .fatal = 1,
181         },
182         {
183                 .errno = EHOSTUNREACH,  /* ICMP_PREC_CUTOFF */
184                 .fatal = 1,
185         },
186 };
187 EXPORT_SYMBOL(icmp_err_convert);
188
189 /*
190  *      ICMP control array. This specifies what to do with each ICMP.
191  */
192
193 struct icmp_control {
194         bool (*handler)(struct sk_buff *skb);
195         short   error;          /* This ICMP is classed as an error message */
196 };
197
198 static const struct icmp_control icmp_pointers[NR_ICMP_TYPES+1];
199
200 /*
201  *      The ICMP socket(s). This is the most convenient way to flow control
202  *      our ICMP output as well as maintain a clean interface throughout
203  *      all layers. All Socketless IP sends will soon be gone.
204  *
205  *      On SMP we have one ICMP socket per-cpu.
206  */
207 static struct sock *icmp_sk(struct net *net)
208 {
209         return *this_cpu_ptr(net->ipv4.icmp_sk);
210 }
211
212 /* Called with BH disabled */
213 static inline struct sock *icmp_xmit_lock(struct net *net)
214 {
215         struct sock *sk;
216
217         sk = icmp_sk(net);
218
219         if (unlikely(!spin_trylock(&sk->sk_lock.slock))) {
220                 /* This can happen if the output path signals a
221                  * dst_link_failure() for an outgoing ICMP packet.
222                  */
223                 return NULL;
224         }
225         return sk;
226 }
227
228 static inline void icmp_xmit_unlock(struct sock *sk)
229 {
230         spin_unlock(&sk->sk_lock.slock);
231 }
232
233 int sysctl_icmp_msgs_per_sec __read_mostly = 1000;
234 int sysctl_icmp_msgs_burst __read_mostly = 50;
235
236 static struct {
237         spinlock_t      lock;
238         u32             credit;
239         u32             stamp;
240 } icmp_global = {
241         .lock           = __SPIN_LOCK_UNLOCKED(icmp_global.lock),
242 };
243
244 /**
245  * icmp_global_allow - Are we allowed to send one more ICMP message ?
246  *
247  * Uses a token bucket to limit our ICMP messages to ~sysctl_icmp_msgs_per_sec.
248  * Returns false if we reached the limit and can not send another packet.
249  * Note: called with BH disabled
250  */
251 bool icmp_global_allow(void)
252 {
253         u32 credit, delta, incr = 0, now = (u32)jiffies;
254         bool rc = false;
255
256         /* Check if token bucket is empty and cannot be refilled
257          * without taking the spinlock. The READ_ONCE() are paired
258          * with the following WRITE_ONCE() in this same function.
259          */
260         if (!READ_ONCE(icmp_global.credit)) {
261                 delta = min_t(u32, now - READ_ONCE(icmp_global.stamp), HZ);
262                 if (delta < HZ / 50)
263                         return false;
264         }
265
266         spin_lock(&icmp_global.lock);
267         delta = min_t(u32, now - icmp_global.stamp, HZ);
268         if (delta >= HZ / 50) {
269                 incr = READ_ONCE(sysctl_icmp_msgs_per_sec) * delta / HZ;
270                 if (incr)
271                         WRITE_ONCE(icmp_global.stamp, now);
272         }
273         credit = min_t(u32, icmp_global.credit + incr,
274                        READ_ONCE(sysctl_icmp_msgs_burst));
275         if (credit) {
276                 /* We want to use a credit of one in average, but need to randomize
277                  * it for security reasons.
278                  */
279                 credit = max_t(int, credit - prandom_u32_max(3), 0);
280                 rc = true;
281         }
282         WRITE_ONCE(icmp_global.credit, credit);
283         spin_unlock(&icmp_global.lock);
284         return rc;
285 }
286 EXPORT_SYMBOL(icmp_global_allow);
287
288 static bool icmpv4_mask_allow(struct net *net, int type, int code)
289 {
290         if (type > NR_ICMP_TYPES)
291                 return true;
292
293         /* Don't limit PMTU discovery. */
294         if (type == ICMP_DEST_UNREACH && code == ICMP_FRAG_NEEDED)
295                 return true;
296
297         /* Limit if icmp type is enabled in ratemask. */
298         if (!((1 << type) & READ_ONCE(net->ipv4.sysctl_icmp_ratemask)))
299                 return true;
300
301         return false;
302 }
303
304 static bool icmpv4_global_allow(struct net *net, int type, int code)
305 {
306         if (icmpv4_mask_allow(net, type, code))
307                 return true;
308
309         if (icmp_global_allow())
310                 return true;
311
312         return false;
313 }
314
315 /*
316  *      Send an ICMP frame.
317  */
318
319 static bool icmpv4_xrlim_allow(struct net *net, struct rtable *rt,
320                                struct flowi4 *fl4, int type, int code)
321 {
322         struct dst_entry *dst = &rt->dst;
323         struct inet_peer *peer;
324         bool rc = true;
325         int vif;
326
327         if (icmpv4_mask_allow(net, type, code))
328                 goto out;
329
330         /* No rate limit on loopback */
331         if (dst->dev && (dst->dev->flags&IFF_LOOPBACK))
332                 goto out;
333
334         vif = l3mdev_master_ifindex(dst->dev);
335         peer = inet_getpeer_v4(net->ipv4.peers, fl4->daddr, vif, 1);
336         rc = inet_peer_xrlim_allow(peer,
337                                    READ_ONCE(net->ipv4.sysctl_icmp_ratelimit));
338         if (peer)
339                 inet_putpeer(peer);
340 out:
341         return rc;
342 }
343
344 /*
345  *      Maintain the counters used in the SNMP statistics for outgoing ICMP
346  */
347 void icmp_out_count(struct net *net, unsigned char type)
348 {
349         ICMPMSGOUT_INC_STATS(net, type);
350         ICMP_INC_STATS(net, ICMP_MIB_OUTMSGS);
351 }
352
353 /*
354  *      Checksum each fragment, and on the first include the headers and final
355  *      checksum.
356  */
357 static int icmp_glue_bits(void *from, char *to, int offset, int len, int odd,
358                           struct sk_buff *skb)
359 {
360         struct icmp_bxm *icmp_param = (struct icmp_bxm *)from;
361         __wsum csum;
362
363         csum = skb_copy_and_csum_bits(icmp_param->skb,
364                                       icmp_param->offset + offset,
365                                       to, len, 0);
366
367         skb->csum = csum_block_add(skb->csum, csum, odd);
368         if (icmp_pointers[icmp_param->data.icmph.type].error)
369                 nf_ct_attach(skb, icmp_param->skb);
370         return 0;
371 }
372
373 static void icmp_push_reply(struct icmp_bxm *icmp_param,
374                             struct flowi4 *fl4,
375                             struct ipcm_cookie *ipc, struct rtable **rt)
376 {
377         struct sock *sk;
378         struct sk_buff *skb;
379
380         sk = icmp_sk(dev_net((*rt)->dst.dev));
381         if (ip_append_data(sk, fl4, icmp_glue_bits, icmp_param,
382                            icmp_param->data_len+icmp_param->head_len,
383                            icmp_param->head_len,
384                            ipc, rt, MSG_DONTWAIT) < 0) {
385                 __ICMP_INC_STATS(sock_net(sk), ICMP_MIB_OUTERRORS);
386                 ip_flush_pending_frames(sk);
387         } else if ((skb = skb_peek(&sk->sk_write_queue)) != NULL) {
388                 struct icmphdr *icmph = icmp_hdr(skb);
389                 __wsum csum = 0;
390                 struct sk_buff *skb1;
391
392                 skb_queue_walk(&sk->sk_write_queue, skb1) {
393                         csum = csum_add(csum, skb1->csum);
394                 }
395                 csum = csum_partial_copy_nocheck((void *)&icmp_param->data,
396                                                  (char *)icmph,
397                                                  icmp_param->head_len, csum);
398                 icmph->checksum = csum_fold(csum);
399                 skb->ip_summed = CHECKSUM_NONE;
400                 ip_push_pending_frames(sk, fl4);
401         }
402 }
403
404 /*
405  *      Driving logic for building and sending ICMP messages.
406  */
407
408 static void icmp_reply(struct icmp_bxm *icmp_param, struct sk_buff *skb)
409 {
410         struct ipcm_cookie ipc;
411         struct rtable *rt = skb_rtable(skb);
412         struct net *net = dev_net(rt->dst.dev);
413         struct flowi4 fl4;
414         struct sock *sk;
415         struct inet_sock *inet;
416         __be32 daddr, saddr;
417         u32 mark = IP4_REPLY_MARK(net, skb->mark);
418         int type = icmp_param->data.icmph.type;
419         int code = icmp_param->data.icmph.code;
420
421         if (ip_options_echo(net, &icmp_param->replyopts.opt.opt, skb))
422                 return;
423
424         /* Needed by both icmp_global_allow and icmp_xmit_lock */
425         local_bh_disable();
426
427         /* global icmp_msgs_per_sec */
428         if (!icmpv4_global_allow(net, type, code))
429                 goto out_bh_enable;
430
431         sk = icmp_xmit_lock(net);
432         if (!sk)
433                 goto out_bh_enable;
434         inet = inet_sk(sk);
435
436         icmp_param->data.icmph.checksum = 0;
437
438         inet->tos = ip_hdr(skb)->tos;
439         sk->sk_mark = mark;
440         daddr = ipc.addr = ip_hdr(skb)->saddr;
441         saddr = fib_compute_spec_dst(skb);
442         ipc.opt = NULL;
443         ipc.tx_flags = 0;
444         ipc.ttl = 0;
445         ipc.tos = -1;
446
447         if (icmp_param->replyopts.opt.opt.optlen) {
448                 ipc.opt = &icmp_param->replyopts.opt;
449                 if (ipc.opt->opt.srr)
450                         daddr = icmp_param->replyopts.opt.opt.faddr;
451         }
452         memset(&fl4, 0, sizeof(fl4));
453         fl4.daddr = daddr;
454         fl4.saddr = saddr;
455         fl4.flowi4_mark = mark;
456         fl4.flowi4_uid = sock_net_uid(net, NULL);
457         fl4.flowi4_tos = RT_TOS(ip_hdr(skb)->tos);
458         fl4.flowi4_proto = IPPROTO_ICMP;
459         fl4.flowi4_oif = l3mdev_master_ifindex(skb->dev);
460         security_skb_classify_flow(skb, flowi4_to_flowi(&fl4));
461         rt = ip_route_output_key(net, &fl4);
462         if (IS_ERR(rt))
463                 goto out_unlock;
464         if (icmpv4_xrlim_allow(net, rt, &fl4, type, code))
465                 icmp_push_reply(icmp_param, &fl4, &ipc, &rt);
466         ip_rt_put(rt);
467 out_unlock:
468         icmp_xmit_unlock(sk);
469 out_bh_enable:
470         local_bh_enable();
471 }
472
473 /*
474  * The device used for looking up which routing table to use for sending an ICMP
475  * error is preferably the source whenever it is set, which should ensure the
476  * icmp error can be sent to the source host, else lookup using the routing
477  * table of the destination device, else use the main routing table (index 0).
478  */
479 static struct net_device *icmp_get_route_lookup_dev(struct sk_buff *skb)
480 {
481         struct net_device *route_lookup_dev = NULL;
482
483         if (skb->dev)
484                 route_lookup_dev = skb->dev;
485         else if (skb_dst(skb))
486                 route_lookup_dev = skb_dst(skb)->dev;
487         return route_lookup_dev;
488 }
489
490 static struct rtable *icmp_route_lookup(struct net *net,
491                                         struct flowi4 *fl4,
492                                         struct sk_buff *skb_in,
493                                         const struct iphdr *iph,
494                                         __be32 saddr, u8 tos, u32 mark,
495                                         int type, int code,
496                                         struct icmp_bxm *param)
497 {
498         struct net_device *route_lookup_dev;
499         struct rtable *rt, *rt2;
500         struct flowi4 fl4_dec;
501         int err;
502
503         memset(fl4, 0, sizeof(*fl4));
504         fl4->daddr = (param->replyopts.opt.opt.srr ?
505                       param->replyopts.opt.opt.faddr : iph->saddr);
506         fl4->saddr = saddr;
507         fl4->flowi4_mark = mark;
508         fl4->flowi4_uid = sock_net_uid(net, NULL);
509         fl4->flowi4_tos = RT_TOS(tos);
510         fl4->flowi4_proto = IPPROTO_ICMP;
511         fl4->fl4_icmp_type = type;
512         fl4->fl4_icmp_code = code;
513         route_lookup_dev = icmp_get_route_lookup_dev(skb_in);
514         fl4->flowi4_oif = l3mdev_master_ifindex(route_lookup_dev);
515
516         security_skb_classify_flow(skb_in, flowi4_to_flowi(fl4));
517         rt = ip_route_output_key_hash(net, fl4, skb_in);
518         if (IS_ERR(rt))
519                 return rt;
520
521         /* No need to clone since we're just using its address. */
522         rt2 = rt;
523
524         rt = (struct rtable *) xfrm_lookup(net, &rt->dst,
525                                            flowi4_to_flowi(fl4), NULL, 0);
526         if (!IS_ERR(rt)) {
527                 if (rt != rt2)
528                         return rt;
529         } else if (PTR_ERR(rt) == -EPERM) {
530                 rt = NULL;
531         } else
532                 return rt;
533
534         err = xfrm_decode_session_reverse(skb_in, flowi4_to_flowi(&fl4_dec), AF_INET);
535         if (err)
536                 goto relookup_failed;
537
538         if (inet_addr_type_dev_table(net, route_lookup_dev,
539                                      fl4_dec.saddr) == RTN_LOCAL) {
540                 rt2 = __ip_route_output_key(net, &fl4_dec);
541                 if (IS_ERR(rt2))
542                         err = PTR_ERR(rt2);
543         } else {
544                 struct flowi4 fl4_2 = {};
545                 unsigned long orefdst;
546
547                 fl4_2.daddr = fl4_dec.saddr;
548                 rt2 = ip_route_output_key(net, &fl4_2);
549                 if (IS_ERR(rt2)) {
550                         err = PTR_ERR(rt2);
551                         goto relookup_failed;
552                 }
553                 /* Ugh! */
554                 orefdst = skb_in->_skb_refdst; /* save old refdst */
555                 skb_dst_set(skb_in, NULL);
556                 err = ip_route_input(skb_in, fl4_dec.daddr, fl4_dec.saddr,
557                                      RT_TOS(tos), rt2->dst.dev);
558
559                 dst_release(&rt2->dst);
560                 rt2 = skb_rtable(skb_in);
561                 skb_in->_skb_refdst = orefdst; /* restore old refdst */
562         }
563
564         if (err)
565                 goto relookup_failed;
566
567         rt2 = (struct rtable *) xfrm_lookup(net, &rt2->dst,
568                                             flowi4_to_flowi(&fl4_dec), NULL,
569                                             XFRM_LOOKUP_ICMP);
570         if (!IS_ERR(rt2)) {
571                 dst_release(&rt->dst);
572                 memcpy(fl4, &fl4_dec, sizeof(*fl4));
573                 rt = rt2;
574         } else if (PTR_ERR(rt2) == -EPERM) {
575                 if (rt)
576                         dst_release(&rt->dst);
577                 return rt2;
578         } else {
579                 err = PTR_ERR(rt2);
580                 goto relookup_failed;
581         }
582         return rt;
583
584 relookup_failed:
585         if (rt)
586                 return rt;
587         return ERR_PTR(err);
588 }
589
590 /*
591  *      Send an ICMP message in response to a situation
592  *
593  *      RFC 1122: 3.2.2 MUST send at least the IP header and 8 bytes of header.
594  *                MAY send more (we do).
595  *                      MUST NOT change this header information.
596  *                      MUST NOT reply to a multicast/broadcast IP address.
597  *                      MUST NOT reply to a multicast/broadcast MAC address.
598  *                      MUST reply to only the first fragment.
599  */
600
601 void __icmp_send(struct sk_buff *skb_in, int type, int code, __be32 info,
602                  const struct ip_options *opt)
603 {
604         struct iphdr *iph;
605         int room;
606         struct icmp_bxm icmp_param;
607         struct rtable *rt = skb_rtable(skb_in);
608         struct ipcm_cookie ipc;
609         struct flowi4 fl4;
610         __be32 saddr;
611         u8  tos;
612         u32 mark;
613         struct net *net;
614         struct sock *sk;
615
616         if (!rt)
617                 goto out;
618         net = dev_net(rt->dst.dev);
619
620         /*
621          *      Find the original header. It is expected to be valid, of course.
622          *      Check this, icmp_send is called from the most obscure devices
623          *      sometimes.
624          */
625         iph = ip_hdr(skb_in);
626
627         if ((u8 *)iph < skb_in->head ||
628             (skb_network_header(skb_in) + sizeof(*iph)) >
629             skb_tail_pointer(skb_in))
630                 goto out;
631
632         /*
633          *      No replies to physical multicast/broadcast
634          */
635         if (skb_in->pkt_type != PACKET_HOST)
636                 goto out;
637
638         /*
639          *      Now check at the protocol level
640          */
641         if (rt->rt_flags & (RTCF_BROADCAST | RTCF_MULTICAST))
642                 goto out;
643
644         /*
645          *      Only reply to fragment 0. We byte re-order the constant
646          *      mask for efficiency.
647          */
648         if (iph->frag_off & htons(IP_OFFSET))
649                 goto out;
650
651         /*
652          *      If we send an ICMP error to an ICMP error a mess would result..
653          */
654         if (icmp_pointers[type].error) {
655                 /*
656                  *      We are an error, check if we are replying to an
657                  *      ICMP error
658                  */
659                 if (iph->protocol == IPPROTO_ICMP) {
660                         u8 _inner_type, *itp;
661
662                         itp = skb_header_pointer(skb_in,
663                                                  skb_network_header(skb_in) +
664                                                  (iph->ihl << 2) +
665                                                  offsetof(struct icmphdr,
666                                                           type) -
667                                                  skb_in->data,
668                                                  sizeof(_inner_type),
669                                                  &_inner_type);
670                         if (!itp)
671                                 goto out;
672
673                         /*
674                          *      Assume any unknown ICMP type is an error. This
675                          *      isn't specified by the RFC, but think about it..
676                          */
677                         if (*itp > NR_ICMP_TYPES ||
678                             icmp_pointers[*itp].error)
679                                 goto out;
680                 }
681         }
682
683         /* Needed by both icmp_global_allow and icmp_xmit_lock */
684         local_bh_disable();
685
686         /* Check global sysctl_icmp_msgs_per_sec ratelimit, unless
687          * incoming dev is loopback.  If outgoing dev change to not be
688          * loopback, then peer ratelimit still work (in icmpv4_xrlim_allow)
689          */
690         if (!(skb_in->dev && (skb_in->dev->flags&IFF_LOOPBACK)) &&
691               !icmpv4_global_allow(net, type, code))
692                 goto out_bh_enable;
693
694         sk = icmp_xmit_lock(net);
695         if (!sk)
696                 goto out_bh_enable;
697
698         /*
699          *      Construct source address and options.
700          */
701
702         saddr = iph->daddr;
703         if (!(rt->rt_flags & RTCF_LOCAL)) {
704                 struct net_device *dev = NULL;
705
706                 rcu_read_lock();
707                 if (rt_is_input_route(rt) &&
708                     net->ipv4.sysctl_icmp_errors_use_inbound_ifaddr)
709                         dev = dev_get_by_index_rcu(net, inet_iif(skb_in));
710
711                 if (dev)
712                         saddr = inet_select_addr(dev, 0, RT_SCOPE_LINK);
713                 else
714                         saddr = 0;
715                 rcu_read_unlock();
716         }
717
718         tos = icmp_pointers[type].error ? ((iph->tos & IPTOS_TOS_MASK) |
719                                            IPTOS_PREC_INTERNETCONTROL) :
720                                           iph->tos;
721         mark = IP4_REPLY_MARK(net, skb_in->mark);
722
723         if (__ip_options_echo(net, &icmp_param.replyopts.opt.opt, skb_in, opt))
724                 goto out_unlock;
725
726
727         /*
728          *      Prepare data for ICMP header.
729          */
730
731         icmp_param.data.icmph.type       = type;
732         icmp_param.data.icmph.code       = code;
733         icmp_param.data.icmph.un.gateway = info;
734         icmp_param.data.icmph.checksum   = 0;
735         icmp_param.skb    = skb_in;
736         icmp_param.offset = skb_network_offset(skb_in);
737         inet_sk(sk)->tos = tos;
738         sk->sk_mark = mark;
739         ipc.addr = iph->saddr;
740         ipc.opt = &icmp_param.replyopts.opt;
741         ipc.tx_flags = 0;
742         ipc.ttl = 0;
743         ipc.tos = -1;
744
745         rt = icmp_route_lookup(net, &fl4, skb_in, iph, saddr, tos, mark,
746                                type, code, &icmp_param);
747         if (IS_ERR(rt))
748                 goto out_unlock;
749
750         /* peer icmp_ratelimit */
751         if (!icmpv4_xrlim_allow(net, rt, &fl4, type, code))
752                 goto ende;
753
754         /* RFC says return as much as we can without exceeding 576 bytes. */
755
756         room = dst_mtu(&rt->dst);
757         if (room > 576)
758                 room = 576;
759         room -= sizeof(struct iphdr) + icmp_param.replyopts.opt.opt.optlen;
760         room -= sizeof(struct icmphdr);
761
762         icmp_param.data_len = skb_in->len - icmp_param.offset;
763         if (icmp_param.data_len > room)
764                 icmp_param.data_len = room;
765         icmp_param.head_len = sizeof(struct icmphdr);
766
767         /* if we don't have a source address at this point, fall back to the
768          * dummy address instead of sending out a packet with a source address
769          * of 0.0.0.0
770          */
771         if (!fl4.saddr)
772                 fl4.saddr = htonl(INADDR_DUMMY);
773
774         icmp_push_reply(&icmp_param, &fl4, &ipc, &rt);
775 ende:
776         ip_rt_put(rt);
777 out_unlock:
778         icmp_xmit_unlock(sk);
779 out_bh_enable:
780         local_bh_enable();
781 out:;
782 }
783 EXPORT_SYMBOL(__icmp_send);
784
785 #if IS_ENABLED(CONFIG_NF_NAT)
786 #include <net/netfilter/nf_conntrack.h>
787 void icmp_ndo_send(struct sk_buff *skb_in, int type, int code, __be32 info)
788 {
789         struct sk_buff *cloned_skb = NULL;
790         struct ip_options opts = { 0 };
791         enum ip_conntrack_info ctinfo;
792         struct nf_conn *ct;
793         __be32 orig_ip;
794
795         ct = nf_ct_get(skb_in, &ctinfo);
796         if (!ct || !(ct->status & IPS_SRC_NAT)) {
797                 __icmp_send(skb_in, type, code, info, &opts);
798                 return;
799         }
800
801         if (skb_shared(skb_in))
802                 skb_in = cloned_skb = skb_clone(skb_in, GFP_ATOMIC);
803
804         if (unlikely(!skb_in || skb_network_header(skb_in) < skb_in->head ||
805             (skb_network_header(skb_in) + sizeof(struct iphdr)) >
806             skb_tail_pointer(skb_in) || skb_ensure_writable(skb_in,
807             skb_network_offset(skb_in) + sizeof(struct iphdr))))
808                 goto out;
809
810         orig_ip = ip_hdr(skb_in)->saddr;
811         ip_hdr(skb_in)->saddr = ct->tuplehash[0].tuple.src.u3.ip;
812         __icmp_send(skb_in, type, code, info, &opts);
813         ip_hdr(skb_in)->saddr = orig_ip;
814 out:
815         consume_skb(cloned_skb);
816 }
817 EXPORT_SYMBOL(icmp_ndo_send);
818 #endif
819
820 static void icmp_socket_deliver(struct sk_buff *skb, u32 info)
821 {
822         const struct iphdr *iph = (const struct iphdr *) skb->data;
823         const struct net_protocol *ipprot;
824         int protocol = iph->protocol;
825
826         /* Checkin full IP header plus 8 bytes of protocol to
827          * avoid additional coding at protocol handlers.
828          */
829         if (!pskb_may_pull(skb, iph->ihl * 4 + 8)) {
830                 __ICMP_INC_STATS(dev_net(skb->dev), ICMP_MIB_INERRORS);
831                 return;
832         }
833
834         raw_icmp_error(skb, protocol, info);
835
836         ipprot = rcu_dereference(inet_protos[protocol]);
837         if (ipprot && ipprot->err_handler)
838                 ipprot->err_handler(skb, info);
839 }
840
841 static bool icmp_tag_validation(int proto)
842 {
843         bool ok;
844
845         rcu_read_lock();
846         ok = rcu_dereference(inet_protos[proto])->icmp_strict_tag_validation;
847         rcu_read_unlock();
848         return ok;
849 }
850
851 /*
852  *      Handle ICMP_DEST_UNREACH, ICMP_TIME_EXCEEDED, ICMP_QUENCH, and
853  *      ICMP_PARAMETERPROB.
854  */
855
856 static bool icmp_unreach(struct sk_buff *skb)
857 {
858         const struct iphdr *iph;
859         struct icmphdr *icmph;
860         struct net *net;
861         u32 info = 0;
862
863         net = dev_net(skb_dst(skb)->dev);
864
865         /*
866          *      Incomplete header ?
867          *      Only checks for the IP header, there should be an
868          *      additional check for longer headers in upper levels.
869          */
870
871         if (!pskb_may_pull(skb, sizeof(struct iphdr)))
872                 goto out_err;
873
874         icmph = icmp_hdr(skb);
875         iph   = (const struct iphdr *)skb->data;
876
877         if (iph->ihl < 5) /* Mangled header, drop. */
878                 goto out_err;
879
880         switch (icmph->type) {
881         case ICMP_DEST_UNREACH:
882                 switch (icmph->code & 15) {
883                 case ICMP_NET_UNREACH:
884                 case ICMP_HOST_UNREACH:
885                 case ICMP_PROT_UNREACH:
886                 case ICMP_PORT_UNREACH:
887                         break;
888                 case ICMP_FRAG_NEEDED:
889                         /* for documentation of the ip_no_pmtu_disc
890                          * values please see
891                          * Documentation/networking/ip-sysctl.txt
892                          */
893                         switch (net->ipv4.sysctl_ip_no_pmtu_disc) {
894                         default:
895                                 net_dbg_ratelimited("%pI4: fragmentation needed and DF set\n",
896                                                     &iph->daddr);
897                                 break;
898                         case 2:
899                                 goto out;
900                         case 3:
901                                 if (!icmp_tag_validation(iph->protocol))
902                                         goto out;
903                                 /* fall through */
904                         case 0:
905                                 info = ntohs(icmph->un.frag.mtu);
906                         }
907                         break;
908                 case ICMP_SR_FAILED:
909                         net_dbg_ratelimited("%pI4: Source Route Failed\n",
910                                             &iph->daddr);
911                         break;
912                 default:
913                         break;
914                 }
915                 if (icmph->code > NR_ICMP_UNREACH)
916                         goto out;
917                 break;
918         case ICMP_PARAMETERPROB:
919                 info = ntohl(icmph->un.gateway) >> 24;
920                 break;
921         case ICMP_TIME_EXCEEDED:
922                 __ICMP_INC_STATS(net, ICMP_MIB_INTIMEEXCDS);
923                 if (icmph->code == ICMP_EXC_FRAGTIME)
924                         goto out;
925                 break;
926         }
927
928         /*
929          *      Throw it at our lower layers
930          *
931          *      RFC 1122: 3.2.2 MUST extract the protocol ID from the passed
932          *                header.
933          *      RFC 1122: 3.2.2.1 MUST pass ICMP unreach messages to the
934          *                transport layer.
935          *      RFC 1122: 3.2.2.2 MUST pass ICMP time expired messages to
936          *                transport layer.
937          */
938
939         /*
940          *      Check the other end isn't violating RFC 1122. Some routers send
941          *      bogus responses to broadcast frames. If you see this message
942          *      first check your netmask matches at both ends, if it does then
943          *      get the other vendor to fix their kit.
944          */
945
946         if (!net->ipv4.sysctl_icmp_ignore_bogus_error_responses &&
947             inet_addr_type_dev_table(net, skb->dev, iph->daddr) == RTN_BROADCAST) {
948                 net_warn_ratelimited("%pI4 sent an invalid ICMP type %u, code %u error to a broadcast: %pI4 on %s\n",
949                                      &ip_hdr(skb)->saddr,
950                                      icmph->type, icmph->code,
951                                      &iph->daddr, skb->dev->name);
952                 goto out;
953         }
954
955         icmp_socket_deliver(skb, info);
956
957 out:
958         return true;
959 out_err:
960         __ICMP_INC_STATS(net, ICMP_MIB_INERRORS);
961         return false;
962 }
963
964
965 /*
966  *      Handle ICMP_REDIRECT.
967  */
968
969 static bool icmp_redirect(struct sk_buff *skb)
970 {
971         if (skb->len < sizeof(struct iphdr)) {
972                 __ICMP_INC_STATS(dev_net(skb->dev), ICMP_MIB_INERRORS);
973                 return false;
974         }
975
976         if (!pskb_may_pull(skb, sizeof(struct iphdr))) {
977                 /* there aught to be a stat */
978                 return false;
979         }
980
981         icmp_socket_deliver(skb, icmp_hdr(skb)->un.gateway);
982         return true;
983 }
984
985 /*
986  *      Handle ICMP_ECHO ("ping") requests.
987  *
988  *      RFC 1122: 3.2.2.6 MUST have an echo server that answers ICMP echo
989  *                requests.
990  *      RFC 1122: 3.2.2.6 Data received in the ICMP_ECHO request MUST be
991  *                included in the reply.
992  *      RFC 1812: 4.3.3.6 SHOULD have a config option for silently ignoring
993  *                echo requests, MUST have default=NOT.
994  *      See also WRT handling of options once they are done and working.
995  */
996
997 static bool icmp_echo(struct sk_buff *skb)
998 {
999         struct net *net;
1000
1001         net = dev_net(skb_dst(skb)->dev);
1002         if (!net->ipv4.sysctl_icmp_echo_ignore_all) {
1003                 struct icmp_bxm icmp_param;
1004
1005                 icmp_param.data.icmph      = *icmp_hdr(skb);
1006                 icmp_param.data.icmph.type = ICMP_ECHOREPLY;
1007                 icmp_param.skb             = skb;
1008                 icmp_param.offset          = 0;
1009                 icmp_param.data_len        = skb->len;
1010                 icmp_param.head_len        = sizeof(struct icmphdr);
1011                 icmp_reply(&icmp_param, skb);
1012         }
1013         /* should there be an ICMP stat for ignored echos? */
1014         return true;
1015 }
1016
1017 /*
1018  *      Handle ICMP Timestamp requests.
1019  *      RFC 1122: 3.2.2.8 MAY implement ICMP timestamp requests.
1020  *                SHOULD be in the kernel for minimum random latency.
1021  *                MUST be accurate to a few minutes.
1022  *                MUST be updated at least at 15Hz.
1023  */
1024 static bool icmp_timestamp(struct sk_buff *skb)
1025 {
1026         struct icmp_bxm icmp_param;
1027         /*
1028          *      Too short.
1029          */
1030         if (skb->len < 4)
1031                 goto out_err;
1032
1033         /*
1034          *      Fill in the current time as ms since midnight UT:
1035          */
1036         icmp_param.data.times[1] = inet_current_timestamp();
1037         icmp_param.data.times[2] = icmp_param.data.times[1];
1038         if (skb_copy_bits(skb, 0, &icmp_param.data.times[0], 4))
1039                 BUG();
1040         icmp_param.data.icmph      = *icmp_hdr(skb);
1041         icmp_param.data.icmph.type = ICMP_TIMESTAMPREPLY;
1042         icmp_param.data.icmph.code = 0;
1043         icmp_param.skb             = skb;
1044         icmp_param.offset          = 0;
1045         icmp_param.data_len        = 0;
1046         icmp_param.head_len        = sizeof(struct icmphdr) + 12;
1047         icmp_reply(&icmp_param, skb);
1048         return true;
1049
1050 out_err:
1051         __ICMP_INC_STATS(dev_net(skb_dst(skb)->dev), ICMP_MIB_INERRORS);
1052         return false;
1053 }
1054
1055 static bool icmp_discard(struct sk_buff *skb)
1056 {
1057         /* pretend it was a success */
1058         return true;
1059 }
1060
1061 /*
1062  *      Deal with incoming ICMP packets.
1063  */
1064 int icmp_rcv(struct sk_buff *skb)
1065 {
1066         struct icmphdr *icmph;
1067         struct rtable *rt = skb_rtable(skb);
1068         struct net *net = dev_net(rt->dst.dev);
1069         bool success;
1070
1071         if (!xfrm4_policy_check(NULL, XFRM_POLICY_IN, skb)) {
1072                 struct sec_path *sp = skb_sec_path(skb);
1073                 int nh;
1074
1075                 if (!(sp && sp->xvec[sp->len - 1]->props.flags &
1076                                  XFRM_STATE_ICMP))
1077                         goto drop;
1078
1079                 if (!pskb_may_pull(skb, sizeof(*icmph) + sizeof(struct iphdr)))
1080                         goto drop;
1081
1082                 nh = skb_network_offset(skb);
1083                 skb_set_network_header(skb, sizeof(*icmph));
1084
1085                 if (!xfrm4_policy_check_reverse(NULL, XFRM_POLICY_IN, skb))
1086                         goto drop;
1087
1088                 skb_set_network_header(skb, nh);
1089         }
1090
1091         __ICMP_INC_STATS(net, ICMP_MIB_INMSGS);
1092
1093         if (skb_checksum_simple_validate(skb))
1094                 goto csum_error;
1095
1096         if (!pskb_pull(skb, sizeof(*icmph)))
1097                 goto error;
1098
1099         icmph = icmp_hdr(skb);
1100
1101         ICMPMSGIN_INC_STATS(net, icmph->type);
1102         /*
1103          *      18 is the highest 'known' ICMP type. Anything else is a mystery
1104          *
1105          *      RFC 1122: 3.2.2  Unknown ICMP messages types MUST be silently
1106          *                discarded.
1107          */
1108         if (icmph->type > NR_ICMP_TYPES)
1109                 goto error;
1110
1111
1112         /*
1113          *      Parse the ICMP message
1114          */
1115
1116         if (rt->rt_flags & (RTCF_BROADCAST | RTCF_MULTICAST)) {
1117                 /*
1118                  *      RFC 1122: 3.2.2.6 An ICMP_ECHO to broadcast MAY be
1119                  *        silently ignored (we let user decide with a sysctl).
1120                  *      RFC 1122: 3.2.2.8 An ICMP_TIMESTAMP MAY be silently
1121                  *        discarded if to broadcast/multicast.
1122                  */
1123                 if ((icmph->type == ICMP_ECHO ||
1124                      icmph->type == ICMP_TIMESTAMP) &&
1125                     net->ipv4.sysctl_icmp_echo_ignore_broadcasts) {
1126                         goto error;
1127                 }
1128                 if (icmph->type != ICMP_ECHO &&
1129                     icmph->type != ICMP_TIMESTAMP &&
1130                     icmph->type != ICMP_ADDRESS &&
1131                     icmph->type != ICMP_ADDRESSREPLY) {
1132                         goto error;
1133                 }
1134         }
1135
1136         success = icmp_pointers[icmph->type].handler(skb);
1137
1138         if (success)  {
1139                 consume_skb(skb);
1140                 return NET_RX_SUCCESS;
1141         }
1142
1143 drop:
1144         kfree_skb(skb);
1145         return NET_RX_DROP;
1146 csum_error:
1147         __ICMP_INC_STATS(net, ICMP_MIB_CSUMERRORS);
1148 error:
1149         __ICMP_INC_STATS(net, ICMP_MIB_INERRORS);
1150         goto drop;
1151 }
1152
1153 void icmp_err(struct sk_buff *skb, u32 info)
1154 {
1155         struct iphdr *iph = (struct iphdr *)skb->data;
1156         int offset = iph->ihl<<2;
1157         struct icmphdr *icmph = (struct icmphdr *)(skb->data + offset);
1158         int type = icmp_hdr(skb)->type;
1159         int code = icmp_hdr(skb)->code;
1160         struct net *net = dev_net(skb->dev);
1161
1162         /*
1163          * Use ping_err to handle all icmp errors except those
1164          * triggered by ICMP_ECHOREPLY which sent from kernel.
1165          */
1166         if (icmph->type != ICMP_ECHOREPLY) {
1167                 ping_err(skb, offset, info);
1168                 return;
1169         }
1170
1171         if (type == ICMP_DEST_UNREACH && code == ICMP_FRAG_NEEDED)
1172                 ipv4_update_pmtu(skb, net, info, 0, 0, IPPROTO_ICMP, 0);
1173         else if (type == ICMP_REDIRECT)
1174                 ipv4_redirect(skb, net, 0, 0, IPPROTO_ICMP, 0);
1175 }
1176
1177 /*
1178  *      This table is the definition of how we handle ICMP.
1179  */
1180 static const struct icmp_control icmp_pointers[NR_ICMP_TYPES + 1] = {
1181         [ICMP_ECHOREPLY] = {
1182                 .handler = ping_rcv,
1183         },
1184         [1] = {
1185                 .handler = icmp_discard,
1186                 .error = 1,
1187         },
1188         [2] = {
1189                 .handler = icmp_discard,
1190                 .error = 1,
1191         },
1192         [ICMP_DEST_UNREACH] = {
1193                 .handler = icmp_unreach,
1194                 .error = 1,
1195         },
1196         [ICMP_SOURCE_QUENCH] = {
1197                 .handler = icmp_unreach,
1198                 .error = 1,
1199         },
1200         [ICMP_REDIRECT] = {
1201                 .handler = icmp_redirect,
1202                 .error = 1,
1203         },
1204         [6] = {
1205                 .handler = icmp_discard,
1206                 .error = 1,
1207         },
1208         [7] = {
1209                 .handler = icmp_discard,
1210                 .error = 1,
1211         },
1212         [ICMP_ECHO] = {
1213                 .handler = icmp_echo,
1214         },
1215         [9] = {
1216                 .handler = icmp_discard,
1217                 .error = 1,
1218         },
1219         [10] = {
1220                 .handler = icmp_discard,
1221                 .error = 1,
1222         },
1223         [ICMP_TIME_EXCEEDED] = {
1224                 .handler = icmp_unreach,
1225                 .error = 1,
1226         },
1227         [ICMP_PARAMETERPROB] = {
1228                 .handler = icmp_unreach,
1229                 .error = 1,
1230         },
1231         [ICMP_TIMESTAMP] = {
1232                 .handler = icmp_timestamp,
1233         },
1234         [ICMP_TIMESTAMPREPLY] = {
1235                 .handler = icmp_discard,
1236         },
1237         [ICMP_INFO_REQUEST] = {
1238                 .handler = icmp_discard,
1239         },
1240         [ICMP_INFO_REPLY] = {
1241                 .handler = icmp_discard,
1242         },
1243         [ICMP_ADDRESS] = {
1244                 .handler = icmp_discard,
1245         },
1246         [ICMP_ADDRESSREPLY] = {
1247                 .handler = icmp_discard,
1248         },
1249 };
1250
1251 static void __net_exit icmp_sk_exit(struct net *net)
1252 {
1253         int i;
1254
1255         for_each_possible_cpu(i)
1256                 inet_ctl_sock_destroy(*per_cpu_ptr(net->ipv4.icmp_sk, i));
1257         free_percpu(net->ipv4.icmp_sk);
1258         net->ipv4.icmp_sk = NULL;
1259 }
1260
1261 static int __net_init icmp_sk_init(struct net *net)
1262 {
1263         int i, err;
1264
1265         net->ipv4.icmp_sk = alloc_percpu(struct sock *);
1266         if (!net->ipv4.icmp_sk)
1267                 return -ENOMEM;
1268
1269         for_each_possible_cpu(i) {
1270                 struct sock *sk;
1271
1272                 err = inet_ctl_sock_create(&sk, PF_INET,
1273                                            SOCK_RAW, IPPROTO_ICMP, net);
1274                 if (err < 0)
1275                         goto fail;
1276
1277                 *per_cpu_ptr(net->ipv4.icmp_sk, i) = sk;
1278
1279                 /* Enough space for 2 64K ICMP packets, including
1280                  * sk_buff/skb_shared_info struct overhead.
1281                  */
1282                 sk->sk_sndbuf = 2 * SKB_TRUESIZE(64 * 1024);
1283
1284                 /*
1285                  * Speedup sock_wfree()
1286                  */
1287                 sock_set_flag(sk, SOCK_USE_WRITE_QUEUE);
1288                 inet_sk(sk)->pmtudisc = IP_PMTUDISC_DONT;
1289         }
1290
1291         /* Control parameters for ECHO replies. */
1292         net->ipv4.sysctl_icmp_echo_ignore_all = 0;
1293         net->ipv4.sysctl_icmp_echo_ignore_broadcasts = 1;
1294
1295         /* Control parameter - ignore bogus broadcast responses? */
1296         net->ipv4.sysctl_icmp_ignore_bogus_error_responses = 1;
1297
1298         /*
1299          *      Configurable global rate limit.
1300          *
1301          *      ratelimit defines tokens/packet consumed for dst->rate_token
1302          *      bucket ratemask defines which icmp types are ratelimited by
1303          *      setting it's bit position.
1304          *
1305          *      default:
1306          *      dest unreachable (3), source quench (4),
1307          *      time exceeded (11), parameter problem (12)
1308          */
1309
1310         net->ipv4.sysctl_icmp_ratelimit = 1 * HZ;
1311         net->ipv4.sysctl_icmp_ratemask = 0x1818;
1312         net->ipv4.sysctl_icmp_errors_use_inbound_ifaddr = 0;
1313
1314         return 0;
1315
1316 fail:
1317         for_each_possible_cpu(i)
1318                 inet_ctl_sock_destroy(*per_cpu_ptr(net->ipv4.icmp_sk, i));
1319         free_percpu(net->ipv4.icmp_sk);
1320         return err;
1321 }
1322
1323 static struct pernet_operations __net_initdata icmp_sk_ops = {
1324        .init = icmp_sk_init,
1325        .exit = icmp_sk_exit,
1326 };
1327
1328 int __init icmp_init(void)
1329 {
1330         return register_pernet_subsys(&icmp_sk_ops);
1331 }