net/ipv4/icmp.c

   1 /*
   2  *      NET3:   Implementation of the ICMP protocol layer.
   3  *
   4  *              Alan Cox, <alan@lxorguk.ukuu.org.uk>
   5  *
   6  *      This program is free software; you can redistribute it and/or
   7  *      modify it under the terms of the GNU General Public License
   8  *      as published by the Free Software Foundation; either version
   9  *      2 of the License, or (at your option) any later version.
  10  *
  11  *      Some of the function names and the icmp unreach table for this
  12  *      module were derived from [icmp.c 1.0.11 06/02/93] by
  13  *      Ross Biro, Fred N. van Kempen, Mark Evans, Alan Cox, Gerhard Koerting.
  14  *      Other than that this module is a complete rewrite.
  15  *
  16  *      Fixes:
  17  *      Clemens Fruhwirth       :       introduce global icmp rate limiting
  18  *                                      with icmp type masking ability instead
  19  *                                      of broken per type icmp timeouts.
  20  *              Mike Shaver     :       RFC1122 checks.
  21  *              Alan Cox        :       Multicast ping reply as self.
  22  *              Alan Cox        :       Fix atomicity lockup in ip_build_xmit
  23  *                                      call.
  24  *              Alan Cox        :       Added 216,128 byte paths to the MTU
  25  *                                      code.
  26  *              Martin Mares    :       RFC1812 checks.
  27  *              Martin Mares    :       Can be configured to follow redirects
  28  *                                      if acting as a router _without_ a
  29  *                                      routing protocol (RFC 1812).
  30  *              Martin Mares    :       Echo requests may be configured to
  31  *                                      be ignored (RFC 1812).
  32  *              Martin Mares    :       Limitation of ICMP error message
  33  *                                      transmit rate (RFC 1812).
  34  *              Martin Mares    :       TOS and Precedence set correctly
  35  *                                      (RFC 1812).
  36  *              Martin Mares    :       Now copying as much data from the
  37  *                                      original packet as we can without
  38  *                                      exceeding 576 bytes (RFC 1812).
  39  *      Willy Konynenberg       :       Transparent proxying support.
  40  *              Keith Owens     :       RFC1191 correction for 4.2BSD based
  41  *                                      path MTU bug.
  42  *              Thomas Quinot   :       ICMP Dest Unreach codes up to 15 are
  43  *                                      valid (RFC 1812).
  44  *              Andi Kleen      :       Check all packet lengths properly
  45  *                                      and moved all kfree_skb() up to
  46  *                                      icmp_rcv.
  47  *              Andi Kleen      :       Move the rate limit bookkeeping
  48  *                                      into the dest entry and use a token
  49  *                                      bucket filter (thanks to ANK). Make
  50  *                                      the rates sysctl configurable.
  51  *              Yu Tianli       :       Fixed two ugly bugs in icmp_send
  52  *                                      - IP option length was accounted wrongly
  53  *                                      - ICMP header length was not accounted
  54  *                                        at all.
  55  *              Tristan Greaves :       Added sysctl option to ignore bogus
  56  *                                      broadcast responses from broken routers.
  57  *
  58  * To Fix:
  59  *
  60  *      - Should use skb_pull() instead of all the manual checking.
  61  *        This would also greatly simply some upper layer error handlers. --AK
  62  *
  63  */
  64
  65 #define pr_fmt(fmt) KBUILD_MODNAME ": " fmt
  66
  67 #include <linux/module.h>
  68 #include <linux/types.h>
  69 #include <linux/jiffies.h>
  70 #include <linux/kernel.h>
  71 #include <linux/fcntl.h>
  72 #include <linux/socket.h>
  73 #include <linux/in.h>
  74 #include <linux/inet.h>
  75 #include <linux/inetdevice.h>
  76 #include <linux/netdevice.h>
  77 #include <linux/string.h>
  78 #include <linux/netfilter_ipv4.h>
  79 #include <linux/slab.h>
  80 #include <net/snmp.h>
  81 #include <net/ip.h>
  82 #include <net/route.h>
  83 #include <net/protocol.h>
  84 #include <net/icmp.h>
  85 #include <net/tcp.h>
  86 #include <net/udp.h>
  87 #include <net/raw.h>
  88 #include <net/ping.h>
  89 #include <linux/skbuff.h>
  90 #include <net/sock.h>
  91 #include <linux/errno.h>
  92 #include <linux/timer.h>
  93 #include <linux/init.h>
  94 #include <linux/uaccess.h>
  95 #include <net/checksum.h>
  96 #include <net/xfrm.h>
  97 #include <net/inet_common.h>
  98 #include <net/ip_fib.h>
  99 #include <net/l3mdev.h>
 100
 101 /*
 102  *      Build xmit assembly blocks
 103  */
 104
 105 struct icmp_bxm {
 106         struct sk_buff *skb;
 107         int offset;
 108         int data_len;
 109
 110         struct {
 111                 struct icmphdr icmph;
 112                 __be32         times[3];
 113         } data;
 114         int head_len;
 115         struct ip_options_data replyopts;
 116 };
 117
 118 /* An array of errno for error messages from dest unreach. */
 119 /* RFC 1122: 3.2.2.1 States that NET_UNREACH, HOST_UNREACH and SR_FAILED MUST be considered 'transient errs'. */
 120
 121 const struct icmp_err icmp_err_convert[] = {
 122         {
 123                 .errno = ENETUNREACH,   /* ICMP_NET_UNREACH */
 124                 .fatal = 0,
 125         },
 126         {
 127                 .errno = EHOSTUNREACH,  /* ICMP_HOST_UNREACH */
 128                 .fatal = 0,
 129         },
 130         {
 131                 .errno = ENOPROTOOPT    /* ICMP_PROT_UNREACH */,
 132                 .fatal = 1,
 133         },
 134         {
 135                 .errno = ECONNREFUSED,  /* ICMP_PORT_UNREACH */
 136                 .fatal = 1,
 137         },
 138         {
 139                 .errno = EMSGSIZE,      /* ICMP_FRAG_NEEDED */
 140                 .fatal = 0,
 141         },
 142         {
 143                 .errno = EOPNOTSUPP,    /* ICMP_SR_FAILED */
 144                 .fatal = 0,
 145         },
 146         {
 147                 .errno = ENETUNREACH,   /* ICMP_NET_UNKNOWN */
 148                 .fatal = 1,
 149         },
 150         {
 151                 .errno = EHOSTDOWN,     /* ICMP_HOST_UNKNOWN */
 152                 .fatal = 1,
 153         },
 154         {
 155                 .errno = ENONET,        /* ICMP_HOST_ISOLATED */
 156                 .fatal = 1,
 157         },
 158         {
 159                 .errno = ENETUNREACH,   /* ICMP_NET_ANO */
 160                 .fatal = 1,
 161         },
 162         {
 163                 .errno = EHOSTUNREACH,  /* ICMP_HOST_ANO */
 164                 .fatal = 1,
 165         },
 166         {
 167                 .errno = ENETUNREACH,   /* ICMP_NET_UNR_TOS */
 168                 .fatal = 0,
 169         },
 170         {
 171                 .errno = EHOSTUNREACH,  /* ICMP_HOST_UNR_TOS */
 172                 .fatal = 0,
 173         },
 174         {
 175                 .errno = EHOSTUNREACH,  /* ICMP_PKT_FILTERED */
 176                 .fatal = 1,
 177         },
 178         {
 179                 .errno = EHOSTUNREACH,  /* ICMP_PREC_VIOLATION */
 180                 .fatal = 1,
 181         },
 182         {
 183                 .errno = EHOSTUNREACH,  /* ICMP_PREC_CUTOFF */
 184                 .fatal = 1,
 185         },
 186 };
 187 EXPORT_SYMBOL(icmp_err_convert);
 188
 189 /*
 190  *      ICMP control array. This specifies what to do with each ICMP.
 191  */
 192
 193 struct icmp_control {
 194         bool (*handler)(struct sk_buff *skb);
 195         short   error;          /* This ICMP is classed as an error message */
 196 };
 197
 198 static const struct icmp_control icmp_pointers[NR_ICMP_TYPES+1];
 199
 200 /*
 201  *      The ICMP socket(s). This is the most convenient way to flow control
 202  *      our ICMP output as well as maintain a clean interface throughout
 203  *      all layers. All Socketless IP sends will soon be gone.
 204  *
 205  *      On SMP we have one ICMP socket per-cpu.
 206  */
 207 static struct sock *icmp_sk(struct net *net)
 208 {
 209         return *this_cpu_ptr(net->ipv4.icmp_sk);
 210 }
 211
 212 /* Called with BH disabled */
 213 static inline struct sock *icmp_xmit_lock(struct net *net)
 214 {
 215         struct sock *sk;
 216
 217         sk = icmp_sk(net);
 218
 219         if (unlikely(!spin_trylock(&sk->sk_lock.slock))) {
 220                 /* This can happen if the output path signals a
 221                  * dst_link_failure() for an outgoing ICMP packet.
 222                  */
 223                 return NULL;
 224         }
 225         return sk;
 226 }
 227
 228 static inline void icmp_xmit_unlock(struct sock *sk)
 229 {
 230         spin_unlock(&sk->sk_lock.slock);
 231 }
 232
 233 int sysctl_icmp_msgs_per_sec __read_mostly = 1000;
 234 int sysctl_icmp_msgs_burst __read_mostly = 50;
 235
 236 static struct {
 237         spinlock_t      lock;
 238         u32             credit;
 239         u32             stamp;
 240 } icmp_global = {
 241         .lock           = __SPIN_LOCK_UNLOCKED(icmp_global.lock),
 242 };
 243
 244 /**
 245  * icmp_global_allow - Are we allowed to send one more ICMP message ?
 246  *
 247  * Uses a token bucket to limit our ICMP messages to ~sysctl_icmp_msgs_per_sec.
 248  * Returns false if we reached the limit and can not send another packet.
 249  * Note: called with BH disabled
 250  */
 251 bool icmp_global_allow(void)
 252 {
 253         u32 credit, delta, incr = 0, now = (u32)jiffies;
 254         bool rc = false;
 255
 256         /* Check if token bucket is empty and cannot be refilled
 257          * without taking the spinlock. The READ_ONCE() are paired
 258          * with the following WRITE_ONCE() in this same function.
 259          */
 260         if (!READ_ONCE(icmp_global.credit)) {
 261                 delta = min_t(u32, now - READ_ONCE(icmp_global.stamp), HZ);
 262                 if (delta < HZ / 50)
 263                         return false;
 264         }
 265
 266         spin_lock(&icmp_global.lock);
 267         delta = min_t(u32, now - icmp_global.stamp, HZ);
 268         if (delta >= HZ / 50) {
 269                 incr = READ_ONCE(sysctl_icmp_msgs_per_sec) * delta / HZ;
 270                 if (incr)
 271                         WRITE_ONCE(icmp_global.stamp, now);
 272         }
 273         credit = min_t(u32, icmp_global.credit + incr,
 274                        READ_ONCE(sysctl_icmp_msgs_burst));
 275         if (credit) {
 276                 /* We want to use a credit of one in average, but need to randomize
 277                  * it for security reasons.
 278                  */
 279                 credit = max_t(int, credit - prandom_u32_max(3), 0);
 280                 rc = true;
 281         }
 282         WRITE_ONCE(icmp_global.credit, credit);
 283         spin_unlock(&icmp_global.lock);
 284         return rc;
 285 }
 286 EXPORT_SYMBOL(icmp_global_allow);
 287
 288 static bool icmpv4_mask_allow(struct net *net, int type, int code)
 289 {
 290         if (type > NR_ICMP_TYPES)
 291                 return true;
 292
 293         /* Don't limit PMTU discovery. */
 294         if (type == ICMP_DEST_UNREACH && code == ICMP_FRAG_NEEDED)
 295                 return true;
 296
 297         /* Limit if icmp type is enabled in ratemask. */
 298         if (!((1 << type) & READ_ONCE(net->ipv4.sysctl_icmp_ratemask)))
 299                 return true;
 300
 301         return false;
 302 }
 303
 304 static bool icmpv4_global_allow(struct net *net, int type, int code)
 305 {
 306         if (icmpv4_mask_allow(net, type, code))
 307                 return true;
 308
 309         if (icmp_global_allow())
 310                 return true;
 311
 312         return false;
 313 }
 314
 315 /*
 316  *      Send an ICMP frame.
 317  */
 318
 319 static bool icmpv4_xrlim_allow(struct net *net, struct rtable *rt,
 320                                struct flowi4 *fl4, int type, int code)
 321 {
 322         struct dst_entry *dst = &rt->dst;
 323         struct inet_peer *peer;
 324         bool rc = true;
 325         int vif;
 326
 327         if (icmpv4_mask_allow(net, type, code))
 328                 goto out;
 329
 330         /* No rate limit on loopback */
 331         if (dst->dev && (dst->dev->flags&IFF_LOOPBACK))
 332                 goto out;
 333
 334         vif = l3mdev_master_ifindex(dst->dev);
 335         peer = inet_getpeer_v4(net->ipv4.peers, fl4->daddr, vif, 1);
 336         rc = inet_peer_xrlim_allow(peer,
 337                                    READ_ONCE(net->ipv4.sysctl_icmp_ratelimit));
 338         if (peer)
 339                 inet_putpeer(peer);
 340 out:
 341         return rc;
 342 }
 343
 344 /*
 345  *      Maintain the counters used in the SNMP statistics for outgoing ICMP
 346  */
 347 void icmp_out_count(struct net *net, unsigned char type)
 348 {
 349         ICMPMSGOUT_INC_STATS(net, type);
 350         ICMP_INC_STATS(net, ICMP_MIB_OUTMSGS);
 351 }
 352
 353 /*
 354  *      Checksum each fragment, and on the first include the headers and final
 355  *      checksum.
 356  */
 357 static int icmp_glue_bits(void *from, char *to, int offset, int len, int odd,
 358                           struct sk_buff *skb)
 359 {
 360         struct icmp_bxm *icmp_param = (struct icmp_bxm *)from;
 361         __wsum csum;
 362
 363         csum = skb_copy_and_csum_bits(icmp_param->skb,
 364                                       icmp_param->offset + offset,
 365                                       to, len, 0);
 366
 367         skb->csum = csum_block_add(skb->csum, csum, odd);
 368         if (icmp_pointers[icmp_param->data.icmph.type].error)
 369                 nf_ct_attach(skb, icmp_param->skb);
 370         return 0;
 371 }
 372
 373 static void icmp_push_reply(struct icmp_bxm *icmp_param,
 374                             struct flowi4 *fl4,
 375                             struct ipcm_cookie *ipc, struct rtable **rt)
 376 {
 377         struct sock *sk;
 378         struct sk_buff *skb;
 379
 380         sk = icmp_sk(dev_net((*rt)->dst.dev));
 381         if (ip_append_data(sk, fl4, icmp_glue_bits, icmp_param,
 382                            icmp_param->data_len+icmp_param->head_len,
 383                            icmp_param->head_len,
 384                            ipc, rt, MSG_DONTWAIT) < 0) {
 385                 __ICMP_INC_STATS(sock_net(sk), ICMP_MIB_OUTERRORS);
 386                 ip_flush_pending_frames(sk);
 387         } else if ((skb = skb_peek(&sk->sk_write_queue)) != NULL) {
 388                 struct icmphdr *icmph = icmp_hdr(skb);
 389                 __wsum csum = 0;
 390                 struct sk_buff *skb1;
 391
 392                 skb_queue_walk(&sk->sk_write_queue, skb1) {
 393                         csum = csum_add(csum, skb1->csum);
 394                 }
 395                 csum = csum_partial_copy_nocheck((void *)&icmp_param->data,
 396                                                  (char *)icmph,
 397                                                  icmp_param->head_len, csum);
 398                 icmph->checksum = csum_fold(csum);
 399                 skb->ip_summed = CHECKSUM_NONE;
 400                 ip_push_pending_frames(sk, fl4);
 401         }
 402 }
 403
 404 /*
 405  *      Driving logic for building and sending ICMP messages.
 406  */
 407
 408 static void icmp_reply(struct icmp_bxm *icmp_param, struct sk_buff *skb)
 409 {
 410         struct ipcm_cookie ipc;
 411         struct rtable *rt = skb_rtable(skb);
 412         struct net *net = dev_net(rt->dst.dev);
 413         struct flowi4 fl4;
 414         struct sock *sk;
 415         struct inet_sock *inet;
 416         __be32 daddr, saddr;
 417         u32 mark = IP4_REPLY_MARK(net, skb->mark);
 418         int type = icmp_param->data.icmph.type;
 419         int code = icmp_param->data.icmph.code;
 420
 421         if (ip_options_echo(net, &icmp_param->replyopts.opt.opt, skb))
 422                 return;
 423
 424         /* Needed by both icmp_global_allow and icmp_xmit_lock */
 425         local_bh_disable();
 426
 427         /* global icmp_msgs_per_sec */
 428         if (!icmpv4_global_allow(net, type, code))
 429                 goto out_bh_enable;
 430
 431         sk = icmp_xmit_lock(net);
 432         if (!sk)
 433                 goto out_bh_enable;
 434         inet = inet_sk(sk);
 435
 436         icmp_param->data.icmph.checksum = 0;
 437
 438         inet->tos = ip_hdr(skb)->tos;
 439         sk->sk_mark = mark;
 440         daddr = ipc.addr = ip_hdr(skb)->saddr;
 441         saddr = fib_compute_spec_dst(skb);
 442         ipc.opt = NULL;
 443         ipc.tx_flags = 0;
 444         ipc.ttl = 0;
 445         ipc.tos = -1;
 446
 447         if (icmp_param->replyopts.opt.opt.optlen) {
 448                 ipc.opt = &icmp_param->replyopts.opt;
 449                 if (ipc.opt->opt.srr)
 450                         daddr = icmp_param->replyopts.opt.opt.faddr;
 451         }
 452         memset(&fl4, 0, sizeof(fl4));
 453         fl4.daddr = daddr;
 454         fl4.saddr = saddr;
 455         fl4.flowi4_mark = mark;
 456         fl4.flowi4_uid = sock_net_uid(net, NULL);
 457         fl4.flowi4_tos = RT_TOS(ip_hdr(skb)->tos);
 458         fl4.flowi4_proto = IPPROTO_ICMP;
 459         fl4.flowi4_oif = l3mdev_master_ifindex(skb->dev);
 460         security_skb_classify_flow(skb, flowi4_to_flowi(&fl4));
 461         rt = ip_route_output_key(net, &fl4);
 462         if (IS_ERR(rt))
 463                 goto out_unlock;
 464         if (icmpv4_xrlim_allow(net, rt, &fl4, type, code))
 465                 icmp_push_reply(icmp_param, &fl4, &ipc, &rt);
 466         ip_rt_put(rt);
 467 out_unlock:
 468         icmp_xmit_unlock(sk);
 469 out_bh_enable:
 470         local_bh_enable();
 471 }
 472
 473 /*
 474  * The device used for looking up which routing table to use for sending an ICMP
 475  * error is preferably the source whenever it is set, which should ensure the
 476  * icmp error can be sent to the source host, else lookup using the routing
 477  * table of the destination device, else use the main routing table (index 0).
 478  */
 479 static struct net_device *icmp_get_route_lookup_dev(struct sk_buff *skb)
 480 {
 481         struct net_device *route_lookup_dev = NULL;
 482
 483         if (skb->dev)
 484                 route_lookup_dev = skb->dev;
 485         else if (skb_dst(skb))
 486                 route_lookup_dev = skb_dst(skb)->dev;
 487         return route_lookup_dev;
 488 }
 489
 490 static struct rtable *icmp_route_lookup(struct net *net,
 491                                         struct flowi4 *fl4,
 492                                         struct sk_buff *skb_in,
 493                                         const struct iphdr *iph,
 494                                         __be32 saddr, u8 tos, u32 mark,
 495                                         int type, int code,
 496                                         struct icmp_bxm *param)
 497 {
 498         struct net_device *route_lookup_dev;
 499         struct rtable *rt, *rt2;
 500         struct flowi4 fl4_dec;
 501         int err;
 502
 503         memset(fl4, 0, sizeof(*fl4));
 504         fl4->daddr = (param->replyopts.opt.opt.srr ?
 505                       param->replyopts.opt.opt.faddr : iph->saddr);
 506         fl4->saddr = saddr;
 507         fl4->flowi4_mark = mark;
 508         fl4->flowi4_uid = sock_net_uid(net, NULL);
 509         fl4->flowi4_tos = RT_TOS(tos);
 510         fl4->flowi4_proto = IPPROTO_ICMP;
 511         fl4->fl4_icmp_type = type;
 512         fl4->fl4_icmp_code = code;
 513         route_lookup_dev = icmp_get_route_lookup_dev(skb_in);
 514         fl4->flowi4_oif = l3mdev_master_ifindex(route_lookup_dev);
 515
 516         security_skb_classify_flow(skb_in, flowi4_to_flowi(fl4));
 517         rt = ip_route_output_key_hash(net, fl4, skb_in);
 518         if (IS_ERR(rt))
 519                 return rt;
 520
 521         /* No need to clone since we're just using its address. */
 522         rt2 = rt;
 523
 524         rt = (struct rtable *) xfrm_lookup(net, &rt->dst,
 525                                            flowi4_to_flowi(fl4), NULL, 0);
 526         if (!IS_ERR(rt)) {
 527                 if (rt != rt2)
 528                         return rt;
 529         } else if (PTR_ERR(rt) == -EPERM) {
 530                 rt = NULL;
 531         } else
 532                 return rt;
 533
 534         err = xfrm_decode_session_reverse(skb_in, flowi4_to_flowi(&fl4_dec), AF_INET);
 535         if (err)
 536                 goto relookup_failed;
 537
 538         if (inet_addr_type_dev_table(net, route_lookup_dev,
 539                                      fl4_dec.saddr) == RTN_LOCAL) {
 540                 rt2 = __ip_route_output_key(net, &fl4_dec);
 541                 if (IS_ERR(rt2))
 542                         err = PTR_ERR(rt2);
 543         } else {
 544                 struct flowi4 fl4_2 = {};
 545                 unsigned long orefdst;
 546
 547                 fl4_2.daddr = fl4_dec.saddr;
 548                 rt2 = ip_route_output_key(net, &fl4_2);
 549                 if (IS_ERR(rt2)) {
 550                         err = PTR_ERR(rt2);
 551                         goto relookup_failed;
 552                 }
 553                 /* Ugh! */
 554                 orefdst = skb_in->_skb_refdst; /* save old refdst */
 555                 skb_dst_set(skb_in, NULL);
 556                 err = ip_route_input(skb_in, fl4_dec.daddr, fl4_dec.saddr,
 557                                      RT_TOS(tos), rt2->dst.dev);
 558
 559                 dst_release(&rt2->dst);
 560                 rt2 = skb_rtable(skb_in);
 561                 skb_in->_skb_refdst = orefdst; /* restore old refdst */
 562         }
 563
 564         if (err)
 565                 goto relookup_failed;
 566
 567         rt2 = (struct rtable *) xfrm_lookup(net, &rt2->dst,
 568                                             flowi4_to_flowi(&fl4_dec), NULL,
 569                                             XFRM_LOOKUP_ICMP);
 570         if (!IS_ERR(rt2)) {
 571                 dst_release(&rt->dst);
 572                 memcpy(fl4, &fl4_dec, sizeof(*fl4));
 573                 rt = rt2;
 574         } else if (PTR_ERR(rt2) == -EPERM) {
 575                 if (rt)
 576                         dst_release(&rt->dst);
 577                 return rt2;
 578         } else {
 579                 err = PTR_ERR(rt2);
 580                 goto relookup_failed;
 581         }
 582         return rt;
 583
 584 relookup_failed:
 585         if (rt)
 586                 return rt;
 587         return ERR_PTR(err);
 588 }
 589
 590 /*
 591  *      Send an ICMP message in response to a situation
 592  *
 593  *      RFC 1122: 3.2.2 MUST send at least the IP header and 8 bytes of header.
 594  *                MAY send more (we do).
 595  *                      MUST NOT change this header information.
 596  *                      MUST NOT reply to a multicast/broadcast IP address.
 597  *                      MUST NOT reply to a multicast/broadcast MAC address.
 598  *                      MUST reply to only the first fragment.
 599  */
 600
 601 void __icmp_send(struct sk_buff *skb_in, int type, int code, __be32 info,
 602                  const struct ip_options *opt)
 603 {
 604         struct iphdr *iph;
 605         int room;
 606         struct icmp_bxm icmp_param;
 607         struct rtable *rt = skb_rtable(skb_in);
 608         struct ipcm_cookie ipc;
 609         struct flowi4 fl4;
 610         __be32 saddr;
 611         u8  tos;
 612         u32 mark;
 613         struct net *net;
 614         struct sock *sk;
 615
 616         if (!rt)
 617                 goto out;
 618         net = dev_net(rt->dst.dev);
 619
 620         /*
 621          *      Find the original header. It is expected to be valid, of course.
 622          *      Check this, icmp_send is called from the most obscure devices
 623          *      sometimes.
 624          */
 625         iph = ip_hdr(skb_in);
 626
 627         if ((u8 *)iph < skb_in->head ||
 628             (skb_network_header(skb_in) + sizeof(*iph)) >
 629             skb_tail_pointer(skb_in))
 630                 goto out;
 631
 632         /*
 633          *      No replies to physical multicast/broadcast
 634          */
 635         if (skb_in->pkt_type != PACKET_HOST)
 636                 goto out;
 637
 638         /*
 639          *      Now check at the protocol level
 640          */
 641         if (rt->rt_flags & (RTCF_BROADCAST | RTCF_MULTICAST))
 642                 goto out;
 643
 644         /*
 645          *      Only reply to fragment 0. We byte re-order the constant
 646          *      mask for efficiency.
 647          */
 648         if (iph->frag_off & htons(IP_OFFSET))
 649                 goto out;
 650
 651         /*
 652          *      If we send an ICMP error to an ICMP error a mess would result..
 653          */
 654         if (icmp_pointers[type].error) {
 655                 /*
 656                  *      We are an error, check if we are replying to an
 657                  *      ICMP error
 658                  */
 659                 if (iph->protocol == IPPROTO_ICMP) {
 660                         u8 _inner_type, *itp;
 661
 662                         itp = skb_header_pointer(skb_in,
 663                                                  skb_network_header(skb_in) +
 664                                                  (iph->ihl << 2) +
 665                                                  offsetof(struct icmphdr,
 666                                                           type) -
 667                                                  skb_in->data,
 668                                                  sizeof(_inner_type),
 669                                                  &_inner_type);
 670                         if (!itp)
 671                                 goto out;
 672
 673                         /*
 674                          *      Assume any unknown ICMP type is an error. This
 675                          *      isn't specified by the RFC, but think about it..
 676                          */
 677                         if (*itp > NR_ICMP_TYPES ||
 678                             icmp_pointers[*itp].error)
 679                                 goto out;
 680                 }
 681         }
 682
 683         /* Needed by both icmp_global_allow and icmp_xmit_lock */
 684         local_bh_disable();
 685
 686         /* Check global sysctl_icmp_msgs_per_sec ratelimit, unless
 687          * incoming dev is loopback.  If outgoing dev change to not be
 688          * loopback, then peer ratelimit still work (in icmpv4_xrlim_allow)
 689          */
 690         if (!(skb_in->dev && (skb_in->dev->flags&IFF_LOOPBACK)) &&
 691               !icmpv4_global_allow(net, type, code))
 692                 goto out_bh_enable;
 693
 694         sk = icmp_xmit_lock(net);
 695         if (!sk)
 696                 goto out_bh_enable;
 697
 698         /*
 699          *      Construct source address and options.
 700          */
 701
 702         saddr = iph->daddr;
 703         if (!(rt->rt_flags & RTCF_LOCAL)) {
 704                 struct net_device *dev = NULL;
 705
 706                 rcu_read_lock();
 707                 if (rt_is_input_route(rt) &&
 708                     net->ipv4.sysctl_icmp_errors_use_inbound_ifaddr)
 709                         dev = dev_get_by_index_rcu(net, inet_iif(skb_in));
 710
 711                 if (dev)
 712                         saddr = inet_select_addr(dev, 0, RT_SCOPE_LINK);
 713                 else
 714                         saddr = 0;
 715                 rcu_read_unlock();
 716         }
 717
 718         tos = icmp_pointers[type].error ? ((iph->tos & IPTOS_TOS_MASK) |
 719                                            IPTOS_PREC_INTERNETCONTROL) :
 720                                           iph->tos;
 721         mark = IP4_REPLY_MARK(net, skb_in->mark);
 722
 723         if (__ip_options_echo(net, &icmp_param.replyopts.opt.opt, skb_in, opt))
 724                 goto out_unlock;
 725
 726
 727         /*
 728          *      Prepare data for ICMP header.
 729          */
 730
 731         icmp_param.data.icmph.type       = type;
 732         icmp_param.data.icmph.code       = code;
 733         icmp_param.data.icmph.un.gateway = info;
 734         icmp_param.data.icmph.checksum   = 0;
 735         icmp_param.skb    = skb_in;
 736         icmp_param.offset = skb_network_offset(skb_in);
 737         inet_sk(sk)->tos = tos;
 738         sk->sk_mark = mark;
 739         ipc.addr = iph->saddr;
 740         ipc.opt = &icmp_param.replyopts.opt;
 741         ipc.tx_flags = 0;
 742         ipc.ttl = 0;
 743         ipc.tos = -1;
 744
 745         rt = icmp_route_lookup(net, &fl4, skb_in, iph, saddr, tos, mark,
 746                                type, code, &icmp_param);
 747         if (IS_ERR(rt))
 748                 goto out_unlock;
 749
 750         /* peer icmp_ratelimit */
 751         if (!icmpv4_xrlim_allow(net, rt, &fl4, type, code))
 752                 goto ende;
 753
 754         /* RFC says return as much as we can without exceeding 576 bytes. */
 755
 756         room = dst_mtu(&rt->dst);
 757         if (room > 576)
 758                 room = 576;
 759         room -= sizeof(struct iphdr) + icmp_param.replyopts.opt.opt.optlen;
 760         room -= sizeof(struct icmphdr);
 761         /* Guard against tiny mtu. We need to include at least one
 762          * IP network header for this message to make any sense.
 763          */
 764         if (room <= (int)sizeof(struct iphdr))
 765                 goto ende;
 766
 767         icmp_param.data_len = skb_in->len - icmp_param.offset;
 768         if (icmp_param.data_len > room)
 769                 icmp_param.data_len = room;
 770         icmp_param.head_len = sizeof(struct icmphdr);
 771
 772         /* if we don't have a source address at this point, fall back to the
 773          * dummy address instead of sending out a packet with a source address
 774          * of 0.0.0.0
 775          */
 776         if (!fl4.saddr)
 777                 fl4.saddr = htonl(INADDR_DUMMY);
 778
 779         icmp_push_reply(&icmp_param, &fl4, &ipc, &rt);
 780 ende:
 781         ip_rt_put(rt);
 782 out_unlock:
 783         icmp_xmit_unlock(sk);
 784 out_bh_enable:
 785         local_bh_enable();
 786 out:;
 787 }
 788 EXPORT_SYMBOL(__icmp_send);
 789
 790 #if IS_ENABLED(CONFIG_NF_NAT)
 791 #include <net/netfilter/nf_conntrack.h>
 792 void icmp_ndo_send(struct sk_buff *skb_in, int type, int code, __be32 info)
 793 {
 794         struct sk_buff *cloned_skb = NULL;
 795         struct ip_options opts = { 0 };
 796         enum ip_conntrack_info ctinfo;
 797         struct nf_conn *ct;
 798         __be32 orig_ip;
 799
 800         ct = nf_ct_get(skb_in, &ctinfo);
 801         if (!ct || !(ct->status & IPS_SRC_NAT)) {
 802                 __icmp_send(skb_in, type, code, info, &opts);
 803                 return;
 804         }
 805
 806         if (skb_shared(skb_in))
 807                 skb_in = cloned_skb = skb_clone(skb_in, GFP_ATOMIC);
 808
 809         if (unlikely(!skb_in || skb_network_header(skb_in) < skb_in->head ||
 810             (skb_network_header(skb_in) + sizeof(struct iphdr)) >
 811             skb_tail_pointer(skb_in) || skb_ensure_writable(skb_in,
 812             skb_network_offset(skb_in) + sizeof(struct iphdr))))
 813                 goto out;
 814
 815         orig_ip = ip_hdr(skb_in)->saddr;
 816         ip_hdr(skb_in)->saddr = ct->tuplehash[0].tuple.src.u3.ip;
 817         __icmp_send(skb_in, type, code, info, &opts);
 818         ip_hdr(skb_in)->saddr = orig_ip;
 819 out:
 820         consume_skb(cloned_skb);
 821 }
 822 EXPORT_SYMBOL(icmp_ndo_send);
 823 #endif
 824
 825 static void icmp_socket_deliver(struct sk_buff *skb, u32 info)
 826 {
 827         const struct iphdr *iph = (const struct iphdr *) skb->data;
 828         const struct net_protocol *ipprot;
 829         int protocol = iph->protocol;
 830
 831         /* Checkin full IP header plus 8 bytes of protocol to
 832          * avoid additional coding at protocol handlers.
 833          */
 834         if (!pskb_may_pull(skb, iph->ihl * 4 + 8)) {
 835                 __ICMP_INC_STATS(dev_net(skb->dev), ICMP_MIB_INERRORS);
 836                 return;
 837         }
 838
 839         raw_icmp_error(skb, protocol, info);
 840
 841         ipprot = rcu_dereference(inet_protos[protocol]);
 842         if (ipprot && ipprot->err_handler)
 843                 ipprot->err_handler(skb, info);
 844 }
 845
 846 static bool icmp_tag_validation(int proto)
 847 {
 848         bool ok;
 849
 850         rcu_read_lock();
 851         ok = rcu_dereference(inet_protos[proto])->icmp_strict_tag_validation;
 852         rcu_read_unlock();
 853         return ok;
 854 }
 855
 856 /*
 857  *      Handle ICMP_DEST_UNREACH, ICMP_TIME_EXCEEDED, ICMP_QUENCH, and
 858  *      ICMP_PARAMETERPROB.
 859  */
 860
 861 static bool icmp_unreach(struct sk_buff *skb)
 862 {
 863         const struct iphdr *iph;
 864         struct icmphdr *icmph;
 865         struct net *net;
 866         u32 info = 0;
 867
 868         net = dev_net(skb_dst(skb)->dev);
 869
 870         /*
 871          *      Incomplete header ?
 872          *      Only checks for the IP header, there should be an
 873          *      additional check for longer headers in upper levels.
 874          */
 875
 876         if (!pskb_may_pull(skb, sizeof(struct iphdr)))
 877                 goto out_err;
 878
 879         icmph = icmp_hdr(skb);
 880         iph   = (const struct iphdr *)skb->data;
 881
 882         if (iph->ihl < 5) /* Mangled header, drop. */
 883                 goto out_err;
 884
 885         switch (icmph->type) {
 886         case ICMP_DEST_UNREACH:
 887                 switch (icmph->code & 15) {
 888                 case ICMP_NET_UNREACH:
 889                 case ICMP_HOST_UNREACH:
 890                 case ICMP_PROT_UNREACH:
 891                 case ICMP_PORT_UNREACH:
 892                         break;
 893                 case ICMP_FRAG_NEEDED:
 894                         /* for documentation of the ip_no_pmtu_disc
 895                          * values please see
 896                          * Documentation/networking/ip-sysctl.txt
 897                          */
 898                         switch (net->ipv4.sysctl_ip_no_pmtu_disc) {
 899                         default:
 900                                 net_dbg_ratelimited("%pI4: fragmentation needed and DF set\n",
 901                                                     &iph->daddr);
 902                                 break;
 903                         case 2:
 904                                 goto out;
 905                         case 3:
 906                                 if (!icmp_tag_validation(iph->protocol))
 907                                         goto out;
 908                                 /* fall through */
 909                         case 0:
 910                                 info = ntohs(icmph->un.frag.mtu);
 911                         }
 912                         break;
 913                 case ICMP_SR_FAILED:
 914                         net_dbg_ratelimited("%pI4: Source Route Failed\n",
 915                                             &iph->daddr);
 916                         break;
 917                 default:
 918                         break;
 919                 }
 920                 if (icmph->code > NR_ICMP_UNREACH)
 921                         goto out;
 922                 break;
 923         case ICMP_PARAMETERPROB:
 924                 info = ntohl(icmph->un.gateway) >> 24;
 925                 break;
 926         case ICMP_TIME_EXCEEDED:
 927                 __ICMP_INC_STATS(net, ICMP_MIB_INTIMEEXCDS);
 928                 if (icmph->code == ICMP_EXC_FRAGTIME)
 929                         goto out;
 930                 break;
 931         }
 932
 933         /*
 934          *      Throw it at our lower layers
 935          *
 936          *      RFC 1122: 3.2.2 MUST extract the protocol ID from the passed
 937          *                header.
 938          *      RFC 1122: 3.2.2.1 MUST pass ICMP unreach messages to the
 939          *                transport layer.
 940          *      RFC 1122: 3.2.2.2 MUST pass ICMP time expired messages to
 941          *                transport layer.
 942          */
 943
 944         /*
 945          *      Check the other end isn't violating RFC 1122. Some routers send
 946          *      bogus responses to broadcast frames. If you see this message
 947          *      first check your netmask matches at both ends, if it does then
 948          *      get the other vendor to fix their kit.
 949          */
 950
 951         if (!net->ipv4.sysctl_icmp_ignore_bogus_error_responses &&
 952             inet_addr_type_dev_table(net, skb->dev, iph->daddr) == RTN_BROADCAST) {
 953                 net_warn_ratelimited("%pI4 sent an invalid ICMP type %u, code %u error to a broadcast: %pI4 on %s\n",
 954                                      &ip_hdr(skb)->saddr,
 955                                      icmph->type, icmph->code,
 956                                      &iph->daddr, skb->dev->name);
 957                 goto out;
 958         }
 959
 960         icmp_socket_deliver(skb, info);
 961
 962 out:
 963         return true;
 964 out_err:
 965         __ICMP_INC_STATS(net, ICMP_MIB_INERRORS);
 966         return false;
 967 }
 968
 969
 970 /*
 971  *      Handle ICMP_REDIRECT.
 972  */
 973
 974 static bool icmp_redirect(struct sk_buff *skb)
 975 {
 976         if (skb->len < sizeof(struct iphdr)) {
 977                 __ICMP_INC_STATS(dev_net(skb->dev), ICMP_MIB_INERRORS);
 978                 return false;
 979         }
 980
 981         if (!pskb_may_pull(skb, sizeof(struct iphdr))) {
 982                 /* there aught to be a stat */
 983                 return false;
 984         }
 985
 986         icmp_socket_deliver(skb, icmp_hdr(skb)->un.gateway);
 987         return true;
 988 }
 989
 990 /*
 991  *      Handle ICMP_ECHO ("ping") requests.
 992  *
 993  *      RFC 1122: 3.2.2.6 MUST have an echo server that answers ICMP echo
 994  *                requests.
 995  *      RFC 1122: 3.2.2.6 Data received in the ICMP_ECHO request MUST be
 996  *                included in the reply.
 997  *      RFC 1812: 4.3.3.6 SHOULD have a config option for silently ignoring
 998  *                echo requests, MUST have default=NOT.
 999  *      See also WRT handling of options once they are done and working.
1000  */
1001
1002 static bool icmp_echo(struct sk_buff *skb)
1003 {
1004         struct net *net;
1005
1006         net = dev_net(skb_dst(skb)->dev);
1007         if (!net->ipv4.sysctl_icmp_echo_ignore_all) {
1008                 struct icmp_bxm icmp_param;
1009
1010                 icmp_param.data.icmph      = *icmp_hdr(skb);
1011                 icmp_param.data.icmph.type = ICMP_ECHOREPLY;
1012                 icmp_param.skb             = skb;
1013                 icmp_param.offset          = 0;
1014                 icmp_param.data_len        = skb->len;
1015                 icmp_param.head_len        = sizeof(struct icmphdr);
1016                 icmp_reply(&icmp_param, skb);
1017         }
1018         /* should there be an ICMP stat for ignored echos? */
1019         return true;
1020 }
1021
1022 /*
1023  *      Handle ICMP Timestamp requests.
1024  *      RFC 1122: 3.2.2.8 MAY implement ICMP timestamp requests.
1025  *                SHOULD be in the kernel for minimum random latency.
1026  *                MUST be accurate to a few minutes.
1027  *                MUST be updated at least at 15Hz.
1028  */
1029 static bool icmp_timestamp(struct sk_buff *skb)
1030 {
1031         struct icmp_bxm icmp_param;
1032         /*
1033          *      Too short.
1034          */
1035         if (skb->len < 4)
1036                 goto out_err;
1037
1038         /*
1039          *      Fill in the current time as ms since midnight UT:
1040          */
1041         icmp_param.data.times[1] = inet_current_timestamp();
1042         icmp_param.data.times[2] = icmp_param.data.times[1];
1043         if (skb_copy_bits(skb, 0, &icmp_param.data.times[0], 4))
1044                 BUG();
1045         icmp_param.data.icmph      = *icmp_hdr(skb);
1046         icmp_param.data.icmph.type = ICMP_TIMESTAMPREPLY;
1047         icmp_param.data.icmph.code = 0;
1048         icmp_param.skb             = skb;
1049         icmp_param.offset          = 0;
1050         icmp_param.data_len        = 0;
1051         icmp_param.head_len        = sizeof(struct icmphdr) + 12;
1052         icmp_reply(&icmp_param, skb);
1053         return true;
1054
1055 out_err:
1056         __ICMP_INC_STATS(dev_net(skb_dst(skb)->dev), ICMP_MIB_INERRORS);
1057         return false;
1058 }
1059
1060 static bool icmp_discard(struct sk_buff *skb)
1061 {
1062         /* pretend it was a success */
1063         return true;
1064 }
1065
1066 /*
1067  *      Deal with incoming ICMP packets.
1068  */
1069 int icmp_rcv(struct sk_buff *skb)
1070 {
1071         struct icmphdr *icmph;
1072         struct rtable *rt = skb_rtable(skb);
1073         struct net *net = dev_net(rt->dst.dev);
1074         bool success;
1075
1076         if (!xfrm4_policy_check(NULL, XFRM_POLICY_IN, skb)) {
1077                 struct sec_path *sp = skb_sec_path(skb);
1078                 int nh;
1079
1080                 if (!(sp && sp->xvec[sp->len - 1]->props.flags &
1081                                  XFRM_STATE_ICMP))
1082                         goto drop;
1083
1084                 if (!pskb_may_pull(skb, sizeof(*icmph) + sizeof(struct iphdr)))
1085                         goto drop;
1086
1087                 nh = skb_network_offset(skb);
1088                 skb_set_network_header(skb, sizeof(*icmph));
1089
1090                 if (!xfrm4_policy_check_reverse(NULL, XFRM_POLICY_IN, skb))
1091                         goto drop;
1092
1093                 skb_set_network_header(skb, nh);
1094         }
1095
1096         __ICMP_INC_STATS(net, ICMP_MIB_INMSGS);
1097
1098         if (skb_checksum_simple_validate(skb))
1099                 goto csum_error;
1100
1101         if (!pskb_pull(skb, sizeof(*icmph)))
1102                 goto error;
1103
1104         icmph = icmp_hdr(skb);
1105
1106         ICMPMSGIN_INC_STATS(net, icmph->type);
1107         /*
1108          *      18 is the highest 'known' ICMP type. Anything else is a mystery
1109          *
1110          *      RFC 1122: 3.2.2  Unknown ICMP messages types MUST be silently
1111          *                discarded.
1112          */
1113         if (icmph->type > NR_ICMP_TYPES)
1114                 goto error;
1115
1116
1117         /*
1118          *      Parse the ICMP message
1119          */
1120
1121         if (rt->rt_flags & (RTCF_BROADCAST | RTCF_MULTICAST)) {
1122                 /*
1123                  *      RFC 1122: 3.2.2.6 An ICMP_ECHO to broadcast MAY be
1124                  *        silently ignored (we let user decide with a sysctl).
1125                  *      RFC 1122: 3.2.2.8 An ICMP_TIMESTAMP MAY be silently
1126                  *        discarded if to broadcast/multicast.
1127                  */
1128                 if ((icmph->type == ICMP_ECHO ||
1129                      icmph->type == ICMP_TIMESTAMP) &&
1130                     net->ipv4.sysctl_icmp_echo_ignore_broadcasts) {
1131                         goto error;
1132                 }
1133                 if (icmph->type != ICMP_ECHO &&
1134                     icmph->type != ICMP_TIMESTAMP &&
1135                     icmph->type != ICMP_ADDRESS &&
1136                     icmph->type != ICMP_ADDRESSREPLY) {
1137                         goto error;
1138                 }
1139         }
1140
1141         success = icmp_pointers[icmph->type].handler(skb);
1142
1143         if (success)  {
1144                 consume_skb(skb);
1145                 return NET_RX_SUCCESS;
1146         }
1147
1148 drop:
1149         kfree_skb(skb);
1150         return NET_RX_DROP;
1151 csum_error:
1152         __ICMP_INC_STATS(net, ICMP_MIB_CSUMERRORS);
1153 error:
1154         __ICMP_INC_STATS(net, ICMP_MIB_INERRORS);
1155         goto drop;
1156 }
1157
1158 void icmp_err(struct sk_buff *skb, u32 info)
1159 {
1160         struct iphdr *iph = (struct iphdr *)skb->data;
1161         int offset = iph->ihl<<2;
1162         struct icmphdr *icmph = (struct icmphdr *)(skb->data + offset);
1163         int type = icmp_hdr(skb)->type;
1164         int code = icmp_hdr(skb)->code;
1165         struct net *net = dev_net(skb->dev);
1166
1167         /*
1168          * Use ping_err to handle all icmp errors except those
1169          * triggered by ICMP_ECHOREPLY which sent from kernel.
1170          */
1171         if (icmph->type != ICMP_ECHOREPLY) {
1172                 ping_err(skb, offset, info);
1173                 return;
1174         }
1175
1176         if (type == ICMP_DEST_UNREACH && code == ICMP_FRAG_NEEDED)
1177                 ipv4_update_pmtu(skb, net, info, 0, 0, IPPROTO_ICMP, 0);
1178         else if (type == ICMP_REDIRECT)
1179                 ipv4_redirect(skb, net, 0, 0, IPPROTO_ICMP, 0);
1180 }
1181
1182 /*
1183  *      This table is the definition of how we handle ICMP.
1184  */
1185 static const struct icmp_control icmp_pointers[NR_ICMP_TYPES + 1] = {
1186         [ICMP_ECHOREPLY] = {
1187                 .handler = ping_rcv,
1188         },
1189         [1] = {
1190                 .handler = icmp_discard,
1191                 .error = 1,
1192         },
1193         [2] = {
1194                 .handler = icmp_discard,
1195                 .error = 1,
1196         },
1197         [ICMP_DEST_UNREACH] = {
1198                 .handler = icmp_unreach,
1199                 .error = 1,
1200         },
1201         [ICMP_SOURCE_QUENCH] = {
1202                 .handler = icmp_unreach,
1203                 .error = 1,
1204         },
1205         [ICMP_REDIRECT] = {
1206                 .handler = icmp_redirect,
1207                 .error = 1,
1208         },
1209         [6] = {
1210                 .handler = icmp_discard,
1211                 .error = 1,
1212         },
1213         [7] = {
1214                 .handler = icmp_discard,
1215                 .error = 1,
1216         },
1217         [ICMP_ECHO] = {
1218                 .handler = icmp_echo,
1219         },
1220         [9] = {
1221                 .handler = icmp_discard,
1222                 .error = 1,
1223         },
1224         [10] = {
1225                 .handler = icmp_discard,
1226                 .error = 1,
1227         },
1228         [ICMP_TIME_EXCEEDED] = {
1229                 .handler = icmp_unreach,
1230                 .error = 1,
1231         },
1232         [ICMP_PARAMETERPROB] = {
1233                 .handler = icmp_unreach,
1234                 .error = 1,
1235         },
1236         [ICMP_TIMESTAMP] = {
1237                 .handler = icmp_timestamp,
1238         },
1239         [ICMP_TIMESTAMPREPLY] = {
1240                 .handler = icmp_discard,
1241         },
1242         [ICMP_INFO_REQUEST] = {
1243                 .handler = icmp_discard,
1244         },
1245         [ICMP_INFO_REPLY] = {
1246                 .handler = icmp_discard,
1247         },
1248         [ICMP_ADDRESS] = {
1249                 .handler = icmp_discard,
1250         },
1251         [ICMP_ADDRESSREPLY] = {
1252                 .handler = icmp_discard,
1253         },
1254 };
1255
1256 static void __net_exit icmp_sk_exit(struct net *net)
1257 {
1258         int i;
1259
1260         for_each_possible_cpu(i)
1261                 inet_ctl_sock_destroy(*per_cpu_ptr(net->ipv4.icmp_sk, i));
1262         free_percpu(net->ipv4.icmp_sk);
1263         net->ipv4.icmp_sk = NULL;
1264 }
1265
1266 static int __net_init icmp_sk_init(struct net *net)
1267 {
1268         int i, err;
1269
1270         net->ipv4.icmp_sk = alloc_percpu(struct sock *);
1271         if (!net->ipv4.icmp_sk)
1272                 return -ENOMEM;
1273
1274         for_each_possible_cpu(i) {
1275                 struct sock *sk;
1276
1277                 err = inet_ctl_sock_create(&sk, PF_INET,
1278                                            SOCK_RAW, IPPROTO_ICMP, net);
1279                 if (err < 0)
1280                         goto fail;
1281
1282                 *per_cpu_ptr(net->ipv4.icmp_sk, i) = sk;
1283
1284                 /* Enough space for 2 64K ICMP packets, including
1285                  * sk_buff/skb_shared_info struct overhead.
1286                  */
1287                 sk->sk_sndbuf = 2 * SKB_TRUESIZE(64 * 1024);
1288
1289                 /*
1290                  * Speedup sock_wfree()
1291                  */
1292                 sock_set_flag(sk, SOCK_USE_WRITE_QUEUE);
1293                 inet_sk(sk)->pmtudisc = IP_PMTUDISC_DONT;
1294         }
1295
1296         /* Control parameters for ECHO replies. */
1297         net->ipv4.sysctl_icmp_echo_ignore_all = 0;
1298         net->ipv4.sysctl_icmp_echo_ignore_broadcasts = 1;
1299
1300         /* Control parameter - ignore bogus broadcast responses? */
1301         net->ipv4.sysctl_icmp_ignore_bogus_error_responses = 1;
1302
1303         /*
1304          *      Configurable global rate limit.
1305          *
1306          *      ratelimit defines tokens/packet consumed for dst->rate_token
1307          *      bucket ratemask defines which icmp types are ratelimited by
1308          *      setting it's bit position.
1309          *
1310          *      default:
1311          *      dest unreachable (3), source quench (4),
1312          *      time exceeded (11), parameter problem (12)
1313          */
1314
1315         net->ipv4.sysctl_icmp_ratelimit = 1 * HZ;
1316         net->ipv4.sysctl_icmp_ratemask = 0x1818;
1317         net->ipv4.sysctl_icmp_errors_use_inbound_ifaddr = 0;
1318
1319         return 0;
1320
1321 fail:
1322         for_each_possible_cpu(i)
1323                 inet_ctl_sock_destroy(*per_cpu_ptr(net->ipv4.icmp_sk, i));
1324         free_percpu(net->ipv4.icmp_sk);
1325         return err;
1326 }
1327
1328 static struct pernet_operations __net_initdata icmp_sk_ops = {
1329        .init = icmp_sk_init,
1330        .exit = icmp_sk_exit,
1331 };
1332
1333 int __init icmp_init(void)
1334 {
1335         return register_pernet_subsys(&icmp_sk_ops);
1336 }