GNU Linux-libre 5.19-rc6-gnu
[releases.git] / drivers / scsi / fcoe / fcoe.c
1 // SPDX-License-Identifier: GPL-2.0-only
2 /*
3  * Copyright(c) 2007 - 2009 Intel Corporation. All rights reserved.
4  *
5  * Maintained at www.Open-FCoE.org
6  */
7
8 #include <linux/module.h>
9 #include <linux/spinlock.h>
10 #include <linux/netdevice.h>
11 #include <linux/etherdevice.h>
12 #include <linux/ethtool.h>
13 #include <linux/if_ether.h>
14 #include <linux/if_vlan.h>
15 #include <linux/crc32.h>
16 #include <linux/slab.h>
17 #include <linux/cpu.h>
18 #include <linux/fs.h>
19 #include <linux/sysfs.h>
20 #include <linux/ctype.h>
21 #include <linux/workqueue.h>
22 #include <net/dcbnl.h>
23 #include <net/dcbevent.h>
24 #include <scsi/scsi_tcq.h>
25 #include <scsi/scsicam.h>
26 #include <scsi/scsi_transport.h>
27 #include <scsi/scsi_transport_fc.h>
28 #include <net/rtnetlink.h>
29
30 #include <scsi/fc/fc_encaps.h>
31 #include <scsi/fc/fc_fip.h>
32 #include <scsi/fc/fc_fcoe.h>
33
34 #include <scsi/libfc.h>
35 #include <scsi/fc_frame.h>
36 #include <scsi/libfcoe.h>
37
38 #include "fcoe.h"
39
40 MODULE_AUTHOR("Open-FCoE.org");
41 MODULE_DESCRIPTION("FCoE");
42 MODULE_LICENSE("GPL v2");
43
44 /* Performance tuning parameters for fcoe */
45 static unsigned int fcoe_ddp_min = 4096;
46 module_param_named(ddp_min, fcoe_ddp_min, uint, S_IRUGO | S_IWUSR);
47 MODULE_PARM_DESC(ddp_min, "Minimum I/O size in bytes for "      \
48                  "Direct Data Placement (DDP).");
49
50 unsigned int fcoe_debug_logging;
51 module_param_named(debug_logging, fcoe_debug_logging, int, S_IRUGO|S_IWUSR);
52 MODULE_PARM_DESC(debug_logging, "a bit mask of logging levels");
53
54 static unsigned int fcoe_e_d_tov = 2 * 1000;
55 module_param_named(e_d_tov, fcoe_e_d_tov, int, S_IRUGO|S_IWUSR);
56 MODULE_PARM_DESC(e_d_tov, "E_D_TOV in ms, default 2000");
57
58 static unsigned int fcoe_r_a_tov = 2 * 2 * 1000;
59 module_param_named(r_a_tov, fcoe_r_a_tov, int, S_IRUGO|S_IWUSR);
60 MODULE_PARM_DESC(r_a_tov, "R_A_TOV in ms, default 4000");
61
62 static DEFINE_MUTEX(fcoe_config_mutex);
63
64 static struct workqueue_struct *fcoe_wq;
65
66 /* fcoe host list */
67 /* must only by accessed under the RTNL mutex */
68 static LIST_HEAD(fcoe_hostlist);
69 static DEFINE_PER_CPU(struct fcoe_percpu_s, fcoe_percpu);
70
71 /* Function Prototypes */
72 static int fcoe_reset(struct Scsi_Host *);
73 static int fcoe_xmit(struct fc_lport *, struct fc_frame *);
74 static int fcoe_rcv(struct sk_buff *, struct net_device *,
75                     struct packet_type *, struct net_device *);
76 static void fcoe_percpu_clean(struct fc_lport *);
77 static int fcoe_link_ok(struct fc_lport *);
78
79 static struct fc_lport *fcoe_hostlist_lookup(const struct net_device *);
80 static int fcoe_hostlist_add(const struct fc_lport *);
81 static void fcoe_hostlist_del(const struct fc_lport *);
82
83 static int fcoe_device_notification(struct notifier_block *, ulong, void *);
84 static void fcoe_dev_setup(void);
85 static void fcoe_dev_cleanup(void);
86 static struct fcoe_interface
87 *fcoe_hostlist_lookup_port(const struct net_device *);
88
89 static int fcoe_fip_recv(struct sk_buff *, struct net_device *,
90                          struct packet_type *, struct net_device *);
91 static int fcoe_fip_vlan_recv(struct sk_buff *, struct net_device *,
92                               struct packet_type *, struct net_device *);
93
94 static void fcoe_fip_send(struct fcoe_ctlr *, struct sk_buff *);
95 static void fcoe_update_src_mac(struct fc_lport *, u8 *);
96 static u8 *fcoe_get_src_mac(struct fc_lport *);
97 static void fcoe_destroy_work(struct work_struct *);
98
99 static int fcoe_ddp_setup(struct fc_lport *, u16, struct scatterlist *,
100                           unsigned int);
101 static int fcoe_ddp_done(struct fc_lport *, u16);
102 static int fcoe_ddp_target(struct fc_lport *, u16, struct scatterlist *,
103                            unsigned int);
104 static int fcoe_dcb_app_notification(struct notifier_block *notifier,
105                                      ulong event, void *ptr);
106
107 static bool fcoe_match(struct net_device *netdev);
108 static int fcoe_create(struct net_device *netdev, enum fip_mode fip_mode);
109 static int fcoe_destroy(struct net_device *netdev);
110 static int fcoe_enable(struct net_device *netdev);
111 static int fcoe_disable(struct net_device *netdev);
112
113 /* fcoe_syfs control interface handlers */
114 static int fcoe_ctlr_alloc(struct net_device *netdev);
115 static int fcoe_ctlr_enabled(struct fcoe_ctlr_device *cdev);
116 static void fcoe_ctlr_mode(struct fcoe_ctlr_device *ctlr_dev);
117
118 static struct fc_seq *fcoe_elsct_send(struct fc_lport *,
119                                       u32 did, struct fc_frame *,
120                                       unsigned int op,
121                                       void (*resp)(struct fc_seq *,
122                                                    struct fc_frame *,
123                                                    void *),
124                                       void *, u32 timeout);
125 static void fcoe_recv_frame(struct sk_buff *skb);
126
127 /* notification function for packets from net device */
128 static struct notifier_block fcoe_notifier = {
129         .notifier_call = fcoe_device_notification,
130 };
131
132 /* notification function for DCB events */
133 static struct notifier_block dcb_notifier = {
134         .notifier_call = fcoe_dcb_app_notification,
135 };
136
137 static struct scsi_transport_template *fcoe_nport_scsi_transport;
138 static struct scsi_transport_template *fcoe_vport_scsi_transport;
139
140 static int fcoe_vport_destroy(struct fc_vport *);
141 static int fcoe_vport_create(struct fc_vport *, bool disabled);
142 static int fcoe_vport_disable(struct fc_vport *, bool disable);
143 static void fcoe_set_vport_symbolic_name(struct fc_vport *);
144 static void fcoe_set_port_id(struct fc_lport *, u32, struct fc_frame *);
145 static void fcoe_fcf_get_vlan_id(struct fcoe_fcf_device *);
146 static void fcoe_vport_remove(struct fc_lport *);
147
148 static struct fcoe_sysfs_function_template fcoe_sysfs_templ = {
149         .set_fcoe_ctlr_mode = fcoe_ctlr_mode,
150         .set_fcoe_ctlr_enabled = fcoe_ctlr_enabled,
151         .get_fcoe_ctlr_link_fail = fcoe_ctlr_get_lesb,
152         .get_fcoe_ctlr_vlink_fail = fcoe_ctlr_get_lesb,
153         .get_fcoe_ctlr_miss_fka = fcoe_ctlr_get_lesb,
154         .get_fcoe_ctlr_symb_err = fcoe_ctlr_get_lesb,
155         .get_fcoe_ctlr_err_block = fcoe_ctlr_get_lesb,
156         .get_fcoe_ctlr_fcs_error = fcoe_ctlr_get_lesb,
157
158         .get_fcoe_fcf_selected = fcoe_fcf_get_selected,
159         .get_fcoe_fcf_vlan_id = fcoe_fcf_get_vlan_id,
160 };
161
162 static struct libfc_function_template fcoe_libfc_fcn_templ = {
163         .frame_send = fcoe_xmit,
164         .ddp_setup = fcoe_ddp_setup,
165         .ddp_done = fcoe_ddp_done,
166         .ddp_target = fcoe_ddp_target,
167         .elsct_send = fcoe_elsct_send,
168         .get_lesb = fcoe_get_lesb,
169         .lport_set_port_id = fcoe_set_port_id,
170 };
171
172 static struct fc_function_template fcoe_nport_fc_functions = {
173         .show_host_node_name = 1,
174         .show_host_port_name = 1,
175         .show_host_supported_classes = 1,
176         .show_host_supported_fc4s = 1,
177         .show_host_active_fc4s = 1,
178         .show_host_maxframe_size = 1,
179         .show_host_serial_number = 1,
180         .show_host_manufacturer = 1,
181         .show_host_model = 1,
182         .show_host_model_description = 1,
183         .show_host_hardware_version = 1,
184         .show_host_driver_version = 1,
185         .show_host_firmware_version = 1,
186         .show_host_optionrom_version = 1,
187
188         .show_host_port_id = 1,
189         .show_host_supported_speeds = 1,
190         .get_host_speed = fc_get_host_speed,
191         .show_host_speed = 1,
192         .show_host_port_type = 1,
193         .get_host_port_state = fc_get_host_port_state,
194         .show_host_port_state = 1,
195         .show_host_symbolic_name = 1,
196
197         .dd_fcrport_size = sizeof(struct fc_rport_libfc_priv),
198         .show_rport_maxframe_size = 1,
199         .show_rport_supported_classes = 1,
200
201         .show_host_fabric_name = 1,
202         .show_starget_node_name = 1,
203         .show_starget_port_name = 1,
204         .show_starget_port_id = 1,
205         .set_rport_dev_loss_tmo = fc_set_rport_loss_tmo,
206         .show_rport_dev_loss_tmo = 1,
207         .get_fc_host_stats = fc_get_host_stats,
208         .issue_fc_host_lip = fcoe_reset,
209
210         .terminate_rport_io = fc_rport_terminate_io,
211
212         .vport_create = fcoe_vport_create,
213         .vport_delete = fcoe_vport_destroy,
214         .vport_disable = fcoe_vport_disable,
215         .set_vport_symbolic_name = fcoe_set_vport_symbolic_name,
216
217         .bsg_request = fc_lport_bsg_request,
218 };
219
220 static struct fc_function_template fcoe_vport_fc_functions = {
221         .show_host_node_name = 1,
222         .show_host_port_name = 1,
223         .show_host_supported_classes = 1,
224         .show_host_supported_fc4s = 1,
225         .show_host_active_fc4s = 1,
226         .show_host_maxframe_size = 1,
227         .show_host_serial_number = 1,
228         .show_host_manufacturer = 1,
229         .show_host_model = 1,
230         .show_host_model_description = 1,
231         .show_host_hardware_version = 1,
232         .show_host_driver_version = 1,
233         .show_host_firmware_version = 1,
234         .show_host_optionrom_version = 1,
235
236         .show_host_port_id = 1,
237         .show_host_supported_speeds = 1,
238         .get_host_speed = fc_get_host_speed,
239         .show_host_speed = 1,
240         .show_host_port_type = 1,
241         .get_host_port_state = fc_get_host_port_state,
242         .show_host_port_state = 1,
243         .show_host_symbolic_name = 1,
244
245         .dd_fcrport_size = sizeof(struct fc_rport_libfc_priv),
246         .show_rport_maxframe_size = 1,
247         .show_rport_supported_classes = 1,
248
249         .show_host_fabric_name = 1,
250         .show_starget_node_name = 1,
251         .show_starget_port_name = 1,
252         .show_starget_port_id = 1,
253         .set_rport_dev_loss_tmo = fc_set_rport_loss_tmo,
254         .show_rport_dev_loss_tmo = 1,
255         .get_fc_host_stats = fc_get_host_stats,
256         .issue_fc_host_lip = fcoe_reset,
257
258         .terminate_rport_io = fc_rport_terminate_io,
259
260         .bsg_request = fc_lport_bsg_request,
261 };
262
263 static struct scsi_host_template fcoe_shost_template = {
264         .module = THIS_MODULE,
265         .name = "FCoE Driver",
266         .proc_name = FCOE_NAME,
267         .queuecommand = fc_queuecommand,
268         .eh_timed_out = fc_eh_timed_out,
269         .eh_abort_handler = fc_eh_abort,
270         .eh_device_reset_handler = fc_eh_device_reset,
271         .eh_host_reset_handler = fc_eh_host_reset,
272         .slave_alloc = fc_slave_alloc,
273         .change_queue_depth = scsi_change_queue_depth,
274         .this_id = -1,
275         .cmd_per_lun = 3,
276         .can_queue = FCOE_MAX_OUTSTANDING_COMMANDS,
277         .sg_tablesize = SG_ALL,
278         .max_sectors = 0xffff,
279         .track_queue_depth = 1,
280         .cmd_size = sizeof(struct libfc_cmd_priv),
281 };
282
283 /**
284  * fcoe_interface_setup() - Setup a FCoE interface
285  * @fcoe:   The new FCoE interface
286  * @netdev: The net device that the fcoe interface is on
287  *
288  * Returns : 0 for success
289  * Locking: must be called with the RTNL mutex held
290  */
291 static int fcoe_interface_setup(struct fcoe_interface *fcoe,
292                                 struct net_device *netdev)
293 {
294         struct fcoe_ctlr *fip = fcoe_to_ctlr(fcoe);
295         struct netdev_hw_addr *ha;
296         struct net_device *real_dev;
297         static const u8 flogi_maddr[ETH_ALEN] = FC_FCOE_FLOGI_MAC;
298         const struct net_device_ops *ops;
299
300         fcoe->netdev = netdev;
301
302         /* Let LLD initialize for FCoE */
303         ops = netdev->netdev_ops;
304         if (ops->ndo_fcoe_enable) {
305                 if (ops->ndo_fcoe_enable(netdev))
306                         FCOE_NETDEV_DBG(netdev, "Failed to enable FCoE"
307                                         " specific feature for LLD.\n");
308         }
309
310         /* Do not support for bonding device */
311         if (netif_is_bond_master(netdev)) {
312                 FCOE_NETDEV_DBG(netdev, "Bonded interfaces not supported\n");
313                 return -EOPNOTSUPP;
314         }
315
316         /* look for SAN MAC address, if multiple SAN MACs exist, only
317          * use the first one for SPMA */
318         real_dev = is_vlan_dev(netdev) ? vlan_dev_real_dev(netdev) : netdev;
319         fcoe->realdev = real_dev;
320         rcu_read_lock();
321         for_each_dev_addr(real_dev, ha) {
322                 if ((ha->type == NETDEV_HW_ADDR_T_SAN) &&
323                     (is_valid_ether_addr(ha->addr))) {
324                         memcpy(fip->ctl_src_addr, ha->addr, ETH_ALEN);
325                         fip->spma = 1;
326                         break;
327                 }
328         }
329         rcu_read_unlock();
330
331         /* setup Source Mac Address */
332         if (!fip->spma)
333                 memcpy(fip->ctl_src_addr, netdev->dev_addr, netdev->addr_len);
334
335         /*
336          * Add FCoE MAC address as second unicast MAC address
337          * or enter promiscuous mode if not capable of listening
338          * for multiple unicast MACs.
339          */
340         dev_uc_add(netdev, flogi_maddr);
341         if (fip->spma)
342                 dev_uc_add(netdev, fip->ctl_src_addr);
343         if (fip->mode == FIP_MODE_VN2VN) {
344                 dev_mc_add(netdev, FIP_ALL_VN2VN_MACS);
345                 dev_mc_add(netdev, FIP_ALL_P2P_MACS);
346         } else
347                 dev_mc_add(netdev, FIP_ALL_ENODE_MACS);
348
349         /*
350          * setup the receive function from ethernet driver
351          * on the ethertype for the given device
352          */
353         fcoe->fcoe_packet_type.func = fcoe_rcv;
354         fcoe->fcoe_packet_type.type = htons(ETH_P_FCOE);
355         fcoe->fcoe_packet_type.dev = netdev;
356         dev_add_pack(&fcoe->fcoe_packet_type);
357
358         fcoe->fip_packet_type.func = fcoe_fip_recv;
359         fcoe->fip_packet_type.type = htons(ETH_P_FIP);
360         fcoe->fip_packet_type.dev = netdev;
361         dev_add_pack(&fcoe->fip_packet_type);
362
363         if (netdev != real_dev) {
364                 fcoe->fip_vlan_packet_type.func = fcoe_fip_vlan_recv;
365                 fcoe->fip_vlan_packet_type.type = htons(ETH_P_FIP);
366                 fcoe->fip_vlan_packet_type.dev = real_dev;
367                 dev_add_pack(&fcoe->fip_vlan_packet_type);
368         }
369         return 0;
370 }
371
372 /**
373  * fcoe_interface_create() - Create a FCoE interface on a net device
374  * @netdev: The net device to create the FCoE interface on
375  * @fip_mode: The mode to use for FIP
376  *
377  * Returns: pointer to a struct fcoe_interface or NULL on error
378  */
379 static struct fcoe_interface *fcoe_interface_create(struct net_device *netdev,
380                                                     enum fip_mode fip_mode)
381 {
382         struct fcoe_ctlr_device *ctlr_dev;
383         struct fcoe_ctlr *ctlr;
384         struct fcoe_interface *fcoe;
385         int size;
386         int err;
387
388         if (!try_module_get(THIS_MODULE)) {
389                 FCOE_NETDEV_DBG(netdev,
390                                 "Could not get a reference to the module\n");
391                 fcoe = ERR_PTR(-EBUSY);
392                 goto out;
393         }
394
395         size = sizeof(struct fcoe_ctlr) + sizeof(struct fcoe_interface);
396         ctlr_dev = fcoe_ctlr_device_add(&netdev->dev, &fcoe_sysfs_templ,
397                                         size);
398         if (!ctlr_dev) {
399                 FCOE_DBG("Failed to add fcoe_ctlr_device\n");
400                 fcoe = ERR_PTR(-ENOMEM);
401                 goto out_putmod;
402         }
403
404         ctlr = fcoe_ctlr_device_priv(ctlr_dev);
405         ctlr->cdev = ctlr_dev;
406         fcoe = fcoe_ctlr_priv(ctlr);
407
408         dev_hold(netdev);
409
410         /*
411          * Initialize FIP.
412          */
413         fcoe_ctlr_init(ctlr, fip_mode);
414         ctlr->send = fcoe_fip_send;
415         ctlr->update_mac = fcoe_update_src_mac;
416         ctlr->get_src_addr = fcoe_get_src_mac;
417
418         err = fcoe_interface_setup(fcoe, netdev);
419         if (err) {
420                 fcoe_ctlr_destroy(ctlr);
421                 fcoe_ctlr_device_delete(ctlr_dev);
422                 dev_put(netdev);
423                 fcoe = ERR_PTR(err);
424                 goto out_putmod;
425         }
426
427         goto out;
428
429 out_putmod:
430         module_put(THIS_MODULE);
431 out:
432         return fcoe;
433 }
434
435 /**
436  * fcoe_interface_remove() - remove FCoE interface from netdev
437  * @fcoe: The FCoE interface to be cleaned up
438  *
439  * Caller must be holding the RTNL mutex
440  */
441 static void fcoe_interface_remove(struct fcoe_interface *fcoe)
442 {
443         struct net_device *netdev = fcoe->netdev;
444         struct fcoe_ctlr *fip = fcoe_to_ctlr(fcoe);
445         static const u8 flogi_maddr[ETH_ALEN] = FC_FCOE_FLOGI_MAC;
446         const struct net_device_ops *ops;
447
448         /*
449          * Don't listen for Ethernet packets anymore.
450          * synchronize_net() ensures that the packet handlers are not running
451          * on another CPU. dev_remove_pack() would do that, this calls the
452          * unsyncronized version __dev_remove_pack() to avoid multiple delays.
453          */
454         __dev_remove_pack(&fcoe->fcoe_packet_type);
455         __dev_remove_pack(&fcoe->fip_packet_type);
456         if (netdev != fcoe->realdev)
457                 __dev_remove_pack(&fcoe->fip_vlan_packet_type);
458         synchronize_net();
459
460         /* Delete secondary MAC addresses */
461         dev_uc_del(netdev, flogi_maddr);
462         if (fip->spma)
463                 dev_uc_del(netdev, fip->ctl_src_addr);
464         if (fip->mode == FIP_MODE_VN2VN) {
465                 dev_mc_del(netdev, FIP_ALL_VN2VN_MACS);
466                 dev_mc_del(netdev, FIP_ALL_P2P_MACS);
467         } else
468                 dev_mc_del(netdev, FIP_ALL_ENODE_MACS);
469
470         /* Tell the LLD we are done w/ FCoE */
471         ops = netdev->netdev_ops;
472         if (ops->ndo_fcoe_disable) {
473                 if (ops->ndo_fcoe_disable(netdev))
474                         FCOE_NETDEV_DBG(netdev, "Failed to disable FCoE"
475                                         " specific feature for LLD.\n");
476         }
477         fcoe->removed = 1;
478 }
479
480
481 /**
482  * fcoe_interface_cleanup() - Clean up a FCoE interface
483  * @fcoe: The FCoE interface to be cleaned up
484  */
485 static void fcoe_interface_cleanup(struct fcoe_interface *fcoe)
486 {
487         struct net_device *netdev = fcoe->netdev;
488         struct fcoe_ctlr *fip = fcoe_to_ctlr(fcoe);
489
490         /* Release the self-reference taken during fcoe_interface_create() */
491         /* tear-down the FCoE controller */
492         fcoe_ctlr_destroy(fip);
493         scsi_host_put(fip->lp->host);
494         dev_put(netdev);
495         module_put(THIS_MODULE);
496 }
497
498 /**
499  * fcoe_fip_recv() - Handler for received FIP frames
500  * @skb:      The receive skb
501  * @netdev:   The associated net device
502  * @ptype:    The packet_type structure which was used to register this handler
503  * @orig_dev: The original net_device the skb was received on.
504  *            (in case dev is a bond)
505  *
506  * Returns: 0 for success
507  */
508 static int fcoe_fip_recv(struct sk_buff *skb, struct net_device *netdev,
509                          struct packet_type *ptype,
510                          struct net_device *orig_dev)
511 {
512         struct fcoe_interface *fcoe;
513         struct fcoe_ctlr *ctlr;
514
515         fcoe = container_of(ptype, struct fcoe_interface, fip_packet_type);
516         ctlr = fcoe_to_ctlr(fcoe);
517         fcoe_ctlr_recv(ctlr, skb);
518         return 0;
519 }
520
521 /**
522  * fcoe_fip_vlan_recv() - Handler for received FIP VLAN discovery frames
523  * @skb:      The receive skb
524  * @netdev:   The associated net device
525  * @ptype:    The packet_type structure which was used to register this handler
526  * @orig_dev: The original net_device the skb was received on.
527  *            (in case dev is a bond)
528  *
529  * Returns: 0 for success
530  */
531 static int fcoe_fip_vlan_recv(struct sk_buff *skb, struct net_device *netdev,
532                               struct packet_type *ptype,
533                               struct net_device *orig_dev)
534 {
535         struct fcoe_interface *fcoe;
536         struct fcoe_ctlr *ctlr;
537
538         fcoe = container_of(ptype, struct fcoe_interface, fip_vlan_packet_type);
539         ctlr = fcoe_to_ctlr(fcoe);
540         fcoe_ctlr_recv(ctlr, skb);
541         return 0;
542 }
543
544 /**
545  * fcoe_port_send() - Send an Ethernet-encapsulated FIP/FCoE frame
546  * @port: The FCoE port
547  * @skb: The FIP/FCoE packet to be sent
548  */
549 static void fcoe_port_send(struct fcoe_port *port, struct sk_buff *skb)
550 {
551         if (port->fcoe_pending_queue.qlen)
552                 fcoe_check_wait_queue(port->lport, skb);
553         else if (fcoe_start_io(skb))
554                 fcoe_check_wait_queue(port->lport, skb);
555 }
556
557 /**
558  * fcoe_fip_send() - Send an Ethernet-encapsulated FIP frame
559  * @fip: The FCoE controller
560  * @skb: The FIP packet to be sent
561  */
562 static void fcoe_fip_send(struct fcoe_ctlr *fip, struct sk_buff *skb)
563 {
564         struct fcoe_interface *fcoe = fcoe_from_ctlr(fip);
565         struct fip_frame {
566                 struct ethhdr eth;
567                 struct fip_header fip;
568         } __packed *frame;
569
570         /*
571          * Use default VLAN for FIP VLAN discovery protocol
572          */
573         frame = (struct fip_frame *)skb->data;
574         if (ntohs(frame->eth.h_proto) == ETH_P_FIP &&
575             ntohs(frame->fip.fip_op) == FIP_OP_VLAN &&
576             fcoe->realdev != fcoe->netdev)
577                 skb->dev = fcoe->realdev;
578         else
579                 skb->dev = fcoe->netdev;
580         fcoe_port_send(lport_priv(fip->lp), skb);
581 }
582
583 /**
584  * fcoe_update_src_mac() - Update the Ethernet MAC filters
585  * @lport: The local port to update the source MAC on
586  * @addr:  Unicast MAC address to add
587  *
588  * Remove any previously-set unicast MAC filter.
589  * Add secondary FCoE MAC address filter for our OUI.
590  */
591 static void fcoe_update_src_mac(struct fc_lport *lport, u8 *addr)
592 {
593         struct fcoe_port *port = lport_priv(lport);
594         struct fcoe_interface *fcoe = port->priv;
595
596         if (!is_zero_ether_addr(port->data_src_addr))
597                 dev_uc_del(fcoe->netdev, port->data_src_addr);
598         if (!is_zero_ether_addr(addr))
599                 dev_uc_add(fcoe->netdev, addr);
600         memcpy(port->data_src_addr, addr, ETH_ALEN);
601 }
602
603 /**
604  * fcoe_get_src_mac() - return the Ethernet source address for an lport
605  * @lport: libfc lport
606  */
607 static u8 *fcoe_get_src_mac(struct fc_lport *lport)
608 {
609         struct fcoe_port *port = lport_priv(lport);
610
611         return port->data_src_addr;
612 }
613
614 /**
615  * fcoe_lport_config() - Set up a local port
616  * @lport: The local port to be setup
617  *
618  * Returns: 0 for success
619  */
620 static int fcoe_lport_config(struct fc_lport *lport)
621 {
622         lport->link_up = 0;
623         lport->qfull = 0;
624         lport->max_retry_count = 3;
625         lport->max_rport_retry_count = 3;
626         lport->e_d_tov = fcoe_e_d_tov;
627         lport->r_a_tov = fcoe_r_a_tov;
628         lport->service_params = (FCP_SPPF_INIT_FCN | FCP_SPPF_RD_XRDY_DIS |
629                                  FCP_SPPF_RETRY | FCP_SPPF_CONF_COMPL);
630         lport->does_npiv = 1;
631
632         fc_lport_init_stats(lport);
633
634         /* lport fc_lport related configuration */
635         fc_lport_config(lport);
636
637         /* offload related configuration */
638         lport->crc_offload = 0;
639         lport->seq_offload = 0;
640         lport->lro_enabled = 0;
641         lport->lro_xid = 0;
642         lport->lso_max = 0;
643
644         return 0;
645 }
646
647 /*
648  * fcoe_netdev_features_change - Updates the lport's offload flags based
649  * on the LLD netdev's FCoE feature flags
650  */
651 static void fcoe_netdev_features_change(struct fc_lport *lport,
652                                         struct net_device *netdev)
653 {
654         mutex_lock(&lport->lp_mutex);
655
656         if (netdev->features & NETIF_F_SG)
657                 lport->sg_supp = 1;
658         else
659                 lport->sg_supp = 0;
660
661         if (netdev->features & NETIF_F_FCOE_CRC) {
662                 lport->crc_offload = 1;
663                 FCOE_NETDEV_DBG(netdev, "Supports FCCRC offload\n");
664         } else {
665                 lport->crc_offload = 0;
666         }
667
668         if (netdev->features & NETIF_F_FSO) {
669                 lport->seq_offload = 1;
670                 lport->lso_max = min(netdev->gso_max_size, GSO_LEGACY_MAX_SIZE);
671                 FCOE_NETDEV_DBG(netdev, "Supports LSO for max len 0x%x\n",
672                                 lport->lso_max);
673         } else {
674                 lport->seq_offload = 0;
675                 lport->lso_max = 0;
676         }
677
678         if (netdev->fcoe_ddp_xid) {
679                 lport->lro_enabled = 1;
680                 lport->lro_xid = netdev->fcoe_ddp_xid;
681                 FCOE_NETDEV_DBG(netdev, "Supports LRO for max xid 0x%x\n",
682                                 lport->lro_xid);
683         } else {
684                 lport->lro_enabled = 0;
685                 lport->lro_xid = 0;
686         }
687
688         mutex_unlock(&lport->lp_mutex);
689 }
690
691 /**
692  * fcoe_netdev_config() - Set up net devive for SW FCoE
693  * @lport:  The local port that is associated with the net device
694  * @netdev: The associated net device
695  *
696  * Must be called after fcoe_lport_config() as it will use local port mutex
697  *
698  * Returns: 0 for success
699  */
700 static int fcoe_netdev_config(struct fc_lport *lport, struct net_device *netdev)
701 {
702         u32 mfs;
703         u64 wwnn, wwpn;
704         struct fcoe_interface *fcoe;
705         struct fcoe_ctlr *ctlr;
706         struct fcoe_port *port;
707
708         /* Setup lport private data to point to fcoe softc */
709         port = lport_priv(lport);
710         fcoe = port->priv;
711         ctlr = fcoe_to_ctlr(fcoe);
712
713         /* Figure out the VLAN ID, if any */
714         if (is_vlan_dev(netdev))
715                 lport->vlan = vlan_dev_vlan_id(netdev);
716         else
717                 lport->vlan = 0;
718
719         /*
720          * Determine max frame size based on underlying device and optional
721          * user-configured limit.  If the MFS is too low, fcoe_link_ok()
722          * will return 0, so do this first.
723          */
724         mfs = netdev->mtu;
725         if (netdev->features & NETIF_F_FCOE_MTU) {
726                 mfs = FCOE_MTU;
727                 FCOE_NETDEV_DBG(netdev, "Supports FCOE_MTU of %d bytes\n", mfs);
728         }
729         mfs -= (sizeof(struct fcoe_hdr) + sizeof(struct fcoe_crc_eof));
730         if (fc_set_mfs(lport, mfs))
731                 return -EINVAL;
732
733         /* offload features support */
734         fcoe_netdev_features_change(lport, netdev);
735
736         skb_queue_head_init(&port->fcoe_pending_queue);
737         port->fcoe_pending_queue_active = 0;
738         timer_setup(&port->timer, fcoe_queue_timer, 0);
739
740         fcoe_link_speed_update(lport);
741
742         if (!lport->vport) {
743                 if (fcoe_get_wwn(netdev, &wwnn, NETDEV_FCOE_WWNN))
744                         wwnn = fcoe_wwn_from_mac(ctlr->ctl_src_addr, 1, 0);
745                 fc_set_wwnn(lport, wwnn);
746                 if (fcoe_get_wwn(netdev, &wwpn, NETDEV_FCOE_WWPN))
747                         wwpn = fcoe_wwn_from_mac(ctlr->ctl_src_addr,
748                                                  2, 0);
749                 fc_set_wwpn(lport, wwpn);
750         }
751
752         return 0;
753 }
754
755 /**
756  * fcoe_shost_config() - Set up the SCSI host associated with a local port
757  * @lport: The local port
758  * @dev:   The device associated with the SCSI host
759  *
760  * Must be called after fcoe_lport_config() and fcoe_netdev_config()
761  *
762  * Returns: 0 for success
763  */
764 static int fcoe_shost_config(struct fc_lport *lport, struct device *dev)
765 {
766         int rc = 0;
767
768         /* lport scsi host config */
769         lport->host->max_lun = FCOE_MAX_LUN;
770         lport->host->max_id = FCOE_MAX_FCP_TARGET;
771         lport->host->max_channel = 0;
772         lport->host->max_cmd_len = FCOE_MAX_CMD_LEN;
773
774         if (lport->vport)
775                 lport->host->transportt = fcoe_vport_scsi_transport;
776         else
777                 lport->host->transportt = fcoe_nport_scsi_transport;
778
779         /* add the new host to the SCSI-ml */
780         rc = scsi_add_host(lport->host, dev);
781         if (rc) {
782                 FCOE_NETDEV_DBG(fcoe_netdev(lport), "fcoe_shost_config: "
783                                 "error on scsi_add_host\n");
784                 return rc;
785         }
786
787         if (!lport->vport)
788                 fc_host_max_npiv_vports(lport->host) = USHRT_MAX;
789
790         snprintf(fc_host_symbolic_name(lport->host), FC_SYMBOLIC_NAME_SIZE,
791                  "%s v%s over %s", FCOE_NAME, FCOE_VERSION,
792                  fcoe_netdev(lport)->name);
793
794         return 0;
795 }
796
797
798 /**
799  * fcoe_fdmi_info() - Get FDMI related info from net devive for SW FCoE
800  * @lport:  The local port that is associated with the net device
801  * @netdev: The associated net device
802  *
803  * Must be called after fcoe_shost_config() as it will use local port mutex
804  *
805  */
806 static void fcoe_fdmi_info(struct fc_lport *lport, struct net_device *netdev)
807 {
808         struct fcoe_interface *fcoe;
809         struct fcoe_port *port;
810         struct net_device *realdev;
811         int rc;
812
813         port = lport_priv(lport);
814         fcoe = port->priv;
815         realdev = fcoe->realdev;
816
817         /* No FDMI state m/c for NPIV ports */
818         if (lport->vport)
819                 return;
820
821         if (realdev->netdev_ops->ndo_fcoe_get_hbainfo) {
822                 struct netdev_fcoe_hbainfo *fdmi;
823                 fdmi = kzalloc(sizeof(*fdmi), GFP_KERNEL);
824                 if (!fdmi)
825                         return;
826
827                 rc = realdev->netdev_ops->ndo_fcoe_get_hbainfo(realdev,
828                                                                fdmi);
829                 if (rc) {
830                         printk(KERN_INFO "fcoe: Failed to retrieve FDMI "
831                                         "information from netdev.\n");
832                         return;
833                 }
834
835                 snprintf(fc_host_serial_number(lport->host),
836                          FC_SERIAL_NUMBER_SIZE,
837                          "%s",
838                          fdmi->serial_number);
839                 snprintf(fc_host_manufacturer(lport->host),
840                          FC_SERIAL_NUMBER_SIZE,
841                          "%s",
842                          fdmi->manufacturer);
843                 snprintf(fc_host_model(lport->host),
844                          FC_SYMBOLIC_NAME_SIZE,
845                          "%s",
846                          fdmi->model);
847                 snprintf(fc_host_model_description(lport->host),
848                          FC_SYMBOLIC_NAME_SIZE,
849                          "%s",
850                          fdmi->model_description);
851                 snprintf(fc_host_hardware_version(lport->host),
852                          FC_VERSION_STRING_SIZE,
853                          "%s",
854                          fdmi->hardware_version);
855                 snprintf(fc_host_driver_version(lport->host),
856                          FC_VERSION_STRING_SIZE,
857                          "%s",
858                          fdmi->driver_version);
859                 snprintf(fc_host_optionrom_version(lport->host),
860                          FC_VERSION_STRING_SIZE,
861                          "%s",
862                          fdmi->optionrom_version);
863                 snprintf(fc_host_firmware_version(lport->host),
864                          FC_VERSION_STRING_SIZE,
865                          "%s",
866                          fdmi->firmware_version);
867
868                 /* Enable FDMI lport states */
869                 lport->fdmi_enabled = 1;
870                 kfree(fdmi);
871         } else {
872                 lport->fdmi_enabled = 0;
873                 printk(KERN_INFO "fcoe: No FDMI support.\n");
874         }
875 }
876
877 /**
878  * fcoe_oem_match() - The match routine for the offloaded exchange manager
879  * @fp: The I/O frame
880  *
881  * This routine will be associated with an exchange manager (EM). When
882  * the libfc exchange handling code is looking for an EM to use it will
883  * call this routine and pass it the frame that it wishes to send. This
884  * routine will return True if the associated EM is to be used and False
885  * if the echange code should continue looking for an EM.
886  *
887  * The offload EM that this routine is associated with will handle any
888  * packets that are for SCSI read requests.
889  *
890  * This has been enhanced to work when FCoE stack is operating in target
891  * mode.
892  *
893  * Returns: True for read types I/O, otherwise returns false.
894  */
895 static bool fcoe_oem_match(struct fc_frame *fp)
896 {
897         struct fc_frame_header *fh = fc_frame_header_get(fp);
898         struct fcp_cmnd *fcp;
899
900         if (fc_fcp_is_read(fr_fsp(fp)) &&
901             (fr_fsp(fp)->data_len > fcoe_ddp_min))
902                 return true;
903         else if ((fr_fsp(fp) == NULL) &&
904                  (fh->fh_r_ctl == FC_RCTL_DD_UNSOL_CMD) &&
905                  (ntohs(fh->fh_rx_id) == FC_XID_UNKNOWN)) {
906                 fcp = fc_frame_payload_get(fp, sizeof(*fcp));
907                 if ((fcp->fc_flags & FCP_CFL_WRDATA) &&
908                     (ntohl(fcp->fc_dl) > fcoe_ddp_min))
909                         return true;
910         }
911         return false;
912 }
913
914 /**
915  * fcoe_em_config() - Allocate and configure an exchange manager
916  * @lport: The local port that the new EM will be associated with
917  *
918  * Returns: 0 on success
919  */
920 static inline int fcoe_em_config(struct fc_lport *lport)
921 {
922         struct fcoe_port *port = lport_priv(lport);
923         struct fcoe_interface *fcoe = port->priv;
924         struct fcoe_interface *oldfcoe = NULL;
925         struct net_device *old_real_dev, *cur_real_dev;
926         u16 min_xid = FCOE_MIN_XID;
927         u16 max_xid = FCOE_MAX_XID;
928
929         /*
930          * Check if need to allocate an em instance for
931          * offload exchange ids to be shared across all VN_PORTs/lport.
932          */
933         if (!lport->lro_enabled || !lport->lro_xid ||
934             (lport->lro_xid >= max_xid)) {
935                 lport->lro_xid = 0;
936                 goto skip_oem;
937         }
938
939         /*
940          * Reuse existing offload em instance in case
941          * it is already allocated on real eth device
942          */
943         if (is_vlan_dev(fcoe->netdev))
944                 cur_real_dev = vlan_dev_real_dev(fcoe->netdev);
945         else
946                 cur_real_dev = fcoe->netdev;
947
948         list_for_each_entry(oldfcoe, &fcoe_hostlist, list) {
949                 if (is_vlan_dev(oldfcoe->netdev))
950                         old_real_dev = vlan_dev_real_dev(oldfcoe->netdev);
951                 else
952                         old_real_dev = oldfcoe->netdev;
953
954                 if (cur_real_dev == old_real_dev) {
955                         fcoe->oem = oldfcoe->oem;
956                         break;
957                 }
958         }
959
960         if (fcoe->oem) {
961                 if (!fc_exch_mgr_add(lport, fcoe->oem, fcoe_oem_match)) {
962                         printk(KERN_ERR "fcoe_em_config: failed to add "
963                                "offload em:%p on interface:%s\n",
964                                fcoe->oem, fcoe->netdev->name);
965                         return -ENOMEM;
966                 }
967         } else {
968                 fcoe->oem = fc_exch_mgr_alloc(lport, FC_CLASS_3,
969                                               FCOE_MIN_XID, lport->lro_xid,
970                                               fcoe_oem_match);
971                 if (!fcoe->oem) {
972                         printk(KERN_ERR "fcoe_em_config: failed to allocate "
973                                "em for offload exches on interface:%s\n",
974                                fcoe->netdev->name);
975                         return -ENOMEM;
976                 }
977         }
978
979         /*
980          * Exclude offload EM xid range from next EM xid range.
981          */
982         min_xid += lport->lro_xid + 1;
983
984 skip_oem:
985         if (!fc_exch_mgr_alloc(lport, FC_CLASS_3, min_xid, max_xid, NULL)) {
986                 printk(KERN_ERR "fcoe_em_config: failed to "
987                        "allocate em on interface %s\n", fcoe->netdev->name);
988                 return -ENOMEM;
989         }
990
991         return 0;
992 }
993
994 /**
995  * fcoe_if_destroy() - Tear down a SW FCoE instance
996  * @lport: The local port to be destroyed
997  *
998  * Locking: Must be called with the RTNL mutex held.
999  *
1000  */
1001 static void fcoe_if_destroy(struct fc_lport *lport)
1002 {
1003         struct fcoe_port *port = lport_priv(lport);
1004         struct fcoe_interface *fcoe = port->priv;
1005         struct net_device *netdev = fcoe->netdev;
1006
1007         FCOE_NETDEV_DBG(netdev, "Destroying interface\n");
1008
1009         /* Logout of the fabric */
1010         fc_fabric_logoff(lport);
1011
1012         /* Cleanup the fc_lport */
1013         fc_lport_destroy(lport);
1014
1015         /* Stop the transmit retry timer */
1016         del_timer_sync(&port->timer);
1017
1018         /* Free existing transmit skbs */
1019         fcoe_clean_pending_queue(lport);
1020
1021         if (!is_zero_ether_addr(port->data_src_addr))
1022                 dev_uc_del(netdev, port->data_src_addr);
1023         if (lport->vport)
1024                 synchronize_net();
1025         else
1026                 fcoe_interface_remove(fcoe);
1027
1028         /* Free queued packets for the per-CPU receive threads */
1029         fcoe_percpu_clean(lport);
1030
1031         /* Detach from the scsi-ml */
1032         fc_remove_host(lport->host);
1033         scsi_remove_host(lport->host);
1034
1035         /* Destroy lport scsi_priv */
1036         fc_fcp_destroy(lport);
1037
1038         /* There are no more rports or I/O, free the EM */
1039         fc_exch_mgr_free(lport);
1040
1041         /* Free memory used by statistical counters */
1042         fc_lport_free_stats(lport);
1043
1044         /*
1045          * Release the Scsi_Host for vport but hold on to
1046          * master lport until it fcoe interface fully cleaned-up.
1047          */
1048         if (lport->vport)
1049                 scsi_host_put(lport->host);
1050 }
1051
1052 /**
1053  * fcoe_ddp_setup() - Call a LLD's ddp_setup through the net device
1054  * @lport: The local port to setup DDP for
1055  * @xid:   The exchange ID for this DDP transfer
1056  * @sgl:   The scatterlist describing this transfer
1057  * @sgc:   The number of sg items
1058  *
1059  * Returns: 0 if the DDP context was not configured
1060  */
1061 static int fcoe_ddp_setup(struct fc_lport *lport, u16 xid,
1062                           struct scatterlist *sgl, unsigned int sgc)
1063 {
1064         struct net_device *netdev = fcoe_netdev(lport);
1065
1066         if (netdev->netdev_ops->ndo_fcoe_ddp_setup)
1067                 return netdev->netdev_ops->ndo_fcoe_ddp_setup(netdev,
1068                                                               xid, sgl,
1069                                                               sgc);
1070
1071         return 0;
1072 }
1073
1074 /**
1075  * fcoe_ddp_target() - Call a LLD's ddp_target through the net device
1076  * @lport: The local port to setup DDP for
1077  * @xid:   The exchange ID for this DDP transfer
1078  * @sgl:   The scatterlist describing this transfer
1079  * @sgc:   The number of sg items
1080  *
1081  * Returns: 0 if the DDP context was not configured
1082  */
1083 static int fcoe_ddp_target(struct fc_lport *lport, u16 xid,
1084                            struct scatterlist *sgl, unsigned int sgc)
1085 {
1086         struct net_device *netdev = fcoe_netdev(lport);
1087
1088         if (netdev->netdev_ops->ndo_fcoe_ddp_target)
1089                 return netdev->netdev_ops->ndo_fcoe_ddp_target(netdev, xid,
1090                                                                sgl, sgc);
1091
1092         return 0;
1093 }
1094
1095
1096 /**
1097  * fcoe_ddp_done() - Call a LLD's ddp_done through the net device
1098  * @lport: The local port to complete DDP on
1099  * @xid:   The exchange ID for this DDP transfer
1100  *
1101  * Returns: the length of data that have been completed by DDP
1102  */
1103 static int fcoe_ddp_done(struct fc_lport *lport, u16 xid)
1104 {
1105         struct net_device *netdev = fcoe_netdev(lport);
1106
1107         if (netdev->netdev_ops->ndo_fcoe_ddp_done)
1108                 return netdev->netdev_ops->ndo_fcoe_ddp_done(netdev, xid);
1109         return 0;
1110 }
1111
1112 /**
1113  * fcoe_if_create() - Create a FCoE instance on an interface
1114  * @fcoe:   The FCoE interface to create a local port on
1115  * @parent: The device pointer to be the parent in sysfs for the SCSI host
1116  * @npiv:   Indicates if the port is a vport or not
1117  *
1118  * Creates a fc_lport instance and a Scsi_Host instance and configure them.
1119  *
1120  * Returns: The allocated fc_lport or an error pointer
1121  */
1122 static struct fc_lport *fcoe_if_create(struct fcoe_interface *fcoe,
1123                                        struct device *parent, int npiv)
1124 {
1125         struct fcoe_ctlr *ctlr = fcoe_to_ctlr(fcoe);
1126         struct net_device *netdev = fcoe->netdev;
1127         struct fc_lport *lport, *n_port;
1128         struct fcoe_port *port;
1129         struct Scsi_Host *shost;
1130         int rc;
1131         /*
1132          * parent is only a vport if npiv is 1,
1133          * but we'll only use vport in that case so go ahead and set it
1134          */
1135         struct fc_vport *vport = dev_to_vport(parent);
1136
1137         FCOE_NETDEV_DBG(netdev, "Create Interface\n");
1138
1139         if (!npiv)
1140                 lport = libfc_host_alloc(&fcoe_shost_template, sizeof(*port));
1141         else
1142                 lport = libfc_vport_create(vport, sizeof(*port));
1143
1144         if (!lport) {
1145                 FCOE_NETDEV_DBG(netdev, "Could not allocate host structure\n");
1146                 rc = -ENOMEM;
1147                 goto out;
1148         }
1149         port = lport_priv(lport);
1150         port->lport = lport;
1151         port->priv = fcoe;
1152         port->get_netdev = fcoe_netdev;
1153         port->max_queue_depth = FCOE_MAX_QUEUE_DEPTH;
1154         port->min_queue_depth = FCOE_MIN_QUEUE_DEPTH;
1155         INIT_WORK(&port->destroy_work, fcoe_destroy_work);
1156
1157         /*
1158          * Need to add the lport to the hostlist
1159          * so we catch NETDEV_CHANGE events.
1160          */
1161         fcoe_hostlist_add(lport);
1162
1163         /* configure a fc_lport including the exchange manager */
1164         rc = fcoe_lport_config(lport);
1165         if (rc) {
1166                 FCOE_NETDEV_DBG(netdev, "Could not configure lport for the "
1167                                 "interface\n");
1168                 goto out_host_put;
1169         }
1170
1171         if (npiv) {
1172                 FCOE_NETDEV_DBG(netdev, "Setting vport names, "
1173                                 "%16.16llx %16.16llx\n",
1174                                 vport->node_name, vport->port_name);
1175                 fc_set_wwnn(lport, vport->node_name);
1176                 fc_set_wwpn(lport, vport->port_name);
1177         }
1178
1179         /* configure lport network properties */
1180         rc = fcoe_netdev_config(lport, netdev);
1181         if (rc) {
1182                 FCOE_NETDEV_DBG(netdev, "Could not configure netdev for the "
1183                                 "interface\n");
1184                 goto out_lp_destroy;
1185         }
1186
1187         /* configure lport scsi host properties */
1188         rc = fcoe_shost_config(lport, parent);
1189         if (rc) {
1190                 FCOE_NETDEV_DBG(netdev, "Could not configure shost for the "
1191                                 "interface\n");
1192                 goto out_lp_destroy;
1193         }
1194
1195         /* Initialize the library */
1196         rc = fcoe_libfc_config(lport, ctlr, &fcoe_libfc_fcn_templ, 1);
1197         if (rc) {
1198                 FCOE_NETDEV_DBG(netdev, "Could not configure libfc for the "
1199                                 "interface\n");
1200                 goto out_lp_destroy;
1201         }
1202
1203         /* Initialized FDMI information */
1204         fcoe_fdmi_info(lport, netdev);
1205
1206         /*
1207          * fcoe_em_alloc() and fcoe_hostlist_add() both
1208          * need to be atomic with respect to other changes to the
1209          * hostlist since fcoe_em_alloc() looks for an existing EM
1210          * instance on host list updated by fcoe_hostlist_add().
1211          *
1212          * This is currently handled through the fcoe_config_mutex
1213          * begin held.
1214          */
1215         if (!npiv)
1216                 /* lport exch manager allocation */
1217                 rc = fcoe_em_config(lport);
1218         else {
1219                 shost = vport_to_shost(vport);
1220                 n_port = shost_priv(shost);
1221                 rc = fc_exch_mgr_list_clone(n_port, lport);
1222         }
1223
1224         if (rc) {
1225                 FCOE_NETDEV_DBG(netdev, "Could not configure the EM\n");
1226                 goto out_lp_destroy;
1227         }
1228
1229         return lport;
1230
1231 out_lp_destroy:
1232         fc_exch_mgr_free(lport);
1233 out_host_put:
1234         fcoe_hostlist_del(lport);
1235         scsi_host_put(lport->host);
1236 out:
1237         return ERR_PTR(rc);
1238 }
1239
1240 /**
1241  * fcoe_if_init() - Initialization routine for fcoe.ko
1242  *
1243  * Attaches the SW FCoE transport to the FC transport
1244  *
1245  * Returns: 0 on success
1246  */
1247 static int __init fcoe_if_init(void)
1248 {
1249         /* attach to scsi transport */
1250         fcoe_nport_scsi_transport =
1251                 fc_attach_transport(&fcoe_nport_fc_functions);
1252         if (!fcoe_nport_scsi_transport)
1253                 goto err;
1254
1255         fcoe_vport_scsi_transport =
1256                 fc_attach_transport(&fcoe_vport_fc_functions);
1257         if (!fcoe_vport_scsi_transport)
1258                 goto err_vport;
1259
1260         return 0;
1261
1262 err_vport:
1263         fc_release_transport(fcoe_nport_scsi_transport);
1264 err:
1265         printk(KERN_ERR "fcoe: Failed to attach to the FC transport\n");
1266         return -ENODEV;
1267 }
1268
1269 /**
1270  * fcoe_if_exit() - Tear down fcoe.ko
1271  *
1272  * Detaches the SW FCoE transport from the FC transport
1273  *
1274  * Returns: 0 on success
1275  */
1276 static int __exit fcoe_if_exit(void)
1277 {
1278         fc_release_transport(fcoe_nport_scsi_transport);
1279         fc_release_transport(fcoe_vport_scsi_transport);
1280         fcoe_nport_scsi_transport = NULL;
1281         fcoe_vport_scsi_transport = NULL;
1282         return 0;
1283 }
1284
1285 static void fcoe_thread_cleanup_local(unsigned int cpu)
1286 {
1287         struct page *crc_eof;
1288         struct fcoe_percpu_s *p;
1289
1290         p = per_cpu_ptr(&fcoe_percpu, cpu);
1291         spin_lock_bh(&p->fcoe_rx_list.lock);
1292         crc_eof = p->crc_eof_page;
1293         p->crc_eof_page = NULL;
1294         p->crc_eof_offset = 0;
1295         spin_unlock_bh(&p->fcoe_rx_list.lock);
1296
1297         if (crc_eof)
1298                 put_page(crc_eof);
1299         flush_work(&p->work);
1300 }
1301
1302 /**
1303  * fcoe_select_cpu() - Selects CPU to handle post-processing of incoming
1304  *                      command.
1305  *
1306  * This routine selects next CPU based on cpumask to distribute
1307  * incoming requests in round robin.
1308  *
1309  * Returns: int CPU number
1310  */
1311 static inline unsigned int fcoe_select_cpu(void)
1312 {
1313         static unsigned int selected_cpu;
1314
1315         selected_cpu = cpumask_next(selected_cpu, cpu_online_mask);
1316         if (selected_cpu >= nr_cpu_ids)
1317                 selected_cpu = cpumask_first(cpu_online_mask);
1318
1319         return selected_cpu;
1320 }
1321
1322 /**
1323  * fcoe_rcv() - Receive packets from a net device
1324  * @skb:    The received packet
1325  * @netdev: The net device that the packet was received on
1326  * @ptype:  The packet type context
1327  * @olddev: The last device net device
1328  *
1329  * This routine is called by NET_RX_SOFTIRQ. It receives a packet, builds a
1330  * FC frame and passes the frame to libfc.
1331  *
1332  * Returns: 0 for success
1333  */
1334 static int fcoe_rcv(struct sk_buff *skb, struct net_device *netdev,
1335              struct packet_type *ptype, struct net_device *olddev)
1336 {
1337         struct fc_lport *lport;
1338         struct fcoe_rcv_info *fr;
1339         struct fcoe_ctlr *ctlr;
1340         struct fcoe_interface *fcoe;
1341         struct fc_frame_header *fh;
1342         struct fcoe_percpu_s *fps;
1343         struct ethhdr *eh;
1344         unsigned int cpu;
1345
1346         fcoe = container_of(ptype, struct fcoe_interface, fcoe_packet_type);
1347         ctlr = fcoe_to_ctlr(fcoe);
1348         lport = ctlr->lp;
1349         if (unlikely(!lport)) {
1350                 FCOE_NETDEV_DBG(netdev, "Cannot find hba structure\n");
1351                 goto err2;
1352         }
1353         if (!lport->link_up)
1354                 goto err2;
1355
1356         FCOE_NETDEV_DBG(netdev,
1357                         "skb_info: len:%d data_len:%d head:%p data:%p tail:%p end:%p sum:%d dev:%s\n",
1358                         skb->len, skb->data_len, skb->head, skb->data,
1359                         skb_tail_pointer(skb), skb_end_pointer(skb),
1360                         skb->csum, skb->dev ? skb->dev->name : "<NULL>");
1361
1362
1363         skb = skb_share_check(skb, GFP_ATOMIC);
1364
1365         if (skb == NULL)
1366                 return NET_RX_DROP;
1367
1368         eh = eth_hdr(skb);
1369
1370         if (is_fip_mode(ctlr) &&
1371             !ether_addr_equal(eh->h_source, ctlr->dest_addr)) {
1372                 FCOE_NETDEV_DBG(netdev, "wrong source mac address:%pM\n",
1373                                 eh->h_source);
1374                 goto err;
1375         }
1376
1377         /*
1378          * Check for minimum frame length, and make sure required FCoE
1379          * and FC headers are pulled into the linear data area.
1380          */
1381         if (unlikely((skb->len < FCOE_MIN_FRAME) ||
1382                      !pskb_may_pull(skb, FCOE_HEADER_LEN)))
1383                 goto err;
1384
1385         skb_set_transport_header(skb, sizeof(struct fcoe_hdr));
1386         fh = (struct fc_frame_header *) skb_transport_header(skb);
1387
1388         if (ntoh24(&eh->h_dest[3]) != ntoh24(fh->fh_d_id)) {
1389                 FCOE_NETDEV_DBG(netdev, "FC frame d_id mismatch with MAC:%pM\n",
1390                                 eh->h_dest);
1391                 goto err;
1392         }
1393
1394         fr = fcoe_dev_from_skb(skb);
1395         fr->fr_dev = lport;
1396
1397         /*
1398          * In case the incoming frame's exchange is originated from
1399          * the initiator, then received frame's exchange id is ANDed
1400          * with fc_cpu_mask bits to get the same cpu on which exchange
1401          * was originated, otherwise select cpu using rx exchange id
1402          * or fcoe_select_cpu().
1403          */
1404         if (ntoh24(fh->fh_f_ctl) & FC_FC_EX_CTX)
1405                 cpu = ntohs(fh->fh_ox_id) & fc_cpu_mask;
1406         else {
1407                 if (ntohs(fh->fh_rx_id) == FC_XID_UNKNOWN)
1408                         cpu = fcoe_select_cpu();
1409                 else
1410                         cpu = ntohs(fh->fh_rx_id) & fc_cpu_mask;
1411         }
1412
1413         if (cpu >= nr_cpu_ids)
1414                 goto err;
1415
1416         fps = &per_cpu(fcoe_percpu, cpu);
1417         spin_lock(&fps->fcoe_rx_list.lock);
1418         /*
1419          * We now have a valid CPU that we're targeting for
1420          * this skb. We also have this receive thread locked,
1421          * so we're free to queue skbs into it's queue.
1422          */
1423
1424         /*
1425          * Note: We used to have a set of conditions under which we would
1426          * call fcoe_recv_frame directly, rather than queuing to the rx list
1427          * as it could save a few cycles, but doing so is prohibited, as
1428          * fcoe_recv_frame has several paths that may sleep, which is forbidden
1429          * in softirq context.
1430          */
1431         __skb_queue_tail(&fps->fcoe_rx_list, skb);
1432         schedule_work_on(cpu, &fps->work);
1433         spin_unlock(&fps->fcoe_rx_list.lock);
1434
1435         return NET_RX_SUCCESS;
1436 err:
1437         this_cpu_inc(lport->stats->ErrorFrames);
1438 err2:
1439         kfree_skb(skb);
1440         return NET_RX_DROP;
1441 }
1442
1443 /**
1444  * fcoe_alloc_paged_crc_eof() - Allocate a page to be used for the trailer CRC
1445  * @skb:  The packet to be transmitted
1446  * @tlen: The total length of the trailer
1447  *
1448  * Returns: 0 for success
1449  */
1450 static int fcoe_alloc_paged_crc_eof(struct sk_buff *skb, int tlen)
1451 {
1452         struct fcoe_percpu_s *fps;
1453         int rc;
1454
1455         local_lock(&fcoe_percpu.lock);
1456         fps = this_cpu_ptr(&fcoe_percpu);
1457         rc = fcoe_get_paged_crc_eof(skb, tlen, fps);
1458         local_unlock(&fcoe_percpu.lock);
1459
1460         return rc;
1461 }
1462
1463 /**
1464  * fcoe_xmit() - Transmit a FCoE frame
1465  * @lport: The local port that the frame is to be transmitted for
1466  * @fp:    The frame to be transmitted
1467  *
1468  * Return: 0 for success
1469  */
1470 static int fcoe_xmit(struct fc_lport *lport, struct fc_frame *fp)
1471 {
1472         int wlen;
1473         u32 crc;
1474         struct ethhdr *eh;
1475         struct fcoe_crc_eof *cp;
1476         struct sk_buff *skb;
1477         struct fc_frame_header *fh;
1478         unsigned int hlen;              /* header length implies the version */
1479         unsigned int tlen;              /* trailer length */
1480         unsigned int elen;              /* eth header, may include vlan */
1481         struct fcoe_port *port = lport_priv(lport);
1482         struct fcoe_interface *fcoe = port->priv;
1483         struct fcoe_ctlr *ctlr = fcoe_to_ctlr(fcoe);
1484         u8 sof, eof;
1485         struct fcoe_hdr *hp;
1486
1487         WARN_ON((fr_len(fp) % sizeof(u32)) != 0);
1488
1489         fh = fc_frame_header_get(fp);
1490         skb = fp_skb(fp);
1491         wlen = skb->len / FCOE_WORD_TO_BYTE;
1492
1493         if (!lport->link_up) {
1494                 kfree_skb(skb);
1495                 return 0;
1496         }
1497
1498         if (unlikely(fh->fh_type == FC_TYPE_ELS) &&
1499             fcoe_ctlr_els_send(ctlr, lport, skb))
1500                 return 0;
1501
1502         sof = fr_sof(fp);
1503         eof = fr_eof(fp);
1504
1505         elen = sizeof(struct ethhdr);
1506         hlen = sizeof(struct fcoe_hdr);
1507         tlen = sizeof(struct fcoe_crc_eof);
1508         wlen = (skb->len - tlen + sizeof(crc)) / FCOE_WORD_TO_BYTE;
1509
1510         /* crc offload */
1511         if (likely(lport->crc_offload)) {
1512                 skb->ip_summed = CHECKSUM_PARTIAL;
1513                 skb->csum_start = skb_headroom(skb);
1514                 skb->csum_offset = skb->len;
1515                 crc = 0;
1516         } else {
1517                 skb->ip_summed = CHECKSUM_NONE;
1518                 crc = fcoe_fc_crc(fp);
1519         }
1520
1521         /* copy port crc and eof to the skb buff */
1522         if (skb_is_nonlinear(skb)) {
1523                 skb_frag_t *frag;
1524                 if (fcoe_alloc_paged_crc_eof(skb, tlen)) {
1525                         kfree_skb(skb);
1526                         return -ENOMEM;
1527                 }
1528                 frag = &skb_shinfo(skb)->frags[skb_shinfo(skb)->nr_frags - 1];
1529                 cp = kmap_atomic(skb_frag_page(frag)) + skb_frag_off(frag);
1530         } else {
1531                 cp = skb_put(skb, tlen);
1532         }
1533
1534         memset(cp, 0, sizeof(*cp));
1535         cp->fcoe_eof = eof;
1536         cp->fcoe_crc32 = cpu_to_le32(~crc);
1537
1538         if (skb_is_nonlinear(skb)) {
1539                 kunmap_atomic(cp);
1540                 cp = NULL;
1541         }
1542
1543         /* adjust skb network/transport offsets to match mac/fcoe/port */
1544         skb_push(skb, elen + hlen);
1545         skb_reset_mac_header(skb);
1546         skb_reset_network_header(skb);
1547         skb->mac_len = elen;
1548         skb->protocol = htons(ETH_P_FCOE);
1549         skb->priority = fcoe->priority;
1550
1551         if (is_vlan_dev(fcoe->netdev) &&
1552             fcoe->realdev->features & NETIF_F_HW_VLAN_CTAG_TX) {
1553                 /* must set skb->dev before calling vlan_put_tag */
1554                 skb->dev = fcoe->realdev;
1555                 __vlan_hwaccel_put_tag(skb, htons(ETH_P_8021Q),
1556                                        vlan_dev_vlan_id(fcoe->netdev));
1557         } else
1558                 skb->dev = fcoe->netdev;
1559
1560         /* fill up mac and fcoe headers */
1561         eh = eth_hdr(skb);
1562         eh->h_proto = htons(ETH_P_FCOE);
1563         memcpy(eh->h_dest, ctlr->dest_addr, ETH_ALEN);
1564         if (ctlr->map_dest)
1565                 memcpy(eh->h_dest + 3, fh->fh_d_id, 3);
1566
1567         if (unlikely(ctlr->flogi_oxid != FC_XID_UNKNOWN))
1568                 memcpy(eh->h_source, ctlr->ctl_src_addr, ETH_ALEN);
1569         else
1570                 memcpy(eh->h_source, port->data_src_addr, ETH_ALEN);
1571
1572         hp = (struct fcoe_hdr *)(eh + 1);
1573         memset(hp, 0, sizeof(*hp));
1574         if (FC_FCOE_VER)
1575                 FC_FCOE_ENCAPS_VER(hp, FC_FCOE_VER);
1576         hp->fcoe_sof = sof;
1577
1578         /* fcoe lso, mss is in max_payload which is non-zero for FCP data */
1579         if (lport->seq_offload && fr_max_payload(fp)) {
1580                 skb_shinfo(skb)->gso_type = SKB_GSO_FCOE;
1581                 skb_shinfo(skb)->gso_size = fr_max_payload(fp);
1582         } else {
1583                 skb_shinfo(skb)->gso_type = 0;
1584                 skb_shinfo(skb)->gso_size = 0;
1585         }
1586         /* update tx stats: regardless if LLD fails */
1587         this_cpu_inc(lport->stats->TxFrames);
1588         this_cpu_add(lport->stats->TxWords, wlen);
1589
1590         /* send down to lld */
1591         fr_dev(fp) = lport;
1592         fcoe_port_send(port, skb);
1593         return 0;
1594 }
1595
1596 /**
1597  * fcoe_filter_frames() - filter out bad fcoe frames, i.e. bad CRC
1598  * @lport: The local port the frame was received on
1599  * @fp:    The received frame
1600  *
1601  * Return: 0 on passing filtering checks
1602  */
1603 static inline int fcoe_filter_frames(struct fc_lport *lport,
1604                                      struct fc_frame *fp)
1605 {
1606         struct fcoe_ctlr *ctlr;
1607         struct fcoe_interface *fcoe;
1608         struct fc_frame_header *fh;
1609         struct sk_buff *skb = (struct sk_buff *)fp;
1610
1611         /*
1612          * We only check CRC if no offload is available and if it is
1613          * it's solicited data, in which case, the FCP layer would
1614          * check it during the copy.
1615          */
1616         if (lport->crc_offload && skb->ip_summed == CHECKSUM_UNNECESSARY)
1617                 fr_flags(fp) &= ~FCPHF_CRC_UNCHECKED;
1618         else
1619                 fr_flags(fp) |= FCPHF_CRC_UNCHECKED;
1620
1621         fh = fc_frame_header_get(fp);
1622         if (fh->fh_r_ctl == FC_RCTL_DD_SOL_DATA && fh->fh_type == FC_TYPE_FCP)
1623                 return 0;
1624
1625         fcoe = ((struct fcoe_port *)lport_priv(lport))->priv;
1626         ctlr = fcoe_to_ctlr(fcoe);
1627         if (is_fip_mode(ctlr) && fc_frame_payload_op(fp) == ELS_LOGO &&
1628             ntoh24(fh->fh_s_id) == FC_FID_FLOGI) {
1629                 FCOE_DBG("fcoe: dropping FCoE lport LOGO in fip mode\n");
1630                 return -EINVAL;
1631         }
1632
1633         if (!(fr_flags(fp) & FCPHF_CRC_UNCHECKED) ||
1634             le32_to_cpu(fr_crc(fp)) == ~crc32(~0, skb->data, skb->len)) {
1635                 fr_flags(fp) &= ~FCPHF_CRC_UNCHECKED;
1636                 return 0;
1637         }
1638
1639         if (this_cpu_inc_return(lport->stats->InvalidCRCCount) < 5)
1640                 printk(KERN_WARNING "fcoe: dropping frame with CRC error\n");
1641         return -EINVAL;
1642 }
1643
1644 /**
1645  * fcoe_recv_frame() - process a single received frame
1646  * @skb: frame to process
1647  */
1648 static void fcoe_recv_frame(struct sk_buff *skb)
1649 {
1650         u32 fr_len;
1651         struct fc_lport *lport;
1652         struct fcoe_rcv_info *fr;
1653         struct fcoe_crc_eof crc_eof;
1654         struct fc_frame *fp;
1655         struct fcoe_hdr *hp;
1656
1657         fr = fcoe_dev_from_skb(skb);
1658         lport = fr->fr_dev;
1659         if (unlikely(!lport)) {
1660                 FCOE_NETDEV_DBG(skb->dev, "NULL lport in skb\n");
1661                 kfree_skb(skb);
1662                 return;
1663         }
1664
1665         FCOE_NETDEV_DBG(skb->dev,
1666                         "skb_info: len:%d data_len:%d head:%p data:%p tail:%p end:%p sum:%d dev:%s\n",
1667                         skb->len, skb->data_len,
1668                         skb->head, skb->data, skb_tail_pointer(skb),
1669                         skb_end_pointer(skb), skb->csum,
1670                         skb->dev ? skb->dev->name : "<NULL>");
1671
1672         skb_linearize(skb); /* check for skb_is_nonlinear is within skb_linearize */
1673
1674         /*
1675          * Frame length checks and setting up the header pointers
1676          * was done in fcoe_rcv already.
1677          */
1678         hp = (struct fcoe_hdr *) skb_network_header(skb);
1679
1680         if (unlikely(FC_FCOE_DECAPS_VER(hp) != FC_FCOE_VER)) {
1681                 struct fc_stats *stats;
1682
1683                 stats = per_cpu_ptr(lport->stats, raw_smp_processor_id());
1684                 if (READ_ONCE(stats->ErrorFrames) < 5)
1685                         printk(KERN_WARNING "fcoe: FCoE version "
1686                                "mismatch: The frame has "
1687                                "version %x, but the "
1688                                "initiator supports version "
1689                                "%x\n", FC_FCOE_DECAPS_VER(hp),
1690                                FC_FCOE_VER);
1691                 goto drop;
1692         }
1693
1694         skb_pull(skb, sizeof(struct fcoe_hdr));
1695         fr_len = skb->len - sizeof(struct fcoe_crc_eof);
1696
1697         this_cpu_inc(lport->stats->RxFrames);
1698         this_cpu_add(lport->stats->RxWords, fr_len / FCOE_WORD_TO_BYTE);
1699
1700         fp = (struct fc_frame *)skb;
1701         fc_frame_init(fp);
1702         fr_dev(fp) = lport;
1703         fr_sof(fp) = hp->fcoe_sof;
1704
1705         /* Copy out the CRC and EOF trailer for access */
1706         if (skb_copy_bits(skb, fr_len, &crc_eof, sizeof(crc_eof)))
1707                 goto drop;
1708         fr_eof(fp) = crc_eof.fcoe_eof;
1709         fr_crc(fp) = crc_eof.fcoe_crc32;
1710         if (pskb_trim(skb, fr_len))
1711                 goto drop;
1712
1713         if (!fcoe_filter_frames(lport, fp)) {
1714                 fc_exch_recv(lport, fp);
1715                 return;
1716         }
1717 drop:
1718         this_cpu_inc(lport->stats->ErrorFrames);
1719         kfree_skb(skb);
1720 }
1721
1722 /**
1723  * fcoe_receive_work() - The per-CPU worker
1724  * @work: The work struct
1725  *
1726  */
1727 static void fcoe_receive_work(struct work_struct *work)
1728 {
1729         struct fcoe_percpu_s *p;
1730         struct sk_buff *skb;
1731         struct sk_buff_head tmp;
1732
1733         p = container_of(work, struct fcoe_percpu_s, work);
1734         skb_queue_head_init(&tmp);
1735
1736         spin_lock_bh(&p->fcoe_rx_list.lock);
1737         skb_queue_splice_init(&p->fcoe_rx_list, &tmp);
1738         spin_unlock_bh(&p->fcoe_rx_list.lock);
1739
1740         if (!skb_queue_len(&tmp))
1741                 return;
1742
1743         while ((skb = __skb_dequeue(&tmp)))
1744                 fcoe_recv_frame(skb);
1745 }
1746
1747 /**
1748  * fcoe_dev_setup() - Setup the link change notification interface
1749  */
1750 static void fcoe_dev_setup(void)
1751 {
1752         register_dcbevent_notifier(&dcb_notifier);
1753         register_netdevice_notifier(&fcoe_notifier);
1754 }
1755
1756 /**
1757  * fcoe_dev_cleanup() - Cleanup the link change notification interface
1758  */
1759 static void fcoe_dev_cleanup(void)
1760 {
1761         unregister_dcbevent_notifier(&dcb_notifier);
1762         unregister_netdevice_notifier(&fcoe_notifier);
1763 }
1764
1765 static struct fcoe_interface *
1766 fcoe_hostlist_lookup_realdev_port(struct net_device *netdev)
1767 {
1768         struct fcoe_interface *fcoe;
1769         struct net_device *real_dev;
1770
1771         list_for_each_entry(fcoe, &fcoe_hostlist, list) {
1772                 if (is_vlan_dev(fcoe->netdev))
1773                         real_dev = vlan_dev_real_dev(fcoe->netdev);
1774                 else
1775                         real_dev = fcoe->netdev;
1776
1777                 if (netdev == real_dev)
1778                         return fcoe;
1779         }
1780         return NULL;
1781 }
1782
1783 static int fcoe_dcb_app_notification(struct notifier_block *notifier,
1784                                      ulong event, void *ptr)
1785 {
1786         struct dcb_app_type *entry = ptr;
1787         struct fcoe_ctlr *ctlr;
1788         struct fcoe_interface *fcoe;
1789         struct net_device *netdev;
1790         int prio;
1791
1792         if (entry->app.selector != DCB_APP_IDTYPE_ETHTYPE)
1793                 return NOTIFY_OK;
1794
1795         netdev = dev_get_by_index(&init_net, entry->ifindex);
1796         if (!netdev)
1797                 return NOTIFY_OK;
1798
1799         fcoe = fcoe_hostlist_lookup_realdev_port(netdev);
1800         dev_put(netdev);
1801         if (!fcoe)
1802                 return NOTIFY_OK;
1803
1804         ctlr = fcoe_to_ctlr(fcoe);
1805
1806         if (entry->dcbx & DCB_CAP_DCBX_VER_CEE)
1807                 prio = ffs(entry->app.priority) - 1;
1808         else
1809                 prio = entry->app.priority;
1810
1811         if (prio < 0)
1812                 return NOTIFY_OK;
1813
1814         if (entry->app.protocol == ETH_P_FIP ||
1815             entry->app.protocol == ETH_P_FCOE)
1816                 ctlr->priority = prio;
1817
1818         if (entry->app.protocol == ETH_P_FCOE)
1819                 fcoe->priority = prio;
1820
1821         return NOTIFY_OK;
1822 }
1823
1824 /**
1825  * fcoe_device_notification() - Handler for net device events
1826  * @notifier: The context of the notification
1827  * @event:    The type of event
1828  * @ptr:      The net device that the event was on
1829  *
1830  * This function is called by the Ethernet driver in case of link change event.
1831  *
1832  * Returns: 0 for success
1833  */
1834 static int fcoe_device_notification(struct notifier_block *notifier,
1835                                     ulong event, void *ptr)
1836 {
1837         struct fcoe_ctlr_device *cdev;
1838         struct fc_lport *lport = NULL;
1839         struct net_device *netdev = netdev_notifier_info_to_dev(ptr);
1840         struct fcoe_ctlr *ctlr;
1841         struct fcoe_interface *fcoe;
1842         u32 link_possible = 1;
1843         u32 mfs;
1844         int rc = NOTIFY_OK;
1845
1846         list_for_each_entry(fcoe, &fcoe_hostlist, list) {
1847                 if (fcoe->netdev == netdev) {
1848                         ctlr = fcoe_to_ctlr(fcoe);
1849                         lport = ctlr->lp;
1850                         break;
1851                 }
1852         }
1853         if (!lport) {
1854                 rc = NOTIFY_DONE;
1855                 goto out;
1856         }
1857
1858         switch (event) {
1859         case NETDEV_DOWN:
1860         case NETDEV_GOING_DOWN:
1861                 link_possible = 0;
1862                 break;
1863         case NETDEV_UP:
1864         case NETDEV_CHANGE:
1865                 break;
1866         case NETDEV_CHANGEMTU:
1867                 if (netdev->features & NETIF_F_FCOE_MTU)
1868                         break;
1869                 mfs = netdev->mtu - (sizeof(struct fcoe_hdr) +
1870                                      sizeof(struct fcoe_crc_eof));
1871                 if (mfs >= FC_MIN_MAX_FRAME)
1872                         fc_set_mfs(lport, mfs);
1873                 break;
1874         case NETDEV_REGISTER:
1875                 break;
1876         case NETDEV_UNREGISTER:
1877                 list_del(&fcoe->list);
1878                 fcoe_vport_remove(lport);
1879                 mutex_lock(&fcoe_config_mutex);
1880                 fcoe_if_destroy(lport);
1881                 if (!fcoe->removed)
1882                         fcoe_interface_remove(fcoe);
1883                 fcoe_interface_cleanup(fcoe);
1884                 mutex_unlock(&fcoe_config_mutex);
1885                 fcoe_ctlr_device_delete(fcoe_ctlr_to_ctlr_dev(ctlr));
1886                 goto out;
1887         case NETDEV_FEAT_CHANGE:
1888                 fcoe_netdev_features_change(lport, netdev);
1889                 break;
1890         default:
1891                 FCOE_NETDEV_DBG(netdev, "Unknown event %ld "
1892                                 "from netdev netlink\n", event);
1893         }
1894
1895         fcoe_link_speed_update(lport);
1896
1897         cdev = fcoe_ctlr_to_ctlr_dev(ctlr);
1898
1899         if (link_possible && !fcoe_link_ok(lport)) {
1900                 switch (cdev->enabled) {
1901                 case FCOE_CTLR_DISABLED:
1902                         pr_info("Link up while interface is disabled.\n");
1903                         break;
1904                 case FCOE_CTLR_ENABLED:
1905                 case FCOE_CTLR_UNUSED:
1906                         fcoe_ctlr_link_up(ctlr);
1907                 }
1908         } else if (fcoe_ctlr_link_down(ctlr)) {
1909                 switch (cdev->enabled) {
1910                 case FCOE_CTLR_DISABLED:
1911                         pr_info("Link down while interface is disabled.\n");
1912                         break;
1913                 case FCOE_CTLR_ENABLED:
1914                 case FCOE_CTLR_UNUSED:
1915                         this_cpu_inc(lport->stats->LinkFailureCount);
1916                         fcoe_clean_pending_queue(lport);
1917                 }
1918         }
1919 out:
1920         return rc;
1921 }
1922
1923 /**
1924  * fcoe_disable() - Disables a FCoE interface
1925  * @netdev  : The net_device object the Ethernet interface to create on
1926  *
1927  * Called from fcoe transport.
1928  *
1929  * Returns: 0 for success
1930  *
1931  * Deprecated: use fcoe_ctlr_enabled()
1932  */
1933 static int fcoe_disable(struct net_device *netdev)
1934 {
1935         struct fcoe_ctlr *ctlr;
1936         struct fcoe_interface *fcoe;
1937         int rc = 0;
1938
1939         mutex_lock(&fcoe_config_mutex);
1940
1941         rtnl_lock();
1942         fcoe = fcoe_hostlist_lookup_port(netdev);
1943         rtnl_unlock();
1944
1945         if (fcoe) {
1946                 ctlr = fcoe_to_ctlr(fcoe);
1947                 fcoe_ctlr_link_down(ctlr);
1948                 fcoe_clean_pending_queue(ctlr->lp);
1949         } else
1950                 rc = -ENODEV;
1951
1952         mutex_unlock(&fcoe_config_mutex);
1953         return rc;
1954 }
1955
1956 /**
1957  * fcoe_enable() - Enables a FCoE interface
1958  * @netdev  : The net_device object the Ethernet interface to create on
1959  *
1960  * Called from fcoe transport.
1961  *
1962  * Returns: 0 for success
1963  */
1964 static int fcoe_enable(struct net_device *netdev)
1965 {
1966         struct fcoe_ctlr *ctlr;
1967         struct fcoe_interface *fcoe;
1968         int rc = 0;
1969
1970         mutex_lock(&fcoe_config_mutex);
1971         rtnl_lock();
1972         fcoe = fcoe_hostlist_lookup_port(netdev);
1973         rtnl_unlock();
1974
1975         if (!fcoe) {
1976                 rc = -ENODEV;
1977                 goto out;
1978         }
1979
1980         ctlr = fcoe_to_ctlr(fcoe);
1981
1982         if (!fcoe_link_ok(ctlr->lp))
1983                 fcoe_ctlr_link_up(ctlr);
1984
1985 out:
1986         mutex_unlock(&fcoe_config_mutex);
1987         return rc;
1988 }
1989
1990 /**
1991  * fcoe_ctlr_enabled() - Enable or disable an FCoE Controller
1992  * @cdev: The FCoE Controller that is being enabled or disabled
1993  *
1994  * fcoe_sysfs will ensure that the state of 'enabled' has
1995  * changed, so no checking is necessary here. This routine simply
1996  * calls fcoe_enable or fcoe_disable, both of which are deprecated.
1997  * When those routines are removed the functionality can be merged
1998  * here.
1999  */
2000 static int fcoe_ctlr_enabled(struct fcoe_ctlr_device *cdev)
2001 {
2002         struct fcoe_ctlr *ctlr = fcoe_ctlr_device_priv(cdev);
2003         struct fc_lport *lport = ctlr->lp;
2004         struct net_device *netdev = fcoe_netdev(lport);
2005
2006         switch (cdev->enabled) {
2007         case FCOE_CTLR_ENABLED:
2008                 return fcoe_enable(netdev);
2009         case FCOE_CTLR_DISABLED:
2010                 return fcoe_disable(netdev);
2011         case FCOE_CTLR_UNUSED:
2012         default:
2013                 return -ENOTSUPP;
2014         }
2015 }
2016
2017 /**
2018  * fcoe_ctlr_mode() - Switch FIP mode
2019  * @ctlr_dev: The FCoE Controller that is being modified
2020  *
2021  * When the FIP mode has been changed we need to update
2022  * the multicast addresses to ensure we get the correct
2023  * frames.
2024  */
2025 static void fcoe_ctlr_mode(struct fcoe_ctlr_device *ctlr_dev)
2026 {
2027         struct fcoe_ctlr *ctlr = fcoe_ctlr_device_priv(ctlr_dev);
2028         struct fcoe_interface *fcoe = fcoe_ctlr_priv(ctlr);
2029
2030         if (ctlr_dev->mode == FIP_CONN_TYPE_VN2VN &&
2031             ctlr->mode != FIP_MODE_VN2VN) {
2032                 dev_mc_del(fcoe->netdev, FIP_ALL_ENODE_MACS);
2033                 dev_mc_add(fcoe->netdev, FIP_ALL_VN2VN_MACS);
2034                 dev_mc_add(fcoe->netdev, FIP_ALL_P2P_MACS);
2035         } else if (ctlr->mode != FIP_MODE_FABRIC) {
2036                 dev_mc_del(fcoe->netdev, FIP_ALL_VN2VN_MACS);
2037                 dev_mc_del(fcoe->netdev, FIP_ALL_P2P_MACS);
2038                 dev_mc_add(fcoe->netdev, FIP_ALL_ENODE_MACS);
2039         }
2040         fcoe_ctlr_set_fip_mode(ctlr_dev);
2041 }
2042
2043 /**
2044  * fcoe_destroy() - Destroy a FCoE interface
2045  * @netdev  : The net_device object the Ethernet interface to create on
2046  *
2047  * Called from fcoe transport
2048  *
2049  * Returns: 0 for success
2050  */
2051 static int fcoe_destroy(struct net_device *netdev)
2052 {
2053         struct fcoe_ctlr *ctlr;
2054         struct fcoe_interface *fcoe;
2055         struct fc_lport *lport;
2056         struct fcoe_port *port;
2057         int rc = 0;
2058
2059         mutex_lock(&fcoe_config_mutex);
2060         rtnl_lock();
2061         fcoe = fcoe_hostlist_lookup_port(netdev);
2062         if (!fcoe) {
2063                 rc = -ENODEV;
2064                 goto out_nodev;
2065         }
2066         ctlr = fcoe_to_ctlr(fcoe);
2067         lport = ctlr->lp;
2068         port = lport_priv(lport);
2069         list_del(&fcoe->list);
2070         queue_work(fcoe_wq, &port->destroy_work);
2071 out_nodev:
2072         rtnl_unlock();
2073         mutex_unlock(&fcoe_config_mutex);
2074         return rc;
2075 }
2076
2077 /**
2078  * fcoe_destroy_work() - Destroy a FCoE port in a deferred work context
2079  * @work: Handle to the FCoE port to be destroyed
2080  */
2081 static void fcoe_destroy_work(struct work_struct *work)
2082 {
2083         struct fcoe_ctlr_device *cdev;
2084         struct fcoe_ctlr *ctlr;
2085         struct fcoe_port *port;
2086         struct fcoe_interface *fcoe;
2087
2088         port = container_of(work, struct fcoe_port, destroy_work);
2089
2090         fcoe_vport_remove(port->lport);
2091
2092         mutex_lock(&fcoe_config_mutex);
2093
2094         fcoe = port->priv;
2095         ctlr = fcoe_to_ctlr(fcoe);
2096         cdev = fcoe_ctlr_to_ctlr_dev(ctlr);
2097
2098         rtnl_lock();
2099         fcoe_if_destroy(port->lport);
2100         if (!fcoe->removed)
2101                 fcoe_interface_remove(fcoe);
2102         rtnl_unlock();
2103         fcoe_interface_cleanup(fcoe);
2104
2105         mutex_unlock(&fcoe_config_mutex);
2106
2107         fcoe_ctlr_device_delete(cdev);
2108 }
2109
2110 /**
2111  * fcoe_match() - Check if the FCoE is supported on the given netdevice
2112  * @netdev  : The net_device object the Ethernet interface to create on
2113  *
2114  * Called from fcoe transport.
2115  *
2116  * Returns: always returns true as this is the default FCoE transport,
2117  * i.e., support all netdevs.
2118  */
2119 static bool fcoe_match(struct net_device *netdev)
2120 {
2121         return true;
2122 }
2123
2124 /**
2125  * fcoe_dcb_create() - Initialize DCB attributes and hooks
2126  * @fcoe:   The new FCoE interface
2127  */
2128 static void fcoe_dcb_create(struct fcoe_interface *fcoe)
2129 {
2130         int ctlr_prio = TC_PRIO_BESTEFFORT;
2131         int fcoe_prio = TC_PRIO_INTERACTIVE;
2132         struct fcoe_ctlr *ctlr = fcoe_to_ctlr(fcoe);
2133 #ifdef CONFIG_DCB
2134         int dcbx;
2135         u8 fup, up;
2136         struct net_device *netdev = fcoe->realdev;
2137         struct dcb_app app = {
2138                                 .priority = 0,
2139                                 .protocol = ETH_P_FCOE
2140                              };
2141
2142         /* setup DCB priority attributes. */
2143         if (netdev && netdev->dcbnl_ops && netdev->dcbnl_ops->getdcbx) {
2144                 dcbx = netdev->dcbnl_ops->getdcbx(netdev);
2145
2146                 if (dcbx & DCB_CAP_DCBX_VER_IEEE) {
2147                         app.selector = IEEE_8021QAZ_APP_SEL_ETHERTYPE;
2148                         up = dcb_ieee_getapp_mask(netdev, &app);
2149                         app.protocol = ETH_P_FIP;
2150                         fup = dcb_ieee_getapp_mask(netdev, &app);
2151                 } else {
2152                         app.selector = DCB_APP_IDTYPE_ETHTYPE;
2153                         up = dcb_getapp(netdev, &app);
2154                         app.protocol = ETH_P_FIP;
2155                         fup = dcb_getapp(netdev, &app);
2156                 }
2157
2158                 fcoe_prio = ffs(up) ? ffs(up) - 1 : 0;
2159                 ctlr_prio = ffs(fup) ? ffs(fup) - 1 : fcoe_prio;
2160         }
2161 #endif
2162         fcoe->priority = fcoe_prio;
2163         ctlr->priority = ctlr_prio;
2164 }
2165
2166 enum fcoe_create_link_state {
2167         FCOE_CREATE_LINK_DOWN,
2168         FCOE_CREATE_LINK_UP,
2169 };
2170
2171 /**
2172  * _fcoe_create() - (internal) Create a fcoe interface
2173  * @netdev  :   The net_device object the Ethernet interface to create on
2174  * @fip_mode:   The FIP mode for this creation
2175  * @link_state: The ctlr link state on creation
2176  *
2177  * Called from either the libfcoe 'create' module parameter
2178  * via fcoe_create or from fcoe_syfs's ctlr_create file.
2179  *
2180  * libfcoe's 'create' module parameter is deprecated so some
2181  * consolidation of code can be done when that interface is
2182  * removed.
2183  */
2184 static int _fcoe_create(struct net_device *netdev, enum fip_mode fip_mode,
2185                         enum fcoe_create_link_state link_state)
2186 {
2187         int rc = 0;
2188         struct fcoe_ctlr_device *ctlr_dev;
2189         struct fcoe_ctlr *ctlr;
2190         struct fcoe_interface *fcoe;
2191         struct fc_lport *lport;
2192
2193         mutex_lock(&fcoe_config_mutex);
2194         rtnl_lock();
2195
2196         /* look for existing lport */
2197         if (fcoe_hostlist_lookup(netdev)) {
2198                 rc = -EEXIST;
2199                 goto out_nodev;
2200         }
2201
2202         fcoe = fcoe_interface_create(netdev, fip_mode);
2203         if (IS_ERR(fcoe)) {
2204                 rc = PTR_ERR(fcoe);
2205                 goto out_nodev;
2206         }
2207
2208         ctlr = fcoe_to_ctlr(fcoe);
2209         ctlr_dev = fcoe_ctlr_to_ctlr_dev(ctlr);
2210         lport = fcoe_if_create(fcoe, &ctlr_dev->dev, 0);
2211         if (IS_ERR(lport)) {
2212                 printk(KERN_ERR "fcoe: Failed to create interface (%s)\n",
2213                        netdev->name);
2214                 rc = -EIO;
2215                 if (!fcoe->removed)
2216                         fcoe_interface_remove(fcoe);
2217                 rtnl_unlock();
2218                 fcoe_interface_cleanup(fcoe);
2219                 mutex_unlock(&fcoe_config_mutex);
2220                 fcoe_ctlr_device_delete(ctlr_dev);
2221                 return rc;
2222         }
2223
2224         /* Make this the "master" N_Port */
2225         ctlr->lp = lport;
2226
2227         /* setup DCB priority attributes. */
2228         fcoe_dcb_create(fcoe);
2229
2230         /* start FIP Discovery and FLOGI */
2231         lport->boot_time = jiffies;
2232         fc_fabric_login(lport);
2233
2234         /*
2235          * If the fcoe_ctlr_device is to be set to DISABLED
2236          * it must be done after the lport is added to the
2237          * hostlist, but before the rtnl_lock is released.
2238          * This is because the rtnl_lock protects the
2239          * hostlist that fcoe_device_notification uses. If
2240          * the FCoE Controller is intended to be created
2241          * DISABLED then 'enabled' needs to be considered
2242          * handling link events. 'enabled' must be set
2243          * before the lport can be found in the hostlist
2244          * when a link up event is received.
2245          */
2246         if (link_state == FCOE_CREATE_LINK_UP)
2247                 ctlr_dev->enabled = FCOE_CTLR_ENABLED;
2248         else
2249                 ctlr_dev->enabled = FCOE_CTLR_DISABLED;
2250
2251         if (link_state == FCOE_CREATE_LINK_UP &&
2252             !fcoe_link_ok(lport)) {
2253                 rtnl_unlock();
2254                 fcoe_ctlr_link_up(ctlr);
2255                 mutex_unlock(&fcoe_config_mutex);
2256                 return rc;
2257         }
2258
2259 out_nodev:
2260         rtnl_unlock();
2261         mutex_unlock(&fcoe_config_mutex);
2262
2263         return rc;
2264 }
2265
2266 /**
2267  * fcoe_create() - Create a fcoe interface
2268  * @netdev  : The net_device object the Ethernet interface to create on
2269  * @fip_mode: The FIP mode for this creation
2270  *
2271  * Called from fcoe transport
2272  *
2273  * Returns: 0 for success
2274  */
2275 static int fcoe_create(struct net_device *netdev, enum fip_mode fip_mode)
2276 {
2277         return _fcoe_create(netdev, fip_mode, FCOE_CREATE_LINK_UP);
2278 }
2279
2280 /**
2281  * fcoe_ctlr_alloc() - Allocate a fcoe interface from fcoe_sysfs
2282  * @netdev: The net_device to be used by the allocated FCoE Controller
2283  *
2284  * This routine is called from fcoe_sysfs. It will start the fcoe_ctlr
2285  * in a link_down state. The allows the user an opportunity to configure
2286  * the FCoE Controller from sysfs before enabling the FCoE Controller.
2287  *
2288  * Creating in with this routine starts the FCoE Controller in Fabric
2289  * mode. The user can change to VN2VN or another mode before enabling.
2290  */
2291 static int fcoe_ctlr_alloc(struct net_device *netdev)
2292 {
2293         return _fcoe_create(netdev, FIP_MODE_FABRIC,
2294                             FCOE_CREATE_LINK_DOWN);
2295 }
2296
2297 /**
2298  * fcoe_link_ok() - Check if the link is OK for a local port
2299  * @lport: The local port to check link on
2300  *
2301  * Returns: 0 if link is UP and OK, -1 if not
2302  *
2303  */
2304 static int fcoe_link_ok(struct fc_lport *lport)
2305 {
2306         struct net_device *netdev = fcoe_netdev(lport);
2307
2308         if (netif_oper_up(netdev))
2309                 return 0;
2310         return -1;
2311 }
2312
2313 /**
2314  * fcoe_percpu_clean() - Clear all pending skbs for an local port
2315  * @lport: The local port whose skbs are to be cleared
2316  *
2317  * Must be called with fcoe_create_mutex held to single-thread completion.
2318  *
2319  * This flushes the pending skbs by flush the work item for each CPU. The work
2320  * item on each possible CPU is flushed because we may have used the per-CPU
2321  * struct of an offline CPU.
2322  */
2323 static void fcoe_percpu_clean(struct fc_lport *lport)
2324 {
2325         struct fcoe_percpu_s *pp;
2326         unsigned int cpu;
2327
2328         for_each_possible_cpu(cpu) {
2329                 pp = &per_cpu(fcoe_percpu, cpu);
2330
2331                 flush_work(&pp->work);
2332         }
2333 }
2334
2335 /**
2336  * fcoe_reset() - Reset a local port
2337  * @shost: The SCSI host associated with the local port to be reset
2338  *
2339  * Returns: Always 0 (return value required by FC transport template)
2340  */
2341 static int fcoe_reset(struct Scsi_Host *shost)
2342 {
2343         struct fc_lport *lport = shost_priv(shost);
2344         struct fcoe_port *port = lport_priv(lport);
2345         struct fcoe_interface *fcoe = port->priv;
2346         struct fcoe_ctlr *ctlr = fcoe_to_ctlr(fcoe);
2347         struct fcoe_ctlr_device *cdev = fcoe_ctlr_to_ctlr_dev(ctlr);
2348
2349         fcoe_ctlr_link_down(ctlr);
2350         fcoe_clean_pending_queue(ctlr->lp);
2351
2352         if (cdev->enabled != FCOE_CTLR_DISABLED &&
2353             !fcoe_link_ok(ctlr->lp))
2354                 fcoe_ctlr_link_up(ctlr);
2355         return 0;
2356 }
2357
2358 /**
2359  * fcoe_hostlist_lookup_port() - Find the FCoE interface associated with a net device
2360  * @netdev: The net device used as a key
2361  *
2362  * Locking: Must be called with the RNL mutex held.
2363  *
2364  * Returns: NULL or the FCoE interface
2365  */
2366 static struct fcoe_interface *
2367 fcoe_hostlist_lookup_port(const struct net_device *netdev)
2368 {
2369         struct fcoe_interface *fcoe;
2370
2371         list_for_each_entry(fcoe, &fcoe_hostlist, list) {
2372                 if (fcoe->netdev == netdev)
2373                         return fcoe;
2374         }
2375         return NULL;
2376 }
2377
2378 /**
2379  * fcoe_hostlist_lookup() - Find the local port associated with a
2380  *                          given net device
2381  * @netdev: The netdevice used as a key
2382  *
2383  * Locking: Must be called with the RTNL mutex held
2384  *
2385  * Returns: NULL or the local port
2386  */
2387 static struct fc_lport *fcoe_hostlist_lookup(const struct net_device *netdev)
2388 {
2389         struct fcoe_ctlr *ctlr;
2390         struct fcoe_interface *fcoe;
2391
2392         fcoe = fcoe_hostlist_lookup_port(netdev);
2393         ctlr = fcoe_to_ctlr(fcoe);
2394         return (fcoe) ? ctlr->lp : NULL;
2395 }
2396
2397 /**
2398  * fcoe_hostlist_add() - Add the FCoE interface identified by a local
2399  *                       port to the hostlist
2400  * @lport: The local port that identifies the FCoE interface to be added
2401  *
2402  * Locking: must be called with the RTNL mutex held
2403  *
2404  * Returns: 0 for success
2405  */
2406 static int fcoe_hostlist_add(const struct fc_lport *lport)
2407 {
2408         struct fcoe_interface *fcoe;
2409         struct fcoe_port *port;
2410
2411         fcoe = fcoe_hostlist_lookup_port(fcoe_netdev(lport));
2412         if (!fcoe) {
2413                 port = lport_priv(lport);
2414                 fcoe = port->priv;
2415                 list_add_tail(&fcoe->list, &fcoe_hostlist);
2416         }
2417         return 0;
2418 }
2419
2420 /**
2421  * fcoe_hostlist_del() - Remove the FCoE interface identified by a local
2422  *                       port to the hostlist
2423  * @lport: The local port that identifies the FCoE interface to be added
2424  *
2425  * Locking: must be called with the RTNL mutex held
2426  *
2427  */
2428 static void fcoe_hostlist_del(const struct fc_lport *lport)
2429 {
2430         struct fcoe_interface *fcoe;
2431         struct fcoe_port *port;
2432
2433         port = lport_priv(lport);
2434         fcoe = port->priv;
2435         list_del(&fcoe->list);
2436         return;
2437 }
2438
2439 static struct fcoe_transport fcoe_sw_transport = {
2440         .name = {FCOE_TRANSPORT_DEFAULT},
2441         .attached = false,
2442         .list = LIST_HEAD_INIT(fcoe_sw_transport.list),
2443         .match = fcoe_match,
2444         .alloc = fcoe_ctlr_alloc,
2445         .create = fcoe_create,
2446         .destroy = fcoe_destroy,
2447         .enable = fcoe_enable,
2448         .disable = fcoe_disable,
2449 };
2450
2451 /**
2452  * fcoe_init() - Initialize fcoe.ko
2453  *
2454  * Returns: 0 on success, or a negative value on failure
2455  */
2456 static int __init fcoe_init(void)
2457 {
2458         struct fcoe_percpu_s *p;
2459         unsigned int cpu;
2460         int rc = 0;
2461
2462         fcoe_wq = alloc_workqueue("fcoe", 0, 0);
2463         if (!fcoe_wq)
2464                 return -ENOMEM;
2465
2466         /* register as a fcoe transport */
2467         rc = fcoe_transport_attach(&fcoe_sw_transport);
2468         if (rc) {
2469                 printk(KERN_ERR "failed to register an fcoe transport, check "
2470                         "if libfcoe is loaded\n");
2471                 goto out_destroy;
2472         }
2473
2474         mutex_lock(&fcoe_config_mutex);
2475
2476         for_each_possible_cpu(cpu) {
2477                 p = per_cpu_ptr(&fcoe_percpu, cpu);
2478                 INIT_WORK(&p->work, fcoe_receive_work);
2479                 skb_queue_head_init(&p->fcoe_rx_list);
2480                 local_lock_init(&p->lock);
2481         }
2482
2483         /* Setup link change notification */
2484         fcoe_dev_setup();
2485
2486         rc = fcoe_if_init();
2487         if (rc)
2488                 goto out_free;
2489
2490         mutex_unlock(&fcoe_config_mutex);
2491         return 0;
2492
2493 out_free:
2494         mutex_unlock(&fcoe_config_mutex);
2495 out_destroy:
2496         destroy_workqueue(fcoe_wq);
2497         return rc;
2498 }
2499 module_init(fcoe_init);
2500
2501 /**
2502  * fcoe_exit() - Clean up fcoe.ko
2503  *
2504  * Returns: 0 on success or a  negative value on failure
2505  */
2506 static void __exit fcoe_exit(void)
2507 {
2508         struct fcoe_interface *fcoe, *tmp;
2509         struct fcoe_ctlr *ctlr;
2510         struct fcoe_port *port;
2511         unsigned int cpu;
2512
2513         mutex_lock(&fcoe_config_mutex);
2514
2515         fcoe_dev_cleanup();
2516
2517         /* releases the associated fcoe hosts */
2518         rtnl_lock();
2519         list_for_each_entry_safe(fcoe, tmp, &fcoe_hostlist, list) {
2520                 ctlr = fcoe_to_ctlr(fcoe);
2521                 port = lport_priv(ctlr->lp);
2522                 fcoe_hostlist_del(port->lport);
2523                 queue_work(fcoe_wq, &port->destroy_work);
2524         }
2525         rtnl_unlock();
2526
2527         for_each_possible_cpu(cpu)
2528                 fcoe_thread_cleanup_local(cpu);
2529
2530         mutex_unlock(&fcoe_config_mutex);
2531
2532         /*
2533          * destroy_work's may be chained but destroy_workqueue()
2534          * can take care of them. Just kill the fcoe_wq.
2535          */
2536         destroy_workqueue(fcoe_wq);
2537
2538         /*
2539          * Detaching from the scsi transport must happen after all
2540          * destroys are done on the fcoe_wq. destroy_workqueue will
2541          * enusre the fcoe_wq is flushed.
2542          */
2543         fcoe_if_exit();
2544
2545         /* detach from fcoe transport */
2546         fcoe_transport_detach(&fcoe_sw_transport);
2547 }
2548 module_exit(fcoe_exit);
2549
2550 /**
2551  * fcoe_flogi_resp() - FCoE specific FLOGI and FDISC response handler
2552  * @seq: active sequence in the FLOGI or FDISC exchange
2553  * @fp: response frame, or error encoded in a pointer (timeout)
2554  * @arg: pointer to the fcoe_ctlr structure
2555  *
2556  * This handles MAC address management for FCoE, then passes control on to
2557  * the libfc FLOGI response handler.
2558  */
2559 static void fcoe_flogi_resp(struct fc_seq *seq, struct fc_frame *fp, void *arg)
2560 {
2561         struct fcoe_ctlr *fip = arg;
2562         struct fc_exch *exch = fc_seq_exch(seq);
2563         struct fc_lport *lport = exch->lp;
2564         u8 *mac;
2565
2566         if (IS_ERR(fp))
2567                 goto done;
2568
2569         mac = fr_cb(fp)->granted_mac;
2570         /* pre-FIP */
2571         if (is_zero_ether_addr(mac))
2572                 fcoe_ctlr_recv_flogi(fip, lport, fp);
2573         else
2574                 fcoe_update_src_mac(lport, mac);
2575 done:
2576         fc_lport_flogi_resp(seq, fp, lport);
2577 }
2578
2579 /**
2580  * fcoe_logo_resp() - FCoE specific LOGO response handler
2581  * @seq: active sequence in the LOGO exchange
2582  * @fp: response frame, or error encoded in a pointer (timeout)
2583  * @arg: pointer to the fcoe_ctlr structure
2584  *
2585  * This handles MAC address management for FCoE, then passes control on to
2586  * the libfc LOGO response handler.
2587  */
2588 static void fcoe_logo_resp(struct fc_seq *seq, struct fc_frame *fp, void *arg)
2589 {
2590         struct fc_lport *lport = arg;
2591         static u8 zero_mac[ETH_ALEN] = { 0 };
2592
2593         if (!IS_ERR(fp))
2594                 fcoe_update_src_mac(lport, zero_mac);
2595         fc_lport_logo_resp(seq, fp, lport);
2596 }
2597
2598 /*
2599  * fcoe_elsct_send - FCoE specific ELS handler
2600  *
2601  * This does special case handling of FIP encapsualted ELS exchanges for FCoE,
2602  * using FCoE specific response handlers and passing the FIP controller as
2603  * the argument (the lport is still available from the exchange).
2604  *
2605  * Most of the work here is just handed off to the libfc routine.
2606  */
2607 static struct fc_seq *fcoe_elsct_send(struct fc_lport *lport, u32 did,
2608                                       struct fc_frame *fp, unsigned int op,
2609                                       void (*resp)(struct fc_seq *,
2610                                                    struct fc_frame *,
2611                                                    void *),
2612                                       void *arg, u32 timeout)
2613 {
2614         struct fcoe_port *port = lport_priv(lport);
2615         struct fcoe_interface *fcoe = port->priv;
2616         struct fcoe_ctlr *fip = fcoe_to_ctlr(fcoe);
2617         struct fc_frame_header *fh = fc_frame_header_get(fp);
2618
2619         switch (op) {
2620         case ELS_FLOGI:
2621         case ELS_FDISC:
2622                 if (lport->point_to_multipoint)
2623                         break;
2624                 return fc_elsct_send(lport, did, fp, op, fcoe_flogi_resp,
2625                                      fip, timeout);
2626         case ELS_LOGO:
2627                 /* only hook onto fabric logouts, not port logouts */
2628                 if (ntoh24(fh->fh_d_id) != FC_FID_FLOGI)
2629                         break;
2630                 return fc_elsct_send(lport, did, fp, op, fcoe_logo_resp,
2631                                      lport, timeout);
2632         }
2633         return fc_elsct_send(lport, did, fp, op, resp, arg, timeout);
2634 }
2635
2636 /**
2637  * fcoe_vport_create() - create an fc_host/scsi_host for a vport
2638  * @vport: fc_vport object to create a new fc_host for
2639  * @disabled: start the new fc_host in a disabled state by default?
2640  *
2641  * Returns: 0 for success
2642  */
2643 static int fcoe_vport_create(struct fc_vport *vport, bool disabled)
2644 {
2645         struct Scsi_Host *shost = vport_to_shost(vport);
2646         struct fc_lport *n_port = shost_priv(shost);
2647         struct fcoe_port *port = lport_priv(n_port);
2648         struct fcoe_interface *fcoe = port->priv;
2649         struct net_device *netdev = fcoe->netdev;
2650         struct fc_lport *vn_port;
2651         int rc;
2652         char buf[32];
2653
2654         rc = fcoe_validate_vport_create(vport);
2655         if (rc) {
2656                 fcoe_wwn_to_str(vport->port_name, buf, sizeof(buf));
2657                 printk(KERN_ERR "fcoe: Failed to create vport, "
2658                         "WWPN (0x%s) already exists\n",
2659                         buf);
2660                 return rc;
2661         }
2662
2663         mutex_lock(&fcoe_config_mutex);
2664         rtnl_lock();
2665         vn_port = fcoe_if_create(fcoe, &vport->dev, 1);
2666         rtnl_unlock();
2667         mutex_unlock(&fcoe_config_mutex);
2668
2669         if (IS_ERR(vn_port)) {
2670                 printk(KERN_ERR "fcoe: fcoe_vport_create(%s) failed\n",
2671                        netdev->name);
2672                 return -EIO;
2673         }
2674
2675         if (disabled) {
2676                 fc_vport_set_state(vport, FC_VPORT_DISABLED);
2677         } else {
2678                 vn_port->boot_time = jiffies;
2679                 fc_fabric_login(vn_port);
2680                 fc_vport_setlink(vn_port);
2681         }
2682         return 0;
2683 }
2684
2685 /**
2686  * fcoe_vport_destroy() - destroy the fc_host/scsi_host for a vport
2687  * @vport: fc_vport object that is being destroyed
2688  *
2689  * Returns: 0 for success
2690  */
2691 static int fcoe_vport_destroy(struct fc_vport *vport)
2692 {
2693         struct Scsi_Host *shost = vport_to_shost(vport);
2694         struct fc_lport *n_port = shost_priv(shost);
2695         struct fc_lport *vn_port = vport->dd_data;
2696
2697         mutex_lock(&n_port->lp_mutex);
2698         list_del(&vn_port->list);
2699         mutex_unlock(&n_port->lp_mutex);
2700
2701         mutex_lock(&fcoe_config_mutex);
2702         rtnl_lock();
2703         fcoe_if_destroy(vn_port);
2704         rtnl_unlock();
2705         mutex_unlock(&fcoe_config_mutex);
2706
2707         return 0;
2708 }
2709
2710 /**
2711  * fcoe_vport_remove() - remove attached vports
2712  * @lport: lport for which the vports should be removed
2713  */
2714 static void fcoe_vport_remove(struct fc_lport *lport)
2715 {
2716         struct Scsi_Host *shost;
2717         struct fc_host_attrs *fc_host;
2718         unsigned long flags;
2719         struct fc_vport *vport;
2720         struct fc_vport *next_vport;
2721
2722         shost = lport->host;
2723         fc_host = shost_to_fc_host(shost);
2724
2725         /* Loop through all the vports and mark them for deletion */
2726         spin_lock_irqsave(shost->host_lock, flags);
2727         list_for_each_entry_safe(vport, next_vport, &fc_host->vports, peers) {
2728                 if (vport->flags & (FC_VPORT_DEL | FC_VPORT_CREATING)) {
2729                         continue;
2730                 } else {
2731                         vport->flags |= FC_VPORT_DELETING;
2732                         queue_work(fc_host_work_q(shost),
2733                                    &vport->vport_delete_work);
2734                 }
2735         }
2736         spin_unlock_irqrestore(shost->host_lock, flags);
2737
2738         flush_workqueue(fc_host_work_q(shost));
2739 }
2740
2741 /**
2742  * fcoe_vport_disable() - change vport state
2743  * @vport: vport to bring online/offline
2744  * @disable: should the vport be disabled?
2745  */
2746 static int fcoe_vport_disable(struct fc_vport *vport, bool disable)
2747 {
2748         struct fc_lport *lport = vport->dd_data;
2749
2750         if (disable) {
2751                 fc_vport_set_state(vport, FC_VPORT_DISABLED);
2752                 fc_fabric_logoff(lport);
2753         } else {
2754                 lport->boot_time = jiffies;
2755                 fc_fabric_login(lport);
2756                 fc_vport_setlink(lport);
2757         }
2758
2759         return 0;
2760 }
2761
2762 /**
2763  * fcoe_set_vport_symbolic_name() - append vport string to symbolic name
2764  * @vport: fc_vport with a new symbolic name string
2765  *
2766  * After generating a new symbolic name string, a new RSPN_ID request is
2767  * sent to the name server.  There is no response handler, so if it fails
2768  * for some reason it will not be retried.
2769  */
2770 static void fcoe_set_vport_symbolic_name(struct fc_vport *vport)
2771 {
2772         struct fc_lport *lport = vport->dd_data;
2773         struct fc_frame *fp;
2774         size_t len;
2775
2776         snprintf(fc_host_symbolic_name(lport->host), FC_SYMBOLIC_NAME_SIZE,
2777                  "%s v%s over %s : %s", FCOE_NAME, FCOE_VERSION,
2778                  fcoe_netdev(lport)->name, vport->symbolic_name);
2779
2780         if (lport->state != LPORT_ST_READY)
2781                 return;
2782
2783         len = strnlen(fc_host_symbolic_name(lport->host), 255);
2784         fp = fc_frame_alloc(lport,
2785                             sizeof(struct fc_ct_hdr) +
2786                             sizeof(struct fc_ns_rspn) + len);
2787         if (!fp)
2788                 return;
2789         lport->tt.elsct_send(lport, FC_FID_DIR_SERV, fp, FC_NS_RSPN_ID,
2790                              NULL, NULL, 3 * lport->r_a_tov);
2791 }
2792
2793 static void fcoe_fcf_get_vlan_id(struct fcoe_fcf_device *fcf_dev)
2794 {
2795         struct fcoe_ctlr_device *ctlr_dev =
2796                 fcoe_fcf_dev_to_ctlr_dev(fcf_dev);
2797         struct fcoe_ctlr *ctlr = fcoe_ctlr_device_priv(ctlr_dev);
2798         struct fcoe_interface *fcoe = fcoe_ctlr_priv(ctlr);
2799
2800         fcf_dev->vlan_id = vlan_dev_vlan_id(fcoe->netdev);
2801 }
2802
2803 /**
2804  * fcoe_set_port_id() - Callback from libfc when Port_ID is set.
2805  * @lport: the local port
2806  * @port_id: the port ID
2807  * @fp: the received frame, if any, that caused the port_id to be set.
2808  *
2809  * This routine handles the case where we received a FLOGI and are
2810  * entering point-to-point mode.  We need to call fcoe_ctlr_recv_flogi()
2811  * so it can set the non-mapped mode and gateway address.
2812  *
2813  * The FLOGI LS_ACC is handled by fcoe_flogi_resp().
2814  */
2815 static void fcoe_set_port_id(struct fc_lport *lport,
2816                              u32 port_id, struct fc_frame *fp)
2817 {
2818         struct fcoe_port *port = lport_priv(lport);
2819         struct fcoe_interface *fcoe = port->priv;
2820         struct fcoe_ctlr *ctlr = fcoe_to_ctlr(fcoe);
2821
2822         if (fp && fc_frame_payload_op(fp) == ELS_FLOGI)
2823                 fcoe_ctlr_recv_flogi(ctlr, lport, fp);
2824 }