[MLX4] return different MLX4 bus locations for several cards in multi-homed machine...
[mirror/winof/.git] / hw / mlx4 / kernel / bus / net / mlx4.h
1 /*
2  * Copyright (c) 2004, 2005 Topspin Communications.  All rights reserved.
3  * Copyright (c) 2005 Sun Microsystems, Inc. All rights reserved.
4  * Copyright (c) 2005, 2006, 2007 Cisco Systems.  All rights reserved.
5  * Copyright (c) 2005 Mellanox Technologies. All rights reserved.
6  * Copyright (c) 2004 Voltaire, Inc. All rights reserved.
7  *
8  * This software is available to you under a choice of one of two
9  * licenses.  You may choose to be licensed under the terms of the GNU
10  * General Public License (GPL) Version 2, available from the file
11  * COPYING in the main directory of this source tree, or the
12  * OpenIB.org BSD license below:
13  *
14  *     Redistribution and use in source and binary forms, with or
15  *     without modification, are permitted provided that the following
16  *     conditions are met:
17  *
18  *      - Redistributions of source code must retain the above
19  *        copyright notice, this list of conditions and the following
20  *        disclaimer.
21  *
22  *      - Redistributions in binary form must reproduce the above
23  *        copyright notice, this list of conditions and the following
24  *        disclaimer in the documentation and/or other materials
25  *        provided with the distribution.
26  *
27  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND,
28  * EXPRESS OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF
29  * MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND
30  * NONINFRINGEMENT. IN NO EVENT SHALL THE AUTHORS OR COPYRIGHT HOLDERS
31  * BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN
32  * ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN
33  * CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE
34  * SOFTWARE.
35  */
36
37 #ifndef MLX4_H
38 #define MLX4_H
39
40 #include <mlx4_debug.h>
41 #include "l2w.h"
42 #include "device.h"
43 #include "doorbell.h"
44 #include "bus_intf.h"
45 #include "eq.h"
46
47
48 //
49 // Structure for reporting data to WMI
50 //
51
52 typedef struct _BUS_WMI_STD_DATA {
53         UINT32 DebugPrintLevel;
54         UINT32 DebugPrintFlags;
55
56 } BUS_WMI_STD_DATA, * PBUS_WMI_STD_DATA;
57
58
59 //
60 // Driver global data
61 //
62
63 enum mlx4_port_type {
64         MLX4_PORT_TYPE_IB       = 1 << 0,
65         MLX4_PORT_TYPE_ETH      = 1 << 1,
66 };
67
68 #define MAX_HCA_CARDS           8
69
70 #pragma warning(disable:4201) // nameless struct/union
71 typedef struct _GLOBALS {
72         BUS_WMI_STD_DATA bwsd;
73
74         int mod_num_qp;
75         int mod_rdmarc_per_qp;
76         int mod_num_srq;
77         int mod_num_cq;
78         int mod_num_mcg;
79         int mod_num_mpt;
80         int mod_num_mtt;
81         int mod_num_mac;
82         int mod_num_vlan;
83         int mod_use_prio;
84
85         int mod_enable_qos;
86         int mod_mlx4_blck_lb;
87         int mod_interrupt_from_first;
88
89         int mod_affinity;
90         PFDO_DEVICE_DATA p_fdo[MAX_HCA_CARDS];  // for debug purposes
91 } GLOBALS;
92 #pragma warning(default:4201) // nameless struct/union
93
94 extern GLOBALS g;
95
96
97 enum {
98         MLX4_HCR_BASE           = 0x80680,
99         MLX4_HCR_SIZE           = 0x0001c,
100         MLX4_CLR_INT_SIZE       = 0x00008
101 };
102
103 enum {
104         MLX4_MGM_ENTRY_SIZE     =  0x100,
105         MLX4_QP_PER_MGM         = 4 * (MLX4_MGM_ENTRY_SIZE / 16 - 2),
106         MLX4_MTT_ENTRY_PER_SEG  = 8
107 };
108
109 enum {
110         MLX4_EQ_ASYNC,
111         MLX4_EQ_COMP,
112         MLX4_NUM_EQ
113 };
114 #define MLX4_NUM_UNKNOWN        -1
115
116 #define MLX4_MAX_EXTRA_EQS 16
117 #define MLX4_NUM_EQS (MLX4_NUM_EQ + MLX4_MAX_EXTRA_EQS)
118
119 enum {
120         MLX4_NUM_PDS            = 1 << 15
121 };
122
123 enum {
124         MLX4_CMPT_TYPE_QP       = 0,
125         MLX4_CMPT_TYPE_SRQ      = 1,
126         MLX4_CMPT_TYPE_CQ       = 2,
127         MLX4_CMPT_TYPE_EQ       = 3,
128         MLX4_CMPT_NUM_TYPE
129 };
130
131 enum {
132         MLX4_CMPT_SHIFT         = 24,
133         MLX4_NUM_CMPTS          = MLX4_CMPT_NUM_TYPE << MLX4_CMPT_SHIFT
134 };
135
136 #define MGM_QPN_MASK       0x00FFFFFF
137 #define MGM_BLCK_LB_BIT    30
138
139 struct mlx4_bitmap {
140         u32                     last;
141         u32                     top;
142         u32                     max;
143         u32                     effective_max;
144         u32                     mask;
145         spinlock_t              lock;
146         unsigned long          *table;
147 };
148
149 struct mlx4_buddy {
150         unsigned long         **bits;
151         int                     max_order;
152         spinlock_t              lock;
153 };
154
155 struct mlx4_icm;
156
157 struct mlx4_icm_table {
158         u64                     virt;
159         int                     num_icm;
160         int                     num_obj;
161         int                     obj_size;
162         int                     lowmem;
163         int                     coherent;
164         struct mutex            mutex;
165         struct mlx4_icm       **icm;
166 };
167
168 struct mlx4_profile {
169         int                     num_qp;
170         int                     rdmarc_per_qp;
171         int                     num_srq;
172         int                     num_cq;
173         int                     num_mcg;
174         int                     num_mpt;
175         int                     num_mtt;
176 };
177
178 struct mlx4_fw {
179         u64                     clr_int_base;
180         u64                     catas_offset;
181         struct mlx4_icm        *fw_icm;
182         struct mlx4_icm        *aux_icm;
183         u32                     catas_size;
184         u16                     fw_pages;
185         u8                      clr_int_bar;
186         u8                      catas_bar;
187 };
188
189 struct mlx4_cmd {
190         struct pci_pool        *pool;
191         u8 __iomem             *hcr;
192         struct mutex            hcr_mutex;
193         struct semaphore        poll_sem;
194         struct semaphore        event_sem;
195         int                     max_cmds;
196         spinlock_t              context_lock;
197         int                     free_head;
198         struct mlx4_cmd_context *context;
199         u16                     token_mask;
200         u8                      use_events;
201         u8                      toggle;
202 };
203
204 struct mlx4_uar_table {
205         struct mlx4_bitmap      bitmap;
206 };
207
208 struct mlx4_mr_table {
209         struct mlx4_bitmap      mpt_bitmap;
210         struct mlx4_buddy       mtt_buddy;
211         u64                     mtt_base;
212         u64                     mpt_base;
213         struct mlx4_icm_table   mtt_table;
214         struct mlx4_icm_table   dmpt_table;
215 };
216
217 struct mlx4_cq_table {
218         struct mlx4_bitmap      bitmap;
219         spinlock_t              lock;
220         struct radix_tree_root  tree;
221         struct mlx4_icm_table   table;
222         struct mlx4_icm_table   cmpt_table;
223 };
224
225 struct mlx4_eq_table {
226         struct mlx4_bitmap      bitmap;
227         void __iomem           *clr_int;
228         u8 __iomem             *uar_map[(MLX4_NUM_EQS + 6) / 4];
229         u32                     clr_mask;
230         struct mlx4_eq          eq[MLX4_NUM_EQS];
231         u64                     icm_virt;
232         dma_addr_t      icm_page;
233         dma_addr_t              icm_dma;
234         struct mlx4_icm_table   cmpt_table;
235         int                     have_irq;
236         u8                      inta_pin;
237         u8                                              max_extra_eqs;
238 #if 1//WORKAROUND_POLL_EQ
239         KEVENT          thread_start_event;
240         KEVENT          thread_stop_event;
241         BOOLEAN         bTerminated;
242         PVOID           threadObject;
243 #endif
244 };
245
246 struct mlx4_srq_table {
247         struct mlx4_bitmap      bitmap;
248         spinlock_t              lock;
249         struct radix_tree_root  tree;
250         struct mlx4_icm_table   table;
251         struct mlx4_icm_table   cmpt_table;
252 };
253
254 struct mlx4_qp_table {
255         struct mlx4_bitmap      bitmap;
256         u32                     rdmarc_base;
257         int                     rdmarc_shift;
258         spinlock_t              lock;
259         struct mlx4_icm_table   qp_table;
260         struct mlx4_icm_table   auxc_table;
261         struct mlx4_icm_table   altc_table;
262         struct mlx4_icm_table   rdmarc_table;
263         struct mlx4_icm_table   cmpt_table;
264 };
265
266 struct mlx4_mcg_table {
267         struct mutex            mutex;
268         struct mlx4_bitmap      bitmap;
269         struct mlx4_icm_table   table;
270 };
271
272 struct mlx4_catas_err {
273         u32 __iomem            *map;
274         /* Windows */
275         int                                     stop;
276         KTIMER                          timer;
277         KDPC                            timer_dpc;
278         LARGE_INTEGER           interval;
279         PIO_WORKITEM            catas_work;
280 };
281
282 struct mlx4_mac_table {
283 #define MLX4_MAX_MAC_NUM        128
284 #define MLX4_MAC_MASK           0xffffffffffff
285 #define MLX4_MAC_VALID_SHIFT    63
286 #define MLX4_MAC_TABLE_SIZE     MLX4_MAX_MAC_NUM << 3
287         __be64 entries[MLX4_MAX_MAC_NUM];
288         int refs[MLX4_MAX_MAC_NUM];
289         struct semaphore mac_sem;
290         int total;
291         int max;
292 };
293
294 struct mlx4_vlan_table {
295 #define MLX4_MAX_VLAN_NUM       126
296 #define MLX4_VLAN_MASK          0xfff
297 #define MLX4_VLAN_VALID         1 << 31
298 #define MLX4_VLAN_TABLE_SIZE    MLX4_MAX_VLAN_NUM << 2
299         __be32 entries[MLX4_MAX_VLAN_NUM];
300         int refs[MLX4_MAX_VLAN_NUM];
301         struct semaphore vlan_sem;
302         int total;
303         int max;
304 };
305
306 struct mlx4_port_info {
307         struct mlx4_mac_table   mac_table;
308         struct mlx4_vlan_table  vlan_table;
309 };
310
311 struct mlx4_priv {
312         struct mlx4_dev         dev;
313
314         struct list_head        dev_list;
315         struct list_head        ctx_list;
316         spinlock_t              ctx_lock;
317
318         struct list_head        pgdir_list;
319         struct mutex            pgdir_mutex;
320
321         struct mlx4_fw          fw;
322         struct mlx4_cmd         cmd;
323
324         struct mlx4_bitmap      pd_bitmap;
325         struct mlx4_uar_table   uar_table;
326         struct mlx4_mr_table    mr_table;
327         struct mlx4_cq_table    cq_table;
328         struct mlx4_eq_table    eq_table;
329         struct mlx4_srq_table   srq_table;
330         struct mlx4_qp_table    qp_table;
331         struct mlx4_mcg_table   mcg_table;
332
333         struct mlx4_catas_err   catas_err;
334
335         u8 __iomem             *clr_base;
336
337         struct mlx4_uar         driver_uar;
338         void __iomem           *kar;
339         struct mlx4_port_info   port[MLX4_MAX_PORTS];
340 };
341
342 static inline struct mlx4_priv *mlx4_priv(struct mlx4_dev *dev)
343 {
344         return container_of(dev, struct mlx4_priv, dev);
345 }
346
347 u32 mlx4_bitmap_alloc(struct mlx4_bitmap *bitmap);
348 void mlx4_bitmap_free(struct mlx4_bitmap *bitmap, u32 obj);
349 u32 mlx4_bitmap_alloc_range(struct mlx4_bitmap *bitmap, int cnt, int align);
350 void mlx4_bitmap_free_range(struct mlx4_bitmap *bitmap, u32 obj, int cnt);
351 int mlx4_bitmap_init(struct mlx4_bitmap *bitmap, u32 num, u32 mask, u32 reserved);
352 int mlx4_bitmap_init_with_effective_max(struct mlx4_bitmap *bitmap,
353                                         u32 num, u32 mask, u32 reserved,
354                                         u32 effective_max);
355 void mlx4_bitmap_cleanup(struct mlx4_bitmap *bitmap);
356
357 int mlx4_db_alloc(struct mlx4_dev *dev, 
358                                 struct mlx4_db *db, int order);
359
360 int mlx4_init_pd_table(struct mlx4_dev *dev);
361 int mlx4_init_uar_table(struct mlx4_dev *dev);
362 int mlx4_init_mr_table(struct mlx4_dev *dev);
363 int mlx4_init_eq_table(struct mlx4_dev *dev);
364 int mlx4_init_cq_table(struct mlx4_dev *dev);
365 int mlx4_init_qp_table(struct mlx4_dev *dev);
366 int mlx4_init_srq_table(struct mlx4_dev *dev);
367 int mlx4_init_mcg_table(struct mlx4_dev *dev);
368
369 void mlx4_cleanup_pd_table(struct mlx4_dev *dev);
370 void mlx4_cleanup_uar_table(struct mlx4_dev *dev);
371 void mlx4_cleanup_mr_table(struct mlx4_dev *dev);
372 void mlx4_cleanup_eq_table(struct mlx4_dev *dev);
373 void mlx4_cleanup_cq_table(struct mlx4_dev *dev);
374 void mlx4_cleanup_qp_table(struct mlx4_dev *dev);
375 void mlx4_cleanup_srq_table(struct mlx4_dev *dev);
376 void mlx4_cleanup_mcg_table(struct mlx4_dev *dev);
377
378 int mlx4_start_catas_poll(struct mlx4_dev *dev);
379 void mlx4_stop_catas_poll(struct mlx4_dev *dev);
380 int mlx4_restart_one(struct pci_dev *pdev);
381 int mlx4_register_device(struct mlx4_dev *dev);
382 void mlx4_unregister_device(struct mlx4_dev *dev);
383 void mlx4_dispatch_event(struct mlx4_dev *dev, enum mlx4_event type,
384                          int subtype, int port);
385 void mlx4_intf_init();
386 void mlx4_net_init();
387
388 BOOLEAN mlx4_is_eth_port(struct mlx4_dev *dev, int port_number);
389 int mlx4_count_ib_ports(struct mlx4_dev *dev);
390
391 struct mlx4_dev_cap;
392 struct mlx4_init_hca_param;
393
394 u64 mlx4_make_profile(struct mlx4_dev *dev,
395                       struct mlx4_profile *request,
396                       struct mlx4_dev_cap *dev_cap,
397                       struct mlx4_init_hca_param *init_hca);
398
399 int mlx4_map_eq_icm(struct mlx4_dev *dev, u64 icm_virt);
400 void mlx4_unmap_eq_icm(struct mlx4_dev *dev);
401
402 int mlx4_cmd_init(struct mlx4_dev *dev);
403 void mlx4_cmd_cleanup(struct mlx4_dev *dev);
404 void mlx4_cmd_event(struct mlx4_dev *dev, u16 token, u8 status, u64 out_param);
405 int mlx4_cmd_use_events(struct mlx4_dev *dev);
406 void mlx4_cmd_use_polling(struct mlx4_dev *dev);
407
408 int mlx4_qp_get_region(struct mlx4_dev *dev,
409                        enum qp_region region,
410                        int *base_qpn, int *cnt);
411
412 void mlx4_cq_completion(struct mlx4_dev *dev, u32 cqn);
413 void mlx4_cq_event(struct mlx4_dev *dev, u32 cqn, int event_type);
414
415 void mlx4_init_mac_table(struct mlx4_dev *dev, u8 port);
416 void mlx4_init_vlan_table(struct mlx4_dev *dev, u8 port);
417
418 void mlx4_qp_event(struct mlx4_dev *dev, u32 qpn, int event_type);
419
420 void mlx4_srq_event(struct mlx4_dev *dev, u32 srqn, int event_type);
421
422 void mlx4_handle_catas_err(struct mlx4_dev *dev);
423
424 int mlx4_init_one(struct pci_dev *pdev, struct mlx4_dev_params *dev_params);
425
426 void mlx4_remove_one(struct pci_dev *pdev, int reset);
427
428 #define ETH_FCS_LEN     4               /* Frame Check Sequence Length   */
429 #define ETH_HLEN 14
430
431 int mlx4_add_eq(struct mlx4_dev *dev, int nent,
432         KAFFINITY cpu, PISR_FUNC func, PVOID func_context ,
433         u8* p_eq_num, struct mlx4_eq ** p_eq);
434
435 void mlx4_remove_eq(struct mlx4_dev *dev, u8 eq_num);
436
437 int mlx4_reset_ready( struct ib_event_handler *event_handler );
438 int mlx4_reset_execute( struct ib_event_handler *event_handler );
439
440 int mlx4_reset_request( struct ib_event_handler *event_handler );
441
442 int mlx4_reset_cb_register( struct ib_event_handler *event_handler );
443
444 int mlx4_reset_cb_unregister( struct ib_event_handler *event_handler );
445
446 void fix_bus_ifc(struct pci_dev *pdev);
447
448 void mlx4_dispatch_reset_event(struct ib_device *ibdev, enum ib_event_type type);
449
450
451 #endif /* MLX4_H */