[infiniband] Make node description invariant across all ports
[people/pcmattman/gpxe.git] / src / net / infiniband / ib_sma.c
1 /*
2  * Copyright (C) 2009 Michael Brown <mbrown@fensystems.co.uk>.
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License as
6  * published by the Free Software Foundation; either version 2 of the
7  * License, or any later version.
8  *
9  * This program is distributed in the hope that it will be useful, but
10  * WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software
16  * Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
17  */
18
19 FILE_LICENCE ( GPL2_OR_LATER );
20
21 #include <stdint.h>
22 #include <stdlib.h>
23 #include <string.h>
24 #include <errno.h>
25 #include <stdio.h>
26 #include <unistd.h>
27 #include <byteswap.h>
28 #include <gpxe/infiniband.h>
29 #include <gpxe/iobuf.h>
30 #include <gpxe/ib_mi.h>
31 #include <gpxe/ib_sma.h>
32
33 /**
34  * @file
35  *
36  * Infiniband Subnet Management Agent
37  *
38  */
39
40 /**
41  * Node information
42  *
43  * @v ibdev             Infiniband device
44  * @v mi                Management interface
45  * @v mad               Received MAD
46  * @v av                Source address vector
47  */
48 static void ib_sma_node_info ( struct ib_device *ibdev,
49                                struct ib_mad_interface *mi,
50                                union ib_mad *mad,
51                                struct ib_address_vector *av ) {
52         struct ib_node_info *node_info = &mad->smp.smp_data.node_info;
53         int rc;
54
55         /* Fill in information */
56         memset ( node_info, 0, sizeof ( *node_info ) );
57         node_info->base_version = IB_MGMT_BASE_VERSION;
58         node_info->class_version = IB_SMP_CLASS_VERSION;
59         node_info->node_type = IB_NODE_TYPE_HCA;
60         node_info->num_ports = ib_get_hca_info ( ibdev, &node_info->sys_guid );
61         memcpy ( &node_info->node_guid, &node_info->sys_guid,
62                  sizeof ( node_info->node_guid ) );
63         memcpy ( &node_info->port_guid, &ibdev->gid.u.half[1],
64                  sizeof ( node_info->port_guid ) );
65         node_info->partition_cap = htons ( 1 );
66         node_info->local_port_num = ibdev->port;
67
68         /* Send GetResponse */
69         mad->hdr.method = IB_MGMT_METHOD_GET_RESP;
70         if ( ( rc = ib_mi_send ( ibdev, mi, mad, av ) ) != 0 ) {
71                 DBGC ( mi, "SMA %p could not send NodeInfo GetResponse: %s\n",
72                        mi, strerror ( rc ) );
73                 return;
74         }
75 }
76
77 /**
78  * Node description
79  *
80  * @v ibdev             Infiniband device
81  * @v mi                Management interface
82  * @v mad               Received MAD
83  * @v av                Source address vector
84  */
85 static void ib_sma_node_desc ( struct ib_device *ibdev,
86                                struct ib_mad_interface *mi,
87                                union ib_mad *mad,
88                                struct ib_address_vector *av ) {
89         struct ib_node_desc *node_desc = &mad->smp.smp_data.node_desc;
90         struct ib_gid_half guid;
91         int rc;
92
93         /* Fill in information */
94         memset ( node_desc, 0, sizeof ( *node_desc ) );
95         ib_get_hca_info ( ibdev, &guid );
96         snprintf ( node_desc->node_string, sizeof ( node_desc->node_string ),
97                    "gPXE %02x:%02x:%02x:%02x:%02x:%02x:%02x:%02x (%s)",
98                    guid.u.bytes[0], guid.u.bytes[1], guid.u.bytes[2],
99                    guid.u.bytes[3], guid.u.bytes[4], guid.u.bytes[5],
100                    guid.u.bytes[6], guid.u.bytes[7], ibdev->dev->name );
101
102         /* Send GetResponse */
103         mad->hdr.method = IB_MGMT_METHOD_GET_RESP;
104         if ( ( rc = ib_mi_send ( ibdev, mi, mad, av ) ) != 0 ) {
105                 DBGC ( mi, "SMA %p could not send NodeDesc GetResponse: %s\n",
106                        mi, strerror ( rc ) );
107                 return;
108         }
109 }
110
111 /**
112  * GUID information
113  *
114  * @v ibdev             Infiniband device
115  * @v mi                Management interface
116  * @v mad               Received MAD
117  * @v av                Source address vector
118  */
119 static void ib_sma_guid_info ( struct ib_device *ibdev,
120                                struct ib_mad_interface *mi,
121                                union ib_mad *mad,
122                                struct ib_address_vector *av ) {
123         struct ib_guid_info *guid_info = &mad->smp.smp_data.guid_info;
124         int rc;
125
126         /* Fill in information */
127         memset ( guid_info, 0, sizeof ( *guid_info ) );
128         memcpy ( guid_info->guid[0], &ibdev->gid.u.half[1],
129                  sizeof ( guid_info->guid[0] ) );
130
131         /* Send GetResponse */
132         mad->hdr.method = IB_MGMT_METHOD_GET_RESP;
133         if ( ( rc = ib_mi_send ( ibdev, mi, mad, av ) ) != 0 ) {
134                 DBGC ( mi, "SMA %p could not send GuidInfo GetResponse: %s\n",
135                        mi, strerror ( rc ) );
136                 return;
137         }
138 }
139
140 /**
141  * Set port information
142  *
143  * @v ibdev             Infiniband device
144  * @v mi                Management interface
145  * @v mad               Received MAD
146  * @ret rc              Return status code
147  */
148 static int ib_sma_set_port_info ( struct ib_device *ibdev,
149                                   struct ib_mad_interface *mi,
150                                   union ib_mad *mad ) {
151         const struct ib_port_info *port_info = &mad->smp.smp_data.port_info;
152         unsigned int link_width_enabled;
153         unsigned int link_speed_enabled;
154         int rc;
155
156         /* Set parameters */
157         memcpy ( &ibdev->gid.u.half[0], port_info->gid_prefix,
158                  sizeof ( ibdev->gid.u.half[0] ) );
159         ibdev->lid = ntohs ( port_info->lid );
160         ibdev->sm_lid = ntohs ( port_info->mastersm_lid );
161         if ( ( link_width_enabled = port_info->link_width_enabled ) )
162                 ibdev->link_width_enabled = link_width_enabled;
163         if ( ( link_speed_enabled =
164                ( port_info->link_speed_active__link_speed_enabled & 0xf ) ) )
165                 ibdev->link_speed_enabled = link_speed_enabled;
166         ibdev->sm_sl = ( port_info->neighbour_mtu__mastersm_sl & 0xf );
167         DBGC ( mi, "SMA %p set LID %04x SMLID %04x link width %02x speed "
168                "%02x\n", mi, ibdev->lid, ibdev->sm_lid,
169                ibdev->link_width_enabled, ibdev->link_speed_enabled );
170
171         /* Update parameters on device */
172         if ( ( rc = ib_set_port_info ( ibdev, mad ) ) != 0 ) {
173                 DBGC ( mi, "SMA %p could not set port information: %s\n",
174                        mi, strerror ( rc ) );
175                 return rc;
176         }
177
178         return 0;
179 }
180
181 /**
182  * Port information
183  *
184  * @v ibdev             Infiniband device
185  * @v mi                Management interface
186  * @v mad               Received MAD
187  * @v av                Source address vector
188  */
189 static void ib_sma_port_info ( struct ib_device *ibdev,
190                                struct ib_mad_interface *mi,
191                                union ib_mad *mad,
192                                struct ib_address_vector *av ) {
193         struct ib_port_info *port_info = &mad->smp.smp_data.port_info;
194         int rc;
195
196         /* Set parameters if applicable */
197         if ( mad->hdr.method == IB_MGMT_METHOD_SET ) {
198                 if ( ( rc = ib_sma_set_port_info ( ibdev, mi, mad ) ) != 0 ) {
199                         mad->hdr.status =
200                               htons ( IB_MGMT_STATUS_UNSUPPORTED_METHOD_ATTR );
201                         /* Fall through to generate GetResponse */
202                 }
203         }
204
205         /* Fill in information */
206         memset ( port_info, 0, sizeof ( *port_info ) );
207         memcpy ( port_info->gid_prefix, &ibdev->gid.u.half[0],
208                  sizeof ( port_info->gid_prefix ) );
209         port_info->lid = ntohs ( ibdev->lid );
210         port_info->mastersm_lid = ntohs ( ibdev->sm_lid );
211         port_info->local_port_num = ibdev->port;
212         port_info->link_width_enabled = ibdev->link_width_enabled;
213         port_info->link_width_supported = ibdev->link_width_supported;
214         port_info->link_width_active = ibdev->link_width_active;
215         port_info->link_speed_supported__port_state =
216                 ( ( ibdev->link_speed_supported << 4 ) | ibdev->port_state );
217         port_info->port_phys_state__link_down_def_state =
218                 ( ( IB_PORT_PHYS_STATE_POLLING << 4 ) |
219                   IB_PORT_PHYS_STATE_POLLING );
220         port_info->link_speed_active__link_speed_enabled =
221                 ( ( ibdev->link_speed_active << 4 ) |
222                   ibdev->link_speed_enabled );
223         port_info->neighbour_mtu__mastersm_sl =
224                 ( ( IB_MTU_2048 << 4 ) | ibdev->sm_sl );
225         port_info->vl_cap__init_type = ( IB_VL_0 << 4 );
226         port_info->init_type_reply__mtu_cap = IB_MTU_2048;
227         port_info->operational_vls__enforcement = ( IB_VL_0 << 4 );
228         port_info->guid_cap = 1;
229
230         /* Send GetResponse */
231         mad->hdr.method = IB_MGMT_METHOD_GET_RESP;
232         if ( ( rc = ib_mi_send ( ibdev, mi, mad, av ) ) != 0 ) {
233                 DBGC ( mi, "SMA %p could not send PortInfo GetResponse: %s\n",
234                        mi, strerror ( rc ) );
235                 return;
236         }
237 }
238
239 /**
240  * Set partition key table
241  *
242  * @v ibdev             Infiniband device
243  * @v mi                Management interface
244  * @v mad               Received MAD
245  * @ret rc              Return status code
246  */
247 static int ib_sma_set_pkey_table ( struct ib_device *ibdev,
248                                    struct ib_mad_interface *mi,
249                                    union ib_mad *mad ) {
250         struct ib_pkey_table *pkey_table = &mad->smp.smp_data.pkey_table;
251         int rc;
252
253         /* Set parameters */
254         ibdev->pkey = ntohs ( pkey_table->pkey[0] );
255         DBGC ( mi, "SMA %p set pkey %04x\n", mi, ibdev->pkey );
256
257         /* Update parameters on device */
258         if ( ( rc = ib_set_pkey_table ( ibdev, mad ) ) != 0 ) {
259                 DBGC ( mi, "SMA %p could not set pkey table: %s\n",
260                        mi, strerror ( rc ) );
261                 return rc;
262         }
263
264         return 0;
265 }
266
267 /**
268  * Partition key table
269  *
270  * @v ibdev             Infiniband device
271  * @v mi                Management interface
272  * @v mad               Received MAD
273  * @v av                Source address vector
274  */
275 static void ib_sma_pkey_table ( struct ib_device *ibdev,
276                                 struct ib_mad_interface *mi,
277                                 union ib_mad *mad,
278                                 struct ib_address_vector *av ) {
279         struct ib_pkey_table *pkey_table = &mad->smp.smp_data.pkey_table;
280         int rc;
281
282         /* Set parameters, if applicable */
283         if ( mad->hdr.method == IB_MGMT_METHOD_SET ) {
284                 if ( ( rc = ib_sma_set_pkey_table ( ibdev, mi, mad ) ) != 0 ) {
285                         mad->hdr.status =
286                               htons ( IB_MGMT_STATUS_UNSUPPORTED_METHOD_ATTR );
287                         /* Fall through to generate GetResponse */
288                 }
289         }
290
291         /* Fill in information */
292         mad->hdr.method = IB_MGMT_METHOD_GET_RESP;
293         memset ( pkey_table, 0, sizeof ( *pkey_table ) );
294         pkey_table->pkey[0] = htons ( ibdev->pkey );
295
296         /* Send GetResponse */
297         mad->hdr.method = IB_MGMT_METHOD_GET_RESP;
298         if ( ( rc = ib_mi_send ( ibdev, mi, mad, av ) ) != 0 ) {
299                 DBGC ( mi, "SMA %p could not send PKeyTable GetResponse: %s\n",
300                        mi, strerror ( rc ) );
301                 return;
302         }
303 }
304
305 /** Subnet management agent */
306 struct ib_mad_agent ib_sma_agent[] __ib_mad_agent = {
307         {
308                 .mgmt_class = IB_MGMT_CLASS_SUBN_LID_ROUTED,
309                 .class_version = IB_SMP_CLASS_VERSION,
310                 .attr_id = htons ( IB_SMP_ATTR_NODE_INFO ),
311                 .handle = ib_sma_node_info,
312         },
313         {
314                 .mgmt_class = IB_MGMT_CLASS_SUBN_LID_ROUTED,
315                 .class_version = IB_SMP_CLASS_VERSION,
316                 .attr_id = htons ( IB_SMP_ATTR_NODE_DESC ),
317                 .handle = ib_sma_node_desc,
318         },
319         {
320                 .mgmt_class = IB_MGMT_CLASS_SUBN_LID_ROUTED,
321                 .class_version = IB_SMP_CLASS_VERSION,
322                 .attr_id = htons ( IB_SMP_ATTR_GUID_INFO ),
323                 .handle = ib_sma_guid_info,
324         },
325         {
326                 .mgmt_class = IB_MGMT_CLASS_SUBN_LID_ROUTED,
327                 .class_version = IB_SMP_CLASS_VERSION,
328                 .attr_id = htons ( IB_SMP_ATTR_PORT_INFO ),
329                 .handle = ib_sma_port_info,
330         },
331         {
332                 .mgmt_class = IB_MGMT_CLASS_SUBN_LID_ROUTED,
333                 .class_version = IB_SMP_CLASS_VERSION,
334                 .attr_id = htons ( IB_SMP_ATTR_PKEY_TABLE ),
335                 .handle = ib_sma_pkey_table,
336         },
337 };
338
339 /**
340  * Create subnet management agent and interface
341  *
342  * @v ibdev             Infiniband device
343  * @v mi                Management interface
344  * @ret rc              Return status code
345  */
346 int ib_create_sma ( struct ib_device *ibdev, struct ib_mad_interface *mi ) {
347
348         /* Nothing to do */
349         DBGC ( ibdev, "IBDEV %p SMA using SMI %p\n", ibdev, mi );
350
351         return 0;
352 }
353
354 /**
355  * Destroy subnet management agent and interface
356  *
357  * @v ibdev             Infiniband device
358  * @v mi                Management interface
359  */
360 void ib_destroy_sma ( struct ib_device *ibdev __unused,
361                       struct ib_mad_interface *mi __unused ) {
362         /* Nothing to do */
363 }