Merge branch 'pci/sparc'
[muen/linux.git] / drivers / pci / pci-sysfs.c
1 // SPDX-License-Identifier: GPL-2.0
2 /*
3  * (C) Copyright 2002-2004 Greg Kroah-Hartman <greg@kroah.com>
4  * (C) Copyright 2002-2004 IBM Corp.
5  * (C) Copyright 2003 Matthew Wilcox
6  * (C) Copyright 2003 Hewlett-Packard
7  * (C) Copyright 2004 Jon Smirl <jonsmirl@yahoo.com>
8  * (C) Copyright 2004 Silicon Graphics, Inc. Jesse Barnes <jbarnes@sgi.com>
9  *
10  * File attributes for PCI devices
11  *
12  * Modeled after usb's driverfs.c
13  */
14
15
16 #include <linux/kernel.h>
17 #include <linux/sched.h>
18 #include <linux/pci.h>
19 #include <linux/stat.h>
20 #include <linux/export.h>
21 #include <linux/topology.h>
22 #include <linux/mm.h>
23 #include <linux/fs.h>
24 #include <linux/capability.h>
25 #include <linux/security.h>
26 #include <linux/pci-aspm.h>
27 #include <linux/slab.h>
28 #include <linux/vgaarb.h>
29 #include <linux/pm_runtime.h>
30 #include <linux/of.h>
31 #include "pci.h"
32
33 static int sysfs_initialized;   /* = 0 */
34
35 /* show configuration fields */
36 #define pci_config_attr(field, format_string)                           \
37 static ssize_t                                                          \
38 field##_show(struct device *dev, struct device_attribute *attr, char *buf)                              \
39 {                                                                       \
40         struct pci_dev *pdev;                                           \
41                                                                         \
42         pdev = to_pci_dev(dev);                                         \
43         return sprintf(buf, format_string, pdev->field);                \
44 }                                                                       \
45 static DEVICE_ATTR_RO(field)
46
47 pci_config_attr(vendor, "0x%04x\n");
48 pci_config_attr(device, "0x%04x\n");
49 pci_config_attr(subsystem_vendor, "0x%04x\n");
50 pci_config_attr(subsystem_device, "0x%04x\n");
51 pci_config_attr(revision, "0x%02x\n");
52 pci_config_attr(class, "0x%06x\n");
53 pci_config_attr(irq, "%u\n");
54
55 static ssize_t broken_parity_status_show(struct device *dev,
56                                          struct device_attribute *attr,
57                                          char *buf)
58 {
59         struct pci_dev *pdev = to_pci_dev(dev);
60         return sprintf(buf, "%u\n", pdev->broken_parity_status);
61 }
62
63 static ssize_t broken_parity_status_store(struct device *dev,
64                                           struct device_attribute *attr,
65                                           const char *buf, size_t count)
66 {
67         struct pci_dev *pdev = to_pci_dev(dev);
68         unsigned long val;
69
70         if (kstrtoul(buf, 0, &val) < 0)
71                 return -EINVAL;
72
73         pdev->broken_parity_status = !!val;
74
75         return count;
76 }
77 static DEVICE_ATTR_RW(broken_parity_status);
78
79 static ssize_t pci_dev_show_local_cpu(struct device *dev, bool list,
80                                       struct device_attribute *attr, char *buf)
81 {
82         const struct cpumask *mask;
83
84 #ifdef CONFIG_NUMA
85         mask = (dev_to_node(dev) == -1) ? cpu_online_mask :
86                                           cpumask_of_node(dev_to_node(dev));
87 #else
88         mask = cpumask_of_pcibus(to_pci_dev(dev)->bus);
89 #endif
90         return cpumap_print_to_pagebuf(list, buf, mask);
91 }
92
93 static ssize_t local_cpus_show(struct device *dev,
94                                struct device_attribute *attr, char *buf)
95 {
96         return pci_dev_show_local_cpu(dev, false, attr, buf);
97 }
98 static DEVICE_ATTR_RO(local_cpus);
99
100 static ssize_t local_cpulist_show(struct device *dev,
101                                   struct device_attribute *attr, char *buf)
102 {
103         return pci_dev_show_local_cpu(dev, true, attr, buf);
104 }
105 static DEVICE_ATTR_RO(local_cpulist);
106
107 /*
108  * PCI Bus Class Devices
109  */
110 static ssize_t cpuaffinity_show(struct device *dev,
111                                 struct device_attribute *attr, char *buf)
112 {
113         const struct cpumask *cpumask = cpumask_of_pcibus(to_pci_bus(dev));
114
115         return cpumap_print_to_pagebuf(false, buf, cpumask);
116 }
117 static DEVICE_ATTR_RO(cpuaffinity);
118
119 static ssize_t cpulistaffinity_show(struct device *dev,
120                                     struct device_attribute *attr, char *buf)
121 {
122         const struct cpumask *cpumask = cpumask_of_pcibus(to_pci_bus(dev));
123
124         return cpumap_print_to_pagebuf(true, buf, cpumask);
125 }
126 static DEVICE_ATTR_RO(cpulistaffinity);
127
128 /* show resources */
129 static ssize_t resource_show(struct device *dev, struct device_attribute *attr,
130                              char *buf)
131 {
132         struct pci_dev *pci_dev = to_pci_dev(dev);
133         char *str = buf;
134         int i;
135         int max;
136         resource_size_t start, end;
137
138         if (pci_dev->subordinate)
139                 max = DEVICE_COUNT_RESOURCE;
140         else
141                 max = PCI_BRIDGE_RESOURCES;
142
143         for (i = 0; i < max; i++) {
144                 struct resource *res =  &pci_dev->resource[i];
145                 pci_resource_to_user(pci_dev, i, res, &start, &end);
146                 str += sprintf(str, "0x%016llx 0x%016llx 0x%016llx\n",
147                                (unsigned long long)start,
148                                (unsigned long long)end,
149                                (unsigned long long)res->flags);
150         }
151         return (str - buf);
152 }
153 static DEVICE_ATTR_RO(resource);
154
155 static ssize_t max_link_speed_show(struct device *dev,
156                                    struct device_attribute *attr, char *buf)
157 {
158         struct pci_dev *pdev = to_pci_dev(dev);
159
160         return sprintf(buf, "%s\n", PCIE_SPEED2STR(pcie_get_speed_cap(pdev)));
161 }
162 static DEVICE_ATTR_RO(max_link_speed);
163
164 static ssize_t max_link_width_show(struct device *dev,
165                                    struct device_attribute *attr, char *buf)
166 {
167         struct pci_dev *pdev = to_pci_dev(dev);
168
169         return sprintf(buf, "%u\n", pcie_get_width_cap(pdev));
170 }
171 static DEVICE_ATTR_RO(max_link_width);
172
173 static ssize_t current_link_speed_show(struct device *dev,
174                                        struct device_attribute *attr, char *buf)
175 {
176         struct pci_dev *pci_dev = to_pci_dev(dev);
177         u16 linkstat;
178         int err;
179         const char *speed;
180
181         err = pcie_capability_read_word(pci_dev, PCI_EXP_LNKSTA, &linkstat);
182         if (err)
183                 return -EINVAL;
184
185         switch (linkstat & PCI_EXP_LNKSTA_CLS) {
186         case PCI_EXP_LNKSTA_CLS_16_0GB:
187                 speed = "16 GT/s";
188                 break;
189         case PCI_EXP_LNKSTA_CLS_8_0GB:
190                 speed = "8 GT/s";
191                 break;
192         case PCI_EXP_LNKSTA_CLS_5_0GB:
193                 speed = "5 GT/s";
194                 break;
195         case PCI_EXP_LNKSTA_CLS_2_5GB:
196                 speed = "2.5 GT/s";
197                 break;
198         default:
199                 speed = "Unknown speed";
200         }
201
202         return sprintf(buf, "%s\n", speed);
203 }
204 static DEVICE_ATTR_RO(current_link_speed);
205
206 static ssize_t current_link_width_show(struct device *dev,
207                                        struct device_attribute *attr, char *buf)
208 {
209         struct pci_dev *pci_dev = to_pci_dev(dev);
210         u16 linkstat;
211         int err;
212
213         err = pcie_capability_read_word(pci_dev, PCI_EXP_LNKSTA, &linkstat);
214         if (err)
215                 return -EINVAL;
216
217         return sprintf(buf, "%u\n",
218                 (linkstat & PCI_EXP_LNKSTA_NLW) >> PCI_EXP_LNKSTA_NLW_SHIFT);
219 }
220 static DEVICE_ATTR_RO(current_link_width);
221
222 static ssize_t secondary_bus_number_show(struct device *dev,
223                                          struct device_attribute *attr,
224                                          char *buf)
225 {
226         struct pci_dev *pci_dev = to_pci_dev(dev);
227         u8 sec_bus;
228         int err;
229
230         err = pci_read_config_byte(pci_dev, PCI_SECONDARY_BUS, &sec_bus);
231         if (err)
232                 return -EINVAL;
233
234         return sprintf(buf, "%u\n", sec_bus);
235 }
236 static DEVICE_ATTR_RO(secondary_bus_number);
237
238 static ssize_t subordinate_bus_number_show(struct device *dev,
239                                            struct device_attribute *attr,
240                                            char *buf)
241 {
242         struct pci_dev *pci_dev = to_pci_dev(dev);
243         u8 sub_bus;
244         int err;
245
246         err = pci_read_config_byte(pci_dev, PCI_SUBORDINATE_BUS, &sub_bus);
247         if (err)
248                 return -EINVAL;
249
250         return sprintf(buf, "%u\n", sub_bus);
251 }
252 static DEVICE_ATTR_RO(subordinate_bus_number);
253
254 static ssize_t ari_enabled_show(struct device *dev,
255                                 struct device_attribute *attr,
256                                 char *buf)
257 {
258         struct pci_dev *pci_dev = to_pci_dev(dev);
259
260         return sprintf(buf, "%u\n", pci_ari_enabled(pci_dev->bus));
261 }
262 static DEVICE_ATTR_RO(ari_enabled);
263
264 static ssize_t modalias_show(struct device *dev, struct device_attribute *attr,
265                              char *buf)
266 {
267         struct pci_dev *pci_dev = to_pci_dev(dev);
268
269         return sprintf(buf, "pci:v%08Xd%08Xsv%08Xsd%08Xbc%02Xsc%02Xi%02X\n",
270                        pci_dev->vendor, pci_dev->device,
271                        pci_dev->subsystem_vendor, pci_dev->subsystem_device,
272                        (u8)(pci_dev->class >> 16), (u8)(pci_dev->class >> 8),
273                        (u8)(pci_dev->class));
274 }
275 static DEVICE_ATTR_RO(modalias);
276
277 static ssize_t enable_store(struct device *dev, struct device_attribute *attr,
278                              const char *buf, size_t count)
279 {
280         struct pci_dev *pdev = to_pci_dev(dev);
281         unsigned long val;
282         ssize_t result = kstrtoul(buf, 0, &val);
283
284         if (result < 0)
285                 return result;
286
287         /* this can crash the machine when done on the "wrong" device */
288         if (!capable(CAP_SYS_ADMIN))
289                 return -EPERM;
290
291         if (!val) {
292                 if (pci_is_enabled(pdev))
293                         pci_disable_device(pdev);
294                 else
295                         result = -EIO;
296         } else
297                 result = pci_enable_device(pdev);
298
299         return result < 0 ? result : count;
300 }
301
302 static ssize_t enable_show(struct device *dev, struct device_attribute *attr,
303                             char *buf)
304 {
305         struct pci_dev *pdev;
306
307         pdev = to_pci_dev(dev);
308         return sprintf(buf, "%u\n", atomic_read(&pdev->enable_cnt));
309 }
310 static DEVICE_ATTR_RW(enable);
311
312 #ifdef CONFIG_NUMA
313 static ssize_t numa_node_store(struct device *dev,
314                                struct device_attribute *attr, const char *buf,
315                                size_t count)
316 {
317         struct pci_dev *pdev = to_pci_dev(dev);
318         int node, ret;
319
320         if (!capable(CAP_SYS_ADMIN))
321                 return -EPERM;
322
323         ret = kstrtoint(buf, 0, &node);
324         if (ret)
325                 return ret;
326
327         if ((node < 0 && node != NUMA_NO_NODE) || node >= MAX_NUMNODES)
328                 return -EINVAL;
329
330         if (node != NUMA_NO_NODE && !node_online(node))
331                 return -EINVAL;
332
333         add_taint(TAINT_FIRMWARE_WORKAROUND, LOCKDEP_STILL_OK);
334         pci_alert(pdev, FW_BUG "Overriding NUMA node to %d.  Contact your vendor for updates.",
335                   node);
336
337         dev->numa_node = node;
338         return count;
339 }
340
341 static ssize_t numa_node_show(struct device *dev, struct device_attribute *attr,
342                               char *buf)
343 {
344         return sprintf(buf, "%d\n", dev->numa_node);
345 }
346 static DEVICE_ATTR_RW(numa_node);
347 #endif
348
349 static ssize_t dma_mask_bits_show(struct device *dev,
350                                   struct device_attribute *attr, char *buf)
351 {
352         struct pci_dev *pdev = to_pci_dev(dev);
353
354         return sprintf(buf, "%d\n", fls64(pdev->dma_mask));
355 }
356 static DEVICE_ATTR_RO(dma_mask_bits);
357
358 static ssize_t consistent_dma_mask_bits_show(struct device *dev,
359                                              struct device_attribute *attr,
360                                              char *buf)
361 {
362         return sprintf(buf, "%d\n", fls64(dev->coherent_dma_mask));
363 }
364 static DEVICE_ATTR_RO(consistent_dma_mask_bits);
365
366 static ssize_t msi_bus_show(struct device *dev, struct device_attribute *attr,
367                             char *buf)
368 {
369         struct pci_dev *pdev = to_pci_dev(dev);
370         struct pci_bus *subordinate = pdev->subordinate;
371
372         return sprintf(buf, "%u\n", subordinate ?
373                        !(subordinate->bus_flags & PCI_BUS_FLAGS_NO_MSI)
374                            : !pdev->no_msi);
375 }
376
377 static ssize_t msi_bus_store(struct device *dev, struct device_attribute *attr,
378                              const char *buf, size_t count)
379 {
380         struct pci_dev *pdev = to_pci_dev(dev);
381         struct pci_bus *subordinate = pdev->subordinate;
382         unsigned long val;
383
384         if (kstrtoul(buf, 0, &val) < 0)
385                 return -EINVAL;
386
387         if (!capable(CAP_SYS_ADMIN))
388                 return -EPERM;
389
390         /*
391          * "no_msi" and "bus_flags" only affect what happens when a driver
392          * requests MSI or MSI-X.  They don't affect any drivers that have
393          * already requested MSI or MSI-X.
394          */
395         if (!subordinate) {
396                 pdev->no_msi = !val;
397                 pci_info(pdev, "MSI/MSI-X %s for future drivers\n",
398                          val ? "allowed" : "disallowed");
399                 return count;
400         }
401
402         if (val)
403                 subordinate->bus_flags &= ~PCI_BUS_FLAGS_NO_MSI;
404         else
405                 subordinate->bus_flags |= PCI_BUS_FLAGS_NO_MSI;
406
407         dev_info(&subordinate->dev, "MSI/MSI-X %s for future drivers of devices on this bus\n",
408                  val ? "allowed" : "disallowed");
409         return count;
410 }
411 static DEVICE_ATTR_RW(msi_bus);
412
413 static ssize_t bus_rescan_store(struct bus_type *bus, const char *buf,
414                                 size_t count)
415 {
416         unsigned long val;
417         struct pci_bus *b = NULL;
418
419         if (kstrtoul(buf, 0, &val) < 0)
420                 return -EINVAL;
421
422         if (val) {
423                 pci_lock_rescan_remove();
424                 while ((b = pci_find_next_bus(b)) != NULL)
425                         pci_rescan_bus(b);
426                 pci_unlock_rescan_remove();
427         }
428         return count;
429 }
430 static BUS_ATTR(rescan, (S_IWUSR|S_IWGRP), NULL, bus_rescan_store);
431
432 static struct attribute *pci_bus_attrs[] = {
433         &bus_attr_rescan.attr,
434         NULL,
435 };
436
437 static const struct attribute_group pci_bus_group = {
438         .attrs = pci_bus_attrs,
439 };
440
441 const struct attribute_group *pci_bus_groups[] = {
442         &pci_bus_group,
443         NULL,
444 };
445
446 static ssize_t dev_rescan_store(struct device *dev,
447                                 struct device_attribute *attr, const char *buf,
448                                 size_t count)
449 {
450         unsigned long val;
451         struct pci_dev *pdev = to_pci_dev(dev);
452
453         if (kstrtoul(buf, 0, &val) < 0)
454                 return -EINVAL;
455
456         if (val) {
457                 pci_lock_rescan_remove();
458                 pci_rescan_bus(pdev->bus);
459                 pci_unlock_rescan_remove();
460         }
461         return count;
462 }
463 static struct device_attribute dev_rescan_attr = __ATTR(rescan,
464                                                         (S_IWUSR|S_IWGRP),
465                                                         NULL, dev_rescan_store);
466
467 static ssize_t remove_store(struct device *dev, struct device_attribute *attr,
468                             const char *buf, size_t count)
469 {
470         unsigned long val;
471
472         if (kstrtoul(buf, 0, &val) < 0)
473                 return -EINVAL;
474
475         if (val && device_remove_file_self(dev, attr))
476                 pci_stop_and_remove_bus_device_locked(to_pci_dev(dev));
477         return count;
478 }
479 static struct device_attribute dev_remove_attr = __ATTR(remove,
480                                                         (S_IWUSR|S_IWGRP),
481                                                         NULL, remove_store);
482
483 static ssize_t dev_bus_rescan_store(struct device *dev,
484                                     struct device_attribute *attr,
485                                     const char *buf, size_t count)
486 {
487         unsigned long val;
488         struct pci_bus *bus = to_pci_bus(dev);
489
490         if (kstrtoul(buf, 0, &val) < 0)
491                 return -EINVAL;
492
493         if (val) {
494                 pci_lock_rescan_remove();
495                 if (!pci_is_root_bus(bus) && list_empty(&bus->devices))
496                         pci_rescan_bus_bridge_resize(bus->self);
497                 else
498                         pci_rescan_bus(bus);
499                 pci_unlock_rescan_remove();
500         }
501         return count;
502 }
503 static DEVICE_ATTR(rescan, (S_IWUSR|S_IWGRP), NULL, dev_bus_rescan_store);
504
505 #if defined(CONFIG_PM) && defined(CONFIG_ACPI)
506 static ssize_t d3cold_allowed_store(struct device *dev,
507                                     struct device_attribute *attr,
508                                     const char *buf, size_t count)
509 {
510         struct pci_dev *pdev = to_pci_dev(dev);
511         unsigned long val;
512
513         if (kstrtoul(buf, 0, &val) < 0)
514                 return -EINVAL;
515
516         pdev->d3cold_allowed = !!val;
517         if (pdev->d3cold_allowed)
518                 pci_d3cold_enable(pdev);
519         else
520                 pci_d3cold_disable(pdev);
521
522         pm_runtime_resume(dev);
523
524         return count;
525 }
526
527 static ssize_t d3cold_allowed_show(struct device *dev,
528                                    struct device_attribute *attr, char *buf)
529 {
530         struct pci_dev *pdev = to_pci_dev(dev);
531         return sprintf(buf, "%u\n", pdev->d3cold_allowed);
532 }
533 static DEVICE_ATTR_RW(d3cold_allowed);
534 #endif
535
536 #ifdef CONFIG_OF
537 static ssize_t devspec_show(struct device *dev,
538                             struct device_attribute *attr, char *buf)
539 {
540         struct pci_dev *pdev = to_pci_dev(dev);
541         struct device_node *np = pci_device_to_OF_node(pdev);
542
543         if (np == NULL)
544                 return 0;
545         return sprintf(buf, "%pOF", np);
546 }
547 static DEVICE_ATTR_RO(devspec);
548 #endif
549
550 #ifdef CONFIG_PCI_IOV
551 static ssize_t sriov_totalvfs_show(struct device *dev,
552                                    struct device_attribute *attr,
553                                    char *buf)
554 {
555         struct pci_dev *pdev = to_pci_dev(dev);
556
557         return sprintf(buf, "%u\n", pci_sriov_get_totalvfs(pdev));
558 }
559
560
561 static ssize_t sriov_numvfs_show(struct device *dev,
562                                  struct device_attribute *attr,
563                                  char *buf)
564 {
565         struct pci_dev *pdev = to_pci_dev(dev);
566
567         return sprintf(buf, "%u\n", pdev->sriov->num_VFs);
568 }
569
570 /*
571  * num_vfs > 0; number of VFs to enable
572  * num_vfs = 0; disable all VFs
573  *
574  * Note: SRIOV spec doesn't allow partial VF
575  *       disable, so it's all or none.
576  */
577 static ssize_t sriov_numvfs_store(struct device *dev,
578                                   struct device_attribute *attr,
579                                   const char *buf, size_t count)
580 {
581         struct pci_dev *pdev = to_pci_dev(dev);
582         int ret;
583         u16 num_vfs;
584
585         ret = kstrtou16(buf, 0, &num_vfs);
586         if (ret < 0)
587                 return ret;
588
589         if (num_vfs > pci_sriov_get_totalvfs(pdev))
590                 return -ERANGE;
591
592         device_lock(&pdev->dev);
593
594         if (num_vfs == pdev->sriov->num_VFs)
595                 goto exit;
596
597         /* is PF driver loaded w/callback */
598         if (!pdev->driver || !pdev->driver->sriov_configure) {
599                 pci_info(pdev, "Driver doesn't support SRIOV configuration via sysfs\n");
600                 ret = -ENOENT;
601                 goto exit;
602         }
603
604         if (num_vfs == 0) {
605                 /* disable VFs */
606                 ret = pdev->driver->sriov_configure(pdev, 0);
607                 goto exit;
608         }
609
610         /* enable VFs */
611         if (pdev->sriov->num_VFs) {
612                 pci_warn(pdev, "%d VFs already enabled. Disable before enabling %d VFs\n",
613                          pdev->sriov->num_VFs, num_vfs);
614                 ret = -EBUSY;
615                 goto exit;
616         }
617
618         ret = pdev->driver->sriov_configure(pdev, num_vfs);
619         if (ret < 0)
620                 goto exit;
621
622         if (ret != num_vfs)
623                 pci_warn(pdev, "%d VFs requested; only %d enabled\n",
624                          num_vfs, ret);
625
626 exit:
627         device_unlock(&pdev->dev);
628
629         if (ret < 0)
630                 return ret;
631
632         return count;
633 }
634
635 static ssize_t sriov_offset_show(struct device *dev,
636                                  struct device_attribute *attr,
637                                  char *buf)
638 {
639         struct pci_dev *pdev = to_pci_dev(dev);
640
641         return sprintf(buf, "%u\n", pdev->sriov->offset);
642 }
643
644 static ssize_t sriov_stride_show(struct device *dev,
645                                  struct device_attribute *attr,
646                                  char *buf)
647 {
648         struct pci_dev *pdev = to_pci_dev(dev);
649
650         return sprintf(buf, "%u\n", pdev->sriov->stride);
651 }
652
653 static ssize_t sriov_vf_device_show(struct device *dev,
654                                     struct device_attribute *attr,
655                                     char *buf)
656 {
657         struct pci_dev *pdev = to_pci_dev(dev);
658
659         return sprintf(buf, "%x\n", pdev->sriov->vf_device);
660 }
661
662 static ssize_t sriov_drivers_autoprobe_show(struct device *dev,
663                                             struct device_attribute *attr,
664                                             char *buf)
665 {
666         struct pci_dev *pdev = to_pci_dev(dev);
667
668         return sprintf(buf, "%u\n", pdev->sriov->drivers_autoprobe);
669 }
670
671 static ssize_t sriov_drivers_autoprobe_store(struct device *dev,
672                                              struct device_attribute *attr,
673                                              const char *buf, size_t count)
674 {
675         struct pci_dev *pdev = to_pci_dev(dev);
676         bool drivers_autoprobe;
677
678         if (kstrtobool(buf, &drivers_autoprobe) < 0)
679                 return -EINVAL;
680
681         pdev->sriov->drivers_autoprobe = drivers_autoprobe;
682
683         return count;
684 }
685
686 static struct device_attribute sriov_totalvfs_attr = __ATTR_RO(sriov_totalvfs);
687 static struct device_attribute sriov_numvfs_attr =
688                 __ATTR(sriov_numvfs, (S_IRUGO|S_IWUSR|S_IWGRP),
689                        sriov_numvfs_show, sriov_numvfs_store);
690 static struct device_attribute sriov_offset_attr = __ATTR_RO(sriov_offset);
691 static struct device_attribute sriov_stride_attr = __ATTR_RO(sriov_stride);
692 static struct device_attribute sriov_vf_device_attr = __ATTR_RO(sriov_vf_device);
693 static struct device_attribute sriov_drivers_autoprobe_attr =
694                 __ATTR(sriov_drivers_autoprobe, (S_IRUGO|S_IWUSR|S_IWGRP),
695                        sriov_drivers_autoprobe_show, sriov_drivers_autoprobe_store);
696 #endif /* CONFIG_PCI_IOV */
697
698 static ssize_t driver_override_store(struct device *dev,
699                                      struct device_attribute *attr,
700                                      const char *buf, size_t count)
701 {
702         struct pci_dev *pdev = to_pci_dev(dev);
703         char *driver_override, *old, *cp;
704
705         /* We need to keep extra room for a newline */
706         if (count >= (PAGE_SIZE - 1))
707                 return -EINVAL;
708
709         driver_override = kstrndup(buf, count, GFP_KERNEL);
710         if (!driver_override)
711                 return -ENOMEM;
712
713         cp = strchr(driver_override, '\n');
714         if (cp)
715                 *cp = '\0';
716
717         device_lock(dev);
718         old = pdev->driver_override;
719         if (strlen(driver_override)) {
720                 pdev->driver_override = driver_override;
721         } else {
722                 kfree(driver_override);
723                 pdev->driver_override = NULL;
724         }
725         device_unlock(dev);
726
727         kfree(old);
728
729         return count;
730 }
731
732 static ssize_t driver_override_show(struct device *dev,
733                                     struct device_attribute *attr, char *buf)
734 {
735         struct pci_dev *pdev = to_pci_dev(dev);
736         ssize_t len;
737
738         device_lock(dev);
739         len = snprintf(buf, PAGE_SIZE, "%s\n", pdev->driver_override);
740         device_unlock(dev);
741         return len;
742 }
743 static DEVICE_ATTR_RW(driver_override);
744
745 static struct attribute *pci_dev_attrs[] = {
746         &dev_attr_resource.attr,
747         &dev_attr_vendor.attr,
748         &dev_attr_device.attr,
749         &dev_attr_subsystem_vendor.attr,
750         &dev_attr_subsystem_device.attr,
751         &dev_attr_revision.attr,
752         &dev_attr_class.attr,
753         &dev_attr_irq.attr,
754         &dev_attr_local_cpus.attr,
755         &dev_attr_local_cpulist.attr,
756         &dev_attr_modalias.attr,
757 #ifdef CONFIG_NUMA
758         &dev_attr_numa_node.attr,
759 #endif
760         &dev_attr_dma_mask_bits.attr,
761         &dev_attr_consistent_dma_mask_bits.attr,
762         &dev_attr_enable.attr,
763         &dev_attr_broken_parity_status.attr,
764         &dev_attr_msi_bus.attr,
765 #if defined(CONFIG_PM) && defined(CONFIG_ACPI)
766         &dev_attr_d3cold_allowed.attr,
767 #endif
768 #ifdef CONFIG_OF
769         &dev_attr_devspec.attr,
770 #endif
771         &dev_attr_driver_override.attr,
772         &dev_attr_ari_enabled.attr,
773         NULL,
774 };
775
776 static struct attribute *pci_bridge_attrs[] = {
777         &dev_attr_subordinate_bus_number.attr,
778         &dev_attr_secondary_bus_number.attr,
779         NULL,
780 };
781
782 static struct attribute *pcie_dev_attrs[] = {
783         &dev_attr_current_link_speed.attr,
784         &dev_attr_current_link_width.attr,
785         &dev_attr_max_link_width.attr,
786         &dev_attr_max_link_speed.attr,
787         NULL,
788 };
789
790 static struct attribute *pcibus_attrs[] = {
791         &dev_attr_rescan.attr,
792         &dev_attr_cpuaffinity.attr,
793         &dev_attr_cpulistaffinity.attr,
794         NULL,
795 };
796
797 static const struct attribute_group pcibus_group = {
798         .attrs = pcibus_attrs,
799 };
800
801 const struct attribute_group *pcibus_groups[] = {
802         &pcibus_group,
803         NULL,
804 };
805
806 static ssize_t boot_vga_show(struct device *dev, struct device_attribute *attr,
807                              char *buf)
808 {
809         struct pci_dev *pdev = to_pci_dev(dev);
810         struct pci_dev *vga_dev = vga_default_device();
811
812         if (vga_dev)
813                 return sprintf(buf, "%u\n", (pdev == vga_dev));
814
815         return sprintf(buf, "%u\n",
816                 !!(pdev->resource[PCI_ROM_RESOURCE].flags &
817                    IORESOURCE_ROM_SHADOW));
818 }
819 static struct device_attribute vga_attr = __ATTR_RO(boot_vga);
820
821 static ssize_t pci_read_config(struct file *filp, struct kobject *kobj,
822                                struct bin_attribute *bin_attr, char *buf,
823                                loff_t off, size_t count)
824 {
825         struct pci_dev *dev = to_pci_dev(kobj_to_dev(kobj));
826         unsigned int size = 64;
827         loff_t init_off = off;
828         u8 *data = (u8 *) buf;
829
830         /* Several chips lock up trying to read undefined config space */
831         if (file_ns_capable(filp, &init_user_ns, CAP_SYS_ADMIN))
832                 size = dev->cfg_size;
833         else if (dev->hdr_type == PCI_HEADER_TYPE_CARDBUS)
834                 size = 128;
835
836         if (off > size)
837                 return 0;
838         if (off + count > size) {
839                 size -= off;
840                 count = size;
841         } else {
842                 size = count;
843         }
844
845         pci_config_pm_runtime_get(dev);
846
847         if ((off & 1) && size) {
848                 u8 val;
849                 pci_user_read_config_byte(dev, off, &val);
850                 data[off - init_off] = val;
851                 off++;
852                 size--;
853         }
854
855         if ((off & 3) && size > 2) {
856                 u16 val;
857                 pci_user_read_config_word(dev, off, &val);
858                 data[off - init_off] = val & 0xff;
859                 data[off - init_off + 1] = (val >> 8) & 0xff;
860                 off += 2;
861                 size -= 2;
862         }
863
864         while (size > 3) {
865                 u32 val;
866                 pci_user_read_config_dword(dev, off, &val);
867                 data[off - init_off] = val & 0xff;
868                 data[off - init_off + 1] = (val >> 8) & 0xff;
869                 data[off - init_off + 2] = (val >> 16) & 0xff;
870                 data[off - init_off + 3] = (val >> 24) & 0xff;
871                 off += 4;
872                 size -= 4;
873         }
874
875         if (size >= 2) {
876                 u16 val;
877                 pci_user_read_config_word(dev, off, &val);
878                 data[off - init_off] = val & 0xff;
879                 data[off - init_off + 1] = (val >> 8) & 0xff;
880                 off += 2;
881                 size -= 2;
882         }
883
884         if (size > 0) {
885                 u8 val;
886                 pci_user_read_config_byte(dev, off, &val);
887                 data[off - init_off] = val;
888                 off++;
889                 --size;
890         }
891
892         pci_config_pm_runtime_put(dev);
893
894         return count;
895 }
896
897 static ssize_t pci_write_config(struct file *filp, struct kobject *kobj,
898                                 struct bin_attribute *bin_attr, char *buf,
899                                 loff_t off, size_t count)
900 {
901         struct pci_dev *dev = to_pci_dev(kobj_to_dev(kobj));
902         unsigned int size = count;
903         loff_t init_off = off;
904         u8 *data = (u8 *) buf;
905
906         if (off > dev->cfg_size)
907                 return 0;
908         if (off + count > dev->cfg_size) {
909                 size = dev->cfg_size - off;
910                 count = size;
911         }
912
913         pci_config_pm_runtime_get(dev);
914
915         if ((off & 1) && size) {
916                 pci_user_write_config_byte(dev, off, data[off - init_off]);
917                 off++;
918                 size--;
919         }
920
921         if ((off & 3) && size > 2) {
922                 u16 val = data[off - init_off];
923                 val |= (u16) data[off - init_off + 1] << 8;
924                 pci_user_write_config_word(dev, off, val);
925                 off += 2;
926                 size -= 2;
927         }
928
929         while (size > 3) {
930                 u32 val = data[off - init_off];
931                 val |= (u32) data[off - init_off + 1] << 8;
932                 val |= (u32) data[off - init_off + 2] << 16;
933                 val |= (u32) data[off - init_off + 3] << 24;
934                 pci_user_write_config_dword(dev, off, val);
935                 off += 4;
936                 size -= 4;
937         }
938
939         if (size >= 2) {
940                 u16 val = data[off - init_off];
941                 val |= (u16) data[off - init_off + 1] << 8;
942                 pci_user_write_config_word(dev, off, val);
943                 off += 2;
944                 size -= 2;
945         }
946
947         if (size) {
948                 pci_user_write_config_byte(dev, off, data[off - init_off]);
949                 off++;
950                 --size;
951         }
952
953         pci_config_pm_runtime_put(dev);
954
955         return count;
956 }
957
958 static ssize_t read_vpd_attr(struct file *filp, struct kobject *kobj,
959                              struct bin_attribute *bin_attr, char *buf,
960                              loff_t off, size_t count)
961 {
962         struct pci_dev *dev = to_pci_dev(kobj_to_dev(kobj));
963
964         if (bin_attr->size > 0) {
965                 if (off > bin_attr->size)
966                         count = 0;
967                 else if (count > bin_attr->size - off)
968                         count = bin_attr->size - off;
969         }
970
971         return pci_read_vpd(dev, off, count, buf);
972 }
973
974 static ssize_t write_vpd_attr(struct file *filp, struct kobject *kobj,
975                               struct bin_attribute *bin_attr, char *buf,
976                               loff_t off, size_t count)
977 {
978         struct pci_dev *dev = to_pci_dev(kobj_to_dev(kobj));
979
980         if (bin_attr->size > 0) {
981                 if (off > bin_attr->size)
982                         count = 0;
983                 else if (count > bin_attr->size - off)
984                         count = bin_attr->size - off;
985         }
986
987         return pci_write_vpd(dev, off, count, buf);
988 }
989
990 #ifdef HAVE_PCI_LEGACY
991 /**
992  * pci_read_legacy_io - read byte(s) from legacy I/O port space
993  * @filp: open sysfs file
994  * @kobj: kobject corresponding to file to read from
995  * @bin_attr: struct bin_attribute for this file
996  * @buf: buffer to store results
997  * @off: offset into legacy I/O port space
998  * @count: number of bytes to read
999  *
1000  * Reads 1, 2, or 4 bytes from legacy I/O port space using an arch specific
1001  * callback routine (pci_legacy_read).
1002  */
1003 static ssize_t pci_read_legacy_io(struct file *filp, struct kobject *kobj,
1004                                   struct bin_attribute *bin_attr, char *buf,
1005                                   loff_t off, size_t count)
1006 {
1007         struct pci_bus *bus = to_pci_bus(kobj_to_dev(kobj));
1008
1009         /* Only support 1, 2 or 4 byte accesses */
1010         if (count != 1 && count != 2 && count != 4)
1011                 return -EINVAL;
1012
1013         return pci_legacy_read(bus, off, (u32 *)buf, count);
1014 }
1015
1016 /**
1017  * pci_write_legacy_io - write byte(s) to legacy I/O port space
1018  * @filp: open sysfs file
1019  * @kobj: kobject corresponding to file to read from
1020  * @bin_attr: struct bin_attribute for this file
1021  * @buf: buffer containing value to be written
1022  * @off: offset into legacy I/O port space
1023  * @count: number of bytes to write
1024  *
1025  * Writes 1, 2, or 4 bytes from legacy I/O port space using an arch specific
1026  * callback routine (pci_legacy_write).
1027  */
1028 static ssize_t pci_write_legacy_io(struct file *filp, struct kobject *kobj,
1029                                    struct bin_attribute *bin_attr, char *buf,
1030                                    loff_t off, size_t count)
1031 {
1032         struct pci_bus *bus = to_pci_bus(kobj_to_dev(kobj));
1033
1034         /* Only support 1, 2 or 4 byte accesses */
1035         if (count != 1 && count != 2 && count != 4)
1036                 return -EINVAL;
1037
1038         return pci_legacy_write(bus, off, *(u32 *)buf, count);
1039 }
1040
1041 /**
1042  * pci_mmap_legacy_mem - map legacy PCI memory into user memory space
1043  * @filp: open sysfs file
1044  * @kobj: kobject corresponding to device to be mapped
1045  * @attr: struct bin_attribute for this file
1046  * @vma: struct vm_area_struct passed to mmap
1047  *
1048  * Uses an arch specific callback, pci_mmap_legacy_mem_page_range, to mmap
1049  * legacy memory space (first meg of bus space) into application virtual
1050  * memory space.
1051  */
1052 static int pci_mmap_legacy_mem(struct file *filp, struct kobject *kobj,
1053                                struct bin_attribute *attr,
1054                                struct vm_area_struct *vma)
1055 {
1056         struct pci_bus *bus = to_pci_bus(kobj_to_dev(kobj));
1057
1058         return pci_mmap_legacy_page_range(bus, vma, pci_mmap_mem);
1059 }
1060
1061 /**
1062  * pci_mmap_legacy_io - map legacy PCI IO into user memory space
1063  * @filp: open sysfs file
1064  * @kobj: kobject corresponding to device to be mapped
1065  * @attr: struct bin_attribute for this file
1066  * @vma: struct vm_area_struct passed to mmap
1067  *
1068  * Uses an arch specific callback, pci_mmap_legacy_io_page_range, to mmap
1069  * legacy IO space (first meg of bus space) into application virtual
1070  * memory space. Returns -ENOSYS if the operation isn't supported
1071  */
1072 static int pci_mmap_legacy_io(struct file *filp, struct kobject *kobj,
1073                               struct bin_attribute *attr,
1074                               struct vm_area_struct *vma)
1075 {
1076         struct pci_bus *bus = to_pci_bus(kobj_to_dev(kobj));
1077
1078         return pci_mmap_legacy_page_range(bus, vma, pci_mmap_io);
1079 }
1080
1081 /**
1082  * pci_adjust_legacy_attr - adjustment of legacy file attributes
1083  * @b: bus to create files under
1084  * @mmap_type: I/O port or memory
1085  *
1086  * Stub implementation. Can be overridden by arch if necessary.
1087  */
1088 void __weak pci_adjust_legacy_attr(struct pci_bus *b,
1089                                    enum pci_mmap_state mmap_type)
1090 {
1091 }
1092
1093 /**
1094  * pci_create_legacy_files - create legacy I/O port and memory files
1095  * @b: bus to create files under
1096  *
1097  * Some platforms allow access to legacy I/O port and ISA memory space on
1098  * a per-bus basis.  This routine creates the files and ties them into
1099  * their associated read, write and mmap files from pci-sysfs.c
1100  *
1101  * On error unwind, but don't propagate the error to the caller
1102  * as it is ok to set up the PCI bus without these files.
1103  */
1104 void pci_create_legacy_files(struct pci_bus *b)
1105 {
1106         int error;
1107
1108         b->legacy_io = kzalloc(sizeof(struct bin_attribute) * 2,
1109                                GFP_ATOMIC);
1110         if (!b->legacy_io)
1111                 goto kzalloc_err;
1112
1113         sysfs_bin_attr_init(b->legacy_io);
1114         b->legacy_io->attr.name = "legacy_io";
1115         b->legacy_io->size = 0xffff;
1116         b->legacy_io->attr.mode = S_IRUSR | S_IWUSR;
1117         b->legacy_io->read = pci_read_legacy_io;
1118         b->legacy_io->write = pci_write_legacy_io;
1119         b->legacy_io->mmap = pci_mmap_legacy_io;
1120         pci_adjust_legacy_attr(b, pci_mmap_io);
1121         error = device_create_bin_file(&b->dev, b->legacy_io);
1122         if (error)
1123                 goto legacy_io_err;
1124
1125         /* Allocated above after the legacy_io struct */
1126         b->legacy_mem = b->legacy_io + 1;
1127         sysfs_bin_attr_init(b->legacy_mem);
1128         b->legacy_mem->attr.name = "legacy_mem";
1129         b->legacy_mem->size = 1024*1024;
1130         b->legacy_mem->attr.mode = S_IRUSR | S_IWUSR;
1131         b->legacy_mem->mmap = pci_mmap_legacy_mem;
1132         pci_adjust_legacy_attr(b, pci_mmap_mem);
1133         error = device_create_bin_file(&b->dev, b->legacy_mem);
1134         if (error)
1135                 goto legacy_mem_err;
1136
1137         return;
1138
1139 legacy_mem_err:
1140         device_remove_bin_file(&b->dev, b->legacy_io);
1141 legacy_io_err:
1142         kfree(b->legacy_io);
1143         b->legacy_io = NULL;
1144 kzalloc_err:
1145         printk(KERN_WARNING "pci: warning: could not create legacy I/O port and ISA memory resources to sysfs\n");
1146         return;
1147 }
1148
1149 void pci_remove_legacy_files(struct pci_bus *b)
1150 {
1151         if (b->legacy_io) {
1152                 device_remove_bin_file(&b->dev, b->legacy_io);
1153                 device_remove_bin_file(&b->dev, b->legacy_mem);
1154                 kfree(b->legacy_io); /* both are allocated here */
1155         }
1156 }
1157 #endif /* HAVE_PCI_LEGACY */
1158
1159 #if defined(HAVE_PCI_MMAP) || defined(ARCH_GENERIC_PCI_MMAP_RESOURCE)
1160
1161 int pci_mmap_fits(struct pci_dev *pdev, int resno, struct vm_area_struct *vma,
1162                   enum pci_mmap_api mmap_api)
1163 {
1164         unsigned long nr, start, size;
1165         resource_size_t pci_start = 0, pci_end;
1166
1167         if (pci_resource_len(pdev, resno) == 0)
1168                 return 0;
1169         nr = vma_pages(vma);
1170         start = vma->vm_pgoff;
1171         size = ((pci_resource_len(pdev, resno) - 1) >> PAGE_SHIFT) + 1;
1172         if (mmap_api == PCI_MMAP_PROCFS) {
1173                 pci_resource_to_user(pdev, resno, &pdev->resource[resno],
1174                                      &pci_start, &pci_end);
1175                 pci_start >>= PAGE_SHIFT;
1176         }
1177         if (start >= pci_start && start < pci_start + size &&
1178                         start + nr <= pci_start + size)
1179                 return 1;
1180         return 0;
1181 }
1182
1183 /**
1184  * pci_mmap_resource - map a PCI resource into user memory space
1185  * @kobj: kobject for mapping
1186  * @attr: struct bin_attribute for the file being mapped
1187  * @vma: struct vm_area_struct passed into the mmap
1188  * @write_combine: 1 for write_combine mapping
1189  *
1190  * Use the regular PCI mapping routines to map a PCI resource into userspace.
1191  */
1192 static int pci_mmap_resource(struct kobject *kobj, struct bin_attribute *attr,
1193                              struct vm_area_struct *vma, int write_combine)
1194 {
1195         struct pci_dev *pdev = to_pci_dev(kobj_to_dev(kobj));
1196         int bar = (unsigned long)attr->private;
1197         enum pci_mmap_state mmap_type;
1198         struct resource *res = &pdev->resource[bar];
1199
1200         if (res->flags & IORESOURCE_MEM && iomem_is_exclusive(res->start))
1201                 return -EINVAL;
1202
1203         if (!pci_mmap_fits(pdev, bar, vma, PCI_MMAP_SYSFS))
1204                 return -EINVAL;
1205
1206         mmap_type = res->flags & IORESOURCE_MEM ? pci_mmap_mem : pci_mmap_io;
1207
1208         return pci_mmap_resource_range(pdev, bar, vma, mmap_type, write_combine);
1209 }
1210
1211 static int pci_mmap_resource_uc(struct file *filp, struct kobject *kobj,
1212                                 struct bin_attribute *attr,
1213                                 struct vm_area_struct *vma)
1214 {
1215         return pci_mmap_resource(kobj, attr, vma, 0);
1216 }
1217
1218 static int pci_mmap_resource_wc(struct file *filp, struct kobject *kobj,
1219                                 struct bin_attribute *attr,
1220                                 struct vm_area_struct *vma)
1221 {
1222         return pci_mmap_resource(kobj, attr, vma, 1);
1223 }
1224
1225 static ssize_t pci_resource_io(struct file *filp, struct kobject *kobj,
1226                                struct bin_attribute *attr, char *buf,
1227                                loff_t off, size_t count, bool write)
1228 {
1229         struct pci_dev *pdev = to_pci_dev(kobj_to_dev(kobj));
1230         int bar = (unsigned long)attr->private;
1231         unsigned long port = off;
1232
1233         port += pci_resource_start(pdev, bar);
1234
1235         if (port > pci_resource_end(pdev, bar))
1236                 return 0;
1237
1238         if (port + count - 1 > pci_resource_end(pdev, bar))
1239                 return -EINVAL;
1240
1241         switch (count) {
1242         case 1:
1243                 if (write)
1244                         outb(*(u8 *)buf, port);
1245                 else
1246                         *(u8 *)buf = inb(port);
1247                 return 1;
1248         case 2:
1249                 if (write)
1250                         outw(*(u16 *)buf, port);
1251                 else
1252                         *(u16 *)buf = inw(port);
1253                 return 2;
1254         case 4:
1255                 if (write)
1256                         outl(*(u32 *)buf, port);
1257                 else
1258                         *(u32 *)buf = inl(port);
1259                 return 4;
1260         }
1261         return -EINVAL;
1262 }
1263
1264 static ssize_t pci_read_resource_io(struct file *filp, struct kobject *kobj,
1265                                     struct bin_attribute *attr, char *buf,
1266                                     loff_t off, size_t count)
1267 {
1268         return pci_resource_io(filp, kobj, attr, buf, off, count, false);
1269 }
1270
1271 static ssize_t pci_write_resource_io(struct file *filp, struct kobject *kobj,
1272                                      struct bin_attribute *attr, char *buf,
1273                                      loff_t off, size_t count)
1274 {
1275         return pci_resource_io(filp, kobj, attr, buf, off, count, true);
1276 }
1277
1278 /**
1279  * pci_remove_resource_files - cleanup resource files
1280  * @pdev: dev to cleanup
1281  *
1282  * If we created resource files for @pdev, remove them from sysfs and
1283  * free their resources.
1284  */
1285 static void pci_remove_resource_files(struct pci_dev *pdev)
1286 {
1287         int i;
1288
1289         for (i = 0; i < PCI_ROM_RESOURCE; i++) {
1290                 struct bin_attribute *res_attr;
1291
1292                 res_attr = pdev->res_attr[i];
1293                 if (res_attr) {
1294                         sysfs_remove_bin_file(&pdev->dev.kobj, res_attr);
1295                         kfree(res_attr);
1296                 }
1297
1298                 res_attr = pdev->res_attr_wc[i];
1299                 if (res_attr) {
1300                         sysfs_remove_bin_file(&pdev->dev.kobj, res_attr);
1301                         kfree(res_attr);
1302                 }
1303         }
1304 }
1305
1306 static int pci_create_attr(struct pci_dev *pdev, int num, int write_combine)
1307 {
1308         /* allocate attribute structure, piggyback attribute name */
1309         int name_len = write_combine ? 13 : 10;
1310         struct bin_attribute *res_attr;
1311         char *res_attr_name;
1312         int retval;
1313
1314         res_attr = kzalloc(sizeof(*res_attr) + name_len, GFP_ATOMIC);
1315         if (!res_attr)
1316                 return -ENOMEM;
1317
1318         res_attr_name = (char *)(res_attr + 1);
1319
1320         sysfs_bin_attr_init(res_attr);
1321         if (write_combine) {
1322                 pdev->res_attr_wc[num] = res_attr;
1323                 sprintf(res_attr_name, "resource%d_wc", num);
1324                 res_attr->mmap = pci_mmap_resource_wc;
1325         } else {
1326                 pdev->res_attr[num] = res_attr;
1327                 sprintf(res_attr_name, "resource%d", num);
1328                 if (pci_resource_flags(pdev, num) & IORESOURCE_IO) {
1329                         res_attr->read = pci_read_resource_io;
1330                         res_attr->write = pci_write_resource_io;
1331                         if (arch_can_pci_mmap_io())
1332                                 res_attr->mmap = pci_mmap_resource_uc;
1333                 } else {
1334                         res_attr->mmap = pci_mmap_resource_uc;
1335                 }
1336         }
1337         res_attr->attr.name = res_attr_name;
1338         res_attr->attr.mode = S_IRUSR | S_IWUSR;
1339         res_attr->size = pci_resource_len(pdev, num);
1340         res_attr->private = (void *)(unsigned long)num;
1341         retval = sysfs_create_bin_file(&pdev->dev.kobj, res_attr);
1342         if (retval)
1343                 kfree(res_attr);
1344
1345         return retval;
1346 }
1347
1348 /**
1349  * pci_create_resource_files - create resource files in sysfs for @dev
1350  * @pdev: dev in question
1351  *
1352  * Walk the resources in @pdev creating files for each resource available.
1353  */
1354 static int pci_create_resource_files(struct pci_dev *pdev)
1355 {
1356         int i;
1357         int retval;
1358
1359         /* Expose the PCI resources from this device as files */
1360         for (i = 0; i < PCI_ROM_RESOURCE; i++) {
1361
1362                 /* skip empty resources */
1363                 if (!pci_resource_len(pdev, i))
1364                         continue;
1365
1366                 retval = pci_create_attr(pdev, i, 0);
1367                 /* for prefetchable resources, create a WC mappable file */
1368                 if (!retval && arch_can_pci_mmap_wc() &&
1369                     pdev->resource[i].flags & IORESOURCE_PREFETCH)
1370                         retval = pci_create_attr(pdev, i, 1);
1371                 if (retval) {
1372                         pci_remove_resource_files(pdev);
1373                         return retval;
1374                 }
1375         }
1376         return 0;
1377 }
1378 #else /* !HAVE_PCI_MMAP */
1379 int __weak pci_create_resource_files(struct pci_dev *dev) { return 0; }
1380 void __weak pci_remove_resource_files(struct pci_dev *dev) { return; }
1381 #endif /* HAVE_PCI_MMAP */
1382
1383 /**
1384  * pci_write_rom - used to enable access to the PCI ROM display
1385  * @filp: sysfs file
1386  * @kobj: kernel object handle
1387  * @bin_attr: struct bin_attribute for this file
1388  * @buf: user input
1389  * @off: file offset
1390  * @count: number of byte in input
1391  *
1392  * writing anything except 0 enables it
1393  */
1394 static ssize_t pci_write_rom(struct file *filp, struct kobject *kobj,
1395                              struct bin_attribute *bin_attr, char *buf,
1396                              loff_t off, size_t count)
1397 {
1398         struct pci_dev *pdev = to_pci_dev(kobj_to_dev(kobj));
1399
1400         if ((off ==  0) && (*buf == '0') && (count == 2))
1401                 pdev->rom_attr_enabled = 0;
1402         else
1403                 pdev->rom_attr_enabled = 1;
1404
1405         return count;
1406 }
1407
1408 /**
1409  * pci_read_rom - read a PCI ROM
1410  * @filp: sysfs file
1411  * @kobj: kernel object handle
1412  * @bin_attr: struct bin_attribute for this file
1413  * @buf: where to put the data we read from the ROM
1414  * @off: file offset
1415  * @count: number of bytes to read
1416  *
1417  * Put @count bytes starting at @off into @buf from the ROM in the PCI
1418  * device corresponding to @kobj.
1419  */
1420 static ssize_t pci_read_rom(struct file *filp, struct kobject *kobj,
1421                             struct bin_attribute *bin_attr, char *buf,
1422                             loff_t off, size_t count)
1423 {
1424         struct pci_dev *pdev = to_pci_dev(kobj_to_dev(kobj));
1425         void __iomem *rom;
1426         size_t size;
1427
1428         if (!pdev->rom_attr_enabled)
1429                 return -EINVAL;
1430
1431         rom = pci_map_rom(pdev, &size); /* size starts out as PCI window size */
1432         if (!rom || !size)
1433                 return -EIO;
1434
1435         if (off >= size)
1436                 count = 0;
1437         else {
1438                 if (off + count > size)
1439                         count = size - off;
1440
1441                 memcpy_fromio(buf, rom + off, count);
1442         }
1443         pci_unmap_rom(pdev, rom);
1444
1445         return count;
1446 }
1447
1448 static const struct bin_attribute pci_config_attr = {
1449         .attr = {
1450                 .name = "config",
1451                 .mode = S_IRUGO | S_IWUSR,
1452         },
1453         .size = PCI_CFG_SPACE_SIZE,
1454         .read = pci_read_config,
1455         .write = pci_write_config,
1456 };
1457
1458 static const struct bin_attribute pcie_config_attr = {
1459         .attr = {
1460                 .name = "config",
1461                 .mode = S_IRUGO | S_IWUSR,
1462         },
1463         .size = PCI_CFG_SPACE_EXP_SIZE,
1464         .read = pci_read_config,
1465         .write = pci_write_config,
1466 };
1467
1468 static ssize_t reset_store(struct device *dev, struct device_attribute *attr,
1469                            const char *buf, size_t count)
1470 {
1471         struct pci_dev *pdev = to_pci_dev(dev);
1472         unsigned long val;
1473         ssize_t result = kstrtoul(buf, 0, &val);
1474
1475         if (result < 0)
1476                 return result;
1477
1478         if (val != 1)
1479                 return -EINVAL;
1480
1481         result = pci_reset_function(pdev);
1482         if (result < 0)
1483                 return result;
1484
1485         return count;
1486 }
1487
1488 static struct device_attribute reset_attr = __ATTR(reset, 0200, NULL, reset_store);
1489
1490 static int pci_create_capabilities_sysfs(struct pci_dev *dev)
1491 {
1492         int retval;
1493         struct bin_attribute *attr;
1494
1495         /* If the device has VPD, try to expose it in sysfs. */
1496         if (dev->vpd) {
1497                 attr = kzalloc(sizeof(*attr), GFP_ATOMIC);
1498                 if (!attr)
1499                         return -ENOMEM;
1500
1501                 sysfs_bin_attr_init(attr);
1502                 attr->size = 0;
1503                 attr->attr.name = "vpd";
1504                 attr->attr.mode = S_IRUSR | S_IWUSR;
1505                 attr->read = read_vpd_attr;
1506                 attr->write = write_vpd_attr;
1507                 retval = sysfs_create_bin_file(&dev->dev.kobj, attr);
1508                 if (retval) {
1509                         kfree(attr);
1510                         return retval;
1511                 }
1512                 dev->vpd->attr = attr;
1513         }
1514
1515         /* Active State Power Management */
1516         pcie_aspm_create_sysfs_dev_files(dev);
1517
1518         if (!pci_probe_reset_function(dev)) {
1519                 retval = device_create_file(&dev->dev, &reset_attr);
1520                 if (retval)
1521                         goto error;
1522                 dev->reset_fn = 1;
1523         }
1524         return 0;
1525
1526 error:
1527         pcie_aspm_remove_sysfs_dev_files(dev);
1528         if (dev->vpd && dev->vpd->attr) {
1529                 sysfs_remove_bin_file(&dev->dev.kobj, dev->vpd->attr);
1530                 kfree(dev->vpd->attr);
1531         }
1532
1533         return retval;
1534 }
1535
1536 int __must_check pci_create_sysfs_dev_files(struct pci_dev *pdev)
1537 {
1538         int retval;
1539         int rom_size;
1540         struct bin_attribute *attr;
1541
1542         if (!sysfs_initialized)
1543                 return -EACCES;
1544
1545         if (pdev->cfg_size > PCI_CFG_SPACE_SIZE)
1546                 retval = sysfs_create_bin_file(&pdev->dev.kobj, &pcie_config_attr);
1547         else
1548                 retval = sysfs_create_bin_file(&pdev->dev.kobj, &pci_config_attr);
1549         if (retval)
1550                 goto err;
1551
1552         retval = pci_create_resource_files(pdev);
1553         if (retval)
1554                 goto err_config_file;
1555
1556         /* If the device has a ROM, try to expose it in sysfs. */
1557         rom_size = pci_resource_len(pdev, PCI_ROM_RESOURCE);
1558         if (rom_size) {
1559                 attr = kzalloc(sizeof(*attr), GFP_ATOMIC);
1560                 if (!attr) {
1561                         retval = -ENOMEM;
1562                         goto err_resource_files;
1563                 }
1564                 sysfs_bin_attr_init(attr);
1565                 attr->size = rom_size;
1566                 attr->attr.name = "rom";
1567                 attr->attr.mode = S_IRUSR | S_IWUSR;
1568                 attr->read = pci_read_rom;
1569                 attr->write = pci_write_rom;
1570                 retval = sysfs_create_bin_file(&pdev->dev.kobj, attr);
1571                 if (retval) {
1572                         kfree(attr);
1573                         goto err_resource_files;
1574                 }
1575                 pdev->rom_attr = attr;
1576         }
1577
1578         /* add sysfs entries for various capabilities */
1579         retval = pci_create_capabilities_sysfs(pdev);
1580         if (retval)
1581                 goto err_rom_file;
1582
1583         pci_create_firmware_label_files(pdev);
1584
1585         return 0;
1586
1587 err_rom_file:
1588         if (pdev->rom_attr) {
1589                 sysfs_remove_bin_file(&pdev->dev.kobj, pdev->rom_attr);
1590                 kfree(pdev->rom_attr);
1591                 pdev->rom_attr = NULL;
1592         }
1593 err_resource_files:
1594         pci_remove_resource_files(pdev);
1595 err_config_file:
1596         if (pdev->cfg_size > PCI_CFG_SPACE_SIZE)
1597                 sysfs_remove_bin_file(&pdev->dev.kobj, &pcie_config_attr);
1598         else
1599                 sysfs_remove_bin_file(&pdev->dev.kobj, &pci_config_attr);
1600 err:
1601         return retval;
1602 }
1603
1604 static void pci_remove_capabilities_sysfs(struct pci_dev *dev)
1605 {
1606         if (dev->vpd && dev->vpd->attr) {
1607                 sysfs_remove_bin_file(&dev->dev.kobj, dev->vpd->attr);
1608                 kfree(dev->vpd->attr);
1609         }
1610
1611         pcie_aspm_remove_sysfs_dev_files(dev);
1612         if (dev->reset_fn) {
1613                 device_remove_file(&dev->dev, &reset_attr);
1614                 dev->reset_fn = 0;
1615         }
1616 }
1617
1618 /**
1619  * pci_remove_sysfs_dev_files - cleanup PCI specific sysfs files
1620  * @pdev: device whose entries we should free
1621  *
1622  * Cleanup when @pdev is removed from sysfs.
1623  */
1624 void pci_remove_sysfs_dev_files(struct pci_dev *pdev)
1625 {
1626         if (!sysfs_initialized)
1627                 return;
1628
1629         pci_remove_capabilities_sysfs(pdev);
1630
1631         if (pdev->cfg_size > PCI_CFG_SPACE_SIZE)
1632                 sysfs_remove_bin_file(&pdev->dev.kobj, &pcie_config_attr);
1633         else
1634                 sysfs_remove_bin_file(&pdev->dev.kobj, &pci_config_attr);
1635
1636         pci_remove_resource_files(pdev);
1637
1638         if (pdev->rom_attr) {
1639                 sysfs_remove_bin_file(&pdev->dev.kobj, pdev->rom_attr);
1640                 kfree(pdev->rom_attr);
1641                 pdev->rom_attr = NULL;
1642         }
1643
1644         pci_remove_firmware_label_files(pdev);
1645 }
1646
1647 static int __init pci_sysfs_init(void)
1648 {
1649         struct pci_dev *pdev = NULL;
1650         int retval;
1651
1652         sysfs_initialized = 1;
1653         for_each_pci_dev(pdev) {
1654                 retval = pci_create_sysfs_dev_files(pdev);
1655                 if (retval) {
1656                         pci_dev_put(pdev);
1657                         return retval;
1658                 }
1659         }
1660
1661         return 0;
1662 }
1663 late_initcall(pci_sysfs_init);
1664
1665 static struct attribute *pci_dev_dev_attrs[] = {
1666         &vga_attr.attr,
1667         NULL,
1668 };
1669
1670 static umode_t pci_dev_attrs_are_visible(struct kobject *kobj,
1671                                          struct attribute *a, int n)
1672 {
1673         struct device *dev = kobj_to_dev(kobj);
1674         struct pci_dev *pdev = to_pci_dev(dev);
1675
1676         if (a == &vga_attr.attr)
1677                 if ((pdev->class >> 8) != PCI_CLASS_DISPLAY_VGA)
1678                         return 0;
1679
1680         return a->mode;
1681 }
1682
1683 static struct attribute *pci_dev_hp_attrs[] = {
1684         &dev_remove_attr.attr,
1685         &dev_rescan_attr.attr,
1686         NULL,
1687 };
1688
1689 static umode_t pci_dev_hp_attrs_are_visible(struct kobject *kobj,
1690                                             struct attribute *a, int n)
1691 {
1692         struct device *dev = kobj_to_dev(kobj);
1693         struct pci_dev *pdev = to_pci_dev(dev);
1694
1695         if (pdev->is_virtfn)
1696                 return 0;
1697
1698         return a->mode;
1699 }
1700
1701 static umode_t pci_bridge_attrs_are_visible(struct kobject *kobj,
1702                                             struct attribute *a, int n)
1703 {
1704         struct device *dev = kobj_to_dev(kobj);
1705         struct pci_dev *pdev = to_pci_dev(dev);
1706
1707         if (pci_is_bridge(pdev))
1708                 return a->mode;
1709
1710         return 0;
1711 }
1712
1713 static umode_t pcie_dev_attrs_are_visible(struct kobject *kobj,
1714                                           struct attribute *a, int n)
1715 {
1716         struct device *dev = kobj_to_dev(kobj);
1717         struct pci_dev *pdev = to_pci_dev(dev);
1718
1719         if (pci_is_pcie(pdev))
1720                 return a->mode;
1721
1722         return 0;
1723 }
1724
1725 static const struct attribute_group pci_dev_group = {
1726         .attrs = pci_dev_attrs,
1727 };
1728
1729 const struct attribute_group *pci_dev_groups[] = {
1730         &pci_dev_group,
1731         NULL,
1732 };
1733
1734 static const struct attribute_group pci_bridge_group = {
1735         .attrs = pci_bridge_attrs,
1736 };
1737
1738 const struct attribute_group *pci_bridge_groups[] = {
1739         &pci_bridge_group,
1740         NULL,
1741 };
1742
1743 static const struct attribute_group pcie_dev_group = {
1744         .attrs = pcie_dev_attrs,
1745 };
1746
1747 const struct attribute_group *pcie_dev_groups[] = {
1748         &pcie_dev_group,
1749         NULL,
1750 };
1751
1752 static const struct attribute_group pci_dev_hp_attr_group = {
1753         .attrs = pci_dev_hp_attrs,
1754         .is_visible = pci_dev_hp_attrs_are_visible,
1755 };
1756
1757 #ifdef CONFIG_PCI_IOV
1758 static struct attribute *sriov_dev_attrs[] = {
1759         &sriov_totalvfs_attr.attr,
1760         &sriov_numvfs_attr.attr,
1761         &sriov_offset_attr.attr,
1762         &sriov_stride_attr.attr,
1763         &sriov_vf_device_attr.attr,
1764         &sriov_drivers_autoprobe_attr.attr,
1765         NULL,
1766 };
1767
1768 static umode_t sriov_attrs_are_visible(struct kobject *kobj,
1769                                        struct attribute *a, int n)
1770 {
1771         struct device *dev = kobj_to_dev(kobj);
1772
1773         if (!dev_is_pf(dev))
1774                 return 0;
1775
1776         return a->mode;
1777 }
1778
1779 static const struct attribute_group sriov_dev_attr_group = {
1780         .attrs = sriov_dev_attrs,
1781         .is_visible = sriov_attrs_are_visible,
1782 };
1783 #endif /* CONFIG_PCI_IOV */
1784
1785 static const struct attribute_group pci_dev_attr_group = {
1786         .attrs = pci_dev_dev_attrs,
1787         .is_visible = pci_dev_attrs_are_visible,
1788 };
1789
1790 static const struct attribute_group pci_bridge_attr_group = {
1791         .attrs = pci_bridge_attrs,
1792         .is_visible = pci_bridge_attrs_are_visible,
1793 };
1794
1795 static const struct attribute_group pcie_dev_attr_group = {
1796         .attrs = pcie_dev_attrs,
1797         .is_visible = pcie_dev_attrs_are_visible,
1798 };
1799
1800 static const struct attribute_group *pci_dev_attr_groups[] = {
1801         &pci_dev_attr_group,
1802         &pci_dev_hp_attr_group,
1803 #ifdef CONFIG_PCI_IOV
1804         &sriov_dev_attr_group,
1805 #endif
1806         &pci_bridge_attr_group,
1807         &pcie_dev_attr_group,
1808         NULL,
1809 };
1810
1811 const struct device_type pci_dev_type = {
1812         .groups = pci_dev_attr_groups,
1813 };