sound/soc/intel/skylake/skl.c

   1 /*
   2  *  skl.c - Implementation of ASoC Intel SKL HD Audio driver
   3  *
   4  *  Copyright (C) 2014-2015 Intel Corp
   5  *  Author: Jeeja KP <jeeja.kp@intel.com>
   6  *
   7  *  Derived mostly from Intel HDA driver with following copyrights:
   8  *  Copyright (c) 2004 Takashi Iwai <tiwai@suse.de>
   9  *                     PeiSen Hou <pshou@realtek.com.tw>
  10  *  ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
  11  *
  12  *  This program is free software; you can redistribute it and/or modify
  13  *  it under the terms of the GNU General Public License as published by
  14  *  the Free Software Foundation; version 2 of the License.
  15  *
  16  *  This program is distributed in the hope that it will be useful, but
  17  *  WITHOUT ANY WARRANTY; without even the implied warranty of
  18  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  19  *  General Public License for more details.
  20  *
  21  * ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
  22  */
  23
  24 #include <linux/module.h>
  25 #include <linux/pci.h>
  26 #include <linux/pm_runtime.h>
  27 #include <linux/platform_device.h>
  28 #include <linux/firmware.h>
  29 #include <linux/delay.h>
  30 #include <sound/pcm.h>
  31 #include "../common/sst-acpi.h"
  32 #include <sound/hda_register.h>
  33 #include <sound/hdaudio.h>
  34 #include <sound/hda_i915.h>
  35 #include "skl.h"
  36 #include "skl-sst-dsp.h"
  37 #include "skl-sst-ipc.h"
  38
  39 static struct skl_machine_pdata skl_dmic_data;
  40
  41 /*
  42  * initialize the PCI registers
  43  */
  44 static void skl_update_pci_byte(struct pci_dev *pci, unsigned int reg,
  45                             unsigned char mask, unsigned char val)
  46 {
  47         unsigned char data;
  48
  49         pci_read_config_byte(pci, reg, &data);
  50         data &= ~mask;
  51         data |= (val & mask);
  52         pci_write_config_byte(pci, reg, data);
  53 }
  54
  55 static void skl_init_pci(struct skl *skl)
  56 {
  57         struct hdac_ext_bus *ebus = &skl->ebus;
  58
  59         /*
  60          * Clear bits 0-2 of PCI register TCSEL (at offset 0x44)
  61          * TCSEL == Traffic Class Select Register, which sets PCI express QOS
  62          * Ensuring these bits are 0 clears playback static on some HD Audio
  63          * codecs.
  64          * The PCI register TCSEL is defined in the Intel manuals.
  65          */
  66         dev_dbg(ebus_to_hbus(ebus)->dev, "Clearing TCSEL\n");
  67         skl_update_pci_byte(skl->pci, AZX_PCIREG_TCSEL, 0x07, 0);
  68 }
  69
  70 static void update_pci_dword(struct pci_dev *pci,
  71                         unsigned int reg, u32 mask, u32 val)
  72 {
  73         u32 data = 0;
  74
  75         pci_read_config_dword(pci, reg, &data);
  76         data &= ~mask;
  77         data |= (val & mask);
  78         pci_write_config_dword(pci, reg, data);
  79 }
  80
  81 /*
  82  * skl_enable_miscbdcge - enable/dsiable CGCTL.MISCBDCGE bits
  83  *
  84  * @dev: device pointer
  85  * @enable: enable/disable flag
  86  */
  87 static void skl_enable_miscbdcge(struct device *dev, bool enable)
  88 {
  89         struct pci_dev *pci = to_pci_dev(dev);
  90         u32 val;
  91
  92         val = enable ? AZX_CGCTL_MISCBDCGE_MASK : 0;
  93
  94         update_pci_dword(pci, AZX_PCIREG_CGCTL, AZX_CGCTL_MISCBDCGE_MASK, val);
  95 }
  96
  97 /*
  98  * While performing reset, controller may not come back properly causing
  99  * issues, so recommendation is to set CGCTL.MISCBDCGE to 0 then do reset
 100  * (init chip) and then again set CGCTL.MISCBDCGE to 1
 101  */
 102 static int skl_init_chip(struct hdac_bus *bus, bool full_reset)
 103 {
 104         int ret;
 105
 106         skl_enable_miscbdcge(bus->dev, false);
 107         ret = snd_hdac_bus_init_chip(bus, full_reset);
 108         skl_enable_miscbdcge(bus->dev, true);
 109
 110         return ret;
 111 }
 112
 113 void skl_update_d0i3c(struct device *dev, bool enable)
 114 {
 115         struct pci_dev *pci = to_pci_dev(dev);
 116         struct hdac_ext_bus *ebus = pci_get_drvdata(pci);
 117         struct hdac_bus *bus = ebus_to_hbus(ebus);
 118         u8 reg;
 119         int timeout = 50;
 120
 121         reg = snd_hdac_chip_readb(bus, VS_D0I3C);
 122         /* Do not write to D0I3C until command in progress bit is cleared */
 123         while ((reg & AZX_REG_VS_D0I3C_CIP) && --timeout) {
 124                 udelay(10);
 125                 reg = snd_hdac_chip_readb(bus, VS_D0I3C);
 126         }
 127
 128         /* Highly unlikely. But if it happens, flag error explicitly */
 129         if (!timeout) {
 130                 dev_err(bus->dev, "Before D0I3C update: D0I3C CIP timeout\n");
 131                 return;
 132         }
 133
 134         if (enable)
 135                 reg = reg | AZX_REG_VS_D0I3C_I3;
 136         else
 137                 reg = reg & (~AZX_REG_VS_D0I3C_I3);
 138
 139         snd_hdac_chip_writeb(bus, VS_D0I3C, reg);
 140
 141         timeout = 50;
 142         /* Wait for cmd in progress to be cleared before exiting the function */
 143         reg = snd_hdac_chip_readb(bus, VS_D0I3C);
 144         while ((reg & AZX_REG_VS_D0I3C_CIP) && --timeout) {
 145                 udelay(10);
 146                 reg = snd_hdac_chip_readb(bus, VS_D0I3C);
 147         }
 148
 149         /* Highly unlikely. But if it happens, flag error explicitly */
 150         if (!timeout) {
 151                 dev_err(bus->dev, "After D0I3C update: D0I3C CIP timeout\n");
 152                 return;
 153         }
 154
 155         dev_dbg(bus->dev, "D0I3C register = 0x%x\n",
 156                         snd_hdac_chip_readb(bus, VS_D0I3C));
 157 }
 158
 159 /* called from IRQ */
 160 static void skl_stream_update(struct hdac_bus *bus, struct hdac_stream *hstr)
 161 {
 162         snd_pcm_period_elapsed(hstr->substream);
 163 }
 164
 165 static irqreturn_t skl_interrupt(int irq, void *dev_id)
 166 {
 167         struct hdac_ext_bus *ebus = dev_id;
 168         struct hdac_bus *bus = ebus_to_hbus(ebus);
 169         u32 status;
 170
 171         if (!pm_runtime_active(bus->dev))
 172                 return IRQ_NONE;
 173
 174         spin_lock(&bus->reg_lock);
 175
 176         status = snd_hdac_chip_readl(bus, INTSTS);
 177         if (status == 0 || status == 0xffffffff) {
 178                 spin_unlock(&bus->reg_lock);
 179                 return IRQ_NONE;
 180         }
 181
 182         /* clear rirb int */
 183         status = snd_hdac_chip_readb(bus, RIRBSTS);
 184         if (status & RIRB_INT_MASK) {
 185                 if (status & RIRB_INT_RESPONSE)
 186                         snd_hdac_bus_update_rirb(bus);
 187                 snd_hdac_chip_writeb(bus, RIRBSTS, RIRB_INT_MASK);
 188         }
 189
 190         spin_unlock(&bus->reg_lock);
 191
 192         return snd_hdac_chip_readl(bus, INTSTS) ? IRQ_WAKE_THREAD : IRQ_HANDLED;
 193 }
 194
 195 static irqreturn_t skl_threaded_handler(int irq, void *dev_id)
 196 {
 197         struct hdac_ext_bus *ebus = dev_id;
 198         struct hdac_bus *bus = ebus_to_hbus(ebus);
 199         u32 status;
 200
 201         status = snd_hdac_chip_readl(bus, INTSTS);
 202
 203         snd_hdac_bus_handle_stream_irq(bus, status, skl_stream_update);
 204
 205         return IRQ_HANDLED;
 206 }
 207
 208 static int skl_acquire_irq(struct hdac_ext_bus *ebus, int do_disconnect)
 209 {
 210         struct skl *skl = ebus_to_skl(ebus);
 211         struct hdac_bus *bus = ebus_to_hbus(ebus);
 212         int ret;
 213
 214         ret = request_threaded_irq(skl->pci->irq, skl_interrupt,
 215                         skl_threaded_handler,
 216                         IRQF_SHARED,
 217                         KBUILD_MODNAME, ebus);
 218         if (ret) {
 219                 dev_err(bus->dev,
 220                         "unable to grab IRQ %d, disabling device\n",
 221                         skl->pci->irq);
 222                 return ret;
 223         }
 224
 225         bus->irq = skl->pci->irq;
 226         pci_intx(skl->pci, 1);
 227
 228         return 0;
 229 }
 230
 231 static int skl_suspend_late(struct device *dev)
 232 {
 233         struct pci_dev *pci = to_pci_dev(dev);
 234         struct hdac_ext_bus *ebus = pci_get_drvdata(pci);
 235         struct skl *skl = ebus_to_skl(ebus);
 236
 237         return skl_suspend_late_dsp(skl);
 238 }
 239
 240 #ifdef CONFIG_PM
 241 static int _skl_suspend(struct hdac_ext_bus *ebus)
 242 {
 243         struct skl *skl = ebus_to_skl(ebus);
 244         struct hdac_bus *bus = ebus_to_hbus(ebus);
 245         struct pci_dev *pci = to_pci_dev(bus->dev);
 246         int ret;
 247
 248         snd_hdac_ext_bus_link_power_down_all(ebus);
 249
 250         ret = skl_suspend_dsp(skl);
 251         if (ret < 0)
 252                 return ret;
 253
 254         snd_hdac_bus_stop_chip(bus);
 255         update_pci_dword(pci, AZX_PCIREG_PGCTL,
 256                 AZX_PGCTL_LSRMD_MASK, AZX_PGCTL_LSRMD_MASK);
 257         skl_enable_miscbdcge(bus->dev, false);
 258         snd_hdac_bus_enter_link_reset(bus);
 259         skl_enable_miscbdcge(bus->dev, true);
 260         skl_cleanup_resources(skl);
 261
 262         return 0;
 263 }
 264
 265 static int _skl_resume(struct hdac_ext_bus *ebus)
 266 {
 267         struct skl *skl = ebus_to_skl(ebus);
 268         struct hdac_bus *bus = ebus_to_hbus(ebus);
 269
 270         skl_init_pci(skl);
 271         skl_init_chip(bus, true);
 272
 273         return skl_resume_dsp(skl);
 274 }
 275 #endif
 276
 277 #ifdef CONFIG_PM_SLEEP
 278 /*
 279  * power management
 280  */
 281 static int skl_suspend(struct device *dev)
 282 {
 283         struct pci_dev *pci = to_pci_dev(dev);
 284         struct hdac_ext_bus *ebus = pci_get_drvdata(pci);
 285         struct skl *skl  = ebus_to_skl(ebus);
 286         struct hdac_bus *bus = ebus_to_hbus(ebus);
 287         int ret = 0;
 288
 289         /*
 290          * Do not suspend if streams which are marked ignore suspend are
 291          * running, we need to save the state for these and continue
 292          */
 293         if (skl->supend_active) {
 294                 /* turn off the links and stop the CORB/RIRB DMA if it is On */
 295                 snd_hdac_ext_bus_link_power_down_all(ebus);
 296
 297                 if (ebus->cmd_dma_state)
 298                         snd_hdac_bus_stop_cmd_io(&ebus->bus);
 299
 300                 enable_irq_wake(bus->irq);
 301                 pci_save_state(pci);
 302         } else {
 303                 ret = _skl_suspend(ebus);
 304                 if (ret < 0)
 305                         return ret;
 306                 skl->skl_sst->fw_loaded = false;
 307         }
 308
 309         if (IS_ENABLED(CONFIG_SND_SOC_HDAC_HDMI)) {
 310                 ret = snd_hdac_display_power(bus, false);
 311                 if (ret < 0)
 312                         dev_err(bus->dev,
 313                                 "Cannot turn OFF display power on i915\n");
 314         }
 315
 316         return ret;
 317 }
 318
 319 static int skl_resume(struct device *dev)
 320 {
 321         struct pci_dev *pci = to_pci_dev(dev);
 322         struct hdac_ext_bus *ebus = pci_get_drvdata(pci);
 323         struct skl *skl  = ebus_to_skl(ebus);
 324         struct hdac_bus *bus = ebus_to_hbus(ebus);
 325         struct hdac_ext_link *hlink = NULL;
 326         int ret;
 327
 328         /* Turned OFF in HDMI codec driver after codec reconfiguration */
 329         if (IS_ENABLED(CONFIG_SND_SOC_HDAC_HDMI)) {
 330                 ret = snd_hdac_display_power(bus, true);
 331                 if (ret < 0) {
 332                         dev_err(bus->dev,
 333                                 "Cannot turn on display power on i915\n");
 334                         return ret;
 335                 }
 336         }
 337
 338         /*
 339          * resume only when we are not in suspend active, otherwise need to
 340          * restore the device
 341          */
 342         if (skl->supend_active) {
 343                 pci_restore_state(pci);
 344                 snd_hdac_ext_bus_link_power_up_all(ebus);
 345                 disable_irq_wake(bus->irq);
 346                 /*
 347                  * turn On the links which are On before active suspend
 348                  * and start the CORB/RIRB DMA if On before
 349                  * active suspend.
 350                  */
 351                 list_for_each_entry(hlink, &ebus->hlink_list, list) {
 352                         if (hlink->ref_count)
 353                                 snd_hdac_ext_bus_link_power_up(hlink);
 354                 }
 355
 356                 if (ebus->cmd_dma_state)
 357                         snd_hdac_bus_init_cmd_io(&ebus->bus);
 358         } else {
 359                 ret = _skl_resume(ebus);
 360
 361                 /* turn off the links which are off before suspend */
 362                 list_for_each_entry(hlink, &ebus->hlink_list, list) {
 363                         if (!hlink->ref_count)
 364                                 snd_hdac_ext_bus_link_power_down(hlink);
 365                 }
 366
 367                 if (!ebus->cmd_dma_state)
 368                         snd_hdac_bus_stop_cmd_io(&ebus->bus);
 369         }
 370
 371         return ret;
 372 }
 373 #endif /* CONFIG_PM_SLEEP */
 374
 375 #ifdef CONFIG_PM
 376 static int skl_runtime_suspend(struct device *dev)
 377 {
 378         struct pci_dev *pci = to_pci_dev(dev);
 379         struct hdac_ext_bus *ebus = pci_get_drvdata(pci);
 380         struct hdac_bus *bus = ebus_to_hbus(ebus);
 381
 382         dev_dbg(bus->dev, "in %s\n", __func__);
 383
 384         return _skl_suspend(ebus);
 385 }
 386
 387 static int skl_runtime_resume(struct device *dev)
 388 {
 389         struct pci_dev *pci = to_pci_dev(dev);
 390         struct hdac_ext_bus *ebus = pci_get_drvdata(pci);
 391         struct hdac_bus *bus = ebus_to_hbus(ebus);
 392
 393         dev_dbg(bus->dev, "in %s\n", __func__);
 394
 395         return _skl_resume(ebus);
 396 }
 397 #endif /* CONFIG_PM */
 398
 399 static const struct dev_pm_ops skl_pm = {
 400         SET_SYSTEM_SLEEP_PM_OPS(skl_suspend, skl_resume)
 401         SET_RUNTIME_PM_OPS(skl_runtime_suspend, skl_runtime_resume, NULL)
 402         .suspend_late = skl_suspend_late,
 403 };
 404
 405 /*
 406  * destructor
 407  */
 408 static int skl_free(struct hdac_ext_bus *ebus)
 409 {
 410         struct skl *skl  = ebus_to_skl(ebus);
 411         struct hdac_bus *bus = ebus_to_hbus(ebus);
 412
 413         skl->init_done = 0; /* to be sure */
 414
 415         snd_hdac_ext_stop_streams(ebus);
 416
 417         if (bus->irq >= 0)
 418                 free_irq(bus->irq, (void *)bus);
 419         snd_hdac_bus_free_stream_pages(bus);
 420         snd_hdac_stream_free_all(ebus);
 421         snd_hdac_link_free_all(ebus);
 422
 423         if (bus->remap_addr)
 424                 iounmap(bus->remap_addr);
 425
 426         pci_release_regions(skl->pci);
 427         pci_disable_device(skl->pci);
 428
 429         snd_hdac_ext_bus_exit(ebus);
 430
 431         cancel_work_sync(&skl->probe_work);
 432         if (IS_ENABLED(CONFIG_SND_SOC_HDAC_HDMI))
 433                 snd_hdac_i915_exit(&ebus->bus);
 434
 435         return 0;
 436 }
 437
 438 static int skl_machine_device_register(struct skl *skl, void *driver_data)
 439 {
 440         struct hdac_bus *bus = ebus_to_hbus(&skl->ebus);
 441         struct platform_device *pdev;
 442         struct sst_acpi_mach *mach = driver_data;
 443         int ret;
 444
 445         mach = sst_acpi_find_machine(mach);
 446         if (mach == NULL) {
 447                 dev_err(bus->dev, "No matching machine driver found\n");
 448                 return -ENODEV;
 449         }
 450         skl->fw_name = mach->fw_filename;
 451
 452         pdev = platform_device_alloc(mach->drv_name, -1);
 453         if (pdev == NULL) {
 454                 dev_err(bus->dev, "platform device alloc failed\n");
 455                 return -EIO;
 456         }
 457
 458         ret = platform_device_add(pdev);
 459         if (ret) {
 460                 dev_err(bus->dev, "failed to add machine device\n");
 461                 platform_device_put(pdev);
 462                 return -EIO;
 463         }
 464
 465         if (mach->pdata)
 466                 dev_set_drvdata(&pdev->dev, mach->pdata);
 467
 468         skl->i2s_dev = pdev;
 469
 470         return 0;
 471 }
 472
 473 static void skl_machine_device_unregister(struct skl *skl)
 474 {
 475         if (skl->i2s_dev)
 476                 platform_device_unregister(skl->i2s_dev);
 477 }
 478
 479 static int skl_dmic_device_register(struct skl *skl)
 480 {
 481         struct hdac_bus *bus = ebus_to_hbus(&skl->ebus);
 482         struct platform_device *pdev;
 483         int ret;
 484
 485         /* SKL has one dmic port, so allocate dmic device for this */
 486         pdev = platform_device_alloc("dmic-codec", -1);
 487         if (!pdev) {
 488                 dev_err(bus->dev, "failed to allocate dmic device\n");
 489                 return -ENOMEM;
 490         }
 491
 492         ret = platform_device_add(pdev);
 493         if (ret) {
 494                 dev_err(bus->dev, "failed to add dmic device: %d\n", ret);
 495                 platform_device_put(pdev);
 496                 return ret;
 497         }
 498         skl->dmic_dev = pdev;
 499
 500         return 0;
 501 }
 502
 503 static void skl_dmic_device_unregister(struct skl *skl)
 504 {
 505         if (skl->dmic_dev)
 506                 platform_device_unregister(skl->dmic_dev);
 507 }
 508
 509 /*
 510  * Probe the given codec address
 511  */
 512 static int probe_codec(struct hdac_ext_bus *ebus, int addr)
 513 {
 514         struct hdac_bus *bus = ebus_to_hbus(ebus);
 515         unsigned int cmd = (addr << 28) | (AC_NODE_ROOT << 20) |
 516                 (AC_VERB_PARAMETERS << 8) | AC_PAR_VENDOR_ID;
 517         unsigned int res = -1;
 518
 519         mutex_lock(&bus->cmd_mutex);
 520         snd_hdac_bus_send_cmd(bus, cmd);
 521         snd_hdac_bus_get_response(bus, addr, &res);
 522         mutex_unlock(&bus->cmd_mutex);
 523         if (res == -1)
 524                 return -EIO;
 525         dev_dbg(bus->dev, "codec #%d probed OK\n", addr);
 526
 527         return snd_hdac_ext_bus_device_init(ebus, addr);
 528 }
 529
 530 /* Codec initialization */
 531 static void skl_codec_create(struct hdac_ext_bus *ebus)
 532 {
 533         struct hdac_bus *bus = ebus_to_hbus(ebus);
 534         int c, max_slots;
 535
 536         max_slots = HDA_MAX_CODECS;
 537
 538         /* First try to probe all given codec slots */
 539         for (c = 0; c < max_slots; c++) {
 540                 if ((bus->codec_mask & (1 << c))) {
 541                         if (probe_codec(ebus, c) < 0) {
 542                                 /*
 543                                  * Some BIOSen give you wrong codec addresses
 544                                  * that don't exist
 545                                  */
 546                                 dev_warn(bus->dev,
 547                                          "Codec #%d probe error; disabling it...\n", c);
 548                                 bus->codec_mask &= ~(1 << c);
 549                                 /*
 550                                  * More badly, accessing to a non-existing
 551                                  * codec often screws up the controller bus,
 552                                  * and disturbs the further communications.
 553                                  * Thus if an error occurs during probing,
 554                                  * better to reset the controller bus to get
 555                                  * back to the sanity state.
 556                                  */
 557                                 snd_hdac_bus_stop_chip(bus);
 558                                 skl_init_chip(bus, true);
 559                         }
 560                 }
 561         }
 562 }
 563
 564 static const struct hdac_bus_ops bus_core_ops = {
 565         .command = snd_hdac_bus_send_cmd,
 566         .get_response = snd_hdac_bus_get_response,
 567 };
 568
 569 static int skl_i915_init(struct hdac_bus *bus)
 570 {
 571         int err;
 572
 573         /*
 574          * The HDMI codec is in GPU so we need to ensure that it is powered
 575          * up and ready for probe
 576          */
 577         err = snd_hdac_i915_init(bus);
 578         if (err < 0)
 579                 return err;
 580
 581         err = snd_hdac_display_power(bus, true);
 582         if (err < 0)
 583                 dev_err(bus->dev, "Cannot turn on display power on i915\n");
 584
 585         return err;
 586 }
 587
 588 static void skl_probe_work(struct work_struct *work)
 589 {
 590         struct skl *skl = container_of(work, struct skl, probe_work);
 591         struct hdac_ext_bus *ebus = &skl->ebus;
 592         struct hdac_bus *bus = ebus_to_hbus(ebus);
 593         struct hdac_ext_link *hlink = NULL;
 594         int err;
 595
 596         if (IS_ENABLED(CONFIG_SND_SOC_HDAC_HDMI)) {
 597                 err = skl_i915_init(bus);
 598                 if (err < 0)
 599                         return;
 600         }
 601
 602         err = skl_init_chip(bus, true);
 603         if (err < 0) {
 604                 dev_err(bus->dev, "Init chip failed with err: %d\n", err);
 605                 goto out_err;
 606         }
 607
 608         /* codec detection */
 609         if (!bus->codec_mask)
 610                 dev_info(bus->dev, "no hda codecs found!\n");
 611
 612         /* create codec instances */
 613         skl_codec_create(ebus);
 614
 615         if (IS_ENABLED(CONFIG_SND_SOC_HDAC_HDMI)) {
 616                 err = snd_hdac_display_power(bus, false);
 617                 if (err < 0) {
 618                         dev_err(bus->dev, "Cannot turn off display power on i915\n");
 619                         return;
 620                 }
 621         }
 622
 623         /* register platform dai and controls */
 624         err = skl_platform_register(bus->dev);
 625         if (err < 0)
 626                 return;
 627         /*
 628          * we are done probing so decrement link counts
 629          */
 630         list_for_each_entry(hlink, &ebus->hlink_list, list)
 631                 snd_hdac_ext_bus_link_put(ebus, hlink);
 632
 633         /* configure PM */
 634         pm_runtime_put_noidle(bus->dev);
 635         pm_runtime_allow(bus->dev);
 636         skl->init_done = 1;
 637
 638         return;
 639
 640 out_err:
 641         if (IS_ENABLED(CONFIG_SND_SOC_HDAC_HDMI))
 642                 err = snd_hdac_display_power(bus, false);
 643 }
 644
 645 /*
 646  * constructor
 647  */
 648 static int skl_create(struct pci_dev *pci,
 649                       const struct hdac_io_ops *io_ops,
 650                       struct skl **rskl)
 651 {
 652         struct skl *skl;
 653         struct hdac_ext_bus *ebus;
 654
 655         int err;
 656
 657         *rskl = NULL;
 658
 659         err = pci_enable_device(pci);
 660         if (err < 0)
 661                 return err;
 662
 663         skl = devm_kzalloc(&pci->dev, sizeof(*skl), GFP_KERNEL);
 664         if (!skl) {
 665                 pci_disable_device(pci);
 666                 return -ENOMEM;
 667         }
 668         ebus = &skl->ebus;
 669         snd_hdac_ext_bus_init(ebus, &pci->dev, &bus_core_ops, io_ops);
 670         ebus->bus.use_posbuf = 1;
 671         skl->pci = pci;
 672         INIT_WORK(&skl->probe_work, skl_probe_work);
 673
 674         ebus->bus.bdl_pos_adj = 0;
 675
 676         *rskl = skl;
 677
 678         return 0;
 679 }
 680
 681 static int skl_first_init(struct hdac_ext_bus *ebus)
 682 {
 683         struct skl *skl = ebus_to_skl(ebus);
 684         struct hdac_bus *bus = ebus_to_hbus(ebus);
 685         struct pci_dev *pci = skl->pci;
 686         int err;
 687         unsigned short gcap;
 688         int cp_streams, pb_streams, start_idx;
 689
 690         err = pci_request_regions(pci, "Skylake HD audio");
 691         if (err < 0)
 692                 return err;
 693
 694         bus->addr = pci_resource_start(pci, 0);
 695         bus->remap_addr = pci_ioremap_bar(pci, 0);
 696         if (bus->remap_addr == NULL) {
 697                 dev_err(bus->dev, "ioremap error\n");
 698                 return -ENXIO;
 699         }
 700
 701         skl_init_chip(bus, true);
 702
 703         snd_hdac_bus_parse_capabilities(bus);
 704
 705         if (skl_acquire_irq(ebus, 0) < 0)
 706                 return -EBUSY;
 707
 708         pci_set_master(pci);
 709         synchronize_irq(bus->irq);
 710
 711         gcap = snd_hdac_chip_readw(bus, GCAP);
 712         dev_dbg(bus->dev, "chipset global capabilities = 0x%x\n", gcap);
 713
 714         /* allow 64bit DMA address if supported by H/W */
 715         if (!dma_set_mask(bus->dev, DMA_BIT_MASK(64))) {
 716                 dma_set_coherent_mask(bus->dev, DMA_BIT_MASK(64));
 717         } else {
 718                 dma_set_mask(bus->dev, DMA_BIT_MASK(32));
 719                 dma_set_coherent_mask(bus->dev, DMA_BIT_MASK(32));
 720         }
 721
 722         /* read number of streams from GCAP register */
 723         cp_streams = (gcap >> 8) & 0x0f;
 724         pb_streams = (gcap >> 12) & 0x0f;
 725
 726         if (!pb_streams && !cp_streams)
 727                 return -EIO;
 728
 729         ebus->num_streams = cp_streams + pb_streams;
 730
 731         /* initialize streams */
 732         snd_hdac_ext_stream_init_all
 733                 (ebus, 0, cp_streams, SNDRV_PCM_STREAM_CAPTURE);
 734         start_idx = cp_streams;
 735         snd_hdac_ext_stream_init_all
 736                 (ebus, start_idx, pb_streams, SNDRV_PCM_STREAM_PLAYBACK);
 737
 738         err = snd_hdac_bus_alloc_stream_pages(bus);
 739         if (err < 0)
 740                 return err;
 741
 742         /* initialize chip */
 743         skl_init_pci(skl);
 744
 745         return skl_init_chip(bus, true);
 746 }
 747
 748 static int skl_probe(struct pci_dev *pci,
 749                      const struct pci_device_id *pci_id)
 750 {
 751         struct skl *skl;
 752         struct hdac_ext_bus *ebus = NULL;
 753         struct hdac_bus *bus = NULL;
 754         int err;
 755
 756         /* we use ext core ops, so provide NULL for ops here */
 757         err = skl_create(pci, NULL, &skl);
 758         if (err < 0)
 759                 return err;
 760
 761         ebus = &skl->ebus;
 762         bus = ebus_to_hbus(ebus);
 763
 764         err = skl_first_init(ebus);
 765         if (err < 0)
 766                 goto out_free;
 767
 768         skl->pci_id = pci->device;
 769
 770         device_disable_async_suspend(bus->dev);
 771
 772         skl->nhlt = skl_nhlt_init(bus->dev);
 773
 774         if (skl->nhlt == NULL) {
 775                 err = -ENODEV;
 776                 goto out_free;
 777         }
 778
 779         err = skl_nhlt_create_sysfs(skl);
 780         if (err < 0)
 781                 goto out_nhlt_free;
 782
 783         skl_nhlt_update_topology_bin(skl);
 784
 785         pci_set_drvdata(skl->pci, ebus);
 786
 787         skl_dmic_data.dmic_num = skl_get_dmic_geo(skl);
 788
 789         /* check if dsp is there */
 790         if (bus->ppcap) {
 791                 err = skl_machine_device_register(skl,
 792                                   (void *)pci_id->driver_data);
 793                 if (err < 0)
 794                         goto out_nhlt_free;
 795
 796                 err = skl_init_dsp(skl);
 797                 if (err < 0) {
 798                         dev_dbg(bus->dev, "error failed to register dsp\n");
 799                         goto out_mach_free;
 800                 }
 801                 skl->skl_sst->enable_miscbdcge = skl_enable_miscbdcge;
 802
 803         }
 804         if (bus->mlcap)
 805                 snd_hdac_ext_bus_get_ml_capabilities(ebus);
 806
 807         snd_hdac_bus_stop_chip(bus);
 808
 809         /* create device for soc dmic */
 810         err = skl_dmic_device_register(skl);
 811         if (err < 0)
 812                 goto out_dsp_free;
 813
 814         schedule_work(&skl->probe_work);
 815
 816         return 0;
 817
 818 out_dsp_free:
 819         skl_free_dsp(skl);
 820 out_mach_free:
 821         skl_machine_device_unregister(skl);
 822 out_nhlt_free:
 823         skl_nhlt_free(skl->nhlt);
 824 out_free:
 825         skl_free(ebus);
 826
 827         return err;
 828 }
 829
 830 static void skl_shutdown(struct pci_dev *pci)
 831 {
 832         struct hdac_ext_bus *ebus = pci_get_drvdata(pci);
 833         struct hdac_bus *bus = ebus_to_hbus(ebus);
 834         struct hdac_stream *s;
 835         struct hdac_ext_stream *stream;
 836         struct skl *skl;
 837
 838         if (ebus == NULL)
 839                 return;
 840
 841         skl = ebus_to_skl(ebus);
 842
 843         if (!skl->init_done)
 844                 return;
 845
 846         snd_hdac_ext_stop_streams(ebus);
 847         list_for_each_entry(s, &bus->stream_list, list) {
 848                 stream = stream_to_hdac_ext_stream(s);
 849                 snd_hdac_ext_stream_decouple(ebus, stream, false);
 850         }
 851
 852         snd_hdac_bus_stop_chip(bus);
 853 }
 854
 855 static void skl_remove(struct pci_dev *pci)
 856 {
 857         struct hdac_ext_bus *ebus = pci_get_drvdata(pci);
 858         struct skl *skl = ebus_to_skl(ebus);
 859
 860         release_firmware(skl->tplg);
 861
 862         pm_runtime_get_noresume(&pci->dev);
 863
 864         /* codec removal, invoke bus_device_remove */
 865         snd_hdac_ext_bus_device_remove(ebus);
 866
 867         skl->debugfs = NULL;
 868         skl_platform_unregister(&pci->dev);
 869         skl_free_dsp(skl);
 870         skl_machine_device_unregister(skl);
 871         skl_dmic_device_unregister(skl);
 872         skl_nhlt_remove_sysfs(skl);
 873         skl_nhlt_free(skl->nhlt);
 874         skl_free(ebus);
 875         dev_set_drvdata(&pci->dev, NULL);
 876 }
 877
 878 static struct sst_codecs skl_codecs = {
 879         .num_codecs = 1,
 880         .codecs = {"NAU88L25"}
 881 };
 882
 883 static struct sst_codecs kbl_codecs = {
 884         .num_codecs = 1,
 885         .codecs = {"NAU88L25"}
 886 };
 887
 888 static struct sst_codecs bxt_codecs = {
 889         .num_codecs = 1,
 890         .codecs = {"MX98357A"}
 891 };
 892
 893 static struct sst_codecs kbl_poppy_codecs = {
 894         .num_codecs = 1,
 895         .codecs = {"10EC5663"}
 896 };
 897
 898 static struct sst_codecs kbl_5663_5514_codecs = {
 899         .num_codecs = 2,
 900         .codecs = {"10EC5663", "10EC5514"}
 901 };
 902
 903
 904 static struct sst_acpi_mach sst_skl_devdata[] = {
 905         {
 906                 .id = "INT343A",
 907                 .drv_name = "skl_alc286s_i2s",
 908                 .fw_filename = "intel/dsp_fw_release.bin",
 909         },
 910         {
 911                 .id = "INT343B",
 912                 .drv_name = "skl_n88l25_s4567",
 913                 .fw_filename = "intel/dsp_fw_release.bin",
 914                 .machine_quirk = sst_acpi_codec_list,
 915                 .quirk_data = &skl_codecs,
 916                 .pdata = &skl_dmic_data
 917         },
 918         {
 919                 .id = "MX98357A",
 920                 .drv_name = "skl_n88l25_m98357a",
 921                 .fw_filename = "intel/dsp_fw_release.bin",
 922                 .machine_quirk = sst_acpi_codec_list,
 923                 .quirk_data = &skl_codecs,
 924                 .pdata = &skl_dmic_data
 925         },
 926         {}
 927 };
 928
 929 static struct sst_acpi_mach sst_bxtp_devdata[] = {
 930         {
 931                 .id = "INT343A",
 932                 .drv_name = "bxt_alc298s_i2s",
 933                 .fw_filename = "intel/dsp_fw_bxtn.bin",
 934         },
 935         {
 936                 .id = "DLGS7219",
 937                 .drv_name = "bxt_da7219_max98357a_i2s",
 938                 .fw_filename = "intel/dsp_fw_bxtn.bin",
 939                 .machine_quirk = sst_acpi_codec_list,
 940                 .quirk_data = &bxt_codecs,
 941         },
 942 };
 943
 944 static struct sst_acpi_mach sst_kbl_devdata[] = {
 945         {
 946                 .id = "INT343A",
 947                 .drv_name = "kbl_alc286s_i2s",
 948                 .fw_filename = "intel/dsp_fw_kbl.bin",
 949         },
 950         {
 951                 .id = "INT343B",
 952                 .drv_name = "kbl_n88l25_s4567",
 953                 .fw_filename = "intel/dsp_fw_kbl.bin",
 954                 .machine_quirk = sst_acpi_codec_list,
 955                 .quirk_data = &kbl_codecs,
 956                 .pdata = &skl_dmic_data
 957         },
 958         {
 959                 .id = "MX98357A",
 960                 .drv_name = "kbl_n88l25_m98357a",
 961                 .fw_filename = "intel/dsp_fw_kbl.bin",
 962                 .machine_quirk = sst_acpi_codec_list,
 963                 .quirk_data = &kbl_codecs,
 964                 .pdata = &skl_dmic_data
 965         },
 966         {
 967                 .id = "MX98927",
 968                 .drv_name = "kbl_r5514_5663_max",
 969                 .fw_filename = "intel/dsp_fw_kbl.bin",
 970                 .machine_quirk = sst_acpi_codec_list,
 971                 .quirk_data = &kbl_5663_5514_codecs,
 972                 .pdata = &skl_dmic_data
 973         },
 974         {
 975                 .id = "MX98927",
 976                 .drv_name = "kbl_rt5663_m98927",
 977                 .fw_filename = "intel/dsp_fw_kbl.bin",
 978                 .machine_quirk = sst_acpi_codec_list,
 979                 .quirk_data = &kbl_poppy_codecs,
 980                 .pdata = &skl_dmic_data
 981         },
 982         {
 983                 .id = "10EC5663",
 984                 .drv_name = "kbl_rt5663",
 985                 .fw_filename = "intel/dsp_fw_kbl.bin",
 986         },
 987
 988         {}
 989 };
 990
 991 static struct sst_acpi_mach sst_glk_devdata[] = {
 992         {
 993                 .id = "INT343A",
 994                 .drv_name = "glk_alc298s_i2s",
 995                 .fw_filename = "intel/dsp_fw_glk.bin",
 996         },
 997 };
 998
 999 /* PCI IDs */
1000 static const struct pci_device_id skl_ids[] = {
1001         /* Sunrise Point-LP */
1002         { PCI_DEVICE(0x8086, 0x9d70),
1003                 .driver_data = (unsigned long)&sst_skl_devdata},
1004         /* BXT-P */
1005         { PCI_DEVICE(0x8086, 0x5a98),
1006                 .driver_data = (unsigned long)&sst_bxtp_devdata},
1007         /* KBL */
1008         { PCI_DEVICE(0x8086, 0x9D71),
1009                 .driver_data = (unsigned long)&sst_kbl_devdata},
1010         /* GLK */
1011         { PCI_DEVICE(0x8086, 0x3198),
1012                 .driver_data = (unsigned long)&sst_glk_devdata},
1013         { 0, }
1014 };
1015 MODULE_DEVICE_TABLE(pci, skl_ids);
1016
1017 /* pci_driver definition */
1018 static struct pci_driver skl_driver = {
1019         .name = KBUILD_MODNAME,
1020         .id_table = skl_ids,
1021         .probe = skl_probe,
1022         .remove = skl_remove,
1023         .shutdown = skl_shutdown,
1024         .driver = {
1025                 .pm = &skl_pm,
1026         },
1027 };
1028 module_pci_driver(skl_driver);
1029
1030 MODULE_LICENSE("GPL v2");
1031 MODULE_DESCRIPTION("Intel Skylake ASoC HDA driver");