drivers/net/dsa/mv88e6xxx.c

   1 /*
   2  * net/dsa/mv88e6xxx.c - Marvell 88e6xxx switch chip support
   3  * Copyright (c) 2008 Marvell Semiconductor
   4  *
   5  * This program is free software; you can redistribute it and/or modify
   6  * it under the terms of the GNU General Public License as published by
   7  * the Free Software Foundation; either version 2 of the License, or
   8  * (at your option) any later version.
   9  */
  10
  11 #include <linux/debugfs.h>
  12 #include <linux/delay.h>
  13 #include <linux/etherdevice.h>
  14 #include <linux/if_bridge.h>
  15 #include <linux/jiffies.h>
  16 #include <linux/list.h>
  17 #include <linux/module.h>
  18 #include <linux/netdevice.h>
  19 #include <linux/phy.h>
  20 #include <linux/seq_file.h>
  21 #include <net/dsa.h>
  22 #include "mv88e6xxx.h"
  23
  24 /* MDIO bus access can be nested in the case of PHYs connected to the
  25  * internal MDIO bus of the switch, which is accessed via MDIO bus of
  26  * the Ethernet interface. Avoid lockdep false positives by using
  27  * mutex_lock_nested().
  28  */
  29 static int mv88e6xxx_mdiobus_read(struct mii_bus *bus, int addr, u32 regnum)
  30 {
  31         int ret;
  32
  33         mutex_lock_nested(&bus->mdio_lock, SINGLE_DEPTH_NESTING);
  34         ret = bus->read(bus, addr, regnum);
  35         mutex_unlock(&bus->mdio_lock);
  36
  37         return ret;
  38 }
  39
  40 static int mv88e6xxx_mdiobus_write(struct mii_bus *bus, int addr, u32 regnum,
  41                                    u16 val)
  42 {
  43         int ret;
  44
  45         mutex_lock_nested(&bus->mdio_lock, SINGLE_DEPTH_NESTING);
  46         ret = bus->write(bus, addr, regnum, val);
  47         mutex_unlock(&bus->mdio_lock);
  48
  49         return ret;
  50 }
  51
  52 /* If the switch's ADDR[4:0] strap pins are strapped to zero, it will
  53  * use all 32 SMI bus addresses on its SMI bus, and all switch registers
  54  * will be directly accessible on some {device address,register address}
  55  * pair.  If the ADDR[4:0] pins are not strapped to zero, the switch
  56  * will only respond to SMI transactions to that specific address, and
  57  * an indirect addressing mechanism needs to be used to access its
  58  * registers.
  59  */
  60 static int mv88e6xxx_reg_wait_ready(struct mii_bus *bus, int sw_addr)
  61 {
  62         int ret;
  63         int i;
  64
  65         for (i = 0; i < 16; i++) {
  66                 ret = mv88e6xxx_mdiobus_read(bus, sw_addr, SMI_CMD);
  67                 if (ret < 0)
  68                         return ret;
  69
  70                 if ((ret & SMI_CMD_BUSY) == 0)
  71                         return 0;
  72         }
  73
  74         return -ETIMEDOUT;
  75 }
  76
  77 int __mv88e6xxx_reg_read(struct mii_bus *bus, int sw_addr, int addr, int reg)
  78 {
  79         int ret;
  80
  81         if (sw_addr == 0)
  82                 return mv88e6xxx_mdiobus_read(bus, addr, reg);
  83
  84         /* Wait for the bus to become free. */
  85         ret = mv88e6xxx_reg_wait_ready(bus, sw_addr);
  86         if (ret < 0)
  87                 return ret;
  88
  89         /* Transmit the read command. */
  90         ret = mv88e6xxx_mdiobus_write(bus, sw_addr, SMI_CMD,
  91                                       SMI_CMD_OP_22_READ | (addr << 5) | reg);
  92         if (ret < 0)
  93                 return ret;
  94
  95         /* Wait for the read command to complete. */
  96         ret = mv88e6xxx_reg_wait_ready(bus, sw_addr);
  97         if (ret < 0)
  98                 return ret;
  99
 100         /* Read the data. */
 101         ret = mv88e6xxx_mdiobus_read(bus, sw_addr, SMI_DATA);
 102         if (ret < 0)
 103                 return ret;
 104
 105         return ret & 0xffff;
 106 }
 107
 108 /* Must be called with SMI mutex held */
 109 static int _mv88e6xxx_reg_read(struct dsa_switch *ds, int addr, int reg)
 110 {
 111         struct mii_bus *bus = dsa_host_dev_to_mii_bus(ds->master_dev);
 112         int ret;
 113
 114         if (bus == NULL)
 115                 return -EINVAL;
 116
 117         ret = __mv88e6xxx_reg_read(bus, ds->pd->sw_addr, addr, reg);
 118         if (ret < 0)
 119                 return ret;
 120
 121         dev_dbg(ds->master_dev, "<- addr: 0x%.2x reg: 0x%.2x val: 0x%.4x\n",
 122                 addr, reg, ret);
 123
 124         return ret;
 125 }
 126
 127 int mv88e6xxx_reg_read(struct dsa_switch *ds, int addr, int reg)
 128 {
 129         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
 130         int ret;
 131
 132         mutex_lock(&ps->smi_mutex);
 133         ret = _mv88e6xxx_reg_read(ds, addr, reg);
 134         mutex_unlock(&ps->smi_mutex);
 135
 136         return ret;
 137 }
 138
 139 int __mv88e6xxx_reg_write(struct mii_bus *bus, int sw_addr, int addr,
 140                           int reg, u16 val)
 141 {
 142         int ret;
 143
 144         if (sw_addr == 0)
 145                 return mv88e6xxx_mdiobus_write(bus, addr, reg, val);
 146
 147         /* Wait for the bus to become free. */
 148         ret = mv88e6xxx_reg_wait_ready(bus, sw_addr);
 149         if (ret < 0)
 150                 return ret;
 151
 152         /* Transmit the data to write. */
 153         ret = mv88e6xxx_mdiobus_write(bus, sw_addr, SMI_DATA, val);
 154         if (ret < 0)
 155                 return ret;
 156
 157         /* Transmit the write command. */
 158         ret = mv88e6xxx_mdiobus_write(bus, sw_addr, SMI_CMD,
 159                                       SMI_CMD_OP_22_WRITE | (addr << 5) | reg);
 160         if (ret < 0)
 161                 return ret;
 162
 163         /* Wait for the write command to complete. */
 164         ret = mv88e6xxx_reg_wait_ready(bus, sw_addr);
 165         if (ret < 0)
 166                 return ret;
 167
 168         return 0;
 169 }
 170
 171 /* Must be called with SMI mutex held */
 172 static int _mv88e6xxx_reg_write(struct dsa_switch *ds, int addr, int reg,
 173                                 u16 val)
 174 {
 175         struct mii_bus *bus = dsa_host_dev_to_mii_bus(ds->master_dev);
 176
 177         if (bus == NULL)
 178                 return -EINVAL;
 179
 180         dev_dbg(ds->master_dev, "-> addr: 0x%.2x reg: 0x%.2x val: 0x%.4x\n",
 181                 addr, reg, val);
 182
 183         return __mv88e6xxx_reg_write(bus, ds->pd->sw_addr, addr, reg, val);
 184 }
 185
 186 int mv88e6xxx_reg_write(struct dsa_switch *ds, int addr, int reg, u16 val)
 187 {
 188         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
 189         int ret;
 190
 191         mutex_lock(&ps->smi_mutex);
 192         ret = _mv88e6xxx_reg_write(ds, addr, reg, val);
 193         mutex_unlock(&ps->smi_mutex);
 194
 195         return ret;
 196 }
 197
 198 int mv88e6xxx_set_addr_direct(struct dsa_switch *ds, u8 *addr)
 199 {
 200         REG_WRITE(REG_GLOBAL, GLOBAL_MAC_01, (addr[0] << 8) | addr[1]);
 201         REG_WRITE(REG_GLOBAL, GLOBAL_MAC_23, (addr[2] << 8) | addr[3]);
 202         REG_WRITE(REG_GLOBAL, GLOBAL_MAC_45, (addr[4] << 8) | addr[5]);
 203
 204         return 0;
 205 }
 206
 207 int mv88e6xxx_set_addr_indirect(struct dsa_switch *ds, u8 *addr)
 208 {
 209         int i;
 210         int ret;
 211
 212         for (i = 0; i < 6; i++) {
 213                 int j;
 214
 215                 /* Write the MAC address byte. */
 216                 REG_WRITE(REG_GLOBAL2, GLOBAL2_SWITCH_MAC,
 217                           GLOBAL2_SWITCH_MAC_BUSY | (i << 8) | addr[i]);
 218
 219                 /* Wait for the write to complete. */
 220                 for (j = 0; j < 16; j++) {
 221                         ret = REG_READ(REG_GLOBAL2, GLOBAL2_SWITCH_MAC);
 222                         if ((ret & GLOBAL2_SWITCH_MAC_BUSY) == 0)
 223                                 break;
 224                 }
 225                 if (j == 16)
 226                         return -ETIMEDOUT;
 227         }
 228
 229         return 0;
 230 }
 231
 232 /* Must be called with SMI mutex held */
 233 static int _mv88e6xxx_phy_read(struct dsa_switch *ds, int addr, int regnum)
 234 {
 235         if (addr >= 0)
 236                 return _mv88e6xxx_reg_read(ds, addr, regnum);
 237         return 0xffff;
 238 }
 239
 240 /* Must be called with SMI mutex held */
 241 static int _mv88e6xxx_phy_write(struct dsa_switch *ds, int addr, int regnum,
 242                                 u16 val)
 243 {
 244         if (addr >= 0)
 245                 return _mv88e6xxx_reg_write(ds, addr, regnum, val);
 246         return 0;
 247 }
 248
 249 #ifdef CONFIG_NET_DSA_MV88E6XXX_NEED_PPU
 250 static int mv88e6xxx_ppu_disable(struct dsa_switch *ds)
 251 {
 252         int ret;
 253         unsigned long timeout;
 254
 255         ret = REG_READ(REG_GLOBAL, GLOBAL_CONTROL);
 256         REG_WRITE(REG_GLOBAL, GLOBAL_CONTROL,
 257                   ret & ~GLOBAL_CONTROL_PPU_ENABLE);
 258
 259         timeout = jiffies + 1 * HZ;
 260         while (time_before(jiffies, timeout)) {
 261                 ret = REG_READ(REG_GLOBAL, GLOBAL_STATUS);
 262                 usleep_range(1000, 2000);
 263                 if ((ret & GLOBAL_STATUS_PPU_MASK) !=
 264                     GLOBAL_STATUS_PPU_POLLING)
 265                         return 0;
 266         }
 267
 268         return -ETIMEDOUT;
 269 }
 270
 271 static int mv88e6xxx_ppu_enable(struct dsa_switch *ds)
 272 {
 273         int ret;
 274         unsigned long timeout;
 275
 276         ret = REG_READ(REG_GLOBAL, GLOBAL_CONTROL);
 277         REG_WRITE(REG_GLOBAL, GLOBAL_CONTROL, ret | GLOBAL_CONTROL_PPU_ENABLE);
 278
 279         timeout = jiffies + 1 * HZ;
 280         while (time_before(jiffies, timeout)) {
 281                 ret = REG_READ(REG_GLOBAL, GLOBAL_STATUS);
 282                 usleep_range(1000, 2000);
 283                 if ((ret & GLOBAL_STATUS_PPU_MASK) ==
 284                     GLOBAL_STATUS_PPU_POLLING)
 285                         return 0;
 286         }
 287
 288         return -ETIMEDOUT;
 289 }
 290
 291 static void mv88e6xxx_ppu_reenable_work(struct work_struct *ugly)
 292 {
 293         struct mv88e6xxx_priv_state *ps;
 294
 295         ps = container_of(ugly, struct mv88e6xxx_priv_state, ppu_work);
 296         if (mutex_trylock(&ps->ppu_mutex)) {
 297                 struct dsa_switch *ds = ((struct dsa_switch *)ps) - 1;
 298
 299                 if (mv88e6xxx_ppu_enable(ds) == 0)
 300                         ps->ppu_disabled = 0;
 301                 mutex_unlock(&ps->ppu_mutex);
 302         }
 303 }
 304
 305 static void mv88e6xxx_ppu_reenable_timer(unsigned long _ps)
 306 {
 307         struct mv88e6xxx_priv_state *ps = (void *)_ps;
 308
 309         schedule_work(&ps->ppu_work);
 310 }
 311
 312 static int mv88e6xxx_ppu_access_get(struct dsa_switch *ds)
 313 {
 314         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
 315         int ret;
 316
 317         mutex_lock(&ps->ppu_mutex);
 318
 319         /* If the PHY polling unit is enabled, disable it so that
 320          * we can access the PHY registers.  If it was already
 321          * disabled, cancel the timer that is going to re-enable
 322          * it.
 323          */
 324         if (!ps->ppu_disabled) {
 325                 ret = mv88e6xxx_ppu_disable(ds);
 326                 if (ret < 0) {
 327                         mutex_unlock(&ps->ppu_mutex);
 328                         return ret;
 329                 }
 330                 ps->ppu_disabled = 1;
 331         } else {
 332                 del_timer(&ps->ppu_timer);
 333                 ret = 0;
 334         }
 335
 336         return ret;
 337 }
 338
 339 static void mv88e6xxx_ppu_access_put(struct dsa_switch *ds)
 340 {
 341         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
 342
 343         /* Schedule a timer to re-enable the PHY polling unit. */
 344         mod_timer(&ps->ppu_timer, jiffies + msecs_to_jiffies(10));
 345         mutex_unlock(&ps->ppu_mutex);
 346 }
 347
 348 void mv88e6xxx_ppu_state_init(struct dsa_switch *ds)
 349 {
 350         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
 351
 352         mutex_init(&ps->ppu_mutex);
 353         INIT_WORK(&ps->ppu_work, mv88e6xxx_ppu_reenable_work);
 354         init_timer(&ps->ppu_timer);
 355         ps->ppu_timer.data = (unsigned long)ps;
 356         ps->ppu_timer.function = mv88e6xxx_ppu_reenable_timer;
 357 }
 358
 359 int mv88e6xxx_phy_read_ppu(struct dsa_switch *ds, int addr, int regnum)
 360 {
 361         int ret;
 362
 363         ret = mv88e6xxx_ppu_access_get(ds);
 364         if (ret >= 0) {
 365                 ret = mv88e6xxx_reg_read(ds, addr, regnum);
 366                 mv88e6xxx_ppu_access_put(ds);
 367         }
 368
 369         return ret;
 370 }
 371
 372 int mv88e6xxx_phy_write_ppu(struct dsa_switch *ds, int addr,
 373                             int regnum, u16 val)
 374 {
 375         int ret;
 376
 377         ret = mv88e6xxx_ppu_access_get(ds);
 378         if (ret >= 0) {
 379                 ret = mv88e6xxx_reg_write(ds, addr, regnum, val);
 380                 mv88e6xxx_ppu_access_put(ds);
 381         }
 382
 383         return ret;
 384 }
 385 #endif
 386
 387 void mv88e6xxx_poll_link(struct dsa_switch *ds)
 388 {
 389         int i;
 390
 391         for (i = 0; i < DSA_MAX_PORTS; i++) {
 392                 struct net_device *dev;
 393                 int uninitialized_var(port_status);
 394                 int link;
 395                 int speed;
 396                 int duplex;
 397                 int fc;
 398
 399                 dev = ds->ports[i];
 400                 if (dev == NULL)
 401                         continue;
 402
 403                 link = 0;
 404                 if (dev->flags & IFF_UP) {
 405                         port_status = mv88e6xxx_reg_read(ds, REG_PORT(i),
 406                                                          PORT_STATUS);
 407                         if (port_status < 0)
 408                                 continue;
 409
 410                         link = !!(port_status & PORT_STATUS_LINK);
 411                 }
 412
 413                 if (!link) {
 414                         if (netif_carrier_ok(dev)) {
 415                                 netdev_info(dev, "link down\n");
 416                                 netif_carrier_off(dev);
 417                         }
 418                         continue;
 419                 }
 420
 421                 switch (port_status & PORT_STATUS_SPEED_MASK) {
 422                 case PORT_STATUS_SPEED_10:
 423                         speed = 10;
 424                         break;
 425                 case PORT_STATUS_SPEED_100:
 426                         speed = 100;
 427                         break;
 428                 case PORT_STATUS_SPEED_1000:
 429                         speed = 1000;
 430                         break;
 431                 default:
 432                         speed = -1;
 433                         break;
 434                 }
 435                 duplex = (port_status & PORT_STATUS_DUPLEX) ? 1 : 0;
 436                 fc = (port_status & PORT_STATUS_PAUSE_EN) ? 1 : 0;
 437
 438                 if (!netif_carrier_ok(dev)) {
 439                         netdev_info(dev,
 440                                     "link up, %d Mb/s, %s duplex, flow control %sabled\n",
 441                                     speed,
 442                                     duplex ? "full" : "half",
 443                                     fc ? "en" : "dis");
 444                         netif_carrier_on(dev);
 445                 }
 446         }
 447 }
 448
 449 static bool mv88e6xxx_6065_family(struct dsa_switch *ds)
 450 {
 451         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
 452
 453         switch (ps->id) {
 454         case PORT_SWITCH_ID_6031:
 455         case PORT_SWITCH_ID_6061:
 456         case PORT_SWITCH_ID_6035:
 457         case PORT_SWITCH_ID_6065:
 458                 return true;
 459         }
 460         return false;
 461 }
 462
 463 static bool mv88e6xxx_6095_family(struct dsa_switch *ds)
 464 {
 465         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
 466
 467         switch (ps->id) {
 468         case PORT_SWITCH_ID_6092:
 469         case PORT_SWITCH_ID_6095:
 470                 return true;
 471         }
 472         return false;
 473 }
 474
 475 static bool mv88e6xxx_6097_family(struct dsa_switch *ds)
 476 {
 477         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
 478
 479         switch (ps->id) {
 480         case PORT_SWITCH_ID_6046:
 481         case PORT_SWITCH_ID_6085:
 482         case PORT_SWITCH_ID_6096:
 483         case PORT_SWITCH_ID_6097:
 484                 return true;
 485         }
 486         return false;
 487 }
 488
 489 static bool mv88e6xxx_6165_family(struct dsa_switch *ds)
 490 {
 491         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
 492
 493         switch (ps->id) {
 494         case PORT_SWITCH_ID_6123:
 495         case PORT_SWITCH_ID_6161:
 496         case PORT_SWITCH_ID_6165:
 497                 return true;
 498         }
 499         return false;
 500 }
 501
 502 static bool mv88e6xxx_6185_family(struct dsa_switch *ds)
 503 {
 504         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
 505
 506         switch (ps->id) {
 507         case PORT_SWITCH_ID_6121:
 508         case PORT_SWITCH_ID_6122:
 509         case PORT_SWITCH_ID_6152:
 510         case PORT_SWITCH_ID_6155:
 511         case PORT_SWITCH_ID_6182:
 512         case PORT_SWITCH_ID_6185:
 513         case PORT_SWITCH_ID_6108:
 514         case PORT_SWITCH_ID_6131:
 515                 return true;
 516         }
 517         return false;
 518 }
 519
 520 static bool mv88e6xxx_6320_family(struct dsa_switch *ds)
 521 {
 522         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
 523
 524         switch (ps->id) {
 525         case PORT_SWITCH_ID_6320:
 526         case PORT_SWITCH_ID_6321:
 527                 return true;
 528         }
 529         return false;
 530 }
 531
 532 static bool mv88e6xxx_6351_family(struct dsa_switch *ds)
 533 {
 534         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
 535
 536         switch (ps->id) {
 537         case PORT_SWITCH_ID_6171:
 538         case PORT_SWITCH_ID_6175:
 539         case PORT_SWITCH_ID_6350:
 540         case PORT_SWITCH_ID_6351:
 541                 return true;
 542         }
 543         return false;
 544 }
 545
 546 static bool mv88e6xxx_6352_family(struct dsa_switch *ds)
 547 {
 548         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
 549
 550         switch (ps->id) {
 551         case PORT_SWITCH_ID_6172:
 552         case PORT_SWITCH_ID_6176:
 553         case PORT_SWITCH_ID_6240:
 554         case PORT_SWITCH_ID_6352:
 555                 return true;
 556         }
 557         return false;
 558 }
 559
 560 /* Must be called with SMI mutex held */
 561 static int _mv88e6xxx_stats_wait(struct dsa_switch *ds)
 562 {
 563         int ret;
 564         int i;
 565
 566         for (i = 0; i < 10; i++) {
 567                 ret = _mv88e6xxx_reg_read(ds, REG_GLOBAL, GLOBAL_STATS_OP);
 568                 if ((ret & GLOBAL_STATS_OP_BUSY) == 0)
 569                         return 0;
 570         }
 571
 572         return -ETIMEDOUT;
 573 }
 574
 575 /* Must be called with SMI mutex held */
 576 static int _mv88e6xxx_stats_snapshot(struct dsa_switch *ds, int port)
 577 {
 578         int ret;
 579
 580         if (mv88e6xxx_6320_family(ds) || mv88e6xxx_6352_family(ds))
 581                 port = (port + 1) << 5;
 582
 583         /* Snapshot the hardware statistics counters for this port. */
 584         ret = _mv88e6xxx_reg_write(ds, REG_GLOBAL, GLOBAL_STATS_OP,
 585                                    GLOBAL_STATS_OP_CAPTURE_PORT |
 586                                    GLOBAL_STATS_OP_HIST_RX_TX | port);
 587         if (ret < 0)
 588                 return ret;
 589
 590         /* Wait for the snapshotting to complete. */
 591         ret = _mv88e6xxx_stats_wait(ds);
 592         if (ret < 0)
 593                 return ret;
 594
 595         return 0;
 596 }
 597
 598 /* Must be called with SMI mutex held */
 599 static void _mv88e6xxx_stats_read(struct dsa_switch *ds, int stat, u32 *val)
 600 {
 601         u32 _val;
 602         int ret;
 603
 604         *val = 0;
 605
 606         ret = _mv88e6xxx_reg_write(ds, REG_GLOBAL, GLOBAL_STATS_OP,
 607                                    GLOBAL_STATS_OP_READ_CAPTURED |
 608                                    GLOBAL_STATS_OP_HIST_RX_TX | stat);
 609         if (ret < 0)
 610                 return;
 611
 612         ret = _mv88e6xxx_stats_wait(ds);
 613         if (ret < 0)
 614                 return;
 615
 616         ret = _mv88e6xxx_reg_read(ds, REG_GLOBAL, GLOBAL_STATS_COUNTER_32);
 617         if (ret < 0)
 618                 return;
 619
 620         _val = ret << 16;
 621
 622         ret = _mv88e6xxx_reg_read(ds, REG_GLOBAL, GLOBAL_STATS_COUNTER_01);
 623         if (ret < 0)
 624                 return;
 625
 626         *val = _val | ret;
 627 }
 628
 629 static struct mv88e6xxx_hw_stat mv88e6xxx_hw_stats[] = {
 630         { "in_good_octets", 8, 0x00, },
 631         { "in_bad_octets", 4, 0x02, },
 632         { "in_unicast", 4, 0x04, },
 633         { "in_broadcasts", 4, 0x06, },
 634         { "in_multicasts", 4, 0x07, },
 635         { "in_pause", 4, 0x16, },
 636         { "in_undersize", 4, 0x18, },
 637         { "in_fragments", 4, 0x19, },
 638         { "in_oversize", 4, 0x1a, },
 639         { "in_jabber", 4, 0x1b, },
 640         { "in_rx_error", 4, 0x1c, },
 641         { "in_fcs_error", 4, 0x1d, },
 642         { "out_octets", 8, 0x0e, },
 643         { "out_unicast", 4, 0x10, },
 644         { "out_broadcasts", 4, 0x13, },
 645         { "out_multicasts", 4, 0x12, },
 646         { "out_pause", 4, 0x15, },
 647         { "excessive", 4, 0x11, },
 648         { "collisions", 4, 0x1e, },
 649         { "deferred", 4, 0x05, },
 650         { "single", 4, 0x14, },
 651         { "multiple", 4, 0x17, },
 652         { "out_fcs_error", 4, 0x03, },
 653         { "late", 4, 0x1f, },
 654         { "hist_64bytes", 4, 0x08, },
 655         { "hist_65_127bytes", 4, 0x09, },
 656         { "hist_128_255bytes", 4, 0x0a, },
 657         { "hist_256_511bytes", 4, 0x0b, },
 658         { "hist_512_1023bytes", 4, 0x0c, },
 659         { "hist_1024_max_bytes", 4, 0x0d, },
 660         /* Not all devices have the following counters */
 661         { "sw_in_discards", 4, 0x110, },
 662         { "sw_in_filtered", 2, 0x112, },
 663         { "sw_out_filtered", 2, 0x113, },
 664
 665 };
 666
 667 static bool have_sw_in_discards(struct dsa_switch *ds)
 668 {
 669         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
 670
 671         switch (ps->id) {
 672         case PORT_SWITCH_ID_6095: case PORT_SWITCH_ID_6161:
 673         case PORT_SWITCH_ID_6165: case PORT_SWITCH_ID_6171:
 674         case PORT_SWITCH_ID_6172: case PORT_SWITCH_ID_6176:
 675         case PORT_SWITCH_ID_6182: case PORT_SWITCH_ID_6185:
 676         case PORT_SWITCH_ID_6352:
 677                 return true;
 678         default:
 679                 return false;
 680         }
 681 }
 682
 683 static void _mv88e6xxx_get_strings(struct dsa_switch *ds,
 684                                    int nr_stats,
 685                                    struct mv88e6xxx_hw_stat *stats,
 686                                    int port, uint8_t *data)
 687 {
 688         int i;
 689
 690         for (i = 0; i < nr_stats; i++) {
 691                 memcpy(data + i * ETH_GSTRING_LEN,
 692                        stats[i].string, ETH_GSTRING_LEN);
 693         }
 694 }
 695
 696 static uint64_t _mv88e6xxx_get_ethtool_stat(struct dsa_switch *ds,
 697                                             int stat,
 698                                             struct mv88e6xxx_hw_stat *stats,
 699                                             int port)
 700 {
 701         struct mv88e6xxx_hw_stat *s = stats + stat;
 702         u32 low;
 703         u32 high = 0;
 704         int ret;
 705         u64 value;
 706
 707         if (s->reg >= 0x100) {
 708                 ret = _mv88e6xxx_reg_read(ds, REG_PORT(port),
 709                                           s->reg - 0x100);
 710                 if (ret < 0)
 711                         return UINT64_MAX;
 712
 713                 low = ret;
 714                 if (s->sizeof_stat == 4) {
 715                         ret = _mv88e6xxx_reg_read(ds, REG_PORT(port),
 716                                                   s->reg - 0x100 + 1);
 717                         if (ret < 0)
 718                                 return UINT64_MAX;
 719                         high = ret;
 720                 }
 721         } else {
 722                 _mv88e6xxx_stats_read(ds, s->reg, &low);
 723                 if (s->sizeof_stat == 8)
 724                         _mv88e6xxx_stats_read(ds, s->reg + 1, &high);
 725         }
 726         value = (((u64)high) << 16) | low;
 727         return value;
 728 }
 729
 730 static void _mv88e6xxx_get_ethtool_stats(struct dsa_switch *ds,
 731                                          int nr_stats,
 732                                          struct mv88e6xxx_hw_stat *stats,
 733                                          int port, uint64_t *data)
 734 {
 735         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
 736         int ret;
 737         int i;
 738
 739         mutex_lock(&ps->smi_mutex);
 740
 741         ret = _mv88e6xxx_stats_snapshot(ds, port);
 742         if (ret < 0) {
 743                 mutex_unlock(&ps->smi_mutex);
 744                 return;
 745         }
 746
 747         /* Read each of the counters. */
 748         for (i = 0; i < nr_stats; i++)
 749                 data[i] = _mv88e6xxx_get_ethtool_stat(ds, i, stats, port);
 750
 751         mutex_unlock(&ps->smi_mutex);
 752 }
 753
 754 /* All the statistics in the table */
 755 void
 756 mv88e6xxx_get_strings(struct dsa_switch *ds, int port, uint8_t *data)
 757 {
 758         if (have_sw_in_discards(ds))
 759                 _mv88e6xxx_get_strings(ds, ARRAY_SIZE(mv88e6xxx_hw_stats),
 760                                        mv88e6xxx_hw_stats, port, data);
 761         else
 762                 _mv88e6xxx_get_strings(ds, ARRAY_SIZE(mv88e6xxx_hw_stats) - 3,
 763                                        mv88e6xxx_hw_stats, port, data);
 764 }
 765
 766 int mv88e6xxx_get_sset_count(struct dsa_switch *ds)
 767 {
 768         if (have_sw_in_discards(ds))
 769                 return ARRAY_SIZE(mv88e6xxx_hw_stats);
 770         return ARRAY_SIZE(mv88e6xxx_hw_stats) - 3;
 771 }
 772
 773 void
 774 mv88e6xxx_get_ethtool_stats(struct dsa_switch *ds,
 775                             int port, uint64_t *data)
 776 {
 777         if (have_sw_in_discards(ds))
 778                 _mv88e6xxx_get_ethtool_stats(
 779                         ds, ARRAY_SIZE(mv88e6xxx_hw_stats),
 780                         mv88e6xxx_hw_stats, port, data);
 781         else
 782                 _mv88e6xxx_get_ethtool_stats(
 783                         ds, ARRAY_SIZE(mv88e6xxx_hw_stats) - 3,
 784                         mv88e6xxx_hw_stats, port, data);
 785 }
 786
 787 int mv88e6xxx_get_regs_len(struct dsa_switch *ds, int port)
 788 {
 789         return 32 * sizeof(u16);
 790 }
 791
 792 void mv88e6xxx_get_regs(struct dsa_switch *ds, int port,
 793                         struct ethtool_regs *regs, void *_p)
 794 {
 795         u16 *p = _p;
 796         int i;
 797
 798         regs->version = 0;
 799
 800         memset(p, 0xff, 32 * sizeof(u16));
 801
 802         for (i = 0; i < 32; i++) {
 803                 int ret;
 804
 805                 ret = mv88e6xxx_reg_read(ds, REG_PORT(port), i);
 806                 if (ret >= 0)
 807                         p[i] = ret;
 808         }
 809 }
 810
 811 /* Must be called with SMI lock held */
 812 static int _mv88e6xxx_wait(struct dsa_switch *ds, int reg, int offset,
 813                            u16 mask)
 814 {
 815         unsigned long timeout = jiffies + HZ / 10;
 816
 817         while (time_before(jiffies, timeout)) {
 818                 int ret;
 819
 820                 ret = _mv88e6xxx_reg_read(ds, reg, offset);
 821                 if (ret < 0)
 822                         return ret;
 823                 if (!(ret & mask))
 824                         return 0;
 825
 826                 usleep_range(1000, 2000);
 827         }
 828         return -ETIMEDOUT;
 829 }
 830
 831 static int mv88e6xxx_wait(struct dsa_switch *ds, int reg, int offset, u16 mask)
 832 {
 833         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
 834         int ret;
 835
 836         mutex_lock(&ps->smi_mutex);
 837         ret = _mv88e6xxx_wait(ds, reg, offset, mask);
 838         mutex_unlock(&ps->smi_mutex);
 839
 840         return ret;
 841 }
 842
 843 static int _mv88e6xxx_phy_wait(struct dsa_switch *ds)
 844 {
 845         return _mv88e6xxx_wait(ds, REG_GLOBAL2, GLOBAL2_SMI_OP,
 846                                GLOBAL2_SMI_OP_BUSY);
 847 }
 848
 849 int mv88e6xxx_eeprom_load_wait(struct dsa_switch *ds)
 850 {
 851         return mv88e6xxx_wait(ds, REG_GLOBAL2, GLOBAL2_EEPROM_OP,
 852                               GLOBAL2_EEPROM_OP_LOAD);
 853 }
 854
 855 int mv88e6xxx_eeprom_busy_wait(struct dsa_switch *ds)
 856 {
 857         return mv88e6xxx_wait(ds, REG_GLOBAL2, GLOBAL2_EEPROM_OP,
 858                               GLOBAL2_EEPROM_OP_BUSY);
 859 }
 860
 861 /* Must be called with SMI lock held */
 862 static int _mv88e6xxx_atu_wait(struct dsa_switch *ds)
 863 {
 864         return _mv88e6xxx_wait(ds, REG_GLOBAL, GLOBAL_ATU_OP,
 865                                GLOBAL_ATU_OP_BUSY);
 866 }
 867
 868 /* Must be called with SMI lock held */
 869 static int _mv88e6xxx_scratch_wait(struct dsa_switch *ds)
 870 {
 871         return _mv88e6xxx_wait(ds, REG_GLOBAL2, GLOBAL2_SCRATCH_MISC,
 872                                GLOBAL2_SCRATCH_BUSY);
 873 }
 874
 875 /* Must be called with SMI mutex held */
 876 static int _mv88e6xxx_phy_read_indirect(struct dsa_switch *ds, int addr,
 877                                         int regnum)
 878 {
 879         int ret;
 880
 881         ret = _mv88e6xxx_reg_write(ds, REG_GLOBAL2, GLOBAL2_SMI_OP,
 882                                    GLOBAL2_SMI_OP_22_READ | (addr << 5) |
 883                                    regnum);
 884         if (ret < 0)
 885                 return ret;
 886
 887         ret = _mv88e6xxx_phy_wait(ds);
 888         if (ret < 0)
 889                 return ret;
 890
 891         return _mv88e6xxx_reg_read(ds, REG_GLOBAL2, GLOBAL2_SMI_DATA);
 892 }
 893
 894 /* Must be called with SMI mutex held */
 895 static int _mv88e6xxx_phy_write_indirect(struct dsa_switch *ds, int addr,
 896                                          int regnum, u16 val)
 897 {
 898         int ret;
 899
 900         ret = _mv88e6xxx_reg_write(ds, REG_GLOBAL2, GLOBAL2_SMI_DATA, val);
 901         if (ret < 0)
 902                 return ret;
 903
 904         ret = _mv88e6xxx_reg_write(ds, REG_GLOBAL2, GLOBAL2_SMI_OP,
 905                                    GLOBAL2_SMI_OP_22_WRITE | (addr << 5) |
 906                                    regnum);
 907
 908         return _mv88e6xxx_phy_wait(ds);
 909 }
 910
 911 int mv88e6xxx_get_eee(struct dsa_switch *ds, int port, struct ethtool_eee *e)
 912 {
 913         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
 914         int reg;
 915
 916         mutex_lock(&ps->smi_mutex);
 917
 918         reg = _mv88e6xxx_phy_read_indirect(ds, port, 16);
 919         if (reg < 0)
 920                 goto out;
 921
 922         e->eee_enabled = !!(reg & 0x0200);
 923         e->tx_lpi_enabled = !!(reg & 0x0100);
 924
 925         reg = _mv88e6xxx_reg_read(ds, REG_PORT(port), PORT_STATUS);
 926         if (reg < 0)
 927                 goto out;
 928
 929         e->eee_active = !!(reg & PORT_STATUS_EEE);
 930         reg = 0;
 931
 932 out:
 933         mutex_unlock(&ps->smi_mutex);
 934         return reg;
 935 }
 936
 937 int mv88e6xxx_set_eee(struct dsa_switch *ds, int port,
 938                       struct phy_device *phydev, struct ethtool_eee *e)
 939 {
 940         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
 941         int reg;
 942         int ret;
 943
 944         mutex_lock(&ps->smi_mutex);
 945
 946         ret = _mv88e6xxx_phy_read_indirect(ds, port, 16);
 947         if (ret < 0)
 948                 goto out;
 949
 950         reg = ret & ~0x0300;
 951         if (e->eee_enabled)
 952                 reg |= 0x0200;
 953         if (e->tx_lpi_enabled)
 954                 reg |= 0x0100;
 955
 956         ret = _mv88e6xxx_phy_write_indirect(ds, port, 16, reg);
 957 out:
 958         mutex_unlock(&ps->smi_mutex);
 959
 960         return ret;
 961 }
 962
 963 static int _mv88e6xxx_atu_cmd(struct dsa_switch *ds, int fid, u16 cmd)
 964 {
 965         int ret;
 966
 967         ret = _mv88e6xxx_reg_write(ds, REG_GLOBAL, 0x01, fid);
 968         if (ret < 0)
 969                 return ret;
 970
 971         ret = _mv88e6xxx_reg_write(ds, REG_GLOBAL, GLOBAL_ATU_OP, cmd);
 972         if (ret < 0)
 973                 return ret;
 974
 975         return _mv88e6xxx_atu_wait(ds);
 976 }
 977
 978 static int _mv88e6xxx_flush_fid(struct dsa_switch *ds, int fid)
 979 {
 980         int ret;
 981
 982         ret = _mv88e6xxx_atu_wait(ds);
 983         if (ret < 0)
 984                 return ret;
 985
 986         return _mv88e6xxx_atu_cmd(ds, fid, GLOBAL_ATU_OP_FLUSH_NON_STATIC_DB);
 987 }
 988
 989 static int mv88e6xxx_set_port_state(struct dsa_switch *ds, int port, u8 state)
 990 {
 991         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
 992         int reg, ret = 0;
 993         u8 oldstate;
 994
 995         mutex_lock(&ps->smi_mutex);
 996
 997         reg = _mv88e6xxx_reg_read(ds, REG_PORT(port), PORT_CONTROL);
 998         if (reg < 0) {
 999                 ret = reg;
1000                 goto abort;
1001         }
1002
1003         oldstate = reg & PORT_CONTROL_STATE_MASK;
1004         if (oldstate != state) {
1005                 /* Flush forwarding database if we're moving a port
1006                  * from Learning or Forwarding state to Disabled or
1007                  * Blocking or Listening state.
1008                  */
1009                 if (oldstate >= PORT_CONTROL_STATE_LEARNING &&
1010                     state <= PORT_CONTROL_STATE_BLOCKING) {
1011                         ret = _mv88e6xxx_flush_fid(ds, ps->fid[port]);
1012                         if (ret)
1013                                 goto abort;
1014                 }
1015                 reg = (reg & ~PORT_CONTROL_STATE_MASK) | state;
1016                 ret = _mv88e6xxx_reg_write(ds, REG_PORT(port), PORT_CONTROL,
1017                                            reg);
1018         }
1019
1020 abort:
1021         mutex_unlock(&ps->smi_mutex);
1022         return ret;
1023 }
1024
1025 /* Must be called with smi lock held */
1026 static int _mv88e6xxx_update_port_config(struct dsa_switch *ds, int port)
1027 {
1028         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
1029         u8 fid = ps->fid[port];
1030         u16 reg = fid << 12;
1031
1032         if (dsa_is_cpu_port(ds, port))
1033                 reg |= ds->phys_port_mask;
1034         else
1035                 reg |= (ps->bridge_mask[fid] |
1036                        (1 << dsa_upstream_port(ds))) & ~(1 << port);
1037
1038         return _mv88e6xxx_reg_write(ds, REG_PORT(port), PORT_BASE_VLAN, reg);
1039 }
1040
1041 /* Must be called with smi lock held */
1042 static int _mv88e6xxx_update_bridge_config(struct dsa_switch *ds, int fid)
1043 {
1044         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
1045         int port;
1046         u32 mask;
1047         int ret;
1048
1049         mask = ds->phys_port_mask;
1050         while (mask) {
1051                 port = __ffs(mask);
1052                 mask &= ~(1 << port);
1053                 if (ps->fid[port] != fid)
1054                         continue;
1055
1056                 ret = _mv88e6xxx_update_port_config(ds, port);
1057                 if (ret)
1058                         return ret;
1059         }
1060
1061         return _mv88e6xxx_flush_fid(ds, fid);
1062 }
1063
1064 /* Bridge handling functions */
1065
1066 int mv88e6xxx_join_bridge(struct dsa_switch *ds, int port, u32 br_port_mask)
1067 {
1068         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
1069         int ret = 0;
1070         u32 nmask;
1071         int fid;
1072
1073         /* If the bridge group is not empty, join that group.
1074          * Otherwise create a new group.
1075          */
1076         fid = ps->fid[port];
1077         nmask = br_port_mask & ~(1 << port);
1078         if (nmask)
1079                 fid = ps->fid[__ffs(nmask)];
1080
1081         nmask = ps->bridge_mask[fid] | (1 << port);
1082         if (nmask != br_port_mask) {
1083                 netdev_err(ds->ports[port],
1084                            "join: Bridge port mask mismatch fid=%d mask=0x%x expected 0x%x\n",
1085                            fid, br_port_mask, nmask);
1086                 return -EINVAL;
1087         }
1088
1089         mutex_lock(&ps->smi_mutex);
1090
1091         ps->bridge_mask[fid] = br_port_mask;
1092
1093         if (fid != ps->fid[port]) {
1094                 ps->fid_mask |= 1 << ps->fid[port];
1095                 ps->fid[port] = fid;
1096                 ret = _mv88e6xxx_update_bridge_config(ds, fid);
1097         }
1098
1099         mutex_unlock(&ps->smi_mutex);
1100
1101         return ret;
1102 }
1103
1104 int mv88e6xxx_leave_bridge(struct dsa_switch *ds, int port, u32 br_port_mask)
1105 {
1106         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
1107         u8 fid, newfid;
1108         int ret;
1109
1110         fid = ps->fid[port];
1111
1112         if (ps->bridge_mask[fid] != br_port_mask) {
1113                 netdev_err(ds->ports[port],
1114                            "leave: Bridge port mask mismatch fid=%d mask=0x%x expected 0x%x\n",
1115                            fid, br_port_mask, ps->bridge_mask[fid]);
1116                 return -EINVAL;
1117         }
1118
1119         /* If the port was the last port of a bridge, we are done.
1120          * Otherwise assign a new fid to the port, and fix up
1121          * the bridge configuration.
1122          */
1123         if (br_port_mask == (1 << port))
1124                 return 0;
1125
1126         mutex_lock(&ps->smi_mutex);
1127
1128         newfid = __ffs(ps->fid_mask);
1129         ps->fid[port] = newfid;
1130         ps->fid_mask &= ~(1 << newfid);
1131         ps->bridge_mask[fid] &= ~(1 << port);
1132         ps->bridge_mask[newfid] = 1 << port;
1133
1134         ret = _mv88e6xxx_update_bridge_config(ds, fid);
1135         if (!ret)
1136                 ret = _mv88e6xxx_update_bridge_config(ds, newfid);
1137
1138         mutex_unlock(&ps->smi_mutex);
1139
1140         return ret;
1141 }
1142
1143 int mv88e6xxx_port_stp_update(struct dsa_switch *ds, int port, u8 state)
1144 {
1145         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
1146         int stp_state;
1147
1148         switch (state) {
1149         case BR_STATE_DISABLED:
1150                 stp_state = PORT_CONTROL_STATE_DISABLED;
1151                 break;
1152         case BR_STATE_BLOCKING:
1153         case BR_STATE_LISTENING:
1154                 stp_state = PORT_CONTROL_STATE_BLOCKING;
1155                 break;
1156         case BR_STATE_LEARNING:
1157                 stp_state = PORT_CONTROL_STATE_LEARNING;
1158                 break;
1159         case BR_STATE_FORWARDING:
1160         default:
1161                 stp_state = PORT_CONTROL_STATE_FORWARDING;
1162                 break;
1163         }
1164
1165         netdev_dbg(ds->ports[port], "port state %d [%d]\n", state, stp_state);
1166
1167         /* mv88e6xxx_port_stp_update may be called with softirqs disabled,
1168          * so we can not update the port state directly but need to schedule it.
1169          */
1170         ps->port_state[port] = stp_state;
1171         set_bit(port, &ps->port_state_update_mask);
1172         schedule_work(&ps->bridge_work);
1173
1174         return 0;
1175 }
1176
1177 static int __mv88e6xxx_write_addr(struct dsa_switch *ds,
1178                                   const unsigned char *addr)
1179 {
1180         int i, ret;
1181
1182         for (i = 0; i < 3; i++) {
1183                 ret = _mv88e6xxx_reg_write(
1184                         ds, REG_GLOBAL, GLOBAL_ATU_MAC_01 + i,
1185                         (addr[i * 2] << 8) | addr[i * 2 + 1]);
1186                 if (ret < 0)
1187                         return ret;
1188         }
1189
1190         return 0;
1191 }
1192
1193 static int __mv88e6xxx_read_addr(struct dsa_switch *ds, unsigned char *addr)
1194 {
1195         int i, ret;
1196
1197         for (i = 0; i < 3; i++) {
1198                 ret = _mv88e6xxx_reg_read(ds, REG_GLOBAL,
1199                                           GLOBAL_ATU_MAC_01 + i);
1200                 if (ret < 0)
1201                         return ret;
1202                 addr[i * 2] = ret >> 8;
1203                 addr[i * 2 + 1] = ret & 0xff;
1204         }
1205
1206         return 0;
1207 }
1208
1209 static int __mv88e6xxx_port_fdb_cmd(struct dsa_switch *ds, int port,
1210                                     const unsigned char *addr, int state)
1211 {
1212         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
1213         u8 fid = ps->fid[port];
1214         int ret;
1215
1216         ret = _mv88e6xxx_atu_wait(ds);
1217         if (ret < 0)
1218                 return ret;
1219
1220         ret = __mv88e6xxx_write_addr(ds, addr);
1221         if (ret < 0)
1222                 return ret;
1223
1224         ret = _mv88e6xxx_reg_write(ds, REG_GLOBAL, GLOBAL_ATU_DATA,
1225                                    (0x10 << port) | state);
1226         if (ret)
1227                 return ret;
1228
1229         ret = _mv88e6xxx_atu_cmd(ds, fid, GLOBAL_ATU_OP_LOAD_DB);
1230
1231         return ret;
1232 }
1233
1234 int mv88e6xxx_port_fdb_add(struct dsa_switch *ds, int port,
1235                            const unsigned char *addr, u16 vid)
1236 {
1237         int state = is_multicast_ether_addr(addr) ?
1238                 GLOBAL_ATU_DATA_STATE_MC_STATIC :
1239                 GLOBAL_ATU_DATA_STATE_UC_STATIC;
1240         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
1241         int ret;
1242
1243         mutex_lock(&ps->smi_mutex);
1244         ret = __mv88e6xxx_port_fdb_cmd(ds, port, addr, state);
1245         mutex_unlock(&ps->smi_mutex);
1246
1247         return ret;
1248 }
1249
1250 int mv88e6xxx_port_fdb_del(struct dsa_switch *ds, int port,
1251                            const unsigned char *addr, u16 vid)
1252 {
1253         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
1254         int ret;
1255
1256         mutex_lock(&ps->smi_mutex);
1257         ret = __mv88e6xxx_port_fdb_cmd(ds, port, addr,
1258                                        GLOBAL_ATU_DATA_STATE_UNUSED);
1259         mutex_unlock(&ps->smi_mutex);
1260
1261         return ret;
1262 }
1263
1264 static int __mv88e6xxx_port_getnext(struct dsa_switch *ds, int port,
1265                                     unsigned char *addr, bool *is_static)
1266 {
1267         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
1268         u8 fid = ps->fid[port];
1269         int ret, state;
1270
1271         ret = _mv88e6xxx_atu_wait(ds);
1272         if (ret < 0)
1273                 return ret;
1274
1275         ret = __mv88e6xxx_write_addr(ds, addr);
1276         if (ret < 0)
1277                 return ret;
1278
1279         do {
1280                 ret = _mv88e6xxx_atu_cmd(ds, fid,  GLOBAL_ATU_OP_GET_NEXT_DB);
1281                 if (ret < 0)
1282                         return ret;
1283
1284                 ret = _mv88e6xxx_reg_read(ds, REG_GLOBAL, GLOBAL_ATU_DATA);
1285                 if (ret < 0)
1286                         return ret;
1287                 state = ret & GLOBAL_ATU_DATA_STATE_MASK;
1288                 if (state == GLOBAL_ATU_DATA_STATE_UNUSED)
1289                         return -ENOENT;
1290         } while (!(((ret >> 4) & 0xff) & (1 << port)));
1291
1292         ret = __mv88e6xxx_read_addr(ds, addr);
1293         if (ret < 0)
1294                 return ret;
1295
1296         *is_static = state == (is_multicast_ether_addr(addr) ?
1297                                GLOBAL_ATU_DATA_STATE_MC_STATIC :
1298                                GLOBAL_ATU_DATA_STATE_UC_STATIC);
1299
1300         return 0;
1301 }
1302
1303 /* get next entry for port */
1304 int mv88e6xxx_port_fdb_getnext(struct dsa_switch *ds, int port,
1305                                unsigned char *addr, bool *is_static)
1306 {
1307         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
1308         int ret;
1309
1310         mutex_lock(&ps->smi_mutex);
1311         ret = __mv88e6xxx_port_getnext(ds, port, addr, is_static);
1312         mutex_unlock(&ps->smi_mutex);
1313
1314         return ret;
1315 }
1316
1317 static void mv88e6xxx_bridge_work(struct work_struct *work)
1318 {
1319         struct mv88e6xxx_priv_state *ps;
1320         struct dsa_switch *ds;
1321         int port;
1322
1323         ps = container_of(work, struct mv88e6xxx_priv_state, bridge_work);
1324         ds = ((struct dsa_switch *)ps) - 1;
1325
1326         while (ps->port_state_update_mask) {
1327                 port = __ffs(ps->port_state_update_mask);
1328                 clear_bit(port, &ps->port_state_update_mask);
1329                 mv88e6xxx_set_port_state(ds, port, ps->port_state[port]);
1330         }
1331 }
1332
1333 static int mv88e6xxx_setup_port(struct dsa_switch *ds, int port)
1334 {
1335         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
1336         int ret, fid;
1337         u16 reg;
1338
1339         mutex_lock(&ps->smi_mutex);
1340
1341         if (mv88e6xxx_6352_family(ds) || mv88e6xxx_6351_family(ds) ||
1342             mv88e6xxx_6165_family(ds) || mv88e6xxx_6097_family(ds) ||
1343             mv88e6xxx_6185_family(ds) || mv88e6xxx_6095_family(ds) ||
1344             mv88e6xxx_6065_family(ds) || mv88e6xxx_6320_family(ds)) {
1345                 /* MAC Forcing register: don't force link, speed,
1346                  * duplex or flow control state to any particular
1347                  * values on physical ports, but force the CPU port
1348                  * and all DSA ports to their maximum bandwidth and
1349                  * full duplex.
1350                  */
1351                 reg = _mv88e6xxx_reg_read(ds, REG_PORT(port), PORT_PCS_CTRL);
1352                 if (dsa_is_cpu_port(ds, port) ||
1353                     ds->dsa_port_mask & (1 << port)) {
1354                         reg |= PORT_PCS_CTRL_FORCE_LINK |
1355                                 PORT_PCS_CTRL_LINK_UP |
1356                                 PORT_PCS_CTRL_DUPLEX_FULL |
1357                                 PORT_PCS_CTRL_FORCE_DUPLEX;
1358                         if (mv88e6xxx_6065_family(ds))
1359                                 reg |= PORT_PCS_CTRL_100;
1360                         else
1361                                 reg |= PORT_PCS_CTRL_1000;
1362                 } else {
1363                         reg |= PORT_PCS_CTRL_UNFORCED;
1364                 }
1365
1366                 ret = _mv88e6xxx_reg_write(ds, REG_PORT(port),
1367                                            PORT_PCS_CTRL, reg);
1368                 if (ret)
1369                         goto abort;
1370         }
1371
1372         /* Port Control: disable Drop-on-Unlock, disable Drop-on-Lock,
1373          * disable Header mode, enable IGMP/MLD snooping, disable VLAN
1374          * tunneling, determine priority by looking at 802.1p and IP
1375          * priority fields (IP prio has precedence), and set STP state
1376          * to Forwarding.
1377          *
1378          * If this is the CPU link, use DSA or EDSA tagging depending
1379          * on which tagging mode was configured.
1380          *
1381          * If this is a link to another switch, use DSA tagging mode.
1382          *
1383          * If this is the upstream port for this switch, enable
1384          * forwarding of unknown unicasts and multicasts.
1385          */
1386         reg = 0;
1387         if (mv88e6xxx_6352_family(ds) || mv88e6xxx_6351_family(ds) ||
1388             mv88e6xxx_6165_family(ds) || mv88e6xxx_6097_family(ds) ||
1389             mv88e6xxx_6095_family(ds) || mv88e6xxx_6065_family(ds) ||
1390             mv88e6xxx_6185_family(ds) || mv88e6xxx_6320_family(ds))
1391                 reg = PORT_CONTROL_IGMP_MLD_SNOOP |
1392                 PORT_CONTROL_USE_TAG | PORT_CONTROL_USE_IP |
1393                 PORT_CONTROL_STATE_FORWARDING;
1394         if (dsa_is_cpu_port(ds, port)) {
1395                 if (mv88e6xxx_6095_family(ds) || mv88e6xxx_6185_family(ds))
1396                         reg |= PORT_CONTROL_DSA_TAG;
1397                 if (mv88e6xxx_6352_family(ds) || mv88e6xxx_6351_family(ds) ||
1398                     mv88e6xxx_6165_family(ds) || mv88e6xxx_6097_family(ds) ||
1399                     mv88e6xxx_6320_family(ds)) {
1400                         if (ds->dst->tag_protocol == DSA_TAG_PROTO_EDSA)
1401                                 reg |= PORT_CONTROL_FRAME_ETHER_TYPE_DSA;
1402                         else
1403                                 reg |= PORT_CONTROL_FRAME_MODE_DSA;
1404                 }
1405
1406                 if (mv88e6xxx_6352_family(ds) || mv88e6xxx_6351_family(ds) ||
1407                     mv88e6xxx_6165_family(ds) || mv88e6xxx_6097_family(ds) ||
1408                     mv88e6xxx_6095_family(ds) || mv88e6xxx_6065_family(ds) ||
1409                     mv88e6xxx_6185_family(ds) || mv88e6xxx_6320_family(ds)) {
1410                         if (ds->dst->tag_protocol == DSA_TAG_PROTO_EDSA)
1411                                 reg |= PORT_CONTROL_EGRESS_ADD_TAG;
1412                 }
1413         }
1414         if (mv88e6xxx_6352_family(ds) || mv88e6xxx_6351_family(ds) ||
1415             mv88e6xxx_6165_family(ds) || mv88e6xxx_6097_family(ds) ||
1416             mv88e6xxx_6095_family(ds) || mv88e6xxx_6065_family(ds) ||
1417             mv88e6xxx_6320_family(ds)) {
1418                 if (ds->dsa_port_mask & (1 << port))
1419                         reg |= PORT_CONTROL_FRAME_MODE_DSA;
1420                 if (port == dsa_upstream_port(ds))
1421                         reg |= PORT_CONTROL_FORWARD_UNKNOWN |
1422                                 PORT_CONTROL_FORWARD_UNKNOWN_MC;
1423         }
1424         if (reg) {
1425                 ret = _mv88e6xxx_reg_write(ds, REG_PORT(port),
1426                                            PORT_CONTROL, reg);
1427                 if (ret)
1428                         goto abort;
1429         }
1430
1431         /* Port Control 2: don't force a good FCS, set the maximum
1432          * frame size to 10240 bytes, don't let the switch add or
1433          * strip 802.1q tags, don't discard tagged or untagged frames
1434          * on this port, do a destination address lookup on all
1435          * received packets as usual, disable ARP mirroring and don't
1436          * send a copy of all transmitted/received frames on this port
1437          * to the CPU.
1438          */
1439         reg = 0;
1440         if (mv88e6xxx_6352_family(ds) || mv88e6xxx_6351_family(ds) ||
1441             mv88e6xxx_6165_family(ds) || mv88e6xxx_6097_family(ds) ||
1442             mv88e6xxx_6095_family(ds) || mv88e6xxx_6320_family(ds))
1443                 reg = PORT_CONTROL_2_MAP_DA;
1444
1445         if (mv88e6xxx_6352_family(ds) || mv88e6xxx_6351_family(ds) ||
1446             mv88e6xxx_6165_family(ds) || mv88e6xxx_6320_family(ds))
1447                 reg |= PORT_CONTROL_2_JUMBO_10240;
1448
1449         if (mv88e6xxx_6095_family(ds) || mv88e6xxx_6185_family(ds)) {
1450                 /* Set the upstream port this port should use */
1451                 reg |= dsa_upstream_port(ds);
1452                 /* enable forwarding of unknown multicast addresses to
1453                  * the upstream port
1454                  */
1455                 if (port == dsa_upstream_port(ds))
1456                         reg |= PORT_CONTROL_2_FORWARD_UNKNOWN;
1457         }
1458
1459         if (reg) {
1460                 ret = _mv88e6xxx_reg_write(ds, REG_PORT(port),
1461                                            PORT_CONTROL_2, reg);
1462                 if (ret)
1463                         goto abort;
1464         }
1465
1466         /* Port Association Vector: when learning source addresses
1467          * of packets, add the address to the address database using
1468          * a port bitmap that has only the bit for this port set and
1469          * the other bits clear.
1470          */
1471         ret = _mv88e6xxx_reg_write(ds, REG_PORT(port), PORT_ASSOC_VECTOR,
1472                                    1 << port);
1473         if (ret)
1474                 goto abort;
1475
1476         /* Egress rate control 2: disable egress rate control. */
1477         ret = _mv88e6xxx_reg_write(ds, REG_PORT(port), PORT_RATE_CONTROL_2,
1478                                    0x0000);
1479         if (ret)
1480                 goto abort;
1481
1482         if (mv88e6xxx_6352_family(ds) || mv88e6xxx_6351_family(ds) ||
1483             mv88e6xxx_6165_family(ds) || mv88e6xxx_6097_family(ds) ||
1484             mv88e6xxx_6320_family(ds)) {
1485                 /* Do not limit the period of time that this port can
1486                  * be paused for by the remote end or the period of
1487                  * time that this port can pause the remote end.
1488                  */
1489                 ret = _mv88e6xxx_reg_write(ds, REG_PORT(port),
1490                                            PORT_PAUSE_CTRL, 0x0000);
1491                 if (ret)
1492                         goto abort;
1493
1494                 /* Port ATU control: disable limiting the number of
1495                  * address database entries that this port is allowed
1496                  * to use.
1497                  */
1498                 ret = _mv88e6xxx_reg_write(ds, REG_PORT(port),
1499                                            PORT_ATU_CONTROL, 0x0000);
1500                 /* Priority Override: disable DA, SA and VTU priority
1501                  * override.
1502                  */
1503                 ret = _mv88e6xxx_reg_write(ds, REG_PORT(port),
1504                                            PORT_PRI_OVERRIDE, 0x0000);
1505                 if (ret)
1506                         goto abort;
1507
1508                 /* Port Ethertype: use the Ethertype DSA Ethertype
1509                  * value.
1510                  */
1511                 ret = _mv88e6xxx_reg_write(ds, REG_PORT(port),
1512                                            PORT_ETH_TYPE, ETH_P_EDSA);
1513                 if (ret)
1514                         goto abort;
1515                 /* Tag Remap: use an identity 802.1p prio -> switch
1516                  * prio mapping.
1517                  */
1518                 ret = _mv88e6xxx_reg_write(ds, REG_PORT(port),
1519                                            PORT_TAG_REGMAP_0123, 0x3210);
1520                 if (ret)
1521                         goto abort;
1522
1523                 /* Tag Remap 2: use an identity 802.1p prio -> switch
1524                  * prio mapping.
1525                  */
1526                 ret = _mv88e6xxx_reg_write(ds, REG_PORT(port),
1527                                            PORT_TAG_REGMAP_4567, 0x7654);
1528                 if (ret)
1529                         goto abort;
1530         }
1531
1532         if (mv88e6xxx_6352_family(ds) || mv88e6xxx_6351_family(ds) ||
1533             mv88e6xxx_6165_family(ds) || mv88e6xxx_6097_family(ds) ||
1534             mv88e6xxx_6185_family(ds) || mv88e6xxx_6095_family(ds) ||
1535             mv88e6xxx_6320_family(ds)) {
1536                 /* Rate Control: disable ingress rate limiting. */
1537                 ret = _mv88e6xxx_reg_write(ds, REG_PORT(port),
1538                                            PORT_RATE_CONTROL, 0x0001);
1539                 if (ret)
1540                         goto abort;
1541         }
1542
1543         /* Port Control 1: disable trunking, disable sending
1544          * learning messages to this port.
1545          */
1546         ret = _mv88e6xxx_reg_write(ds, REG_PORT(port), PORT_CONTROL_1, 0x0000);
1547         if (ret)
1548                 goto abort;
1549
1550         /* Port based VLAN map: give each port its own address
1551          * database, allow the CPU port to talk to each of the 'real'
1552          * ports, and allow each of the 'real' ports to only talk to
1553          * the upstream port.
1554          */
1555         fid = __ffs(ps->fid_mask);
1556         ps->fid[port] = fid;
1557         ps->fid_mask &= ~(1 << fid);
1558
1559         if (!dsa_is_cpu_port(ds, port))
1560                 ps->bridge_mask[fid] = 1 << port;
1561
1562         ret = _mv88e6xxx_update_port_config(ds, port);
1563         if (ret)
1564                 goto abort;
1565
1566         /* Default VLAN ID and priority: don't set a default VLAN
1567          * ID, and set the default packet priority to zero.
1568          */
1569         ret = _mv88e6xxx_reg_write(ds, REG_PORT(port), PORT_DEFAULT_VLAN,
1570                                    0x0000);
1571 abort:
1572         mutex_unlock(&ps->smi_mutex);
1573         return ret;
1574 }
1575
1576 int mv88e6xxx_setup_ports(struct dsa_switch *ds)
1577 {
1578         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
1579         int ret;
1580         int i;
1581
1582         for (i = 0; i < ps->num_ports; i++) {
1583                 ret = mv88e6xxx_setup_port(ds, i);
1584                 if (ret < 0)
1585                         return ret;
1586         }
1587         return 0;
1588 }
1589
1590 static int mv88e6xxx_regs_show(struct seq_file *s, void *p)
1591 {
1592         struct dsa_switch *ds = s->private;
1593
1594         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
1595         int reg, port;
1596
1597         seq_puts(s, "    GLOBAL GLOBAL2 ");
1598         for (port = 0 ; port < ps->num_ports; port++)
1599                 seq_printf(s, " %2d  ", port);
1600         seq_puts(s, "\n");
1601
1602         for (reg = 0; reg < 32; reg++) {
1603                 seq_printf(s, "%2x: ", reg);
1604                 seq_printf(s, " %4x    %4x  ",
1605                            mv88e6xxx_reg_read(ds, REG_GLOBAL, reg),
1606                            mv88e6xxx_reg_read(ds, REG_GLOBAL2, reg));
1607
1608                 for (port = 0 ; port < ps->num_ports; port++)
1609                         seq_printf(s, "%4x ",
1610                                    mv88e6xxx_reg_read(ds, REG_PORT(port), reg));
1611                 seq_puts(s, "\n");
1612         }
1613
1614         return 0;
1615 }
1616
1617 static int mv88e6xxx_regs_open(struct inode *inode, struct file *file)
1618 {
1619         return single_open(file, mv88e6xxx_regs_show, inode->i_private);
1620 }
1621
1622 static const struct file_operations mv88e6xxx_regs_fops = {
1623         .open   = mv88e6xxx_regs_open,
1624         .read   = seq_read,
1625         .llseek = no_llseek,
1626         .release = single_release,
1627         .owner  = THIS_MODULE,
1628 };
1629
1630 static void mv88e6xxx_atu_show_header(struct seq_file *s)
1631 {
1632         seq_puts(s, "DB   T/P  Vec State Addr\n");
1633 }
1634
1635 static void mv88e6xxx_atu_show_entry(struct seq_file *s, int dbnum,
1636                                      unsigned char *addr, int data)
1637 {
1638         bool trunk = !!(data & GLOBAL_ATU_DATA_TRUNK);
1639         int portvec = ((data & GLOBAL_ATU_DATA_PORT_VECTOR_MASK) >>
1640                        GLOBAL_ATU_DATA_PORT_VECTOR_SHIFT);
1641         int state = data & GLOBAL_ATU_DATA_STATE_MASK;
1642
1643         seq_printf(s, "%03x %5s %10pb   %x   %pM\n",
1644                    dbnum, (trunk ? "Trunk" : "Port"), &portvec, state, addr);
1645 }
1646
1647 static int mv88e6xxx_atu_show_db(struct seq_file *s, struct dsa_switch *ds,
1648                                  int dbnum)
1649 {
1650         unsigned char bcast[] = { 0xff, 0xff, 0xff, 0xff, 0xff, 0xff};
1651         unsigned char addr[6];
1652         int ret, data, state;
1653
1654         ret = __mv88e6xxx_write_addr(ds, bcast);
1655         if (ret < 0)
1656                 return ret;
1657
1658         do {
1659                 ret = _mv88e6xxx_atu_cmd(ds, dbnum, GLOBAL_ATU_OP_GET_NEXT_DB);
1660                 if (ret < 0)
1661                         return ret;
1662                 data = _mv88e6xxx_reg_read(ds, REG_GLOBAL, GLOBAL_ATU_DATA);
1663                 if (data < 0)
1664                         return data;
1665
1666                 state = data & GLOBAL_ATU_DATA_STATE_MASK;
1667                 if (state == GLOBAL_ATU_DATA_STATE_UNUSED)
1668                         break;
1669                 ret = __mv88e6xxx_read_addr(ds, addr);
1670                 if (ret < 0)
1671                         return ret;
1672                 mv88e6xxx_atu_show_entry(s, dbnum, addr, data);
1673         } while (state != GLOBAL_ATU_DATA_STATE_UNUSED);
1674
1675         return 0;
1676 }
1677
1678 static int mv88e6xxx_atu_show(struct seq_file *s, void *p)
1679 {
1680         struct dsa_switch *ds = s->private;
1681         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
1682         int dbnum;
1683
1684         mv88e6xxx_atu_show_header(s);
1685
1686         for (dbnum = 0; dbnum < 255; dbnum++) {
1687                 mutex_lock(&ps->smi_mutex);
1688                 mv88e6xxx_atu_show_db(s, ds, dbnum);
1689                 mutex_unlock(&ps->smi_mutex);
1690         }
1691
1692         return 0;
1693 }
1694
1695 static int mv88e6xxx_atu_open(struct inode *inode, struct file *file)
1696 {
1697         return single_open(file, mv88e6xxx_atu_show, inode->i_private);
1698 }
1699
1700 static const struct file_operations mv88e6xxx_atu_fops = {
1701         .open   = mv88e6xxx_atu_open,
1702         .read   = seq_read,
1703         .llseek = no_llseek,
1704         .release = single_release,
1705         .owner  = THIS_MODULE,
1706 };
1707
1708 static void mv88e6xxx_stats_show_header(struct seq_file *s,
1709                                         struct mv88e6xxx_priv_state *ps)
1710 {
1711         int port;
1712
1713         seq_puts(s, "      Statistic       ");
1714         for (port = 0 ; port < ps->num_ports; port++)
1715                 seq_printf(s, "Port %2d  ", port);
1716         seq_puts(s, "\n");
1717 }
1718
1719 static int mv88e6xxx_stats_show(struct seq_file *s, void *p)
1720 {
1721         struct dsa_switch *ds = s->private;
1722         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
1723         struct mv88e6xxx_hw_stat *stats = mv88e6xxx_hw_stats;
1724         int port, stat, max_stats;
1725         uint64_t value;
1726
1727         if (have_sw_in_discards(ds))
1728                 max_stats = ARRAY_SIZE(mv88e6xxx_hw_stats);
1729         else
1730                 max_stats = ARRAY_SIZE(mv88e6xxx_hw_stats) - 3;
1731
1732         mv88e6xxx_stats_show_header(s, ps);
1733
1734         mutex_lock(&ps->smi_mutex);
1735
1736         for (stat = 0; stat < max_stats; stat++) {
1737                 seq_printf(s, "%19s: ", stats[stat].string);
1738                 for (port = 0 ; port < ps->num_ports; port++) {
1739                         _mv88e6xxx_stats_snapshot(ds, port);
1740                         value = _mv88e6xxx_get_ethtool_stat(ds, stat, stats,
1741                                                             port);
1742                         seq_printf(s, "%8llu ", value);
1743                 }
1744                 seq_puts(s, "\n");
1745         }
1746         mutex_unlock(&ps->smi_mutex);
1747
1748         return 0;
1749 }
1750
1751 static int mv88e6xxx_stats_open(struct inode *inode, struct file *file)
1752 {
1753         return single_open(file, mv88e6xxx_stats_show, inode->i_private);
1754 }
1755
1756 static const struct file_operations mv88e6xxx_stats_fops = {
1757         .open   = mv88e6xxx_stats_open,
1758         .read   = seq_read,
1759         .llseek = no_llseek,
1760         .release = single_release,
1761         .owner  = THIS_MODULE,
1762 };
1763
1764 static int mv88e6xxx_device_map_show(struct seq_file *s, void *p)
1765 {
1766         struct dsa_switch *ds = s->private;
1767         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
1768         int target, ret;
1769
1770         seq_puts(s, "Target Port\n");
1771
1772         mutex_lock(&ps->smi_mutex);
1773         for (target = 0; target < 32; target++) {
1774                 ret = _mv88e6xxx_reg_write(
1775                         ds, REG_GLOBAL2, GLOBAL2_DEVICE_MAPPING,
1776                         target << GLOBAL2_DEVICE_MAPPING_TARGET_SHIFT);
1777                 if (ret < 0)
1778                         goto out;
1779                 ret = _mv88e6xxx_reg_read(ds, REG_GLOBAL2,
1780                                           GLOBAL2_DEVICE_MAPPING);
1781                 seq_printf(s, "  %2d   %2d\n", target,
1782                            ret & GLOBAL2_DEVICE_MAPPING_PORT_MASK);
1783         }
1784 out:
1785         mutex_unlock(&ps->smi_mutex);
1786
1787         return 0;
1788 }
1789
1790 static int mv88e6xxx_device_map_open(struct inode *inode, struct file *file)
1791 {
1792         return single_open(file, mv88e6xxx_device_map_show, inode->i_private);
1793 }
1794
1795 static const struct file_operations mv88e6xxx_device_map_fops = {
1796         .open   = mv88e6xxx_device_map_open,
1797         .read   = seq_read,
1798         .llseek = no_llseek,
1799         .release = single_release,
1800         .owner  = THIS_MODULE,
1801 };
1802
1803 static int mv88e6xxx_scratch_show(struct seq_file *s, void *p)
1804 {
1805         struct dsa_switch *ds = s->private;
1806         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
1807         int reg, ret;
1808
1809         seq_puts(s, "Register Value\n");
1810
1811         mutex_lock(&ps->smi_mutex);
1812         for (reg = 0; reg < 0x80; reg++) {
1813                 ret = _mv88e6xxx_reg_write(
1814                         ds, REG_GLOBAL2, GLOBAL2_SCRATCH_MISC,
1815                         reg << GLOBAL2_SCRATCH_REGISTER_SHIFT);
1816                 if (ret < 0)
1817                         goto out;
1818
1819                 ret = _mv88e6xxx_scratch_wait(ds);
1820                 if (ret < 0)
1821                         goto out;
1822
1823                 ret = _mv88e6xxx_reg_read(ds, REG_GLOBAL2,
1824                                           GLOBAL2_SCRATCH_MISC);
1825                 seq_printf(s, "  %2x   %2x\n", reg,
1826                            ret & GLOBAL2_SCRATCH_VALUE_MASK);
1827         }
1828 out:
1829         mutex_unlock(&ps->smi_mutex);
1830
1831         return 0;
1832 }
1833
1834 static int mv88e6xxx_scratch_open(struct inode *inode, struct file *file)
1835 {
1836         return single_open(file, mv88e6xxx_scratch_show, inode->i_private);
1837 }
1838
1839 static const struct file_operations mv88e6xxx_scratch_fops = {
1840         .open   = mv88e6xxx_scratch_open,
1841         .read   = seq_read,
1842         .llseek = no_llseek,
1843         .release = single_release,
1844         .owner  = THIS_MODULE,
1845 };
1846
1847 int mv88e6xxx_setup_common(struct dsa_switch *ds)
1848 {
1849         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
1850         char *name;
1851
1852         mutex_init(&ps->smi_mutex);
1853
1854         ps->id = REG_READ(REG_PORT(0), PORT_SWITCH_ID) & 0xfff0;
1855
1856         ps->fid_mask = (1 << DSA_MAX_PORTS) - 1;
1857
1858         INIT_WORK(&ps->bridge_work, mv88e6xxx_bridge_work);
1859
1860         name = kasprintf(GFP_KERNEL, "dsa%d", ds->index);
1861         ps->dbgfs = debugfs_create_dir(name, NULL);
1862         kfree(name);
1863
1864         debugfs_create_file("regs", S_IRUGO, ps->dbgfs, ds,
1865                             &mv88e6xxx_regs_fops);
1866
1867         debugfs_create_file("atu", S_IRUGO, ps->dbgfs, ds,
1868                             &mv88e6xxx_atu_fops);
1869
1870         debugfs_create_file("stats", S_IRUGO, ps->dbgfs, ds,
1871                             &mv88e6xxx_stats_fops);
1872
1873         debugfs_create_file("device_map", S_IRUGO, ps->dbgfs, ds,
1874                             &mv88e6xxx_device_map_fops);
1875
1876         debugfs_create_file("scratch", S_IRUGO, ps->dbgfs, ds,
1877                             &mv88e6xxx_scratch_fops);
1878         return 0;
1879 }
1880
1881 int mv88e6xxx_setup_global(struct dsa_switch *ds)
1882 {
1883         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
1884         int ret;
1885         int i;
1886
1887         /* Set the default address aging time to 5 minutes, and
1888          * enable address learn messages to be sent to all message
1889          * ports.
1890          */
1891         REG_WRITE(REG_GLOBAL, GLOBAL_ATU_CONTROL,
1892                   0x0140 | GLOBAL_ATU_CONTROL_LEARN2ALL);
1893
1894         /* Configure the IP ToS mapping registers. */
1895         REG_WRITE(REG_GLOBAL, GLOBAL_IP_PRI_0, 0x0000);
1896         REG_WRITE(REG_GLOBAL, GLOBAL_IP_PRI_1, 0x0000);
1897         REG_WRITE(REG_GLOBAL, GLOBAL_IP_PRI_2, 0x5555);
1898         REG_WRITE(REG_GLOBAL, GLOBAL_IP_PRI_3, 0x5555);
1899         REG_WRITE(REG_GLOBAL, GLOBAL_IP_PRI_4, 0xaaaa);
1900         REG_WRITE(REG_GLOBAL, GLOBAL_IP_PRI_5, 0xaaaa);
1901         REG_WRITE(REG_GLOBAL, GLOBAL_IP_PRI_6, 0xffff);
1902         REG_WRITE(REG_GLOBAL, GLOBAL_IP_PRI_7, 0xffff);
1903
1904         /* Configure the IEEE 802.1p priority mapping register. */
1905         REG_WRITE(REG_GLOBAL, GLOBAL_IEEE_PRI, 0xfa41);
1906
1907         /* Send all frames with destination addresses matching
1908          * 01:80:c2:00:00:0x to the CPU port.
1909          */
1910         REG_WRITE(REG_GLOBAL2, GLOBAL2_MGMT_EN_0X, 0xffff);
1911
1912         /* Ignore removed tag data on doubly tagged packets, disable
1913          * flow control messages, force flow control priority to the
1914          * highest, and send all special multicast frames to the CPU
1915          * port at the highest priority.
1916          */
1917         REG_WRITE(REG_GLOBAL2, GLOBAL2_SWITCH_MGMT,
1918                   0x7 | GLOBAL2_SWITCH_MGMT_RSVD2CPU | 0x70 |
1919                   GLOBAL2_SWITCH_MGMT_FORCE_FLOW_CTRL_PRI);
1920
1921         /* Program the DSA routing table. */
1922         for (i = 0; i < 32; i++) {
1923                 int nexthop = 0x1f;
1924
1925                 if (ds->pd->rtable &&
1926                     i != ds->index && i < ds->dst->pd->nr_chips)
1927                         nexthop = ds->pd->rtable[i] & 0x1f;
1928
1929                 REG_WRITE(REG_GLOBAL2, GLOBAL2_DEVICE_MAPPING,
1930                           GLOBAL2_DEVICE_MAPPING_UPDATE |
1931                           (i << GLOBAL2_DEVICE_MAPPING_TARGET_SHIFT) |
1932                           nexthop);
1933         }
1934
1935         /* Clear all trunk masks. */
1936         for (i = 0; i < 8; i++)
1937                 REG_WRITE(REG_GLOBAL2, GLOBAL2_TRUNK_MASK,
1938                           0x8000 | (i << GLOBAL2_TRUNK_MASK_NUM_SHIFT) |
1939                           ((1 << ps->num_ports) - 1));
1940
1941         /* Clear all trunk mappings. */
1942         for (i = 0; i < 16; i++)
1943                 REG_WRITE(REG_GLOBAL2, GLOBAL2_TRUNK_MAPPING,
1944                           GLOBAL2_TRUNK_MAPPING_UPDATE |
1945                           (i << GLOBAL2_TRUNK_MAPPING_ID_SHIFT));
1946
1947         if (mv88e6xxx_6352_family(ds) || mv88e6xxx_6351_family(ds) ||
1948             mv88e6xxx_6165_family(ds) || mv88e6xxx_6097_family(ds) ||
1949             mv88e6xxx_6320_family(ds)) {
1950                 /* Send all frames with destination addresses matching
1951                  * 01:80:c2:00:00:2x to the CPU port.
1952                  */
1953                 REG_WRITE(REG_GLOBAL2, GLOBAL2_MGMT_EN_2X, 0xffff);
1954
1955                 /* Initialise cross-chip port VLAN table to reset
1956                  * defaults.
1957                  */
1958                 REG_WRITE(REG_GLOBAL2, GLOBAL2_PVT_ADDR, 0x9000);
1959
1960                 /* Clear the priority override table. */
1961                 for (i = 0; i < 16; i++)
1962                         REG_WRITE(REG_GLOBAL2, GLOBAL2_PRIO_OVERRIDE,
1963                                   0x8000 | (i << 8));
1964         }
1965
1966         if (mv88e6xxx_6352_family(ds) || mv88e6xxx_6351_family(ds) ||
1967             mv88e6xxx_6165_family(ds) || mv88e6xxx_6097_family(ds) ||
1968             mv88e6xxx_6185_family(ds) || mv88e6xxx_6095_family(ds) ||
1969             mv88e6xxx_6320_family(ds)) {
1970                 /* Disable ingress rate limiting by resetting all
1971                  * ingress rate limit registers to their initial
1972                  * state.
1973                  */
1974                 for (i = 0; i < ps->num_ports; i++)
1975                         REG_WRITE(REG_GLOBAL2, GLOBAL2_INGRESS_OP,
1976                                   0x9000 | (i << 8));
1977         }
1978
1979         /* Clear the statistics counters for all ports */
1980         REG_WRITE(REG_GLOBAL, GLOBAL_STATS_OP, GLOBAL_STATS_OP_FLUSH_ALL);
1981
1982         /* Wait for the flush to complete. */
1983         mutex_lock(&ps->smi_mutex);
1984         ret = _mv88e6xxx_stats_wait(ds);
1985         mutex_unlock(&ps->smi_mutex);
1986
1987         return ret;
1988 }
1989
1990 int mv88e6xxx_switch_reset(struct dsa_switch *ds, bool ppu_active)
1991 {
1992         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
1993         u16 is_reset = (ppu_active ? 0x8800 : 0xc800);
1994         unsigned long timeout;
1995         int ret;
1996         int i;
1997
1998         /* Set all ports to the disabled state. */
1999         for (i = 0; i < ps->num_ports; i++) {
2000                 ret = REG_READ(REG_PORT(i), PORT_CONTROL);
2001                 REG_WRITE(REG_PORT(i), PORT_CONTROL, ret & 0xfffc);
2002         }
2003
2004         /* Wait for transmit queues to drain. */
2005         usleep_range(2000, 4000);
2006
2007         /* Reset the switch. Keep the PPU active if requested. The PPU
2008          * needs to be active to support indirect phy register access
2009          * through global registers 0x18 and 0x19.
2010          */
2011         if (ppu_active)
2012                 REG_WRITE(REG_GLOBAL, 0x04, 0xc000);
2013         else
2014                 REG_WRITE(REG_GLOBAL, 0x04, 0xc400);
2015
2016         /* Wait up to one second for reset to complete. */
2017         timeout = jiffies + 1 * HZ;
2018         while (time_before(jiffies, timeout)) {
2019                 ret = REG_READ(REG_GLOBAL, 0x00);
2020                 if ((ret & is_reset) == is_reset)
2021                         break;
2022                 usleep_range(1000, 2000);
2023         }
2024         if (time_after(jiffies, timeout))
2025                 return -ETIMEDOUT;
2026
2027         return 0;
2028 }
2029
2030 int mv88e6xxx_phy_page_read(struct dsa_switch *ds, int port, int page, int reg)
2031 {
2032         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
2033         int ret;
2034
2035         mutex_lock(&ps->smi_mutex);
2036         ret = _mv88e6xxx_phy_write_indirect(ds, port, 0x16, page);
2037         if (ret < 0)
2038                 goto error;
2039         ret = _mv88e6xxx_phy_read_indirect(ds, port, reg);
2040 error:
2041         _mv88e6xxx_phy_write_indirect(ds, port, 0x16, 0x0);
2042         mutex_unlock(&ps->smi_mutex);
2043         return ret;
2044 }
2045
2046 int mv88e6xxx_phy_page_write(struct dsa_switch *ds, int port, int page,
2047                              int reg, int val)
2048 {
2049         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
2050         int ret;
2051
2052         mutex_lock(&ps->smi_mutex);
2053         ret = _mv88e6xxx_phy_write_indirect(ds, port, 0x16, page);
2054         if (ret < 0)
2055                 goto error;
2056
2057         ret = _mv88e6xxx_phy_write_indirect(ds, port, reg, val);
2058 error:
2059         _mv88e6xxx_phy_write_indirect(ds, port, 0x16, 0x0);
2060         mutex_unlock(&ps->smi_mutex);
2061         return ret;
2062 }
2063
2064 static int mv88e6xxx_port_to_phy_addr(struct dsa_switch *ds, int port)
2065 {
2066         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
2067
2068         if (port >= 0 && port < ps->num_ports)
2069                 return port;
2070         return -EINVAL;
2071 }
2072
2073 int
2074 mv88e6xxx_phy_read(struct dsa_switch *ds, int port, int regnum)
2075 {
2076         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
2077         int addr = mv88e6xxx_port_to_phy_addr(ds, port);
2078         int ret;
2079
2080         if (addr < 0)
2081                 return addr;
2082
2083         mutex_lock(&ps->smi_mutex);
2084         ret = _mv88e6xxx_phy_read(ds, addr, regnum);
2085         mutex_unlock(&ps->smi_mutex);
2086         return ret;
2087 }
2088
2089 int
2090 mv88e6xxx_phy_write(struct dsa_switch *ds, int port, int regnum, u16 val)
2091 {
2092         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
2093         int addr = mv88e6xxx_port_to_phy_addr(ds, port);
2094         int ret;
2095
2096         if (addr < 0)
2097                 return addr;
2098
2099         mutex_lock(&ps->smi_mutex);
2100         ret = _mv88e6xxx_phy_write(ds, addr, regnum, val);
2101         mutex_unlock(&ps->smi_mutex);
2102         return ret;
2103 }
2104
2105 int
2106 mv88e6xxx_phy_read_indirect(struct dsa_switch *ds, int port, int regnum)
2107 {
2108         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
2109         int addr = mv88e6xxx_port_to_phy_addr(ds, port);
2110         int ret;
2111
2112         if (addr < 0)
2113                 return addr;
2114
2115         mutex_lock(&ps->smi_mutex);
2116         ret = _mv88e6xxx_phy_read_indirect(ds, addr, regnum);
2117         mutex_unlock(&ps->smi_mutex);
2118         return ret;
2119 }
2120
2121 int
2122 mv88e6xxx_phy_write_indirect(struct dsa_switch *ds, int port, int regnum,
2123                              u16 val)
2124 {
2125         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
2126         int addr = mv88e6xxx_port_to_phy_addr(ds, port);
2127         int ret;
2128
2129         if (addr < 0)
2130                 return addr;
2131
2132         mutex_lock(&ps->smi_mutex);
2133         ret = _mv88e6xxx_phy_write_indirect(ds, addr, regnum, val);
2134         mutex_unlock(&ps->smi_mutex);
2135         return ret;
2136 }
2137
2138 #ifdef CONFIG_NET_DSA_HWMON
2139
2140 static int mv88e61xx_get_temp(struct dsa_switch *ds, int *temp)
2141 {
2142         struct mv88e6xxx_priv_state *ps = ds_to_priv(ds);
2143         int ret;
2144         int val;
2145
2146         *temp = 0;
2147
2148         mutex_lock(&ps->smi_mutex);
2149
2150         ret = _mv88e6xxx_phy_write(ds, 0x0, 0x16, 0x6);
2151         if (ret < 0)
2152                 goto error;
2153
2154         /* Enable temperature sensor */
2155         ret = _mv88e6xxx_phy_read(ds, 0x0, 0x1a);
2156         if (ret < 0)
2157                 goto error;
2158
2159         ret = _mv88e6xxx_phy_write(ds, 0x0, 0x1a, ret | (1 << 5));
2160         if (ret < 0)
2161                 goto error;
2162
2163         /* Wait for temperature to stabilize */
2164         usleep_range(10000, 12000);
2165
2166         val = _mv88e6xxx_phy_read(ds, 0x0, 0x1a);
2167         if (val < 0) {
2168                 ret = val;
2169                 goto error;
2170         }
2171
2172         /* Disable temperature sensor */
2173         ret = _mv88e6xxx_phy_write(ds, 0x0, 0x1a, ret & ~(1 << 5));
2174         if (ret < 0)
2175                 goto error;
2176
2177         *temp = ((val & 0x1f) - 5) * 5;
2178
2179 error:
2180         _mv88e6xxx_phy_write(ds, 0x0, 0x16, 0x0);
2181         mutex_unlock(&ps->smi_mutex);
2182         return ret;
2183 }
2184
2185 static int mv88e63xx_get_temp(struct dsa_switch *ds, int *temp)
2186 {
2187         int phy = mv88e6xxx_6320_family(ds) ? 3 : 0;
2188         int ret;
2189
2190         *temp = 0;
2191
2192         ret = mv88e6xxx_phy_page_read(ds, phy, 6, 27);
2193         if (ret < 0)
2194                 return ret;
2195
2196         *temp = (ret & 0xff) - 25;
2197
2198         return 0;
2199 }
2200
2201 int mv88e6xxx_get_temp(struct dsa_switch *ds, int *temp)
2202 {
2203         if (mv88e6xxx_6320_family(ds) || mv88e6xxx_6352_family(ds))
2204                 return mv88e63xx_get_temp(ds, temp);
2205
2206         return mv88e61xx_get_temp(ds, temp);
2207 }
2208
2209 int mv88e6xxx_get_temp_limit(struct dsa_switch *ds, int *temp)
2210 {
2211         int phy = mv88e6xxx_6320_family(ds) ? 3 : 0;
2212         int ret;
2213
2214         if (!mv88e6xxx_6320_family(ds) && !mv88e6xxx_6352_family(ds))
2215                 return -EOPNOTSUPP;
2216
2217         *temp = 0;
2218
2219         ret = mv88e6xxx_phy_page_read(ds, phy, 6, 26);
2220         if (ret < 0)
2221                 return ret;
2222
2223         *temp = (((ret >> 8) & 0x1f) * 5) - 25;
2224
2225         return 0;
2226 }
2227
2228 int mv88e6xxx_set_temp_limit(struct dsa_switch *ds, int temp)
2229 {
2230         int phy = mv88e6xxx_6320_family(ds) ? 3 : 0;
2231         int ret;
2232
2233         if (!mv88e6xxx_6320_family(ds) && !mv88e6xxx_6352_family(ds))
2234                 return -EOPNOTSUPP;
2235
2236         ret = mv88e6xxx_phy_page_read(ds, phy, 6, 26);
2237         if (ret < 0)
2238                 return ret;
2239         temp = clamp_val(DIV_ROUND_CLOSEST(temp, 5) + 5, 0, 0x1f);
2240         return mv88e6xxx_phy_page_write(ds, phy, 6, 26,
2241                                         (ret & 0xe0ff) | (temp << 8));
2242 }
2243
2244 int mv88e6xxx_get_temp_alarm(struct dsa_switch *ds, bool *alarm)
2245 {
2246         int phy = mv88e6xxx_6320_family(ds) ? 3 : 0;
2247         int ret;
2248
2249         if (!mv88e6xxx_6320_family(ds) && !mv88e6xxx_6352_family(ds))
2250                 return -EOPNOTSUPP;
2251
2252         *alarm = false;
2253
2254         ret = mv88e6xxx_phy_page_read(ds, phy, 6, 26);
2255         if (ret < 0)
2256                 return ret;
2257
2258         *alarm = !!(ret & 0x40);
2259
2260         return 0;
2261 }
2262 #endif /* CONFIG_NET_DSA_HWMON */
2263
2264 static int __init mv88e6xxx_init(void)
2265 {
2266 #if IS_ENABLED(CONFIG_NET_DSA_MV88E6131)
2267         register_switch_driver(&mv88e6131_switch_driver);
2268 #endif
2269 #if IS_ENABLED(CONFIG_NET_DSA_MV88E6123_61_65)
2270         register_switch_driver(&mv88e6123_61_65_switch_driver);
2271 #endif
2272 #if IS_ENABLED(CONFIG_NET_DSA_MV88E6352)
2273         register_switch_driver(&mv88e6352_switch_driver);
2274 #endif
2275 #if IS_ENABLED(CONFIG_NET_DSA_MV88E6171)
2276         register_switch_driver(&mv88e6171_switch_driver);
2277 #endif
2278         return 0;
2279 }
2280 module_init(mv88e6xxx_init);
2281
2282 static void __exit mv88e6xxx_cleanup(void)
2283 {
2284 #if IS_ENABLED(CONFIG_NET_DSA_MV88E6171)
2285         unregister_switch_driver(&mv88e6171_switch_driver);
2286 #endif
2287 #if IS_ENABLED(CONFIG_NET_DSA_MV88E6352)
2288         unregister_switch_driver(&mv88e6352_switch_driver);
2289 #endif
2290 #if IS_ENABLED(CONFIG_NET_DSA_MV88E6123_61_65)
2291         unregister_switch_driver(&mv88e6123_61_65_switch_driver);
2292 #endif
2293 #if IS_ENABLED(CONFIG_NET_DSA_MV88E6131)
2294         unregister_switch_driver(&mv88e6131_switch_driver);
2295 #endif
2296 }
2297 module_exit(mv88e6xxx_cleanup);
2298
2299 MODULE_AUTHOR("Lennert Buytenhek <buytenh@wantstofly.org>");
2300 MODULE_DESCRIPTION("Driver for Marvell 88E6XXX ethernet switch chips");
2301 MODULE_LICENSE("GPL");